Google Document Ai 为同一文件提供不同的输出

Question

我使用 Document OCR API 从 pdf 文件中提取文本，但其中一部分不准确。我发现原因可能是某些汉字的存在。

下面是一个虚构的例子，我将提取的文本错误的区域裁剪了一部分，并添加了一些汉字来重现问题。

当我使用website version时，无法获取汉字，但其余字符正确。

当我使用Python提取文本时，我可以正确获取中文字符但剩余的部分字符是错误的。

我得到的实际字符串。

网站和 API 中 Document AI 的版本是否不同？如何正确获取所有字符？

---

更新：

当我打印detected_languages（不知道为什么lines = page.lines，两行的detected_languages都是空列表，需要先更改为page.blocks或page.paragraphs）打印文本后，我得到以下输出。

代码：

from google.cloud import documentai_v1beta3 as documentai

project_id= 'secret-medium-xxxxxx'
location = 'us' # Format is 'us' or 'eu'
processor_id = 'abcdefg123456' #  Create processor in Cloud Console

opts = {}
if location == "eu":
    opts = {"api_endpoint": "eu-documentai.googleapis.com"}
client = documentai.DocumentProcessorServiceClient(client_options=opts)

def get_text(doc_element: dict, document: dict):
    """
    Document AI identifies form fields by their offsets
    in document text. This function converts offsets
    to text snippets.
    """
    response = ""
    # If a text segment spans several lines, it will
    # be stored in different text segments.
    for segment in doc_element.text_anchor.text_segments:
        start_index = (
            int(segment.start_index)
            if segment in doc_element.text_anchor.text_segments
            else 0
        )
        end_index = int(segment.end_index)
        response += document.text[start_index:end_index]
    return response

def get_lines_of_text(file_path: str, location: str = location, processor_id: str = processor_id, project_id: str = project_id):

    # You must set the api_endpoint if you use a location other than 'us', e.g.:
    # opts = {}
    # if location == "eu":
    #     opts = {"api_endpoint": "eu-documentai.googleapis.com"}

    # The full resource name of the processor, e.g.:
    # projects/project-id/locations/location/processor/processor-id
    # You must create new processors in the Cloud Console first
    name = f"projects/{project_id}/locations/{location}/processors/{processor_id}"

    # Read the file into memory
    with open(file_path, "rb") as image:
    image_content = image.read()

    document = {"content": image_content, "mime_type": "application/pdf"}

    # Configure the process request
    request = {"name": name, "raw_document": document}

    result = client.process_document(request=request)
    document = result.document

    document_pages = document.pages

    response_text = []
    # For a full list of Document object attributes, please reference this page: https://googleapis.dev/python/documentai/latest/_modules/google/cloud/documentai_v1beta3/types/document.html#Document

    # Read the text recognition output from the processor
    print("The document contains the following paragraphs:")
    for page in document_pages:
        lines = page.blocks
        for line in lines:
            block_text = get_text(line.layout, document)
            confidence = line.layout.confidence
            response_text.append((block_text[:-1] if block_text[-1:] == '\n' else block_text, confidence))
            print(f"Text: {block_text}")
            print("Detected Language", line.detected_languages)
    return response_text

if __name__ == '__main__':
    print(get_lines_of_text('/pdf path'))

语言代码好像不对，会影响结果吗？

Answer 1

发布此Community Wiki 以获得更好的visibility。

DocumentAI 的功能之一是OCR - Optical Character Recognition，它允许从各种文件中识别文本。

此场景中的 OP 使用 Try it 函数和 Client Libraries - Python 接收不同的输出。

为什么Try it 和Python library 之间存在差异？ 很难说，因为这两种方法都使用相同的 API documentai_v1beta3。这可能与pdf上传到Try it Demo时的一些文件修改、不同的端点、语言字母识别或一些随机的东西有关。

当您使用Python Client 时，您还可以获得文本识别的准确率百分比。下面是我睾丸的例子：

但是，OP 的标识大约是0,73，因此它可能会得到错误的结果，在这种情况下是一个明显的问题。我想它无论如何都无法使用代码进行改进。也许如果 PDF 的质量不同（在所示的 OP 示例中，有些点可能会影响识别）。