合合信息CCIG2024分享：文檔解析技術為大模型閱讀理解“提分”

　　近日，2024中國圖象圖形大會在古都西安盛大開幕。本屆大會由中國圖象圖形學學會主辦，空軍軍醫大學、西安交通大學、西北工業大學承辦，通過二十多場論壇、百余項成果，集中展示了生成式人工智能、大模型、機器學習、類腦計算等多個圖像圖形領域的進展。

　　大模型技術正隨著科技革新實現廣泛應用，滿足多行業圖像處理需求。大會期間，由CSIG文檔圖像分析與識別專委會與上海合合信息科技股份有限公司(簡稱“合合信息”)聯合主辦了《大模型技術及其前沿應用》論壇，來自華南理工大學、上海交通大學、清華大學、復旦大學、上海人工智能實驗室、合合信息等高校、研究機構及企業的專家代表就大模型技術在圖像領域的發展、應用進行了深入研討。

　　圖說：行業關注者聆聽《大模型技術及其前沿應用》論壇分享

　　大模型一路“高歌猛進”的背后，隱藏著一場關于模型訓練語料的“能源危機”。根據人工智能研究人員小組Epoch研究估計，機器學習數據集可能會在2026年前耗盡所有“高質量語言數據”。現階段，大量的高質量語料數據存在于書籍、論文、研報、企業文檔等文檔之中，復雜的版面結構制約了大模型的訓練語料處理及大模型文檔問答的應用能力。文檔解析技術的進步，讓機器能夠識別文檔中的多種元素，更好地處理文本、表格、圖像等多類型數據，還原文檔閱讀順序，加速大模型訓練與應用。論壇上，合合信息智能創新事業部研發總監常揚分享了合合信息智能文檔處理技術在文檔解析領域的工作，給與會者帶來了新的技術視角。

　　“文檔解析的難點在于如何準確識別文檔中的各個元素，并理解其之間的邏輯關系，需要關注'物理版面分析'和'邏輯版面分析。' ”據常揚介紹，物理版面分析側重于視覺特征、文檔布局，主要任務是把相關性高的文字聚合到一個區域，比如一個段落，一個表格等等，并選用目標檢測任務進行建模，使用基于回歸的單階段檢測模型進行擬合，從而獲得文檔中各種各樣的布局方式;邏輯版面分析側重于對語義特征的分析，主要任務是把不同的文字塊根據語義建模，例如通過語義的層次關系，形成一個目錄樹結構。

　　文檔解析技術中文檔元素檢測、文字表格識別、文檔版面分析、閱讀順序還原等任務涉及對版面元素和版面整體布局的判斷，是文檔處理領域典型的技術難題。通過十幾年技術積淀，合合信息打通了電子檔解析、掃描檔圖像處理、文字識別、表格識別、版面分析、版面還原和排版布局等文檔智能化處理的全流程，面對電子文檔及掃描件，能夠靈活地識別文字、表格、無線表、跨頁表格、頁眉、頁腳、公式、圖像、流程圖等版面元素，準確地還原文檔閱讀順序，為大模型領域提供了精準的訓練語料與文檔問答應用體驗。

　　圖說：高校研究者、學生排隊體驗智能文檔處理技術

　　“我們研究過程中發現，真實世界的文檔有著極為豐富的布局類型，沒法單純地用單欄，雙欄、三欄等類別去定義。”常揚表示，近年來的開放詞匯目標檢測(OVD)，視覺語義對齊(Alignment)等工作，以及生成式模型等前沿進展，將給版面分析帶來新的研究思路，合合信息技術團隊也將持續在智能文檔處理領域深耕，讓新技術在行業中更快速地產生價值。