陶哲軒:AI 缺乏數(shù)學(xué)“嗅覺”，人類直覺仍不可或缺

　　著名數(shù)學(xué)家陶哲軒表示，盡管人工智能在許多領(lǐng)域展現(xiàn)出驚人能力，但在數(shù)學(xué)領(lǐng)域，它仍然缺乏一種關(guān)鍵的“嗅覺”——即辨別錯(cuò)誤方向和錯(cuò)誤證明的人類直覺。他認(rèn)為，這種直覺是人工智能目前無法復(fù)制的，也因此，人類在數(shù)學(xué)判斷中依然扮演著不可替代的角色。

　　陶哲軒指出，生成式人工智能在生成數(shù)學(xué)證明時(shí)，即使存在缺陷，表面上看起來也往往“完美無缺”。然而，這些錯(cuò)誤通常“非常微妙”，而且在發(fā)現(xiàn)時(shí)會(huì)顯得“非常愚蠢”，是人類在實(shí)際操作中不會(huì)犯的低級錯(cuò)誤。他將這種人類獨(dú)有的能力稱為“隱喻性的數(shù)學(xué)氣味”，它能在某件事情不對勁時(shí)立刻發(fā)出警告。陶哲軒強(qiáng)調(diào):“目前還不清楚如何讓人工智能最終復(fù)制這種能力。”

　　他進(jìn)一步解釋說，當(dāng)前人工智能，特別是生成模型，在采用錯(cuò)誤方法時(shí)往往會(huì)陷入困境。他認(rèn)為，人工智能目前真正難以解決的問題在于“它何時(shí)走錯(cuò)了方向”。這與將神經(jīng)網(wǎng)絡(luò)與符號推理相結(jié)合的混合人工智能系統(tǒng)有所不同。

　　盡管如此，陶哲軒也承認(rèn)，像 AlphaZero 這樣的系統(tǒng)在圍棋和國際象棋等領(lǐng)域已經(jīng)取得了顯著進(jìn)步。他認(rèn)為，這些系統(tǒng)在某種意義上已經(jīng)發(fā)展出了對棋局的“嗅覺”，能夠判斷某個(gè)局面是否對一方有利。雖然它們無法推斷出具體原因，但這種“嗅覺”足以讓它們制定策略。陶哲軒設(shè)想，如果人工智能能夠獲得這種感知某些證明策略可行性的能力，它就能在分解問題時(shí)給出建設(shè)性建議，例如:“嗯，這看起來不錯(cuò);這兩個(gè)任務(wù)看起來比你的主要任務(wù)簡單，而且它們?nèi)匀缓苡锌赡苁钦�確的。”

　　據(jù)悉，AlphaZero 在游戲和訓(xùn)練過程中通過蒙特卡洛樹搜索(MCTS)作為“符號框架”來選擇走法，將可能的游戲路徑探索為符號狀態(tài)。但其本質(zhì)上仍是由神經(jīng)網(wǎng)絡(luò)驅(qū)動(dòng)的深度強(qiáng)化學(xué)習(xí)系統(tǒng)，通過自我對弈并從數(shù)百萬個(gè)參數(shù)中學(xué)習(xí)。

　　一些研究人員認(rèn)為，將大型語言模型與符號推理的優(yōu)勢相結(jié)合，有望推動(dòng)人工智能在數(shù)學(xué)領(lǐng)域取得重大突破，因?yàn)榧兇獾?LLM(即使具有一定推理能力)也可能會(huì)在復(fù)雜的數(shù)學(xué)問題上走進(jìn)死胡同。陶哲軒此前曾將 OpenAI 的推理模型 o1描述為“平庸，但并非完全無能”，認(rèn)為它就像一個(gè)能夠處理日常任務(wù)的研究助理，但仍然缺乏創(chuàng)造力和靈活性。他還參與了 FrontierMath 基準(zhǔn)的開發(fā)，該基準(zhǔn)為人工智能系統(tǒng)設(shè)定了極具挑戰(zhàn)性的數(shù)學(xué)問題，以期推動(dòng)該領(lǐng)域的發(fā)展。