首頁 > 資訊 > 數字化
加州大學伯克利分校推出MemGPT，解決大模型輸入限制
據 Arxiv 頁面顯示，大模型聊天工具的輸入和輸出限制一直影響著他們的能力發揮，為了解決這個問題，加州大學伯克利分校的研究者們推出了一款名為MemGPT 的大語言模型系統。
研究團隊通過借鑒傳統操作系統中的層次內存系統，提出虛擬上下文管理技術，通過在快速和慢速內存之間移動數據，提供大內存資源的外觀。
MemGPT 系統智能地管理不同的內存層次，以在 LLM 的有限上下文窗口內有效提供擴展上下文，并利用中斷來管理自身與用戶之間的控制流。
實驗顯示，MemGPT 在多會話聊天和文檔分析實驗中表現出良好的性能，有效克服了現有方法在有限上下文中性能的限制。
行業資訊、企業動態、業界觀點、峰會活動可發送郵件至news#citmt.cn（把#換成@）。
海報生成中...
分享到微博
一鍵復制
標題鏈接已成功復制
鄂公網安備 42112402000149號