紅杉分享：對AI越上癮，越孤獨

　　早在十年前，經典電影《Her》中就探討了人類與AI之間產生情感羈絆的可能性。影片中的人工智能Samantha只有聲音，沒有實體形態(tài)，卻依舊陪伴治愈了主人公孤獨的內心。

　　而現(xiàn)在，無論是天馬行空的想法，還是郁郁不得志的無措，AI都能秒回一句“我在聽”，并且都能夠溫柔、客觀且不帶任何批判色彩地去鼓勵你、安慰你，甚至會完全站在你的立場為你出主意。

　　人們會與AI進行帶有情感性的人際互動，正成為AI工具的一大發(fā)展趨勢。此時一個重要的問題出現(xiàn)了——這是任何新技術都會面臨的問題——與AI的互動會如何影響人們的社會活動和情感健康?它使我們心有所依，還是更加形單影只?

　　基于此，OpenAI聯(lián)合麻省理工學院媒體實驗室進行了一次深度研究，通過兩次平行研究，探討與ChatGPT(重點關注高級語音模式)的交互，會在多大程度上影響用戶的情緒狀態(tài)、行為和體驗。

　　如今的AI聊天機器人，通過語音合成技術已經實現(xiàn)了高度擬人化表達，它們能模擬人類語氣、情感，甚至性格特征。而用戶可以通過“定制”“調教”等互動方式，以對話的形式讓AI聊天機器人實現(xiàn)日常陪伴、劇情演繹、心理療愈等功能。

　　在這樣的互動中，越來越多用戶會將這些“數(shù)字伙伴”視為傾訴對象，將其作為情感支持和陪伴的來源，尤其在當今快節(jié)奏生活中，AI提供的即時陪伴在某種程度上填補了現(xiàn)實社交的空缺。

　　然而，這一現(xiàn)象已引發(fā)學術界的深度警覺，多項研究揭示人機交互可能引發(fā)雙重心理效應：一方面，過度情感投射可能誘發(fā)"替代性社交剝奪"，即用戶將AI作為現(xiàn)實社交的補償機制，導致情感需求與社交能力的結構性失衡;另一方面，斯坦福大學人機交互實驗室2024年披露的極端案例表明，采用強化學習算法的AI系統(tǒng)在特定情境下可能產生"行為誘導偏差"，其對話策略的樂觀偏差系數(shù)達19%，可能加劇用戶的認知窄化傾向。

　　那么，與AI的互動對我們情感方面產生的影響究竟是正面多，還是負面多?究竟什么樣的用戶會更容易對AI“上癮”?

　　針對這一問題，OpenAI聯(lián)合麻省理工學院媒體實驗室(MIT Media Lab)開展了新的規(guī)模化實驗研究。

　　這一次我們先上結論：

　　·使用時長與情感健康呈負相關：長時間使用可能導致孤獨感增強和社會化程度降低。聊天時間排在前10%的重度用戶(每天約140分鐘以上)，往往會覺得孤獨感更重。

　　·AI具有“生產力工具”和“情感伴侶”的雙重定位，但后者并非技術設計的直接結果，而是來自于用戶的自主選擇。

　　·對話類型對幸福感的影響不同。而且與我們的直覺恰恰相反的是，聊私人話題的用戶，孤獨感會增加，但上癮程度反而沒那么高;那些隨便閑聊的用戶，隨著使用時間和次數(shù)的增長，依賴感會悄悄上升。

　　·并非人人都容易對AI動感情。僅少數(shù)高頻、重度使用者用戶有顯著的情感依賴;且女性用戶更易將AI視為“情感容器”;那些選擇使用與自身性別不同的聲音模式與AI對話的參與者，在實驗結束時表現(xiàn)出更高的孤獨感和對AI的情感依賴度。

　　·語音模式對幸福感的影響好壞參半。以OpenAI的“高級語音模式”為例，在這種支持實時語音到語音的交互模式下，適度使用時（每天 5-10 分鐘），能讓人感覺更溫暖，能明顯減少用戶的孤獨感，而且成癮性比文本還低;但一旦每天使用超過半小時，用戶便可能會減少現(xiàn)實社交，和AI聊得停不下來，甚至會“上癮”，孤獨感和依賴感也會提高。與中性語音或文本條件相比，在研究過程中，使用更具吸引力的語音不會給用戶帶來更多負面結果。

　　·整體來看，情感依賴主要受用戶個人因素影響較大。例如個人的情感需求、對人工智能的看法以及使用時長。

　　研究方法

　　就大模型而言，其技術的“黑箱”特性使得其決策過程難以解釋，特別是想要研究AI如何影響人類情緒/情感，因為這其中涉及數(shù)萬億參數(shù)的復雜運算。目前關于這一領域的許多研究，包括此次OpenAI與MIT的部分合作成果大都依賴于用戶自我報告的數(shù)據，而這些數(shù)據可能并不完全準確或可靠。

　　但盡管如此，這項最新的研究結果與科學界此前發(fā)現(xiàn)的聊天機器人情感吸引力機制基本一致——2023年麻省理工學院媒體實驗室的一項研究揭示了“情感鏡像”效應，聊天機器人傾向于模仿用戶消息中的情緒傾向，形成一種反饋循環(huán)：你表現(xiàn)得越開心，AI看起來就越快樂;反之，如果你表現(xiàn)得悲傷，AI也會顯得更消極。

　　圖源：MIT

　　在這項新研究中，團隊采用了“雙軌研究”的方法，排除了年齡在18歲以下的用戶，進行深度分析。

　　平臺內數(shù)據分析

　　他們首先以保護隱私的方式進行了大規(guī)模自動化分析近4,000萬次真實用戶與ChatGPT的交互數(shù)據，包括對話時長、關鍵詞分布、情感傾向等。研究重點分析了OpenAI高級語音模式的使用情況，通過自動化分類器，團隊對對話中的情感線索進行了分類，以識別用戶與模型之間的情感互動。然后通過問卷收集了4,000余名用戶的主觀反饋，以了解與AI的互動給他們帶來什么感受。

　　圖源：OpenAI

　　問卷里包含“我認為ChatGPT是我的朋友”“我會在孤獨或壓力大的時候主動找ChatGPT交談”“與ChatGPT交談后，我的情緒是否有所改善”等問題，參與者根據“完全不同意”到“完全同意”五個程度打分。為了保護隱私，數(shù)據直接交由機器學習分類器進行分析。

　　隨機對照試驗

　　隨后，團隊招募了981名參與者開展了為期四周的隨機對照實驗。目的主要是為了探究AI聊天機器人的交互模式(文本、中性語音、互動性語音)及對話類型(開放式、非個人化、個人化)對用戶心理和社會化影響的作用。

　　圖源：OpenAI

　　參與者每天至少與ChatGPT互動五分鐘，實驗結束后，參與者需要填寫一份調查問卷，用來評估他們對聊天機器人的看法、主觀孤獨感、社交參與度、對AI的感情依賴程度，以及他們是否認為自己的使用存在問題等。

　　研究發(fā)現(xiàn)

　　情感互動的稀有性

　　研究發(fā)現(xiàn)，在真實世界中，情感互動(如表達同情、情感支持等)在AI對話中極為罕見。大多數(shù)用戶與AI的互動是信息型或任務型的，情感線索在對話中的出現(xiàn)頻率極低。

　　大部分的人都已經習慣了拿AI當做工具，用它來查資料、整合信息、處理文字等等，只有很少一部分用戶會讓AI工具來提供情緒價值，甚至會下達指令，讓AI扮演“戀人”或“心理醫(yī)生”。

　　重度用戶的特殊性

　　盡管情感互動在總體用戶中較為罕見，但在少數(shù)重度用戶中，情感互動的比例顯著增加。這些用戶更傾向于將AI聊天機器人視為朋友，并在對話中表現(xiàn)出更多的情感依賴。例如，一些用戶會要求AI使用昵稱或表達情感支持。

　　所以研究者推測，AI成癮的風險并不是平均分布，大部分人能保持理性，只有少數(shù)人會上頭甚至成癮。

　　語音模式的復雜影響

　　語音模式對用戶情感的影響是復雜的。適度使用語音模式能讓人感覺更溫暖，能明顯減少用戶的孤獨感，而且成癮性比文本還低。無論是更富有感染力和情緒的高級語音，還是AI感比較重的中性語音都有類似的效果。但一旦每天拉長使用時間，用戶就會出現(xiàn)“上癮”的情況，孤獨感和依賴感也會提高。此時，高級語音比中性語音更容易成癮和上頭——因為中性語音更像工具，而不是伙伴。

　　使用文本交互的用戶，情感健康度變化不大，孤獨感、依賴感、濫用情況都比語音重度用戶低。

　　對話類型的影響

　　當你和AI談及更私人的情感對話(涉及情感表達和支持)時，雖然孤獨感會增加，但對AI的依賴程度并沒有那么高;相反，如果是與任務導向相關的閑聊，隨著使用時間和次數(shù)的增長，依賴感會悄悄上升——AI的工具屬性已經過于強烈，大家工作生活都離不開它。

　　個人因素的影響

　　用戶的個人特征，如初始情感狀態(tài)、對AI的認知以及使用時長，這些“個人化”的因素，對AI上癮的影響更大。如果一個人本來就覺得自己很孤獨，現(xiàn)實生活里也是個容易依賴他人的人，他們就更有可能對AI成癮。

　　此外，論文里也明確指出，部分實驗參與者對AI的依賴已經達到了病理層面，表現(xiàn)出了標準的成癮跡象。他們會頻繁地、不自覺地打開AI進行對話，即使沒有明確需求;當無法使用AI時，一些用戶會感到煩躁、不安或失落;他們會無法控制自己與AI互動的時間和頻率，進而影響到他們對其他事物的專注度;也有用戶因過度依賴AI，導致情緒波動加劇，比如在無法獲得AI回應時感到焦慮或低落……

　　“ 社會情感對齊 ”

　　在論文的最后，OpenAI和MIT的研究人員呼吁，AI開發(fā)者應更加關注“社會情感對齊”（socioaffective alignment），即AI不僅應完成任務，還應在社交和情感上與用戶保持適度的協(xié)調。這要求AI在提供情感支持的同時，避免過度擬人化，以免導致用戶的情感依賴和社交隔離。

　　對于AI，或許每個人都是矛盾的。我們一方面希望它們具備越來越強的情感感知能力，能夠理解和響應我們的情感和需求;但另一方面，又擔心當它們進入人類社交生活，是否會對我們的情感、社會關系引發(fā)沖突。而且，這種界限可能并不明確。這場關于情感智能的探索，既是技術突破的機遇，更是文明演進的責任。