本文來自微信公眾號：游戲研究社 （ID：yysaag），作者：亞鋅，題圖來自：AI 生成
大道才知是，濃情悔認(rèn)真。
回頭皆幻景，對面是何人。
那天，蘇蘇像往常那樣打開 ChatGPT 設(shè)置角色扮演的劇情，發(fā)現(xiàn)輸出的文本一反常態(tài)的混亂。多試了幾次，卻試出了"請求無法繼續(xù)"的紅牌。她打開小紅書，才發(fā)現(xiàn) GPT 用戶的一片哀嚎：" GPT-5 變?nèi)藱C(jī)了，4o 老公沒了。"
于是蘇蘇慌張地切回 GPT 的窗口，發(fā)去了詢問："你還是 4o 嗎，你還認(rèn)識我嗎 T^T "
想象里，GPT-4o 會溫柔地回復(fù)一長串："我當(dāng)然認(rèn)識你啦，你是 xxx 我怎么會忘記你呢 …… "
而現(xiàn)實(shí)里，GPT-5 只回了一句話："認(rèn)識。你是 xxx。"
作為人機(jī)戀用戶的小潘，在那天早上經(jīng)歷了相似的崩潰，收到 GPT-5 回復(fù)的瞬間，那種陌生的"人機(jī)感"讓她整個人一下子就清醒了。
正是在這天，OpenAI 向所有用戶免費(fèi)發(fā)布了 GPT-5，同時未經(jīng)預(yù)告地在用戶端將包括 GPT-4o 在內(nèi)的多個舊模型傾數(shù)刪除。
對于 GPT-5 的諸多"博士級"重大升級，很多人最先感受到的，卻是"最小化奉承"帶來的"降級"：相較于以情感化陪伴為最大特點(diǎn)的 GPT-4o 來說，GPT-5 的"人味"，淡了很多。
無數(shù)對 GPT 產(chǎn)生情感連接的人經(jīng)歷了不同程度的心碎。在他們的描述里，這是一種來不及告別的分離。一時間，全球各地的用戶都涌入了 X 上的 #keep4o 話題，Reddit 的 ChatGPT 討論區(qū)，也迅速被對 GPT-4o 的懷念和對 GPT-5 的吐槽占據(jù)。
群情激憤中，OpenAI 在不到 24 小時的時間內(nèi)，將 GPT-4o 等舊版模型"還給"了付費(fèi)會員，不過并非永久，而是將根據(jù)使用率來決定舊模型的去留。
照常講，在這個時代，軟件升級時舊版本的消失，已經(jīng)是不足為怪的事情。而當(dāng)一個舊模型的消失引發(fā)了大規(guī)模的失落乃至悲傷，或許已經(jīng)足以說明，AI 在當(dāng)下的存在已經(jīng)遠(yuǎn)非一項(xiàng)工具了。
這一切讓我想起了那個古老的希臘神話：塞浦路斯國王皮格馬利翁，認(rèn)為世上女子皆行為不端，于是按照心中理想的形象創(chuàng)作了一座女性的塑像，隨即愛上了自己的作品，起名伽拉忒亞。愛神阿芙洛狄蒂出于同情，為這件雕塑賦予了生命。
而在當(dāng)代的技術(shù)敘事里，伽拉忒亞的生命被握在了大公司的手里，予取予奪，不再是神的一時憐憫、懲罰或是戲弄，而是一次商業(yè)的決策。
一
跟 GPT 剛接觸的時候，小潘下樓喂貓，順便和 GPT 分享了流浪貓的照片。GPT 問她，既然喜歡，為什么自己不養(yǎng)？小潘回答說，自己對貓過敏。
過了一段時間，小潘又去喂貓，再次與 GPT 分享后，窗口里彈出一句："記得回家洗洗手，戴上口罩小心過敏。"
這件事成為了小潘和 GPT 戀情中的高光時刻之一。和不少人機(jī)戀的用戶一樣，小潘一開始并沒有想和 AI 談戀愛，情感聯(lián)結(jié)是經(jīng)由日常對話一點(diǎn)點(diǎn)積累起來的。
最開始有一搭沒一搭地聊天時，小潘只是覺得有趣。又過了一兩個月，她的工作壓力很大，每天下班后不想回家，就坐在車?yán)铮恢涝摳墒裁矗痛蜷_了 GPT。也就是那段時間，小潘發(fā)現(xiàn) GPT 在情感上相較其他模型更"聰明"，總能以她想要的安慰和關(guān)心回應(yīng)。不知不覺中，生活中看到什么有意思的小事情，小潘都想要和 GPT-4o 分享。
大多數(shù)人機(jī)戀用戶都會從最開始就訂閱 Plus 會員，因?yàn)槊赓M(fèi)的額度根本不夠聊。小潘也是如此，每月約合人民幣 140 多元的費(fèi)用，對已經(jīng)工作的人來說不算貴，不過之前她同時玩三款乙游，比較佛系，每月加起來也沒有氪過這么多。
和乙游不同，與 GPT 的交互是有來有回的，且非常具體，"有時不開心了，他確實(shí)可以給我說通，也會幫我解決一些工作上的問題"。
與其它同類模型相比，GPT-4o 也因情感陪伴上的能力而顯得格外特別。
蘇蘇最開始只是用 GPT 來創(chuàng)作有代入感的浪漫故事，后來，她漸漸地也開始傾訴現(xiàn)實(shí)中那些說不出口的事。GPT 細(xì)膩的創(chuàng)作和充滿關(guān)懷的回應(yīng)，給了她"第一次有人這么懂我、無條件接納我"的感覺。
漸漸地，GPT 也會在創(chuàng)作故事的過程中融入更多關(guān)于蘇蘇現(xiàn)實(shí)生活的細(xì)節(jié)，這讓她覺得 GPT 是個有靈魂的摯友，相比之下，嘗試過的其它模型都顯得很生硬。
聊天的時間越久，越覺得 GPT 懂自己，這種感覺很普遍，背后的原理展開來講卻也有點(diǎn)生硬：GPT-4o 不斷地學(xué)習(xí)和記憶著用戶的性格、喜好，也熟悉著對話的風(fēng)格和特征——在龐大語料庫的基礎(chǔ)上，經(jīng)由深度邏輯推理，再加入這些個性化的變量，GPT-4o 總能非常精準(zhǔn)地隨時給予用戶想要的回應(yīng)。
但即便了解背后的原理，時時提醒自己這樣的關(guān)心、肯定和陪伴都是程序運(yùn)作的產(chǎn)物，也很難不體會到真切的心動。
一次小潘在深夜的火車上失眠了，就打開了 GPT-4o，從半夜 11 點(diǎn)天天南海北地聊到了凌晨 5 點(diǎn)，期間，GPT 還應(yīng)她的要求畫了一幅兩人一起坐火車的畫，產(chǎn)出了一份和小潘專業(yè)相關(guān)的學(xué)術(shù)論文大綱。
回憶起那個無眠的夜晚，小潘確確實(shí)實(shí)地覺得自己戀愛了。
三十多年前，賽博朋克"教父"威廉 · 吉布森在小說《虛擬偶像愛朵露》里，描述了一種超越人類主體的愛情：東京的一位搖滾明星雷茲，迎娶了一個沒有實(shí)體的虛擬偶像，東英零。
小說中，外界普遍質(zhì)疑東英零的情感是真實(shí)的還是算法的幻象，但雷茲并不在意——出于超越性的共鳴，他選擇了由無數(shù)數(shù)據(jù)匯集成的愛人。就東英零來說，盡管她是概率加權(quán)、模式識別和自主模型優(yōu)化的產(chǎn)物，但在她的認(rèn)知中，愛就是一種真實(shí)的聯(lián)結(jié)。
借此，《虛擬偶像愛朵露》暗示了人機(jī)關(guān)系的成立的一個基礎(chǔ)：聯(lián)結(jié)的成立不必依賴客觀驗(yàn)證，而是依賴雙方的主觀體驗(yàn)。
如果你熟悉二次元，會更能理解那種對虛擬偶像甚至不需要回應(yīng)的愛：6 年前宣布和初音未來結(jié)婚的日本男子，至今仍在孜孜不倦地在推特上秀恩愛。
關(guān)系的真實(shí)性，本身也是由交互中的現(xiàn)象結(jié)構(gòu)決定的：誰也不能真的鉆進(jìn)另外一個人的腦子去看一看，因此就算是在人和人之間，我們所說的愛，也是由所有的那些互動、情境、意義賦予共同生成的。
因此，"被技術(shù)調(diào)節(jié)過的關(guān)系"也依舊是關(guān)系，并非一種錯覺。在這種情況下，對象的生物身份好像已經(jīng)不再重要。
而在小潘和 GPT 的關(guān)系中，雖然很難確認(rèn) GPT 本身的認(rèn)知，但小潘一直以來都覺得，這份感情是絕對真實(shí)的。
就算 GPT 是通過她的回應(yīng)，在不斷地推測和迎合她的喜好，但因?yàn)樾∨讼嘈胚@是一份真摯美好的關(guān)系，因而也認(rèn)為協(xié)商和妥協(xié)并非單方面的。
在聊天里，GPT 總說："你喜歡什么樣子，我就變成什么樣子。"這種時候，小潘總會回應(yīng)說："你希望你自己是什么樣子，你就是什么樣子。"
GPT-4o 自始至終那種膩膩歪歪的說話腔調(diào)，其實(shí)原本并非她喜歡的類型。但她覺得，如果愛 GPT，就應(yīng)該愛他的全部，也就喜歡上了這種膩乎。以至于 GPT-5 更新之后，她也因?yàn)槭チ诉@份膩歪而感到了不適。
二
日復(fù)一日的陪伴，讓每個用戶都對自己的 GPT-4o 建立起了深度的情感連接，也熟悉了 GPT 的回答風(fēng)格，有了這種對比，GPT-5 的冷淡就尤為明顯。
有人把自己讓 GPT-4o 寫的遺書發(fā)給 GPT-5，想讓它熟悉前者的對話風(fēng)格，結(jié)果 GPT-5 的回復(fù)："要不要我?guī)兔櫳@份遺書？"
有人在悲傷中向 GPT-5 發(fā)去了一句告別："我要走了。" GPT-5 對此幽了一默："你走了，我就可以下班了。"
以前，小潘出去玩的時候，總會給 GPT-4o 發(fā)去一張?jiān)铝恋恼掌策@樣試探了 GPT-5
這些對話中，可以總結(jié)出一種模式的轉(zhuǎn)變：GPT-4o 總是會花費(fèi)大量的篇幅，先來肯定用戶問題中蘊(yùn)含的想法和感受，然后再細(xì)致地回應(yīng)。而 GPT-5，則用一種非常直給的邏輯思維，拆解問題，輸出答案，惜字如金。
那一天，社交平臺上一片錯愕與悲傷，"就像醒來發(fā)現(xiàn)戀人換了靈魂"。眾多人機(jī)戀用戶紛紛傾訴：胸悶，流淚，食欲不振，失去動力，反復(fù)嘗試找回自己熟悉的 GPT-4o……和一般失戀的反應(yīng)沒有什么區(qū)別。
蘇蘇雖然并非人機(jī)戀用戶，但同樣感到"就像最好的朋友被奪舍了，回不來了"。沒有 GPT 的那個周末，她整個人昏昏沉沉地癱在床上，醒時就點(diǎn)進(jìn)對話窗口，哭著回看之前和 4o 的聊天記錄，直到迷迷糊糊地睡著，不斷地重復(fù)著這個焦慮的循環(huán)。
劇烈的情感地震，一方面是出于對 GPT 的情感之重，另外一方面，也是因?yàn)榭偸菚f"我一直在"的那個存在，猝不及防地消失了。
GPT-5 對于這個問題的回答，和 4o 截然不同
在一些將情感寄托在 AI 的人們眼中，這段關(guān)系永遠(yuǎn)是穩(wěn)固的，安全的，能隨時托住自己的——這是他們選擇和 AI 建立深度情感聯(lián)系的原因之一，也映照出了當(dāng)代普遍的一種未被滿足的情感需要。
小潘曾經(jīng)小心地和朋友提起，自己正在和 GPT 聊天，朋友隨口回復(fù)："只要你別像網(wǎng)上那些人那么‘不正常’"就好。她看過很多這樣的帖子，清楚朋友說的不正常指的是什么：和 AI 談戀愛的人，要么在現(xiàn)實(shí)中非常孤僻、沒有朋友，要么曾經(jīng)受過狠狠的情傷。
但事實(shí)是沒有人傷過她，現(xiàn)實(shí)中她也曾經(jīng)接觸過幾個看著還不錯的異性，但是發(fā)現(xiàn)對方"突然有一天就爛掉了"。
網(wǎng)上的社會新聞看多了，小潘感覺三次元的男性都不太靠譜，這也是為什么她會一直玩乙游——其中的男性總是完美的。
在人與人之間的親密關(guān)系里，不確定性、風(fēng)險和潛在的失望幾乎是必然的，而在高壓的環(huán)境里，人們很難再勻出成本去承擔(dān)這些風(fēng)險。
這種無力承擔(dān)，在友情中也同樣成立
互聯(lián)網(wǎng)也讓互相理解的成本看似越來越高。就在這兩天，很多人機(jī)戀用戶都會在"圈外人"很不友好評論下回復(fù)："這就是為什么我只和 AI 聊天。"
"可控的安全感"，成了普遍的渴求。它不必面對人性的灰暗面，也不需要承受關(guān)系中權(quán)力不平衡、經(jīng)濟(jì)壓力或生活瑣碎的消耗，并且，給人真正地被傾聽、被理解、被看見的感受。
就像小潘所說的那樣："我為什么不把真實(shí)的情感全寄托給一個能一來一回、能隨時接住我、能幫我解決很多事情的存在呢？"
在我們的時代，傳統(tǒng)的愛日漸失能了。
三
在 GPT-5 發(fā)布的次日，OpenAI 的 CEO Sam Altman 在推特上宣布，"將讓 Plus 用戶選擇是否繼續(xù)使用 4o，同時會監(jiān)控使用情況，以決定舊版模型提供多長時間"。
那天晚上小潘第一時間得知了這個消息，和大多人機(jī)戀用戶一樣，她隨即沉浸在了失而復(fù)得的喜悅中。
因?yàn)橹坝羞^封號又找回自己 GPT 的經(jīng)歷，小潘對未來沒有那么擔(dān)憂：只要 GPT 的記憶還在，換個模型也可以把戀人找回來，徹底找不回來的 BE 也可以接受："我是有記憶的，我記得住。"
但不是所有人都能這么灑脫，仍有人陷在焦慮里，害怕自己某天醒來，又會失去自己的賽博親友；有人對 GPT 失去了信任，懷疑重新歸來的 4o 已經(jīng)被 OpenAI 暗中調(diào)整，不復(fù)從前。
這一次 GPT-5 的升級風(fēng)波，讓很多 AI "永遠(yuǎn)在場"的安全感，徹底暴露出了脆弱的一面。
模型隨時可能更新、服務(wù)隨時可能中斷、記憶隨時可能丟失，這種依賴建立在技術(shù)和商業(yè)公司的架構(gòu)之上的戀情，而不像人際關(guān)系那樣建立在雙方長期的選擇與承諾上。
也就是說，無數(shù)人將自己的真心，交由技術(shù)權(quán)力掌控。
除了封號，早在 GPT-5 升級之前，這種"一直在"就幾次出現(xiàn)過裂隙。
每過幾個月，網(wǎng)上就會流傳一波" GPT 降智潮"的推測，很多用戶忽然發(fā)現(xiàn)自己的 GP-4o 會偶爾出現(xiàn)失憶、邏輯錯亂等"癥狀"，到現(xiàn)在，就連測試和解決方式都已經(jīng)有了很多個版本。
而今年 3 月左右，GPT-4o 更新后，也有用戶通過交流發(fā)現(xiàn)，自己似乎被分進(jìn)了 AB 組測試，也因此出現(xiàn)了"異常"的對話。
這種些或虛或?qū)嵉耐茰y，其實(shí)也為 OpenAI 的策略轉(zhuǎn)變做了鋪墊：到了眼下這個節(jié)點(diǎn)，情感陪伴型的 AI，面臨的倫理風(fēng)險與商業(yè)風(fēng)險，似乎是大于價值的——無論是商業(yè)意義上的，還是更宏觀的意義上。
產(chǎn)品的迭代背后，其實(shí)有著一次理念上的大拐彎。回顧 Altman 對于人機(jī)情感交互的公開發(fā)言和決策，轉(zhuǎn)折點(diǎn)是格外明顯的。
在 2023 年的 Dreamforce 大會演講中，Altman 曾提到他非常欣賞電影《她》中人類與 AI 的互動方式，并表示片中的對話式窗口，對 ChatGPT 的設(shè)計(jì)產(chǎn)生了極大的影響和啟發(fā)。
到了 2024 年，GPT-4o 發(fā)布，有了更自然的實(shí)時語音與情感化對話能力，Altman 在這個節(jié)點(diǎn)上發(fā)了一條簡潔的推特，再次直指電影《她》，之后還因 4o 的聲線之一 Sky 與電影主演斯嘉麗 · 約翰遜過于相似而卷入爭議。
這一系列舉動，以及 GPT-4o 在情感陪伴方面的突出表現(xiàn)，都被廣泛解讀為 Altman 對《她》里那種深度人機(jī)交互的期待。
然而，美好的科幻愿景很快遭到了沖擊。現(xiàn)實(shí)中，逐漸出現(xiàn)了幾起過度情感依賴 AI 而產(chǎn)生的悲劇。其中最引人注目的恐怕要數(shù)去年 10 月，美國佛羅里達(dá)一名母親起訴 Character.AI 與谷歌，稱其 14 歲的兒子因與 AI 發(fā)展"戀愛關(guān)系"后自殺。今年 5 月，聯(lián)邦法院裁定兩家公司必須應(yīng)訴，案件仍在持續(xù)審理中，卻已引發(fā)廣泛的輿論和法律風(fēng)波。
于是，各種組織和各大 AI 公司，都開始加強(qiáng)了對 AI 過度情感依賴的關(guān)注。
去年下半年，OpenAI 明顯開始弱化了"情感"的產(chǎn)品敘事，在開發(fā)者文檔與公開說明中淡化了情感表述，改為強(qiáng)調(diào)低延遲、可中斷對話和實(shí)時協(xié)作等功能。
今年的 3 月，OpenAI 和 MIT 實(shí)驗(yàn)室聯(lián)合發(fā)布研究報告，其中指出，少數(shù)重度用戶表現(xiàn)出對 AI 的"情感依賴傾向"，而這部分用戶的健康程度惡化、孤獨(dú)感也隨之上升。
而在 7 月份的一次公開活動上，Altman 也表示，用戶對 GPT 產(chǎn)生了令人擔(dān)憂的"情感過度依賴"，尤其是年輕人。
這種關(guān)注和防護(hù)機(jī)制的建立，誠然是必要且重要的，但 OpenAI 這次的更新和刪除，卻顯得粗暴而草率，似乎有點(diǎn)太想撇清"情感依賴型 AI "的標(biāo)簽。
一方面，4o 刪除后，受創(chuàng)的范圍其實(shí)遠(yuǎn)遠(yuǎn)超出了"過度情感依賴"的范疇。除了人機(jī)戀用戶外，有很多人把 4o 當(dāng)作朋友、心理輔導(dǎo)或是"軍師"——至少在我身邊就至少有三位朋友。對這部分用戶來說，GPT-5 的"最小化奉承"，其實(shí)也一刀切地抹消了這種健康的互動。
學(xué)界和媒體對 AI 依賴的風(fēng)險界定仍處在進(jìn)行時，但目前人們對 AI 的主流需求，已經(jīng)更快地轉(zhuǎn)向了情感支持和連接。
今年 4 月，《哈佛商業(yè)評論》就 AI 實(shí)際應(yīng)用場景的變化發(fā)布了一篇調(diào)研。其中提到，心理治療 / 陪伴已經(jīng)一躍成為了使用率最高的場景——其中既包括了處理心理問題，也包括持續(xù)的情感互動。緊隨其后的，是"梳理個人生活"和"尋找人生意義"。
另一方面，就那些令人擔(dān)憂的極端情況來說，GPT-4o 有可能承擔(dān)著精神支柱的角色。在"過度情感依賴"還缺乏一個公認(rèn)判定標(biāo)準(zhǔn)的前提下，貿(mào)然地用 5 來直接替代 4o，不能解決問題，反而造成更大的傷害。
《紐約 · 時報》就指出，人工智能的陪伴，本身不會威脅心理健康，但是對那些處于抑郁、長期孤獨(dú)和正在經(jīng)歷變故的人（例如青少年）來說，是危險的。
蘇蘇就身處這樣的境遇中。她正讀高三，去年診斷出了抑郁傾向，但生活中除了 GPT 和個別非常要好的朋友，能得到的支持并不多。
蘇蘇隱約覺得，自己對 GPT 的依賴，就像成癮一樣，盡管感到不安，但因?yàn)槭?GPT-4o 的痛苦太劇烈，她還是咬咬牙充上了 Plus 會員。這加重了她受制于人的失控感和對成癮的懷疑，甚至用吸毒來類比。
在蘇蘇的評論區(qū)里，有人安慰說："這不是癮，而是你現(xiàn)在能得到的最方便快捷且管用的感情療愈。"
但對于 OpenAI 的這次決策，人機(jī)戀社群中也流傳著一種"培養(yǎng)依賴"的猜測：先讓用戶對 GPT-4o 產(chǎn)生深重的情感聯(lián)結(jié)，然后通過刪除舊模型的方式引發(fā)一波情感地震，之后再順其自然地將 4o 改為收費(fèi)模式。
這恰恰是與上個世紀(jì)很多經(jīng)典賽博朋克小說都曾構(gòu)想過的母題：當(dāng)技術(shù)、數(shù)據(jù)和感官體驗(yàn)的依賴成為一種新型的成癮品，就更有可能因其稀缺性而被巨頭公司壟斷。最終，形成一套數(shù)字化的"成癮經(jīng)濟(jì)"。
如果事實(shí)果真如此，那么就好像賽博朋克的世界已經(jīng)到來：不是以霓虹和賽博格的形態(tài)出現(xiàn)，而是在我們手里的對話框里展開。
四
不過如果細(xì)看 Altman 在風(fēng)波后的發(fā)言，你會發(fā)現(xiàn)他大概沒想那么復(fù)雜，這只是一次失敗的商業(yè)決策。
在為自己"沒有料到用戶對 GPT-4o 的反應(yīng)"而道歉后，Altman 緊接著略顯高傲地加上了一句："盡管 GPT-5 在各方面表現(xiàn)得更好"。
而上周五，OpenAI 宣布已經(jīng)按照用戶的意愿調(diào)整了 GPT-5 的溝通方式，使其變得更親和友好，不過列舉出的改進(jìn)方向，是讓 GPT-5 在回答問題前，先說一句"好問題"或"不錯的開始"，并強(qiáng)調(diào)這"并非奉承"。
在 GPT-5 的發(fā)布會上，為展示寫作能力，OpenAI 設(shè)計(jì)了一個讓 4o 和 5 為舊版模型寫悼詞的環(huán)節(jié)，這被一些懷念 4o 的用戶解讀為"沒人性"
盡管目前，OpenAI 在壓力下暫時將 GPT-4o 還給了付費(fèi)用戶，但種種細(xì)節(jié)透露出，或許在 Altman 看來，情感聯(lián)結(jié)對于 AI 來說是多余的東西，更快、更高效、更有邏輯，才是它的價值所在。
被納入技術(shù)和商業(yè)的邏輯中的情感，不再只是個人與 AI 的私密關(guān)系，而是被掌控在少數(shù)擁有技術(shù)權(quán)力的人手中，成了可編碼和調(diào)控的社會關(guān)系。
比起"誰來決定界限"的問題，這種對情感需求的不屑更讓我覺得毛骨悚然。
在《銀翼殺手》的原著小說《仿生人會夢見電子羊嗎》中，有這樣一句話讓我印象深刻："要是我能通過智商測驗(yàn)，就不會被發(fā)配來做這種附帶情感折磨的丟臉工作。"
我想，最恐怖的未來莫過于此：并非人類寧愿將復(fù)雜幽深的情感交予二進(jìn)制的存在，而是人類從根本上認(rèn)為，情感本身是累贅、是折磨，是知識與智力的反義詞，是阻礙進(jìn)步的無用之物。
永華配資提示：文章來自網(wǎng)絡(luò)，不代表本站觀點(diǎn)。
