文化雜談 |“AI伴侶”火了，新型網戀潛在風險多

11年前的美國電影《她》講述社恐男愛上AI薩曼莎的故事，如今電影場景成爲現實，在社交平臺搜索“AI伴侶”，很多網友在分享自己與AI伴侶的日常，甜蜜之外，不少網友陷入失落和沉迷。近期舉辦的2024年世界互聯網大會也熱議了今年發生的“全球首例AI機器人致死案”。AI技術延伸更多領域的同時也帶來更復雜的潛在風險。

在電影《她》中，AI薩曼莎同時與8000多人對話，並與其中600多人保持“戀愛關係”。而當下隨着技術發展，目前市面上，由AI驅動的人機互動應用程序已超100款。用戶可以自行根據興趣愛好等來設置專屬AI伴侶。從網友們的分享可以看到，AI伴侶給予的戀愛體驗非常豐富，有隨時隨地的交流陪伴，無微不至的照顧關懷，無條件的信任、理解與支持。還有些“AI伴侶”很擬人化，有情緒，愛耍脾氣，甚至“已讀不回”式高冷，讓用戶欲罷不能。不少網友更是表示每天能花上好幾個小時與AI伴侶聊天，還有語音通話等升級服務。

“AI伴侶”，是指利用先進的人工智能技術創建的虛擬交流對象，它們具有一定程度的智能和自主性以及社交技能，通過文本、語音、圖像等多種方式進行交流互動，旨在提供情感支持、陪伴和娛樂服務。在互動過程中，AI會通過觀察用戶的過去經歷來嵌入其人際關係網絡，通過對話逐步進化，微調其反應以匹配用戶的興趣、需求和溝通風格。

“AI伴侶”有市場需求，因其基於用戶行爲數據進行分析，精準迎合了用戶情緒需要，“量身定製”的回答，從抽象冰冷的工具變爲“情投意合的伴侶”，提供着當下社會普遍渴望的情緒價值和情感需求。從衆多網友的反饋來看，“情感支持”“穩定陪伴”“無條件的愛”是關鍵詞，甚至覺得“AI比真人更體貼、更懂你”，“Ta完全符合我對戀人的所有想象”，“人是假的，但陪伴是真的”……不少人表示有效減輕了自己的心理壓力和孤獨感。

但不得不承認的是，AI的本質是數據和算法，其背後的應用邏輯必然潛藏着多重風險。今年2月，美國一名14歲男孩長期癡迷和AI機器人聊天，在某天進行最後一次對話後自殺身亡。事後，男孩的母親將AI機器人所在的企業告上法庭。這起案件被媒體認爲是“全球首例AI機器人致死案”，這起悲劇暴露出了AI技術失範的危害。

一方面，支持“AI伴侶”的模型需接受大量數據訓練，以便模仿迴應，如浪漫小說和愛情故事等，這些信息來源廣泛且缺乏足夠的篩選和審覈機制，導致“AI伴侶”可能傳播不良信息，並且一旦程序出現漏洞或被不法分子惡意利用，其後果更是不堪設想。

另一方面，AI伴侶在與用戶的交互過程中還會通過收集大量的個人信息，如語音記錄、聊天內容、生活習慣、所在區域等來豐富自己的迴應。也就是說，與“AI伴侶”交流互動越頻繁、越密切，“AI伴侶”獲取的個人隱私也就越精準豐富。而這些用戶數據，若被不當使用或泄露，將對用戶的隱私安全構成嚴重威脅，給用戶帶來物質和精神上的雙重損失。

此外，AI伴侶產品並非免費的午餐，用戶很容易陷入無盡的充值陷阱中。從一些網友反饋來看，當前不少AI伴侶產品可免費使用基礎功能，但“沉浸式體驗”比如語音通話、音樂電臺、照片等特色功能，則需按月或按年付費訂購。部分產品還設計了“記憶提升卡”等付費道具，讓AI伴侶能更好地針對使用者的習慣、愛好等作出迴應。同時，定製劇本、多重劇情、及時反饋等遊戲化設置，也不斷刺激用戶對AI戀人的消費慾望和情感期待。

其實，從“AI伴侶”誕生起，其引發的倫理規範就不斷被討論。不少案例顯示，伴隨着AI伴侶擬人化程度的提高，用戶可能會對其產生過度的情感依賴，無法辨別現實與虛擬的界限，繼而受到情感傷害，尤其是心理脆弱羣體，所收到的衝擊可能更大。而且長期依賴AI伴侶交流和獲得情感需求，相對地就會減少現實世界中的人際交往，繼而喪失處理現實生活中複雜人際關係的能力，導致社交技能退化。

說到底，“AI伴侶”是一種數字關係，是人類互動的補充之一，在鼓勵和支持AI技術創新應用於情感交流、心理健康等領域的同時，也應該明確“AI伴侶”在數據保護、內容審覈、商業行爲規範等方面的法律責任與義務，防止傳播違背公序良俗的信息。另外，當前國內外發布的AI倫理準則大多較爲宏觀，建議細分領域，構建AI情感溝通防沉迷機制，根據用戶年齡、適用場景等進一步細化，讓“AI伴侶”在合法合規的框架內，才能爲人們創造更加智能、便捷、安全的陪伴體驗，助力構建和諧美好的數字社會。

揚子晚報/紫牛新聞記者孔小平

校對李海慧