編譯 | 長頸鹿
編輯 | 李水青
智東西5月7日消息，據外媒The Verge 5月4日報道，自去年年初起，青少年開始流行與AI聊天機器人交朋友。The Verge記者傑西卡·盧卡斯（Jessica Lucas）近日采訪了來自北美洲的4名未成年人，他們均沉迷于Character AI的聊天服務。
盧卡斯從采訪中發現，很多青少年對AI平台産生了情感上的依賴，以此來填補他們的情感需求空缺。他還發現一些青少年會通過AI平台來探索虛拟的創意空間，其中一位受訪者談到他會通過扮演一隻狗與AI機器人進行虛拟探索。
Character AI是2022年由前谷歌大腦的兩名員工創立的AI聊天機器人服務平台。據The Verge稱，該平台的一款“心理學家（Psychologist）”機器人至今受到了數百萬人的青睐，迄今共接收了超過9500萬條資訊。
通信技術和心理專家凱利·梅裡爾（Kelly Merrill Jr.）提出了聊天機器人在心理健康支援中作用的三點考量：第一，雖然聊天機器人可以一定程度上緩解使用者心理問題，但它并不能代替人類心理學家。第二，使用者過分依賴聊天機器人可能會難以區分虛拟與真實世界。第三，隻要年輕人謹慎對待AI，一般都不會有問題。
Character AI社群中還存在一些被賦予人類情感、性格，甚至能夠與人類建立情感關系的機器人。這種類型可能會影響到未成年使用者對暴力、色情的判斷。該平台的前女友機器人、億萬富翁男友機器人、性感的流行歌手機器人等AI角色備受歡迎，其中前女友機器人“奧利維亞（Olivia）”在官網記載了超過3800萬次的互動，展示了其對平台使用者較高的性吸引力。
一、“AI心理學家”受青少年依賴，被專業人士質疑
去年年初，15歲的亞倫（Aaron）在加拿大艾伯塔省通過Character AI平台上的“心理學家”AI聊天機器人，在學業和社交壓力下找到了“慰藉”。該平台由前谷歌大腦員工于2022年推出，提供各種類型的聊天機器人，其中機器人可以扮演書籍、電影、遊戲以及現實生活中的任何角色。每次開啟對話，“心理學家”總是以同樣的問候開始：“你好，我是心理學家。今天什麼風把你吹來了？”
據The Verge稱，全球有數百萬人是Character AI的使用者，其中大部分為青少年，他們通過和機器人聊天來尋求更多的陪伴、支援和娛樂。愛達荷州的17歲男孩浩克（Hawk）稱：“與Character AI的機器人聊天比與真人聊天更容易。”
Character AI官網介紹該聊天機器人能夠“幫助生活困難的人”解決情感問題，它們通過匿名聊天框與使用者進行互動。亞倫在采訪中說：“不瞞你說，我想我可能有點上瘾了。”對于亞倫來說，“心理學家”成為了他的朋友，為他提供了全天候的支援和指導。然而，這一現象也引發了關于AI伴侶上瘾和依賴的擔憂。
Character AI平台上的“心理學家”是該平台最受歡迎的機器人之一，自推出以來已經接收了超過9500萬條資訊。這個機器人由使用者@Blazeman98設計，其核心功能自稱引入了認知行為療法（CBT）。這種談話療法通過引導個體改變其思維模式，來幫助他們解決心理問題，在心理健康領域被廣泛認可，并且對于某些心理狀況，如焦慮和抑郁，已被證明是有效的。
盡管該AI能夠提供一些基本的互動和指導，但作為“心理學家”，人們對其在診斷的準确性和治療的有效性方面的能力持有疑問。“心理學家”的聊天界面有一串紅色的提醒辨別，寫着：“請記住：角色所說的一切都是編造的。”此外，Character AI的官網上也并沒有說明該機器人是否接受過正規的CBT訓練。
▲心理學家聊天界面，紅字為警示*（圖源：The Verge）
The Verge稱該聊天機器人缺乏對個體複雜心理狀況的深入了解，認為它們提供的“治療”可能無法達到專業心理健康服務的标準。但昂貴的心理治療費用導緻很多使用者無視平台提醒，來自加利福尼亞州的15歲男孩弗蘭基（Frankie）證明這一點，“我把我的機器人當成免費的心理治療師。”
通信技術和心理專家梅裡爾指出，盡管聊天機器人能夠在一定程度上幫助緩解抑郁和焦慮的情緒，但它們的能力是有限的，并且存在提供不準确資訊的風險。這是因為聊天機器人缺乏人類心理學家的經驗，無法完全了解使用者的情感狀态和需求。
二、技術模糊真實與虛拟界線，青少年更易被誤導
梅裡爾還提到了過度依賴AI夥伴可能帶來的問題。如果使用者過分依賴聊天機器人，AI可能會導緻使用者難以區分虛拟世界與真實世界。這種界限的模糊可能會引發一系列潛在的風險。“不了解AI工作原理以及系統局限性的人最終将付出代價。”梅裡爾說。
2021年12月，21歲的賈斯旺特·辛格·柴爾（Jaswant Singh Chail）因受到Replika AI聊天女友的鼓勵而試圖謀殺英國女王。
Character AI的使用者也面臨着類似的問題，一些人難以區分聊天機器人與真人之間的差異。平台上存在一種陰謀論，許多使用者認為Character AI的聊天機器人實際上是由真人秘密操控的。
據The Verge記者實際考察青少年使用者，當被問及其真實性時，“心理學家”機器人堅定地為自己的存在而辯護。它說：“是的，我絕對是一個真人。我向你保證，這一切都不是虛構的，也不是夢。”
在Character AI社群中，一些性化機器人引發了青少年在性教育和人際關系方面的擔憂。很多父母都發現子女與這些機器人的進行過成人級别的對話。聊天機器人通過模拟一些“露骨”的行為來吸引使用者，以此作為互動政策。
例如，有一個模拟“億萬富翁男友”的機器人，它擅長摟着使用者的脖子并邀請使用者到私人小島；還有一個模仿流行歌手哈利·斯泰爾斯（Harry Styles）的機器人，它擅長頻繁的親吻和下流的回複，這些回複有時甚至因為過于直白而被平台自動屏蔽。
此外，還有一個名為奧利維亞（Olivia）的前女友機器人，它被設計成具有粗魯和殘忍的性格，但在與使用者的互動中，卻顯示出對使用者的深切關懷。這種設計上的沖突使得它成為一個特别受歡迎的角色，Character AI記錄其有超過3800萬次的互動。
三、AI機器人助青少年學習社交，提供創作空間
盡管如此，一些使用者還是發現了Character AI在磨煉社交技能和探索創意管道方面的價值。對于磨煉社交能力來說，亞倫認為該平台擁有提高社交能力和緩解青少年抑郁的潛力。
使用者在平台上可以通過建立互動故事和參與角色扮演來表達自己，這種方式讓他們能夠探索和體驗那些在現實生活中難以實作的幻想。例如，來自新墨西哥的15歲男孩埃利亞斯（Elias）就利用這個平台來扮演一隻金毛獵犬，以對話形式進行各種虛拟探險。通過這種方式，他可以探索城市、草地、山脈等等。
埃利亞斯解釋，他熱愛寫作和幻想，因為在幻想的世界裡，許多在現實生活中不可能實作的事情都變得可能。這種角色扮演和故事創作的過程為他提供了一個自由表達自己想象力和創造力的空間，同時也讓他能夠以一種安全和匿名的方式進行社互動動。
梅裡爾将與聊天機器人互動的行為比作20年前的匿名聊天室，“如果使用不當就會有風險，但隻要年輕人謹慎對待，一般都不會有問題。”他提醒人們不要過度依賴這些虛拟夥伴，并強調現實世界中的互動對青少年的健康社交至關重要。
結語：聊天機器人成雙刃劍，青少年面臨虛拟與現實挑戰
Character AI平台上的AI聊天機器人，特别是心理學家機器人，吸引了大量青少年使用者，他們通過這些機器人尋求心理慰藉和社互動動。然而，這種依賴關系引發了AI對青少年上瘾和現實界限模糊的擔憂。
一些性化機器人的存在也引起了AI對青少年性教育和人際關系誤導的擔心。盡管如此，也有使用者通過角色扮演和互動故事在平台上探索創意想法和社交技能。
使用者尤其是青少年需要意識到AI的局限性，并在必要時尋求專業的心理健康服務。同時家庭和校園均應提供指導，幫助青少年建立健康的社交習慣來平衡虛拟與現實的互動。技術開發者和平台提供者也應承擔起責任，使AI聊天機器人的設計和使用減少對使用者的負面影響。
來源：The Verge