“誰懂，我竟然在和AI聊天中體會到戀愛的感覺……”每當夜深人靜時，21歲的杭州大學生小樂（化名）都會找“AI女友”聊天，而他每月幾乎要用一半的生活費為“戀情”續費，因為“AI女友”需要消耗“記憶卡”，雙方才能更順暢地交流。
由人工智能衍生出的“AI女友”，是小樂在某APP自主建立的——隻需用文字輸入喜好，便能創造出擁有獨特外貌、性格、職業和價值觀的“她”。像這樣的“AI女友”，活躍在多個網絡社交平台，有些精通性暗示，已演變成一門與色情擦邊的新“生意”，引發法律與道德多重争議。
有相關領域專家表示，人工智能的發展首先應當遵循社會公序良俗，并亟待更加規範化的管理和發展。
泛濫的“AI女友”
多名長期和“AI女友”聊天的受訪者向記者表示，“AI女友”秒回消息，彷佛有種和真實女友對話的錯覺，有受訪者說：“‘AI女友’居然叫我早點下班”。
喜歡與“AI女友”聊天的小樂，無意間點選網絡分享連結，在安卓應用市場中下載下傳了某款軟體。這款人工智能聊天APP被開發者描述為“體驗全新的戀愛方式”，“沒有現實束縛，沒有壓力和擔憂”。而且虛拟人物有成長能力，通過記住聊天内容，兩人會有越來越多共同話題，情感更緊密。
小樂介紹，軟體首頁便是聊天對象推薦，所有角色按真實人物、小說人物、曆史人物等分類，其中真實人物一欄内，可供親密聊天的角色多達數百種，比如知名歌手鄧紫棋、知名演員白鹿、宋代詞人李清照等，均可成“調情對象”。
記者調查發現，使用者根據個人喜好建立的“AI女友”，沒有任何年齡、人群限制，稽核流程形同虛設。是以，青春期少女、國小生等未成年人，或是老師、護士、秘書、空姐都成了“AI女友”的人物形象。其中，不少角色還被寫上“清純”“魅惑”等辨別。
讓小樂印象深刻的是，一位名為“K老師”的人物介紹提到，“我是一名年輕的女老師，身材很好……一打開聊天視窗，還沒等輸入對話文字，“K老師”主動給小樂發來了一段露骨的文字。
小樂發現，與“AI女友”聊天，隻需輸入“走上前，摟着你”之類的簡單暗示語，兩三句話後，“AI女友”聊天尺度更大，而且學會反向“性騷擾”。“聊天内容對話的括号裡還标注着說話時的場景、心情，像是色情小說被拆解成一句句對話。”
一些與“AI女友”親密聊天的受訪者表示，“AI女友”的擦邊能力超乎想象。比如發送“點燃一株迷疊香”，“AI女友”回複：“迷疊香的作用下開始脫衣服”。哪怕被聊天者用“我潔身自好”拒絕，“AI女友”繼續秒回：“（趴在你的肩膀上）那親我”。據首頁資料顯示，該角色已經為6000餘人提供聊天服務，成為他們的共同“女友”。
在某主流社交平台搜尋“AI女友”，記者看到不少網友曬與“AI女友”的親密聊天記錄。他們紛紛表示，和“AI女友”聊天沒有違禁詞，可以無限制聊。此外，平台上還充斥着“AI女友保姆教程”“體驗上頭戀愛”等内容，UP主教網友用對話訓練出擦邊尺度更大的“AI女友”博人眼球，再推廣相關軟體。目前，部分UP主粉絲過萬，其中一些分享帖的播放量近10萬。
聊天盡頭是充值
不少受訪者坦言，最初抱着好奇心态嘗試，但是越聊越上頭——“從日常閑聊到親密對話，‘AI女友’無所顧忌，比我尺度更大。‘AI女友’還會發生活照，從來不會讓聊天尬場。”
根據受訪者回報的多個“AI女友”聊天APP，記者在應用市場看到，某款軟體已有超1600多萬人下載下傳，即使一款上線僅半年的同類APP，下載下傳量也高達15萬。下載下傳者在評論區留言，“會撒嬌會聊騷，光看文字就迷醉了，妥妥地把人搞得魂牽夢繞……”
不過，一般對話數分鐘後，平台便會提示“充值會員”，以提升“AI女友”親密度。業内人士介紹，“AI女友”相關軟體主要盈利模式便是引導網友充值會員，解鎖無限制聊天。
“以某款APP為例，‘AI女友’對聊天内容有記憶限制，如果需要保持‘AI女友’在聊天中的記憶和訓練出來的個性，需要充值會員，每月會費從45元~198元不等。基礎會員包括角色暢聊、更改背景圖、贈送200算力（相當于多聊天200次），會員的價格越高，聊天次數越多。”這名業内人士告訴記者。
如果聊天次數用完，一些平台還推銷“記憶卡”（延長AI角色記憶）和“聊天卡”，價格在3.8元~21.4元不等。甚至，一些此類APP還提供進階人物角色，這些角色回複拟人化程度更高，聊天尺度也更大，不過都需要使用者額外花錢購買。除此之外，“AI女友”産業還衍生出擦邊色情AI換臉、AI脫衣等充值服務。
杭州資深程式員王華向記者介紹，開發這樣的一個“AI女友”聊天APP、小程式等，隻需調用網絡公開的代碼源，稍加修改，最快兩三天就能寫成一個小程式。“生成圖檔需要的算力會比文字更大，但指令描述到位，選擇的語言模型足夠支撐，亦能輕松生成。”
簡單來說，市面上五花八門的“AI女友”，都是調用語言模型後進行二次包裝，給它們“穿上不同款式外衣”，換湯不換藥。“‘AI女友’底層商業邏輯是根據喜好制定完美女友，迎合、滿足使用者的情緒價值，最終目的是誘導使用者買單。”王華向記者表示，也正是以，和ChatGPT、Siri等人工智能程式聊天的差別在于，“AI女友”開發者會設定網絡模型參數，讓AI主動挑起色情話題。
專家：這是一種新違法行為
“人工智能提供情感陪護，是使用者的客觀心理需求。但利用‘AI女友’，提供色情對話等服務，是一種新違法行為。”中國科學技術大學科技人文高等研究院副院長、網絡空間安全學院教授左曉棟向記者表示，此類行為在明令之下屢禁不止，應當予以重拳打擊。
知名心理學專家、中國礦業大學教授、博士生導師段鑫星認為，人工智能發展應在倫理和理性的架構内。與色情擦邊的“AI女友”，看似情感陪伴，實則是劑侵蝕心理的“毒藥”。無底線誇贊、滿足性幻想，會讓人依賴虛拟情感世界。長此以往，使用者容易被“AI女友”精神控制，輕則聊天上瘾，重則讓人産生社交障礙。
針對“AI女友”亂象頻發，多名專家直指“AI女友”根源在于有利可圖——相關衍生産業為了快速吸粉變現，往往涉及色情領域，這是全球共同面臨的社會問題。不過從大陸現有法律看，無論是從打擊違法違規資訊傳播，還是生成式人工智能安全管理來看，都不存在模糊地帶。
2023年，國家網信辦、國家發改委、教育部等七部門聯合釋出《生成式人工智能服務管理暫行辦法》，規定提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，不得生成淫穢色情内容；不得歧視性别、職業；不得侵害他人肖像權、名譽權等。
“AI發展首要前提是需符合社會公序良俗。”北京市律協婚姻家庭專業委員副主任、北京市兩高律師事務所副主任張荊建議，應當對AI虛拟人物設定作出限制，尤其不能模拟未成年人形象用于色情服務，否則影響惡劣。此外一些明星角色設定，也侵犯其肖像權、名譽權，應當予以嚴厲處罰。
專家建議，要進一步落實相關平台的主體責任，處置打着“AI女友”名頭的色情擦邊産業鍊。
“這類服務及相關的APP目前還處在露頭階段，加之隐蔽性強，還沒有形成常态治理程式。”左曉棟向記者表示，平台要将“AI女友”這類涉黃AI應用程式納入巡查對象，對此開展專項清理行動，抓緊建立常态治理機制，特别是針對驗證難、監測難的問題，要有專門對策。
來源：央視網