抖音對AI網紅下手了

抖音打擊AI網紅

AI時代，幾乎人人都說每個行業和産品都值得重做一遍。近幾年來，社交媒體上就湧現了一批AI網紅，開始四處尋找機會變現。

所謂的AI網紅指利用人工智能技術創造出來的虛拟人物，通過社交媒體平台進行内容創作和互動，吸引粉絲關注。

當然，利用AI通過正當手段擷取利益無可厚非，但是不惜手段博眼球牟利就有可能違規甚至違法。

比如在社交媒體上有的賬号人設為俄羅斯美女，其自稱“在中國生活”“想嫁中國男人”“感謝中國”流量變現帶貨，消費愛國心理。

在這個AI網紅大火後，有名外籍控訴該賬号盜用其面孔和聲音。匪夷所思的是，有網友稱“看不出來是AI生成的”

圖源：截自微網誌

而有的甚至利用AI生成俊男美女虛假形象，直接稱使用者為“你”“娘”“媽媽”“老公”等，釋出情感誘導、唱情歌、為你謀福利等表達虛假情感的内容，将使用者導流至私人聊天工具，甚至進行詐騙。

在AI技術發展如此快速的今天，AI亂象層出不窮，社交媒體平台也在不斷打擊AI違規行為。

今日，抖音方面稱平台已掌握部分黑産團夥不當使用AI生成虛拟人物用于犯罪的線索，将報警打擊。

抖音平台發現，站内仍有不當使用AI技術生成虛拟人物釋出内容的賬号，平台進行了嚴厲處置。

針對違規使用AI生成虛拟人物的行為，平台會對違規視訊下架，對違規賬号進行取消其投稿和營利權限、抹除賬号粉絲、封禁賬号等處置，并利用模型、技術識别能力等手段，進行長期系統的識别發現和處置。

對于用AI生成虛拟人物的違規行為，抖音列出了幾個典型範例。主要包括利用AI生成假外國人、假精英及利用AI生成形象騙互動等三類内容。

圖源：截自抖音安全中心

另外，抖音平台明确，包括創作者、主播、使用者、商家、廣告主等在釋出生成式人工智能技術時要遵循相應規範。

具體來看，釋出者應對人工智能生成内容進行顯著辨別，幫助其他使用者區分虛拟與現實，特别是易混淆場景。

釋出者需對人工智能生成内容産生的相應後果負責，無論内容是如何生成的；虛拟人需在平台進行注冊，虛拟人技術使用者需實名認證；

禁止利用生成式人工智能技術創作、釋出侵權内容，包括但不限于肖像權、知識産權等；禁止利用生成式人工智能技術創作、釋出違背科學常識、弄虛作假、造謠傳謠的内容。

實際上，不管AI發展到什麼程度，它始終是作為推進人類社會進步的輔助工具。那麼AI作為工具，往好的方向用自然是大有裨益，如果使用不當，遭到抵制是遲早的事，畢竟事在人為。

揭秘AI網紅生意經

現如今社交媒體開始湧現一批AI賬号帶貨，背後其實衍生了一條産業鍊。

據中新網，有一位營運了多個AI外國美女賬号的人介紹，打造此類賬号的技術難度和成本并不高，通過AI肖像克隆軟體和真人視訊素材就可以實作，目前業内已有一些成熟的生成類軟體。每個賬号每天耗費一兩個小時，主要以積累粉絲、帶貨為目的，粉絲以中老年人為主。

比如抖音賬号“巧克力，小檸檬”，其賬号為一個中年美女情感導師形象，内容大多是繞不開男人與女人之間的情感問題。

在抖音已經出現不少“巧克力，小檸檬”的同類型賬号，他們的使用者畫像大多聚焦40歲以上男性，同時借助美女形象批量輸出情感雞湯，最後靠商品櫥窗和專屬會員等方式變現。

圖源：新榜

此外，除了營運賬号帶貨之外，他們還售賣此類賬号的素材和營運輔導，收費為2980元，帶貨所得與學員均分。

甚至，還有教程在電商平台售賣。在電商交易平台上輸入“AI美女”，即可看到“新手日入2000+”“5分鐘制作視訊”“趕快做個賬号吧”等極具誘導性的宣傳語，多以網盤的形式發貨，标價在幾元至幾十元間。

圖源：中新網

但這樣使用AI帶貨的風險很大，使用他人肖像合成AI視訊進行直播帶貨，可能會涉及到對于買方的虛假宣傳，甚至欺詐，很有可能得不償失。

早在2023年5月9号，抖音就釋出了《抖音關于人工智能生成内容的平台規範暨行業倡議》，規範表示，虛拟人主播需要進行實名注冊，同時需要标明“虛拟人直播”。這意味着，試圖無限接近真人的仿生人主播，依然要面臨觀衆的直接審視。

還有業内人士表示，自然人享有肖像權，民法典明确規定，使用他人肖像需要經過他人的事前同意，否則構成肖像侵權。

需要注意的是，肖像侵權的構成要件不包括以盈利為目的，即使并非以盈利為目的使用他人肖像，仍然構成肖像侵權。

“即使被侵權方在國外，也并不影響關于侵權的認定，不過他們維權比較困難，成本比較高。”

同時，某種情況下，制作未經授權的真人數字複制品也可能涉嫌構成刑事犯罪。比如利用他人的肖像合成的AI視訊，從事詐騙等違法犯罪活動。

直播電商已經到了下半場

目前來看，AI網紅湧現在各個社交平台的主要原因是低投入、高回報、高效率，但随着AI條例更加規範，平台監管也愈加嚴格，用AI做生意不一定能長久。

畢竟這種根據虛構的人設定位吸引消費者購買的行為可能存在欺騙嫌疑。再者，直播間要能賺錢，靠的是人、貨、場三者良好的經營。

首先，在帶貨行業中，建立信任機制是非常重要的。如果部落客或主播所推薦的商品與實際不符，消費者很可能會失去信任，畢竟在帶貨過程中，透明度和誠實是赢得消費者信任的關鍵。

另一方面，主播逐漸成為消費者下單的重要一環。主播與粉絲之間的情感連接配接也對消費者的購買意願産生影響。比如董宇輝通過幽默風趣、出口成章的才華吸引了一大批“丈母娘”粉絲。

再來看，直播帶貨的成功離不開供應鍊的支援。在直播電商下半場，需要更加注重供應鍊的管理和優化，確定産品的品質和供應能力。因為供應鍊的穩定性和可靠性對于直播帶貨的持續增長至關重要，否則是不能長久做下去的。

另外，在下半場，主播需要更具備更加專業的知識能力，專注于帶貨，提供優質的産品推薦和服務。

目前來說，AI的工具屬性對于直播電商行業确實是産生很大的變革，但作為使用工具的人，需要将其價值利用好，否則就會适得其反。

作者 | 李迎