這兩年以來，AI算是徹底火了。
光是在機圈這兒，咱都沒少聽手機廠商們，宣傳各種AI功能。
端側大模型、AIGC消除和自然對話，都成功落地于最新一批旗艦。
在“文生圖”和“文生視訊”領域，AI的進化更是不講道理。
Sora橫空出世，能根據文字描述，直接生成時長1分鐘的視訊。
不僅畫面逼真，符合現實實體規律，生成的門檻還很低。
隻要用文字描述得詳細一些，AI就能幫你把事兒辦成。
但門檻低，也意味着技術，很容易被搞黑灰産的老哥利用。
光是這半年來，機哥就看到不少，網友利用AI作惡的例子。
最新鮮熱辣的，莫過于這幾天上了熱搜的：
“主播用AI換臉成楊幂、劉亦菲，在直播間帶貨賺錢”。
AI換臉咱們平時沒少見，直播帶貨更是早就火遍了網際網路。
但這兩者結合，用來帶貨引流。
多少是給廣大網友，帶來了一點科技震撼。
而且這換臉效果不能說差，隻能說和楊幂本人非常接近。
很多觀衆在抖音快手，刷到這類直播間真的被騙到，以為楊幂在這帶貨。
于是該下單的下單，該送禮物的送禮物，明星效應在直播帶貨中，被發揮得淋漓盡緻。
可能有機友會說：
“動态換臉總不能這麼逼真吧。”
可事實是，隻要主播在鏡頭前不做幅度太大的動作，基本很難翻車。
當然，AI換臉，換的主要是眼鼻嘴。
如果主播的臉型輪廓，和楊幂本人差異較大。
那換臉的效果确實會被大幅削弱。
怎麼說呢。
能識别出換臉問題的，多半是混迹網際網路比較久的年輕人。
如果是咱們家中的長輩，看到帶貨直播出現了個明星，大概不會懷疑其身份真假。
是以很多網友一緻認為，利用AI換臉，把主播的臉換成明星。
本質上就是在欺騙普通觀衆和消費者。
聊到這兒，大夥可能以為：
“直播AI換臉，一定是啥昂貴又難以入手的技術吧？”
恰恰相反。
大多數直播間，用的都是免費開源的DeepFaceLive。
隻要提前準備好訓練模型、一張RTX 20系以上的顯示卡、一個DeepFaceLive換臉工具。
誰都能整一個實時直播換臉。
實在是搞不懂的話，現在網上随手一搜，都能搜到詳細上手教程。
即使是零基礎小白，看完教程都能整點花活。
這也是為什麼，AI會被各種惡意利用。
它效果越來越好的同時，門檻還在不斷降低。
要是平台不上點強度來整治。
我估計楊幂被用來直播帶貨，隻會是一個開頭。
以後主播帶着個什麼明星臉來帶貨，我都不覺得奇怪了...
除了被運用于直播上。
AI最近還被很多商家，用來“複活”那些逝去的人。
這裡說的，自然不是真正意義上的複活。
而是利用AI技術，深度學習某個人生前的人臉圖檔和聲音，最終生成一個動态的數字化形象。
最近熱度比較高的，就是音樂人包小柏“複活”女兒的新聞。
這事兒當時在網上，引起了不少争議。
但有争議，就意味着會有流量。
于是乎，更多“數字生命”，在網際網路上相繼出現。
首先是明星李玟，在視訊中，李玟以親切的口吻向大家問好，讓粉絲不要擔心。
AI複活技術的存在，讓所有逝者都獲得了好好道别的機會。
很多李玟的粉絲看到，心裡既感動，又欣慰。
但很多理性的網友蚌埠住了。
這不是純純對逝者不尊重麼？
興許是嘗到了“AI複活明星”，帶來的流量甜頭。
後續又有人制作了“複活”高以翔的視訊。
AI的發揮依舊穩定。
無論是五官、聲音還是神情，都和高以翔本人幾乎一緻。
網友們第一時間想到的，也不是惋惜和悼念。
而是：
“消費死者博流量有意思？”
“能不能尊重一下他們的親人？”
很顯然，這事兒在某些商家眼裡，是停不下來的。
對于AI複活，廣大網友看到的是倫理和道德上的争議。
而商家看到的，是把豬扔進去，都能飛起來的風口。
在主流電商平台，很快出現了所謂的，“定制數字人”和“親人複活”生意。
價錢也在100元到500元不等。
你說這筆買賣劃算嗎？
肯定是不劃算的。
無論是人臉合成，還是聲音還原，在全球最大同性交友網站Github上，都有開源免費的項目，商家做得還是資訊差生意。
比如在聲音克隆這一塊。
已經有項目能做到，輸入5秒的人聲素材，生成一個能随意講話的人聲模型。
有UP主專門為這個項目，做了個詳細使用教程。
結果在B站大受歡迎，播放量足足有372萬。
這也能看出，其實網友對于新鮮的AI技術，興趣還挺濃厚。
但新鮮感褪去，迎來的是後怕。
萬一這些效果好、門檻低的技術，被壞人利用了。
網友們真能分辨出來是AI？
我想，大機率是分不出來。
像是今年2月份，就有一家跨國公司，被詐騙分子換臉僞裝成公司高層，騙走了公司2億元。
你說公司不專業吧，人家可是資産過億的跨國公司。
但依舊招架不住，AI換臉詐騙的猛攻。
更别說在短視訊平台上，一直有部落客用特效換臉，把自己僞裝成外國人賣貨賺錢。
我知道啊，有機友會想着：
換臉帶貨也好，AI複活也罷，隻要自己提高警惕，總不會有啥問題叭？
emmm...大夥别忘了，AI的使用門檻在降低。
當它低到，足以讓一個普通網友都能輕松使用時。
咱們上網沖浪，不見得能快樂到哪去。
雖然，AI換臉和聲音克隆，都需要素材喂給AI工具訓練。
可現在誰不玩幾個社交平台？
誰沒在社交平台發過點照片和視訊，這可都是現成的素材啊。
好消息是，大廠都關注到了這個問題。
對于技術上能識别到的AI内容，該提示的提示。
壞消息是。
AI工具的進化速度也很快，有時候連平台都沒法辨識出，内容是否AI生成。
這場真實和虛拟的博弈，注定會持續很久。
以後上網沖浪，還是給自己留點隐私比較好。
圖檔來自網絡