蘋果緊急下架！這種一鍵除衣的AI，太逆天了

雷科技

2024-04-29 23:39釋出于廣東科技領域創作者

時間倒回前幾年，如果小雷和小夥伴們聊聊AI，你們可能覺得我在天方夜譚？

彼時AI留給人們的印象，還停留在科幻電影的智能機器人、智能生活助手等等。

真要說起來，離我們最近的應該就是手機裡頭，那個腦袋不太聰明的語音助手。

語音助手句句有回應，但是回得對不對就是另一回事了，你說對吧，Siri？

但放到現在可就不一樣，這幾年AI發展有多快大夥看在眼裡，AI元年早就來喽。

在圖檔、視訊、音頻以及文字等領域，AI已經玩出了花，甚至可以說是「颠覆」。

就拿應用最廣泛的圖檔AI來說，其實在我們平時的生活裡，現在已經随處可見了。

戶外的廣告牌、電梯裡的海報、商場裡的促銷圖……大夥琢磨下是不是這麼回事？

不僅如此，很多APP還加入圖檔AI方面的功能，然而随之而來的卻是争議的聲音。

蘋果和谷歌先後下架相關APP，國内手機廠商也禁止操作，這到底是怎麼回事兒？

蘋果谷歌下架脫衣AI APP

目前AI在圖檔上的應用，大概有這幾類：AI生圖、擴圖、消除以及修複畫質等。

這些都是很正常的内容，但有些别有用心的人，卻以此開發出了一些惡意APP。

就在上周五，外媒404 Media報道：蘋果和谷歌分别在應用商店下架多款自稱能夠實作「一鍵換衣」的APP。

「一鍵換衣」聽起來很離譜，但其實這玩意可以看作是「一鍵換臉」的更新版。

圖源：404 Media

早在2019年，就有程式員開發出一款名為「DeepNude」的「一鍵脫衣」APP。

開發者聲稱，給DeepNude一張女性圖檔，它就能靠神經網絡技術，脫掉人物衣服生成未穿衣服的圖檔。

好家夥，這個APP要是落到歪腦筋的人手裡，那可不就是妥妥的不雅照生成器嗎？

結局是為了防止DeepNude被濫用，最終開發者選擇關閉DeepNude的網站和APP。

圖源：IT之家

如果說DeepNude隻是獨立開發者的小打小鬧，那如今在蘋果和谷歌應用商店上架的「一鍵脫衣」APP，是怎麼通過稽核的呢？

據報道，這些APP很多都來自Meta平台的廣告庫，這些惡意APP的廣告一般在Meta旗下的平台投放。

使用者一點選廣告就會跳轉到蘋果或谷歌的應用商店，也就是說，使用者壓根不用自己搜尋「脫衣」等關鍵詞就能找到類似APP。

而且這類AI APP通常被包裝成其他AI生成類APP，開發者大機率就是通過這種方式，躲開蘋果和谷歌應用商店的審查機制。

費了這麼多功夫，APP開發者肯定不是用愛發電，而是通過「一鍵脫衣」功能賺取不義之财。

好在經過外媒報道後，蘋果和谷歌也作出了實際行動，下架了多款「一鍵脫衣」APP。

Meta平台也在積極收集惡意廣告連結下架删除，還表示接下來将加大審查力度，針對違反規定的政策采取措施。

圖源：indianexpress網

AI消除敏感圖檔被禁

除了上面這事兒，小雷發現國内手機廠商，也針對「AI消除」作出了一些限制。

我沒記錯的話，手機擁有「AI消除」這功能，應該是從去年開始才流行起來的。

AI消除能通過AI技術，較完美地去掉照片中多餘的人和物，讓照片看起來更簡潔。

左 AI消除前  右 AI消除後  圖源：小雷手機截圖

隻是不知道哪個神人突發奇想，竟然把AI消除用在了消除女性照片胸部的位置。

咳咳，結果一些手機的AI消除功能，就把衣服給消除，甚至還把人體給補齊了。

AI本來是根據邊緣背景進行計算，修補後的效果看着的确和諧，不能怪它不行。

還是那句話，有人不懷好意的話，這個功能确實能生成一些本不存在的不雅照。

圖源：網絡

這事當時挺多人關注，不過經過媒體報道後，主流品牌手機的AI消除都作出了限制。

現在對照片中的人體敏感部位使用AI消除，會出現「圖檔可能包含敏感資訊，無法使用此功能」類似的提示。

如果塗抹的是其他地方，則AI消除可以正常使用，小夥伴們可以試試自己的手機，應該都有這種限制了。

圖源：小雷手機截圖

AI圖檔是把雙刃劍

蘋果谷歌下架「一鍵脫衣」APP，手機廠商禁止AI消除敏感照片，AI圖檔已經發展到了這個程度。

其實從AI在圖檔上的實際應用來看，它更像一把雙刃劍，在帶來友善的同時也帶來了一些麻煩。

AI圖檔的好處很多：在攝影行業，可以幫助攝影師後期美顔和降噪；在設計行業，可以讓設計師少些繁瑣的畫圖工作；而在自媒體行業，小雷發現已經有一些同行使用AI為文章配圖，AI生成圖既符合文章大意，又不會有侵權的風險。

AI圖檔的麻煩也不少：一鍵換臉、一鍵脫衣、一鍵無中生有增加人體細節……，AI在關于人的隐私安全方面，依然還有不少漏洞會被不法分子鑽。

雖然每次曝出類似新聞的時候，相關企業或者平台都能及時行動，作出或下架或禁止的舉措，但總是要等事情發生後再亡羊補牢，往往就容易出岔子。

AI圖檔應用之路才剛剛開始，小雷覺得前面這些案例，已經足夠讓AI開發者們得到警示喽。

在開發AI更多新功能時，AI開發者們應該提前考慮新功能落地後，可能會出現的負面操作和影響。

能在落地前解決自然最好，如果不能推遲落地或者采用更合理的方式實作原先方式80%的效果，也不是不行。

總之，小夥伴們還是要以合理眼光看待「AI圖檔」，小雷也相信AI未來的發展會越來越好。

封面圖源：蘋果App Store&網絡

4月25日-5月4日，北京國際汽車展覽會(北京車展)正在火熱進行。本屆車展以“新時代新汽車”為主題，是“汽車從電動化走向智能化”的風向标。

雷科技旗下“關注電動車，更懂智能化”的賬号電車通已派出豪華報道團，正在北京車展現場，進行一線專業報道，歡迎關注“電車通”擷取一手專業現場報道。

檢視原圖 36K

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

•