生成式人工智能在網絡上充斥着垃圾郵件

人工智能領域的快速發展使得跟進成為一項艱巨的任務。然而，在人工智能可以實作某些目标之前，我們需要了解該領域的最新故事以及那些我們未曾涵蓋的重要研究和實驗。

本周，一家名為SpeedyBrand的公司在Y Combinator的支援下悄然崛起。SpeedyBrand利用生成式人工智能來建立SEO優化内容。盡管這家公司尚未吸引到大量資金（僅250萬美元），并且其客戶群相對較小（約50個品牌），但它讓我開始思考生成式人工智能如何開始改變網絡的構成。

正如The Verge的James Vincent在最近的一篇文章中所指出的，生成式人工智能模型使得生成低品質内容變得更加廉價和便捷。Newsguard是一家提供新聞來源稽核工具的公司，他們揭示了許多使用生成人工智能建立的虛假資訊的廣告支援網站。這給廣告商帶來了問題。Newsguard的報告指出，來自141個知名品牌的近400個廣告出現在55個垃圾新聞網站上。

然而，這不僅僅是對廣告商的問題。正如Gizmodo的Kyle Barr指出的，隻需一篇由人工智能生成的文章就足以吸引大量的參與度。即使每篇生成的文章隻能産生幾美元的收益，這仍然低于生成文本的成本，并且潛在的廣告收入将無法流向合法的網站。

那麼解決這個問題的方法是什麼？是否存在解決辦法？這兩個問題讓我夜不能寐。Barr表示，搜尋引擎和廣告平台有責任采取更嚴格的控制措施，懲罰那些利用生成式人工智能進行不當行為的人。然而，考慮到該領域的快速發展以及生成式人工智能的無限可擴充性，我不确定他們是否能跟上這一進展的步伐。

當然，垃圾内容并不是一個新問題，之前也出現過類似情況，而網絡也已經适應了這一現象。但這次的不同之處在于，進入門檻無論是在成本還是時間方面都非常低。

James Vincent的文章給出了積極的觀點，他暗示如果網絡最終被人工智能垃圾資訊淹沒，這可能會促使更資金充足的平台得到發展。然而，我對此持保留意見。毫無疑問，我們正處于一個關鍵時刻，我們對生成式人工智能及其産出所做的決策将在未來一段時間内對網絡功能産生重大影響。

除了這些問題，還有其他一些引人注目的人工智能故事：

OpenAI正式釋出GPT-4：OpenAI本周宣布全面推出其最新的文本生成模型GPT-4，通過付費API提供服務。GPT-4可以生成文本、接受圖像和文本輸入，這是對GPT-3.5的改進，後者隻接受文本輸入，并在各種專業和學術基準上表現出"人類水準"。然而，正如我們之前報道的那樣，它并不完美。（據報道，ChatGPT的使用率有所下降，但我們還需進一步觀察。）

控制"超級智能"人工智能：在OpenAI的另一項消息中，該公司正在組建一個新團隊，由首席科學家和OpenAI聯合創始人之一Ilya Sutskever上司，旨在開發引導和控制"超級智能"人工智能系統的方法。

紐約市反偏見法：經過幾個月的拖延，紐約市本周開始執行一項法律，要求使用算法進行招聘、雇傭或晉升的雇主送出這些算法進行獨立審計，并公開審計結果。

Valve默許人工智能生成的遊戲：Valve發表了一份罕見的聲明，聲稱他們拒絕在Steam遊戲商店中包含人工智能生成的資産的遊戲。這家以保密著稱的開發商表示，他們的政策正在演變，而不是反對人工智能。

Humane推出Ai Pin：初創公司Humane透露了他們的首款産品Ai Pin的詳細資訊。Humane由前蘋果設計師和工程師Imran Chaudhri和Bethany Bongiorno創立，Ai Pin是一款可穿戴裝置，具有投影顯示屏和人工智能功能，類似于未來智能手機，但外觀截然不同。

對歐盟人工智能監管的警告：歐洲各地的科技創始人、首席執行官、風險投資家和行業巨頭本周簽署了一封公開信，警告稱，如果歐盟通過限制創新的法律，歐洲可能會錯過生成式人勞工工智能正在迅速改變我們的世界，尤其是在生成式人工智能領域。然而，随着其發展和廣泛應用，我們也面臨着一些深刻的思考和挑戰。

生成式人工智能模型使得生成低品質内容變得更加廉價和容易，這引發了對網絡構成和内容品質的擔憂。例如，Newsguard揭示了許多廣告支援的網站使用生成人工智能創造虛假資訊，這給廣告商帶來了問題。這些垃圾新聞網站濫用程式化廣告或自動化廣告系統，使得來自主要品牌的廣告出現在其中。這不僅損害了廣告商的形象，還可能使他們的廣告收入流向非法網站。

另一個問題是，生成式人工智能生成的文章可能會吸引大量的參與度，盡管每篇文章的收益可能較低。然而，這些生成的文章的産生成本低于真實文本的成本，是以潛在的廣告收入可能會流向低品質的内容，而不是合法網站。

解決這些問題并不容易。搜尋引擎和廣告平台需要采取更嚴格的控制措施來懲罰那些濫用生成式人工智能的不良行為者。然而，由于人工智能領域的迅速發展和生成式人工智能的無限擴充性，這可能是一項艱巨的任務。

盡管垃圾内容并不是一個新問題，但生成式人工智能使其變得更加普遍和便宜。這引發了對網絡未來的擔憂。然而，也有一些積極的觀點，認為如果網絡被人工智能垃圾資訊淹沒，這可能會刺激資金更充足的平台的發展。然而，這個問題的最終解決方案還有待觀察。

除了生成式人工智能的影響，還有其他一些令人關注的人工智能故事。OpenAI推出了最新的文本生成模型GPT-4，該模型具有更廣泛的功能，并通過付費API提供服務。OpenAI還在開發引導和控制超級智能人工智能系統的方法。

在法律和監管方面，紐約市要求使用算法進行招聘、雇傭或晉升的雇主進行獨立審計，并公開審計結果。在歐洲，科技界的領軍人物警告稱，過度限制人工智能的創新可能導緻錯過生成式人工智能革命。

此外，人工智能在許多領域展示出了巨大的潛力。例如，在醫療領域，智能插管系統能夠通過計算機視覺技術輔助醫生進行操作，潛在地挽救生命。人工智能還在動畫制作、考古學、預測自然災害等方面發揮着重要作用。

總之，生成式人工智能的崛起引發了對網絡構成和内容品質的深思。我們需要思考如何解決生成式人工智能帶來的問題，并找到平衡發展和保護使用者利益的方法。随着人工智能的不斷發展，我們需要持續關注其影響，并積極引導其發展方向，以實作更好的未來。