生成式人工智能在网络上充斥着垃圾邮件

人工智能领域的快速发展使得跟进成为一项艰巨的任务。然而，在人工智能可以实现某些目标之前，我们需要了解该领域的最新故事以及那些我们未曾涵盖的重要研究和实验。

本周，一家名为SpeedyBrand的公司在Y Combinator的支持下悄然崛起。SpeedyBrand利用生成式人工智能来创建SEO优化内容。尽管这家公司尚未吸引到大量资金（仅250万美元），并且其客户群相对较小（约50个品牌），但它让我开始思考生成式人工智能如何开始改变网络的构成。

正如The Verge的James Vincent在最近的一篇文章中所指出的，生成式人工智能模型使得生成低质量内容变得更加廉价和便捷。Newsguard是一家提供新闻来源审核工具的公司，他们揭示了许多使用生成人工智能创建的虚假信息的广告支持网站。这给广告商带来了问题。Newsguard的报告指出，来自141个知名品牌的近400个广告出现在55个垃圾新闻网站上。

然而，这不仅仅是对广告商的问题。正如Gizmodo的Kyle Barr指出的，只需一篇由人工智能生成的文章就足以吸引大量的参与度。即使每篇生成的文章只能产生几美元的收益，这仍然低于生成文本的成本，并且潜在的广告收入将无法流向合法的网站。

那么解决这个问题的方法是什么？是否存在解决办法？这两个问题让我夜不能寐。Barr表示，搜索引擎和广告平台有责任采取更严格的控制措施，惩罚那些利用生成式人工智能进行不当行为的人。然而，考虑到该领域的快速发展以及生成式人工智能的无限可扩展性，我不确定他们是否能跟上这一进展的步伐。

当然，垃圾内容并不是一个新问题，之前也出现过类似情况，而网络也已经适应了这一现象。但这次的不同之处在于，进入门槛无论是在成本还是时间方面都非常低。

James Vincent的文章给出了积极的观点，他暗示如果网络最终被人工智能垃圾信息淹没，这可能会促使更资金充足的平台得到发展。然而，我对此持保留意见。毫无疑问，我们正处于一个关键时刻，我们对生成式人工智能及其产出所做的决策将在未来一段时间内对网络功能产生重大影响。

除了这些问题，还有其他一些引人注目的人工智能故事：

OpenAI正式发布GPT-4：OpenAI本周宣布全面推出其最新的文本生成模型GPT-4，通过付费API提供服务。GPT-4可以生成文本、接受图像和文本输入，这是对GPT-3.5的改进，后者只接受文本输入，并在各种专业和学术基准上表现出"人类水平"。然而，正如我们之前报道的那样，它并不完美。（据报道，ChatGPT的使用率有所下降，但我们还需进一步观察。）

控制"超级智能"人工智能：在OpenAI的另一项消息中，该公司正在组建一个新团队，由首席科学家和OpenAI联合创始人之一Ilya Sutskever领导，旨在开发引导和控制"超级智能"人工智能系统的方法。

纽约市反偏见法：经过几个月的拖延，纽约市本周开始执行一项法律，要求使用算法进行招聘、雇佣或晋升的雇主提交这些算法进行独立审计，并公开审计结果。

Valve默许人工智能生成的游戏：Valve发表了一份罕见的声明，声称他们拒绝在Steam游戏商店中包含人工智能生成的资产的游戏。这家以保密著称的开发商表示，他们的政策正在演变，而不是反对人工智能。

Humane推出Ai Pin：初创公司Humane透露了他们的首款产品Ai Pin的详细信息。Humane由前苹果设计师和工程师Imran Chaudhri和Bethany Bongiorno创立，Ai Pin是一款可穿戴设备，具有投影显示屏和人工智能功能，类似于未来智能手机，但外观截然不同。

对欧盟人工智能监管的警告：欧洲各地的科技创始人、首席执行官、风险投资家和行业巨头本周签署了一封公开信，警告称，如果欧盟通过限制创新的法律，欧洲可能会错过生成式人工人工智能正在迅速改变我们的世界，尤其是在生成式人工智能领域。然而，随着其发展和广泛应用，我们也面临着一些深刻的思考和挑战。

生成式人工智能模型使得生成低质量内容变得更加廉价和容易，这引发了对网络构成和内容质量的担忧。例如，Newsguard揭示了许多广告支持的网站使用生成人工智能创造虚假信息，这给广告商带来了问题。这些垃圾新闻网站滥用程序化广告或自动化广告系统，使得来自主要品牌的广告出现在其中。这不仅损害了广告商的形象，还可能使他们的广告收入流向非法网站。

另一个问题是，生成式人工智能生成的文章可能会吸引大量的参与度，尽管每篇文章的收益可能较低。然而，这些生成的文章的产生成本低于真实文本的成本，因此潜在的广告收入可能会流向低质量的内容，而不是合法网站。

解决这些问题并不容易。搜索引擎和广告平台需要采取更严格的控制措施来惩罚那些滥用生成式人工智能的不良行为者。然而，由于人工智能领域的迅速发展和生成式人工智能的无限扩展性，这可能是一项艰巨的任务。

尽管垃圾内容并不是一个新问题，但生成式人工智能使其变得更加普遍和便宜。这引发了对网络未来的担忧。然而，也有一些积极的观点，认为如果网络被人工智能垃圾信息淹没，这可能会刺激资金更充足的平台的发展。然而，这个问题的最终解决方案还有待观察。

除了生成式人工智能的影响，还有其他一些令人关注的人工智能故事。OpenAI推出了最新的文本生成模型GPT-4，该模型具有更广泛的功能，并通过付费API提供服务。OpenAI还在开发引导和控制超级智能人工智能系统的方法。

在法律和监管方面，纽约市要求使用算法进行招聘、雇佣或晋升的雇主进行独立审计，并公开审计结果。在欧洲，科技界的领军人物警告称，过度限制人工智能的创新可能导致错过生成式人工智能革命。

此外，人工智能在许多领域展示出了巨大的潜力。例如，在医疗领域，智能插管系统能够通过计算机视觉技术辅助医生进行操作，潜在地挽救生命。人工智能还在动画制作、考古学、预测自然灾害等方面发挥着重要作用。

总之，生成式人工智能的崛起引发了对网络构成和内容质量的深思。我们需要思考如何解决生成式人工智能带来的问题，并找到平衡发展和保护用户利益的方法。随着人工智能的不断发展，我们需要持续关注其影响，并积极引导其发展方向，以实现更好的未来。