近日,超过350名人工智能行业专家联合发布了一份只有22个词的简短声明,警告说人工智能可能给人类带来的生存威胁应与流行病和核战争一样,成为全球优先关注的问题。 这份声明发布在非营利机构人工智能安全中心的网站上。该中心表示,尽管人工智能专家、记者、决策者和公众越来越多地讨论人工智能带来的广泛风险,但表达对高级人工智能最严重风险的担忧仍然很困难。
这份简洁的声明旨在克服这一障碍,引发讨论,并为越来越多重视人工智能严重风险的专家和公众提供共识。 这份声明获得了350多名人工智能从业者的签名,包括Google DeepMind首席执行官戴米斯•哈萨比斯,OpenAI首席执行官山姆•奥特曼,人工智能“教父”杰弗里•辛顿和约书亚•本希奥等。辛顿和本希奥因AI工作获得2018年图灵奖,但获奖者之一的Facebook人工智能首席科学家杨立昆未签名。
部分签署者此前签署过一封公开信,呼吁“暂停”开发比GPT-4更高级的人工智能至少6个月。该信遭到批评,一些专家认为夸大了人工智能风险,其他人同意存在风险但不同意信中措施。 人工智能安全中心执行主任丹•亨德里克斯告诉《纽约时报》,5月30日的声明非常简洁,没有提出减轻人工智能威胁的任何具体方法,以避免这种分歧。“我们不想推出30种潜在干预措施的详细菜单,”亨德里克斯说,“这会weakened信息。”
综上,人工智能专家发出简短联合声明,警告人工智能可能带来的生存威胁应得到更广泛关注。声明简洁明了,旨在就人工智能风险达成共识,为进一步讨论和应对措施提供基础。