尼山对话前瞻：在尼山，想象人工智能的未来

去年末以来，由ChatGPT引发的热潮席卷全球。

这一里程碑式的技术革命成果，不但为人类社会提供了新的生产力工具，更刺激了全球科技巨头的新一轮“竞赛”。

百度发布了大语言模型、生成式AI产品“文心一言”、阿里云推出自研大模型“通义千问”、360公司发布认知型通用大模型“360智脑4.0”与360AI数字人、京东云宣布将推出产业版ChatGPT“ChatJD”、华为预计下月发布多模态千亿级大模型产品“盘古Chat”……敏锐的市场嗅觉似乎在印证着人工智能时代的到来。

站在数字化变革的潮头，探寻网络空间发展的新航向，6月25日至27日，世界互联网大会数字文明尼山对话将在山东曲阜尼山举办，以“人工智能时代：构建交流、互鉴、包容的数字世界”为主题，围绕“构建安全可信的人工智能”“人工智能赋能千行百业”“人工智能时代人类文明向何处去”等议题进行深入探讨。

大模型产品遍地开花，细分领域产品接踵而至，推动AI技术更广泛地下沉到应用场景：个体可以利用AI工具找选题、创作产品文档、生成艺术作品，将工作时间成倍压缩，从而解放人的创造力；企业则可以利用AI工具提升运营成效、进行算法改进类的局部创新，从而刺激更有价值的应用产生。

人工智能赋能千行百业，正在将人类一场想象了数十年“科幻梦”变成普通人触手可及的现实。但危机与隐患也随之而来。

隐私安全问题成为悬在人工智能头上的“达摩克利斯之剑”。今年3月，有媒体报道三星内部发生三起涉及ChatGPT误用与滥用案例，泄密事件导致三星重新考虑实施ChatGPT 禁令。无独有偶，当地时间3月31日，意大利个人数据保护局宣布，暂时禁止使用聊天机器人ChatGPT，已就OpenAI聊天机器人ChatGPT涉嫌违反数据收集规则展开调查，并暂时限制OpenAI处理意大利用户数据。

OpenAI 已经明确表示用户的所有回复内容都有成为 ChatGPT 训练语料的可能性，这意味着全球用户向其投喂语料的过程会难以避免地滑向隐私信息的误用与滥用，这在当下AI工具“野蛮成长”的阶段，为用户、企业和政府的隐私安全与数据安全增加了巨大的不确定性。在这个政策滞后于市场的监管空档，必须为人工智能“疆域”的扩张划定安全发展的边界。

与此同时，人们一直以来担忧的科技伦理问题也正在逐渐“应验”。今年3月，广州一女子在地铁上乘车照片被AI“一键脱衣”，相关造谣图迅即在网络广泛传播，对当事人造成巨大伤害；“AI换脸”新型诈骗，令受害者在10分钟内被骗走430万元；5月1日，IBM宣布将暂停招聘人工智能可以胜任的职位，可能用人工智能取代7800个工作岗位，引发社会上就业焦虑的蔓延。

大多数情况下，技术是中性的，但一些使用者的“邪恶目的”或是“无心之失”，却会客观上给人类群体带来伤害。因而，有关“如何构建安全可信的人工智能”的讨论必须尽快提上日程。

发端于上世纪80年代的、以“高科技、低生活”为标志的赛博朋克文化，象征着人类社会中颇具影响力的一种对人工智能未来的消极想象。

近期，马斯克等人工智能领域从业者、顶尖专家联名签署了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，认为必须评估其会否“对社会和人类构成潜在风险”、或危及人类的“文明控制权”。

人工智能这个在人类手上放飞的“风筝”，会不会最终“断线”失控？

人工智能时代，人类文明将去向何处？

即将到来的尼山对话，将邀请国际组织、政府部门、全球知名互联网企业负责人，诺贝尔奖、图灵奖获得者和信息通信技术领域知名专家学者，在中华文明最核心的儒家文化的发源地，共同探讨人类文明的归处。

这一地点的选择颇具仪式感——也许来自古老文明的“长寿密码”，能够给未来文明的焦虑，提供一种解答。

1982年上映的科幻电影《银翼杀手》中，复制人Roy曾留下这样一段经典独白：

“我曾见过你们人类难以置信的情景。我目睹了战船在猎户星座边缘被击中，燃起熊熊火光；我见过Ｃ射线在幽暗的宇宙空间中，划过了唐怀瑟之门。然而所有这些瞬间，都将湮没于时间的洪流，如同泪水消失在雨中……”

或许如同电影想象的那样，人工智能最终会进化出与人类无二的自我意识与情绪感知。这一结果有可能会给人类带来生存安全感的挑战，但也有可能给人类创造出一个能够产生共情的同伴。技术至臻与科技向善未必是相悖的。已经有学者提出，协商和校准或许能够描摹一个与人工智能共存的未来，“借助人类创造出的外部人工智能的力量，以教育和行为校正的方式，温和地实现人类整体价值观的整合，确保人类和人工智能一起为了共同的价值目标前进，未来或许将成为一条艰难但有希望的道路”。

回到这一次尼山对话的主题，“人工智能时代：构建交流、互鉴、包容的数字世界”。这场对话的意义正在于，通过交流互鉴，在开放包容的对话氛围中，让人类文明的古与今、内与外，科技发展的已知和未知、期待与忧虑，在全新的时代挑战面前凝聚共同价值，拥抱一个向善的未来数字世界。