天天看点

美国人工智能九宗罪,将人类推向深渊

作者:文艺迁安9C8

#时事热点头条说#

美国将人工智能视为“推动未来产业最为关键的新兴技术”。一直以来,美国政府一边肆意打压别国以争夺全球人工智能领域霸主地位,一边又对本国人工智能发展中潜在的伦理问题和社会问题装聋作哑,甚至放任隐私泄露、信息操弄、大规模监控等现象,引发广泛担忧和质疑。

训练数据来源偏颇 算法系统充斥歧视

人工智能计算模型需要大量数据来训练算法。由于美国的数据来源存在严重局限和偏颇,其所生成的计算模型也充斥着大量数据偏见。

美国人工智能九宗罪,将人类推向深渊

美国普林斯顿大学研究发现,美国内研发的部分人工智能系统会自动将白人名字与积极词汇配对,而将黑人名字与消极词汇配对。该大学学者艾林·卡利斯坎表示,人工智能系统中的偏见与歧视,已经到了难以轻易消除的程度。

美国皮尤研究中心2022年进行的一项民调显示,接近一半美国人认为人工智能系统的设计者只充分考虑了白人的诉求,对亚裔、黑人或拉丁裔的诉求则并未给予充分重视;多达69%的美国人认为人工智能系统未能充分体现公平性。

在波士顿地区进行的一项研究甚至发现,当地一套依靠人工智能算法建立的医疗诊断系统,会根据病人肤色分配医疗资源,让白人获得移植器官等稀缺医疗资源的优先使用权。

美国人工智能九宗罪,将人类推向深渊

纽约大学人工智能研究机构AI Now Institute指出,美国人工智能研究领域中,女性和有色人种严重不足。美国约八成的人工智能专业教授是男性,科技巨头脸书和谷歌公司的人工智能研究人员中分别只有15%和10%是女性,有色人种在人工智能科技企业中也被明显边缘化,这导致美国人工智能学习模型的训练数据主要由以白人和男性内容为主导。

上述现状,折射出美国女性和少数族裔没有在人工智能产业获得平等充足的参与权。

开发致命性自主武器 推进人工智能军事化

武器化是美国人工智能应用的重要方向之一,这对人类社会的危害不容小觑。

2022年,美国军方在内华达州内利斯空军基地展开演练,探索将人工智能技术用于开展作战行动。美国国防部还专门成立了人工智能机动工作组,旨在通过整合人工智能技术,提高军队整体杀伤能力。

美国人工智能九宗罪,将人类推向深渊

数千名科学家曾联名抗议美国开发自主杀人机器,但美国政府对此却置若罔闻,执意推动建立人工智能自主作战单元。与此同时,美国还是少数几个阻挠对研制人工智能自主致命性武器发出国际禁令的国家之一,引发广泛批评。

美国陆军在2021年就开发出新型计算模型,并称其能够在士兵辅助下,自动识别目标、自主展开行动。美国空军近期还进行了一系列试验,意图把由人工智能自主驾驶的战斗机组成作战单元。目前,美国已经开始将以人工智能技术为基础的杀人武器,用于海外作战行动,然而,这些武器常因技术缺陷造成平民伤亡。

缺乏技术安全保障 死伤事故频发

由于美国政府放任人工智能产业野蛮发展,大量企业将未成熟技术投产,导致惨祸不断。

医疗领域是美国人工智能事故“重灾区”。人工智能造成的误诊,已经成为美国致命性医疗事故的重要成因之一。皮尤研究中心近期的一项调查发现,高达60%的美国民众对对医院依赖人工智能诊断疾病或制定治疗方案感到不安。

美国人工智能九宗罪,将人类推向深渊

据统计,从2000年到2013年期间,美国至少有144人死于基于人工智能的机器人手术。皮尤慈善信托基金会一份报告显示,美国数百家医院采用的一套败血症人工智能诊断工具,被发现存在极大误诊率,约67%的患者未能得到及时确诊,另有数千名未患病人员却收到了预警。

美国《麻省理工科技评论》撰文指出,疫情期间,美国曾开发出数百款人工智能工具用于诊断新冠或其他疾病,但这些工具无一奏效,甚至还可能延误了患者的治疗。

自动驾驶领域也频频发生安全事故。美国国家公路交通安全管理局的数据显示,在2021年7月至2023年1月间,美国已至少发生419起自动驾驶汽车碰撞事故,其中18起事故造成人员死亡。

美国人工智能九宗罪,将人类推向深渊

政界与科技企业勾连 操纵舆论服务政治

美国政界长期与大型科技公司勾连,利用人工智能技术监控民众,将人工智能作为操纵民意、服务党派利益的政治工具。

2019年,时任美国国防部首席信息官办公室联合人工智能中心主任杰克·沙纳汉在一场媒体发布会中明确表示,其所在部门的主要任务包括帮助国防部进行用户活动监控和信息操控。

美国人工智能九宗罪,将人类推向深渊

欧洲智库布鲁盖尔研究所在近一项研究中发现,以谷歌和脸书为代表的美国大型科技企业一直在通过人工智能算法大量收集用户数据,并通过针对性的内容投放,保持用户粘性。这番操作,已被政客广泛用以服务其政治利益。

2016年,共和党总统候选人特朗普通过一家名为剑桥数据分析中心的企业,私自获取了多达8700万份脸书个人用户资料,并借助人工智能算法,向民众投送订制广告,助其胜选。此外,还有极右翼势力利用人工智能伪造图片、音频等内容,以攻击政治对手。

美国Axios新闻网报道,越来越多美国政客,正借助人工智能技术,来打造形象、拉拢选民,人工智能已成为美国政坛的“超级武器”。

美国人工智能九宗罪,将人类推向深渊

大规模窃取信息 侵犯公民隐私

数据是人工智能系统的核心要素。在美国政府默许甚至主导下,企业突破民众隐私边界,肆意收集个人信息。

美国政府支持主导下的大众信息搜集活动已持续多年。2022年,美国国家情报总监办公室公开一项监控计划,称正以人工智能技术为基础,开发能远距离识别全身生物特征的数据系统,用于军事活动以及对民众的大规模监控。此后不久,美国情报部门再度宣布,正在研究利用人工智能技术进行人员追踪,并可通过修改相关主体的身份信息和语言特征,用于情报目的。

美国人工智能九宗罪,将人类推向深渊

目前,这种以搜集识别民众个人隐私为目的的人工智能识别系统,已经在美国不同行业获得大规模应用。媒体2021年公布的一份报告显示,美国已有约1800多个公共机构正通过人工智能工具搜集民众生物信息,并对民众实施监控。尽管美国国会曾试图立法规范生物识别技术的使用,但相关进程一直停滞不前。

伴随对民众信息的大规模窃取,美国的隐私泄露丑闻频发。最近火爆一时的生成式人工智能应用ChatGPT被曝存在程序漏洞,会造成使用者的聊天信息外泄,韩国三星集团已发现多起员工使用ChatGPT导致敏感信息外泄事件。美国人工智能公司Cense AI在2020年的一起事件中,泄露了超过250万条个人医疗记录。此外,美国包括Meta、谷歌在内的多家人工智能相关企业都曾曝出用户隐私信息泄露丑闻。

开展人体基因编辑试验 试图突破伦理禁区

人体基因编辑所带来的伦理风险尚未解决,而美国已经开始探索将人工智能技术用于人体基因工程,进一步突破禁区。

美国人工智能九宗罪,将人类推向深渊

有媒体2017年爆料,谷歌正在参与英国一项涉及十余万人的基因测序项目,通过人工智能技术对参与对象的基因数据进行收集和分析,并“用于工业目的”,而参与者却并不知情。

美国纽约大学格罗斯曼医学院等医学科研机构,在明知相关技术尚不成熟的前提下,仍宣布将把人工智能应用于人体基因编辑试验。美国国防部还长期资助华盛顿大学、加州大学伯克利分校等高校科研机构,开展将人工智能技术用于人体基因编辑的研究。此外,美国国立卫生研究院、华盛顿研究基金会等不同机构,都曾开展过此类研究或试验。

美国智库威尔逊中心在近期报告中指出,在大部分民众都不赞成通过人工智能进行人体基因编辑和强化的背景下,美国的人工智能产业正面临伦理风险。

漠视国际公认规范 肆意操弄国际组织

为了摆脱人工智能发展所受到的约束,美国对联合国教科文组织等国际机构及其制定的全球性人工智能发展规范采取了“合则用,不合则弃”的蛮横态度。

美国人工智能九宗罪,将人类推向深渊

2018年12月31日,美国正式退出联合国教科文组织,此后便对该组织主导的《人工智能伦理问题建议书》等行业发展框架性协议弃之不顾,肆意违背联合国关于人工智能产业要遵循的“可理解”“可预测”等原则。

在全球人工智能界“宠儿”ChatGPT发布后,美国包括知名科技人士、学科专家教授等在内的数万人联合签署公开信表达担忧,称“各人工智能实验室正陷入一场失控的竞争,各实验室正在研制连其发明者都难以理解、预测甚至控制的人工智能产品”。

而在基本完成本国人工智能产业布局后,近期美国又宣布正式重回联合国教科文组织,“以掌握制定全球人工智能发展规范的话语权”。

美国利用自身霸权地位,操弄相关国际性条约制定过程的做法由来已久。在与欧洲委员会共同起草人工智能公约过程中,美国为降低对私营部门的约束和限制,执意要求公约的签署方及约束范围应仅限于公共部门。事实上,以大型互联网企业为主导的私营部门才是美国人工智能发展的主力。

美国人工智能九宗罪,将人类推向深渊

拉拢盟友打压别国 制造人工智能“冷战”

美国在放任本国人工智能产业肆意发展的同时,还拉拢盟友围堵打压潜在的人工智能技术领先国家,阻碍各国共享人工智能发展成果。

为实现对人工智能的技术垄断,美国倚仗霸权优势,阻碍他国获取高端芯片等人工智能发展的关键要素。在人工智能国际会议上,美国国务卿布林肯曾直言,“我们正在重新审视出口管制、投资审查和签证审查等工具,以确保我们的战略竞争对手不会……获得军事或国家安全优势”。

美国人工智能九宗罪,将人类推向深渊

近年来,美国滥用禁运、制裁等做法,限制中国、俄罗斯等国获取高端芯片,扰乱全球产业供应链,并不断拉拢威胁韩国、日本、荷兰等国与中国技术脱钩,以他国的发展利益换取自身的霸权垄断地位。

美国还将人工智能作为结盟工具,在全球技术领域鼓吹阵营对抗。2020年,美国联合加拿大、法国、德国等成立所谓“人工智能全球合作伙伴组织”,试图将中俄等非西方国家排除在全球人工智能技术话语体系之外。

一些业界人士明确表示,美国不惜发起一场针对中国等国的人工智能“冷战”,而这一做法的牺牲品,是全球民众共同的发展利益。

政府监管措施不足 放任产业无序发展

美国政府对本国人工智能发展采取了放任、纵容的态度,未成立专门的行业监管机构,未对技术开发的范围领域加以规范,也未对相关的技术和产品标准予以明确,任由行业野蛮生长、无序竞争,导致人工智能研究问题频发。

美国人工智能九宗罪,将人类推向深渊

《纽约时报》日前报道,美国政府在人工智能监管规则制定方面,目前仍处于起步阶段,且面临一条“一条漫长而艰难的道路”。英国计算机产业政策研究机构阿达洛夫莱斯学院主任凯丽·欣德表示,由于未能建立产业规则“护栏”,美国的政策制定者正在纵容无底线、不负责任的人工智能竞争。

美国布鲁金斯学会在今年4月的一份报告中指出,目前美国并未在联邦层面制定必要的人工智能监管规划,众多人工智能模型的开发是在没有任何监督下进行的。斯坦福大学2022年12月发布的一份政策白皮书显示,在美国涉及人工智能领域的41个主要机构中,只有5个按要求制定了监管规划。

美国人工智能九宗罪,将人类推向深渊

有美国国会议员直言,尽管不受控制和监管的人工智能产业“让人恐惧”,但国会“几乎不可能”通过全面监管法规,因为一方面,立法机构中相关专业人士寥寥无几;另一方面,政府也并不想通过规则限制这一产业的发展。

美国劳工部前部长罗伯特·莱克指出,在立法监管缺失的情况下,人工智能热潮正将美国推入“弗兰肯斯坦时刻”,原本可造福人类的人工智能,极可能被培养成为祸人间的“科学怪物”。

继续阅读