人工智能对人类的生存威胁引发担忧。2022年5月，超过350名技术高管、研究人员和学者签署声明，警告人工智能的存在风险，

人工智能对人类的生存威胁引发担忧。

2022年5月，超过350名技术高管、研究人员和学者签署声明，警告人工智能的存在风险，并呼吁把减轻人类灭绝风险作为全球优先事项。特斯拉所有者埃隆·马斯克、苹果公司创始人之一史蒂夫·沃兹尼亚克等人签署的信函呼吁停止先进人工智能系统的开发六个月。美国政府敦促人工智能负责人进行负责任的创新。

人工智能的支持者采用了所谓的“人工智能意识形态”，认为通用人工智能将是文明的福音，可能会振兴经济、增强科学知识、“丰富人类”。然而，最安全的人工智能形式并不能实现其支持者所承诺的渐进治愈，并且他们通过宣称这是不可避免的情况来分散人们对寻找提高人类智力的更好方法的注意力。