9月10日，中国科学院发布诚信提醒，聚焦人工智能技术在科研活动全流程应用中可能存在的问题与挑战。在选题调研、数据收集、图标制作、成果撰写、同行评议等等多个方面，规范人工智能的使用。
近日，由日本Sakana AI公司和加拿大、英国科学家携手研发的“AI科学家”登场，备受科学界关注！
来源：新华网截图
它可以独立完成从阅读文献、提出假设到实验、提出解决方案并撰写论文的全过程，并能一口气生成10篇论文！
有人惊呼科研自动化时代即将到来；也有人调侃这只是高级版的“AI论文生成器”，它与科学家之间还存在很大差距！
尽管这位“AI科学家”并非尽善尽美，但潜力巨大。这无疑不在证明着人工智能（AI）技术在科学研究领域中的应用和影响日益显著。
它不仅是个“神奇”的工具，也是一把双刃的利剑。
AI成为科研的助力
人工智能不仅有着强大的数据处理能力，还在模型优化、执行重复性任务、发现隐藏模式等方面有着得天独厚的优势，甚至能预测科学实验的结果。
事实上，AI已经在科学领域起到了实际且有效的作用。
面对庞大的文献资源，检索和筛选往往要耗费科研人员大量的时间。然而，借助AI便能快速查询、阅读甚至分析海量文献，这大大提高了文献阅读的效率。
总部位于英国的DeepMind公司开发出的“AlphaFold”，已预测出约100万个物种的超过2亿种蛋白质结构，涵盖科学界已编录的几乎每一种蛋白质！
来源：央广网新闻截图
可以说，AI在一定程度上能帮助科研工作者完成大量机械、艰苦的重复性工作，让他们节省出更多时间用在思考更复杂、高层次的科学问题上。
不仅如此，AI还能跨越多个不同的学科、加速不同学科间的交叉融合。随着深度化的学习，强大的算法甚至能改变传统研究路径，开辟一条智能化、自动化的研究路径。
但在为科研工作提供更多便利的同时，AI也引发了许多问题。
AI带来的学术危机
随着AI生成论文成本的降低，有人利用AI技术编造试验数据、制造学术垃圾，生产出大量的虚假研究论文。
今年4月份，有记者卧底论文写手群，写手明确表明：由于原作者未提供数据，就让AI编一些数据，再让AI根据编好的数据分析。
来源：新京报
此前，哈佛肯尼迪学院的“错误信息审查”研究发现，人工智能生成的虚假研究论文正在渗透到谷歌学术等学术搜索引擎中。这些虚假的研究论文不仅会导致资源浪费，还会破坏公众对科学的信任。
这些低质量甚至无价值的论文可能会加剧“学术泡沫”的形成，导致学术标准的降低，在一定程度上阻碍科学的进步。
而且，大多数情况下，由于AI缺乏对科学概念和背景的正确理解，会出现“一本正经胡说八道”的现象。
例如前段时间在学术界闹得沸沸扬扬的AI小鼠图片，不仅与科学事实严重不符，还出现了大量英文拼写错误，仅发表3天就被迅速撤稿。
（PS：大家一起来找茬，图片错误放在文末）
来源：参考资料[2]
对此，牛津大学人类未来研究所负责人尼克·博斯特罗姆认为，如果我们在没有解决控制问题之前就引入超级智能，人工智能研究的未来发展就会对人类生存带来重大威胁。
多方规范AI使用
随着科研领域对人工智能的广泛应用，相关部门和科学领域对其的规范性越来越重视。
2023年7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》。
2023年8月28日，《中华人民共和国学位法（草案）》明确强调利用人工智能代写学位论文属学术不端行为，
2023年12月，科技部监督司发布《负责任研究行为规范指引（2023）》（以下简称《指引》），增加了“生成式人工智能”在研究行为中的限制条件。
今年8月，欧盟《人工智能法案》正式生效，该法案是全球首部全面监管人工智能的法规。
尽管如此，现阶段法规的建立依旧赶不上人工智能的快速发展。这就需要科研人员自身有一定的道德规范，始终将学术责任、学术良心放在首位，才能不被人工智能这种颠覆性的技术带偏。
科研不仅仅是独立高效地完成一系列任务，更是一项复杂的创新事业。目前AI还处于探索前沿阶段，科研创新依然需要人来引领方向，进行分析、思考与决策。
庄子曰：物物而不物于物。
AI作为人类的发明，没有好坏之分，为我所用才是正解。
灵感和创新永远是人类的专利，在人工智能面前依然保持旺盛的思考力，是每一个研究者都应保持的尊严。
（对照看看，你找出来了吗？）
参考资料：
[1]徐东波. 人工智能驱动科学研究的逻辑、风险及其治理[J]. 中国科技论坛, 2024(5): 120-129.
[2]https://www.frontiersin.org/journals/cell-and-developmental-biology/articles/10.3389/fcell.2024.1386861/full
来源：学术桥综合自知乎、央广网、柳叶刀The Lancet、新京报、量子位、丁香园