最近chart GPT火的一塌糊涂，很多人都被它强大的AI功能折服。各行各业都开始传chart GPT，会成为自己未来的威胁。程序员律师文员、电话销售通通都有可能被替代。
网络安全工程师会被替代吗？小白今天告诉你肯定不会。未来人工智能本身就会存在很多的安全问题。
首先数据源可能会被投毒。AI模型训练的数据通常来源于公开获取的内容。如果数据源被攻击者控制，在数据标注时又未进行识别，就可能通过在数据源中添加恶意数据，干扰模型结果。
其次，基于AI编写的代码可能引入漏洞。copilot的训练数据来自于开源代码。大量的开源代码以个人项目为主，不会像在企业场景或在真实场景中使用一样考虑其安全性。在训练样本选择时，可能是直接用于训练未对其安全性进行检测过滤，因此导致开发者直接使用生成的代码，有很大几率引入漏洞风险。
再次在AI使用过程中可能会被投毒。区块链中的模型如果被大量的用户对同一个内容提交错误的反馈，那么模型则会被错误的修正。
而chart GPT，使用了基于人工反馈的强化学习机制，aigc模型可能根据用户的反馈来对其模型进行修正。攻击者：可能站在模型开发者的上帝视角。
最重要的一点，用户的隐私数据容易泄露。在用户交互过程中，用户可能提供一些隐私信息，姓名手机号地址乃至人的心理状态偏好。如果黑客获得了这些隐私信息，后果会很可怕。由于存在数据风险，亚马逊微软都提醒员工，不要在AI交互的过程中输入敏感信息。所以你有什么看法？我在评论区等你们。
