周鸿祎提醒“养龙虾”风险：AI幻觉会把C盘文件全删了

全国政协委员、360集团创始人@红衣大叔周鸿祎 3月10日发布视频称，关于AI产业落地，自己有了新思考。


他提到，很多单位都装了自己的大模型，但是大模型实际是聊天机器人，真正干活还是有很大的差距。“人工智能真的要在企业里落地，一定要做智能体。”

他表示，智能体落地有三大障碍：缺平台、缺人才、缺安全。“要搭建一个真正在企业里能用的智能体，大概需要至少十几种基础设施的支持，所以现在有没有这样一个智能体的开放的通用平台，能够让企业很简单地搭建自己的智能体。需要一个又懂AI又能打造智能体又懂管理智能体的人，又是业务专家，这样才能让智能体落地。”

他还提到，企业还有顾虑，人工智能本身对安全带来巨大冲击，人工智能还有幻觉问题、不稳定的问题、内容胡说八道的问题、很容易被人攻击利用的问题、人工智能会不会失控的问题、数据隐私的问题。

此外，他提及很火的养“小龙虾”，称它存在一系列数据安全问题，有时候它产生幻觉了，可能把你的电脑C盘文件全删了。

但他也表示，要解决也不难，第一，应该关注如何让各种各样的智能体在企业落地；第二，打造普惠性的智能体公共服务平台；第三，软件行业要变革，需要开展智能体培训。

9日，周鸿祎曾发视频称，自己一直在关注“龙虾”，也养了自己的“龙虾”。


他表示，“龙虾”还有三个问题没有解决，一是安全问题，二是配置、安装比较困难，三是“龙虾”能干的事情目前比较高端。但他也指出，这代表了智能体会有非常大的发展。

他提出，当智能体多了以后，未来每个人都要有领导的能力、布置任务的能力、规划任务的能力。

周鸿祎还称，准备做一只好养的“龙虾”。