4月20日,社交平台上有网友爆料,在使用Kimi处理工作时,系统竟向他发送了一份陌生人的完整简历,其中包括姓名、电话、邮箱等敏感个人信息。经过核实,这些信息全部属实,网友甚至联系到了对方。而被Kimi“背刺”的用户则是一头雾水。 爆料网友告诉@看看新闻Knews 记者,简历遭泄露的用户最近正在找工作,曾用Kimi帮助润色简历。而这一时间点,跟爆料网友当天使用Kimi辅助工作,前后间隔6个小时左右。 帖子发布后,Kimi工作人员通过社交媒体平台联系了该网友,并告知经排查,Kimi认为此次事件是AI幻觉导致。业内人士分析认为,此类情况属于小概率事件,是“哈希碰撞”恰好与AI幻觉叠加后导致的后果。所谓“哈希碰撞”,是指两个完全不同的数据,经过哈希函数计算后,得到了完全相同的哈希值。 复旦大学计算与智能创新学院教授张奇向记者表示,当用户将文档或资料上传到生成式AI平台后,系统会生成一个文档,非常极端的情况下,会存在系统给不同用户的两个文档分配了同一个的名字,这样就会产生了错乱,也就是“哈希碰撞”,这也是一种所谓的“AI幻觉”。 记者查询Kimi隐私协议条款发现,其中有一条特别声明:请谨慎上传敏感个人信息。这样的声明能为大模型平台免责吗? 对此,律师表示,根据用户协议,用户所有输入AI的文本都可能会被它用来优化模型,因此记录并使用用户信息的行为本身并不违法。不过,一旦向第三方泄露了用户隐私,AI平台仍然需要担责。