报告发现,ChatGPT正在泄露用户密码

2024-06-29 17:08来源:大智报

Ars Technica周一的一份报告强调了OpenAI的病毒聊天机器人ChatGPT泄露私人对话的例子,包括其他未知用户的个人数据和密码。

一位用户分享的几张截图显示,多个用户名和密码显然连接到药房工作人员使用的支持系统。

这个人使用的是ChatGPT-4。

泄露的私人对话似乎显示,一名员工试图对一个应用程序进行故障排除;在泄露的对话中,出现问题的应用程序名称和商店编号都出现了。

这位用户告诉Ars Technica:“我去查询(在这种情况下,帮助想出调色板中颜色的聪明名字),当我稍后返回访问时,我注意到额外的对话。”“我昨晚使用ChatGPT的时候还没有看到它们(我是一个重度用户)。没有任何查询——它们只是出现在我的历史记录中,而且肯定不是来自我(我也不认为它们来自同一用户)。”

其他随机对话也被泄露给了用户,其中一个包括一篇尚未发表的研究论文的细节,另一个包括一场演讲的名字。

“ChatGPT不安全。人工智能研究员加里·马库斯在回应该报告时说。“如果你在聊天机器人中输入一些东西,最保险的假设可能是(除非他们保证不这样做),聊天机器人公司可能会根据这些数据进行训练;这些数据可能会泄露给其他用户。”

他补充说,同一家公司还可以出售这些数据,或者使用这些数据向用户定向投放广告。他说:“我们应该担心(大型语言模型)以微妙的方式进行超定向广告。”

虽然OpenAI的隐私政策没有提到任何定向广告,但它确实说该公司可能会与供应商和服务提供商共享个人数据。该政策还指出,它可能会去识别和汇总个人信息,然后公司可能会与第三方共享。

OpenAI告诉Ars Technica,它正在调查数据泄露事件,但没有回应TheStreet就该报告发表评论的请求。

ChatGPT的更多隐私问题

就在同一天,意大利数据保护机构Garante告诉OpenAI, ChatGPT可能违反了一项或多项数据保护规则。

去年,由于ChatGPT违反了欧盟(EU)的隐私规则,Garante禁止了它的使用,但在OpenAI发布了一系列修复程序(包括用户有权不同意在OpenAI算法的训练中使用他们的个人数据)后,Garante恢复了ChatGPT。

该组织在一份声明中表示,OpenAI有30天的时间就所谓的违规行为提出反诉。

违反欧盟2018年出台的《通用数据保护条例》(GDPR),可能会导致该公司面临最高相当于上一年年收入4%的罚款。

OpenAI在一份电子邮件声明中表示,它相信自己的做法仍然符合GDPR和其他隐私法,并补充说公司计划与Garante“建设性地合作”。

OpenAI发言人表示:“我们希望我们的人工智能能够了解世界,而不是个人。”“我们在培训ChatGPT等系统时积极努力减少个人数据,该系统也拒绝提供有关个人隐私或敏感信息的请求。”

有限公司请通过电子邮件ian.krietzberg@thearenagroup.net或信号732-804-1223与Ian联系。

喜临门声明:未经许可,不得转载。