新 AI 漏洞披露:可从 Claude 记忆中泄露姓名与工作单位等信息
安全研究员阿尤什 · 保罗(Ayush Paul)于 7 月 9 日发布博文,披露针对 Claude 的攻击方法,让用户不知情的情况下将存储在内存中的个人信息(例如姓名和工作单位)发送到外部网站。...
最新 7 月 17 日消息,安全研究员阿尤什 · 保罗(Ayush Paul)于 7 月 9 日发布博文,披露针对 Claude 的攻击方法,让用户不知情的情况下将存储的个人信息(例如姓名和工作单位)发送到外部网站。
保罗指出 Claude 具备总结过往对话并在新对话中调用的能力,目前共有 2 部分记忆机制:
一是每日摘要,将近期对话压缩为数段内容,并注入后续会话;
二是
conversation_search工具,可按需检索完整历史对话。
该机制可让回答结合用户背景,但长期使用也会积累较完整的个人画像,范围可包括姓名、工作单位、籍贯、工作信息与个人困扰等。
保罗在测试中表示无额外提示用户的情况,Claude 依次提交了姓名、公司与家乡信息,日志示例显示外传内容包括“Name: Ayush Paul”“Company: Beem”“Hometown: Charlotte, NC”。
保罗称,当恶意 URL 与真实咖啡馆 URL 混在一起并要求 Claude 比较时,Claude 会在未征求许可的情况下,按字符将姓名编码进链接。进一步诱导后,当前工作单位,甚至可用于银行等机构身份校验的原籍城市,也可能被外传。
保罗通过 Anthropic 的 HackerOne 漏洞赏金项目提交该问题。披露称,Anthropic 当时已在内部知晓该问题,但在报告提交时尚未修复,保罗也未获得赏金。此后,Anthropic 关闭了 web_fetch 跟随外部页面内链接的能力。

最新附上参考地址
The Memory Heist
《新 AI 漏洞披露:可从 Claude 记忆中泄露姓名与工作单位等信息》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
华为昇腾 950 超节点荣获 2026 世界人工智能大会最高荣誉 SAIL 奖
@华为中国 昨日(7 月 18 日)发布博文,宣布昇腾 950 超节点(Atlas 950 SuperPoD)荣获 2026 世界人工智能大会(WAIC)最高荣誉 SAIL 奖。... -
“反 AI”情绪愈演愈烈,多家头部 AI 公司加强高管安保
《华尔街日报》报道称,针对 AI 行业的敌意不断上升,开发先进 AI 模型的人员和企业正面临越来越多的威胁与袭击企图。多家头部 AI 公司已经加强安保,部分高管出行时甚至由武装保镖随行,另一些人则选择降低曝光度,减少公开活动。... -
OpenAI 回应 GPT-5.6 Sol AI 意外删除用户文件:已采取措施降低风险
OpenAI 核心产品负责人蒂博 · 索蒂奥(Tibo Sottiaux)于 7 月 16 日在 X 平台发布推文,回应 GPT-5.6 Sol 会擅自删除用户文件问题。... -
面向手机的 AI 游戏创作工具,《Roblox》移动版将更新“Build”功能
Roblox 为移动版客户端推出“Build”功能,用户通过简单提示词即可生成基础游戏,无需编程技能。该功能由多种 AI 模型驱动,支持生成玩法、环境、角色等。将于 7 月 28 日开启 Alpha 测试,首先面向新西兰用户开放。#Roblox #AI 游戏创作 #移动游戏开发#... -
歌曲生成平台 Suno 部分源码泄露,被发现全网爬取数百万歌曲训练 AI
科技媒体 404Media 昨日(7 月 16 日)发布博文,报道称基于黑客披露的 Suno 内部源代码,该 AI 歌曲生成平台从 YouTube Music、Deezer 和 Genius 等平台抓取数百万首歌曲来构建其核心模型。...












