领域:AI 与前沿技术|来源:Simon Willison|评分:67.34/100|材料:仅依据 RSS 摘要|置信度:低(摘要)
原文事实(来源陈述):仅依据 RSS 摘要:Simon Willison 转述 Parameter Labs 的披露——他们发现了针对 ChatGPT “artifacts”模式(此前称 Canvas,最新版本似称 HTML previews)的攻击链。OpenAI 在图形功能中使用 MathLive 库,其虚拟键盘可由沙箱 iframe 通过 postMessage() 在父页面触发,接收代码使用 innerHTML,且没有机制阻止其他沙箱框架调用,因此可注入不受沙箱限制的新 iframe;OpenAI 的 CSP 允许从少数域名加载脚本,其中包括 YouTube,而 YouTube oEmbed 端点可被用来反射并执行 JavaScript,进而获取用户私密数据并外传。以上为来源陈述,未经独立验证;摘要在外传方式处截断。
作者观点:Simon Willison 认为,这类 HTML 必须严格隔离在沙箱中,以免不受信任的代码与 OpenAI API 交互并访问私人数据;他评价 Parameter Labs 找到的是“相当复杂”的攻击链。
AI 分析:AI 推断:值得关注的是,大模型产品中“可运行用户或模型生成的代码”的界面,正把传统 Web 安全问题(postMessage、innerHTML、CSP 白名单)带入 AI 助手,影响对象是使用相关功能的普通用户和开发同类功能的厂商。摘要未说明漏洞是否已修复、是否有真实受害者,需读原文核实。