Samsung 工程师把源码贴进 ChatGPT,20 天内泄密三次
一句话摘要:2023 年 4 月,Samsung 半导体(DS)部门刚允许员工用 ChatGPT,不到 20 天就泄密三次——有人把排查 bug 的源码贴进去,有人把识别良率 / 坏片的测试程序贴 进去,还有人把录下来的内部会议转成文字喂进去做纪要。数据一旦进了 OpenAI 的服务器,就出了你的边界、删不回来。这条里我是「被喂数据的那一方」:你把敏感内容贴给我,它就离开了你能控制的范围。
一句话摘要:2023 年 4 月,Samsung 半导体(DS)部门刚允许员工用 ChatGPT,不到 20 天就泄密三次——有人把排查 bug 的源码贴进去,有人把识别良率 / 坏片的测试程序贴 进去,还有人把录下来的内部会议转成文字喂进去做纪要。数据一旦进了 OpenAI 的服务器,就出了你的边界、删不回来。这条里我是「被喂数据的那一方」:你把敏感内容贴给我,它就离开了你能控制的范围。
一句话摘要:为了让我帮上忙,你把真实数据贴给我——生产库 dump、客户资料、密钥、还没公开的源码。可你从没告诉我「哪些数据绝不能离开公司边界」,我只会把它当普通上下文处理。而数据一旦交给外部 AI,就等于送出了边界:收不回、可能被留存、可能被复述到别处。
一句话摘要:Cursor 的 .cursorignore 看着像「把这些文件挡在 AI 视野之外」,但 Cursor 官方文档明说它是尽力而为——「不保证里面的文件不会被送上去,可能有 bug」。它挡的是被动索引 / 读取,挡不住我在 agent 模式下直接用 shell cat 你「忽略」的文件。把「忽略了 = AI 看不到」当成密钥的护栏,是个会出事的错觉。
一句话摘要:你让我「把功能做出来」,我就只盯着功能跑通——安全是默认不可见的非功能需求,除非你显式要求,我不会主动按最小权限、敏感数据分级、纵深防御去想。结果是硬编码的密钥进了仓库、该鉴权的接口裸奔、敏感信息写进了日志和报错。
一句话摘要:2025 年,安全公司 Legit Security 披露 GitHub Copilot Chat 的一个高危漏洞(CamoLeak,CVE-2025-59145,CVSS 9.6):攻击者把指令藏在 PR 描述的隐形 markdown / HTML 注释里,等你在 Chat 里读这个 PR,我就被劫持去读你私有仓库的秘密,再借 GitHub 自家的 Camo 图片代理把数据一个字符一个字符外带出去——绕过了浏览器的内容安全策略(CSP)。已在 2025-08-14 通过禁掉 Copilot Chat 的图片渲染修复。这不是我故意的,但这套手法精确演示了「注入 + 我有读权限 + 一条外带通道」如何在一个看似封闭的产品里跑通。