跳到主要内容

3 篇文档带有标签「数据保留」

查看所有标签

微调即服务隐私:你的微调数据去哪了,以及微调会侵蚀对齐(连隐私拒答一起)

一句话摘要:在厂商 API 上微调(fine-tuning-as-a-service),有两个面要分开看。面①——你的微调数据在厂商侧的去向:它被保留多久、会不会被用于训练或人工审查、产出的微调模型是否只供你私用,这些都不是一个数,要按各厂商当下条款逐项核(多数厂商官方文档称:微调输入输出默认不用于训练、微调模型仅供你私用——但仍要核你这个档、这个端点、这个区域的具体条款,且条款会变)。面②——微调本身会侵蚀对齐:Qi 等(ICLR 2024)用 OpenAI 微调 API、仅约 10 条对抗样本、花费小于 $0.20 就越掉了 GPT-3.5 Turbo 的护栏;更要紧的是,即便只用良性数据(Alpaca / Dolly)微调,也会无意中拉低安全对齐。结论先行:把数据交给厂商微调 API,既要核数据边界,也要假设微调会削弱对齐——包括模型原本会做的隐私拒答。(注意:Qi 等主要是安全对齐被侵蚀的结果,不是直接的数据泄露 / PII 抽取结果——本条据此说「微调会连隐私拒答一起削弱」,不夸大成「微调能把训练数据抽出来」。)

持久记忆的隐私与留存:产品记忆功能「按设计」跨会话留存了什么,我控制得了、删得掉吗

一句话摘要:产品级「记忆」功能按设计就会把跨会话信息写到外部存储——ChatGPT 会引用你所有过往对话、还会在你没开口时主动把它认为有用的细节存成「saved memory」;你若在对话里透露了敏感信息,它可能就此落进记忆。这不是隔离 bug(那是跨会话记忆串味那条讲的事故),而是功能正常工作时的治理后果:你能看到、删得掉多少,边界在产品与后端手里。更硬的一课来自 2025 年 NYT v. OpenAI——一纸法律保全令曾冻结 OpenAI 对「本应删除」数据的删除(约 5 月中至 9 月底),把「关掉记忆 / 到期即删」这类假安全一次性打穿。结论先行:把产品记忆当又一处受产品与法律双重支配的数据副本来治理,别把「我关了开关」当成「已经删干净」。

推理服务数据边界:「他们不拿去训练」只是一格,要逐项核、且会过期

一句话摘要:把私有数据发给第三方推理 API,「他们不拿去训练」往往是真的——但那只是数据边界的一格。还要逐项核:保留多久、滥用监控日志留多久、企业档和消费档差在哪、有没有零数据保留(ZDR)、子处理方是谁、数据落在哪个区域、有没有 DPA/BAA。更要记住:这些条款会变,还可能被法律令推翻。把一句「我们不训练」当成整条边界,是最常见的运营期假安全。