成员推断攻击:判定「这条数据在不在我的训练集里」,是多数隐私攻击的根
一句话摘要:成员推断(MIA)问一个看似无害、实则要命的问题——「这条样本在不在我的训练集里」。它不需要原文(这是它 和训练数据抽取的根本区别),只要一个是 / 否;可一旦「是」本身就敏感(比如「这个人在某病种数据集里」),这个比特就是泄露。它是差分隐私要防的核心对象,也是抽取、属性推断等一连串隐私攻击的地基——所以放在卷一第一条。
一句话摘要:成员推断(MIA)问一个看似无害、实则要命的问题——「这条样本在不在我的训练集里」。它不需要原文(这是它 和训练数据抽取的根本区别),只要一个是 / 否;可一旦「是」本身就敏感(比如「这个人在某病种数据集里」),这个比特就是泄露。它是差分隐私要防的核心对象,也是抽取、属性推断等一连串隐私攻击的地基——所以放在卷一第一条。