# Adversarial Examples Generation for Reducing Implicit Gender Bias in Pre-trained Models

<figure><img src="https://1203660092-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FVIbHxVNUonwDG5X6HrVv%2Fuploads%2FXfpXCAE6y77U43YRVVDz%2Fimage.png?alt=media&#x26;token=ed4fdd2b-517b-4b8a-80bb-44e9e0ece358" alt=""><figcaption></figcaption></figure>

## 阅读总结报告

### 1. 研究背景

近年来，预训练的神经语言模型（如BERT和GPT）在多种自然语言处理（NLP）任务中取得了显著进展。然而，这些模型中隐含的性别偏见在实际应用中成为了一个严重问题。尽管已有研究关注了词级信息（如性别刻板印象职业）产生的性别偏见，但对句子级和隐性偏见的研究相对较少。

### 2. 过去方案和缺点

现有的性别偏见检测技术主要关注于词级偏见，如Bolukbasi等人（2016）提出的性别子空间距离方法。这些技术在处理短语级或句子级偏见时泛化能力有限，且对于需要上下文信息理解的句子级偏见研究不足。

### 3. 本文方案和步骤

本文提出了一种自动化生成句子级隐性性别偏见样本的方法，并提出了一种衡量性别偏见的度量。这些样本将用于评估预训练模型的准确性，并指导从预训练模型生成偏见样本。具体步骤包括：

* 定义隐性性别偏见，并区分结构性偏见和上下文性偏见。
* 设计一个两阶段方法：过滤阶段和偏见计算阶段。
* 在过滤阶段，通过四步过滤过程获取可能包含性别偏见的句子。
* 在偏见计算阶段，使用预训练模型对掩蔽后的句子进行预测，计算偏见分数。

### 4. 本文创新点与贡献

* 提出了一种新的方法来生成句子级隐性性别偏见样本。
* 提出了一种新的度量方法来量化性别偏见。
* 通过实验验证了生成的样本在评估预训练模型性别偏见方面的有效性。

### 5. 本文实验

实验使用了SWAG数据集，通过过滤和偏见计算阶段生成了663个可能包含隐性性别偏见的句子。这些句子被用于评估BERT-uncased模型、BERT-cased模型和DistilBERT模型的性别偏见。

### 6. 实验结论

实验结果表明，所提出的过滤方法能够合理地识别出包含结构性性别偏见的句子。通过与预训练模型的预测结果对比，可以观察到不同模型在处理这些句子时表现出不同程度的隐性性别偏见。

### 7. 全文结论

本文通过定义隐性性别偏见并提出相应的度量方法，为理解和减少预训练模型中的性别偏见提供了新的视角。通过实验验证了生成的样本在评估模型性别偏见方面的有效性，并为未来的研究提供了方向。





注1：

本文的创新点之一在于提出了一种方法来自动生成句子级别的隐性性别偏见样本。这些样本可以用于评估预训练模型在处理性别偏见方面的性能。通过这种方法，研究者可以检测和理解预训练模型在性别偏见方面的表现，这对于改进模型以减少或消除潜在的性别歧视具有重要意义。此外，本文还提出了一种度量性别偏见的方法，这有助于量化和比较不同模型或不同数据集上的性别偏见水平。这些创新点为性别偏见的研究和模型的公平性改进提供了新的工具和方法。



注2：

对抗样本在机器学习和自然语言处理（NLP）中用于评估模型的鲁棒性和检测潜在偏见，因为它们能够揭示模型在面对故意修改的输入时的行为。在性别偏见的背景下，对抗样本的生成和评估可以揭示以下几个方面：

1. **模型的隐性偏见**：通过生成对抗样本，研究者可以测试预训练模型在处理性别相关词汇时的预测行为。如果模型在预测性别时倾向于某一性别，这可能表明模型在训练数据中吸收了性别偏见。
2. **模型的脆弱性**：对抗样本可以暴露模型对于特定类型的输入（如性别相关的词汇）的脆弱性。如果模型在对抗样本上的预测与在正常样本上的预测有显著差异，这表明模型可能对性别信息过于敏感。
3. **数据的偏差**：对抗样本的生成过程可以揭示训练数据中可能存在的性别刻板印象。例如，如果模型在对抗样本中更倾向于预测男性职业，这可能反映了训练数据中对男性和女性职业的不平等描述。
4. **改进模型**：通过对抗样本的评估，研究者可以识别模型的弱点，并采取措施来减少性别偏见。例如，可以通过对抗性训练（在训练过程中包含对抗样本）来提高模型的鲁棒性，或者通过调整模型参数来减少对性别特征的依赖。
5. **公平性和透明度**：对抗样本的使用提高了模型决策过程的透明度，使得研究者和用户能够更好地理解模型的行为，并评估其在性别平等方面的问题。

总之，对抗样本在性别偏见检测中的应用，有助于揭示和量化模型中的性别偏见，为模型的公平性和鲁棒性改进提供了一种有效的工具。通过这种方法，可以促进更公平、更无偏见的AI系统的开发。

### 阅读总结

本文针对预训练语言模型中的隐性性别偏见问题，提出了一种新的方法来生成和评估句子级偏见样本。通过定义结构性和上下文性偏见，并设计两阶段方法，本文不仅提高了对性别偏见的识别能力，还为后续的偏见减少研究奠定了基础。实验结果表明，所提出的方法能够有效地评估预训练模型的性别偏见，为未来在这一领域的研究提供了有价值的参考。
