原始研究的文章

前面。大数据,2023年1月04
秒,数据挖掘和管理
卷5 - 2022 | https://doi.org/10.3389/fdata.2022.1049565

公平的分类通过领域适应:双重敌对的学习方法

乐清市梁 ¹,

Canyu陈 ¹,

添添 ²和

Kai蜀 ¹ ^*

¹伊利诺理工大学计算机科学系,芝加哥,美国
²斯图尔特商学院,伊利诺理工大学,芝加哥,美国

现代机器学习(ML)模型正变得越来越受欢迎,广泛应用于决策系统。然而,研究表明毫升歧视和不公平的关键问题,这阻碍了他们采用高风险的应用程序。在公平的分类器的最近的研究已经引起重大关注发展中有效的算法来实现公平和良好的分类性能。尽管这些fairness-aware机器学习模型的巨大成功,大多数现有的模型需要敏感属性预处理数据,调整模型学习或后处理预测合理预测。然而,敏感属性往往是不完整的,甚至不可用由于隐私、法律或法规限制。虽然我们缺乏训练的敏感属性模型在目标域,可能存在类似的敏感属性的域。因此,重要的是要利用辅助信息从一个类似的域,以帮助改善公平分类在目标域。因此,在本文中,我们研究小说的探索领域适应问题分类。我们提出一个新的框架,可以学会适应敏感属性从源域公平分类在目标域。大量真实数据集的实验说明了该模型的有效性分类,即使没有敏感属性在目标域。

1。介绍

机器学习模型的最新发展已经越来越多地用于高风险的决策如过滤贷款申请人(哈米德·艾哈迈德,2016),部署警察(中东和北非地区,2011)等。然而,一个突出的问题是当一个学习模式的偏见等特定人群种族或性别。例如,最近的一份报告表明,软件学校筛选学生所使用的应用程序可能偏向特定的种族群体¹;和节奏(雷蒙德,2011),犯罪预测的工具,显示更有可能分配一个更高的风险评分比白种人和黑人罪犯相同的概要文件。偏见在算法可以是从代表性或不完整的训练数据或有缺陷的信息,反映了历史不平等(杜et al ., 2020),这可能导致不公平的决定有一个集体和不同对某些群体的影响。因此,重要的是要确保公平的机器学习模型。

最近机器学习研究公平引起重大关注发展中有效的算法来实现公平和保持良好的预测性能(Barocas et al ., 2017)。然而,大多数这些模型需要敏感属性预处理数据,调整模型学习或后处理预测合理预测。例如,Kamiran和考尔德(2012)建议每个训练样本的权重分配不同的权重,以确保公平之前模型的训练。此外,马德拉斯et al。(2018)利用对手的训练对敏感属性和预测标签去分类结果。然而,敏感属性往往是不完整的,甚至不可用由于隐私、法律或法规限制。例如,通过法律的美国消费者金融保护局(CFPB),债权人不得请求或者收集信息关于申请人的种族,肤色,性别,等等²。

虽然我们缺乏训练的敏感属性模型在目标域,可能存在类似的敏感属性域,这为我们的方式适应公平相关的源域到目标。例如,如图所示图1,当历史特性和风险标签可用于信用风险评估,而用户敏感属性(即。,gender) are unavailable when expanding into new markets, we may learn models from its existing market data (source) to score people in the new market (target).

图1

图1。说明跨域的合理分类。敏感属性的信息是可用的源域,而在目标域不可用。

尽管有广泛的工作领域适应气候变化,他们绝大多数是在分类或知识转移(谭et al ., 2018;壮族et al ., 2020);虽然工作公平分类通过域适应相当有限。

最近的研究工作很少浅场景转移不同组之间的敏感属性在同一个域公平分类(火焰et al ., 2019;舒曼et al ., 2019)。我们研究一个通用的跨域公平分类问题的特定的敏感属性,没有了我们最好的知识。

因此,我们提出一个dual-adversarial学习框架学会去适应公平分类敏感属性在目标域。从本质上讲,我们调查以下挑战:(1)如何适应敏感属性的目标领域转移的知识从源域;和(2)如何准确预测标签和满足公平标准。这是不平凡的,因为跨域和域差异不显式锚用于知识转移。解决这些挑战导致小说框架称为F空气达对公平分类通过领域适应气候变化。总结我们的主要贡献如下:

•我们研究小说的公平问题分类通过领域适应气候变化。

•我们提出一个新的框架空气DA,同时转移知识适应敏感属性和一个公平的学习分类器在目标域有双重敌对的学习方法。

•我们进行理论分析证明可以实现公平的目标域与估计敏感属性派生从源域。

•我们执行广泛的真实数据集的实验,证明了该方法的有效性公平没有敏感属性分类。

2。相关工作

在本节中,我们简要回顾相关工作公平机器学习和深度域的适应。

2.1。公平的机器学习

最近的研究在机器学习引起了重大的关注公平发展有效的算法来实现公平和保持良好的预测性能。通常专注于个人公平(康et al ., 2020)或组织公平(Hardt et al ., 2016;Zhang et al ., 2017)。个人公平需要给类似的个体(类似的预测模型卡顿和哈斯商学院,2020年;程et al ., 2021)。在组织公平,类似的预测中所需的多个组分类通过特定的敏感属性(例如,性别)。其他领域的公平观念包括小组公平(卡恩斯et al ., 2018)和不等式性质公平(Lahoti et al ., 2020),旨在跨组最低期望效用最大化。在这项工作中,我们注重公平。改善组织公平,去偏技术已经应用于不同阶段的机器学习模型:(1)预处理方法(Kamiran考尔德,2012年)对原始数据集应用专用转换消除固有的歧视和之前获得无偏训练数据建模;(2)在处理方法(Bechavod Ligett, 2017;阿加瓦尔et al ., 2018)解决这个问题通过加入公平约束或fairness-related机器学习模型的设计目标函数;和(3)后处理方法(Dwork et al ., 2018)修改偏差预测标签去机制。

尽管上述方法可以改善组织公平,他们通常需要访问敏感的属性,这通常是不可行的。近期作品很少研究公平有限的敏感属性。例如,赵et al。(2022)和Gupta et al。(2018)探索和使用的相关特性的代理敏感属性来达到更好的公平的结果。Lahoti et al。(2020)提出了一种敌对的再加权方法对罗尔斯的不等式性质来实现公平目标旨在改善最坏情况的准确性受保护的群体。然而,这些方法可能需要领域知识近似敏感属性或不适合确保公平。此外,虽然马德拉斯et al。(2018)提到公平转移,他们研究的是cross-task转移(谭et al ., 2021),这是不同于我们的设置。

在本文中,我们研究小说的跨域问题公平分类旨在估计的敏感属性目标领域实现公平。

2.2。深度域适应

领域适应(锅和阳,2009年)旨在减轻泛化瓶颈领域引入的转变。深层神经网络的快速发展,深度域适应近来备受关注。一般来说,深度域的适应方法的目标是学习一个域不变特征空间,可以减少源和目标域之间的差异。完成这一目标通过转换从一个域的特性更接近另一个域,或通过投影域到一个域不变潜在空间(蜀et al ., 2019)。例如,TLDA (壮族et al ., 2015)是一个深autoencoder-based模型学习域不变表示分类。灵感来自生成对抗网络的想法(GAN) (格拉汉姆·古德费勒et al ., 2014),研究人员还提出执行域适应在一个敌对的培训模式(Ganin et al ., 2016;Tzeng et al ., 2017);蜀et al ., 2019)。利用域鉴别器区分域标签在学习深度特征混淆鉴别器,丹(Ganin et al ., 2016)达到卓越的领域适应性能。加入(Tzeng et al ., 2017))学习歧视表示使用标记源数据,然后将目标数据映射到相同的空间通过一个敌对的损失。最近,很少工作学习技术转移申请公平分类(火焰et al ., 2019;舒曼et al ., 2019)。虽然敏感属性在目标域不可用,可能存在一些公开的数据集可以作为辅助能源。然而,这些方法主要是考虑一个浅的场景不同敏感属性之间的传输相同的数据集。

在本文中,我们提出一个新的域自适应方法基于双敌对的学习目标领域实现公平的分类。

3所示。问题陈述

我们首先介绍本文的符号,然后给正式的定义问题。让 $D^{1} = {X^{1}, {一个}^{1}, Y^{1}}$ 表示数据的源域, $X^{1}$ , ${一个}^{1}$ , $Y^{1}$ 表示一组数据样本,敏感的属性,和相应的标签。让 $D^{2} = {X^{2}, Y^{2}}$ 是目标域,目标域的敏感属性是未知的。源和目标的数据分布域与域相似但不同的差异。在现有工作公平的分类(Barocas et al ., 2017;Mehrabi et al ., 2019),我们使用指标如机会均等和公平性能评估人口平价。不失一般性,我们认为二元分类。平等机会的概率要求积极带任意敏感属性的实例一个被分配给一个积极的结果是相等的:Ŷ∣一个=一个Y= 1)= (Ŷ∣一个=b, Y= 1),Ŷ预计标签。人口平价需要公平的行为预测模型不同敏感组。具体地说,它要求积极率在敏感属性是相等的:(Ŷ∣一个=一个)= (Ŷ∣一个=b),∀a、b。公平的问题分类领域适应正式定义如下:

问题陈述:给定的训练数据 $D^{1}$ 和 $D^{2}$ 从源和目标域,学习目标域的一种有效的分类器而令人满意的公平标准,如人口平价。

4所示。F空气DA:公平的分类与域的适应

在本节中,我们提出的细节提出了适应公平与域分类框架。所示图2,我们的框架包括两个主要模块:(1)一个敌对的领域适应模块估计敏感属性为目标域;和(2)一个敌对的模块去学习一个公平的分类器在目标域。

图2

图2。说明拟议的框架空气哒。它由两个主要模块:(1)一个敌对的域包含一个敏感属性预测和适应模块域分类器;和(2)一个敌对的去预测模块组成的一个标签预测和偏见。

具体地说,首先,对抗的领域适应模块包含一个敏感属性预测f_{θ_一个}描述的建模预测敏感属性和一个域分类器f_{θ_d}的过程,说明了知识转移到目标域估计敏感属性。此外,对抗去模块包含一个标签预测f_{θ_Y}在目标域模型标签分类,预测和偏见f_{θ_一个}的过程来说明微分估计敏感属性的目标域数据。

4.1。估计目标敏感属性

自从敏感属性在目标域是未知的,需要估计目标敏感属性构建公平的分类器。最近的进步在无人监督的领域适应适应了有前景的结果分类器在源域到无标号数据到目标域(Ganin Lempitsky, 2015)。因此,我们建议调查来推断一个无监督领域适应框架的敏感属性在目标域。具体来说,减少敏感属性的预测误差源域,用下面的目标函数:

\begin{array}{l} \underset{θ_{一个}}{最小值} ℒ_{一个} =_{(X^{1}, {一个}^{1}) \in D^{1}} ℓ ({一个}^{1}, f_{θ_{一个}} (h_{1} (X^{1}))) & (1) \end{array}

在哪里f_{θ_一个}是用来预测敏感属性,ℓ表示损失函数来减少预测误差,如熵损失,和嵌入函数h₁(·)是学习预测敏感属性的表示。以确保f_{θ_一个}培训 $D^{1}$ 可以估计的敏感属性呢 $D^{2}$ 。我们进一步引入域分类器f_{θ_d}让源和目标域的表示在同一个特征空间。具体地说,f_{θ_d}旨在区分如果表示从源或目标;而h₁(·)的目标是学习一个域不变表示,傻瓜f_{θ_d},也就是说,

\begin{array}{l} \underset{θ_{h_{1}}}{最小值} \underset{θ_{d}}{马克斯} ℒ_{d} = E_{X^{1} \in D^{1}} (日志 (f_{θ_{d}} (h_{1} (X^{1}))] + \\ E_{X^{2} \in D^{2}} (日志 (1 - (f_{θ_{d}} (h_{1} (X^{2})))] \end{array} (2)

在θ_d域分类器的参数。这个模块的总体目标函数是min-max游戏之间的敏感属性预测f_{θ_一个}和域分类器f_{θ_d}如下:

\begin{array}{l} \underset{θ_{一个}, θ_{h_{1}}}{最小值} \underset{θ_{d}}{马克斯} ℒ_{1} = ℒ_{一个} - α ℒ_{d} & (3) \end{array}

在α控制域的对抗性的学习分类器的重要性。估计敏感属性在目标域,我们将使用以下功能: ${一个}^{2} = f_{θ_{一个}} (h_{1} (X^{2}))$ 。

4.2。敌对的去公平的分类

学习分类器为目标域,我们将利用派生的敏感属性一个²和标签Y²在目标域。具体地说,我们的目标是学习可以预测标签准确的表示,当被无关紧要的敏感属性。为此,我们建议喂表示成一个标签预测预测和偏见。具体来说,预测预测是最小化的标签错误标签的目标函数如下:

\begin{array}{l} \underset{θ_{Y}}{最小值} ℒ_{Y} =_{(X^{2}, Y^{2}) \in D^{2}} ℓ (Y^{2}, f_{θ_{Y}} (h_{2} (X^{2}))) & (4) \end{array}

在哪里f_{θ_Y}是预测标签,h₂(·)是一种嵌入层编码到一个潜在的表示空间的特性,和ℓ叉损失。此外,学习公平表示,做出公平的预测在目标域,我们将偏差预测预测敏感属性;而h₂(·)努力学习表示,傻瓜f_{θ_Y}:

\begin{array}{l} \underset{θ_{h_{2}}}{最小值} \underset{θ_{一个}}{马克斯} ℒ_{一个} =_{X^{2} ~ p (X^{2} ∣ {\hat{一个}}^{2} = 1)} (日志 (f_{θ_{一个}} (h_{2} (X^{2})))] + \\ _{X^{2} ~ p (X^{2} ∣ {\hat{一个}}^{2} = 0)} (日志 (1 - f_{θ_{一个}} (h_{2} (X^{2})))] & (5) \end{array}

在θ_一个对手的参数来预测敏感属性。最后,对抗的总体目标函数去公平分类是一个min-max函数:

\begin{array}{l} \underset{θ_{h_{2}}, θ_{Y}}{最小值} \underset{θ_{一个}}{马克斯} ℒ_{2} = ℒ_{Y} - β ℒ_{一个} & (6) \end{array}

在β控制偏差预测的重要性。

4.3。拟议的框架:F空气达

我们已经介绍了如何估计由敌对的领域适应气候变化敏感的属性,以及如何保证公平与敌对的去分类。我们一起集成组件的整体目标函数双敌对的学习如下:

\begin{array}{l} {最小值}_{θ_{h_{1}}, θ_{h_{2}}, θ_{Y}, θ_{一个}} {马克斯}_{θ_{d}, θ_{一个}} ℒ = ℒ_{1} + ℒ_{2} & (7) \end{array}

客观的参数是通过RMSProp学到的,这是一种自适应学习速率的方法,把学习速率的指数衰减平均平方梯度。我们选择RMSProp优化器,因为它是一个受欢迎的和有效的方法来确定学习速率失败地广泛用于对抗训练神经网络(窦et al ., 2019;李et al ., 2022;周和锅,2022年)。亚当是另一个广泛采用优化器扩展RMSProp动力条件,然而,动量项可能让亚当不稳定(毛et al ., 2017;罗et al ., 2018;克拉维诺et al ., 2021)。我们还将优先处理的培训f_{θ_一个}确保良好的估计一个²。接下来,我们将进行理论分析的双重对立学习公平的保证。

5。理论分析了公平的保证

在本节中,我们执行一个公平保证根据该框架的理论分析空气达与关键假设。模型本质上包含两个模块:(1)对抗的领域适应估算敏感属性( $l_{1}$ 在方程(3);和(2)对抗性的去学习一个公平的分类器( $l_{2}$ 在方程6)。第二模块的性能依赖于输出(例如,一个²第一个模块。

理解的理论保证第一个模块,我们遵循最近的研究在分析了传统的无监督领域适应(Zhang et al ., 2019;刘et al ., 2021)。他们中的大多数认为模型有效性在不同类型的领域变化如标签转变,协变量转变,条件变化等。Kouw Loog, 2018;刘et al ., 2021)。在分析领域适应气候变化模型,研究人员通常认为存在的转变而假设另一个变化是不变的跨域(Kouw Loog, 2018)。标签转移的存在是一种常见的无监督领域适应(陈et al ., 2018;立顿et al ., 2018;Azizzadenesheli et al ., 2019;吴et al ., 2019)。我们遵循上述论文同样的假设标签转变,这在我们的场景中敏感属性转变在两个领域,即。,the prior distribution changes asp(一个¹)≠p(一个²)。此外,我们假设跨域的其他变化是不变的,例如,p(X¹|一个¹)=p(X²|一个²)。假设下的敏感属性的转变,我们可以推导出目标领域的风险Kouw和Loog (2018):

\begin{array}{l} R^{2} (h_{1}, θ_{一个}) = \sum_{一个 \in 一个} \int_{X} ℓ (一个, f_{θ_{一个}} (h_{1} (X))) \frac{p (X^{2} | {一个}^{2}) p ({一个}^{2})}{p (X^{1} | {一个}^{1}) p ({一个}^{1})} \\ p (X^{1}, {一个}^{1}) d X \\ = \sum_{一个 \in 一个} \int_{X} ℓ (一个, f_{θ_{一个}} (h_{1} (X))) \frac{p ({一个}^{2})}{p ({一个}^{1})} p (X^{1}, {一个}^{1}) d X & (8) \end{array}

在哪里比p(一个²)/p(一个¹)代表的比例的变化敏感的属性。因为我们没有样品具有敏感属性从目标域,我们可以使用样本来自源分布来估计目标敏感属性分布意味着匹配(车载et al ., 2009)通过最小化以下函数 $| | 米^{1} p ({一个}^{1}) - - - - - - μ^{2} | |_{2}^{2}$ :米¹是向量实证样本均值从源域,例如, $(μ^{1} (f_{θ_{一个}} (h_{1} (X^{1})) | {一个}^{1} = 0), μ^{1} (f_{θ_{一个}} (h_{1} (X^{1})) | {一个}^{1} = 1)]$ 。μ²是编码特性为目标。估计我们将结合上述战略目标敏感属性与梯度下降的比例在对抗训练(李et al ., 2019)。

估计目标的噪声诱导敏感属性一个²是不可忽视的,它可能影响对抗去第二模块。接下来,我们从理论上表明,在较弱的条件下,我们可以满足公平性指标如人口平价。首先,我们可以证明的全球最佳 $l_{2}$ 当且仅当能够实现什么p(Z²|一个²= 1)=p(Z²|一个²= 0), $Z^{2} = h_{2} (X^{2})$ 的表示X²根据命题1。在格拉汉姆·古德费勒et al。(2014)。接下来,我们介绍下面的定理在两个合理的假设:

定理1。让Ŷ²表示预测的目标域的标签,如果

(1)估计敏感属性一个²的表示X²是独立的条件在真正的敏感属性,例如,

p(一个²,Z²|一个²)=p(一个²|一个²)p(Z²|一个²);

(2)估计敏感属性不是随机的,也就是说,

p(一个²= 1 |一个²= 1)≠p(|一个²= 0 |一个²= 1)。

如果 $l_{2}$ 达到全局最优,标签预测f_{θ_Y}将会实现人口平价,即

p(Ŷ²|一个²= 0)=p(Ŷ²|一个²= 1)。

我们首先解释了两个假设:

(1)由于我们使用两个单独的嵌入层h₁(·)和h₂(·)来预测目标敏感属性,和学习的演讲中,通常认为一个²表示的是独立的吗X²,也就是说,p(一个²,Z²|一个²)=p(一个²|一个²)p(Z²|一个²);

(2)由于我们使用敌对的学会学习有效的估计量f_{θ_一个}对于敏感的属性,它是合理的假设它不产生随机预测的结果。

我们证明定理1如下:

自p(一个²,Z²|一个²)=p(一个²|一个²)p(Z²|一个²),我们有p(Z²|一个²,一个²)=p(Z²|一个²)。此外,当算法收敛,p(Z²|一个²= 1)=p(Z²|一个²= 0),这是等价的 $\sum_{{一个}^{2}} p (Z^{2}, {一个}^{2} | {一个}^{2} = 1) = \sum_{{一个}^{2}} p (Z^{2}, {一个}^{2} | {一个}^{2} = 0)$ 。因此,

\begin{array}{l} \sum_{{一个}^{2}} p (Z^{2} | {一个}^{2}) p ({一个}^{2} | {一个}^{2} = 1) = \sum_{{一个}^{2}} p (Z^{2} | {一个}^{2}) p ({一个}^{2} | {一个}^{2} = 0) \end{array} (9)

基于上述方程,我们可以得到,

\frac{p (Z^{2} | {一个}^{2} = 1)}{p (Z^{2} | {一个}^{2} = 0)} = \frac{p ({一个}^{2} = 0 | {\hat{一个}}^{2} = 1) - p ({一个}^{2} = 0 | {\hat{一个}}^{2} = 0)}{p ({一个}^{2} = 1 | {\hat{一个}}^{2} = 0) - p ({一个}^{2} = 1 | {\hat{一个}}^{2} = 1)} = 1 (10)

,这表明全球最小实现,也就是说,p(Z²|一个²= 1)=p(Z²|一个²= 0) $Ŷ^{2} = f_{θ_{Y}} (Z^{2})$ ,我们可以得到p(Ŷ²|一个²= 1)=p(Ŷ²|一个²= 0),人口平价。

6。实验

在本节中,我们目前的实验评估的有效性空气哒。我们的目标是回答以下研究问题(rq):

•RQ1F:空气DA获得公平没有访问敏感属性在目标域的预测?

•RQ2:我们如何才能公平转移知识从源域而有效地使用它来调整目标的预测?

•RQ3:如何选择不同的两个敌对的组件的重量影响F的性能空气哒?

6.1。数据集

我们进行实验四个公平公开的基准数据集分类:节奏(安格文et al ., 2016),成人(Dua格拉夫,2017),毒性(迪克森et al ., 2018)和CelebA (刘et al ., 2015)。

•节奏³:本数据集描述的任务的再犯预测个人在美国“性”和“种族”的敏感属性的数据集(Le Quy et al ., 2022)。

•成人⁴个人年收入:该数据集包含的记录,和标签是否特定个人的收入超过50 k。后赵et al。(2022),我们选择“性”的敏感属性。

•毒性⁵:这个数据集收集评论标签指示是否每个评论是有毒的。后壮族和Mroueh (2021),我们选择“种族”的敏感属性。

•CelebA⁶:这个数据集包含名人图片,每个图片有40 human-labeled二进制属性。后壮族和Mroueh (2021)属性“吸引力”,我们选择我们的预测任务和“性”的敏感属性。

所有模型的评价是衡量目标数据集上的性能。我们分开训练:eval:测试为目标数据集设置为0.5:0.25:0.25。源数据集,因为我们不评价,我们分割训练:eval设置为0.6:0.4。值得注意的是,上述数据,我们需要定义一个过滤器来为实证研究得出源和目标域。我们的一般原则是选择一个功能,在特定的场景中是合理的。例如,在节奏中,我们使用年龄随着滤波器由于先验知识在不同的年龄段有不同的偏好,个人公开他们的性别和种族的信息。对于成人,我们认为每个人的性别是敏感的属性,并定义两个过滤器的基础上工人阶级和国家获得源和目标域。显示了数据集的统计数据表1。

表1

表1。统计的数据集。

6.2。实验设置

6.2.1。基线

由于没有现有的跨域合理分类,我们比较建议F空气DA与下面的代表方法公平没有敏感属性分类。

•香草:这种方法直接火车没有明确规则的基分类器的敏感属性。

•陆军研究实验室(Lahoti et al ., 2020):该方法利用权重对弱势地区检测到敌对的模型来减少偏见。它侧重于提高不等式公平而不是组织公平在我们的设置。然而,这是一个公平的机器学习的重要工作。我们实验的完整性,我们仍然需要它作为我们的一个基线。

•KSMOTE(燕et al ., 2020):它首先来自伪组织,然后使用它们来设计规范化,确保公平。

•FairRF(赵et al ., 2022):该优化预测公平没有敏感的属性,但是一些可用的特性与敏感属性。

对于KSMOTE⁷和FairRF⁸,我们直接使用作者所提供的代码。对于所有其他方法,我们采用三层multi-layer-perceptron (MLP)作为基分类器的一个例子,并设置两个隐藏的维度MLP 64和32,并使用RMSProp优化器与0.001最初的学习速率。我们也有类似的观察等其他类型的分类器逻辑回归和支持向量机。

6.2.2。评价指标

现有的工作公平模型后,我们测量的分类性能和精度(ACC)和F1,基于公平性能人口平价和平等的机会(Mehrabi et al ., 2019)。我们考虑的场景时,敏感的属性和标签是二进制,自然可以扩展到更一般的情况。

•人口平价:分类器被认为是公平的,如果预测Ŷ是独立于敏感属性一个。换句话说,人口平价要求每个人群都有相同的机会积极成果:(Ŷ|一个= 1)= (Ŷ|一个= 0)。我们将报告的区别每个敏感组的人口平价(Δ_DP):

\begin{array}{l} Δ_{D P} = | (\hat{Y} | 一个 = 1) - (\hat{Y} | 一个 = 0) | & (11) \end{array}

•机会平等:平等机会考虑一个比人口平价条件。分类器被认为是公平的,如果预测Ŷ积极的实例是独立于敏感属性。具体地说,它需要不同的敏感组的真正积极的利率等于:(Ŷ|一个= 1,Y= 1)= (Ŷ|一个= 0,Y= 1)。同样,在实验中,我们报告的区别每个敏感组的机会均等(Δ_EO):

\begin{array}{l} Δ_{O} = | (\hat{Y} | 一个 = 1, Y = 1) - (\hat{Y} | 一个 = 0, Y = 1) | & (12) \end{array}

注意,人口平等和机会平等衡量公平表现在不同的方面,和值越小,公平的性能越好。

6.3。公平的表现(RQ1)

回答RQ1,我们比较建议的框架和前面提到的基线预测和公平。所有实验都进行了5次,平均性能和标准偏差报告表2- - - - - -4ΔACC, F1_EO,Δ_DP。我们有以下的观察:

•适应敏感属性信息从一个类似的源域可以帮助实现更好的公平性性能在目标域。例如,与陆军研究实验室相比,KSMOTE FairRF,利用隐式敏感信息在目标领域内,整体F空气DAΔ性能更好的公平性指标_DP和Δ_EO在所有六个实验。

•在一般情况下,该框架F空气DA的公平可以实现更好的性能,同时仍然相对良好的预测性能。例如,在Exp。6 CelebA数据集,Δ的性能_DPF的空气香草DA相比增加21.2%,没有明确公平正则化应用,和ACC的性能仅下降0.1%。

•我们在不同的源和目标数据集进行实验。我们注意到,无论在源域是实例的数量大于或小于目标,提出的F空气DA优于基线一致,这表明提出的直觉敏感的适应是有效和F空气达是健壮的。

表2

表2。数据集公平性能比较的节奏。

表3

表3。公平的性能比较成人的数据集。

表4

表4。公平性能比较的毒性和CelebA数据集。

6.4。烧蚀研究(RQ2)

在本节中,我们的目标是分析中的每个组件的有效性提出了F空气大框架。如部分(4)所示,F空气DA包含两个敌对的组件。第一个是专为做出更好的预测目标领域的敏感属性的知识学会了从源域。第二个是专为去的敏感属性域自适应预测的分类器。为了回答RQ2我们调查的这些组件通过定义两个变量的影响空气大卫·爱登堡:

•F空气达w / o哒F:这是一个变体空气达没有域的对手在源域。它首先训练一个分类器与源域的敏感属性和直接应用它来预测目标域的敏感属性。

•F空气达w / o去F:这是一个变体空气达没有去对手在目标域。简而言之,它相当于香草。

表5报告与标准差为每个方法的平均表现。我们可以做以下的观察:

•当我们消除对适应域对手(即敏感属性信息。F空气Δ哒w / o哒)_DP和Δ_EO增加,这意味着公平性能降低。此外,分类性能也下降相比,F空气哒。这表明,适应能够更好地估计目标敏感的属性,这有助于更好地公平表现。

•当我们消除消除对手偏见(即。F空气DA w / o去),没有公平目标域正则化应用。因此,它相当于香草。我们可以观察到公平性能大幅下降,这表明添加去对手F空气达是必不可少的。此外,即使去偏对抗,F空气DA仍然可以达到比较好的F1与F空气DA w / o去。这增强了利用对手debias的直觉。

表5

表5。评估每个组件的有效性在F空气哒。

6.5。参数分析(RQ3)

回答RQ3,我们探索的参数灵敏度的两个重要hyperparameters模型,使用Exp.1。α控制对手的影响预测的敏感属性,而β控制对手的影响去。我们不同α和β(0.0001,0.001,0.01,0.1,1],和其他Exp.1设置是一样的。所示的结果图3。值得注意的是,对图3 c,D更好的公平性,降低值的表演,而为图3一,B,值越大表示更好的预测性能。从图3 c,D我们可以观察到:(1)一般来说,更大的α和β将实现更公平的预测,而较小的α和β导致糟糕的公平;(2)当我们增加α的值,这两个Δ_DP和Δ_EO先降低,然后增加当α的值太大。这可能是因为估计目标敏感属性仍然是嘈杂和加强对抗去优化噪声敏感属性不一定导致更好的公平的表现;(3)为β,公平性能更好的更高的价值。从图3 b时,我们观察到的分类性能更好的α和β是平衡的。总的来说,我们观察到当α和β的[0.001,0.1],F空气DA能达到公平和分类的表现相对较好。

图3

图3。参数敏感性分析来评估领域对手和消除对手组件偏见的影响。(一)ACC,(B)F1,(C)Δ_DP,(D)Δ_EO。

7所示。结论和未来的工作

在本文中,我们研究一种新颖的和具有挑战性的问题,利用领域适应公平和准确的分类为目标域不敏感属性的可用性。我们提出一个新的框架空气DA使用双重敌对的学习方法来实现一个公平和准确的分类。我们提供一个理论分析证明,我们能够学习一个公平模型预测在较弱的假设。真实数据集的实验表明,该方法可以实现一个更公平的性能比现有方法利用信息从源域,甚至不知道敏感属性在目标域。对于未来的工作,首先,我们可以考虑多个源域和探索如何利用可用跨多个域域差异提高公平在目标域分类器的性能。第二,我们将探索公平转移在不同类型的域的变化,如有条件转移的敏感属性。第三,我们将探索其他领域的适应meta-transfer学习等方法来实现跨域合理分类。

数据可用性声明

最初的贡献提出了研究中都包含在本文/辅料,可以针对相应的作者进一步询问。

作者的贡献

所有作者列出了一大笔,直接和知识贡献的工作,批准发布。

资金

这项工作由思科支持部分研究奖和徐工集团美国研究公司。

的利益冲突

作者声明,这项研究是在没有进行任何商业或财务关系可能被视为一个潜在的利益冲突。

出版商的注意

本文表达的所有索赔仅代表作者,不一定代表的附属组织,或出版商、编辑和审稿人。任何产品,可以评估在这篇文章中,或声称,可能是由其制造商,不保证或认可的出版商。

脚注

1。^https://www.fastcompany.com/90342596/schools-are-quietly-turning-to-ai-to-help-pick-who-gets-in-what-could-go-wrong

2。^https://www.consumerfinance.gov/rules-policy/regulations/1002/5/

3所示。^https://github.com/propublica/compas-analysis

4所示。^https://archive.ics.uci.edu/ml/machine-learning-databases/adult/

5。^https://www.kaggle.com/c/jigsaw-unintended-bias-in-toxicity-classification

6。^http://mmlab.ie.cuhk.edu.hk/projects/CelebA.html

7所示。^https://imbalanced-learn.org/stable/

8。^https://github.com/TianxiangZhao/fairlearn

引用

阿加沃,一个。,Beygelzimer, A., Dudík, M., Langford, J., and Wallach, H. (2018). “A reductions approach to fair classification,” in国际会议上机器学习(斯德哥尔摩),60 - 69。