# 检测机器学习模型中的偏差 您可以识别在机器学习实验中训练的机器学习模型中的偏差。此外，您可以选择从大型语言模型 (LLM) 获取可能容易出现偏差的功能的建议。通过删除倾斜的功能、纠正不当的数据收集或更改训练数据集的结构来解决检测到的偏差。 警告注释 Qlik 不保证任何偏差检测结果的准确度、完整性或可靠性，并且不确保符合任何地方、州、联邦或国际法律、法规或行业标准。用户承担基于工具输出所采取的任何行动的所有风险和责任，该输出不应替代专业的法律建议或独立的人工审计。 警告注释 偏差检测有一个可选组件，它使用生成式人工智能（“GenAI”）来推荐可能容易出现偏差的功能。用户有责任审查和验证任何 GenAI 建议，并评估其使用是否适合任何特定用例以及是否符合适用法律。 ## 了解偏差 在机器学习中，偏差是一种不希望出现的现象，其中模型偏向或可能偏向某些群体而非其他群体。偏见对公平性产生负面影响，并对预测及其所影响的决策产生伦理影响。偏见可能出现在训练数据中、训练模型预测的结果中，或两者兼有。 偏见的例子及其对决策的影响包括： * 在不成比例地代表某些收入水平或健康状况的数据上训练模型，导致保险索赔的不公平决策。 * 在关于候选人种族和性别存在偏差的数据上训练模型，影响招聘决策。 * 训练将邮政编码与信用度关联起来的模型。 ### 数据偏差 当用于训练模型的数据存在偏差，从而偏向某些群体而非其他群体时，就会出现数据偏差。数据偏差是由训练数据中群体之间不平等的代表性造成的。 例如，用于预测招聘结果的数据集可能包含将某一性别表示为比其他性别更成功的数据。 数据偏差可以通过多种方式引入训练数据，包括： * 不当的数据收集，其中某些群体代表性不足或代表性过高。 * 准确反映历史模式的数据，但揭示了这些趋势和实践中潜在的偏见。 下方可视化中的数据表明数据偏差。 数据偏差的一个示例，通过条形图可视化。在源数据中，某些婚姻状况在收入水平方面代表性过高。 数据偏差的一个示例，通过条形图可视化。在源数据中，某些婚姻状况在收入水平方面代表性过高。 数据偏差的一个示例，通过条形图可视化。在源数据中，某些婚姻状况在收入水平方面代表性过高。 ![如果用于机器学习模型中，会引入数据偏差的有偏数据。](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Resources/Images/ui_concepts-data-bias-example.png) ### 模型偏差 模型偏差（或算法偏差）是指机器学习模型做出的预测偏向某些群体而非其他群体。存在模型偏差时，模型会在某些群体和结果之间建立关联，从而对其他群体产生负面影响。模型偏差可能由收集不当或倾斜的数据以及所用训练算法的特定行为引起。 例如，模型可能会因为其做出的不公平关联，而预测某些年龄组的招聘率不成比例地偏低。 机器学习实验中分析选项卡的可视化，突出显示模型偏差。该可视化显示，模型对某些婚姻状况的收入预测高于其他婚姻状况。 机器学习实验中分析选项卡的可视化，突出显示模型偏差。该可视化显示，模型对某些婚姻状况的收入预测高于其他婚姻状况。 机器学习实验中分析分析选项卡的可视化，突出显示模型偏差。该可视化显示，模型对某些婚姻状况的收入预测高于其他婚姻状况。 ![机器学习实验中的“分析”选项卡显示模型偏差。](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Resources/Images/ui_ml-model-bias-example.png) ## 数据偏差指标 在Qlik Predict中，通过分析以下内容来衡量数据偏差： * 表示率：比较功能中每个组所属数据的分布，与功能中所有数据进行比较。计算出的指标是表示率奇偶比。 * 条件分布奇偶比：比较功能中每个组的数据平衡，相对于目标列的值。计算出的指标是条件分布奇偶比。 要详细了解这些指标的可接受值，请参阅[偏差指标的可接受值](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/bias-detection.htm#Metrics)。 ## 模型偏差指标 在 Qlik Predict 中，模型偏差指标最好在针对实验的模型类型背景下理解。广义上讲，有以下偏差指标类别： * 分类模型指标 * 回归和时间序列模型指标 要详细了解这些指标的可接受值，请参阅 [偏差指标的可接受值](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/bias-detection.htm#Metrics)。 ### 分类模型 在二元和多类别分类模型中，偏差通过分析预测的目标值（结果）来衡量。特别是，比较了不同组别的正面和负面结果率的差异（此处“正面”和“负面”指的是有利与不利的结果——例如，是或否作为已聘用目标列的值）。这些模型具有以下偏差指标： * 差异影响 * 统计奇偶性差异 * 机会均等差异为 #### 差异影响 差异影响比 (DI) 评估敏感特征中的组别在模型的预测结果中是否受到偏袒或损害。通过计算每个组被选为预测值的频率来衡量，并将其与该功能中最受青睐的组的选择率进行比较。 #### 统计奇偶性差异 与差异影响类似，统计均等差异 (SPD) 评估模型预测，以确定它们是否偏袒或损害任何个体群体。该指标通过比较最大组和最小组之间的积极结果率来计算。 #### 机会均等差异为 平等机会差异 (EOD) 与其他两个分类模型偏差指标类似。EOD 比较某个功能中各组的最高和最低真阳性率。 ### 回归和时间序列模型 在回归和时间序列模型中，偏差通过比较模型在其预测中犯错误的频率来衡量，使用奇偶比来确定预测结果的公平性。 关注以下偏差指标，这些指标使用常用于评估模型准确度的错误指标计算： * MAE 奇偶比 [MAE](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/scoring-regression.htm#MAE) * MSE 奇偶比 [MSE](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/scoring-regression.htm#MSE) * RMSE 奇偶比 [RMSE](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/scoring-regression.htm#RMSE) * R2 间隙 [R2](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/scoring-regression.htm#R2) * MASE 奇偶比 [MASE](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/scoring-time-series.htm#MASE) * MAPE 奇偶比 [MAPE](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/scoring-time-series.htm#MAPE) * SMAPE 奇偶比 [SMAPE](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/scoring-time-series.htm#SMAPE) ## 偏差指标的可接受值 偏差指标—可接受的范围和值 | 偏差指标 | 偏差类别 | 适用模型类型 | 可接受值 | | --- | --- | --- | --- | | 表示率奇偶比 | 数据偏差 | 全部 | 理想值：介于 0.8 和 1 之间。

较低的比率表示表示不均衡。 | | 条件分布奇偶比 | 数据偏差 | 全部 | 理想值：介于 0.8 和 1 之间。

较低的比率表示不成比例的代表性。 | | 统计奇偶性差异 (SPD) | 模型偏差 | 二分类、多类别分类 | 理想值：0。

高于 0.2 的值是存在不公平的强烈信号。 | | 差异影响 (DI) | 模型偏差 | 二分类、多类别分类 | 理想值：1。

低于 0.8 的值表明存在不公平。 | | 机会均等差异为 (EOD) | 模型偏差 | 二分类、多类别分类 | 理想值：0。

值高于 0.1 表示不公平。 | | MAE 奇偶比 | 模型偏差 | 回归 | 理想值：介于 0.8 和 1 之间。

值高于 1.25 表示不公平。 | | MSE 奇偶比 | 模型偏差 | 回归 | 理想值：介于 0.8 和 1 之间。

高于 1.25 的值表示不公平。 | | RMSE 奇偶比 | 模型偏差 | 回归 | 理想值：介于 0.8 和 1 之间。

高于 1.25 的值表示不公平。 | | R2 间隙 | 模型偏差 | 回归 | 理想值：0。

高于 0.2 的值表示不公平。 | | MASE 奇偶比 | 模型偏差 | 时间序列 | 高于 1.25 的值表示不公平。 | | MAPE 奇偶比 | 模型偏差 | 时间序列 | 高于 1.25 的值表示不公平。 | | SMAPE 奇偶比 | 模型偏差 | 时间序列 | 高于 1.25 的值表示不公平。 | ## 配置偏差检测 偏差检测在实验版本中针对每个训练功能进行配置。 执行以下操作： 1. 在机器学习实验中，在训练配置面板中展开偏差。 2. 在选择用于偏差检测的特性之前，（可选）单击获取建议以使用生成式 AI 建议可能包含偏差数据的特性。请参阅[使用生成式 AI 推荐用于偏差检测的功能](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/bias-detection.htm#UsingAI)。 3. 选择或取消选择您要对其运行偏差检测的任何特性。 或者，在the 架构视图 icon中为所需功能开启偏差检测。 ### 使用生成式 AI 推荐用于偏差检测的功能 您可以使用与大型语言模型 (LLM) 的内置集成，在运行实验之前推荐可能敏感的功能。 工作方式 * 当您点击获取建议时，LLM 会扫描功能名称和数据样本，以检查您的哪些功能建议用于偏差检测。 * 建议是根据推理请求生成的，这些请求可能在您的 Qlik Cloud 租户区域之外进行处理。 信息注释无论处于静态还是传输中，您的数据始终加密。 * 获取建议后，您可以查看每项建议的理由。例如，您可以查看是否建议某个功能是由于潜在的地理偏差。 * LLM 的建议是英文的。 点击 获取建议，使用 AI 获取建议的功能，以便在其上运行偏差检测。 点击 获取建议，使用 AI 获取建议的功能，以便在其上运行偏差检测。 点击 获取建议获取建议，使用 AI 获取建议的功能，以便在其上运行偏差检测。 ![审查 AI 建议的功能，以便在其上运行偏差检测。](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Resources/Images/ui_bias-llm.png) 管理要求 * AI 功能（即跨区域推理）必须由租户管理员启用，此功能才能可用。这是在 Administration 活动中心完成的。 有关更多信息，请参阅[启用跨区域推理](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/Admin/cross-region-data-processing.htm)。 * 除了配置实验的权限之外，用户还必须拥有 管理 ML 实验 权限，并将其设置为 允许，在允许使用 GenAI 的情况下。有关更多信息，请参阅[在 ML 实验中使用 AI 工具](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/who-can-work-with-automl.htm#CreateUseExpAI)。 ## 偏差结果的快速分析 训练完成后，您可以在模型选项卡中快速概览偏差检测结果。 警告注释 Qlik 不保证任何偏差检测结果的准确度、完整性或可靠性，并且不确保符合任何地方、州、联邦或国际法律、法规或行业标准。用户承担基于工具输出所采取的任何行动的所有风险和责任，该输出不应替代专业的法律建议或独立的人工审计。 向下滚动快速分析项以找到偏差检测。使用the 下拉箭头 icon图标展开部分。您可以分析可能存在数据和模型偏差的功能。 在模型选项卡中使用偏差检测部分分析数据偏差。 在模型选项卡中使用偏差检测部分分析数据偏差。 在模型模型选项卡中使用偏差检测偏差检测部分分析数据偏差。 ![在“模型”选项卡中使用“偏差检测”部分分析数据偏差。](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Resources/Images/ui_ml-quick-analysis-data-bias.png) ### 注释 * 受偏好组是基于偏差指标，在数据或目标的预测结果中过度表示的目标值或范围。受损害组是基于偏差指标，在数据或目标的预测结果中代表性不足的目标值或范围。 有关如何使用偏差指标的信息，请参阅[偏差指标的可接受值](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/bias-detection.htm#Metrics)。 括号中的数字描述了用于计算指标的条件。例如，如果指标是均等机会差异 (EOD)，女性 (10%) 和男性 (80%) 表示男性的真阳性率为 80%，女性的真阳性率为 10%。 * 目标结果 指模型预测的目标列的值。 * 并非所有偏差指标和值都显示在 模型 选项卡中，因为空间有限。例如： * 根据指标和模型类型，某些指标和组可能只包含最小值和最大值。 * 如果多个指标超出某个功能的偏差阈值，则显示表示最高程度不公平的指标。 * 对于多类别分类模型中的有偏见特性，仅显示表示最高程度不公平的指标。 * 更详细的信息可在分析选项卡和模型训练报告中获取。请参阅[偏见结果的详细分析](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/bias-detection.htm#Detailed)。 * 有关本部分中术语的更多信息，请参阅[该页面上的术语](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/bias-detection.htm#Terminology)。 ## 偏见结果的详细分析 您可以在分析选项卡中深入了解偏见结果。 警告注释 Qlik 不保证任何偏差检测结果的准确度、完整性或可靠性，并且不确保符合任何地方、州、联邦或国际法律、法规或行业标准。用户承担基于工具输出所采取的任何行动的所有风险和责任，该输出不应替代专业的法律建议或独立的人工审计。 执行以下操作： 1. 在机器学习实验中，选择一个模型并转到分析选项卡。 2. 打开偏差工作表。 3. 根据所需的分析，在数据偏差和模型偏差之间进行选择。 4. 在具有潜在偏差的特性表中，选择一个特性。 指示可能偏差的图表和指标以红色背景显示。您可以通过在可视化中单击和绘制来选择功能。 表中指标对于与标准功能对应的偏差指标是静态的。对于未来功能，偏差指标会根据[时间序列组](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/bias-detection.htm#Terminology)选择动态变化。 分析选项卡显示了针对所选功能的模型偏差分析。图表和指标的红色背景表示可能存在偏差。 分析选项卡显示了针对所选功能的模型偏差分析。图表和指标的红色背景表示可能存在偏差。 分析分析选项卡显示了针对所选功能的模型偏差分析。图表和指标的红色背景表示可能存在偏差。 ![在“分析”选项卡中使用“偏差”工作表以精细方式分析模型偏差。](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Resources/Images/ui_ml-detail-analysis-model-bias.png) 有关导航详细模型分析的更多信息，请参阅[执行 详细的模型分析](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/analyze-models-detailed.htm)。 ### 训练报告中的偏差结果 偏差指标也呈现在 ML 训练报告中。它们包含在报告中专门的偏差部分。 关于训练报告的更多信息，请参阅[下载 ML 训练报告](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/training-report.htm)。 ## 解决偏差 在分析了模型的偏差检测结果后，您可能需要执行以下任何操作： * 在删除有偏差的特性后，运行新的实验版本。 [配置新版本](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/refining-models.htm#Configur) * 避免部署显示偏差的模型，而是部署满足偏差指标推荐标准的模型。 [部署模型](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/deploying-models.htm) * 更新您的数据集，以纠正任何不当的数据收集或解决不平等的表示率。 [准备用于训练的数据集](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/dataset-preparation.htm) * 使用结构化框架重新定义您的机器学习问题。例如，如果您的原始机器学习问题本身就存在偏差，那么模型在创建公平预测方面可能总是不可靠的。 [定义机器学习问题](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/machine-learning-framework.htm) [使用多变量时间序列预测](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/machine-learning-framework-time-series.htm) ## 该页面上的术语 在此页面上，以及在Qlik Predict中，“组”是一个根据上下文具有不同含义的术语： * “组”是指正在分析偏差的功能中的值或范围。例如，婚姻状况特性在训练数据中可能有四种可能的分组：已婚、离婚、分居或丧偶。 * 在时间序列实验中，“分组”是指允许针对兼容特性的特定值跟踪目标结果的功能。在此页面上，这些分组被称为“时间序列分组”。有关这些分组的更多信息，请参阅 [组](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/machine-learning-framework-time-series.htm#Groups)。 ## 限制 * 如果启用偏差检测，则训练数据集大小存在一些限制。请参阅[训练数据集和分析限制](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/ml-limitations-capacities.htm#DatasetSizeCapacities)。 * 您无法激活以下项的偏差检测： * 目标特性。 * 自由文本特性（即使特性类型更改为分类）。 * 在时间序列实验中用作日期索引的日期特性。 * 自动工程日期特性。您可以在这些特性上运行偏差检测，但不能独立激活它们。相反，激活父日期功能以进行偏差检测，并确保将自动工程化的日期功能包含在训练中。 ## 了解详情 * [配置实验](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/configuring-experiments.htm) * [执行快速模型分析](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/analyze-models-quick.htm) * [执行 详细的模型分析](https://help.qlik.com/zh-CN/cloud-services/Subsystems/Hub/Content/Sense_Hub/AutoML/analyze-models-detailed.htm)