人工智能怎样增强现有的人类偏见？
发布时间：2021-12-20 19:24:56 所属栏目：大数据 来源：互联网
导读：不幸的是，虽然我们已经能够更接近于人工地重新创造人类智能，但人工智能也表现出另一种独特的人类特征基于种族、民族或性别对某人的偏见。人工智能中的偏见并不是一个新概念。最近和过去都发现了医疗保
|
不幸的是，虽然我们已经能够更接近于人工地重新创造人类智能，但人工智能也表现出另一种独特的人类特征——基于种族、民族或性别对某人的偏见。人工智能中的偏见并不是一个新概念。最近和过去都发现了医疗保健、执法和招聘行业中存在偏见的算法示例。 因此，几个世纪以来的不容忍和歧视不断以一种或另一种形式出现，即使世界似乎正在朝着对所有人包容的方向发展。要了解人工智能如何强化长期存在的人类偏见，我们需要找出偏见潜入人工智能模型和神经网络的方式。 用于训练 AI 模型的有偏数据集 人工智能驱动的系统的决策仅反映用于模型训练的输入数据的类型。因此，如果 AI 模型吸收的数据集具有歧视性，则输出推荐或决策将遵循相同的趋势。在初始机器学习阶段，可以通过两种方式创建有偏差的 AI 模型。首先，如前所述，用于训练 AI 模型的数据（总体上）是狭窄且有偏见的。其次，由于给定数据集中的样本存在偏差，因此创建了判别算法。由于疏忽或因为从事训练过程的数据科学家本身保守、心胸狭窄，有偏见，输入数据可能很窄。 如上所述，机器训练的数据收集过程也可能存在偏差。在这种情况下，指定的 AI 治理官员会意识到所收集数据中的偏差，但仍会选择忽略它。例如，在收集与招生背景相关的数据时，学校可能只选择白人候选人。此外，学校可能只是拒绝为其他孩子提供学习机会。在可能是一个循环中，AI 模型可能会密切观察学校选择专门选择白人学生的做法。稍后，该模型将继承种族主义传统，因为其模式分析仅表明这是学校招生期间的正确行动方案。因此，尽管存在处理这一过程的尖端技术，但种族主义仍被多次强化。 除了种族或性别歧视，人工智能中的偏见甚至可能以对富人的优惠待遇的形式存在。因此，穷人在 AI 数据集中的代表性可能不足。在正在进行的 COVID-19 时代，甚至可以想象出一个这样的假设例子。一些国家开发了自己的移动应用程序，可用于跟踪感染病毒的人，并提醒任何特定区域的其他人与这些人保持距离。虽然该计划可能具有崇高的目的，但没有智能手机的个人将在应用程序中完全不可见。虽然这种类型的偏见不是任何人的错，但它首先违背了设计此类应用程序的目的。 综上所述，歧视性的训练数据和操作实践会直接导致人工智能系统和模型的偏差。  （编辑：温州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
