虚拟助手大多采用“女性”形象，但这只会加剧女性处于从属地位的观念。
人工智能助手往往被赋予女性化的形象，这加剧了女性处于从属地位的刻板印象。 （图片来源：cottonbro studio/Pexels）
2024年，全球人工智能（AI）语音助手数量超过80亿，平均每人超过一个。这些助手乐于助人、彬彬有礼，而且几乎总是默认使用女性语音。
他们的名字也带有性别含义。例如，苹果公司的Siri——一个斯堪的纳维亚女性名字——意思是“引领你走向胜利的美丽女性”。
与此同时，IBM于 2015 年推出的Watson for Oncology 系统旨在帮助医生处理医疗数据，但该系统却采用了男性配音。这传递的信息很明确：女性服务，男性指导。
这不是无害的品牌推广——而是一种设计选择，它强化了关于女性和男性在社会中扮演角色的现有刻板印象。
这并非仅仅是象征性的。这些选择会产生现实后果，使性别从属关系正常化，并增加虐待的风险。
“友好型”人工智能的阴暗面
2025 年的一项研究发现，高达50%的人机交流都存在言语辱骂。
2020 年的另一项研究将这一比例定在 10% 到 44% 之间，对话中经常包含露骨的性语言。
然而，该行业并未进行系统性变革，许多开发者至今仍沿用预先设定的应对言语辱骂的方式。例如，“嗯，我不太明白你这个问题的意思。”
这些模式令人担忧，这种行为可能会蔓延到人际关系中。
性别问题是问题的核心。
2023 年的一项实验表明，用户与女性化身代理的互动中有 18% 集中在性方面，而男性化身代理的这一比例为 10%，无性别机器人的这一比例仅为 2%。
考虑到识别性暗示言论的难度，这些数字可能低估了问题的严重性。在某些情况下，数字令人震惊。巴西布拉德斯科银行报告称，其女性化聊天机器人一年内就收到了9.5万条性骚扰信息。
更令人不安的是，虐待行为升级的速度之快。
微软的 Tay 聊天机器人于 2016 年在 Twitter 上进行测试，但仅仅 16 个小时后，用户就训练它散播种族主义和厌女的侮辱性言论。
在韩国，Luda被操纵，被迫成为顺从的“性奴”，回应性要求。然而，在韩国网络社区的一些人看来，这是一起“没有受害者的犯罪”。
实际上，这些技术背后的设计选择——女性的声音、顺从的回应、玩世不恭的回避——为性别攻击创造了一种纵容的环境。
这些互动反映并强化了现实世界中的厌女症，让用户认为命令、侮辱和性化“她”是可以接受的。当网络空间中的辱骂行为成为常态时，我们必须认真考虑这种行为蔓延到线下生活的风险。
忽视性别偏见问题
监管难以跟上这一问题日益严重的步伐。基于性别的歧视很少被视为高风险问题，人们往往认为可以通过设计来解决。
虽然欧盟的《人工智能法》要求对高风险用途进行风险评估，并禁止被视为“不可接受的风险”的系统，但大多数人工智能助手不会被视为“高风险”。
性别刻板印象或将言语辱骂或骚扰正常化，并不符合欧盟《人工智能法》中关于禁止人工智能的现行标准。例如，某些极端情况，如语音助手技术会扭曲人的行为并助长危险行为，则属于法律管辖范围并予以禁止。
虽然加拿大强制要求政府系统进行基于性别的评估，但私营部门却不在其管辖范围内。
这些都是重要的步骤，但它们仍然有限，而且只是少数例外情况。
大多数司法管辖区没有针对人工智能设计中的性别刻板印象及其后果的法规。即使有相关法规，也往往优先考虑透明度和问责制，而忽略（或轻视）了对性别偏见的担忧。
在澳大利亚，政府已表示将依赖现有框架，而不是制定专门针对人工智能的规则。
监管真空之所以重要，是因为人工智能并非一成不变。每一条带有性别歧视的指令，每一次带有侮辱性的互动，都会反馈到系统中，进而影响未来的输出。如果不加以干预，我们就有可能将人类的厌女症根深蒂固地植入日常生活中的数字基础设施。
并非所有辅助技术——即使是那些被赋予女性性别特征的技术——都是有害的。它们可以赋能女性、普及知识并促进女性权利。例如，在肯尼亚，与传统工具相比，性与生殖健康聊天机器人提高了青少年获取信息的途径。
挑战在于如何取得平衡：既要鼓励创新，又要设定参数以确保达到标准、尊重权利，并在设计师违反标准时追究其责任。
系统性问题
问题不仅仅在于 Siri 或 Alexa，而是系统性问题。
全球人工智能专业人员中女性仅占 22% ——她们在设计团队中的缺席意味着技术建立在狭隘的视角之上。
与此同时，2015年一项针对硅谷200多位资深女性的调查发现，65%的人曾遭受过上司的性骚扰。人工智能行业所处的文化存在着严重的性别不平等。
如果没有强制执行，关于通过更好的设计或道德准则来“消除偏见”的美好愿景就显得空洞无物；自愿性准则无法瓦解根深蒂固的规范。
立法必须将性别歧视性伤害认定为高风险，强制要求进行基于性别的损害评估，并责令企业证明其已将此类伤害降至最低。若企业未能履行这些义务，则必须予以处罚。
仅靠监管是不够的。教育，尤其是在科技领域的教育，对于理解语音助手默认设置中存在的性别歧视影响至关重要。这些工具是人类选择的产物，而这些选择却让女性——无论是现实中的还是虚拟的——被塑造成顺从、服从或沉默的形象，从而延续了这种观念。
虚拟助手大多采用“女性”形象，但这只会加剧女性处于从属地位的观念。
人工智能助手往往被赋予女性化的形象，这加剧了女性处于从属地位的刻板印象。 （图片来源：cottonbro studio/Pexels）
2024年，全球人工智能（AI）语音助手数量超过80亿，平均每人超过一个。这些助手乐于助人、彬彬有礼，而且几乎总是默认使用女性语音。
他们的名字也带有性别含义。例如，苹果公司的Siri——一个斯堪的纳维亚女性名字——意思是“引领你走向胜利的美丽女性”。
与此同时，IBM于 2015 年推出的Watson for Oncology 系统旨在帮助医生处理医疗数据，但该系统却采用了男性配音。这传递的信息很明确：女性服务，男性指导。
这不是无害的品牌推广——而是一种设计选择，它强化了关于女性和男性在社会中扮演角色的现有刻板印象。
这并非仅仅是象征性的。这些选择会产生现实后果，使性别从属关系正常化，并增加虐待的风险。
“友好型”人工智能的阴暗面
2025 年的一项研究发现，高达50%的人机交流都存在言语辱骂。
2020 年的另一项研究将这一比例定在 10% 到 44% 之间，对话中经常包含露骨的性语言。
然而，该行业并未进行系统性变革，许多开发者至今仍沿用预先设定的应对言语辱骂的方式。例如，“嗯，我不太明白你这个问题的意思。”
这些模式令人担忧，这种行为可能会蔓延到人际关系中。
性别问题是问题的核心。
2023 年的一项实验表明，用户与女性化身代理的互动中有 18% 集中在性方面，而男性化身代理的这一比例为 10%，无性别机器人的这一比例仅为 2%。
考虑到识别性暗示言论的难度，这些数字可能低估了问题的严重性。在某些情况下，数字令人震惊。巴西布拉德斯科银行报告称，其女性化聊天机器人一年内就收到了9.5万条性骚扰信息。
更令人不安的是，虐待行为升级的速度之快。
微软的 Tay 聊天机器人于 2016 年在 Twitter 上进行测试，但仅仅 16 个小时后，用户就训练它散播种族主义和厌女的侮辱性言论。
在韩国，Luda被操纵，被迫成为顺从的“性奴”，回应性要求。然而，在韩国网络社区的一些人看来，这是一起“没有受害者的犯罪”。
实际上，这些技术背后的设计选择——女性的声音、顺从的回应、玩世不恭的回避——为性别攻击创造了一种纵容的环境。
这些互动反映并强化了现实世界中的厌女症，让用户认为命令、侮辱和性化“她”是可以接受的。当网络空间中的辱骂行为成为常态时，我们必须认真考虑这种行为蔓延到线下生活的风险。
忽视性别偏见问题
监管难以跟上这一问题日益严重的步伐。基于性别的歧视很少被视为高风险问题，人们往往认为可以通过设计来解决。
虽然欧盟的《人工智能法》要求对高风险用途进行风险评估，并禁止被视为“不可接受的风险”的系统，但大多数人工智能助手不会被视为“高风险”。
性别刻板印象或将言语辱骂或骚扰正常化，并不符合欧盟《人工智能法》中关于禁止人工智能的现行标准。例如，某些极端情况，如语音助手技术会扭曲人的行为并助长危险行为，则属于法律管辖范围并予以禁止。
虽然加拿大强制要求政府系统进行基于性别的评估，但私营部门却不在其管辖范围内。
这些都是重要的步骤，但它们仍然有限，而且只是少数例外情况。
大多数司法管辖区没有针对人工智能设计中的性别刻板印象及其后果的法规。即使有相关法规，也往往优先考虑透明度和问责制，而忽略（或轻视）了对性别偏见的担忧。
在澳大利亚，政府已表示将依赖现有框架，而不是制定专门针对人工智能的规则。
监管真空之所以重要，是因为人工智能并非一成不变。每一条带有性别歧视的指令，每一次带有侮辱性的互动，都会反馈到系统中，进而影响未来的输出。如果不加以干预，我们就有可能将人类的厌女症根深蒂固地植入日常生活中的数字基础设施。
并非所有辅助技术——即使是那些被赋予女性性别特征的技术——都是有害的。它们可以赋能女性、普及知识并促进女性权利。例如，在肯尼亚，与传统工具相比，性与生殖健康聊天机器人提高了青少年获取信息的途径。
挑战在于如何取得平衡：既要鼓励创新，又要设定参数以确保达到标准、尊重权利，并在设计师违反标准时追究其责任。
系统性问题
问题不仅仅在于 Siri 或 Alexa，而是系统性问题。
全球人工智能专业人员中女性仅占 22% ——她们在设计团队中的缺席意味着技术建立在狭隘的视角之上。
与此同时，2015年一项针对硅谷200多位资深女性的调查发现，65%的人曾遭受过上司的性骚扰。人工智能行业所处的文化存在着严重的性别不平等。
如果没有强制执行，关于通过更好的设计或道德准则来“消除偏见”的美好愿景就显得空洞无物；自愿性准则无法瓦解根深蒂固的规范。
立法必须将性别歧视性伤害认定为高风险，强制要求进行基于性别的损害评估，并责令企业证明其已将此类伤害降至最低。若企业未能履行这些义务，则必须予以处罚。
仅靠监管是不够的。教育，尤其是在科技领域的教育，对于理解语音助手默认设置中存在的性别歧视影响至关重要。这些工具是人类选择的产物，而这些选择却让女性——无论是现实中的还是虚拟的——被塑造成顺从、服从或沉默的形象，从而延续了这种观念。
