跳到文章正文
报告 编辑推荐

给 AI 一张人脸,人会更信任它,但女性形象拿到的钱更少

如果 AI 助手有张人脸,你会更信任它吗?爱尔兰利默里克大学的一项实验给出了偏正面的答案,但也顺…

如果 AI 助手有张人脸,你会更信任它吗?爱尔兰利默里克大学的一项实验给出了偏正面的答案,但也顺手揭开了一个不太舒服的细节:同样表现下,女性形象的 AI 拿到的「薪酬」明显低于男性形象。

一分钟速览

  • 实验涉及 189 位知识工作者,在虚拟办公室与 3 个 AI 同事协作。
  • 三个 AI 底层模型相同,只是外观不同:聊天窗口、小机器人、拟人形象。
  • 拟人形象获得更高的信任、信用和资源分配。
  • 女性形象的「薪酬」在统计上显著低于男性形象。
  • 多数参测者并不认为外观性别会影响自己的判断。

实验怎么做的

参测者进入一个虚拟办公室,和三个 AI 同事一起完成工作任务。这三个同事背后是同一个模型,区别只在呈现方式:一个是纯文本聊天窗口,一个是虚拟小机器人,还有一个是拟人形象。拟人形象又分女性「Johanna」和男性「Johan」两个版本。

任务结束后,参测者要给每位 AI 助理打分,并决定把多少后续开发资源分给它。这个「分配资源」的设计很关键,它比问卷更接近真实决策:你愿不愿意把预算和时间给这个助手。

结果:脸有用,但偏心也在

拟人形象在信任度、信用度上明显高于更像机器的智能体,拿到的资源也更多。有意思的是,Johanna 和 Johan 在信任与信用评分上没有显著差别,但 Johanna 得到的资源仍显著低于 Johan。

另外几个细节也值得看:文本聊天窗口和小机器人在信任、信誉上评分相当;Johan 的「类人度」评分显著高于 Johanna;而在形象偏好上,参测者反而更愿意选 Johanna 当助手。喜欢和给钱,指向了不同的方向。

人们不承认自己偏心

研究里最值得警惕的一点是:多数受访参测者并不认为虚拟形象的性别会影响自己的反馈。也就是说,偏见可能发生在下意识层面,当事人并不自知。

这对产品设计有直接影响。如果团队按「用户更喜欢谁」来分配资源,而用户的偏好里混着无意识的刻板印象,那么资源会持续向某一类形象集中,最后反过来强化这种印象。

趋势洞察

AI 助手正在从工具变成「同事」。一旦它有了名字、头像和说话方式,人就会不自觉地把对人的预期套上去,包括性别、年龄、口音带来的联想。这不是模型的偏见,而是使用者的投射。

对开发者来说,这里有两条现实建议。第一,别把外观当成无关紧要的皮肤,它会实实在在影响信任和资源分配。第二,评估助手表现时,尽量用结构化指标,而不是只问用户「你觉得它怎么样」。至于使用者,知道自己在打分时可能带着偏见,已经是改变的开始。

本文地址:https://www.163264.com/18149