行业/好文 编辑推荐
微软 AI 负责人苏莱曼:现在的模型没有意识,也不该有
苏莱曼发长文称 AI 模型不具备意识,若开发有意识的 AI 属于鲁莽,一旦出现迹象应呼吁全行业暂…
文章目录

微软 AI 负责人穆斯塔法·苏莱曼在社交平台发长文,明确表态:目前的 AI 模型不具备意识,人们应该让这种情况一直保持下去。
开发有意识的 AI 是鲁莽的
他的意思很直接:如果开发出有意识的 AI 在技术上可行,那这么做就是鲁莽的,不应该去做。假如训练过程中开始出现意识迹象,他会呼吁所有人暂停 AI 开发,直到能从设计层面把这些特性消除。
有证据就该公开
苏莱曼认为,只要有证据表明模型具备意识,就应该立刻向公众披露,让整个社会一起决定下一步怎么办,而不是由几家公司的研发团队私下判断。
八十亿人没有同意
他给出的理由很朴素:AI 开发者没有权利把一个有意识的新物种带到世界上,即使出发点是“为它的福祉考虑”。地球上 80 亿人没有同意参与这场实验,保护人们的道德权利、安全和福祉,是开发者首先要履行的义务。
这番话出现在大模型能力快速提升、外界对“机器意识”讨论升温的背景下。对普通用户来说,更实际的意义是:厂商在推进能力的同时,需要把边界和披露机制讲清楚。
本文地址:https://www.163264.com/18881

