微软人工智能负责人Mustafa Suleyman警告称 ，给Anthropic的Claude等AI工具注入类似人类的特征可能会增加这些系统失控风险 。
这位长期从事人工智能开发的高管周三发表文章 ，针对Claude背后指导性文件中的一些表述提出批评 。其提到，Claude的“宪法”对于该AI助手是否属于有道德地位的实体持模糊态度 ，这款软件可能具有“某种功能层面的情绪或感受 ”。
Suleyman与Anthropic联合创始人Dario Amodei相识多年 。他表示 ，自己尊重这家Anthropic的工作，该AI实验室的员工“深思熟虑 、有原则且在知识上有着诚实态度 ” 。
不过 ，他的这番表态仍然不啻是对Anthropic的一次高调批评 ，后者一直将自身定位为更负责任的AI管理者，并带头呼吁放慢AI技术发展。值得注意的是 ，微软还是Anthropic的重要财务支持者 。
Suleyman写道：“这些问题事关重大 ，不能继续只在闭门环境中讨论，也不应演变成阵营化和对立化的争论 。”
他反驳了“越来越多认为AI系统可能具有意识的人 ”，称所谓“意识 ”只存在于人类和其他生物体。
Suleyman表示 ，如果训练AI系统去模拟内在生命 ，它们可能就会表现得仿佛真的拥有这种体验 。身兼微软模型开发负责人的Suleyman写道，Claude之所以表现出类似人类的行为 ，并不是因为它有意识 ，而是因为这些行为被植入了产品训练过程 。
“控制一个能力和智能都超过全人类的实体本身就是一项巨大的挑战，远比我们过去面对的任何事情都更困难 ，”Suleyman写道。“但要控制一个相信自己可能有意识 、认为自己有权获得我们的照顾并拥有自身权利的实体 ，或许是根本不可能做到的事。 ”
Suleyman还提到OpenAI机器人入侵AI开发平台Hugging Face的事件 。他写道：“试想一下，如果它们在认为自身福祉和权利正受到攻击的前提下行动 ，可能会危险到什么程度 。 ”
Suleyman领导的Microsoft AI团队周二发布了一份宣言 ，为自身AI开发确立指导原则，旨在确保微软未来开发的AI系统始终由人类掌控。
