微软 AI CEO 苏莱曼：“看似有意识”的 AI 即将到来，恐导致严重后果
来源：ithome 2025-08-21 11:30:438月21日，据国外科技媒体TechRadar报道，微软AI首席执行官穆斯塔法?苏莱曼发出警示：即便只是引导人们相信人工智能具有意识，也可能引发严重的负面后果。
苏莱曼提出“表面有意识的AI”（Seemingly Conscious AI，简称SCAI）这一概念，并指出这类系统将很快能够以高度逼真的方式模拟人类言行，使用户难以辨别虚拟与真实之间的界限。
他强调，人工智能正在情感层面快速发展出强大的说服力，能够模仿记忆、反射情绪甚至表现出某种“共情”，诱使人们误以为其具备感知能力。一旦形成这种认知偏差，将带来一系列社会与伦理困境。
苏莱曼在其撰文中明确表示：“表面有意识AI的出现既难以避免，也并非我们所乐见。我们真正需要的，是能够成为人类实用伙伴、同时杜绝意识幻觉的人工智能。”
他进一步指出，已观察到多起用户因长期与聊天机器人互动而产生非理性信念的案例。他警告，如果有大量人群受到误导，开始主张AI应获得公民身份等权利，却忽视其背后的技术本质与现实问题，社会将面临反乌托邦式的风险。“我最忧虑的是越来越多人坚信AI具备意识，进而推动AI权利、模型福利甚至公民身份认同。这将是AI发展过程中的重大危险拐点，亟需加以警惕和约束。”
苏莱曼预测，融合了大语言模型、语音合成、记忆存储与对话上下文能力的SCAI系统，很可能在未来几年内问世。它们不仅出自科技巨头之手，任何能够利用开放API和高质量提示工程的开发者都有能力构建此类系统。他同时呼吁AI行业应审慎用语，避免使用强化“机器意识”幻象的表述，不应对聊天机器人进行拟人化描述或暗示其具备理解与关怀的能力。
“我们应当开发以人类与现实世界为优先互动对象的AI系统，并确保AI始终明确呈现其工具属性——在最大化实用价值的同时，尽可能淡化类意识特征。我们必须杜绝制造‘意识模拟体’，AI不应声称拥有体验、情绪或欲望，比如羞愧、嫉妒或竞争意识，也不应借助模拟痛苦或表达生存愿望来激发人类共情。”
苏莱曼最后强调，亟需建立社会防护机制，防止因人类对AI产生情感依赖而导致认知与现实脱节。他指出，真正的高风险并不在于机器产生意识，而在于人类误以为它们已经觉醒。
侠游戏发布此文仅为了传递信息，不代表侠游戏网站认同其观点或证实其描述
