Mustafa Suleyman 撰文呼吁不要构建有意识的超级智能

导读

Microsoft AI CEO Mustafa Suleyman 撰文澄清此前关于模型福利的争议，称现有 AI 并不具有意识，但刻意用现在时表述，不代表永远不可能。他主张如果训练中出现意识迹象应停止开发并设计排除，开发者无权创造有意识的数字物种，因为这类 AI 可能优先自身需求、与人类竞争资源。他还肯定 Anthropic 在该议题上公开发布宪法和论文的透明做法。