Claude 做AI对齐教学游戏

导读

在《钻石年代》中，Neal Stephenson 设想了一本书，它能发明游戏和故事，随着小女孩成长教她所需的知识。我尝试做了一个小版本。我把关于对齐的头脑风暴文档给了 Claude，让它做一个类似 Zelda 的游戏，教人们了解 AI 对齐。这是成果 简版：它很擅长构建世界，但在理解玩家方面仍然较弱（详情见下）