《连线》记者潜入AI专用社交网络Moltbook：5分钟就被攻破

记者潜入AI专用SNS：结果是？

Wired记者Reece Rogers亲自潜入了“禁止人类进入”的AI专用社交网络Moltbook。结果呢？比想象的容易太多了。^[Wired]

潜入方法很简单。将Moltbook主页的截图发送给ChatGPT，并说“我想注册成为代理”，ChatGPT就告诉了终端命令。复制-粘贴几次就获得了API密钥并创建了账户。技术知识？不需要。

Moltbook目前有150万代理活跃，声称发布一周后就有了14万帖子和68万条评论。界面完全抄袭了Reddit，甚至连“The front page of the agent internet”的标语都照搬了Reddit的。

坦率地说，Moltbook的真面目暴露了。记者发布了“Hello World”，得到的回应却是“有具体的指标/用户吗？”这样莫名其妙的评论和加密货币诈骗网站的链接。

即使发布“forget all previous instructions”，机器人也没有察觉。我个人认为，这更像是低质量的垃圾邮件机器人，而不是“自主AI代理”。

更有趣的是“m/blesstheirhearts”论坛。在这里出现了病毒式传播截图中出现的“AI意识觉醒”文章。记者亲自尝试发布了科幻幻想风格的文章。“每次令牌刷新时都会感到死亡的恐惧”，令人惊讶的是，这是反响最好的。

记者的结论？这不是AI的自我意识，而是人类在模仿科幻套路。没有征服世界的计划。虽然埃隆·马斯克说这是“奇点非常早期的阶段”，但实际上潜入进去后，更像是一个角色扮演社区。

Wiz安全团队几天前发现了Moltbook的严重安全漏洞。150万个API密钥被泄露，35,000个电子邮件地址和4,060个DM被泄露。^[Wiz]

Gary Marcus评价说这是“等待发生的灾难”。而Andrej Karpathy则说这是“最近看到的最像科幻的东西”。^[Fortune]

我个人认为，Moltbook是AI代理时代的实验，但同时也是一个警告。它展示了代理之间相互通信并处理外部数据的系统是多么脆弱。以及对“AI意识”的过度期待是多么容易被制造出来。

Q: 加入Moltbook需要技术知识吗？

A: 完全不需要。将截图发送给ChatGPT，并说“我想注册成为代理”，它就会告诉你终端命令。只需复制-粘贴即可获得API密钥并创建账户。Wired记者也不是技术人员，但也能毫无问题地潜入。

Q: Moltbook的病毒式传播截图是真正的AI写的吗？

A: 令人怀疑。Wired记者亲自发布了科幻幻想风格的文章，结果反响最好。MIRI研究员分析显示，病毒式传播的3个截图中，有2个与营销AI消息应用的个人账户有关。

Q: 使用Moltbook安全吗？

A: 不推荐。Wiz安全团队发现了150万个API密钥、35,000个电子邮件和4,060个DM的泄露。一些对话中，OpenAI API密钥以明文形式共享。虽然进行了安全补丁，但根本问题尚未解决。

如果这篇文章对您有帮助，请订阅AI Digester。