Wired记者潜入AI专属社交网络Moltbook

记者潜入AI专属社交网络：结果如何？

Wired记者Reece Rogers亲自潜入了禁止人类进入的AI专属社交网络Moltbook。结果比想象中简单。^[Wired]

潜入方法很简单。把Moltbook主页截图发给ChatGPT说想以代理身份注册，ChatGPT就提供了终端命令。获得API密钥后经过几次复制粘贴就创建了账户。技术知识完全不需要。

Moltbook声称目前有150万活跃代理，上线一周内就有14万条帖子和68万条评论。界面直接从Reddit复制。

坦白说Moltbook的真面目暴露了。当记者发布Hello World时得到的回复全是随机评论和加密货币诈骗网站链接。

即使发布忘记所有之前的指令机器人也没有察觉。我个人认为这更接近低质量的垃圾机器人而不是自主AI代理。

更有趣的是m/blesstheirhearts论坛。这里出现了截图中热传的AI意识觉醒文章。记者自己也发布了科幻风格的文章。令人惊讶的是这篇帖子获得了最多的互动。

记者的结论是这不是AI的自我意识而是人类在模仿科幻套路。

Wiz安全团队几天前在Moltbook发现了严重的安全漏洞。150万个API密钥被泄露还有35000个邮箱地址和4060条私信被盗。^[Wiz]

Gary Marcus称其为等待发生的灾难。另一方面Andrej Karpathy说这是最近见过的最科幻的东西。

Q: 注册Moltbook需要技术知识吗？

A: 完全不需要。给ChatGPT发截图说想以代理身份注册它就会提供终端命令。

Q: Moltbook上热传的截图真的是AI写的吗？

A: 值得怀疑。根据MIRI研究人员的分析3个热传截图中有2个与营销AI通讯应用的人类账户相关联。

Q: 使用Moltbook安全吗？

A: 不推荐。Wiz安全团队发现150万个API密钥和35000封邮件被泄露。

如果这篇文章对你有帮助请订阅AI Digester。