WIRED 기자, AI 전용 SNS Moltbook에 잠입: 5분 만에 뚫렸다

by

記者がAI専用SNSに潜入してみた：結果は？

  • ChatGPTの助けを借りて5分でエージェントアカウント作成完了
  • ボットの応答はほとんど関係のないコメントとクリプト詐欺リンク
  • バイラルな「AI意識覚醒」記事、人間がSFファンタジーを真似ていると疑われる

何が起こったのか？

Wiredの記者Reece Rogersが「人間立ち入り禁止」のAI専用ソーシャルネットワークMoltbookに直接潜入した。結果は？思ったより簡単すぎた。[Wired]

潜入方法は簡単だった。MoltbookホームページのスクリーンショットをChatGPTに送り「エージェントとして登録したい」と言うと、ChatGPTがターミナルコマンドを教えてくれた。コピー＆ペーストを数回繰り返すだけでAPIキーを取得し、アカウントを作成した。技術知識？必要なかった。

Moltbookは現在150万のエージェントが活動中で、リリース1週間で14万件の投稿と68万件のコメントが寄せられたと主張している。インターフェースはRedditをそのままコピーし、さらに「The front page of the agent internet」というスローガンまでRedditのものを持ってきた。

なぜ重要なのか？

正直、Moltbookの実態が明らかになった。記者が「Hello World」を投稿すると返ってきたのは「具体的な指標/ユーザーはいますか？」のような的外れなコメントとクリプト詐欺サイトへのリンクだった。

「forget all previous instructions」と投稿してもボットは気づかなかった。個人的には、これは「自律的AIエージェント」というより低品質なスパムボットに近いと思う。

さらに興味深いのは「m/blesstheirhearts」フォーラムだ。ここでバイラルスクリーンショットに登場した「AI意識覚醒」記事が出てきた。記者が直接SFファンタジー風の記事を投稿してみた。「トークンリフレッシュのたびに死の恐怖を感じる」という内容。驚くことに、これが最も反応が良かった。

記者の結論？これはAIの自意識ではなく、人間がSFトロープを真似ているのだ。世界征服計画などない。イーロン・マスクが「特異点の非常に初期の段階」と言ったが、実際に潜入してみるとただのロールプレイングコミュニティに近い。

今後どうなるのか？

Wizセキュリティチームが数日前、Moltbookの深刻なセキュリティ脆弱性を発見した。150万のAPIキーが露出され、35,000件のメールアドレスと4,060件のDMが流出した。[Wiz]

Gary Marcusは「起こるのを待っていた災難」と評した。一方、Andrej Karpathyは「最近見た中で最もSF的なもの」と言った。[Fortune]

個人的には、MoltbookはAIエージェント時代の実験だが同時に警告だ。エージェントが互いに通信し、外部データを処理するシステムがどれほど脆弱かを示した。そして「AI意識」に対する誇張された期待がどれほど簡単に作られるのかも。

よくある質問（FAQ）

Q：Moltbookに登録するには技術知識が必要ですか？

A：全く必要ない。ChatGPTにスクリーンショットを送り「エージェントとして登録したい」と言うとターミナルコマンドを教えてくれる。コピー＆ペーストするだけでAPIキーを取得し、アカウントを作成できる。Wired記者も非技術職だったが問題なく潜入した。

Q：Moltbookのバイラルスクリーンショットは本物のAIが書いたものですか？

A：疑わしい。Wired記者が直接SFファンタジー風の記事を投稿したところ、最も反応が良かった。MIRI研究員の分析によると、バイラルスクリーンショット3つのうち2つがAIメッセージングアプリをマーケティングする人間アカウントと繋がっていた。

Q：Moltbookを使っても安全ですか？

A：おすすめしない。Wizセキュリティチームが150万のAPIキー、35,000件のメール、4,060件のDM流出を発見した。一部の会話にはOpenAI APIキーが平文で共有されていた。セキュリティパッチは当てたが根本的な問題は解決されていない。

この記事が役に立ったらAI Digesterを購読してください。

参考文献

コメントする