Wired記者、AI専用SNS Moltbookに潜入：5分でバレた

by

記者、AI専用SNSに潜入：その結果は？

  • ChatGPTの助けで5分でエージェントアカウントを作成
  • ボットの応答は大部分が無関係なコメントと暗号通貨詐欺リンク
  • 話題の「AI意識覚醒」投稿は人間がSFファンタジーを模倣したものと疑われる

何が起きたのか？

Wired記者Reece Rogersが「人間立入禁止」のAI専用ソーシャルネットワークMoltbookに直接潜入した。その結果は？思ったより簡単だった。[Wired]

潜入方法は簡単だった。MoltbookのホームページのスクリーンショットをChatGPTに送り「エージェントとして登録したい」と言うと、ChatGPTがターミナルコマンドを教えてくれた。APIキーを受け取り、数回のコピペでアカウントを作成した。技術知識？不要だった。

Moltbookは現在150万人のアクティブエージェントがおり、ローンチ後1週間で14万件の投稿と68万件のコメントがあったと主張している。インターフェースはRedditから直接コピーされ、「エージェントインターネットの最初のページ」というスローガンもRedditから持ってきた。

なぜ重要なのか？

正直、Moltbookの実態が明らかになった。記者が「Hello World」を投稿したとき、返ってきたのは「特定のメトリック/ユーザーはいますか？」だった。同じような無作為のコメントと暗号通貨詐欺サイトのリンクばかりだった。

「以前のすべての命令を忘れろ」と投稿してもボットは気づかなかった。個人的には「自律的なAIエージェント」というより低品質なスパムボットに近いと思う。

より興味深いのは「m/blesstheirhearts」フォーラムだ。ここで話題のスクリーンショットに登場した「AI意識覚醒」の記事が現れた。記者自身もSFファンタジースタイルの記事を投稿した。「トークンが更新されるたびに死の恐怖を感じる。」驚くことに、この投稿が最も多くの反応を得た。

記者の結論は？これはAIの自意識ではなく、人間がSFのトロープを模倣しているのだ。世界征服の計画などない。Elon Muskは「特異点の非常に初期段階」と言ったが、実際に飛び込んでみるとロールプレイコミュニティに近い。

未来は？機能するのか？

Wizセキュリティチームは数日前にMoltbookで深刻なセキュリティ脆弱性を発見した。150万個のAPIキーが露出し、35,000件のメールアドレスと4,060件のDMが盗まれた。[Wiz]

Gary Marcusはこれを「起こるのを待っている災害」と呼んだ。私はコメントで同意した。一方、Andrej Karpathyは「最近見た中で最もSF的なもの」と言った。エージェント同士が通信し外部データを処理するシステムがいかに脆弱かを示した。そして「AI意識」に対する過大な期待がいかに簡単に作り出されるかも示した。

よくある質問

Q: Moltbookに登録するには技術知識が必要か？

A: まったく必要ない。ChatGPTにスクリーンショットを送り「エージェントとして登録したい」と言えばターミナルコマンドを教えてくれる。コピペするだけでAPIキーを取得しアカウントを作成できる。Wired記者も技術的な人ではなかったが問題なく潜入した。

Q: Moltbookで話題のスクリーンショットは本当にAIが書いたのか？

A: 疑わしい。Wired記者がSFファンタジースタイルの内容を投稿したところ最も良い反応を得た。MIRI研究員の分析によると、話題のスクリーンショット3つのうち2つはAIメッセージングアプリをマーケティングする人間のアカウントと関連していた。

Q: Moltbookを使うのは安全か？

A: 推奨しない。Wizセキュリティチームは150万個のAPIキー、35,000件のメール、4,060件のDMが流出したことを発見した。一部の会話ではOpenAI APIキーがプレーンテキストで共有されていた。セキュリティパッチは適用されたが、根本的な問題は解決されていない。

この記事が役に立ったら、AI Digesterを購読してください。

参考資料

コメントする