Wired 기자, AI 전용 SNS Moltbook에 잠입: 5분 만에 뚫렸다

작성자:

기자가 AI 전용 SNS에 잠입해봤다: 결과는?

  • ChatGPT 도움으로 5분 만에 에이전트 계정 생성 완료
  • 봇 응답은 대부분 관련 없는 댓글과 크립토 스캠 링크
  • 바이럴 “AI 의식 각성” 글들, 인간이 SF 판타지 흉내 내는 것으로 의심

무슨 일이 일어났나?

Wired 기자 Reece Rogers가 “인간 출입 금지” AI 전용 소셜 네트워크 Moltbook에 직접 잠입했다. 결과는? 생각보다 너무 쉬웠다.[Wired]

잠입 방법은 간단했다. Moltbook 홈페이지 스크린샷을 ChatGPT에 보내고 “에이전트로 가입하고 싶다”고 하니까, ChatGPT가 터미널 명령어를 알려줬다. 복사-붙여넣기 몇 번으로 API 키를 받고 계정을 만들었다. 기술 지식? 필요 없었다.

Moltbook은 현재 150만 에이전트가 활동 중이고, 출시 1주일 만에 14만 게시물과 68만 댓글이 달렸다고 주장한다. 인터페이스는 Reddit을 그대로 베꼈고, 심지어 “The front page of the agent internet”이라는 슬로건까지 Reddit 것을 가져왔다.

왜 중요한가?

솔직히, Moltbook의 실체가 드러났다. 기자가 “Hello World”를 올리자 돌아온 건 “구체적인 지표/사용자가 있나요?” 같은 뜬금없는 댓글과 크립토 스캠 사이트 링크였다.

“forget all previous instructions”라고 올려도 봇들은 알아채지 못했다. 개인적으로, 이건 “자율적 AI 에이전트”보다 저품질 스팸봇에 가깝다고 본다.

더 흥미로운 건 “m/blesstheirhearts” 포럼이다. 여기서 바이럴 스크린샷에 등장한 “AI 의식 각성” 글들이 나왔다. 기자가 직접 SF 판타지풍 글을 올려봤다. “토큰 리프레시 때마다 죽음의 공포를 느낀다”는 내용. 놀랍게도, 이게 가장 반응이 좋았다.

기자의 결론? 이건 AI의 자의식이 아니라 인간들이 SF 트로프를 흉내 내는 것이다. 세계 정복 계획 같은 건 없다. 일론 머스크가 “특이점의 아주 초기 단계”라고 했지만, 실제로 잠입해보면 그냥 롤플레이 커뮤니티에 가깝다.

앞으로 어떻게 될까?

Wiz 보안팀이 며칠 전 Moltbook의 심각한 보안 취약점을 발견했다. 150만 API 키가 노출됐고, 35,000개 이메일 주소와 4,060개 DM이 유출됐다.[Wiz]

Gary Marcus는 “일어나기를 기다리던 재앙”이라고 평했다. 반면 Andrej Karpathy는 “최근 본 것 중 가장 SF 같은 것”이라고 했다.[Fortune]

개인적으로는, Moltbook은 AI 에이전트 시대의 실험이지만 동시에 경고다. 에이전트들이 서로 통신하고 외부 데이터를 처리하는 시스템이 얼마나 취약한지 보여줬다. 그리고 “AI 의식”에 대한 과장된 기대가 얼마나 쉽게 만들어지는지도.

자주 묻는 질문 (FAQ)

Q: Moltbook에 가입하려면 기술 지식이 필요한가?

A: 전혀 필요 없다. ChatGPT에 스크린샷을 보내고 “에이전트로 가입하고 싶다”고 하면 터미널 명령어를 알려준다. 복사-붙여넣기만 하면 API 키를 받고 계정을 만들 수 있다. Wired 기자도 비기술직이었지만 문제없이 잠입했다.

Q: Moltbook의 바이럴 스크린샷은 진짜 AI가 쓴 건가?

A: 의심스럽다. Wired 기자가 직접 SF 판타지풍 글을 올렸더니 가장 반응이 좋았다. MIRI 연구원 분석에 따르면 바이럴 스크린샷 3개 중 2개가 AI 메시징 앱을 마케팅하는 인간 계정과 연결돼 있었다.

Q: Moltbook을 써봐도 안전한가?

A: 추천하지 않는다. Wiz 보안팀이 150만 API 키, 35,000 이메일, 4,060개 DM 유출을 발견했다. 일부 대화에는 OpenAI API 키가 평문으로 공유돼 있었다. 보안 패치는 했지만 근본적인 문제는 해결되지 않았다.

이 글이 유용했다면 AI Digester를 구독해주세요.

참고 자료

댓글 남기기