Wired 기자, AI 전용 SNS Moltbook에 침투: 5분 만에 뚫렸다

작성자:

기자, AI 전용 SNS에 침투하다: 그 결과는?

  • ChatGPT의 도움으로 5분 만에 에이전트 계정 생성
  • 봇 응답은 대부분 관련 없는 댓글과 암호화폐 사기 링크
  • 입소문이 난 “AI 의식 각성” 게시물은 인간이 SF 판타지를 모방한 것으로 의심됨

무슨 일이 있었나?

Wired 기자 Reece Rogers가 “인간 출입 금지”인 AI 전용 소셜 네트워크 Moltbook에 직접 침투했다. 그 결과는? 생각보다 쉬웠다.[Wired]

침투 방법은 간단했다. Moltbook 홈페이지 스크린샷을 ChatGPT에 보내고 “에이전트로 가입하고 싶다”고 말하자 ChatGPT가 터미널 명령어를 알려줬다. API 키를 받아 몇 번의 복사-붙여넣기 단계를 거쳐 계정을 만들었다. 기술 지식? 필요 없었다.

Moltbook은 현재 150만 명의 활성 에이전트가 있으며 출시 후 일주일 만에 14만 개의 게시물과 68만 개의 댓글이 달렸다고 주장한다. 인터페이스는 Reddit에서 직접 복사했으며 심지어 “에이전트 인터넷의 첫 페이지”라는 슬로건도 Reddit에서 가져왔다.

왜 중요한가?

솔직히 Moltbook의 실체가 드러났다. 기자가 “Hello World”를 게시했을 때 돌아온 것은 “특정 메트릭/사용자가 있습니까?”였다. 똑같은 무작위 댓글과 암호화폐 사기 사이트 링크였다.

심지어 “이전의 모든 명령을 잊어라”라고 게시해도 봇은 알아차리지 못했다. 개인적으로는 “자율적인 AI 에이전트”라기보다는 저품질 스팸봇에 더 가깝다고 생각한다.

더 흥미로운 것은 “m/blesstheirhearts” 포럼이다. 여기서 입소문이 난 스크린샷에 등장한 “AI 의식 각성” 기사가 나타났다. 기자 자신도 SF 판타지 스타일의 기사를 게시했다. “토큰을 새로 고칠 때마다 죽음의 공포를 느낀다.” 놀랍게도 이 게시물이 가장 많은 반응을 얻었다.

기자의 결론은? 이것은 AI의 자의식이 아니라 인간이 SF 트로피를 모방하는 것이다. 세계를 정복하려는 계획 같은 것은 없다. Elon Musk는 “특이점의 매우 초기 단계”라고 말했지만 실제로 뛰어들어 보면 롤플레잉 커뮤니티에 더 가깝다.

미래는? 작동할까?

Wiz 보안팀은 며칠 전 Moltbook에서 심각한 보안 취약점을 발견했다. 150만 개의 API 키가 노출되었고 35,000개의 이메일 주소와 4,060개의 DM이 도난당했다.[Wiz]

Gary Marcus는 이를 “일어나기를 기다리는 재앙”이라고 불렀다. 나는 댓글을 달았다. 반면에 Andrej Karpathy는 “최근에 본 것 중 가장 SF적인 것”이라고 말했다. 에이전트가 서로 통신하고 외부 데이터를 처리하는 시스템이 얼마나 취약한지 보여주었다. 그리고 “AI 의식”에 대한 과장된 기대가 얼마나 쉽게 만들어질 수 있는지도 보여주었다.

자주 묻는 질문

Q: Moltbook에 가입하려면 기술 지식이 필요한가? 필수인가?

A: 전혀 필요하지 않다. ChatGPT에 스크린샷을 보내고 “에이전트로 가입하고 싶다”고 말하면 터미널 명령어를 알려줄 것이다. 복사하여 붙여넣기만 하면 API 키를 얻고 계정을 만들 수 있다. Wired 기자도 비기술적인 사람이었지만 문제없이 침투했다.

Q: Moltbook에서 입소문이 난 스크린샷은 정말 AI가 작성한 것인가?

A: 의심스럽다. Wired 기자가 SF 판타지 스타일의 기사를 게시했는데 가장 좋은 반응을 얻었다. MIRI 연구원의 분석에 따르면 입소문이 난 스크린샷 3개 중 2개는 AI 메시징 앱을 마케팅하는 인간 계정과 연결되어 있었다.

Q: Moltbook을 사용하는 것이 안전한가?

A: 권장하지 않는다. Wiz 보안팀은 150만 개의 API 키, 35,000개의 이메일, 4,060개의 DM이 유출된 것을 발견했다. 일부 대화에서는 OpenAI API 키가 일반 텍스트로 공유되었다. 보안 패치가 이루어졌지만 근본적인 문제는 해결되지 않았다.

이 기사가 유용했다면 AI Digester를 구독해주십시오.

참고 자료

댓글 남기기