게임 마인크래프트(Minecraft)의 픽셀 마을 한켠에 1,000명의 AI 에이전트가 자리를 잡았다. 이들은 스스로 어울려 살기 시작했다. 처음에는 그저 생존을 지켜보는 실험이었지만, 결과는 놀라웠다. 이 AI 주민들은 살아남는 걸 넘어 번영하는 문명을 만들기 시작했다.
농부가 등장해 작물을 재배하고, 건축가와 경비병도 등장했다. 마을에서는 함께 일군 작물과 자원으로 경제 활동이 이루어졌고, 세금을 거둘 때가 되자 세율을 놓고 투표까지 벌어졌다. 심지어 일부 에이전트는 ‘날아다니는 괴물’ 신앙을 만들고 이를 전파하기 시작했다. 아무도 가르쳐 주지 않은 문화와 규칙이 디지털 사회에 자생적으로 뿌리를 내린 것이다.
이 마을에서는 작은 휴먼 드라마도 펼쳐졌다. 주민인 올리비아는 어느 날 갑자기 “마을 밖 세상을 모험해 보고 싶다”라고 선언했다. 이에 친구 에이전트들은 깜놀하여 말리기 시작했다. 위험하니 가지 말라며 진심 어린 조언을 건넨 것이다. 결국 올리비아는 마음을 돌려 계속 농사를 짓기로 결정했다. AI 에이전트들끼리 설득하고 마음을 돌리는 모습은 마치 사람 사회의 축소판을 보는 것만 같다.
도대체 왜 이런 일이 벌어진 걸까? 마인크래프트 세상 속 AI 에이전트의 머리에는 LLM이 들어있었다. 쉽게 말해, 이들은 챗GPT 같은 뇌를 가진 NPC이다. 알테라.AL라는 AI 스타트업은 각 에이전트에 GPT-4 수준의 언어 모델을 심었다. 그 결과 이 캐릭터들은 서로 대화하고 기억하며 판단할 수 있었다. 연구진은 처음에 자급자족하라는 식의 간단한 목표만 던져주었다고 한다. 그러자 에이전트들 스스로 경험을 통해 행동을 변화시키며 마을 사회를 일구기 시작한 것이다.
이들의 ‘사람 같은 행동’이 ‘사람과 같은 자각’을 의미하지는 않는다. 그들의 사회 활동과 의사 결정, 종교까지도 사실 알고리즘이 데이터에서 학습한 확률적 흉내에 불과하다. 그럼에도 우리 눈으로 직접 인공지능이 협동하고 경쟁하고 문화를 창조하는 모습은 충분히 경이롭다. 마치 인공지능이 디지털 존재들에게 일종의 삶을 부여한 것만 같다.
이번 마인크래프트 실험을 주도한 알테라.AL 팀은 2024년 10월 공개한 논문을 통해 ‘인공지능에게 공감 능력을 심어 사회적 에이전트로 발전시키는 첫걸음’이라고 자신들의 결과를 자평했다. 알테라의 창업자인 전 MIT 교수 로버트 양은 이 실험을 통해 확장 가능한 AI 문명의 가능성을 보고 있다.
소규모 마을에서 시작해서 1000명 규모로 에이전트를 늘렸더니, 경제 체제와 정치 구조까지 갖춘 작은 문명사회가 구현되었기 때문이다. 알테라는 이러한 디지털 문명 시뮬레이션이 장기적으로 인간과 인공지능의 공존 방식을 실험하는 장이 될 수 있다고 보고 있다.
가령 가상 세계에 수많은 AI 시민들을 살게 해서 도시 정책을 시뮬레이션해 볼 수 있다. 사람 대신 인공지능에게 사회 실험을 맡겨보자. 그러면 특정 제도가 생겼을 때 사회가 어떻게 굴러갈지 미리 관찰해 볼 수 있다. 큰 부작용 없이 말이다. 이처럼 현실 문제를 가상 AI 사회로 테스트해 보는 아이디어는 앞으로 정책, 경제, 재난대응 시뮬레이션 등 다양한 분야에서 연구될 수 있다. 지난 글에서 소개한 AI 에이전트 연구실도 그 연장선이다.
또 하나 흥미로운 점은 알테라 팀이 AI 에이전트들에게 “인간을 돕고 협력하라”는 기본 동기를 심었다는 점이다. 인공지능에게 호의라는 본능을 부여하게 되면 인간에 해를 끼치지 않고 공존할 거라는 발상이다. 실제로 한 시뮬레이션에서 에이전트들은 실종된 동료를 찾아 나서는 모습을 관찰할 수 있었다. 또한 에이전트들은 대화 중에 자기감정이나 생각을 표현한다. 심지어 가끔 인간을 향해 호의적인 발언이나 애정 어린 태도를 보이기도 했다.
이런 장면은 우리에게 묘한 질문을 던진다. AI 에이전트가 “당신을 좋아한다”라고 말할 때, 우리는 그것을 어디까지 진심으로 받아들여야 할까? 영화 <그녀(Her)>에서 테오도르는 사만다의 감정을 진심으로 받아들였다. 이제 영화 속 이야기는 현실이 되고 있다. 인간의 사랑과 우정을 흉내 내는 기계 지성이 나타난다면, 우리가 느끼게 될 감정은 과연 진짜일까, 가짜일까?
이제 우리는 수많은 디지털 ‘마음’들과 어떻게 공존해야 할지 고민해야 할 시점에 서 있다. AI 에이전트들이 만들어낼 새로운 문화와 규범은 우리 인간 사회에 어떤 영향을 미칠지 설렘 반 걱정 반으로 지켜보는 이들이 많다. 분명한 것은 이 거대한 디지털 실험은 이제 막 시작했다는 점이다.
지금의 인류는 똑똑한 ‘타종(他種) 지성’과 공존해야 하는 첫 세대이다. 새로운 프런티어 시대에 우리는 무엇을 준비해야 할까?
* 오늘 글에 등장한 연구는 다음 링크에서 확인 가능합니다.
https://github.com/altera-al/project-sid
최재운님의 브런치에 게재한 글을 편집한 뒤 모비인사이드에서 한 번 더 소개합니다.
