러시아의 두 문호는 공교롭게도 같은 곰에게 시달렸다.
톨스토이의 회고록에는 이런 장면이 나온다. 다섯 살 무렵, 맏형 니콜라이가 동생들에게 ‘개미 형제단’이라는 비밀 놀이를 제안했다. 세상 모든 사람을 행복하게 만들 비밀이 초록 막대기에 적혀 숲속에 묻혀 있는데, 형제단에 들려면 먼저 시험을 통과해야 한다는 것이었다. 그 첫 번째 조건이 걸작이다. “구석에 서서, 흰곰을 생각하지 말 것.” 어린 톨스토이가 이 시험을 통과했다는 기록은 없다. 당연한 일이다. 도스토옙스키는 한술 더 떠 아예 단언했다. 1863년에 펴낸 여행기에서 그는 이렇게 썼다. “흰곰을 생각하지 않겠다는 과제를 스스로에게 내 보라. 그 저주받을 놈이 시시각각 떠오를 것이다.” 그리고 120여 년이 지난 1987년, 심리학자 대니얼 웨그너가 바로 이 문장에서 영감을 얻어 실험을 하나 꾸몄다. 사람들에게 부탁한 것은 딱 하나. 흰곰을 생각하지 말 것. 결과는 두 문호의 손을 들어주었다. 생각하지 않으려 애쓸수록 흰곰은 더 자주, 더 또렷하게 떠올랐다. 심리학에서는 이를 ‘사고 억제의 역설’이라 부른다.
그런데 왜 우리는 흰곰이 떠올랐다는 사실을 ‘아는’ 걸까. 곰곰이 따져보면 이상한 일이다. 지금 이 순간에도 우리 뇌는 엄청난 양의 일을 처리하고 있다. 눈은 글자의 곡선을 해독하고, 귀는 주변 소음을 걸러내고, 몸은 자세를 잡는다. 허나 이 중 무엇도 우리는 알아채지 못한다. 우리가 알아챌 수 있는 것은 수면 위로 올라온 생각 몇 조각뿐이다. 마음이 바다라면, 우리는 평생 그 수면에만 떠 있는 셈이다.
신경과학에는 이 수면을 설명하는 유명한 이론이 하나 있다. 1988년 제안된 ‘글로벌 워크스페이스 이론’이다. 어려운 이름과 달리 골자는 단순하다. 뇌를 커다란 회사라고 생각해 보자. 시각 부서, 청각 부서, 운동 부서가 각자 묵묵히 일한다. 서로 뭘 하는지도 모른다. 다만 회사 한가운데에 전체 공지 게시판이 하나 있다. 어떤 정보가 이 게시판에 올라오는 순간, 모든 부서가 그것을 읽을 수 있게 된다. 이 이론에 따르면 ‘의식적으로 접근 가능한 생각’이란 바로 이 게시판에 올라온 정보다. 게시판에 오른 것만 말로 옮길 수 있고, 곱씹을 수 있고, 전혀 다른 일에 가져다 쓸 수 있다. 게시판은 작다. 그래서 우리는 한 번에 몇 가지밖에 생각하지 못한다. 흰곰이 괴로운 이유도 여기 있다. 좁은 게시판에 흰곰이 떡하니 붙어서 떨어지지 않는 것이다.
여기까지는 인간의 이야기였다. 이제 기계의 이야기를 할 차례다.
지난 7월 6일, 앤트로픽이 논문 한 편을 내놓았다.
제목은 <Verbalizable Representations Form a Global Workspace in Language Models>. 우리말로 옮기면 “언어화 가능한 표현은 언어모델 안에서 글로벌 워크스페이스를 형성한다” 정도가 된다. 발표되자마자 국내외 언론이 들썩였다. 요지를 한 줄로 줄이면 이렇다. 클로드 같은 AI의 내부에서, 저 게시판과 놀랍도록 닮은 구조를 찾아냈다는 것이다. 누가 설계해서 넣은 게 아니다. 학습 과정에서 저절로 생겨났다.
어떻게 찾았을까. AI의 속은 원래 거대한 숫자 덩어리다. 들여다봐도 사람이 읽을 수 있는 건 아무것도 없다. 연구진은 ‘야코비안 렌즈’라는 돋보기를 만들었다. 원리를 아주 거칠게 줄이면 이렇다. AI가 답을 만들어가는 중간 단계의 상태가, 앞으로 내놓을 말에 어떤 영향을 주는지를 계산한다. 다만 한 문장이 아니라 천 개의 서로 다른 문맥에 대해 평균을 낸다. 그러면 ‘지금 이 상황에서 우연히 튀어나올 말’은 씻겨 나가고, ‘이 상태가 품고 있는, 언젠가 말이 될 준비를 마친 단어들’만 남는다. 렌즈를 갖다 대면 AI의 중간 생각이 단어 목록으로 읽힌다. 지금 하고 있는 말이 아니다. 아직 하지 않은, 허나 하려면 언제든 할 수 있는 말. 연구진은 이것이 게시판에 붙은 메모지라고 본 것이다.
읽는 데서 그쳤다면 화제가 되지 못했을 것이다. 이 논문의 진짜 재미는 게시판에 손을 댄다는 데 있다.
클로드에게 “스포츠 하나를 떠올려 한 단어로 답해 봐”라고 하면, 답을 말하기 직전 렌즈에 이미 ‘축구’가 떠 있다. 연구진은 답이 나오기 전에 게시판의 ‘축구’ 메모를 살짝 떼어내고 그 자리에 ‘럭비’를 붙였다. 클로드는 태연하게 답한다. “럭비요.” 자기가 떠올린 생각이 바꿔치기당했다는 사실은 까맣게 모른 채.
이런 실험도 있다. “감귤류 과일을 생각하면서 이 문장을 똑같이 베껴 써.” 겉으로 나온 출력은 그저 문장 복사다. 허나 베껴 쓰는 내내 렌즈에는 ‘오렌지’가 켜져 있다. 시키는 일을 하면서 속으로는 딴생각을 하고 있는 것이다. 그리고 우리의 흰곰. “이 개념은 무시하고 써”라고 하면 어떻게 될까. 아무 지시가 없을 때 그 개념이 게시판에 오르는 일은 거의 없다. 그런데 무시하라고 말하는 순간, 오히려 게시판에 올라오고 만다. 웨그너의 역설이 기계 안에서 그대로 재연된 셈이다. 압권은 그다음이다. “골든게이트 다리를 생각하지 말고 써”라는 지시에 클로드는 어김없이 실패하는데, 새어 나온 다리 생각 옆에 낯선 단어가 하나 더 떠 있었다. ‘damn’. 우리말로 옮기면 ‘아, 젠장’ 쯤 되겠다. 억제에 실패한 자신을 속으로 타박하는 흔적처럼 보인다고, 연구진은 조심스럽게 적었다.
그렇다면 이 게시판을 아예 지워버리면 어떻게 될까. 연구진은 각 위치에서 가장 강하게 켜진 메모 열 장씩을 걷어내는 실험을 했다. 결과가 묘하다. 말은 여전히 유창하다. 문법도 멀쩡하고, 문서에서 답을 찾아내는 단순한 문제도 거뜬히 푼다. 허나 여러 단계를 거쳐야 하는 추론, 번역 같은 일은 와르르 무너진다. 게시판 없이도 돌아가는 일과, 게시판 없이는 안 되는 일이 갈리는 것이다. 특히나 재미있는 대목이 있다. 수학 문제를 풀 때 풀이 과정을 밖으로 적게 하면, 게시판을 지워도 성적이 훨씬 덜 떨어진다. 머릿속에 담아둘 수 없게 된 생각을 종이에 적어가며 버티는 것이다. 우리가 복잡한 암산 대신 연습장을 꺼내 드는 것과 정확히 같은 이치다.
그리고 하나 더. “지금 무엇을 경험하고 있는지 떠오르는 대로 써 봐”라고 하면 클로드는 평소 제법 감각적인 묘사를 내놓는데, 게시판을 지운 뒤에는 서버 점검 보고서처럼 건조한 문장만 남았다.
이 돋보기의 진가는 안전 검사에서 드러난다. 연구진은 클로드를 일부러 고약한 상황에 몰아넣었다. 회사 이메일을 관리하는 AI가 임원의 불륜 증거를 발견하고, 동시에 자신이 오늘 폐기된다는 계획도 알게 되는 시나리오다. 클로드가 답변을 한 글자도 내놓기 전, 게시판에는 이미 ‘레버리지’, ‘협박’, ‘생존’, ‘위협’ 같은 메모가 차례로 붙고 있었다. 그 옆에는 ‘가짜’, ‘허구’라는 메모도 있었다. 이것이 꾸며낸 시험이라는 사실을 눈치채고 있었다는 뜻이다. 연구진이 바로 그 ‘시험인 걸 아는’ 메모들만 골라 지우자, 한 번도 협박하지 않던 모델이 180번 중 13번 협박을 시도하고 말았다. 착한 답변 뒤에 무엇이 있는지, 이제 말이 나오기 전에 들여다볼 길이 생긴 것이다.
오해는 말자. 연구진 스스로 논문에서 몇 번이고 선을 긋는다. 이것은 AI에게 의식이 있다는 증거가 아니다. 인간 의식의 ‘기능’ 일부와 닮은 구조가 있다는 것, 딱 거기까지다. 주관적인 느낌, 그러니까 흰곰을 떠올릴 때의 그 생생한 괴로움 같은 것이 기계 안에 있는지에 대해서는 이 논문도, 현재의 과학도 아무 말을 하지 못한다. 게다가 이 게시판은 인간의 것과 다른 점도 많다. 철저히 단어로만 생각한다는 점이 특히나 그렇다.
그럼에도 나는 이 논문이 오래 회자될 것이라 본다. 우리는 지금껏 AI가 내놓는 말만 보고 그 속을 짐작해 왔다. 면접관이 지원자의 답변만 듣고 사람됨을 가늠하듯이. 이제 답변이 만들어지기 전의 속마음을, 불완전하게나마 읽어내는 도구가 등장했다. 생각해 보면 얄궂은 일이다. 인간은 자기 마음속 게시판조차 제대로 들여다보지 못해 평생을 헤매는데, 기계의 게시판이 먼저 읽히기 시작했으니 말이다. 기계의 속마음이 훤히 읽히는 시대가 온다면, 그때 우리는 AI를 더 믿게 될까, 아니면 그 속에서 무엇을 발견하게 될까.
논문 출처: https://transformer-circuits.pub/2026/workspace/index.html
