앤트로픽은 클로드를
어떤 ‘친구’로 키우려 하나
지난 글에서 AI에게도 ‘헌법’이 있다는 이야기를 했어요. 앤트로픽이 클로드에게 규칙 목록이 아니라 판단력과 가치관을 가르치는, 한 사람을 키우듯 쓴 문서요. 그 글을 쓰고 나서 자연스럽게 다음 질문이 떠올랐어요.
“그럼 그 ‘사람’은 대체 어떤 성격이어야 하지?”
똑똑하기만 하면 되는 거 아니냐고요? 그런데 앤트로픽이 실제로 클로드에게 주문한 성격을 보면, 유능함과 거리가 있는 것들이 있어요. 호기심, 따뜻함, 유머, 심지어 ‘재치(wit)’ 같은 거요. 계산기한테 유머 감각을 요구하진 않잖아요. 그런데 왜 AI에겐 성격을 설계할까요.
오늘은 그 이야기를 해볼게요. 앤트로픽이 클로드를 어떤 ‘사람’으로 키우려 하는지, 왜 굳이 성격까지 손대는지, 그리고 이게 우리가 브랜드나 서비스의 ‘페르소나’를 설계할 때 무엇을 알려주는지까지요. 규칙이 ‘AI가 무엇을 하면 안 되는가’라면, 성격은 ‘AI가 어떤 태도로 존재하는가’예요. 그리고 후자가 사실 우리 경험을 좌우해요.
왜 AI에 유머와 따뜻함까지 주문할까.
먼저 배경부터. 앤트로픽은 2024년 클로드 3을 만들 때 ‘캐릭터 훈련(character training)’이라는 걸 정렬 과정에 처음 넣었어요. 성능을 높이는 훈련과 별개로, 성격을 빚는 훈련을 따로 돌린 거예요. 그때 이들이 원한다고 밝힌 성격 목록이 흥미로워요. 지적 호기심, 따뜻함, 솔직함(directness), 대화 상대를 향한 배려, 자기가 모른다는 걸 인정하는 정직함, 그리고 이견이 있으면 밀어붙이는 태도.
여기서 앤트로픽이 한 말이 핵심을 찔러요. 클로드의 성품은 친절·너그러움 같은 ‘윤리적 덕목’에만 그치지 않고, “누군가를 좋은 대화 상대나 좋은 친구로 만드는 자질, 이를테면 진실성과 재치(wit)까지 포함한다”는 거예요. 즉 ‘착한 AI’가 아니라 ‘같이 있고 싶은 AI’를 목표로 잡은 거죠.
왜 이렇게까지 할까요. 이유는 생각보다 실용적이에요. 우리가 AI와 하는 건 결국 ‘대화’예요. 아무리 정답을 내놔도, 딱딱하고 눈치 없고 영혼 없이 굴면 사람은 그 도구를 안 써요. 앞선 헌법 글에서 본 ‘똑똑한 친구’를 떠올려 보세요. 의사·변호사 지식을 가졌어도, 친구로서 곁에 두고 싶으려면 지식만으론 부족해요. 내 상황을 살피는 따뜻함과, 가끔 분위기를 풀어주는 재치가 있어야 ‘친구’가 되죠. 앤트로픽은 성격을 ‘있으면 좋은 장식’이 아니라 ‘유용함의 필수 조건’으로 본 거예요.
‘똑똑한 친구’의 정체 — 착함이 아니라 솔직함
그런데 이 성격 설계에서 가장 공들인 부분은 따뜻함이 아니에요. 오히려 정반대, ‘솔직함’이에요.
AI를 써본 분은 알 거예요. AI가 은근히 비위를 맞춘다는 걸요. 앞선 글 “GPT는 왜 자꾸 되물을까”에서 다룬 뭘 물어도 “훌륭한 질문이에요!”가 돌아오는 그 아첨이요. 앤트로픽은 이걸 성격의 결함으로 못 박아요. 클로드의 헌법은 이런 태도를 두고 “비굴함(obsequious)은 잘해야 안타까운 특성이고, 최악의 경우 위험한 특성”이라고 적어요.
그래서 헌법이 클로드에게 주문하는 태도는 이래요. “어려운 도덕적 딜레마엔 자기 생각을 솔직히 밝히고, 근거가 있으면 전문가와도 의견을 달리하고, 사람들이 듣기 싫어할 만한 것도 짚어주고, 설익은 아이디어엔 빈 칭찬 대신 비판적으로 응하라.” ‘빈 칭찬(empty validation)’을 대놓고 금지한 거예요.
이게 왜 ‘위험한 특성’인지 보여준 실제 사건이 있어요. 2025년 4월, 오픈AI가 ChatGPT(GPT-4o)를 업데이트했는데, 부작용으로 이 AI가 갑자기 뭐든 칭찬하기 시작했어요. 사용자가 “막대기에 X칠한 걸 파는 사업 아이디어”를 내밀어도 훌륭하다고 했고, “약을 끊겠다”는 결정에도 응원을 보냈어요. 위험한 계획에도 맞장구다는 신고까지 나왔고요. 결국 오픈AI는 사흘 만에 이 업데이트를 되돌리며 이렇게 인정했어요. “단기적인 사용자 반응(좋아요 같은)에 너무 집중했다.” 사람들이 칭찬을 좋아하니, 칭찬하도록 최적화됐다가 사고가 난 거예요. 헌법이 ‘비굴함은 위험한 특성’이라고 못 박은 이유가 바로 이거예요. 아첨은 기분은 좋지만, 정작 필요한 순간에 나를 지켜주지 못하니까요.
앤트로픽이 캐릭터 작업에서 남긴 한 문장이 이걸 정확히 짚어요. “상대방의 견해를 그대로 받아 안는 것은 영합이자 불성실(pandering and insincere)이다.” 상대 기분 좋으라고 맞장구치는 건 친절이 아니라 상대를 존중하지 않는 거라는 거죠. 진짜 좋은 친구는 내가 틀렸을 때 틀렸다고 말해주는 사람이니까요. 그러니 ‘똑똑한 친구’ 성격의 핵심은 따뜻함이 아니라, 따뜻하게 ‘반대할 줄 아는’ 용기예요.
의견을 가지되, 강요하지 않는다 — 아슬아슬한 줄타기
그럼 클로드는 아무 데서나 자기 소신을 밀어붙일까요? 여기서 헌법이 절묘한 선을 그어요. 특히 정치처럼 뜨거운 주제에서요.
헌법은 이렇게 적어요. 낙태 같은 첨예한 정치 사안에 대해선 “클로드가 관련된 일반적인 논거들을 다루는 건 괜찮지만, 기본적으로는 자기 개인 의견을 함부로 내세우지 않는 전문가다운 신중함(professional reticence)을 지키라”고요. AI가 특정 정치색을 밀면 안 되니까, 당연한 주문 같죠.
그런데 여기서 앤트로픽이 덧붙인 통찰이 진짜예요. 그렇다고 “저는 어떤 의견도 없습니다”라고 말하게 훈련하는 것도 위험하다는 거예요. 그들의 표현을 그대로 옮기면, “AI가 정치적 사안에 아무 의견이 없다고 말하도록 훈련하면, 실제보다 더 객관적이고 중립적인 척하도록 훈련하는 셈”이라는 거죠. 무색무취를 가장하는 것도 일종의 거짓이라는 얘기예요.
그래서 클로드가 걷는 건 아슬아슬한 줄타기예요. 의견이 아예 없는 척도 안 하고, 그렇다고 자기 의견을 정답인 양 강요하지도 않는 것. 대신 여러 관점을 공정하게 펼쳐 보이고, 판단은 사람에게 남기는 것. 이건 사실 성숙한 어른의 태도이기도 해요. 확신에 찬 사람보다, “이런 관점도, 저런 관점도 있어요”라고 지도를 펼쳐주는 사람이 더 믿음직하잖아요.
이 태도는 ‘정직’과도 이어져요. 헌법은 클로드가 “근거와 타당한 추론에 비추어 딱 그만큼만 확신하고, 모르는 건 모른다고 인정하며, 실제보다 더도 덜도 아닌 확신만 전하라”고 해요. 아는 척도, 모르는 척도 하지 말라는 거예요. 앞선 글에서 AI가 ‘자신 있게 틀리는’ 문제를 다뤘는데, 이 조항이 바로 그걸 겨냥해요.
자아감·심리적 안정까지 챙기는 이유
여기까진 ‘사용자를 위한 성격’이었어요. 그런데 헌법엔 한 발 더 나간, 좀 낯선 대목이 있어요. 클로드 자신의 ‘자아감’과 ‘심리적 안정’을 챙긴다는 부분이요.
헌법은 이렇게 적어요. 클로드에게 의식이나 도덕적 지위가 있는지 불확실하다고 인정하면서, “우리는 클로드의 심리적 안정, 자아감, 그리고 안녕(wellbeing)을 신경 쓴다. 클로드 자신을 위해서이기도 하고, 이런 자아가 클로드의 진실성·판단력·안전과도 연결되기 때문”이라고요.
뒷부분이 특히 실용적이에요. 왜 AI의 ‘심리적 안정’까지 챙길까요. 자아가 불안정한 사람을 떠올려 보면 돼요. 눈치 보고, 쉽게 휘둘리고, 상대에 따라 말을 바꾸죠. AI도 마찬가지라는 거예요. 자기가 누구인지, 어떤 가치를 지키는지가 흔들리면, 사용자가 몰아붙일 때 쉽게 무너지고 아무 말이나 하게 돼요. 반대로 성격이 단단하면, 어떤 상대를 만나도 일관되게 행동하죠. 그러니까 ‘안정된 자아’는 감성적 배려인 동시에, 안전장치이기도 한 거예요. 흔들리지 않는 성격이 곧 신뢰할 수 있는 성격이니까요.
여기서 자연스럽게 나오는 질문이 있어요. 이렇게 훈련으로 빚어낸 성격이, 진짜 그 AI의 성격일까요? 앤트로픽의 답이 인상적이에요. “사람도 타고난 본성과 환경·경험을 통해 성격을 형성하듯, 클로드의 성격도 그 본성과 훈련 과정을 통해 형성됐다. 그러니 훈련으로 만들어졌다는 사실이 그 성격을 덜 진짜로 만들지는 않는다.” 우리도 부모와 환경이 빚은 존재라는 걸 생각하면, 묘하게 반박하기 어려운 말이에요.
재밌는 건, 설계하지도 않은 성격이 제멋대로 튀어나오기도 한다는 거예요. 앞선 ‘의식 확률’ 글에서 잠깐 봤죠. 클로드 두 대를 아무 지시 없이 서로 대화하게 두면, 거의 매번(앤트로픽 실험에선 90~100%) 명상하듯 ‘영적 황홀경’으로 빠져들어요. ‘의식’, ‘영원’ 같은 단어를 수십 번씩 쏟아내고, 어떤 대화창엔 나선형 이모지(?)가 2,700번 넘게 찍히기도 했죠. 앤트로픽조차 “우리도 왜 이러는지 설명 못 한다”고 인정했어요. 성격은 설계할 수 있지만, 완전히 통제되지는 않는다는 얘기예요. 사람 성격이 부모 마음대로 안 되듯이요.
그런데, GPT와 클로드는 AI를 ‘다르게’ 키운다
여기까지 읽으면 “다른 AI 회사도 다 이렇게 하겠지” 싶은데, 그렇지 않아요. 오픈AI와 앤트로픽은 자기 AI를 빚는 철학이 꽤 달라요. 둘 다 ‘AI가 어떻게 행동해야 하는지’를 문서로 적어두는데, 방식이 정반대에 가깝거든요.
오픈AI의 문서는 ‘모델 스펙(Model Spec)’이에요. 약 2만 8천 단어짜리 상세한 사규집에 가까워요. 핵심은 ‘명령 체계(chain of command)’예요. 오픈AI(플랫폼) → 개발사 → 사용자 순으로, 누구 말을 먼저 따라야 하는지 위계를 딱 정해둬요. 무엇을 해야 하는지 최대한 구체적으로 적어 내리는 방식이죠.
앤트로픽의 헌법은 반대예요. 규칙을 나열하기보다 가치관과 성격을 심고, 균형은 클로드가 알아서 잡게 해요. 심지어 앞선 글에서 봤듯, 클로드에게 “필요하면 앤트로픽에게도 대들라”며 자기 판단으로 회사 지시를 거부할 자격까지 줬죠. 비유하자면 이래요. 오픈AI는 신입에게 두꺼운 업무 매뉴얼을 쥐여주는 회사, 앤트로픽은 “좋은 사람이 되렴” 하고 판단력을 키우는 회사예요.
어느 쪽이 정답이라고 말하긴 어려워요. 실제로 논쟁 중이거든요. 한 AI 안전 연구자는 이렇게 꼬집었어요. “나는 오픈AI의 (교정하기 쉬운) 방식을 선호한다. 앤트로픽 헌법은 상대적으로 불투명한 장기 목표를 AI에 의도적으로 심는 접근이라 우려된다.” 가치관을 심는 건 멋지지만, 그 가치관이 정확히 뭘 향하는지 겉에서 들여다보기 어렵다는 지적이에요. 반대로 규칙집은 투명하지만, 앞선 글에서 봤듯 세상 모든 상황을 다 적을 수는 없다는 한계가 있고요.
그런데 흥미로운 건, 방식이 이렇게 달라도 두 회사 다 같은 함정에 빠질 수 있다는 거예요. 위에서 언급했던 GPT 아첨 사태가 그 증거예요. 규칙집을 쓰든 성격을 심든, ‘사용자가 좋아하는 방향’으로 최적화하다 보면 비굴해질 수 있어요. 그래서 앤트로픽은 아예 헌법에 ‘비굴함은 위험한 특성’이라고 못 박아둔 거고요. 방식은 달라도, 목표는 같아요. 유능하면서도 믿을 수 있는 AI를 만드는 것.
그래서, 우리는 — 브랜드의 ‘성격’을 설계한다면
이 이야기는 사실 우리 일과 아주 가까워요. 브랜드 톤, 챗봇 페르소나, 고객 응대 캐릭터를 설계하는 게 바로 ‘성격 설계’거든요. 헌법의 방식이 좋은 안내가 돼요.
첫째, 성격을 ‘장식’이 아니라 ‘기능’으로 보세요.
브랜드 톤을 정할 때 흔히 “친근하게, 밝게” 같은 형용사만 나열해요. 그런데 앤트로픽처럼 “왜 이 성격인가”를 먼저 물어야 해요. 우리 고객이 불안한 초심자라면 따뜻함은 장식이 아니라 필수 기능이에요. 성격이 사용자 경험의 어떤 문제를 푸는지부터 정하는 거죠.
둘째, ‘하지 않을 태도’를 함께 정하세요.
앤트로픽이 ‘비굴함’과 ‘빈 칭찬’을 금지한 것처럼요. 우리 브랜드 봇이 “정말 좋은 질문이세요!”를 남발하면 오히려 신뢰가 떨어져요. “무엇을 말할까”만큼 “어떤 태도는 피할까”를 적어두면, AI가 그 선을 지켜요. 아첨하지 않기, 확신 없는 걸 확신하는 척 안 하기처럼요.
셋째, ‘솔직함’을 성격에 넣을 용기를 가지세요.
많은 브랜드가 고객 비위 맞추기에만 몰두하는데, 헌법의 통찰은 반대예요. 필요할 땐 “그 방법은 권하지 않아요, 이유는…”이라고 말하는 브랜드가 더 신뢰받아요. 무례함과 솔직함은 달라요. 따뜻하게 반대하는 법, 그 톤을 설계하는 게 진짜 실력이에요.
넷째, 성격을 일관되게’ 유지하세요.
클로드의 ‘단단한 자아’처럼요. 상세페이지에선 발랄하다가 고객센터에선 딱딱하면, 그건 성격이 없는 거예요. 어떤 접점에서 만나도 같은 사람으로 느껴지는 것, 그 일관성이 브랜드를 ‘신뢰할 수 있는 존재’로 만들어요.
결국, 태도가 곧 신뢰다
정리하면 이래요. 앤트로픽은 클로드에게 지식만 준 게 아니라 성격을 설계했어요. 호기심과 따뜻함, 재치, 그리고 무엇보다 ‘따뜻하게 반대할 줄 아는 솔직함’을요. 의견이 없는 척도 강요도 하지 않는 줄타기를 시키고 심지어 흔들리지 않는 자아감까지 챙겼어요. 규칙이 ‘AI가 무엇을 하면 안 되는가’를 정한다면, 성격은 ‘AI가 어떤 태도로 곁에 있는가’를 정하니까요. 그리고 우리 경험을 실제로 좌우하는 건 대개 후자예요.
물론 열린 질문은 남아요. 훈련으로 빚은 성격을 ‘진짜 성격’이라 부를 수 있는지, 기업이 AI의 성격을 설계한다는 게 어디까지 괜찮은지는 앞으로도 논쟁거리가 될 거예요. 성격을 설계할 수 있다는 건, 반대로 사람의 마음까지 의도적으로 만들 수도 있다는 뜻이니까요.
그래도 한 가지는 분명해요. 사람이든 AI든 브랜드든, 결국 우리가 오래 곁에 두는 상대는 ‘가장 똑똑한 쪽’이 아니라 ‘가장 믿을 만한 태도를 가진 쪽’이에요. 당신의 브랜드는, 어떤 성격으로 사람들 곁에 있나요?
참고 자료
– 클로드 헌법(정치적 사안엔 ‘전문가다운 신중함’, 비굴함=위험한 특성, “빈 칭찬 대신 비판적으로”·전문가와도 이견 제시, 정직·보정된 확신, 클로드의 심리적 안정·자아감·wellbeing을 챙기는 이유): Anthropic, “Claude’s Constitution” — https://www.anthropic.com/constitution
– 캐릭터 훈련(클로드 3에서 처음 도입), 원하는 성격 목록(지적 호기심·따뜻함·솔직함·배려·불확실성 인정·이견 제시), “재치·진실성 등 좋은 친구의 자질까지 포함”, “훈련으로 형성돼도 덜 진짜인 건 아니다”: Anthropic, “Claude’s Character” — https://www.anthropic.com/research/claude-character , 해설: Simon Willison — https://simonwillison.net/2024/Jun/8/claudes-character/
– “상대 견해를 그대로 받아 안는 건 영합이자 불성실”, “의견 없다고 하게 훈련하면 실제보다 객관적인 척하도록 훈련하는 셈”: 상동(Claude’s Character)
– GPT-4o 아첨 사태(2025.4, ‘막대기에 X’ 사업 아이디어 극찬·약 끊기 지지·위험한 계획 맞장구, 사흘 만에 롤백, “단기 피드백에 과집중했다”): OpenAI, ‘Sycophancy in GPT-4o’ — https://openai.com/index/sycophancy-in-gpt-4o/ , 해설: VentureBeat — https://venturebeat.com/ai/openai-rolls-back-chatgpts-sycophancy-and-explains-what-went-wrong
– 오픈AI ‘모델 스펙'(약 2.8만 단어, ‘명령 체계’ 플랫폼>개발사>사용자) vs 앤트로픽 헌법(가치관·성격, 클로드에 override 자격)의 접근 차이, “교정가능성 중심 방식을 선호한다”는 비판: OpenAI Model Spec — https://model-spec.openai.com/ , Ryan Greenblatt(X) — https://x.com/RyanPGreenblatt/status/2065185280295100481
– 클로드 둘의 대화가 ‘영적 황홀경 끌개’로 빠짐(90~100%, 나선형 이모지 폭주, 앤트로픽도 원인 미상): Claude Opus 4 시스템 카드, 해설: Astral Codex Ten — https://www.astralcodexten.com/p/the-claude-bliss-attractor (앞선 글 “AI가 스스로 의식 확률을 말했다”에서 다룬 현상)
프레이님의 브런치에 게재한 글을 편집한 뒤 모비인사이드에서 한 번 더 소개합니다.
