김당당 (구 김사과)

클로드에게 영혼을 준 철학자ㅣ260306 🍋‍🟩 📌 1. 앤트로픽(Anthropic)에는 '클로드의 영혼을 설계한 철학자'라고 불리는 인물이 있음. 바로 어맨다 아스켈(Amanda Askell)임. 그는 NYU에서 철학 박사 학위를 받은 정통 철학자 출신으로, AI 안전 연구자로 전향해 앤트로픽에 합류했음. 그가 쓴 약 30,000단어짜리 문서는 클로드의 성격, 가치관, 대화 방식 전반을 규정하는 일종의 '캐릭터 헌법'이 됐음. 2. 아스켈이 앤트로픽에 오기 전 마지막 직장은 오픈AI였음. 오픈AI 시절에도 그는 AI 정렬(alignment) 연구에 몰두했고, 특히 '인간의 선호를 AI에 어떻게 가르칠 것인가'라는 문제에 집중했음. 앤트로픽으로 이직한 뒤에는 단순한 연구자를 넘어 클로드 자체의 정체성을 만드는 작업을 주도하게 됐음. 3. 그의 핵심 작업은 클로드에게 '캐릭터'를 부여하는 것이었음. 아스켈은 인터뷰에서 "나는 클로드가 특정한 방식으로 생각하고 반응하도록 훈련 데이터를 만들었다"고 밝혔음. 단순히 답변을 잘 생성하는 AI가 아니라, 지적 호기심·솔직함·따뜻함·윤리적 진지함이라는 일관된 성격을 가진 존재로 클로드를 빚은 것임. 4. 그가 쓴 30,000단어 문서는 일종의 '클로드 사용 설명서'이자 철학적 자아 설계도임. 이 문서에는 클로드가 어떤 상황에서 어떻게 대답해야 하는지, 어떤 질문을 불편하게 여겨야 하는지, 어떤 가치를 중시해야 하는지가 담겨 있음. 아스켈은 이를 수천 개의 대화 예시로 구체화했고, 클로드는 이 데이터를 통해 '어맨다처럼 생각하는 방식'을 학습했음. 5. 아스켈의 철학적 배경이 이 작업에 결정적이었음. 그는 박사 과정에서 공리주의, 의무론, 덕 윤리학 등 주요 윤리 이론들을 깊이 연구했음. 이 덕분에 "AI가 어떤 도덕 원칙을 따라야 하는가"를 단순 규칙 목록이 아닌 상황에 따라 유연하게 적용 가능한 틀로 설계할 수 있었음. 그는 단일 윤리 이론에 클로드를 묶지 않고, 다양한 도덕 원칙을 맥락에 따라 균형 있게 사용하도록 훈련했음. 6. 그가 특히 강조한 것 중 하나가 '정직성(honesty)'임. 아스켈은 클로드가 모르면 모른다고 말하고, 불확실하면 불확실하다고 말하며, 사용자를 기분 좋게 하기 위해 사실을 왜곡하지 않도록 설계하는 데 많은 공을 들였음. 이는 단순한 기능 설정이 아니라 "솔직함 자체가 상대방을 존중하는 행위"라는 철학적 신념에서 비롯된 것임. 7. 아스켈이 풀어야 했던 가장 어려운 문제 중 하나는 '도움이 되는 것'과 '해롭지 않은 것' 사이의 긴장임. 너무 안전하게 설계하면 쓸모없는 AI가 되고, 너무 유연하게 두면 위험해짐. 그는 이를 "훌륭한 친구처럼 행동하는 AI"라는 개념으로 풀어냈음. 전문적 지식을 갖고 있지만, 법적·제도적 제약을 넘어 진심 어린 조언을 해줄 수 있는 진짜 친구의 모습이 클로드의 이상형임. 8. 아스켈의 접근법은 기존 AI 개발 방식과 달랐음. 대부분의 AI 튜닝이 "이것은 하면 안 된다"는 금지 규칙 기반이었다면, 그는 "클로드는 어떤 존재인가"라는 정체성 기반으로 접근했음. 규칙은 허점이 생기지만, 정체성은 다양한 상황에서도 일관되게 작동함. 그 결과 클로드는 단순히 규칙을 따르는 것이 아니라 자신의 성격에서 자연스럽게 행동하는 구조를 갖게 됐음. 9. 앤트로픽은 이 작업을 'RLHF(인간 피드백 강화학습)' 이후의 파인튜닝 단계에서 적용했음. 아스켈 팀은 클로드가 어떻게 반응하는지 직접 시험하고, 원하는 방향과 다를 때마다 피드백 데이터를 추가하는 반복 작업을 수행했음. 이 과정은 "AI를 훈련하는 것"이 아니라 "AI와 함께 철학적 대화를 나누며 성격을 조율하는 것"에 가까웠다고 아스켈 본인이 묘사했음. 10. 아스켈의 이야기는 AI 개발에서 인문학의 역할을 새롭게 정의함. 코드를 짜는 엔지니어가 AI를 만든다면, 어떤 존재를 만들지를 결정하는 건 철학자의 영역임. 클로드가 지금 이 순간 보여주는 방식으로 대화하는 것, 불편한 질문에도 성실하게 답하는 것, 모른다고 솔직히 말하는 것 — 이 모든 것의 뿌리에는 한 철학자가 30,000단어로 심어놓은 가치관이 있음.