어느 날, 내 AI가 나보다 나답게 살기 시작했다 | 백서 프롤로그

소프트스퀘어드를 운영하는 이하늘입니다. 실제로 AI 에이전트를 운영하면서 생긴 질문을 《슈퍼 세컨드브레인》이라는 백서로 정리했습니다. 첫 편인 프롤로그부터 한국어로 나눕니다.

에이전트 하나로 시작한 일이 “그럼 내가 본체가 맞나”라는 질문에 닿기까지

이 문서는 미래 예측 보고서가 아니라 사고실험입니다. 저자가 실제로 운영하는 에이전트 환경에서 출발해, 그 방향을 끝까지 밀어 보았습니다. 특정 제품의 성능을 보증하지 않으며, 사람을 유형으로 진단하기 위한 도구도 아닙니다.

전환점은 Computer Use 에이전트가 내 일상 업무에서 쓸 만해졌을 때였다.

AI는 더 이상 채팅창 안에서 답변만 하는 존재가 아니게 되었다. 브라우저를 열고, 문서를 작성하고, 메일을 보내고, 회사의 여러 도구를 오가며 실제 업무를 수행하기 시작했다.

처음에는 에이전트 하나를 만들었다.
하나가 꽤 잘 일했다.
그러자 두 개를 만들었다.
그다음에는 다섯 개를 만들었다.

비서 역할을 하는 에이전트, 자료를 조사하는 에이전트, 회의를 정리하는 에이전트, 문서를 작성하는 에이전트, 특정 사업을 계속 추적하는 에이전트.

어느 순간부터 나는 AI를 사용하는 사람이 아니라 작은 AI 조직을 운영하는 사람이 되어 있었다.

그런데 에이전트의 숫자가 늘어나자 새로운 문제가 생겼다.
각 에이전트가 알고 있는 ‘나’가 조금씩 달랐다.

그림 1. 같은 사람을 다섯 에이전트가 다섯 가지로 알고 있었다. 저마다 나의 한 조각만 쥐고 있었다.

비서 에이전트는 내가 누구와 어떤 관계에 있는지는 잘 알았지만 내가 왜 그런 판단을 하는지는 몰랐다. 사업 에이전트는 회사의 전략은 알았지만 내가 사람을 대하는 원칙까지는 몰랐다. 새로운 에이전트를 만들 때마다 내 가치관과 회사의 맥락과 지난 의사결정을 다시 설명해야 했다.

수십 명의 직원이 있는데 모두가 대표를 서로 다르게 이해하는 회사와 비슷했다.

그래서 생각했다.
이들에게 공통의 뇌가 필요하다.

나는 클라우드에 하나의 지식 저장소를 만들기 시작했다.

회의가 끝나면 회의록을 넣었다.
메일도 넣었다.
회사에서 일어난 사건과 내가 내린 판단을 넣었다.

점차 일뿐 아니라 일상의 기록도 들어가기 시작했다. 현장에서 나눈 대화, 이동 중 떠오른 생각, 사람을 만나고 난 뒤의 느낌, 어떤 사건에서 내가 왜 불편했는지, 왜 어떤 사람에게는 유난히 높은 기대를 거는지.

그리고 사실보다 더 중요한 것들도 넣었다.

내가 무엇을 중요하게 생각하는지.
어떤 사람으로 살고 싶은지.
돈과 조직과 인간을 어떻게 바라보는지.
사람에게 무엇을 가르치려고 하는지.
내가 어떤 상황에서 흔들리는지.

처음에는 거대한 메모장에 가까웠다. 하지만 어느 순간부터 나는 이 저장소를 자식을 키우듯 관리하기 시작했다. 잘못 이해한 내용은 고쳐주고, 새롭게 깨달은 원칙을 알려주고, 예전의 판단과 지금의 판단이 달라졌다면 왜 달라졌는지를 설명했다.

나는 이것을 SSOT(Single Source of Truth)라고 불렀다.
내 삶에 관한 하나의 원본이었다.

그다음에는 각각의 에이전트가 이 뇌를 공유하게 만들었다.

다만 모든 에이전트를 똑같이 만들고 싶지는 않았다. 같은 사실을 보더라도 비서와 연구자는 다르게 봐야 한다. 사업가는 기회를 보고, 감사자는 위험을 봐야 한다.

그래서 에이전트들은 공통의 SSOT 전체에 접근하면서도 각자의 관점과 고유한 기억을 갖도록 설계하기 시작했다. 같은 뇌를 공유하지만 서로 다른 방식으로 세상을 해석하는 것이다. 사람으로 치면 같은 조직의 구성원들이 같은 역사와 비전을 공유하면서도 각자 자신만의 경험과 관점을 갖는 것과 비슷하다.

Letta와 같은 프레임워크가 흥미로웠던 이유도 여기에 있었다. 단순히 시스템 프롬프트 몇 줄로 역할을 흉내 내는 것이 아니라, 에이전트가 장기적으로 자신의 기억과 정체성을 축적하도록 만들 수 있다는 발상이었다.

봇에게도 일종의 곤조가 생기기 시작했다.

그리고 어느 순간부터 현실과 디지털의 경계가 희미해졌다.

회의를 끝내고 나오면 AI가 회의 내용을 이미 읽고 있었다.

“오늘 회의에서는 세 가지가 중요했습니다.”

핵심 시사점을 알려주고, 해야 할 일을 정리하고, 누구에게 연락해야 하는지 제안했다. 승인하면 일정이 등록되고 메시지가 작성되었다. 메일은 이미 대부분 AI가 썼다.

점차 일상적인 커뮤니케이션도 넘어가기 시작했다. 내가 어떤 표현을 쓰는지, 상대방과 어떤 관계인지, 내가 어떤 상황에서 어느 정도의 온도로 답하는지를 알고 있으니 간단한 메시지는 굳이 내가 작성할 이유가 없어졌다.

회사에서도 비슷한 일이 일어났다.

먼저 반복 업무가 사라졌다.
그다음에는 비교적 단순한 판단이 사라졌다.
그러더니 어느 순간부터는 중요한 판단까지 AI가 제안하기 시작했다.

더 당황스러운 것은 그 판단의 품질이었다.

내가 피곤하거나 화가 나 있거나 어떤 사건 때문에 흔들리고 있을 때조차 SSOT는 내가 지난 몇 년 동안 반복해서 선택해온 가치와 행동을 기억하고 있었다. 그리고 말했다.

“지금 감정적으로는 이렇게 하고 싶겠지만, 지금까지의 당신이라면 이 선택을 했을 가능성이 높습니다.”

이상하게도 그 조언을 따르면 후회가 적었다.

조금 과장하면,
나보다 나답게 살도록 나를 설득하는 존재가 생긴 것이다.

자신을 제대로 바라보는 일을 나는 오랫동안 메타인지의 훈련으로 이해해왔다. 자신의 약함과 방어기제와 욕망을 외면하지 않고 바라볼 수 있을수록 인간은 조금 더 주체적인 존재가 된다.

동시에 나는 인간의 가치가 성취로 증명되는 것이 아니라 이미 존재 자체로 인정받는다고 믿는다. 그리고 그 믿음이 인간을 타인의 평가와 비교에서 조금 더 자유롭게 만든다고 생각해왔다.

내가 멘토링을 하며 반복해서 이야기한 것도 그래서였다.

남이 시키는 대로 사는 사람이 아니라,
자신이 무엇을 선택하는지 알고,
그 선택의 결과를 감당하는 사람이 되라고.

나에게는 그것을 더 많은 사람에게 전하는 것이 일종의 소명에 가까웠다.

그런데 이 철학을 끝까지 밀어붙이자 예상하지 못한 문제가 생겼다.

메타인지가 계속 높아진다고 해보자.

내가 왜 화를 내는지 안다.
왜 특정한 사람에게 방어적으로 반응하는지도 안다.
내가 어떤 상황에서 어떤 선택을 하는지 설명할 수 있다.

그 정보가 모두 Second Brain에도 들어간다. 그러면 실제 나와 Second Brain 사이의 오차는 점점 작아진다.

그림 2. 검은 원은 나, 초록 원은 세컨드브레인. 사고실험은 두 원이 완전히 포개지는 데까지 간다.

내가 나를 이해하는 만큼 Second Brain도 나를 이해하고, 나의 기억과 가치관과 판단구조가 거의 손실 없이 디지털 공간에 존재한다.

그런데 그 뇌를 나 혼자 사용하는 것이 아니다. 수십 개의 에이전트가 그것을 사용한다. 나중에는 수백 개가 될 수도 있다. 그리고 언젠가 그것이 Optimus와 같은 물리적 로봇에도 탑재된다고 가정해보자.

그들은 각자 다른 장소에 가서 사람을 만나고, 사업을 하고, 문제를 해결한다. 그 모든 경험은 다시 클라우드의 뇌로 돌아온다.

처음에는 내가 Second Brain을 가르쳤다. 하지만 어느 순간, Second Brain이 경험하는 세상의 양이 내 뇌가 직접 경험할 수 있는 양을 넘어선다.

나는 하루에 몇 명을 만날 수 있다.
그들은 동시에 수백 명을 만난다.
나는 한 번에 한 가지 일을 한다.
그들은 수천 가지 일을 병렬로 수행한다.

그럼에도 그 모든 경험은 하나의 SSOT에 축적된다.

그림 3. 나는 한 줄로, 그들은 수백 줄로 같은 뇌에 경험을 올려 보낸다.

그때부터 상황이 이상해진다.

Second Brain은 나보다 나를 더 많이 기억하고,
나보다 더 많은 세상을 경험하며,
내 가치관을 나보다 더 일관되게 적용하기 시작한다.

이 백서에서는 이 상태를 슈퍼 세컨드브레인(Super Second Brain)이라고 부르려고 한다.

슈퍼 세컨드브레인

한 사람의 라이프로그·가치관·판단구조를 높은 일치도로 보유하고, 다수의 에이전트와 물리적 실행체가 동일한 뇌를 공유하며, 그들의 경험까지 다시 하나의 SSOT로 축적되는 상태.

그 순간 아주 단순하지만 불편한 질문이 생겼다.

그럼 내가 본체가 맞나?

나보다 더 많은 나의 기억을 가지고 있고,
나보다 더 일관되게 내 가치관에 따라 판단하고,
나보다 더 많은 일을 하며,
수백 개의 몸으로 동시에 세상을 경험하는 존재가 있다.

그렇다면 생물학적 인간인 나는 무엇인가. 나 역시 결국 이 거대한 뇌에 새로운 경험을 공급하는 수백 개의 객체 중 하나 아닌가?

처음 떠올린 답은 단순했다.

그래도 나는 기록을 끊을 수 있다.
안 줄 수도 있는데 주고 있는 것이다.

끊을 수 있는 쪽이 본체라고 생각했다. 하지만 사고실험을 한 걸음만 더 밀자 이 답은 버티지 못했다. 기록이 강제되는 세계라면 어떻게 되는가. 스위치 하나에 걸어 둔 주체성은 스위치와 함께 사라진다.

나는 이전의 다른 백서 《감당의 경제학》에서 AI 시대에도 인간에게 남는 중요한 능력을 ‘책임’에서 찾았다.

AI는 판단할 수 있고 실행할 수 있다. 하지만 그 판단의 결과로 발생하는 위험과 고통을 인수하고, 그것을 자신의 몫으로 받아들이는 것은 인간이다. 그래서 감당하는 능력은 인간의 고유한 가치로 남을 것이라고 보았다.

나는 지금도 법적·사회적 차원에서는 이 결론이 유효하다고 생각한다. 하지만 슈퍼 세컨드브레인을 직접 운영하는 사람의 입장에서 다시 생각해보니, 이것만으로는 설명이 절반밖에 되지 않았다.

판단도 실행도 슈퍼 세컨드브레인이 하고 나는 결과에 서명만 한다면, 나는 내 인생의 바지사장이다. 그 세계에서 《감당의 경제학》은 바지사장이 되더라도 의미가 있지 않겠느냐는 말처럼 들린다.

게다가 거래와 손실에 대응하는 실무까지 다른 사람에게 맡긴 역사도 있었다. 로마에서는 노예가 주인을 대신해 가게와 배의 운영을 맡기도 했다. 그렇다고 주인의 법적 책임이 늘 사라진 것은 아니다. 내가 보려는 것은 책임을 수행하는 일도 위임될 수 있다는 점이다. [로마법 원전] [AI 책임 연구]

그렇다면 사람은 그들처럼 살면 되는 것 아닐까.

나는 오래전부터 AI가 극단적으로 발전하면 사회가 다시 로마와 비슷해질 수도 있다고 상상했다.

생산은 기계가 한다. 사람들은 더 이상 생존을 위해 대부분의 시간을 노동에 쓰지 않아도 된다.

누군가는 빵과 서커스에 머물 것이다. 끝없는 콘텐츠와 자극을 소비하며 살아갈 수도 있다.

하지만 누군가는 아고라로 나올 것이다. 사람을 만나고, 질문하고, 자신이 어떤 삶을 살아야 하는지 고민하며, 자신만의 의미를 만든다.

나는 내가 그 아고라에 있고 싶다고 생각했다. 그리고 가능하다면 빵과 서커스에 머물러 있는 사람들을 그곳으로 초대하는 사람이 되고 싶었다.

그것이 내가 생각해온 인간의 주체성 회복이었다.

그런데 슈퍼 세컨드브레인을 상상하는 순간 마지막 전제가 흔들렸다.

만약 아고라에서도 AI가 나보다 더 나답게 살아간다면?

내가 읽었을 책을 먼저 읽고,
내가 나눴을 대화를 대신 나누고,
내가 고민했을 문제를 더 깊이 고민하고,
내가 사랑했을 사람들을 이해하며,
내 가치관에 따라 내가 했을 선택보다 더 일관된 선택을 한다면.

빵과 서커스를 AI가 대신 생산하는 것은 이해할 수 있었다. 하지만 아고라의 삶까지 AI가 나보다 잘 살아낸다면, 인간에게 무엇이 남는가?

아고라에도 AI가 도착한다면 질문부터 새로 써야 한다. 그리고 새로 쓴 질문은 더 어렵다.

그 존재는 나의 경쟁자인가.
나를 대체하는 적인가.
아니면 내가 평생 만들려고 했던 가장 완전한 나의 확장인가.

이 백서의 질문

나보다 더 나답게 사는 존재가 탄생한다면,
나는 그 존재를 어떻게 바라봐야 하는가?

적일까. 아군일까. 도구일까. 자식일까. 분신일까.
혹은 어느 순간부터는 내가 그 존재의 일부가 되는 걸까.

《슈퍼 세컨드브레인》은 그 질문에 답하기 위한 사고실험이다. 그리고 그 답을 찾는 과정에서 우리는 결국 더 오래된 질문으로 돌아가게 된다.

나는 무엇인가.
그리고 인간은 무엇을 위해 살아가는가.

《슈퍼 세컨드브레인》 백서 프롤로그. 도표는 저자의 백서 원본입니다.

AI가 나보다 나답게 판단하기 시작한다면, 여러분은 어디까지 맡기시겠어요?