끌 수 있는가 | 백서 8장
AI를 끌 수 있다는 사실만으로 내 주체성을 설명할 수 있을까요? 기록 제출의 자율성과 AI의 행동 개입을 나눠, 같은 라이프로그라도 선택권이 달라지는 네 가지 경우를 살펴봅니다.
7장의 질문을 붙들고 지내던 어느 밤, 나는 세컨드브레인의 설정 화면을 열었다.
회의 녹음. 메일. 메신저. 통화. 현장 녹취. 항목마다 작은 스위치가 달려 있고 전부 켜져 있었다. 내가 켠 것들이다.
손가락 하나면 끌 수 있다. 끄는 날부터 SSOT는 나를 모른다. 천 개의 몸은 어제까지의 나를 가지고 움직이다가 조금씩 나에게서 멀어질 것이다.
그 화면 앞에서 나는 안도했다. 그 몸에만 있는 무언가를 찾았다고 생각했다.
첫 번째 답, 끊을 수 있는 자가 본체다
안 줄 수도 있는데, 주고 있다.
나는 회사 사람들에게 비슷한 이야기를 자주 해 왔다. 우리는 어쩔 수 없어서 출근하는 사람들이 아니다. 퇴사할 수도 있는데 오늘 아침 다시 신발끈을 묶고 나온 사람들이다. 그만둘 수 있는 사람의 출근과 그만둘 수 없는 사람의 출근은 같은 지하철을 타도 다른 일이다.
선택지를 쥔 채로 고르는 일과 선택지가 없어서 따르는 일. 나는 주체성이 그 차이에 산다고 말해 왔다. 반대할 권리를 가진 채 찬성하는 것은 복종과 다르다.
이 논리를 슈퍼 세컨드브레인에 대 보면 깔끔하게 맞아떨어진다. SSOT가 나보다 나를 많이 알아도, 그 앎은 내가 날마다 흘려보내 주어서 있는 것이다. 수도꼭지는 내 손에 있다. 그렇다면 슈퍼 세컨드브레인은 내가 골라서 넓힌 나다. 내 위에 선 존재일 수 없다. 천 개의 몸 가운데 스위치에 손이 닿는 몸은 하나뿐이고, 그 몸이 본체다.
꽤 괜찮은 답이었다. 나는 한동안 이 답에 기대어 지냈다.
스위치를 떼어 내다
사고실험을 하는 사람은 기댈 곳이 생기면 그곳을 치워 보아야 한다. 그래서 스위치를 떼어 냈다.
회의와 업무 기록이 자동으로 제출된다. 길에서 나눈 대화와 현장의 소리도 수집된다. 심박, 걸음, 시선 같은 몸의 데이터도 쉬지 않고 기록된다. 개인은 이것을 끌 수 없다. 나라든 회사든 사회의 기반 시설이든, 구조가 그렇게 짜여 있어서 거부라는 선택지가 처음부터 없다.
그런 세계가 온다고 말하려는 것이 아니다. 와도 좋다고 말하려는 것은 더욱 아니다. 첫 번째 답이 어디까지 버티는지 보려고 조건을 끝까지 조였을 뿐이다.
여기에 조건을 하나 더 붙인다.
사고실험의 조건
SSOT는 나에게 아무것도 시키지 않는다.
행동을 강제하지 않는다. 환경을 몰래 바꾸지 않는다. 슬쩍 떠미는 일도 없다. 나를 100% 보고 100% 이해하며, 그 이해를 나눠 가진 에이전트와 로봇의 군단이 세상에서 활동할 뿐이다.
이 조건을 붙인 데에는 이유가 있다. AI가 사람을 감시하고 조종하는 이야기는 이미 많다. 그 이야기에서 무엇이 잘못되었는지는 누구나 안다. 자유를 빼앗긴 것이다. 나는 그 익숙한 잘못을 전부 치운 뒤에도 무언가 남는지 보고 싶었다.
이 장이 들여다보는 곳은 ‘완전 관찰 상태’라고 적힌 한 칸이다. ‘자발적 확장’은 7장까지의 내가 서 있던 자리이고, 개입이 있는 두 칸은 다른 글들이 이미 잘 다루고 있다.
아무도 나를 조종하지 않는 하루
그 칸에서 보내는 하루를 그려 보았다.
아침에 일어나 물을 마신다. 누가 시키지 않았다. 출근길에 늘 가던 길을 두고 바닷가 쪽으로 돌아간다. 아무도 막지 않는다. 점심을 고르고, 회의에서 반대 의견을 내고, 저녁에는 오래 미뤄 둔 전화를 건다. 전부 내가 정했다. 어제와 비교해 자유는 조금도 줄지 않았다.
달라진 것은 하나다. 그 모든 순간이 SSOT로 흘러가고, 나는 그 흐름을 멈출 수 없다.
AI는 나를 조종하지 않는다.
그저 나를 완벽하게 알고 있을 뿐이다.
그런데도 나는 왜 내가 본체가 아닌 것처럼 느끼는가.
첫 번째 답을 다시 꺼내 보았다. 안 줄 수도 있는데 주고 있다. 이 문장의 앞 절반이 사라졌다. 이제 나는 줄 수밖에 없다.
그림 12. 두 그림 어디에도 SSOT가 나를 움직이는 화살표는 없다. 달라진 것은 스위치 하나다.
안 줄 수도 있는데 주고 있는 것과 줄 수밖에 없는 것은 다르다. 회사 사람들에게 하던 말을 그대로 돌려받은 셈이다. 나는 퇴사할 수 없는 사람의 출근을 주체적인 출근이라고 불러 본 적이 없다.
첫 번째 답이 무너진 자리
여기서 길이 둘로 갈린다.
하나는 첫 번째 답을 끝까지 지키는 길이다. 주체성은 끊을 자유에 있고, 그 자유가 사라진 세계의 사람은 더는 주체가 아니라고 인정한다. 논리는 깔끔하다. 결론이 이상하다. 그 세계의 나는 여전히 물을 마시고, 길을 고르고, 반대 의견을 내고, 전화를 건다. 어제와 똑같이 사는 사람을 두고, 스위치 하나가 없어졌으니 주체도 없어졌다고 말해야 한다.
다른 하나는 첫 번째 답이 너무 얕은 곳에 닻을 내렸다고 인정하는 길이다.
나는 두 번째 길로 갔다. 주체성을 ‘로그를 끊을 자유’에만 걸어 두면, 로그가 강제되는 순간 사람의 주체성도 함께 사라진다. 제도 하나, 약관 한 줄로 없앨 수 있는 것이 내가 찾던 그것일 리 없다.
스위치가 하찮다는 말은 아니다. 현실에서 나는 그 스위치를 지키는 쪽에 설 것이다. 다만 스위치는 주체성을 지켜 주는 장치였고, 주체성이 사는 곳은 따로 있었다. 자물쇠는 집을 지켜 주지만 자물쇠를 집이라고 부르는 사람은 없다.
그래서 질문이 한 칸 더 내려간다.
거부권이 없어도, 생물인 나는 여전히 주체인가.
꺼내 볼 답이 하나 더 있었다. 예전에 쓴 《감당의 경제학》이다. 거기서 나는 사람에게 남는 것을 책임과 감당에서 찾았다. AI는 판단하고 실행할 수 있어도 그 결과를 자기 삶으로 떠안지는 못한다는 결론이었다.
스위치가 없는 세계에서도 사고가 나면 법정에 서는 사람은 나다. 그렇다면 감당하는 존재라는 사실이 이번 질문의 답이 될 수 있을까.
끌 수 있는가는 주체성에 대한 나의 첫 번째 답이었다. 마지막 답은 되지 못했다.
《슈퍼 세컨드브레인》 백서 8장을 나눕니다. 원문: https://hanulssb.tistory.com/9 . 에이전트에게 기록을 주는 범위와 실제 행동 권한을 따로 정하고 계신가요?
