Why AI might not save the world

이번주 동안 여러 블록체인 이벤트들이 열리며 오랜만에 만난 업계 쪽 친구와 함께 인공지능의 미래와 방향에 대해 새벽에 두시간 가량의 열띤 토론을 나눴습니다.

제 친구는 꽤 오랫동안 블록체인 업계에서 개발자로 있던 분이었고, 저는 작년에 친구를 KBW 주간때 만나 계속 인연을 유지하다가 지금은 제가 AI 쪽으로 넘어온 상태가 됐습니다.

이번주 동안 만난 친구들은 다 블록체인 쪽에 있어서 제가 AI로 갔다고 했을때 AI가 블록체인보다 어떤 점에서 가능성이 더 많은지, 실제로 세상을 혁신적으로 바꿀 수 있는 기술인지에 대해 많은 대화를 나눴습니다.

저희가 나눴던 주제들은 대략 이렇습니다.

• AI를 통해 금전적인 이익을 얻고자 하는 사람들 vs 보수적인 관점으로 바라보며 조심스럽게 대하는 사람들

• AI에 의한 미래는 더 나은 세상이 된다 vs 오히려 세상을 더 쉽게 망칠 수 있을 것이다

• AI는 10년 안에 대부분의 일자리를 대체할 것인지 vs 오히려 더 많은 기회가 생겨날 것인지

• AI에 의해 나쁜 의도를 가진 사람들은 더욱 더 쉽게 목적을 달성할 것이다

Bootleggers와 Baptists는 a16z의 Marc Andreessen이 정의한 개념들입니다. 어떠한 사회적 변화가 나타났을때 그 기회를 통해 금전적인 이익을 좇는 사람들을 Bootlegger라고 하며, 반대로 이런 급격한 변화 때문에 컨트롤 할 수 없는 상황들을 대비하기 위해 법적 규제와 통제가 필요하다고 주장하는 사람들을 Baptists라고 합니다.

저는 AI를 활용한 스타트업을 창업한 사람으로써 Bootlegger의 관점을 갖고 있는 반면 제 친구는 조금 더 conservative(보수적인) 관점을 갖고 있었습니다.

저는 영상 크리에이터들을 위한 GenAI 스타트업을 하면서 모두가 컨텐츠를 쉽게 생산할 수 있는 인프라를 만들고자 했는데요, 제가 생각했던 미래의 모습은

1. 인공지능이 대부분의 일자리를 대체할 것이며,

2. 사람들은 인생의 의미를 찾기 위해 컨텐츠를 만들 것이고,

3. 모두가 컨텐츠 크리에이터가 될 것이기에 우리는 이 욕구를 위한 대비를 해야한다 였습니다.

이런 얘기를 전달했을때 친구는

1. 인공지능은 대부분의 일자리를 대체하지 않을 것이고, 오히려 일의 능률이 올라감에 따라 더 많은 공급 발생 -> 제품/서비스 가격 낮아짐 -> 소비자 수요 올라감 -> 더 많은 일자리/기회가 창출될 것이며,

2. 사람들은 인생의 의미를 찾기 위해 남에게 관심 받기 위해 만드는 컨텐츠보다는 공감 받기 위해 만드는 컨텐츠가 많을 것이고,

3. 그렇기에 모두가 단순히 현재 인플루언서와 같은 형태의 크리에이터가 되진 않을 것이다

라고 답변했습니다.

현재 AI 업계에서는 이런 컨텐츠들을 더 빨리, 더 많이 자동화시켜서 만들 수 있게 하는 서비스들이 많습니다. 유투브 릴스/쇼츠 자동화, 편집 자동화 AI 뿐만 아니라 AI로 얼굴 사진을 보정해주는 앱, AI 프로필 등 되게 다양한 제품들이 있는데, 컨텐츠의 공급이 급격히 늘어날수록 과연 사회의 어떤 면에서 어떻게 이바지하는가에 대해 자연스럽게 대화가 흘러가게 됐습니다.

컨텐츠의 공급이 더 많아진다면 이런 인프라를 빌딩한 Bootleggers들이 돈을 더 많이 버는 상황이 되겠지만, 사실상 이런 미래가 오게 된다면 모두가 더더욱 SNS에 중독된 상태로 절대 빠져나갈 수 없는 무한 쇼츠/릴스 루프를 돌며 점점 현실에서부터 멀어지는 현상을 겪게 될 것 같습니다. 현실보다는 가상세계에 중독되며, 일론 머스크가 말했던 것처럼 핸드폰과 내 자신을 떼어낼 수 없는 완전한 사이보그가 되겠죠.

인터넷이 처음 공급되면서 사실은 저희가 생각했던 것만큼 일의 능률과 효율이 급격하게 올라가진 않았습니다. 마찬가지로 AI에 의해 더 많은 업무들이 자동화되고 모두가 자신만의 AI Personal Assistant가 있게 된다면 사회 전반적으로 어느정도 productivity가 올라가겠지만, 그와 마찬가지로 - 오히려 더 크고 빠른 속도로 - SNS와 가상세계에 대한 중독성이 강해질 것입니다.

그래서 저는 미래에 대해 그렇게 희망적이진 않은 것 같습니다. 그렇기에 더더욱 이런 신기술을 활용해서 이익을 취하고자 하는 사람으로써 새로운 서비스/제품을 만들고자 할때 매번 제 자신에게 질문을 던집니다. "내가 지금 만들고 있는게 사회에 이로운 것인가? 이걸 하는게 도덕적으로 맞는건가?" 어떤 면으로라도 조금 더 이로운 방향으로 이바지할 수 있다면 만들 것 같습니다.

하지만 이미 주변에서는 급격한 속도로 새로운 제품들이 매일 나오고 있고, 개인, 스타트업, 기업 차원에서 뿐만 아니라 정부, 국가 전체 차원에서도 AI를 활용한 제품들을 계속 만들며 강화시키고 있습니다. 중국과 같은 경우에는 완변한 통제를 위한 용도로 AI를 쓰고 있습니다.

Marc Andreessen은 이에 맞서 "We should seek to win the race to global AI technological superiority and ensure that China does not." 라고 했지만, 사실상 우리가 지금 너무나도 쉽게 간과하고 있을 수 있는 점은 AI 기술이 발전됨에 따라 중국에서 뿐만 아니라 전세계적으로 우리의 모든 personal 데이터가 AI 모델들에 학습되고 있다는 것입니다. 인스타그램 계정이 공개 계정이라면 이미 대부분의 AI 기업에서는 당신의 사생활 데이터를 모두 수집해서 "개인화"라는 명분으로 모델들을 빌딩하고 있을 것입니다.

기업들은 이런 '개인화'를 통해 컨텐츠 추천 알고리즘, 광고 알고리즘 등을 만들고 있습니다. 소비자의 입장에서는 나에게만 맞춘 슈퍼컴퓨터 혹은 인공지능 비서가 생긴다면 너무 편리하겠지만 우리가 던져야할 질문은 "at what cost?"입니다. 우리도 모르게 점점 이런 알고리즘에 빠져들어 헤어나올 수 없는 지경이 되고 있으며, 더 많은 반응.좋아요.댓글.공유를 할 수록 나의 데이터를 더 수집해가면서 옭아매고 있습니다. 이런 미래에서는 나도 모르게 무의식적으로 컨트롤 당하게 되는 경우가 많아질 것 같아 더 두렵습니다.

그래서 정말 웃기기도 하고 멋있다고 든 생각이지만, 제 친구는 이런 authoritarian, totalitarian, centralized된 미래가 만일 올거에 대비하기 위해 더더욱 블록체인을 하고 있다고 했습니다. 누구도 미래를 예측할 수는 없지만, 이런 신기술이 왔을때에는 최대한 어떻게 도덕적으로 접근해야하는지, 나에게 어떤 영향을 끼치게 될건지, 내가 무언가를 만든다면 사회에 어떤 영향을 끼칠건지에 대해 1시간이라도 진지하게 고민하는 시간이 필요하다고 생각합니다.

제가 제 친구와 함께 토론했던 내용들을 Marc Andreessen이 "Why AI WIll Save the World"라는 글에서 대부분 짚고 넘어간 것 같아 글을 공유합니다.