석탄, 전기, AI, 그 다음은?

Horowitz의 포트폴리오를 통해 바라본 AI의 정확성 문제

명실상부 누구도 부정할 수 없는 대 AI의 시대가 도래했다. '쓸 만한 AI', CahtGPT가 등장한지 불과 2년이 지난 지금, 생성형 AI 관련 시장 규모는 50조원에 달할 것으로 추산되고, AI로 시야를 넓히면 300조원에 가까운 시장이 형성되어 있다.

현재 AI는 완벽하진 않은 수준의 Precision과 Accuracy를 보여주고 있는데, 이를 감수할 만큼 압도적인 효율성과 편의성으로 전세계인을 설득하고 있다...고 생각했는데 조금 더 살펴보니 그게 아닐 수도 있다는 생각이 들었다.

최근 Adreessen Horowitz에서 AI 관련 포트폴리오를 확인해봤는데, 바이오/헬스케어 분야의 기업이 40개가 넘었다.(엑싯한 기업 포함) 현재 투자 중인 AI 기업의 개수가 100개를 조금 넘는다는 점을 고려했을 때, 꽤 높은 비중을 차지하고 있는 것이다.

그리고 바이오/헬스케어 분야에서는 정확성이 굉장히 중요하다. AI를 통한 질병 유무 분석, 헬스케어 기기 착용자의 생체지표 판독 등에 어떠한 종류의 오류가 발생하든 사용자에게 엄청난 금전적/비금전적 손실이 발생하기 때문이다.

이러한 관점에서 Horowitz의 포트폴리오에서 바이오/헬스케어 관련 기업의 비중이 높다는 것은 이들이 가진/가지게 될 기술의 정확성을 어느정도 신뢰한다는 것으로 판단할 수 있고, 이에 이제 AI가 하는 일에 의심조차 품지 않을 날이 얼마 남지 않았다고 느껴졌다.

이는 곧 AI가 Risky하지 않은, 대부분의 기업과 소비자들이 부담 없이 받아들일 수 있는 보편적인 기술이 됨을 의미한다. 마치 비행기, 자동차, 전기 등 Risky 했던 기술이 점차 발전하며 일상생활에 녹아든 것과 같은 이치다.

AI는 공정한가

그럼 그 다음은 뭘까? 여기서, 잠깐 매혹적인 '기술력'에서 잠깐 눈을 떼고 다른 곳을 바라볼 필요가 있다. 일반적으로 새로운 기술이 소개되었을 때, 사람들의 의심은 기술 자체(안정성, 정확성)를 향하거나 그 기술의 도덕성을 향한다. 이 때, 기술의 급격히 성장하고 받아들여지는 단계에서는 전자에 더 집중하는 경향을 보인다. (ex. 석탄/석유 등 화석연료로 인한 환경오염, 인터넷 기술의 익명성과 거짓정보 문제 등)

AI는 너무나도 빨리 우리 삶에 녹아들었으며, 이에 도덕성에 대한 논의가 충분히 진행되지 않았다. ChatGPT가 등장했던 초기, ChatGPT가 내뱉는 공격적인 답변이나 누군가의 개인정보가 문제된 바 있으나, 이러한 답변을 제시하지 않도록 하면서 논란이 일단락된 바 있다.

그런데 진정 문제를 제기해야하는 부분은 데이터를 처리하고 '뱉어내는 과정'이 아니라 '학습하는 과정'에 있다. AI가 만들어내는 가치는 어디에 기반하는가? 나는 모델 반, 데이터가 반이라고 생각한다.

그런 만큼 생성형 AI가 창출하는 가치가 오롯이 기업에게 돌아가는 것이 도덕적인지 다시 생각해볼 필요가 있다. 데이터는 누가 제공하는가? 의식하든 의식하지 못하든, 결국은 사용자들이었고, 사용자들이다.

그럼 그들에게 가치가 제공되고 있는가? 꼭 금전적이진 않더라도 그 AI를 사용함으로써 얻는 편리함이라는 가치를 제공받고 있으나, 이것으로 충분하지 않다고 생각하는 이들도 많을 것이다.

공정한 분배를 위한 인프라, 블록체인

이러한 문제에 집중하는 기술이 바로 블록체인이다. 내가 생각하는 블록체인은 (남들과 다른 생각일 수 있지만) '인터넷을 뛰어넘는 대단한 기술!'이 아니라, 인터넷 상의 여러 문제점을 해결할 수 있는 수단/도구이다.

어떤 나라인지는 기억나지 않지만, 최근 국가가 국민의 출금을 제한하는 등, 중앙화된 금융 시스템의 문제점이 드러난 적이 있다. 블록체인은 누군가에 의해 소유되지 않은 금융 시스템을 구축함으로써 이러한 기본권 제한이 불가능하도록 할 수 있으며, 이외에도 금융 거래에 있어 완전한 익명성을 추구할 수도 있다.

서론이 정말정말 길었는데, AI의 공정성과 관련해서도 블록체인은 이와 같은 역할을 수행할 수 있으며 이하 소개할 기업 Ringfence와 같은 프로토콜이 공정한 AI를 위해 노력하고 있다.

Ringfence

Ringfence는 데이터의 소유권을 명확하게 해주는 데이터 형식 표준을 개발하는 기업이다. 간단하게, '데이터'라는 엔티티를 블록체인 네트워크 상의 토큰화 시킴으로써 데이터의 근원과 주인이 누구인지 누구나 알 수 있도록 하는 것이다.

유저는 Ringfence를 설치하고 Ringfence를 통해 기존 사용하던 SNS 등을 사용하게 되며, 이 때 유저의 행동 데이터는 Ringfence를 통해 logbook 형태로 토큰화 되어 기기에 저장된다. 즉, 유저의 데이터를 유저가 소유하게 된다.
한 가지 한계점은 SNS가 유저의 데이터를 수집하는 것을 막을 수는 없다는 것이다. 이를 해결하는 유일한 방법은 정보를 수집하는 SNS를 사용하지 않는 것이며, 데이터의 이동을 투명하게 확인할 수 있는 블록체인 네트워크 상의 SNS가 대성하는 것인데, 이는 아직까지는 요원하기 때문에 어쩔 수 없는 한계로 보인다.

이상적인 이야기겠지만 Ringfence를 통해 유저의 데이터가 토큰화 되어 이를 AI 모델 개발 업체에게 판매할 수 있는 표준이 보편화되면 AI가 창출하는 가치가 AI를 학습시키는 데 활용된 데이터의 제공자에게 공정하게 분배될 수 있을 것이며, 더 나아가서는 AI가 내놓는 답변에 더 기여한 데이터 제공자에게 더 큰 보상을 제공하는 모습도 상상해볼 수 있다.

Ringfence는 아직 정식버전이 출시되지 않아 명확한 수익구조가 확인되지는 않는다. 다만, 데이터를 토큰화 시켜 유저가 가지게 하고, 이를 거래할 수 있는 기능을 제공하기 때문에 토큰을 거래할 때 발생하는 수수료를 주요 수익원으로 사용할 것으로 예상된다.

마무리하며

앞서 말한 바와 같이 블록체인은 느리고, 비싸고, 어려워 기존 기술을 대체하는 하나의 '네트워크 표준'으로 자리잡기는 어려울 것이다. 다만, 이제는 전통적이라 부를 수 있는 IT 기술이 가진 도덕적, 나아가 정치적 문제점을 해결할 수 있는 보완재로 작용할 수 있을 것이며, 특히 금융 주권과 데이터 주권에 있어 유의미한 역할을 할 수 있을 것으로 기대된다. 그리고 이를 위한 초석이 데이터의 소유권을 명확하게 할 수 있는, (소유권이 정의되어야 이를 소유할 수 있고, 데이터 주권을 얻을 수 있을 것임) 오늘 소개한 Ringfence와 같은 프로토콜일 것이다.

이번 글에서는 데이터 주권에 관한 얘기를 했는데, 금융 주권에 대해서도 하고싶은 얘기가 많다. 사실 금융 주권, 그러니까 DeFi에 관한 시리즈 아티클을 BAY(연세대학교 블록체인 학회) 미디엄을 통해 연재할 계획에 있으니 관심있으면 확인해보셔도 좋을 것 같다.