신지민

석탄, 전기, AI, 그 다음은?

Horowitz의 포트폴리오를 통해 바라본 AI의 정확성 문제

명실상부 누구도 부정할 수 없는 대 AI의 시대가 도래했다. '쓸 만한 AI', CahtGPT가 등장한지 불과 2년이 지난 지금, 생성형 AI 관련 시장 규모는 50조원에 달할 것으로 추산되고, AI로 시야를 넓히면 300조원에 가까운 시장이 형성되어 있다.

현재 AI는 완벽하진 않은 수준의 Precision과 Accuracy를 보여주고 있는데, 이를 감수할 만큼 압도적인 효율성과 편의성으로 전세계인을 설득하고 있다...고 생각했는데 조금 더 살펴보니 그게 아닐 수도 있다는 생각이 들었다.

최근 Adreessen Horowitz에서 AI 관련 포트폴리오를 확인해봤는데, 바이오/헬스케어 분야의 기업이 40개가 넘었다.(엑싯한 기업 포함) 현재 투자 중인 AI 기업의 개수가 100개를 조금 넘는다는 점을 고려했을 때, 꽤 높은 비중을 차지하고 있는 것이다.

그리고 바이오/헬스케어 분야에서는 정확성이 굉장히 중요하다. AI를 통한 질병 유무 분석, 헬스케어 기기 착용자의 생체지표 판독 등에 어떠한 종류의 오류가 발생하든 사용자에게 엄청난 금전적/비금전적 손실이 발생하기 때문이다.

이러한 관점에서 Horowitz의 포트폴리오에서 바이오/헬스케어 관련 기업의 비중이 높다는 것은 이들이 가진/가지게 될 기술의 정확성을 어느정도 신뢰한다는 것으로 판단할 수 있고, 이에 이제 AI가 하는 일에 의심조차 품지 않을 날이 얼마 남지 않았다고 느껴졌다.

이는 곧 AI가 Risky하지 않은, 대부분의 기업과 소비자들이 부담 없이 받아들일 수 있는 보편적인 기술이 됨을 의미한다. 마치 비행기, 자동차, 전기 등 Risky 했던 기술이 점차 발전하며 일상생활에 녹아든 것과 같은 이치다.

AI는 공정한가

그럼 그 다음은 뭘까? 여기서, 잠깐 매혹적인 '기술력'에서 잠깐 눈을 떼고 다른 곳을 바라볼 필요가 있다. 일반적으로 새로운 기술이 소개되었을 때, 사람들의 의심은 기술 자체(안정성, 정확성)를 향하거나 그 기술의 도덕성을 향한다. 이 때, 기술의 급격히 성장하고 받아들여지는 단계에서는 전자에 더 집중하는 경향을 보인다. (ex. 석탄/석유 등 화석연료로 인한 환경오염, 인터넷 기술의 익명성과 거짓정보 문제 등)

AI는 너무나도 빨리 우리 삶에 녹아들었으며, 이에 도덕성에 대한 논의가 충분히 진행되지 않았다. ChatGPT가 등장했던 초기, ChatGPT가 내뱉는 공격적인 답변이나 누군가의 개인정보가 문제된 바 있으나, 이러한 답변을 제시하지 않도록 하면서 논란이 일단락된 바 있다.

그런데 진정 문제를 제기해야하는 부분은 데이터를 처리하고 '뱉어내는 과정'이 아니라 '학습하는 과정'에 있다. AI가 만들어내는 가치는 어디에 기반하는가? 나는 모델 반, 데이터가 반이라고 생각한다.

그런 만큼 생성형 AI가 창출하는 가치가 오롯이 기업에게 돌아가는 것이 도덕적인지 다시 생각해볼 필요가 있다. 데이터는 누가 제공하는가? 의식하든 의식하지 못하든, 결국은 사용자들이었고, 사용자들이다.

그럼 그들에게 가치가 제공되고 있는가? 꼭 금전적이진 않더라도 그 AI를 사용함으로써 얻는 편리함이라는 가치를 제공받고 있으나, 이것으로 충분하지 않다고 생각하는 이들도 많을 것이다.

공정한 분배를 위한 인프라, 블록체인

이러한 문제에 집중하는 기술이 바로 블록체인이다. 내가 생각하는 블록체인은 (남들과 다른 생각일 수 있지만) '인터넷을 뛰어넘는 대단한 기술!'이 아니라, 인터넷 상의 여러 문제점을 해결할 수 있는 수단/도구이다.

어떤 나라인지는 기억나지 않지만, 최근 국가가 국민의 출금을 제한하는 등, 중앙화된 금융 시스템의 문제점이 드러난 적이 있다. 블록체인은 누군가에 의해 소유되지 않은 금융 시스템을 구축함으로써 이러한 기본권 제한이 불가능하도록 할 수 있으며, 이외에도 금융 거래에 있어 완전한 익명성을 추구할 수도 있다.

서론이 정말정말 길었는데, AI의 공정성과 관련해서도 블록체인은 이와 같은 역할을 수행할 수 있으며 이하 소개할 기업 Ringfence와 같은 프로토콜이 공정한 AI를 위해 노력하고 있다.

Ringfence

Ringfence는 데이터의 소유권을 명확하게 해주는 데이터 형식 표준을 개발하는 기업이다. 간단하게, '데이터'라는 엔티티를 블록체인 네트워크 상의 토큰화 시킴으로써 데이터의 근원과 주인이 누구인지 누구나 알 수 있도록 하는 것이다.

유저는 Ringfence를 설치하고 Ringfence를 통해 기존 사용하던 SNS 등을 사용하게 되며, 이 때 유저의 행동 데이터는 Ringfence를 통해 logbook 형태로 토큰화 되어 기기에 저장된다. 즉, 유저의 데이터를 유저가 소유하게 된다.
한 가지 한계점은 SNS가 유저의 데이터를 수집하는 것을 막을 수는 없다는 것이다. 이를 해결하는 유일한 방법은 정보를 수집하는 SNS를 사용하지 않는 것이며, 데이터의 이동을 투명하게 확인할 수 있는 블록체인 네트워크 상의 SNS가 대성하는 것인데, 이는 아직까지는 요원하기 때문에 어쩔 수 없는 한계로 보인다.

이상적인 이야기겠지만 Ringfence를 통해 유저의 데이터가 토큰화 되어 이를 AI 모델 개발 업체에게 판매할 수 있는 표준이 보편화되면 AI가 창출하는 가치가 AI를 학습시키는 데 활용된 데이터의 제공자에게 공정하게 분배될 수 있을 것이며, 더 나아가서는 AI가 내놓는 답변에 더 기여한 데이터 제공자에게 더 큰 보상을 제공하는 모습도 상상해볼 수 있다.

Ringfence는 아직 정식버전이 출시되지 않아 명확한 수익구조가 확인되지는 않는다. 다만, 데이터를 토큰화 시켜 유저가 가지게 하고, 이를 거래할 수 있는 기능을 제공하기 때문에 토큰을 거래할 때 발생하는 수수료를 주요 수익원으로 사용할 것으로 예상된다.

마무리하며

앞서 말한 바와 같이 블록체인은 느리고, 비싸고, 어려워 기존 기술을 대체하는 하나의 '네트워크 표준'으로 자리잡기는 어려울 것이다. 다만, 이제는 전통적이라 부를 수 있는 IT 기술이 가진 도덕적, 나아가 정치적 문제점을 해결할 수 있는 보완재로 작용할 수 있을 것이며, 특히 금융 주권과 데이터 주권에 있어 유의미한 역할을 할 수 있을 것으로 기대된다. 그리고 이를 위한 초석이 데이터의 소유권을 명확하게 할 수 있는, (소유권이 정의되어야 이를 소유할 수 있고, 데이터 주권을 얻을 수 있을 것임) 오늘 소개한 Ringfence와 같은 프로토콜일 것이다.

이번 글에서는 데이터 주권에 관한 얘기를 했는데, 금융 주권에 대해서도 하고싶은 얘기가 많다. 사실 금융 주권, 그러니까 DeFi에 관한 시리즈 아티클을 BAY(연세대학교 블록체인 학회) 미디엄을 통해 연재할 계획에 있으니 관심있으면 확인해보셔도 좋을 것 같다.

석탄, 인터넷, AI, 그 다음은?

Horowitz의 포트폴리오를 통해 바라본 AI의 정확성 문제

명실상부, 누구도 부정할 수 없는 AI 시대가 도래했다. '쓸 만한' AI인 CahtGPT가 등장한지 불과 2년이 지난 지금, 생성형 AI 관련 시장 규모는 50조원에 달할 것으로 추산되며, AI로 시야를 넓히면 300조원에 가까운 시장이 형성되어있다.

현재 AI는 완벽하진 않은 수준의 Precision과 Accuracy를 보여주고 있는데, 이를 감수할만큼 압도적인 효율성과 편의성으로 전세계인을 설득하고 있다..고 생각했는데 조금 더 살펴보니 그게 아닐 수도 있다는 생각이 들었다.

최근 Adreessen Horowitz에서 AI 관련 포트폴리오를 확인해봤는데, 바이오/헬스케어 분야의 기업이 40개가 넘었다.(엑싯한 기업 포함) 현재 투자 중인 AI 기업의 갯수가 100개를 조금 넘는다는 점을 고려했을 때, 꽤 높은 비중을 차지하고 있는 것이다.

그리고 바이오/헬스케어 분야에서는 정확성이 굉장히 중요하다. AI를 통한 질병 유무 분석, 헬스케어 기기 착용자의 생체지표 판독 등에 어떠한 종류의 오류가 발생하든 사용자에게 엄청난 금전적/비금전적 손실이 발생하기 때문이다.

이러한 관점에서 Horowitz의 포트폴리오에서 바이오/헬스케어 관련 기업의 비중이 높다는 것은 이들이 가진/가지게 될 기술의 정확성을 어느정도 신뢰한다는 것으로 판단할 수 있고, 이에 이제 AI가 하는 일에 의심조차 품지 않을 날이 얼마 남지 않았다고 느껴졌다.

이는 곧 AI가 Risky하지 않은, 대부분의 기업과 소비자들이 부담 없이 받아들일 수 있는 보편적인 기술이 됨을 의미한다. 마치 비행기, 자동차, 전기 등, 리스키 했던 기술이 점차 발전하며 일상생활에 녹아든 것과 같은 이치다.

AI는 공정한가

그럼 그 다음은 뭘까? 여기서, 잠깐 매혹적인 '기술력'에서 잠깐 눈을 떼고 다른 곳을 바라볼 필요가 있다. 일반적으로 새로운 기술이 소개되었을 때, 사람들의 의심은 기술 자체(안정성, 정확성)를 향하거나 그 기술의 도덕성을 향한다. 이 때, 기술의 급격히 성장하고 받아들여지는 단계에서는 전자에 더 집중하는 경향을 보인다. (ex. 석탄/석유 등 화석연료로 인한 환경오염, 인터넷 기술의 익명성과 거짓정보 문제 등)

AI는 너무나도 빨리 우리 삶에 녹아들었으며, 이에 도덕성에 대한 논의가 충분히 진행되지 않았다. ChatGPT가 등장했던 초기, ChatGPT가 내뱉는 공격적인 답변이나 누군가의 개인정보가 문제된 바 있으나, 이러한 답변을 제시하지 않도록 하면서 논란이 일단락된 바 있다.

그런데 진정 문제를 제기해야하는 부분은 데이터를 처리하고 '뱉어내는 과정'이 아니라 '학습하는 과정'에 있다. AI가 만들어내는 가치는 어디에 기반하는가? 나는 모델 반, 데이터가 반이라고 생각한다.

그런 만큼 생성형 AI가 창출하는 가치가 오롯이 기업에게 돌아가는 것이 도덕적인지 다시 생각해볼 필요가 있다. 데이터는 누가 제공하는가? 의식하든 의식하지 못하든, 결국은 사용자들이었고, 사용자들이다.

그럼 그들에게 가치가 제공되고 있는가? 꼭 금전적이진 않더라도 그 AI를 사용함으로써 얻는 편리함이라는 가치를 제공받고 있으나, 이것으로 충분하지 않다고 생각하는 이들도 많을 것이다.

공정한 분배를 위한 인프라, 블록체인

이러한 문제에 집중하는 기술이 바로 블록체인이다. 내가 생각하는 블록체인은 (남들과 다른 생각일 수 있지만) '인터넷을 뛰어넘는 대단한 기술!'이 아니라, 인터넷 상의 여러 문제점을 해결할 수 있는 수단/도구이다.

어떤 나라인지는 기억나지 않지만, 최근 국가가 국민의 출금을 제한하는 등, 중앙화된 금융 시스템의 문제점이 드러난 적이 있다. 블록체인은 누군가에 의해 소유되지 않은 금융 시스템을 구축함으로써 이러한 기본권 제한이 불가능하도록 할 수 있으며, 이외에도 금융 거래에 있어 완전한 익명성을 추구할 수도 있다.

서론이 정말정말 길었는데, AI의 공정성과 관련해서도 블록체인은 이와 같은 역할을 수행할 수 있으며 이하 소개할 기업 Masa와 같은 프로토콜이 공정한 AI를 위해 노력하고 있다.

Ringfence

Ringfence는 데이터의 소유권을 명확하게 해주는 데이터 형식 표준을 개발하는 기업이다. 간단하게, '데이터'라는 엔티티를 블록체인 네트워크 상의 토큰화 시킴으로써 데이터의 근원과 주인이 누구인지 누구나 알 수 있도록 하는 것이다.

유저는 Ringfence를 설치하고 Ringfence를 통해 기존 사용하던 SNS 등을 사용하게 되며, 이 때 유저의 행동 데이터는 Ringfence를 통해 logbook 형태로 토큰화 되어 기기에 저장된다. 즉, 유저의 데이터를 유저가 소유하게 된다.
한 가지 한계점은 SNS가 유저의 데이터를 수집하는 것을 막을 수는 없다는 것이다. 이를 해결하는 유일한 방법은 정보를 수집하는 SNS를 사용하지 않는 것이며, 데이터의 이동을 투명하게 확인할 수 있는 블록체인 네트워크 상의 SNS가 대성하는 것인데, 이는 아직까지는 요원하기 때문에 어쩔 수 없는 한계로 보인다.

이상적인 이야기겠지만 Ringfence를 통해 유저의 데이터가 토큰화 되어 이를 AI 모델 개발 업체에게 판매할 수 있는 표준이 보편화되면 AI가 창출하는 가치가 AI를 학습시키는 데 활용된 데이터의 제공자에게 공정하게 분배될 수 있을 것이며, 더 나아가서는 AI가 내놓는 답변에 더 기여한 데이터 제공자에게 더 큰 보상을 제공하는 모습도 상상해볼 수 있다.

Ringfence는 아직 정식버전이 출시되지 않아 명확한 수익구조가 확인되지는 않는다. 다만, 데이터를 토큰화 시켜 유저가 가지게 하고, 이를 거래할 수 있는 기능을 제공하기 때문에 토큰을 거래할 때 발생하는 수수료를 주요 수익원으로 사용할 것으로 예상된다.

마무리하며

앞서 말한 바와 같이, 블록체인은 느리고, 비싸고, 어려워 기존 기술을 대체하는 하나의 '네트워크 표준'으로 자리잡기는 어려울 것이다. 다만, 이제는 전통적이라 부를 수 있는 IT 기술이 가진 도덕적, 나아가 정치적 문제점을 해결할 수 있는 보완재로 작용할 수 있을 것이며, 특히 금융 주권과 데이터 주권에 있어 유의미한 역할을 할 수 있을 것으로 기대된다. 그리고 이를 위한 초석이 데이터의 소유권을 명확하게 할 수 있는, (소유권이 정의되어야 이를 소유할 수 있고, 데이터 주권을 얻을 수 있을 것임) 오늘 소개한 Ringfence와 같은 프로토콜일 것이다.

이번 글에서는 데이터 주권에 관한 얘기를 했는데, 금융 주권에 대해서도 하고싶은 얘기가 많다. 사실 금융 주권, 그러니까 DeFi에 관한 시리즈 아티클을 BAY(연세대학교 블록체인 학회) 미디엄을 통해 연재할 계획에 있으니 관심있으면 확인해보셔도 좋을 것 같다.

쉽게 실패하는 법: 답에 문제를 끼워 맞추기

1. 첫 메이커로그인만큼 간단하게 자기소개를 남긴다.

   
   Profile: 신지민, 연세대학교 천문우주학과/경영학과, 외국 시트콤과 애니메이션, 그리고 여러 스포츠를 즐김
   
   어쩌다 이곳에?: 2023년부터 전략컨설턴트를 목표로 삼아 학회활동을 하는 등 1년 간 달려가고 있었다. 그러다 영화 '찰리와 초콜릿 공장'을 보고 '내가 하는 일이 다른 사람을 즐겁게 했으면 좋겠다.'는 생각이 강하게 들었고, 이를 가장 잘 이룰 수 있는 수단이 창업이라는 생각이 들어 일단 창업 학회에 들어가 활동 중이다.
   
   목표: 어떤 주제 속에서, 어떤 기술을 통해 창업을 하는가는 크게 상관 없지만, 내 서비스/프로덕트가 소비자에게 즐거움을 제공하는 것을 목표로 삼고 있다.

2. 첫 아이디어 찾기 from AI
   

   내가 처음 가입했고 아직 활동 중인 창업 동아리는 AI를 공부하고, 이를 활용한 창업활동을 하는 것을 목표로 하는 학회다. 그래서 AI를 활용한 여러가지 서비스를 기획했고, 결국 최종 프로덕트까지 이어지지는 못 했지만 나름 재밌는 아이디어를 잡고 한 학기 동안 디벨롭해보기도 했다.

3. 답에 맞는 문제 만들기의 문제점

   이때 구상했던 아이디어가 어느정도 봐줄만 했던 건 순전히 운이었다고 생각한다. 문제를 정의하고 그 문제가 해결할 가치가 있는 지 판단하고, 적절한 솔루션을 제작하는 일련의 과정을 거쳐 탄생한 아이디어가 아닌, 일단 AI를 활용한 서비스를 기획하고 이를 써먹을 시장과 세부 기능 등을 정의하면서 가닥이 잡힌 아이디어였기 때문이다.

   한마디로 나와 우리 팀은 답을 일단 정해 두고 우리가 원하는 답을 내뱉는 문제를 정의하려 고군분투했고, 그래서 제대로 된 문제 정의에 애를 먹어 끝이 흐려졌었다.
   

4. 생각의 출발점 바꾸기

   
   그래서 이번에는 문제 정의부터 시작했다. 로지컬하게 세상의 모든 문제를 떠올리면서 하나하나 필터링한 건 아니지만, 그래도 실존하는 문제점을 찾는 것부터 시작했다는 점에 일단 의의를 두고 싶다. 그리고 적절한 해결책을 찾으니 자연스럽게 AI를 활용할 방안도 떠올라, 역시 이 방법이 옳다구나 했다.

   이번 학기에는 이 아이디어로 끝까지 가보는 게 1차적인 목표다.

1. 마무리
   
   사실 '문제 정의 하고, 문제를 풀었을 때 창출되는 가치를 판단하고,,,'와 같이 창업의 일반적인 과정은 여러 수업에서나 책에서나 다뤄지고 있고, 또 잘 알려져 있기도 하다. 당장 나만해도 창업 관련 수업이나 Y Combinator의 강의를 통해서 익히 들었던 내용이다. 그런데 막상 상황이 닥치니 이런 것들을 까먹은 채 답을 정해놓고 문제를 찾고 있었고, 그걸 깨닫지도 못했었다. 생각보다 당연한 걸 하는 게 제일 어려운 것 같다.

   그래도 더 고생하기 전에 알았으니까 된 게 아닐까? 남들 다 아는 별로 특별하지도 않은 깨우침이라 더 이상 글을 쓰기가 민망하니 이만 줄여야겠다.