메타의 AI 리더들은 AI의 실존적 위험에 대한 두려움이 "터무니없다"고 말합니다.
AI 분야는 최근 몇 년 동안 급속한 발전을 거두었습니다. AI는 이제 우리 삶의 많은 부분에 영향을 미치고 있으며, 앞으로 그 영향력은 더욱 커질 것으로 예상됩니다.
그러나 AI의 발전과 함께 AI에 대한 우려도 증가하고 있습니다. 일부 전문가들은 AI가 인간의 지능을 뛰어넘어 인간을 위협할 수 있다고 경고하고 있습니다.
AI의 실존적 위험에 대한 우려는 근거가 없는 것일까요?
이에 대한 답은 간단하지 않습니다. AI는 엄청난 잠재력을 가지고 있지만, 그 위험 또한 무시할 수 없습니다. AI를 책임감 있게 개발하고 사용하기 위해서는 AI의 잠재적 위험을 이해하고 이에 대응하기 위한 노력이 필요합니다.
Melissa Heikkilä 2023년 6월 24일, MIT Technology Review 에서 발췌한 대화들을 인용합니다.
메타의 CTO인 얀 르쿤은 AI의 실존적 위험에 대해 회의적인 입장을 취하고 있습니다. 그는 AI가 인간을 위협할 수 있다는 주장은 "터무니없이 우스꽝스럽다"고 말했습니다. 르쿤은 AI는 인간이 만든 도구일 뿐이며, 인간이 AI를 어떻게 사용하느냐에 따라 AI가 선으로 쓰일 수도 악으로 쓰일 수도 있다고 말했습니다.
메타의 AI 연구 담당 부사장인 조엘 피노도 르쿤의 의견에 동의합니다. 피노는 AI의 실존적 위험에 대한 논의가 "혼란스럽다"고 말했습니다. 그는 AI의 미래에 대한 우려가 현재의 AI의 피해에 대한 논의를 가로막고 있다고 말했습니다.
피노는 "위험에 대해 이성적인 토론을 진행할 때, 일반적으로는 위험 확률을 확인하고 여기에 그 결과에 대한 비용을 곱한다"고 말했습니다. 그러나 AI의 실존적 위험을 믿는 사람들은 사실상 그 결과에 무한대의 비용을 부과한다고 피노는 지적했습니다. 그는 "무한대의 비용을 부과하게 되면, 다른 결과에 대해서는 이성적인 토론을 전혀 할 수 없게 된다"고 말했습니다.
르쿤과 피노는 AI의 실존적 위험을 논의하는 것은 기술 업계 사람들이 AI의 위험을 인지하고 있다는 신호이지만, 기술 파멸론자들에게는 더 큰 이면적 동기가 있다고 말했습니다. 그들은 기술 파멸론자들이 AI를 규제하는 법률에 영향을 미치기 위해 AI의 실존적 위험을 과장하고 있다고 주장했습니다.
르쿤은 "현재 시점에서는 오픈AI가 앞서 있다"고 말했습니다. 그는 "이 상황에서 할 수 있는 올바른 선택은 문을 닫아버리는 것이다"라고 말했습니다. 그는 "AI 시스템이 투명하게 작동하는 미래를 원하는가, 아니면 미국 서부 해안에 있는 소수의 기술 회사의 소유 아래 독점적으로 작동하는 미래를 원하는가?"라고 물었습니다.
피노 및 르쿤과 나눴던 이번 대화에서 분명한 점은 경쟁사보다 최신 모델 출시와 생성형 AI의 제품 적용 속도가 느렸던 메타가 오픈소스 접근법으로 더욱 경쟁이 치열해지는 AI 시장에서 유리한 고지를 점하고 있다는 것입니다. 예를 들어 메타는 '인간 수준의 지능을 갖춘 AI 시스템 구축'에 대한 르쿤의 비전에 따라 첫 번째 모델을 오픈소스로 공개하고 있습니다.
피노는 기술의 오픈소스화는 외부인이 결함을 발견할 수 있고, 기업에 이에 대한 책임을 물을 수 있다는 점에서 상당히 높은 기준이 요구되는 일이라고 말했습니다. 또한 오픈소스화가 메타의 기술을 인터넷 인프라의 핵심 요소로 만드는 데에도 도움이 된다고 말했습니다.
피노는 "보유 기술을 실제로 공유할 때, 기술이 사용되는 방식을 주도할 수 있다"고 덧붙였습니다.
메타
메타는 2004년 마크 저커버그가 설립한 소셜 미디어 플랫폼입니다. 페이스북, 인스타그램, 왓츠앱, 오큘러스 VR 등을 소유하고 있습니다. 2021년 기준으로 전 세계 약 30억 명의 사용자가 메타의 플랫폼을 사용하고 있습니다.
얀 르쿤
얀 르쿤(Yann LeCun)은 페이스북 모회사 메타(Meta)의 최고 AI 과학자입니다. 프랑스 출신의 컴퓨터 과학자로, 기계 학습, 컴퓨터 비전, 모바일 로봇 공학 및 전산 신경 과학 분야에서 주로 연구를 하고 있습니다. 1989년에는 CNN(Convolutional Neural Network)을 개발하여 컴퓨터 비전 분야에 큰 기여를 했습니다. 2015년에는 FAIR(Facebook AI Research) 설립에 참여했으며, 2018년에는 제프리 힌튼, 요슈아 벤지오와 함께 튜링상을 수상했습니다.
메러디스 휘태커
메러디스 휘태커는 책임 있는 AI를 옹호하는 연구원입니다. 그녀는 Signal 메시징 앱을 운영하는 Signal 재단의 회장이자 Google의 전 연구 과학자입니다. 그녀는 또한 AI Now Institute의 공동 설립자로, 이 연구 센터는 인공 지능의 사회적 및 윤리적 함의를 연구합니다.
조엘 피노
조엘 피노는 메타의 AI 연구 담당 부사장입니다. 그는 인공지능 분야의 전문가로, 메타의 AI 기술 개발을 이끌고 있습니다. 그는 스탠퍼드 대학교에서 컴퓨터 과학을 전공했으며, 캘리포니아 대학교 버클리에서 박사 학위를 받았습니다. 그는 Google, OpenAI 등에서 근무한 경험이 있습니다.
