Section 230 그리고 알고리즘 시대 컨텐츠 플랫폼의 책임

흔히 Section 230으로 불리는 미국 연방법의 한 조항이 있습니다. 다음과 같은 문장으로 시작합니다.

No provider or user of an interactive computer service shall be treated as the publisher or speaker of any information provided by another information content provider.

"상호작용 컴퓨터 서비스의 제공자나 사용자는 다른 정보 컨텐츠 제공자가 제공한 정보의 출판자나 발언자로 간주되지 않는다"

직역하면 어려운 말인 것 같기도 하지만 이 법의 요점은 서비스 제공자는 제3자가 게시한 정보에 대해 책임지지 않는다는 것입니다. 부적절한 컨텐츠를 관리하기 위해 '충분히 노력'한다면 모든 민사적 책임으로부터 면제된다는 내용이 뒤따릅니다.

미국의 법이지만, 구글이나 메타 같은 온라인 생태계의 거물들이 미국에 본거지를 두고 있는 것을 감안하면 이 법의 영향력은 전세계적이라고 할 수 있습니다.

Section 230에 대해 이야기할 때 '퍼블리셔'와 '플랫폼'을 구분하곤 합니다. 퍼블리셔는 출판물에 직접적으로 관여하기 때문에 책임도 지는 것이고, 누구나 무엇이든 올릴 수 있는 플랫폼은 다르다는 것이죠.

그러나...

플랫폼들은 이용자들을 계속 잡아두기 위해 보여지는 컨텐츠를 '최적화'하는 알고리즘을 계속 개발해 왔고, 구독/팔로우 기능이 무색해질 정도로 구독한 계정의 게시물보다도 '보고 싶어 할 것 같은' 컨텐츠를 이용자들에게 더 적극적으로 보여주고있습니다. 누가 무엇을 올리는지는 통제되지 않지만, 무엇이 누구에게 보여지는지는 플랫폼이 만드는 알고리즘이 정합니다.

알고리즘의 정확한 메커니즘은 만든 사람들 말고는 모르는 것이지만, 관심을 보인 컨텐츠와 연관된 컨텐츠가 연이어 추천되며 많은 사람들이 볼수록 더 많은 사람들에게 추천된다는 것 정도는 경험적으로 알 수 있습니다. 노출이 기하급수적으로 증폭되는 것이죠. 이용자는 연관된 영상을 계속 보며 비슷한 성향을 가진 시청자들과 함께 반향실(echo chamber)에 들어가게 되고, 크리에이터들은 알고리즘의 은혜를 받기 위해 더 자극적인 컨텐츠를 생산할 동기가 생깁니다.

도대체 무슨 말인가 싶은 호기심에 백인우월주의자의 유튜브 비디오를 클릭해본 적이 있습니다. 한동안 백인우월주의 컨텐츠가 계속 추천되었고, 매번 '관심 없음'을 누른지 몇 주가 지나서야 더 이상 보이지 않더라고요. 단 한 영상을 단 한 번 눌렀다고해서 인종차별적 컨텐츠를 떠먹여주기 시작할 정도라면 사람이 극단화되는 게 참 쉽겠구나라는 생각이 들었습니다. 자동화된 알고리즘이라고 해도 실질적으로 극단주의 영상을 타겟 집단에게 홍보해주고 있는데, 이래도 유튜브는 인종차별 조장에 아무런 역할도 하지 않은 것일까요?

미국 대법원은 최근 테러리즘 피해자 유족이 제기한 소송에 대해 구글은 책임이 없다는 판결을 내렸습니다. 알고리즘이 언급되긴 했지만, 알고리즘은 그 자체로 의도를 갖지 않고 단지 연관된 영상을 추천할 뿐이라는 내용 정도로 넘어갔습니다. ISIS가 실제로 유튜브를 모집 수단으로 사용하고 있어도, 유튜브의 알고리즘이 동조할 가능성이 높은 이용자들에게 관련 영상을 계속 보여주어도 어쨌든 법적 책임은 없다는 것입니다.

사용자가 선호하는 컨텐츠를 추천해주는 것이 나쁜 것은 아닙니다만, 차별과 혐오를 조장하는 컨텐츠의 소용돌이에 휘말리기도 쉽게 만드는 '관심 있는 걸 계속 보여주는' 알고리즘의 사회적 영향에 대해서 생각해봐야 하지 않을까요...

인터넷이 활성화되기 시작하던 1990년대에 제정된 법이 현재의 소셜미디어에 그대로 적용될 수 있는것일까요?

여러분의 의견이 궁금합니다.