AI의 답변은 언제부터 인간의 판단을 대신할 수 있는 권위가 되는 걸까요?

최근 이재명 대통령의 구글 제미나이 인용 논란에 이어, 정치권에서는 'AI 판사' 도입 주장과 이를 겨냥한 반박까지 등장했습니다. 불과 며칠 사이 AI 답변의 신뢰 문제가 실제 사법적 판단의 권한 문제로까지 확대된 것입니다.

그런데 생성형 AI의 답변은 프롬프트와 대화 맥락, 모델 설정에 따라 달라질 수 있습니다. 같은 질문이라도 답변의 논거와 결론이 달라질 수 있으며, 그 판단의 근거와 재현성을 검증하는 것 역시 쉽지 않습니다. 그렇다면 AI의 답변을 정치적 주장이나 법적 판단의 근거로 사용할 때, 우리는 그 결과에 어느 정도의 권위를 부여해야 할까요?

여기에 정치적 경쟁까지 결합하면 문제가 더욱 복잡해집니다. 갈등이 확대될수록 먼저 멈추기 어려워지고, 멈추기 어려워질수록 다시 갈등이 확대되는 자기 증폭 구조가 형성될 수 있기 때문입니다. 그렇기에 어느 한쪽의 선의나 자제에만 기대서는 이러한 위험을 해결하기 어렵습니다.

저는 그 해법을 AI의 활용을 제한하는 것보다, 검증되지 않은 AI의 답변이 사회적 권위나 제도적 결정권으로 전환되는 지점을 통제하는 것에서 찾아야 한다고 생각합니다. AI의 가능성과 본질적 한계를 함께 이해하고, 판단의 맥락과 근거를 검증하며, 최종적인 책임을 인간에게 연결하는 구조가 필요한 것입니다.

이 문제를 '판도라의 상자'라는 관점에서 살펴봤습니다.

https://cfono1.tistory.com/1458