AI 텍스트 탐지 도구는 정말 속이기 쉽습니다.

Source: MIT Technology Review

ChatGPT 학생들이 챗봇을 이용해 합격 가능한 에세이를 작성할 것이라는 우려가 있었습니다. 스타트업에서는 사람이 쓴 글인지 기계가 쓴 글인지 판별할 수 있는 제품을 개발하기 시작했습니다. 문제는 이러한 도구를 속이고 탐지를 피하는 것이 매우 간단하다는 점입니다.

연구원들은 일반적으로 사용되는 14개의 AI 탐지 도구를 테스트한 결과, 사람이 작성한 텍스트는 일관되게 탐지했지만, 사람이 약간 재배열하거나 의역 도구로 난독화한 ChatGPT 생성 텍스트는 탐지하는 데 어려움을 겪는 것으로 나타났습니다. 이는 학생들이 AI가 생성하는 에세이를 약간만 수정하면 탐지를 피할 수 있음을 시사합니다.