Humans in the loop의 뜻

AI의 모든 것: HITL(Human-in-the-loop)

인공 지능이 무엇이고, 어떻게 작동하며, 우리를 둘러싼 세상을 어떻게 변화시키는지 자세히 알아보세요.

https://atozofai.withgoogle.com/intl/ko/human-in-the-loop/

나는 디스콰이엇에서 인공지능 커뮤니티를 키우겠다는 목표를 정했고, 클럽의 이름을 고민하고 있었다. 디스콰이엇의 인기 커뮤니티 멤버이자, Optimization Process 에 글을 쓰고 있는 @다운 님께 클럽의 이름에 대한 조언을 구했다. 다운님은 "Humans in the loop"이라는 단어를 좋아한다고 말씀해 주셨다.

커뮤니티의 목표

이 커뮤니티는 새로운 정보에 대한 교류를 넘어서, 어떻게 하면 더 나은 방식으로 사회에 인공지능을 적응시킬 수 있을까? 에 대해 함께 논의해가는 커뮤니티가 되길 원했다. 나는 사이보그와 포스트휴머니즘 같은 개념에 관심이 많은데, 10년만 지나도 신체에 전자장비를 이식하는 사람들이 많이 생길 것이라고 생각한다. ChatGPT 등 사용성 높은 AI 프로덕트의 등장은 사용자의 뇌를 '확장' 시키고 있다. 우리 사회는 이제 AI의 안전한 적용 그리고 인간의 대체가 아닌 인간의 보조 장치로서의 AI에 대해 고민해야 한다.

Big Red Button vs Human In The Loop

이미지 출처: Ge Wang; Stanford

Big Red Button은 버튼만 누르면 작동하도록 설계된 AI 프로덕트를 비유적으로 부르는 말이다. 사람은 단순히 원하는 결과를 얻기 위한 명령만 주면 된다. 그러면 자동화된 시스템이 알아서 최적의 결과를 만들어 준다.

이미지 출처: Ge Wang; Stanford

반면 Human In The Loop는 인간과 AI 시스템이 대화하며 더 좋은 결과물을 만들어가는 소통형 시스템을 뜻한다. 알고리즘 루프 안에 인간이 개입해서 관여한다는 의미인데, 프롬프트 엔지니어도 HITL의 좋은 예시이다. 알고리즘은 완벽할 수 없다. 인간이 개입해서 안전하고 투명하게 만들어 나가야 한다.