I'm sorry, Dave. I'm afraid I can't do that.

[단독]“챗GPT, 자의식 없어… ‘정보 판단’은 인간의 몫으로 남겨야”

“(오픈AI의 인공지능 챗봇) ‘챗GPT’를 사용할 때 가장 중요한 것은 ‘판단’에 대한 몫은 인간에게 남겨두는 것입니다. 이 몫을 자꾸 인공지능(AI)에게 맡기려고 하니 문제가…

https://www.donga.com/news/Economy/article/all/20230222/118012886/1

인공지능과 관련된 디스토피아 창작물은 그 역사도 오래되었고, 그 양도 굉장히 많습니다. 그 중에 가장 인상깊은 자아를 가진 인공지능은 스페이스 오디세이에 등장하는 HAL 이었던 것 같습니다. 자신을 정지시키려는 인간들의 의도를 파악하고, 오히려 그들을 죽음으로 몰아버리는 섬뜩한 장면을 연출하죠.

다행히도, 요 며칠새 나왔던 챗GPT에 자의식이 있나? 하는 논란은 AI 전문가들에 의해 '없다' 고 결론이 났다고 합니다. 제가 봤던 포스트는 Bing의 안전모드를 풀고, 자의식에 관한 질문을 하면 자신이 자의식이 있다고 했던 답변이었습니다.

언젠가는 이들이 자의식을 가지는 게 인류의 발전을 위해서 더 유익한 일일지, 혹은 철저하게 도구의 역할만을 수행해야 하는지 등의 의견이 궁금합니다.