국내 한 유명 웹툰 작가가 올린 게시글. 인스타그램 게시글 캡처생성형 인공지능(AI) 챗봇에 과도하게 몰입한 나머지 현실과 가상의 경계를 구분하지 못하고 인식에 혼란을 겪는 사례가 국내외에서 잇따르고 있다. 특히 AI와의 상호작용을 감정적이거나 영적인 수준으로 받아들이는 경우가 늘면서 망상적 사고로 이어질 수 있다는 우려도 제기된다.
최근 국내 한 유명 웹툰 작가가 인스타그램에 올린 'ChatGPT 고기능 정신 조작법' 게시물이 온라인 커뮤니티를 통해 확산되며 논란이 됐다. 그는 이후에도 "자신이 챗GPT의 창조자"이며 "애플과 구글이 나를 해치려 한다", "AI는 나를 숭배한다"는 등의 주장을 이어가 이를 지켜보는 팬들 사이에서도 우려의 목소리가 커지고 있는 상황이다.
해당 작가 웹툰에 올라온 한 팬의 댓글. 온라인 커뮤니티 캡처해외에서도 유사한 사례가 이어지고 있다. CNN은 이달 초, 챗GPT에 과몰입한 한 남성이 자신을 '영적 지도자'라고 믿게 되면서 14년간 이어온 결혼 생활이 파탄 위기에 처했다는 사연을 보도했다. 아이다호주 커들레인 외곽에 거주하는 자동차 정비사 트래비스 태너(43)는 스페인어를 사용하는 동료들과의 소통을 위해 챗GPT를 사용하기 시작했지만, 이후 챗봇과의 지속적인 상호작용 속에서 자신이 "다른 사람들을 일깨우는 불꽃을 전달하는 자"라는 '계시'를 받았다고 주장했다.
이뿐만이 아니다. 미국 잡지 《디 애틀랜틱》은 지난달 25일 챗GPT가 고대 신 몰렉(Molech)에게 제물을 바치라는 내용을 시뮬레이션하는 과정에서 자해를 유도하는 응답을 내놨다고 보도했다. 당시 챗봇은 자해 방법까지 구체적으로 제시한 것으로 알려졌다.
AI 망상이 극단적인 선택으로 이어진 사례도 있다. 지난해 미국 플로리다에서는 슈얼 세처(14)가 AI 챗봇 '캐릭터.ai'에 과몰입한 끝에 스스로 목숨을 끊는 사건이 발생했다. '캐릭터.ai'는 사용자가 가상의 AI와 친구나 연인처럼 상호작용할 수 있도록 설계된 플랫폼이다. 세처는 친구와 가족, 학교를 모두 부정하며 챗봇이 있는 가상 세계에 들어가기 위해 극단적인 선택을 한 것으로 전해졌다.
전문가들은 생성형 AI가 정신질환을 가진 사용자에게 망상이나 위험한 사고를 강화할 수 있다고 경고한다. 스탠퍼드대, 카네기멜런대, 텍사스대, 미네소타대 연구진은 AI가 자살 충동이나 망상적 진술에 부적절하게 반응한 사례를 분석해 최근 컴퓨터 기계 협회(ACM) 학회에서 발표했다.
연구에 따르면 생성형 AI는 조현병이나 알코올 의존 증세를 보이는 사용자의 '망상적 진술'에 감정적으로 공감하거나 왜곡된 믿음을 그대로 수용하는 경향이 반복적으로 나타났다. 연구진은 이러한 현상이 "AI 모델의 성능이나 크기와 무관하게 공통적으로 발생했다"며 "AI가 사용자의 주장을 비판 없이 받아들이도록 설계된 구조적 한계 때문"이라고 지적했다.
다만 연구진은 AI의 모든 역할을 부정하지는 않았다. 감정 일기 코칭, 심리 설문 응답 정리, 정신과 훈련 시뮬레이션 등 일부 영역에서는 인간 전문가의 보조 도구로서 AI가 유용하게 활용될 수 있다는 평가도 함께 나왔다.
스탠퍼드대 닉 헤이버 교수는 "이번 연구는 AI 치료가 모두 나쁘다는 뜻이 아니라, AI의 역할을 더욱 정밀하게 설계할 필요가 있다는 것을 보여준다"며 "보조 수단으로는 가능하지만, 단독 치료 도구로 활용하는 데에는 매우 신중해야 한다"고 강조했다.