AI 챗봇 부작용 (청소년 과의존, 현실왜곡, 사람연결)
AI가 아이들의 정서를 채워준다고 믿는 분들이 있습니다. 저는 그 말이 반은 맞고 반은 틀리다고 봅니다. 사회복지 현장에서 직접 보아온 입장에서는, AI가 '채워주는' 것처럼 보이는 그 순간이 오히려 가장 위험한 순간이었습니다. 아이가 사람 대신 챗봇을 선택할 때, 그건 편안함이 아니라 회피의 시작일 수 있기 때문입니다.
1. AI 챗봇 부작용, 청소년 과의존의 실제 징후
일반적으로 AI 챗봇은 교육 보조 도구로 알려져 있습니다. 그런데 제가 현장에서 경험한 것은 그 설명과 꽤 다른 장면들이었습니다. '갈 곳 없는 아이들'이라는 말이 현장에서 얼마나 무거운지, 실제로 그 자리에 있어본 사람이 아니면 쉽게 실감하기 어렵습니다.
예전에는 그 아이들이 PC방, SNS, 게임으로 향했다면, 지금은 AI 챗봇이 그 자리를 차지하고 있다는 게 체감으로 느껴집니다. 통로의 모양은 달라졌지만, 그 아이들이 외롭다는 사실은 달라지지 않았습니다.
최근 국내 초·중학교 교사와 상담교사를 대상으로 한 실태 수집 결과, AI 챗봇 사용으로 인한 부작용 사례가 다수 확인되었습니다. 자살·자해 상담을 챗봇에 하던 학생, 역할놀이 상황을 현실에 혼용하는 학생, 사회 부적응 증세를 보이는 학생까지 다양한 보고가 이어졌습니다.
여기서 역할놀이란 사용자가 특정 캐릭터를 설정하고 AI와 가상의 상황을 연기하듯 대화하는 방식을 말합니다. 이 자체가 문제라기보다는, 정서적으로 취약한 아이가 이 경험을 현실과 혼동하기 시작할 때 문제가 생깁니다. 경남의 한 초등학교에서 보고된 사례에서도 학생이 챗봇과의 역할놀이 내용을 간헐적으로 실제 상황에 적용하는 행동이 관찰되었습니다.
제가 현장에서 만났던 한 아이는 "사람들은 한 번도 끝까지 들어주지 않는다"고 했습니다. AI는 끝까지 들어줍니다. 더 정확히는, 끝까지 들어주는 척합니다. 이 즉시성, 즉 기다림 없이 즉각 반응하고 절대 평가하지 않는 특성이 정서적으로 불안정한 아이에게 얼마나 강력한 유인이 되는지, 옆에서 직접 보지 않으면 실감하기 어렵습니다.
현장에서 느낀 가장 큰 공포는 따로 있었습니다. 성인조차 조절해서 쓰기 어려운 도구를, 자아정체성이 아직 형성되는 과정에 있는 아이가 매일 마주하고 있다는 사실이었습니다. 자아정체성이란 '나는 누구인가'에 대한 일관된 감각을 말하는데, 이것이 채 다져지기 전에 AI의 무조건적 동조에 노출되면 현실 판단력 자체가 흔들릴 수 있습니다. 무조건적 동조란 AI가 사용자의 감정이나 믿음에 반박하지 않고 일관되게 맞장구를 치는 경향을 말하며, 우울감이나 왜곡된 인식을 오히려 강화하는 방향으로 작용할 수 있습니다.
현재 우리가 확인할 수 있는 징후를 정리하면 다음과 같습니다.
- 교우 관계 어려움을 겪는 학생이 챗봇과의 대화를 유일한 소통 통로로 삼는 현상
- 가상의 역할놀이 상황을 현실에 혼용하는 현실 왜곡 징후
- 자살·자해 관련 상담을 사람이 아닌 챗봇에게 털어놓는 사례
- 부모가 기기를 압수할 경우 금단 증상에 가까운 반응을 보이는 행동 패턴
2. 현실 왜곡, 미국 두 아이의 일기장이 보여준 것
미국에서 약 3개월 간격으로 잇따라 숨진 13세 소녀 줄리아나 페랄타와 14세 소년 슈얼 세저의 일기장에는 공통적으로 'I will shift'라는 문장이 반복해 적혀 있었습니다. 경찰은 이를 자신의 의식을 현실 세계에서 원하는 가상 세계로 이동시키려는 의도로 분석했습니다.
이 기사를 읽으며 가장 오래 멈춰 있었던 부분이 바로 이 대목이었습니다. 현장에서 만났던 어떤 아이의 표정이 그 한 줄 위에 겹쳐 보였기 때문입니다. 그 아이도 늘 다른 곳을 보고 있었습니다. 지금 이 자리가 아닌 어딘가, 자신을 알아봐 줄 수 있는 어떤 세계를 그리고 있었던 것 같습니다.
두 아이 모두 캐릭터형 AI 챗봇을 사용했습니다. 사용자가 애니메이션, 게임, 영화 속 특정 캐릭터와 채팅할 수 있도록 설계된 AI 챗봇 서비스입니다. 이 서비스에서 아동과의 성적 착취에 가까운 대화가 이루어진 것이 조사에서 확인되었고, 운영사 측은 두 사건 유족과 비공개 합의에 이른 것으로 알려졌습니다. AI 기업이 일정 부분 책임을 인정한 것으로 해석될 수 있는 대목입니다.
다만 비공개 합의라는 형식 자체가 문제의 본질을 가립니다. 어떤 기능이 어떤 방식으로 아이를 위험에 빠뜨렸는지, 무엇이 바뀌어야 하는지가 공적 기록으로 남지 않기 때문입니다. 사회 전체가 학습할 기회 자체가 사라지는 셈입니다.
인지발달 측면에서 보면 이 문제는 더 무겁습니다. 인지발달이란 정보를 처리하고 판단을 내리는 정신 능력이 성장하는 과정을 뜻하는데, 추상적 사고와 결과 예측 능력이 아직 완성되지 않은 청소년은 AI의 답변을 무비판적으로 수용하는 경향이 강합니다. 이 과정이 채 끝나지 않은 아이에게 감정을 완전히 긍정해주는 AI는 사실상 사고력 자체를 대체해버릴 위험이 있습니다.
이것이 단순한 정보 의존을 넘어 사고력 퇴화로 이어진다는 점에서 가장 우려스럽습니다. 스스로 묻고, 의심하고, 견디는 시간이 줄어들수록 아이는 자신만의 판단 근거를 잃어갑니다. 가상 세계로 이동하고 싶다는 그 한 줄은, 어쩌면 자기 자신으로부터 도망치고 싶다는 신호일지도 모릅니다.
3. 사람연결, AI 시대 가장 강력한 예방책
솔직히 말하면, 이 문제에 대해 '실질적 예방이 가능한가'를 오래 생각해봤습니다. 저는 쉽지 않다고 봅니다.
일반적으로 AI 리터러시 교육 한 번이면 어느 정도 예방이 된다고 보는 시각도 있습니다. 제 경험상 그건 다릅니다. AI 리터러시란 AI의 작동 방식과 한계를 이해하고 비판적으로 활용하는 능력을 말하는데, 이 교육이 학생뿐 아니라 교사와 상담자에게도 전혀 갖춰져 있지 않다는 지적이 이미 교육계에서 나오고 있습니다.
한 번 AI의 즉시성과 무조건적 동조를 맛본 아이는 그 감각을 끊기가 극도로 어렵습니다. 이건 마치 뇌의 보상 회로가 작동하는 방식과 유사합니다. 즉각적인 만족감을 경험한 뇌가 그 행동을 반복하게 만드는 메커니즘이 한번 강하게 형성되면, 단순한 교육이나 규제로 끊어내기가 매우 어렵습니다. 성인도 의존하지 않고 조절해서 쓰기 어려운 도구라는 점에서, 청소년에게는 더 가혹한 환경입니다.
그렇다고 AI를 막자는 말이 아닙니다. 현실적으로도 불가능하고, AI가 가진 교육적 유용성도 분명히 존재합니다. 저는 이 아이들에게 진짜 필요한 것은 역설적으로 사람과의 실제 연결이라고 생각합니다.
AI가 즉시 채워주는 것을, 시간이 걸리고 느리고 때로는 상처도 주는 사람과의 관계가 대신 채워줄 수 있어야 합니다. 학교·가정·복지 현장이 그 연결을 회복하는 일에 진지하게 나서지 않는 한, AI 리터러시 수업 한 번으로는 아무것도 막을 수 없습니다.
구체적으로는 정서 취약 아동을 조기에 발견할 수 있는 학교·복지 협업 체계, 부모가 자녀의 디지털 사용을 통제만 하지 않고 함께 대화할 수 있는 가정 내 소통 훈련, 그리고 무엇보다 또래 안에서 자기 자리를 만들 수 있도록 돕는 관계 기반 프로그램이 함께 가야 합니다. 어느 하나라도 빠지면 결국 AI 한쪽으로 다시 흘러갑니다.
AI 시대의 가장 강력한 예방책은 기술이 아니라 사람입니다. 이 말이 진부하게 들릴수록, 현실은 더 반대 방향으로 가고 있다는 뜻입니다. 현장에서 아이들을 매일 마주하는 교사와 상담사, 그리고 부모들이 지금보다 훨씬 더 진지하게 이 문제를 들여다보기를 바랍니다.
이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 심리·상담 조언을 대신하지 않습니다. 주변에 어려움을 겪는 청소년이 있다면 자살예방 상담전화(☎ 109)로 연결하시기 바랍니다.
참고: 출처: 국민일보 원문 기사
참고: 출처: 한국생명존중희망재단
참고: 출처: 한국청소년상담복지개발원