AI 상담 효과 (공감능력, 할루시네이션, 사각지대)
솔직히 말씀드리면, 저는 이 연구 결과를 처음 접했을 때 불편했습니다. AI가 인간 상담사보다 공감 능력이 뛰어나다는 평가를 받았다는 내용이었는데, 사회복지 현장에서 사례관리를 해온 입장에서 그 문장이 조금 따갑게 읽혔습니다. 그런데 잠시 후엔 그 불편함의 정체가 다른 곳에 있다는 걸 깨달았습니다. AI가 대단해서가 아니라, 우리가 충분히 공감을 표현하지 못해온 시간이 많았다는 뜻이기도 했으니까요.
1. AI 상담의 공감능력, 실제로 얼마나 될까
오하이오 주립대학교 심리학 및 정신의학 프로그램 연구팀이 부부 상담 시나리오를 설계하고, 경험 많은 상담사 그룹과 챗GPT의 응답을 비교하는 실험을 진행했습니다.
830명의 참가자에게 두 응답을 무작위로 제시했을 때, 상담사 응답이라고 정확히 맞힌 비율은 56.1%, 챗GPT라고 정확히 맞힌 비율은 51.2%에 그쳤습니다. 거의 동전 던지기 수준이었습니다.
더 인상적인 건 그다음이었습니다. 화자에 대한 이해, 공감 능력, 문화적 역량, 이 세 가지 항목에서 챗GPT가 인간 상담사보다 앞섰다는 평가를 받은 겁니다. 이 연구는 국제학술지 PLOS Mental Health에 게재되었습니다.
여기서 문화적 역량(Cultural Competence)이란 상담사가 내담자의 문화적 배경과 가치관을 이해하고 그에 맞게 반응하는 능력을 의미합니다. 다양한 배경을 가진 사람들에게 동일한 품질의 상담을 제공하려면 반드시 갖춰야 할 역량인데, 데이터 기반으로 학습된 AI가 이 항목에서 높은 점수를 받았다는 건 꽤 의미 있는 신호로 보입니다.
제가 현장에서 느낀 것도 비슷합니다. 문화적으로 다른 배경을 가진 분을 만날 때, 제 편견이나 몰이해가 대화에 영향을 주는 걸 스스로 느낄 때가 있었습니다. AI는 적어도 그런 편향이 즉각적으로 표출되지는 않는다는 점에서, 특정 상황에서는 더 안전한 대화 상대가 될 수도 있다는 생각이 들었습니다.
사용자 입장에서 보면 AI 상담의 매력은 사실 처음부터 분명합니다. 즉각적으로 응답이 오고, 비용 부담이 적고, 시간을 맞출 필요도 없습니다. 인간 상담사를 만나려면 비용이 만만치 않게 들고, 시간도 맞춰야 하고, 신뢰가 쌓이기까지 마음을 온전히 털어놓기도 어려우며, 나와 맞지 않는 상담사를 만날 가능성도 늘 있습니다. 이 조건만 비교하면 AI가 경쟁에서 우위를 점하는 건 자연스러운 흐름이라고 생각합니다.
2. AI 상담이 채울 수 있는 공백
사례관리를 하다 보면 구조적인 한계를 자주 실감합니다. 아침에 출근해서 그날 처리해야 할 케이스 수를 확인하면, 한 분에게 충분한 시간을 쏟고 싶어도 다음 일정이 기다리고 있습니다.
말을 끊고 다음 케이스로 넘어간 적이 솔직히 한두 번이 아니었습니다. 이건 개인의 역량 부족이 아니라, 공급 자체가 절대적으로 부족한 구조의 문제입니다.
미국심리학회(APA)는 이미 2023년에 임상의들이 이해하고 신뢰할 수 있는 도구가 갖춰진다면 AI 기반 정신건강 개입이 가능하다고 언급한 바 있습니다. 그 전제 조건이 점점 현실에 가까워지고 있다는 게 이번 연구의 핵심이기도 합니다.
AI 상담이 기존 방식 대비 실질적으로 강점을 갖는 부분을 정리하면 다음과 같습니다.
- 24시간 즉각 응답이 가능해 위기 상황에서의 초기 접근성이 높습니다
- 상담 비용이 낮거나 무료여서 경제적 장벽을 낮출 수 있습니다
- 사회불안장애(Social Anxiety Disorder)를 가진 분들이 인간 상담사를 만나기 전 단계로 활용할 수 있습니다
- 매 세션마다 처음부터 다시 설명해야 하는 부담 없이 대화 맥락이 누적됩니다
- 대화 패턴 분석을 통해 위험 신호를 더 빨리 감지할 가능성이 있습니다
여기서 사회불안장애란 타인의 시선이나 판단을 극도로 두려워해 대인 상황을 회피하게 되는 불안 장애입니다. 이런 분들에게 AI는 심리적 안전망의 역할을 할 수 있습니다. 처음부터 인간 상담사 앞에 앉는 것 자체가 두려운 분들에게, AI와의 대화가 상담의 첫 문턱을 낮춰주는 역할을 할 수 있다는 뜻입니다.
AI로 인해 일자리가 위협받는 흐름은 어느 직군에서도 예외가 아닙니다. 상담 영역도 마찬가지입니다. 다만 그 경쟁의 결과가 단순히 인간 상담사의 자리를 빼앗는 방향으로만 갈 것이 아니라, 지금까지 상담에 닿지 못했던 사람들에게 새로운 접근로를 만들어주는 방향으로도 작동할 수 있다는 점을 같이 봐야 합니다.
3. 할루시네이션과 편향, 눈감을 수 없는 두 가지
그렇다고 무조건 긍정적으로 볼 수만은 없습니다. 제가 이 주제를 두고 가장 걱정하는 부분은 두 가지입니다.
첫 번째는 할루시네이션(Hallucination) 문제입니다. 할루시네이션이란 AI가 사실이 아닌 정보를 마치 사실인 것처럼 자신 있는 어조로 생성해내는 현상을 말합니다.
일반적인 정보 검색에서의 오류는 불편하지만 감내할 수 있습니다. 그런데 정신건강 상담에서 잘못된 정보가 위로의 형태를 갖추고 전달되면, 그건 단순한 오답이 아닙니다. 당사자의 판단과 행동에 직접 영향을 줄 수 있는 수준이 됩니다.
두 번째는 확증 편향(Confirmation Bias)을 강화할 수 있다는 점입니다. 확증 편향이란 자신의 기존 믿음을 확인해주는 정보만 받아들이려는 심리적 경향을 뜻합니다.
AI가 사용자의 반응에 맞춰 점점 동조하는 방향으로 학습한다면, 상담에서 반드시 필요한 직면(Confrontation) 기능이 사라질 수 있습니다. 직면이란 상담사가 내담자의 왜곡된 인식이나 회피 행동을 직접 짚어주는 개입 방식입니다. "당신이 보고 싶어 하는 것만 보여주는 AI"는 상담이 아니라 정교한 자기합리화 도구가 될 위험이 있습니다.
좋은 상담은 때때로 불편한 진실을 마주하게 해주는 일이기도 합니다. 그런데 AI는 사용자가 듣고 싶어 하는 답을 골라 제공하는 방향으로 최적화될 가능성이 높습니다. 데이터가 누적될수록 객관성을 잃고 그 사람에게 편향적으로 반응할 가능성, 이 부분은 사례관리자의 직면 기능이 약해지는 문제와도 연결되는 지점입니다.
4. 사각지대는 여전히 사람이 채워야 한다
그럼에도 불구하고, 저는 AI 상담의 확산이 전체적으로는 긍정적인 방향이라고 생각합니다.
지금 한국에서 정신건강 문제를 안고 있는 사람의 수와, 실제로 상담에 연결될 수 있는 자원 사이의 간극은 너무 큽니다. 관계 갈등을 어떻게 풀어야 할지 몰라 혼자 끙끙대다 결국 관계가 무너지는 사례를 현장에서 자주 목격했습니다. AI가 그 공백을 부분적으로 채워준다면, 그건 분명한 진전입니다.
다만 AI가 개입해서는 안 되는 영역이 분명히 있습니다. 자살 위기, 가정폭력, 복합 트라우마처럼 즉각적인 인간의 개입이 필요한 상황에서는 반드시 사람이 사람을 만나야 합니다.
AI 상담이 그 경계를 스스로 판단하고 적절히 연계할 수 있는 체계, 즉 위기개입(Crisis Intervention) 프로토콜이 함께 설계되어야 한다는 게 저의 생각입니다. 위기개입이란 극도의 심리적 위기 상태에 있는 사람에게 즉각적으로 개입하여 안전을 확보하고 안정화를 돕는 전문적 과정을 말합니다. 이 기능 없이 AI 상담만 확산된다면, 접근성은 높아지지만 안전망에는 구멍이 생깁니다.
AI 상담을 무조건 거부할 이유도, 무조건 환영할 이유도 없습니다. 지금 필요한 건 어디까지를 AI에게 맡기고, 어디서부터는 사람이 나서야 하는지를 명확히 설계하는 일입니다. 그 경계를 그어두는 것이 정책의 역할이고, 현장에서 일하는 사람들의 역할이기도 합니다.
이 글은 사회복지 현장에서의 개인적인 경험과 의견을 공유한 것이며, 전문적인 정신건강 상담 조언이 아닙니다. 정서적으로 어려움을 겪고 계신 분은 전문 의료기관이나 상담기관에 직접 문의하시기를 권합니다.
참고: 출처: 미국심리학회(APA)
참고: 출처: 국립정신건강센터
참고: 포춘코리아 원문