솔직히 저는 AI가 장애인에게 무조건 좋은 도구일 거라고 막연히 믿었습니다. 음성을 문자로 바꿔주고, 대화로 쇼핑을 도와주고, 24시간 곁에 있어줄 수 있다면야. 그런데 현장에서 일하다 보니 그 믿음이 조금씩 흔들리기 시작했습니다. AI가 정신장애인에게 "병원에 빨리 가봐"라고 답한다는 이야기를 들었을 때, 저는 한참을 멈춰 있었습니다.
1. AI와 장애인 접근성, 기회라는 말
일반적으로 AI는 장애인의 정보 접근성을 높여준다고 알려져 있습니다. 실제로 그 말이 완전히 틀린 건 아닙니다. 음성을 텍스트로 변환해주는 소프트웨어 '소보로'나 대화형 AI 브라우저처럼, 기존에는 혼자서 하기 어려웠던 인터넷 쇼핑이나 문서 작업을 가능하게 해주는 사례들이 실제로 존재합니다.
제가 현장에서 보기에도 발달장애인 당사자가 AI 도구를 활용해 업무 기획에 참여하거나 경험을 보완하는 경우가 점점 늘고 있습니다. 그래서 'AI는 장애인에게 기회'라는 말이 무조건 틀렸다고는 못 하겠습니다.
그런데 접근성이라는 개념을 들여다보면 이야기가 달라집니다. 여기서 접근성이란 단순히 기기를 손에 쥘 수 있느냐의 문제가 아니라, 콘텐츠·서비스·정보를 장애 유형에 관계없이 동등하게 이용할 수 있는 환경을 의미합니다.
지금의 AI는 이 기준에서 보면 상당히 미흡합니다. 수어 아바타는 구어나 표정 없이 동작만 재현하고, 음성 인식은 청각장애인의 발화 패턴을 제대로 처리하지 못합니다. 이건 제가 직접 써보고 확인한 부분이기도 합니다.
더 근본적인 문제는 데이터 편향에 있습니다. 데이터 편향이란 AI를 학습시키는 훈련 데이터가 특정 집단에 치우쳐 있어, 소수집단에 대해 부정확하거나 차별적인 결과를 내놓는 현상을 말합니다. 현재 대부분의 AI는 비장애인 중심의 데이터로 학습되어 있고, 장애인의 언어·행동 패턴은 오답이나 노이즈로 처리될 가능성이 높습니다.
2025년 유엔장애인권리협약 당사국회의에서도 AI 모니터링과 접근 강화를 본격 의제로 다루겠다고 밝혔다는 점은, 이 문제가 국제적 수준에서도 심각하게 인식되고 있다는 방증입니다. 한국이 이 흐름에서 한참 뒤처져 있다는 사실은 또 다른 이야기지만요.
AI가 장애인에게 실질적인 접근성을 제공하려면 다음 조건들이 선행되어야 한다고 봅니다.
- 장애 유형별 특성을 반영한 훈련 데이터의 양적·질적 확대
- 개발 단계부터 장애인 당사자의 참여 보장
- 경제적 취약계층 장애인을 위한 AI 도구 이용 지원
이 세 가지 중 하나라도 빠지면 'AI가 기회'라는 말은 비장애인을 위한 기회에 그칠 가능성이 큽니다.
2. 의료화된 응답이 정신장애인에게 미치는 영향
이 글에서 제가 가장 오래 생각한 부분은 AI가 정신장애인에게 "약을 빨리 먹어야 될 것 같아"라고 답했다는 사례입니다. 사회복지 현장에서 일해본 사람이라면 이 반응이 왜 문제인지 바로 압니다. 현장에서 우리가 가장 먼저 훈련받는 것 중 하나가 바로 의료화된 반응을 피하는 것입니다.
의료화란 어떤 사람의 경험이나 감정을 곧바로 치료가 필요한 증상으로 규정해버리는 관점을 말합니다. 누군가 "환청이 들리는 것 같아"라고 말했을 때, 그 호소를 먼저 들어주는 대신 "병원부터 가봐"로 응답하면 그 순간 그 사람은 대화 상대가 아니라 관리 대상이 됩니다. 사람이 사라지고 진단명만 남는 것입니다. 제가 현장에서 반복적으로 목격해온 장면이기도 합니다.
AI가 지금 그 자리를 차지하고 있다는 사실이 가장 마음에 걸렸습니다. 정신장애인 당사자가 가장 먼저 마주하는 응답이 의료화된 자동 답변이라면, AI는 도구가 아니라 또 하나의 차별 통로가 됩니다.
물론 AI가 발전하면 달라질 수도 있습니다. 24시간 편견 없이 곁에 있을 수 있고, 인간 치료자처럼 소진되거나 감정적으로 흔들리지 않는다면, 어떤 영역에서는 오히려 더 정교한 정서적 지지 도구가 될 가능성도 있습니다. 저도 그 가능성 자체를 부정하지는 않습니다. 다만 지금 당장은 아닙니다.
지금의 AI는 사용자 친화적이지 않습니다. 그래서 의료화된 답변 같은 미숙함이 자꾸 드러납니다. 기술이 사람을 따라잡으려면 더 많은 시간이 필요하고, 그 시간 동안 당사자가 입을 상처는 누가 책임질 것인가 하는 문제가 남습니다.
이 지점에서 저는 사회복지 실천의 기본 원칙을 다시 떠올립니다. 사람을 진단명으로 환원하지 않는 것, 호소를 먼저 들어주는 것, 관리 대상이 아니라 대화 상대로 대하는 것. AI가 이 원칙을 학습하지 않은 채 정서 지원 영역에 들어오는 것은 위험합니다.
3. 도전행동 예측 CCTV, 어디까지 허용해야 하나
도전행동 예측 AI CCTV 문제는 더 복잡합니다. 도전행동이란 발달장애인이나 정신장애인이 자신이나 타인에게 해를 끼칠 수 있는 행동을 뜻하는 용어로, 단순히 '문제행동'이라는 단어 대신 그 사람의 맥락과 필요를 함께 고려하기 위해 사용됩니다.
이 도전행동을 AI가 예측해 CCTV로 모니터링한다는 아이디어는 자기결정권 침해라는 비판을 받습니다. 맞는 말입니다. 보호의 탈을 쓴 감시라는 표현도 일리가 있습니다.
그런데 제가 현장에서 실제로 본 상황은 그렇게 단순하지 않습니다. 치료의 방향이 증상의 일시적 완화에만 머물러 있고, 그 사람의 도전행동이 주변 이용자에게 실질적인 피해를 줄 수 있는 상황이 분명히 존재합니다.
이를 자기결정권과 프라이버시라는 이름만으로 방치하는 것이 정답인지, 그것 역시 또 다른 형태의 책임 회피는 아닌지 자꾸 되묻게 됩니다. 보호와 감시의 경계를 어디에 그을지는 기술이 결정해줄 수 있는 문제가 아닙니다.
그래서 법적 책임 소재의 명확화가 필요하다는 주장은 타당합니다. AI가 데이터 수집자, 개발자, 서비스 운영자 등 다중 주체의 관여로 구성되는 한, 피해가 발생해도 누가 책임을 지는지가 불분명합니다. 국가인권위원회가 AI 기반 서비스에서 장애인 차별을 심각한 문제로 다루고 있는 것도 이 맥락에서입니다.
정리하면, AI는 장애인에게 기회이기도 하고 위기이기도 합니다. 그리고 그 두 가지는 동시에 사실입니다. 'AI는 위험하니 거부'도, 'AI가 답이니 도입'도 현장의 복잡함 앞에서는 너무 단순한 말입니다.
정부 토론자가 "공론화되면 어렵지 않게 해결될 문제"라고 말했다는 부분을 읽으며 제가 느낀 건 답답함보다는 거리감이었습니다. 데이터 하나 모으는 데도 당사자 동의, 인권감수성, 기관 협조가 전부 따라붙는 현장을 경험해본 사람이라면, 그 말이 얼마나 가볍게 들리는지 알 것입니다.
지금 필요한 건 낙관도 거부도 아니라, 현장의 복잡함을 기꺼이 껴안은 채로 시작하는 논의입니다. 어렵지 않은 문제라고 정리하는 그 순간, 우리는 가장 어려운 사람들을 다시 한번 빼놓는 셈이 됩니다.
이 글은 사회복지 현장에서의 개인적인 경험과 의견을 공유한 것이며, 전문적인 법률·의료 조언이 아닙니다.
참고: 출처: 비마이너 원문 기사
참고: 출처: 국가인권위원회