처음 통합사례관리에 위험도 산출 모듈이 붙었을 때, 저는 그냥 도구 하나 늘었다고만 생각했습니다. 별일 아닌 줄 알았습니다. 그런데 시간이 지나면서 마음 한구석이 자꾸 불편해졌습니다. 그 불편함의 정체를 한참 못 잡다가, 최근에야 겨우 한 줄로 정리됐습니다. 우리가 언제 이 변화에 동의한 적이 있었던가.
1. 사회복지 AI 도입, 합의 없이 시작된 변화
솔직히 저는 처음에 몰랐습니다. 통합사례관리 시스템에 위험도 산출 모듈이 붙었을 때, 그게 제 일을 얼마나 바꿔놓을지를요. 도구가 생겼다고만 생각했습니다.
그런데 시간이 지날수록 뭔가 잘 정리되지 않는 불편함이 마음 한구석에 자라기 시작했고, 그 불편함의 정체를 최근에야 겨우 언어로 잡을 수 있었습니다.
사회복지 현장에서 AI 도입을 이야기할 때 거의 항상 나오는 단어가 있습니다. 바로 예측 정확도입니다. 어느 알고리즘이 아동학대 고위험 가구를 몇 퍼센트 확률로 맞히는지, 위기 가구 발굴 모델의 정밀도가 얼마인지가 도입 논의의 전부가 되는 경우가 많습니다.
여기서 정밀도란 AI가 위험하다고 예측한 가구 중 실제로 위험한 가구가 얼마나 되는지를 수치화한 지표입니다. 숫자가 높을수록 시스템이 정확하다는 뜻이고, 그 숫자가 도입 결정의 근거가 됩니다.
그런데 제가 현장에서 느끼는 불편함은 그 숫자가 낮아서가 아닙니다. 그 숫자를 묻기 전에 물어야 할 질문이 아예 빠져 있다는 데 있습니다. 아동학대 예방 AI 시스템이 전국 가정의 위험률을 산출하고, 사회복지사의 방문 대상을 정하는 구조가 이미 여러 지자체에 들어와 있습니다.
이 흐름에서 저는 제 역할이 조금씩 달라지는 걸 느꼈습니다. 가구를 보고 위험도를 직관적으로 읽어내던 사람에서, 시스템이 정해준 대상을 방문하는 사람으로 옮겨가는 감각이었습니다. 우리가 언제 이 역할 변화에 동의했는지, 저는 기억이 없습니다.
2. AI 권위 논의가 빠진 자리, 누가 책임지는가
이 문제를 이야기할 때 쓸 수 있는 개념이 있습니다. AI 거버넌스입니다. AI 거버넌스란 인공지능 시스템을 어떻게 도입하고 운영하며 감독할 것인지에 관한 규칙과 합의 체계 전반을 의미합니다.
AI가 얼마나 잘하는지의 문제가 '기술 성능'이라면, 우리가 AI에게 그 일을 맡기기로 합의했는지의 문제는 AI 거버넌스의 영역입니다. 현재 복지 현장에는 전자는 있고 후자는 없습니다.
공공부문 AI 도입 사례를 살펴보면, 현장 종사자와 서비스 이용자가 실질적 의견을 낼 수 있는 절차가 포함된 경우는 극히 드문 것으로 나타납니다.
이용자는 물론, 직접 시스템을 사용하는 사회복지사조차 도입 단계에서 배제되는 경우가 많습니다. AI가 들어오는 속도만큼 합의를 만드는 절차도 함께 들어와야 한다고 생각하는데, 지금은 속도만 있고 절차는 없는 상태입니다.
현장에서 제가 직접 겪은 또 하나의 문제는 '누락된 자리'입니다. 시스템이 우선 방문 대상을 정해주기 시작하면, 우리는 그 외의 가구를 점점 덜 보게 됩니다.
가족 분위기, 미묘한 위축, 말이 아닌 표정, 현관문 앞에서 잠깐 멈추는 발걸음. 데이터로는 잡히지 않는 신호들이 분명히 있는데, 그 신호들이 있는 가구는 시스템의 우선순위에서 밀려납니다. 누락된 자리에서 자라고 있는 위험을 아무도 책임지지 않는 구조, 그것이 저를 가장 불편하게 만드는 부분입니다.
AI가 사회복지 현장에서 제대로 역할을 하려면 다음 세 가지가 동시에 갖춰져야 한다고 봅니다.
- 도입 전 현장 종사자와 서비스 이용자가 참여하는 합의 절차
- 알고리즘이 분류하지 못한 가구를 사람이 판단할 수 있는 재량권 보장
- 시스템 오류나 누락에 대한 명확한 책임 소재와 이의제기 창구
3. 마을 에이전트, 기술이 풀 수 없는 문제가 있다
국내 고립·은둔 청년은 약 54만 명으로 추산됩니다. 이는 현역 군인 약 50만 명보다 많은 숫자입니다. 이 문제를 AI로 해결할 수 있느냐는 질문을 저도 현장에서 종종 받습니다.
솔직히 이건 예상 밖이었습니다. AI 도입을 논의하는 자리에서 고립 문제가 함께 올라오는 게 처음엔 이상하게 느껴졌거든요. 그런데 생각해보면 고립 청년 문제야말로 기술이 얼마나 제한적인지를 가장 잘 보여주는 사례입니다.
고립·은둔 문제의 본질은 사회자본의 부재입니다. 사회자본이란 개인이 속한 공동체 안에서 형성되는 신뢰, 연대, 네트워크 같은 무형의 자원을 의미합니다. 돈이나 기술로 직접 살 수 없는 것들입니다.
IT가 고립을 유지하기 더 쉽게 만들 수는 있지만, IT 자체가 사회자본을 만들지는 못합니다. 제가 일하면서 만나는 은둔 청년들은 대부분 스마트폰을 씁니다. 플랫폼도 씁니다. 그런데 그들은 여전히 혼자입니다.
이 지점에서 '마을 에이전트'라는 개념을 생각해볼 만합니다. 마을 에이전트란 개인이 소유하는 방식이 아니라, 지역사회 단위로 운영되며 옆 사람을 서로 연결하는 역할을 하는 AI 에이전트를 말합니다. 개인의 생산성을 높이는 도구가 아니라, 이웃 간의 접점을 만드는 도구로 설계된 개념입니다.
제 경험상 이건 좀 다릅니다. 사회복지 현장에서 관계를 만드는 가장 강력한 수단은 여전히 '물리적 만남'이었습니다. 같은 공간에서 같은 시간을 보내는 것, 그 단순한 경험이 신뢰를 만들었습니다.
영화 'HER'에서처럼 AI와 언제든 대화할 수 있다 해도, 마당에서 커피 한 잔을 나누는 것과는 본질적으로 다릅니다. 지능을 공유하는 기쁨과 감정을 공유하는 기쁨은 같지 않습니다.
4. 사회복지사의 역할 변화, 통제당할 것인가 협업할 것인가
사회복지사의 역할 변화 문제도 같은 맥락입니다. 알고리즘이 우선 방문 대상을 정해주는 환경에서 일하다 보면, '판단하는 사람'에서 '실행하는 사람'으로 조금씩 밀려나는 느낌을 받습니다.
제가 직접 겪은 일입니다. 그 감각을 무시하면 안 된다고 생각합니다. 사회복지사가 판단력을 잃어가는 환경은 서비스 이용자에게도 나쁜 결과를 만들기 때문입니다.
사람을 직접 만나는 직업에는 데이터로 잡히지 않는 판단이 필요하고, 그 판단력은 훈련을 통해 기르는 것이지 AI가 대신해줄 수 있는 것이 아닙니다.
AI를 도구로 쓰는 방식은 크게 세 가지로 나눌 수 있습니다. 내가 통제하는 것, 서로 협업하는 것, 내가 통제당하는 것. 사회복지 현장이 지금 어디에 있는지, 그리고 어디로 가야 하는지를 현장 종사자 스스로가 분명히 인식하고 목소리를 내야 한다고 생각합니다.
결국 AI가 복지 현장에서 좋은 도구가 될 수 있는지는 기술의 문제가 아니라 합의의 문제입니다. 도입 전에 현장 종사자와 이용자가 충분히 논의하고, 역할의 경계를 명확히 하고, 시스템이 놓치는 자리를 사람이 채울 수 있는 구조를 만드는 것.
그 절차 없이 속도만 앞세운 도입은 도구가 아니라 통제로 끝납니다. 지금 복지 현장에서 AI를 고민하고 있다면, 가장 먼저 물어야 할 질문은 "얼마나 정확한가"가 아니라 "우리가 합의한 적이 있는가"입니다.
이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 정책 조언이 아닙니다.
참고 자료