SNS 인성평가 AI (사생활 침해, 알고리즘 한계, 표현 위축)
베이비시터 지원자의 SNS를 수년치 분석해 인성 점수를 매기는 AI 서비스가 미국에서 실제 채용 시장에 도입되기 시작했습니다. 처음 이 소식을 접했을 때 저는 솔직히 등골이 서늘했습니다.
사회복지사로 일하면서 평가받는 일에 익숙하다고 생각했는데, 이건 업무 평가가 아니라 사람됨을 숫자로 환산하는 일이었습니다.
1. SNS 인성평가 AI의 사생활 침해 구조
미국의 한 테크 스타트업은 지원자의 페이스북, 트위터, 인스타그램 게시물을 자연어 처리(NLP) 알고리즘으로 분석합니다. NLP란 컴퓨터가 인간의 언어를 읽고 의미를 추출하는 기술로, 문장의 단어 패턴을 수치화해 약물 남용, 폭력성, 무례한 태도 항목에 점수를 부여하는 방식입니다.
그 결과를 고용주인 부모에게 제공하는 것이 서비스의 핵심 구조입니다. 문제는 지원자의 SNS 계정 접근에 동의가 필요하다는 점인데, 이 동의가 실질적으로 자유롭지 않다는 데 있습니다.
거부하면 채용에서 탈락하는 구조이니, 이건 자유로운 동의가 아니라 강요를 포장한 형식적 절차에 가깝습니다. 저도 동료들과 점심을 먹다가 "우리 직종에도 이게 들어오면 어떡하냐"는 말이 나왔을 때, 테이블이 한동안 조용해졌습니다.
제 인스타그램 타임라인을 순간 머릿속으로 되감았고, 자신 있게 통과할 수 있다는 확신이 서지 않았습니다. 술자리 사진, 친구가 정치 글에 단 댓글에 누른 좋아요, 회식 때 누가 찍은 사진에 태그된 흔적까지 떠올랐습니다. 그게 몇 년치 긁혀서 점수로 환산된다고 상상하니 손이 차가워졌습니다.
헌법이 보장하는 사적 표현 영역을 채용이라는 권력관계를 통해 강제로 열게 만드는 이 구조는, 개인정보 자기결정권을 사실상 침해하는 방식입니다. 개인정보 자기결정권이란 자신에 관한 정보를 언제, 누구에게, 어느 범위까지 공개할지 스스로 결정할 수 있는 권리를 뜻합니다.
채용 탈락이라는 불이익이 걸려 있는 상황에서 이 권리는 이름만 남게 됩니다. 동의서에 사인하는 손이 떨릴 것 같다는 말이, 더 이상 비유로만 들리지 않습니다.
2. 알고리즘 한계: 맥락 없는 언어 분석의 위험
이 서비스가 활용하는 감성 분석(Sentiment Analysis) 기술은 텍스트에서 긍정·부정·중립의 감성을 자동으로 분류하는 방식입니다. 감성 분석이란 문장 속 단어의 통계적 패턴을 학습해 해당 텍스트의 감정적 방향을 예측하는 머신러닝 기반 기법입니다.
그런데 이 기술이 인간 언어의 복잡성 앞에서 얼마나 취약한지는 이미 여러 사례에서 드러나고 있습니다. 한 디지털 인권단체 소속 변호사는 온라인 언어 분석 알고리즘 대부분이 맥락(Context)을 파악하지 못한다고 지적한 바 있습니다.
맥락이란 발화가 이루어지는 상황, 관계, 문화적 배경 전반을 의미하는데, 바로 이 맥락이 빠지면 영화 대사 인용이 폭력 발언으로 분류되고, 반어적 표현이 무례한 태도로 낙인찍힐 수 있습니다. 실제로 세계 최대 규모의 SNS 플랫폼조차 증오 발언과 무해한 표현 사이의 경계를 자동으로 구별하는 알고리즘 개발에 오랫동안 어려움을 겪어왔습니다.
제 경험상 이런 알고리즘의 한계는 더 분명하게 느껴집니다. 사회복지 현장에서는 클라이언트의 공격적 발화를 맥락 안에서 이해하고 해석하는 훈련을 받습니다.
같은 말이라도 누가, 언제, 어떤 상황에서 했느냐에 따라 의미가 완전히 달라진다는 것을 몸으로 배웁니다. 알고리즘은 그 층위를 읽을 수 없습니다. 적어도 지금까지 제가 본 어떤 서비스도 그렇지 못했습니다.
이 서비스의 정확도나 유효성을 입증하는 독립적 검증 연구가 현재까지 존재하지 않는다는 점도 짚어야 합니다. 정작 평가해야 할 돌봄 역량이나 아동 안전 대응 능력 같은 직무 적합성은 평가 항목에 없고, 수년 전 SNS 게시물에서 추출한 단어 빈도로 인성을 판단합니다.
이건 타당도(Validity), 즉 측정 도구가 측정하려는 대상을 실제로 측정하고 있는지를 나타내는 개념에서 심각한 문제가 있습니다. 이 알고리즘이 지닌 한계를 정리하면 다음과 같습니다.
- 반어법, 풍자, 인용구를 문자 그대로 해석하는 오류
- 발화 당시의 관계적·문화적 맥락을 반영하지 못함
- 직무 적합성과 무관한 일상 게시물까지 평가 대상에 포함
- 서비스 정확도에 대한 독립적 검증 연구 부재
3. 표현 위축: 사적 공간을 잠식하는 시장 논리
논란에도 불구하고 이 시장은 성장하고 있습니다. 미국의 대형 베이비시터 구인 플랫폼이 해당 AI 서비스를 지원자 검증 항목 중 하나로 편입할 계획을 밝혔습니다.
수백만 명의 부모가 이용하는 플랫폼이 이를 표준 절차로 도입하면, 사실상 업계 전반의 채용 관행이 바뀌는 것입니다. 한번 표준이 되고 나면, 그 흐름을 되돌리기는 훨씬 어려워집니다.
저는 이 흐름이 베이비시터에서 끝나지 않을 것이라고 봅니다. 요양보호사, 활동지원사, 사회복지사처럼 취약계층을 직접 돌보는 직군은 인성 검증의 필요성이 더 크다는 논리로 같은 방식이 적용될 가능성이 높습니다.
그렇게 되면 사적 표현 영역을 가장 먼저 잃는 사람은 사회에서 가장 약한 이들을 돕는 사람들이 됩니다. 아이러니가 아닐 수 없습니다. 정작 권력을 가진 자리에는 이런 잣대를 들이대지 않으면서, 약자를 돌보는 사람부터 검증대에 세우는 셈입니다.
더 근본적인 문제는 이 구조가 만들어내는 표현 위축(Chilling Effect) 효과입니다. Chilling Effect란 처벌이나 불이익에 대한 두려움 때문에 합법적인 표현이나 행동 자체를 스스로 억제하게 되는 현상을 말합니다.
채용 AI에 걸릴 수 있다는 막연한 두려움이 일상의 글 한 줄, 공감 버튼 하나까지 검열하게 만들고, 결국 SNS는 진짜 생각을 쓰는 공간이 아니라 채용 포트폴리오를 관리하는 공간으로 변질됩니다. 국가가 직접 통제하지 않아도, 자본이 채용을 통해 표현의 자유를 우회적으로 좁히는 구조가 만들어지는 것입니다.
제가 가장 불편하게 느끼는 지점이 바로 여기입니다. 이 서비스가 풀려는 문제, 즉 아이를 맡길 사람을 더 안전하게 검증하고 싶다는 부모의 마음은 충분히 이해합니다.
하지만 과학적으로 검증되지 않은 알고리즘으로 사적 언어 활동을 긁어 점수를 매기는 방식이 그 답이 될 수는 없습니다. 채용 과정에서 인성을 평가하고 싶다면, SNS 감시가 아니라 구조화 면접이나 직무 시뮬레이션 같은 타당도가 검증된 방법을 쓰는 것이 더 정직한 접근입니다.
제 생각에 이 서비스는 부모의 불안을 해소하는 척하면서 실제로는 그 불안을 상품화하는 데 더 가깝습니다. 정답은 아직 모르겠습니다. 다만 사적 영역을 채용 심사대로 끌어올리는 흐름 앞에서, 한 번쯤은 멈춰서 물어봐야 한다고 생각합니다.
이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 법률 또는 채용 실무 조언이 아닙니다.
참고 자료