배달 알고리즘 (배차, 투명성, 알고리즘 리터러시)
솔직히 저는 배달앱 알고리즘이 이렇게까지 불합리하게 돌아가는 줄 몰랐습니다. 며칠 전 가까운 동네 가게에서 음식을 시켰는데 한 시간 가까이 기다렸고, 도착한 기사분도 "이 동선은 진짜 이상해요"라고 한숨을 쉬었습니다.
그 순간 깨달았습니다. 알고리즘은 누구도 이해 못 하는데, 피해는 모두가 나눠 지고 있다는 것을.
1. 배달 알고리즘 배차, 실제로 어떻게 돌아가나
배달앱이나 택시 플랫폼에서 쓰는 배차 알고리즘(Dispatch Algorithm)이란, AI가 거리·수요·공급 등 수십 가지 변수를 실시간으로 분석해서 기사와 주문을 자동으로 연결하는 시스템입니다.
여기서 배차 알고리즘이란 단순히 "가까운 기사를 붙여준다"는 개념이 아니라, 플랫폼 전체의 수익성과 효율을 극대화하도록 설계된 복합 연산 체계를 의미합니다.
문제는 이 설계가 누구의 효율을 기준으로 하느냐입니다. 제가 직접 겪어보니 배달기사 입장의 효율과 플랫폼 입장의 효율이 전혀 다른 개념이었습니다.
배달기사 노동조합이 실제로 실험을 진행한 결과, AI 배차를 100% 수락했을 때보다 거절하고 직접 선택했을 때 주행거리가 줄고 수익이 늘었다는 결과가 나왔습니다. 알고리즘이 기사에게 유리하게 설계되지 않았다는 방증입니다.
마포구 사례를 들어보면 더 구체적으로 드러납니다. 같은 마포구 내에서도 기본 배달료가 3,900원인 구역과 6,800원인 구역이 공존하는데, 기사가 단가가 높은 구역으로 이동하면 AI가 다른 곳으로 배차해버린다는 것입니다.
이 구조 안에서 기사는 수입을 스스로 조율할 권한이 없습니다. 일하는 사람이 자기 노동의 가격을 선택할 수 없는 시장이 정상적인 시장일까요. 저는 이 질문 앞에서 한참 머물렀습니다.
2. 투명성 논란, 양쪽 말이 다 맞는 이유
알고리즘 공개를 둘러싼 논쟁에서 저는 사실 양쪽 입장이 다 일리 있다고 봅니다.
IT 업계는 알고리즘이 회사의 핵심 자산이라고 주장합니다. 알고리즘을 공개하면 경쟁사에 핵심 기술이 노출되고, 검색 순위를 조작하려는 어뷰징(Abusing)이 늘어날 수 있다는 것입니다.
여기서 어뷰징이란 시스템의 허점을 파악해 인위적으로 노출 순위나 배차 우선순위를 끌어올리는 행위를 말합니다. 한 대형 이커머스 기업이 자체 브랜드 상품이 검색 상단에 노출되도록 알고리즘을 조작했다는 혐의로 공정거래위원회 조사를 받은 것도 이 맥락에서 이해할 수 있습니다.
반면 정치권에서는 알고리즘 투명화법을 발의하며 맞섰습니다. 이용자가 기업에게 알고리즘 작동 원리 설명을 요구할 수 있고, 기업은 영업비밀을 이유로 거부할 수 없도록 하는 내용입니다.
성별, 나이, 장애 여부를 이유로 한 알고리즘 차별도 금지 조항에 포함되었습니다. 이 두 입장은 어느 한쪽이 맞고 다른 쪽이 틀렸다고 단정 짓기 어렵습니다.
전문가들은 기술적 한계도 지적합니다. 머신러닝(Machine Learning) 기반의 알고리즘은 설계자 자신도 특정 결과가 왜 나왔는지 설명하기 어렵다는 것입니다.
여기서 머신러닝이란 AI가 수많은 데이터 패턴을 스스로 학습하며 판단 기준을 형성하는 방식으로, 사람이 미리 규칙을 짜는 것이 아니라 AI가 경험을 통해 규칙을 만들어냅니다. 그러니 "왜 이 배차를 했냐"는 질문에 플랫폼도 명확히 대답하기 어려운 구조입니다.
알고리즘 불투명성의 핵심 문제를 정리하면 다음과 같습니다.
- 기사, 소비자, 음식점 모두 같은 결과에 영향을 받지만 그 이유를 알 수 없음
- 피해가 발생해도 이의를 제기할 창구가 없음
- 플랫폼은 "AI가 한 것"이라는 말로 책임에서 빠져나감
3. 영업비밀이라는 방패, 어디까지 유효한가
저는 영업비밀 보호가 정당하다는 전제 자체에는 동의합니다. 그런데 한 가지 조건이 붙어야 한다고 생각합니다. 그 알고리즘이 제대로 작동하고 있을 때만 보호받을 자격이 있다는 것입니다.
제가 경험한 그날, 음식은 식었고, 기사분은 비효율적인 동선으로 시간을 잃었고, 음식점은 식은 음식 때문에 별점을 잃었습니다. 세 당사자 모두 손해를 봤습니다.
그 상황에서 플랫폼만 아무런 설명도, 보상도 없이 "AI가 알아서 한 것"이라고 할 수 있을까요. 저는 그게 영업비밀 보호가 아니라 책임 회피에 더 가깝다고 봅니다.
블랙박스 알고리즘(Black-box Algorithm)이라는 개념이 있습니다. 입력값과 출력값은 존재하지만 내부 작동 원리를 외부에서 전혀 확인할 수 없는 AI 시스템을 뜻합니다.
문제는 이 블랙박스 알고리즘이 사람들의 생계와 일상에 직접 개입할 때입니다. 택시기사의 월 수입, 배달기사의 하루 동선, 소비자의 음식 만족도가 모두 여기서 결정됩니다.
기업이 알고리즘을 다 공개해야 한다는 뜻은 아닙니다. 다만 결과가 잘못됐을 때 이유를 설명할 의무, 피해를 본 사람이 이의를 제기할 권리, 작동이 안 되면 수정할 책임 정도는 최소한 따라와야 합니다.
영업비밀이라는 방패 뒤에 숨어서 사람들의 생계와 일상을 휘두르는 건, 비밀 보호가 아니라 책임 회피에 더 가깝다고 생각합니다. 작동이 안 되면 바꿔야 한다는 것, 그게 그렇게 어려운 요구일까요.
사회복지적 관점에서 보면 더 심각합니다. 알고리즘 앞에서 가장 먼저 무력해지는 사람은 이의를 제기할 자원이 부족한 노동자와 소비자입니다. 알고리즘이 공정하게 작동하는지 검증할 방법도, 피해를 보상받을 절차도 없는 상태에서 일방적으로 결과만 받아들여야 하는 구조입니다.
4. 알고리즘 리터러시, 우리가 갖춰야 할 것
이 문제를 풀 열쇠로 전문가들이 꺼내드는 개념이 알고리즘 리터러시(Algorithm Literacy)입니다.
알고리즘 리터러시란 알고리즘이 어떻게 작동하는지 기본적으로 이해하고, 그 결과가 합당한지 스스로 판단하며 문제를 제기할 수 있는 능력을 말합니다. 단순히 "AI가 한 것"이라는 말에 납득하지 않고, "이 결과가 과연 타당한가"를 물을 수 있는 시민적 역량입니다.
물론 저도 완전히 갖추지 못했습니다. 배달이 늦어졌을 때 처음엔 그냥 "AI가 알아서 했겠지" 하고 넘어갔으니까요.
하지만 기사분의 한숨 한 번에 생각이 바뀌었습니다. 이게 단순한 불편이 아니라 구조적인 문제라는 것을. 한 사람의 한숨이 한 사람의 인식을 바꾸는 데 1초도 걸리지 않았습니다.
알고리즘이 사회 전반에 미치는 영향력이 커지면서 국내외에서 이를 규율하려는 움직임이 생기고 있습니다. 유럽에서는 이미 알고리즘 책임성과 투명성을 규정하는 AI법(AI Act)이 시행되고 있으며, 고위험 AI 시스템에 대해 명확한 설명 의무를 부여하고 있습니다.
국내에서도 플랫폼 알고리즘의 불공정 행위를 심사할 수 있는 기준이 마련되고 있습니다. 알고리즘이 틀렸을 때 "AI가 한 것"이라는 말은 더 이상 유효한 답이 아닙니다.
기업이 모든 코드를 공개할 필요는 없더라도, 결과가 잘못됐을 때 이유를 설명하고 이의를 받아들이는 최소한의 구조는 있어야 합니다. 지금처럼 피해는 기사와 소비자와 음식점이 나눠 지고, 책임은 AI에게 넘기는 방식이 계속된다면 신뢰는 회복되기 어렵습니다.
플랫폼을 쓰는 우리가 "왜 이런 결과가 나왔냐"고 물을 수 있어야 하고, 그 질문에 답할 의무는 결국 사람에게 있습니다. AI 뒤에 숨어 있는 그 사람을, 우리는 다시 찾아내야 합니다.
이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 법률 또는 정책 조언이 아닙니다.
참고 자료