AI에게 약을 물어본 적 있으신가요? 저는 있습니다. 두통약을 빈속에 먹어도 되는지, 영양제 두 가지를 같이 먹어도 되는지. 그때 AI가 척척 답해줬고, 맞는 것 같았고, 그걸로 충분하다고 생각했습니다. 그런데 그 '충분하다'는 감각이, 당뇨 환자를 응급실로 보내는 출발점과 똑같다는 걸 나중에야 알았습니다.
1. AI 의료 상담의 덫과 데이터 함정, AI가 틀리는 건 거짓말해서가 아닙니다
당뇨 환자가 아침 공복 혈당이 높다며 AI에게 물었습니다. AI는 "인슐린 추가 투여나 경구 혈당강하제 복용을 고려할 수 있다"고 답했습니다. 환자는 그 답을 믿고 약 용량을 스스로 늘렸고, 그날 오후 저혈당 쇼크로 응급실에 실려 갔습니다.
여기서 AI가 한 일이 뭔지 짚어봐야 합니다. AI는 거짓말을 한 게 아닙니다. 학습된 가이드라인 안에서 통계적으로 가장 그럴듯한 답을 내놓은 것입니다. 문제는 AI가 묻지 않았다는 데 있습니다. "어제 운동을 많이 하셨나요?", "새벽에 한 번 깨진 않으셨나요?" 같은 질문 없이 숫자만 보고 답을 만들었습니다.
이 사례에서 또 하나 놓친 것이 소모기 현상(Somogyi effect)입니다. 소모기 현상이란 새벽 저혈당 후 반작용으로 아침 혈당이 급격히 올라가는 현상으로, 겉으로는 고혈당처럼 보이지만 실제로는 인슐린을 더 주면 안 되는 상황입니다. 의사라면 이 가능성을 먼저 배제한 뒤 처방을 내리지만, AI는 그 맥락을 읽는 능력 자체가 없습니다.
약물 상호작용(drug interaction) 문제도 마찬가지입니다. 약물 상호작용이란 두 가지 이상의 약이나 성분이 함께 체내에 들어왔을 때 예상치 못한 부작용을 일으키는 현상을 말합니다. 고혈압 환자가 AI가 추천한 천연 유래 영양제를 칼슘 채널 차단제 계열의 혈압약과 함께 복용했다가 혈압이 급격히 떨어지거나 부정맥이 생길 수 있다는 경고를 아무도 해주지 않았다면, 그 결과는 응급실 신세입니다. AI는 그 성분이 혈류 개선에 좋다는 보편적 정보만 제공했을 뿐입니다.
식품의약품안전처 의약품안전나라 자료에 따르면 약물 부작용 보고 건수는 매년 수십만 건 단위로 누적되고 있으며, 특히 만성질환자의 다제약물 복용에서 상호작용으로 인한 사고가 꾸준히 보고되고 있습니다 (출처: 식품의약품안전처). 약 하나만 단독으로 작용하는 사람은 거의 없다는 뜻입니다.
AI 의료 상담을 이용할 때 반드시 기억해야 할 것들을 정리하면 다음과 같습니다.
- 약 용량 조절, 복약 중단, 신규 영양제 추가는 반드시 주치의나 약사에게 확인한다
- AI의 답변은 일반적 가이드라인이지, 내 몸 상태를 반영한 처방이 아님을 기억한다
- 만성질환자라면 약물 상호작용 확인은 단골 약사에게 '더블 체크'하는 습관을 만든다
2. 할루시네이션이라는 환각, AI가 모르면서 답하는 순간
저는 이 구조가 무섭습니다. 처음엔 두통약 빈속 복용 같은 가벼운 질문, 그다음엔 혈압이 좀 높은데 약을 늘려야 하나, 그다음엔 어제 술을 마셨는데 오늘 혈당강하제를 먹어도 되나로 점점 무거워집니다. 신뢰는 그렇게 쌓이고, 그 신뢰의 종착지가 응급실이 될 수 있습니다.
이게 바로 할루시네이션(hallucination)의 본질입니다. 할루시네이션이란 AI가 자기가 모른다는 사실을 인지하지 못한 채로 그럴듯한 답을 생성하는 현상을 말합니다. 틀린 정보를 확신 있게 내놓는 것인데, 사소한 질문에서는 티가 잘 안 납니다. 하지만 약 용량처럼 목숨이 걸린 판단에서는 그 한 줄의 자신만만한 오답이 치명적이 됩니다.
의사라면 처방 전에 묻습니다. "어제 운동하셨어요?", "식사는 평소처럼 하셨어요?", "지금 어지러우신가요?" 환자의 답을 듣고, 눈을 한 번 보고, 그다음에 판단합니다. AI는 그 단계를 통째로 건너뜁니다. 묻지 않고, 보지 않고, 그저 확률적으로 가장 그럴듯한 문장을 만들어냅니다. 그게 자기가 모른다는 사실조차 모르는 채로요.
한국지능정보사회진흥원(NIA)도 생성형 AI의 가장 큰 위험 요소로 할루시네이션을 지목하고 있습니다. 특히 의료·법률·금융처럼 정확성이 곧 안전과 직결되는 영역에서는 AI 답변에 대한 사용자 검증이 필수라는 점을 반복해 강조하고 있습니다 (출처: 한국지능정보사회진흥원). AI가 발전해도 사라지지 않는 한계라는 뜻이에요.
저는 AI에게 "두통약을 빈속에 먹어도 되나요?" 정도는 앞으로도 물을 것 같습니다. 하지만 약 용량을 늘릴지 말지, 새 영양제를 추가할지 말지 같은 판단은 다시는 AI에게 묻지 않을 겁니다. AI가 모르는 게 무서운 게 아니라, AI가 자기가 모른다는 걸 모르는 채로 답한다는 게 무섭습니다.
3. 디지털 헬스 격차, 누가 AI 쪽으로 밀려났는가
복지관에서 일할 때 기억이 납니다. 처음엔 자녀에게 "이 약 먹어도 되나?" 물어보시던 어르신들이 어느 순간 그 질문을 멈추셨습니다. 자녀가 바빠서, 자녀에게 미안해서. 그러다 폰을 새로 장만하신 어르신 한 분이 "요즘은 챗봇에 물어본다"고 하셨습니다. "병원 가서 5분 진료받고 똑같은 약 받아오는 것보다 챗봇이 더 자세히 설명해줘."
제가 직접 그 말을 들었을 때, 처음엔 그냥 웃으며 넘겼습니다. 그런데 며칠이 지나도 그 말이 머리에서 안 떠났습니다. 어르신이 AI를 선택하신 게 아니라, 어르신이 의료 시스템에서 밀려나서 AI 쪽으로 흘러간 것이라는 생각이 들었기 때문입니다.
국내 외래 진료 평균 대기 시간과 진료 시간 격차는 그 구조를 숫자로 보여줍니다. 건강보험심사평가원 자료에 따르면 실제 의사와 환자가 대화하는 평균 진료 시간은 5분 내외에 그치는 경우가 많습니다 (출처: 건강보험심사평가원). 5분 안에 혈압 수치 확인하고 약 처방받고 나오는 구조에서, 환자가 약 상호작용이나 부작용을 물어볼 자리는 없습니다.
디지털 헬스 리터러시(digital health literacy)라는 개념이 여기서 등장합니다. 디지털 헬스 리터러시란 온라인이나 앱, AI를 통해 제공되는 건강 정보를 비판적으로 평가하고 자신의 상황에 맞게 활용하는 능력을 말합니다. 문제는 이 능력을 갖추지 못한 채로 AI 상담을 이용하는 사람이 많다는 점인데, 특히 정보 접근성이 낮은 고령층이나 저소득층에서 더 두드러집니다.
세계보건기구(WHO)도 이 문제를 주목하고 있습니다. AI를 포함한 디지털 건강 기술이 의료 불평등을 해소하는 도구가 될 수도 있지만, 리터러시 격차로 인해 오히려 취약계층의 위험을 가중시킬 수 있다고 경고한 바 있습니다 (출처: 세계보건기구(WHO)).
제 경험상 이건 단순히 "AI를 믿지 말라"는 교육으로 해결될 문제가 아닙니다. 사람들이 AI에게 묻는 건 AI가 좋아서가 아니라, 의사에게 물을 시간이 없거나 물을 용기가 없거나 물을 돈이 없어서입니다. 그 구조를 바꾸지 않으면, 아무리 경고를 해도 환자는 다시 챗봇 창을 열 수밖에 없습니다.
그래서 저는 책임을 둘로 나눠봐야 한다고 생각합니다. 하나는 환자 책임, 즉 "AI는 의사가 아니다"라는 인식. 다른 하나는 사회 책임, 즉 왜 사람들이 의사 대신 AI에게 묻게 됐는지에 대한 질문. 후자가 빠진 채로 환자 탓만 하는 논의는 절반짜리입니다.
AI가 만성질환 관리에서 아무 역할도 하면 안 된다는 말이 아닙니다. 다만 지금처럼 환자가 AI에게 직접 처방을 묻는 구조가 아니라, 의사가 환자를 진료할 때 AI의 분석 데이터를 보조적으로 활용하는 방향이 훨씬 안전합니다. 도구는 도구답게 쓰여야 합니다.
참고
- 출처: 한국의약통신 - '만성질환' 파고드는 AI 상담의 덫 ②
- 출처: 식품의약품안전처 의약품안전나라
- 출처: 한국지능정보사회진흥원
- 출처: 건강보험심사평가원
- 출처: 세계보건기구(WHO)
이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 의료 조언이 아닙니다. 약 복용이나 질환 관리에 관한 결정은 반드시 주치의나 약사와 상의하시기 바랍니다.