할루시네이션3 AI 의료 상담의 덫 (데이터, 환각, 헬스) AI에게 약을 물어본 적 있으신가요? 저는 있습니다. 두통약을 빈속에 먹어도 되는지, 영양제 두 가지를 같이 먹어도 되는지. 그때 AI가 척척 답해줬고, 맞는 것 같았고, 그걸로 충분하다고 생각했습니다. 그런데 그 '충분하다'는 감각이, 당뇨 환자를 응급실로 보내는 출발점과 똑같다는 걸 나중에야 알았습니다. 1. AI 의료 상담의 덫과 데이터 함정, AI가 틀리는 건 거짓말해서가 아닙니다당뇨 환자가 아침 공복 혈당이 높다며 AI에게 물었습니다. AI는 "인슐린 추가 투여나 경구 혈당강하제 복용을 고려할 수 있다"고 답했습니다. 환자는 그 답을 믿고 약 용량을 스스로 늘렸고, 그날 오후 저혈당 쇼크로 응급실에 실려 갔습니다.여기서 AI가 한 일이 뭔지 짚어봐야 합니다. AI는 거짓말을 한 게 아닙니다. 학.. 2026. 5. 23. AI 상담 효과 (공감능력, 할루시네이션, 사각지대) 솔직히 말씀드리면, 저는 이 연구 결과를 처음 접했을 때 불편했습니다. AI가 인간 상담사보다 공감 능력이 뛰어나다는 평가를 받았다는 내용이었는데, 사회복지 현장에서 사례관리를 해온 입장에서 그 문장이 조금 따갑게 읽혔습니다. 그런데 잠시 후엔 그 불편함의 정체가 다른 곳에 있다는 걸 깨달았습니다. AI가 대단해서가 아니라, 우리가 충분히 공감을 표현하지 못해온 시간이 많았다는 뜻이기도 했으니까요. 1. AI 상담의 공감능력, 실제로 얼마나 될까오하이오 주립대학교 심리학 및 정신의학 프로그램 연구팀이 부부 상담 시나리오를 설계하고, 경험 많은 상담사 그룹과 챗GPT의 응답을 비교하는 실험을 진행했습니다.830명의 참가자에게 두 응답을 무작위로 제시했을 때, 상담사 응답이라고 정확히 맞힌 비율은 56.1.. 2026. 5. 14. AI 가짜 판례 제출 (법조계 배경, 책임 기준, 전망) AI가 만들어낸 존재하지 않는 판례를 법원에 그대로 제출하면 소송 비용 전부를 부담하거나 변호사가 징계를 받는 방안이 본격 추진됩니다.저는 이 소식을 접하고 가장 먼저 든 생각이 "이게 왜 이제야"였습니다. 법조계뿐 아니라 AI를 쓰는 모든 직군이 새겨야 할 이야기입니다. 1. AI 가짜 판례, 법정에 들어오기까지의 배경생성형 AI(Generative AI)가 빠르게 확산되면서 법조계에서도 예상치 못한 문제가 터지기 시작했습니다. 생성형 AI란 텍스트, 이미지, 코드 등을 스스로 만들어내는 인공지능으로, 누구나 한 번쯤 써봤을 대화형 AI 도구가 대표적입니다.그런데 이 기술에는 치명적인 약점이 있습니다. 바로 할루시네이션(Hallucination)입니다. 할루시네이션이란 AI가 실제로 존재하지 않는 .. 2026. 5. 12.
