보건복지부가 주관한 병원 AI 윤리 패널은 서울 두 시범 챗봇이 퇴원 요약에 없는 약물 상호작용을 지어냈다고 금요일 밝혔다. 9월 마포·노원 병원 테스트 결과다.
약사 검증 목록과 비교했을 때 일부 경고는 약물명·중증도가 틀렸다. 가족이 환자 포털에서 읽는 쉬운 한국어 요약의 신뢰가 깨졌다.
시범 목적과 실패
의사 기록을 10분 안에 쉬운 퇴원 안내로 바꾸려 했으나 약사 승인을 선택 사항으로 둔 설계가 문제로 지목됐다.
대응
당부는 생성문을 ‘초안’으로 두고 약사가 서명해야 한다는 것이다. EMR 업체는 구조화된 약물 표와 교차검증 규칙을 넣겠다고 했다.
정책 시점
AI 기본법 유예기간에 고위험 의료 AI는 더 빠른 공시가 예상된다. 당분간 약사 확인 없는 봇 경고는 모두 의심해야 한다는 보수적 결론이다.
학습 데이터 한계
퇴원지 6년치 텍스트 학습이 약어 오인을 키웠다는 지적이 나왔다. 구조화된 약물 표만 읽는 시범이 확대된다.