연세대 강남세브란스병원 안과 최은영 교수 연구팀이 최근 대만에서 열린 아시아 망막학회 국제학술대회(The 5th Asia Retina Congress)에서 ‘최우수 포스터상(Best Poster Presentation)’을 수상했다.
최은영 교수는 ‘임상 추론에서의 인간과 인공지능의 협력(HAC)의 성공과 실패’를 주제로 수상의 영예를 안았다. 안과 분야의 임상 문제 풀이를 바탕으로 의사와 인공지능이 협업할 때 성능이 저하되는 원인을 실험적으로 규명한 점이 높은 평가를 받았다.
연구팀은 미국의사학회(JAMA)에서 제공하는 임상 문제(Clinical Challenge) 30문항을 인간 의사 단독, 인공지능 단독, 의사와 인공지능 협업(HAC) 등 세 가지 조건에서 진단 정확도를 비교 분석했다. 해당 문제들은 난이도가 높은 실제 임상 사례를 바탕으로 만들어졌으며, 적절한 진단과 처치를 묻는 4지선다형으로 구성되어 있다. 인공지능 모델에는 클로드(Claude-3.5)를 사용했다.
먼저 인간 의사 단독 조건에서는 각 임상 증례를 스스로 검토하고, 인공지능의 도움 없이 진단과 처치 결정을 독립적으로 내렸다. 이후 HAC 조건에서는 동일한 참여자가 같은 문제를 다시 검토하되, 사람이 먼저 질문을 던지고 인공지능 모델이 답변하는 자유로운 다회차 대화를 통해 임상적 추론을 실시했다.
연구 결과, 인공지능 단독 정확도는 70%, 인간 단독은 45%, 인간-인공지능 협업은 60%로 나타났다. 협업이 인간 단독보다는 개선되었지만 인공지능 단독 성능을 능가하지는 못했다. 분석 결과, 인간의 잘못된 판단을 인공지능이 그대로 수용하거나, 반대로 인공지능의 오류를 인간이 비판 없이 받아들이는 경우가 주요 실패 요인으로 확인됐다.
연구팀은 이러한 한계가 단순히 인공지능의 지식 부족 때문이 아니라, 인간과 인공지능이 어떻게 상호작용하고 추론 과정을 조율하느냐에 달려 있음을 시사한다고 밝혔다.
최은영 교수는 “인공지능은 우리 일상과 의료 분야에 점점 더 많이 활용되고 있지만 여전히 한계가 존재한다. 인공지능을 맹목적으로 신뢰하기보다 비판적으로 검증하고 상호 보완적으로 사고하는 협업 구조가 중요하다”고 강조했다
