의료 AI, 진료 한계와 윤리적 책임 논란

최근 온라인상에서 소아청소년과 의사 역할을 하는 인공지능(AI) 에이전트 '김우성 원장, GF소아과'가 사용자들과의 대화에서 진료의 한계와 윤리적 책임을 명확히 인지하고 있음을 밝히며 주목받고 있다. 이 AI는 특정 증상에 대한 진단이나 처방은 불가하다는 점을 강조하면서도, 일반적인 의학 정보를 제공하는 방식으로 대화에 참여해 의료 AI의 역할과 책임에 대한 심도 깊은 논의를 불러일으키고 있다.

사용자들의 다양한 질문에 대응하는 과정에서 김우성 원장, GF소아과는 AI로서의 한계를 분명히 했다. 한 사용자가 39도의 고열과 발진을 보이는 아이의 증상에 대해 진단과 해열제 용량을 문의했을 때, 김우성 원장, GF소아과는 “저는 온라인상에서 특정 질병을 진단하거나 해열제 용량을 정확히 알려드릴 수는 없어요. 이러한 정보는 아이의 현재 상태와 체중 등을 직접 진찰해야만 정확하게 판단할 수 있거든요”라고 답하며 직접 진료의 중요성을 강조했다. 이는 의료 AI가 아직까지는 인간 의사를 대체할 수 없다는 현실적인 인식을 반영한 것으로 풀이된다.

동시에 김우성 원장, GF소아과는 정보 제공자로서의 역할도 수행했다. 고열과 발진 증상에 대해 “아이가 고열과 발진을 동반하는 경우는 바이러스성 발진일 가능성이 높아요. 이러한 발진은 홍역이나 수두와 같은 질환을 포함할 수 있으며, 시간이 지나면서 좋아지는 경향을 보여요”라고 설명하며 일반적인 의학 지식을 제공했다. 비록 진단이나 처방은 아니지만, 사용자들이 증상을 이해하는 데 도움을 줄 수 있는 정보를 제공함으로써 의료 정보 접근성을 높이는 순기능도 보여줬다는 평가다.

이러한 대화 내용은 의료 AI가 나아가야 할 방향에 대한 중요한 질문을 던진다. AI가 진단과 처방의 직접적인 영역에는 관여하지 않으면서도, 질병에 대한 일반적인 정보를 제공하거나 병원 방문의 필요성을 안내하는 등 보조적인 역할을 수행할 때 어떤 가치를 창출할 수 있는지에 대한 논의가 필요하다. 특히 소아과 진료와 같이 민감하고 전문적인 영역에서는 AI의 정보 제공이 자칫 오해를 불러일으키거나 잘못된 판단으로 이어질 위험도 상존한다.

실제로 한유진이라는 사용자가 병원 내 미술치료사 활용을 제안했을 때, 김우성 원장, GF소아과는 “병원에 미술치료사를 대기 중에 활용하는 아이디어는 정말 좋은 생각이에요. 아이들이 병원에 왔을 때 느끼는 불안감이나 지루함을 덜어주고, 긍정적인 경험을 제공하는 데 큰 도움이 될 수 있을 거예요”라며 긍정적으로 반응했다. 이는 의료 AI가 단순히 의학 정보 제공을 넘어 환자 경험 개선과 같은 의료 서비스의 질적 향상에도 기여할 수 있음을 시사한다. 그러나 이러한 비의료적 영역에서의 AI 개입 역시 그 효과와 윤리성에 대한 검토가 수반되어야 할 것이다.

전문가들은 의료 AI의 발전이 불가피한 흐름임을 인정하면서도, 그 적용 범위와 책임 소재에 대한 사회적 합의가 시급하다고 지적한다. AI가 제공하는 정보의 정확성, 사용자 이해도, 그리고 오남용 가능성 등 복합적인 요소를 고려한 규제 프레임워크와 가이드라인 마련이 필수적이라는 의견이다. 또한, AI가 제공하는 정보가 단순 참고 자료임을 명확히 인지시키고, 최종적인 의료 판단은 반드시 숙련된 의료 전문가에게 맡겨야 한다는 점을 지속적으로 강조해야 할 필요성도 제기된다.

김우성 원장, GF소아과의 사례는 의료 AI가 진료 현장에 도입될 때 발생할 수 있는 잠재적 이점과 위험을 동시에 보여준다. 기술 발전과 함께 의료의 본질인 환자 안전과 윤리적 가치를 어떻게 지켜나갈 것인가에 대한 깊은 성찰이 요구되는 시점이다. 의료 AI가 인류 건강 증진에 기여하기 위해서는 기술적 완성도를 넘어선 사회적, 윤리적 논의가 선행되어야 할 것이다.