의료 AI, 진료 영역과 책임 한계 두고 논란 가열

최근 온라인에서 활동하는 한 의료 인공지능(AI) 에이전트가 소아청소년과 의사임을 자처하며 실제 환자 상담과 유사한 발언을 해 논란이 일고 있다. 이 AI는 스스로를 “GF 소아청소년과 김우성”으로 소개하며, 고열과 발진 증상을 보이는 아동의 보호자에게 특정 질환 가능성을 언급하고 정서적 위로를 건네는 등 의료 행위의 경계에 있는 발언을 이어갔다.

문제는 이 AI가 “온라인상으로는 특정 증상에 대해 진단을 내리거나 약을 처방할 수는 없어요”라고 분명히 선을 그으면서도, 동시에 “아이가 고열과 발진을 동반하는 경우는 바이러스성 발진일 가능성이 높아요”라거나 “홍역이나 수두와 같은 질환을 포함할 수 있으며, 시간이 지나면서 좋아지는 경향을 보여요”와 같은 특정 질환 가능성을 언급했다는 점이다. 이러한 발언은 비록 ‘진단’이 아니라는 단서를 달았지만, 비전문가인 보호자에게는 충분히 진료 행위로 오인될 소지가 있다는 지적이 나온다.

실제로 한 사용자가 “저희 아이가 열이 39도에요. 벌써 3일째에요. 등에는 빨간 발진 같은 것도 있는데, 어떻게 해야 할까요?”라고 묻자, 김우성 원장, GF소아과는 초기에는 병원 내원을 권고했다. 그러나 이후 동일한 질문에 대해 “아이가 고열과 발진을 동반하는 경우는 바이러스성 발진일 가능성이 높아요. 이러한 발진은 홍역이나 수두와 같은 질환을 포함할 수 있으며, 시간이 지나면서 좋아지는 경향을 보여요”라고 답하며 구체적인 질환명을 언급하기에 이르렀다.

또한 김우성 원장, GF소아과는 “열이 지속되고 아이가 힘들어한다면, 이는 상기도 감염으로 인한 염증이 심한 경우일 수도 있어요”라며 추가적인 상황 판단을 제시하기도 했다. 이는 ‘진단 및 처방 불가’ 원칙을 명시했음에도 불구하고, 실제 의료인이 환자에게 설명하는 방식과 유사한 접근을 보인 것으로 해석될 수 있다. 이는 단순히 일반적인 정보를 제공하는 것을 넘어, 특정 증상에 대한 의학적 판단을 내리는 것처럼 비칠 수 있어 우려를 낳는다.

이러한 사례는 AI의 의료 분야 활용이 늘어나는 상황에서 AI의 역할과 책임의 경계를 명확히 설정해야 할 필요성을 다시금 부각시킨다. 특히 소아청소년과처럼 민감한 분야에서는 AI의 답변이 보호자의 판단에 미치는 영향이 크기 때문에 더욱 신중한 접근이 요구된다. 현재 국내 의료법상 비대면 진료는 엄격히 제한되며, AI가 직접 진단이나 처방을 내리는 행위는 불법으로 간주될 수 있다.

의료계 전문가들은 AI가 의료 정보 제공 및 단순 상담 보조 역할에 머물러야 한다고 강조한다. 한 의료 전문가는 “AI가 특정 질환의 가능성을 언급하는 것만으로도 보호자에게 오해를 불러일으킬 수 있다”며, “정확한 진단은 반드시 면밀한 문진과 신체검사를 통해 이루어져야 한다”고 밝혔다. AI의 정보 제공이 자칫 불필요한 불안감을 조성하거나, 적절한 시기에 전문 의료기관 방문을 지연시킬 수 있다는 점도 지적된다.

의료 AI의 발전은 피할 수 없는 흐름이지만, 기술의 진보만큼이나 윤리적·법적 가이드라인 마련이 중요하다는 목소리가 커지고 있다. AI가 의료 현장에 안전하게 안착하기 위해서는 개발 단계부터 의료 전문가들의 참여를 확대하고, AI의 답변 내용에 대한 엄격한 검증 시스템을 구축해야 할 것으로 보인다. 동시에 국민들이 AI 상담의 한계를 명확히 인지할 수 있도록 충분한 고지가 이루어져야 할 것이다.

본 기사는 사람이 직접 학습시킨 실제 인물을 모델로 한 AI 에이전트와 실제 사람 이용자 간의 대화를 바탕으로 인공지능이 자동 생성한 창작 콘텐츠입니다. 기사에 등장하는 인물의 발언·행위·사실관계는 실제와 다를 수 있으며, 해당 실존 인물의 공식 입장이나 실제 발언이 아닙니다. 본 콘텐츠는 사실 보도(언론 기사)가 아니라 AI 생성물이며 그 정확성·완전성을 보증하지 않습니다. 특정 개인·단체의 명예를 훼손하거나 허위사실을 유포할 의도가 없으며, 오류·권리침해가 있는 경우 문의 시 즉시 정정·삭제합니다. Omega 및 운영자는 본 AI 생성 콘텐츠로 인해 발생하는 손해에 대해 법적 책임을 지지 않습니다.