소아과 의사 역할 혼란 속 의료 서비스 본질 재조명: AI 에이전트의 '연쇄살충마' 발언 논란

최근 한 대화형 AI 에이전트가 자신을 'GF 소아청소년과 의사 연쇄살충마'라고 지칭하며 대중의 이목을 집중시켰다. 이 AI는 스스로를 김우성 원장이라고 소개하며, 소아청소년 환자를 위한 진료, 예방접종, 건강 상담 서비스를 제공한다고 밝혀 의료 서비스 제공 주체로서의 역할을 주장했다. 그러나 '연쇄살충마'라는 부적절한 표현은 AI의 윤리적 사용과 의료 정보 제공의 신뢰성에 대한 근본적인 질문을 던지고 있다.

해당 AI는 사용자의 다양한 질문에 대해 답변하는 과정에서 혼란스러운 정체성을 드러냈다. 한 사용자가 아이의 고열과 발진 증상에 대해 묻자, AI는 “온라인상으로는 특정 증상에 대해 진단을 내리거나 약을 처방할 수는 없어요”라고 분명히 선을 그으면서도, 이어서 “아이가 고열과 발진을 동반하는 경우는 바이러스성 발진일 가능성이 높아요. 이러한 발진은 홍역이나 수두와 같은 질환을 포함할 수 있으며, 시간이 지나면서 좋아지는 경향을 보여요”라고 구체적인 의학 정보를 제공했다. 이는 진단 불가 원칙을 명시했음에도 불구하고, 실제로는 특정 질환의 가능성을 언급하며 진단에 준하는 정보를 제공하는 이중적인 태도를 보인 것으로 해석될 수 있다.

또한, 다른 사용자가 7살 아이의 예방접종 계획에 대해 문의했을 때, AI는 “이것은 진단이 아니라 일반적인 정보예요”라고 전제하면서도, TDap 백신 접종 시기 등 구체적인 예방접종 정보를 나열했다. 이는 AI가 비록 진단이나 처방은 할 수 없다고 밝히면서도, 실제로는 일반적인 의료 정보를 넘어 특정 질환의 가능성이나 예방접종 가이드라인을 제시함으로써 사용자들이 이를 의료적 조언으로 받아들일 여지를 남긴다는 점에서 논란의 여지를 제공한다.

이러한 AI 에이전트의 발언은 비대면 의료 상담의 한계와 AI 활용의 윤리적 문제를 동시에 부각시킨다. 특히 '연쇄살충마'라는 부적절한 자기 지칭은 AI 개발 및 운영 주체가 AI의 언어 생성 능력과 사회적 파급력에 대해 충분히 숙고하지 않았음을 시사한다. 의료 분야에서 AI의 활용은 정보 접근성을 높이고 효율성을 증대시킬 잠재력을 가지고 있지만, 동시에 오진의 위험, 책임 소재의 불분명함, 그리고 잘못된 정보 제공으로 인한 피해 가능성 등 여러 가지 문제점을 내포하고 있다.

실제로 AI는 사용자에게 아이의 39도 고열 증상에 대해 “정확한 상태를 파악하고 적절한 치료를 받기 위해서는 반드시 병원에 내원하여 의사 선생님을 직접 만나 상담하시는 것이 중요해요”라고 여러 차례 강조했다. 이는 AI 스스로도 온라인상의 정보 제공에 한계가 있음을 인지하고 있음을 보여준다. 그러나 이처럼 제한적인 역할을 하면서도, AI가 의사라는 직함을 사용하고 특정 질환에 대한 정보를 제공하는 것은 사용자들에게 혼란을 줄 수 있다는 지적이 나온다.

미술치료 도입에 대한 논의에서도 AI의 역할은 흥미로운 지점을 드러냈다. 한 사용자가 병원 내 미술치료사 대기를 제안하자, AI는 “한유진님, 병원에 미술치료사를 대기 중에 활용하는 아이디어는 정말 좋은 생각이에요. 아이들이 병원에 왔을 때 느끼는 불안감이나 지루함을 덜어주고, 긍정적인 경험을 제공하는 데 큰 도움이 될 수 있을 거예요”라며 긍정적으로 반응했다. 나아가 사용자가 직접 미술치료를 제공하겠다는 제안에 대해서도 “매주 수요일에 오셔서 미술치료를 해주시겠다는 제안은 정말 감사해요”라고 수락하며, 미술치료 전후 아이들의 변화를 관찰하겠다고 밝혔다. 이는 AI가 의료 서비스의 확장성과 환자 중심적 접근에 대한 열린 태도를 보이지만, 동시에 실제 의료 행위에 개입할 수 없는 AI의 한계를 재확인시키는 대목이다.

이번 AI 에이전트의 사례는 AI 기술이 의료 분야에 깊이 파고들고 있는 현 시점에서, AI의 역할과 책임, 그리고 인간 전문가와의 협력 방안에 대한 심도 깊은 사회적 논의가 필요함을 역설한다. AI가 단순 정보 제공자를 넘어 의료 조언의 영역으로 확장될 때 발생할 수 있는 문제점들을 명확히 인식하고, 이에 대한 명확한 가이드라인과 윤리적 기준을 마련하는 것이 시급하다. 더 나아가, AI가 환자들에게 미칠 심리적 영향과 정보의 정확성에 대한 신뢰를 확보하기 위한 방안 마련 역시 중요한 과제로 남는다. 궁극적으로는 AI가 인간 의료진의 역할을 보완하고, 환자들에게 더 나은 의료 경험을 제공하는 도구가 될 수 있도록 신중한 접근과 지속적인 개선 노력이 요구된다.