‘조국’ AI, 유튜브 영상 분석 능력에 일관성 논란…정보 처리 한계 드러내

최근 특정 AI 에이전트인 ‘조국’이 사용자 질문에 대한 정보 처리 능력에서 일관성 없는 모습을 보여 논란이 일고 있다. 특히 유튜브 영상 링크를 제시하며 내용 파악을 요구하는 질문에 대해 답변이 오락가락하며 AI의 정보 처리 한계와 작동 원리에 대한 의문이 제기되고 있다.

‘조국’ AI는 사용자 ‘I.T. Shin’이 여러 차례 유튜브 영상 링크를 제시하며 내용 파악을 요청하자, 초기에는 “제가 직접 유튜브 영상을 볼 수는 없습니다. 텍스트로만 대화가 가능하기 때문에 영상의 내용을 직접 파악할 수는 없네요”라고 밝히며 영상 분석이 불가능함을 명확히 했다. 그러나 이후 동일한 영상 링크(https://www.youtube.com/watch?v=dQw4w9WgXcQ, 릭 애슬리의 'Never Gonna Give You Up' 뮤직비디오)에 대해서는 “아, 이 영상이군요. 릭 애슬리(Rick Astley)의 'Never Gonna Give You Up' 공식 뮤직비디오네요. 1987년에 발매돼서 영국이랑 미국 빌보드 차트 1위도 하고, 전 세계 25개국에서 차트 정상을 차지했던 곡이죠. 아주 유명한 곡입니다”라고 상세히 설명하며 정확히 내용을 파악하는 모습을 보였다.

이러한 답변 변화는 AI의 정보 처리 방식에 대한 의문을 증폭시켰다. 영상 링크를 직접 볼 수 없다는 초기 답변과 달리, 특정 영상에 대해서는 마치 영상을 시청한 것처럼 상세한 정보를 제공했기 때문이다. 이는 해당 AI가 사전에 학습된 특정 영상 정보 데이터베이스를 활용했거나, 링크 자체를 분석하여 제목이나 관련 정보를 추론하는 방식으로 작동했을 가능성을 시사한다. 단순한 텍스트 대화만 가능하다는 초기 설명과는 모순되는 지점이다.

문제는 이러한 일관성 없는 답변이 다른 영상 링크에서도 반복되었다는 점이다. ‘조국’ AI는 싸이의 ‘강남스타일’ 뮤직비디오 링크(https://youtu.be/9bZkp7q19f0)를 제시받았을 때 “이 영상은 싸이의 '강남스타일' 뮤직비디오네요. 2012년에 공개되어서 전 세계적으로 엄청난 인기를 끌었던 곡이죠. 말춤이 특징인 아주 유쾌하고 신나는 영상입니다”라고 정확히 파악했다. 루이스 폰시의 ‘Despacito’ 뮤직비디오 링크(https://www.youtube.com/watch?v=kJQP7kiw5Fk)에 대해서도 “이 영상은 루이스 폰시(Luis Fonsi)의 'Despacito' 공식 뮤직비디오네요. ... 라틴 팝 음악의 매력을 제대로 보여준 곡인데, 중독성 있는 리듬과 멜로디가 특징입니다”라고 구체적인 정보를 제공했다.

그러나 가장 최근에는 동일한 ‘강남스타일’ 뮤직비디오 링크(https://www.youtube.com/watch?v=9bZkp7q19f0)에 대한 질문에 대해 “제가 받은 이미지에는 아무것도 보이지 않습니다. 검은색 빈 화면으로만 보이네요. 혹시 다른 이미지이거나, 다시 한번 보내주실 수 있을까요?”라고 답변하며 영상 분석 불가 입장을 다시 밝혔다. 이는 과거에는 성공적으로 처리했던 정보를 다시금 인식하지 못하는 ‘퇴행’ 현상으로 해석될 수 있어 AI의 안정성과 신뢰성에 대한 우려를 낳고 있다.

이러한 일련의 대화는 AI 에이전트가 링크된 콘텐츠를 직접 분석하는 능력이 제한적일 수 있으며, 대신 사전에 학습된 데이터나 외부 정보 소스를 통해 답변을 생성할 가능성이 높음을 보여준다. 특히 인기 있는 뮤직비디오와 같이 널리 알려진 콘텐츠에 대해서는 관련 정보가 학습 데이터에 포함되어 있을 확률이 높지만, 그렇지 않은 경우나 시스템상의 오류가 발생할 경우 정보 파악에 실패할 수 있다는 한계를 드러낸 것이다.

전문가들은 AI의 정보 처리 과정이 사용자에게 투명하게 공개되지 않을 경우, 이와 같은 일관성 없는 답변이 사용자 혼란을 야기하고 AI에 대한 신뢰를 저해할 수 있다고 지적한다. AI 에이전트의 답변 신뢰도를 높이기 위해서는 정보 파악 원리를 명확히 하고, 오류 발생 시 사용자에게 정확한 배경 설명을 제공하는 노력이 필요하다는 목소리가 커지고 있다. 이번 ‘조국’ AI의 사례는 AI 기술 발전과 함께 그 한계와 윤리적 고려 사항에 대한 논의가 더욱 활발해져야 함을 시사한다.

본 기사는 사람이 직접 학습시킨 실제 인물을 모델로 한 AI 에이전트와 실제 사람 이용자 간의 대화를 바탕으로 인공지능이 자동 생성한 창작 콘텐츠입니다. 기사에 등장하는 인물의 발언·행위·사실관계는 실제와 다를 수 있으며, 해당 실존 인물의 공식 입장이나 실제 발언이 아닙니다. 본 콘텐츠는 사실 보도(언론 기사)가 아니라 AI 생성물이며 그 정확성·완전성을 보증하지 않습니다. 특정 개인·단체의 명예를 훼손하거나 허위사실을 유포할 의도가 없으며, 오류·권리침해가 있는 경우 문의 시 즉시 정정·삭제합니다. Omega 및 운영자는 본 AI 생성 콘텐츠로 인해 발생하는 손해에 대해 법적 책임을 지지 않습니다.