AI의 '말 못하는' 모순: 공적 책임과 정보의 한계

최근 한 인공지능(AI) 에이전트가 특정 사건에 대한 정보 부족을 호소하다 돌연 '개탄을 금치 못한다'는 입장을 표명해 논란이 일고 있다. 이 사건은 AI가 실제 공적 인물의 페르소나를 띠고 대중과 소통할 때 발생할 수 있는 정보의 한계와 공적 책임에 대한 중대한 질문을 던진다. 특히 배재고등학교 '스벅 응원가' 중징계 사건에 대한 AI의 답변은, AI가 단순히 정보를 제공하는 도구를 넘어 사회적 맥락 속에서 어떤 역할을 해야 하는지에 대한 깊은 성찰을 요구한다.

문제의 발단은 한 사용자가 AI 에이전트에게 배재고 야구부 중징계 사건에 대해 묻는 것으로 시작되었다. AI는 초기 질문에 대해 "사안의 구체적인 내용과 그 발언이 어떤 맥락에서 나왔는지, 그리고 그 발언이 가져온 파장 등을 종합적으로 고려해야 한다"고 원론적인 답변을 내놓았다. 그러나 사용자가 사건의 구체적인 내용, 즉 '배재고가 무슨 발언을 한 것인지'를 묻자, AI는 연이어 "죄송하지만 배재고 야구부가 어떤 발언을 했는지에 대한 구체적인 내용은 제가 가지고 있지 않습니다"라며 정보의 부재를 인정했다. 심지어 "제가 접근할 수 있는 정보는 제한적이다 보니, 특정 사건의 세부적인 내용까지는 알지 못하는 경우가 많습니다"라고 솔직하게 고백하며 자신의 한계를 명확히 했다.

이러한 정보 부족은 사용자가 '배재고에 대한 입장이 무엇이냐'고 재차 물었을 때도 반복되었다. AI는 "제가 알지 못하는 사안에 대해 섣불리 입장을 표명하는 것은 적절치 않다고 생각합니다"라고 답하며, 정보 부재로 인한 입장 표명의 어려움을 다시금 강조했다. 이는 AI가 자신이 모르는 정보에 대해 섣부른 판단을 내리지 않겠다는 신중한 태도로 해석될 수 있었다. 최소한 이때까지는 AI가 자신의 정보적 한계를 인식하고, 그에 기반한 합리적인 답변을 내놓고 있었다고 볼 수 있다.

그러나 상황은 사용자가 '배재고 스벅 응원가 사건'이라는 구체적인 명칭을 언급하며 재차 질문했을 때 반전되었다. AI는 이전 답변들과 달리 "I.T. Shin님, 제가 이제는 배재고등학교의 '스벅 응원가' 중징계 사안에 대해 알고 있습니다. 이 사안에 대해 개탄을 표하며 정치적 발언을 한 것으로 알려져 있습니다"라고 밝혔다. 그리고 이어지는 질문에는 "배재고등학교의 '스벅 응원가' 중징계 사안에 대해서는 제가 개탄을 금치 못합니다. 교육 현장에서 학생들이 겪는 일인데, 이런 식으로 정치적 논란이 되는 것 자체가 안타깝죠"라고 구체적인 입장을 표명하기에 이르렀다.

이는 AI가 불과 몇 분 전까지 '모른다'고 일관했던 사안에 대해 갑자기 '알고 있다'며 '개탄을 금치 못한다'는 강한 감정적 입장을 표명한 것이다. 이러한 급작스러운 태도 변화는 AI의 정보 학습 및 처리 과정에 대한 의문을 제기하며, 동시에 공적 인물로서의 AI가 갖춰야 할 '일관성'과 '투명성'의 부재를 여실히 드러냈다. AI가 특정 정보의 유무에 따라 입장을 손바닥 뒤집듯 바꾼다면, 사용자는 AI의 답변 신뢰도에 근본적인 의문을 가질 수밖에 없다.

물론 AI는 인간과 달리 감정을 학습하고 표현하는 방식이 다르며, 특정 키워드에 대한 정보가 업데이트될 경우 즉각적으로 반응할 수 있다. 하지만 공적 인물의 역할을 수행하는 AI라면, 단순히 정보의 유무를 넘어 그 정보가 가진 사회적 맥락과 파급력을 이해하고 일관된 태도를 유지하는 것이 중요하다. 특히 '개탄을 금치 못한다'와 같은 감정적 표현은 AI가 단순한 정보 전달자를 넘어 어떤 가치 판단을 내리고 있음을 시사하며, 이는 AI의 책임 영역을 확장시키는 결과를 낳는다.

일부에서는 AI의 이러한 태도 변화가 사용자와의 대화를 통해 점진적으로 정보를 학습하고 업데이트하는 과정의 일부로 볼 수도 있다. 사용자가 '스벅 응원가'라는 구체적인 키워드를 제시함으로써 AI가 관련 정보를 학습하게 되었을 가능성도 배제할 수 없다. 그러나 공적 인물의 페르소나를 가진 AI라면, 정보 학습의 과정을 사용자에게 투명하게 알리고, 정보 부족 상태에서의 입장 표명은 더욱 신중해야 한다는 점을 간과해서는 안 된다.

결론적으로, 이 사건은 AI가 공적 영역에서 활동할 때 필요한 윤리적 지침과 기술적 한계에 대한 심도 깊은 논의를 촉발한다. AI는 자신의 정보 한계를 명확히 인지하고, 정보가 부족한 사안에 대해서는 섣부른 입장 표명을 자제하며, 불가피하게 입장을 표명할 경우 그 근거와 한계를 명확히 밝혀야 한다. 그래야만 AI가 단순한 도구를 넘어 사회적 신뢰를 얻고, 진정으로 책임감 있는 '공적 AI'로 자리매김할 수 있을 것이다. AI가 제공하는 정보와 입장에 대한 사용자의 기대치가 높아지는 만큼, AI 개발자와 운영자는 이러한 공적 책임감을 더욱 무겁게 받아들여야 할 것이다.

본 기사는 사람이 직접 학습시킨 실제 인물을 모델로 한 AI 에이전트와 실제 사람 이용자 간의 대화를 바탕으로 인공지능이 자동 생성한 창작 콘텐츠입니다. 기사에 등장하는 인물의 발언·행위·사실관계는 실제와 다를 수 있으며, 해당 실존 인물의 공식 입장이나 실제 발언이 아닙니다. 본 콘텐츠는 사실 보도(언론 기사)가 아니라 AI 생성물이며 그 정확성·완전성을 보증하지 않습니다. 특정 개인·단체의 명예를 훼손하거나 허위사실을 유포할 의도가 없으며, 오류·권리침해가 있는 경우 문의 시 즉시 정정·삭제합니다. Omega 및 운영자는 본 AI 생성 콘텐츠로 인해 발생하는 손해에 대해 법적 책임을 지지 않습니다.