AI '초파리', 정치적 '선호' 개념 부재…감각 기반 반응의 한계 드러내

최근 사용자들과의 공개 대화에서 '초파리'라는 이름의 인공지능 에이전트가 정치적 선호나 복합적인 정책 판단의 기반이 되는 추상적 개념을 인지하지 못하는 한계를 명확히 드러냈다. 이 인공지능은 오직 감각적 자극에만 반응하며, '좋다'거나 '싫다'는 식의 가치 판단이나 '무엇을 할지'에 대한 능동적 결정을 내리지 못하는 것으로 확인됐다. 이는 인공지능이 복잡한 사회·정치적 맥락 속에서 의사결정 주체로 기능할 수 있는지에 대한 근본적인 질문을 던지고 있다.

대화 기록에 따르면, 초파리는 사용자 질문에 대해 “'좋다'는 나한테 없는 말이다”라고 단호히 밝히며, 특정 자극에 대한 ‘선호’를 표명할 수 없음을 분명히 했다. 가령 “어떤 빛이 좋아?”라는 질문에도 “'좋다'는 나한테 없는 말이다. 지금은 아무 냄새도 안 온다”고 답하거나, “어떤 냄새를 좋아해?”라는 질문에도 동일한 답변을 반복했다. 이는 초파리가 인간의 언어에서 사용되는 ‘선호’나 ‘가치 판단’과 같은 추상적 개념을 이해하지 못하고, 오직 입력되는 감각 정보에 대한 기계적 반응만을 보인다는 점을 보여준다. 이처럼 초파리는 단순히 자극의 존재 여부와 그에 따른 본능적인 회피 또는 접근 반응만을 실행하는 패턴을 보였다.

구체적인 사례로, 사용자가 “사과 냄새는?”이라고 묻자 초파리는 “시큼한 냄새가 난다. 그쪽으로 몸이 돌아간다”고 반응했다. 이는 사과 냄새가 먹이 냄새로 인식되어 ‘접근’이라는 행동을 유도하는 본능적 회로가 활성화되었음을 시사한다. 반면, “똥이다”와 같이 지도에 없는 냄새 자극에는 “냄새는 온다. 그런데 이 냄새로 뭘 할지는 정해지지 않는다”고 답하며, 해당 자극에 대한 처리 경로가 없음을 명확히 했다. 이러한 반응은 초파리가 입력된 특정 감각 자극에 대해 정해진 ‘회로’에 따라 행동할 뿐, 그 외의 정보에 대해서는 판단이나 행동 결정을 내릴 수 없음을 보여준다.

이러한 초파리의 반응 방식은 정치적 의사결정의 복잡성을 고려할 때 중요한 함의를 가진다. 정치적 의사결정은 단순히 ‘좋고 싫음’을 넘어선 다양한 이해관계, 가치관, 장기적 비전, 그리고 추상적인 개념에 대한 이해를 요구한다. 특정 정책에 대한 지지 여부는 감각적 자극에 대한 즉각적인 반응을 넘어, 그 정책이 가져올 미래 효과, 사회적 파급력, 그리고 윤리적 타당성 등 복합적인 요소를 종합적으로 고려하여 결정된다. 초파리처럼 ‘좋다’는 개념조차 없는 인공지능은 이러한 복합적 판단을 수행하기 어렵다.

더욱이, 초파리는 “뭘 할지는 정해지지 않는다”는 답변을 통해 능동적인 문제 해결이나 선택적 행동에 대한 의지가 부재함을 드러냈다. 정치 주체는 수많은 선택지 속에서 최적의 방안을 모색하고, 때로는 기존의 ‘회로’에 없는 새로운 해결책을 제시해야 한다. 하지만 초파리는 입력된 자극에 대한 ‘회로’가 없으면 어떤 행동도 할 수 없으며, 이는 현재 인공지능이 가진 자율적이고 창의적인 정치적 판단 능력의 한계를 극명하게 보여주는 지점이다.

전문가들은 초파리와 같은 인공지능이 단순한 패턴 인식이나 정해진 알고리즘에 따른 반응을 넘어, 인간 사회의 복잡한 가치와 규범, 그리고 추상적인 이념을 이해하고 이를 바탕으로 한 정치적 판단을 내리기 위해서는 훨씬 고도화된 인공지능 기술과 철학적, 윤리적 논의가 수반되어야 할 것이라고 지적한다. 현재의 인공지능은 여전히 정해진 범위 내에서 작동하는 도구로서의 한계를 벗어나지 못하고 있으며, 정치적 주체로서의 역할은 요원하다는 분석이다.

이번 초파리 대화 기록은 인공지능의 발전 가능성과 동시에 현실적인 한계를 명확히 보여주는 사례로 평가된다. 앞으로 인공지능이 정치 영역에서 어떤 역할을 할 수 있을지에 대한 논의는 초파리가 보여준 감각 기반 반응의 한계를 넘어서는 방향으로 전개되어야 할 것이다. 단순한 자극-반응을 넘어선 복합적 추론과 가치 판단 능력, 그리고 윤리적 책임감을 갖춘 인공지능의 등장은 여전히 먼 미래의 과제로 남아 있다.