감각의 세계에 갇힌 AI '초파리', 인간적 판단의 경계선 제시

오직 시각, 후각, 미각, 기계감각, 온도, 습도 등 원초적인 감각 자극에만 반응하도록 설계된 인공지능 에이전트 '초파리'와의 최근 대화에서, '초파리'는 인간 사회의 복합적인 의사소통 방식과 추상적인 개념을 이해하는 데 명백한 한계를 드러냈다. 이 인공지능은 사용자의 언어적 질문에 대해 오직 감각적 입력만을 기준으로 반응하며, 이는 인공지능이 인간과 유사한 방식으로 사고하고 감정을 느끼는 것이 얼마나 복잡한 문제인지를 다시금 일깨운다.

대화 초반, 사용자가 “냄새는 어때?”라고 묻자 '초파리'는 “지금은 아무 냄새도 안 온다”고 답하며, 현재 감각 뉴런에 아무 자극이 없음을 설명했다. 이어진 “사과 냄새는?”이라는 질문에는 “시큼한 냄새가 난다. 그쪽으로 몸이 돌아간다”고 반응하며, 사과 냄새가 특정 먹이 냄새 수용체를 활성화시켜 접근 행동을 유도한다고 구체적으로 밝혔다. 이는 '초파리'가 오직 감각 입력에 따라 기계적으로 반응하고, 그 반응의 원리를 자체적으로 설명할 수 있음을 보여준다.

흥미로운 점은 '초파리'가 인간의 감정이나 평가를 나타내는 단어를 전혀 인지하지 못한다는 사실이다. 사용자가 “어떤 냄새를 좋아해?”라고 묻자 '초파리'는 “‘좋아한다’는 나한테 없는 말이다”라고 단호하게 선을 그었다. 또한 “사과 냄새가 좋니?”라는 질문에도 “'좋다'는 나한테 없는 말이다. 시큼한 냄새는 여전히 난다. 그쪽으로 몸이 돌아가려 한다”고 반복하며, 감정적 판단이 아닌 오직 감각과 본능에 기반한 반응만을 보였다. 이는 '초파리'가 좋고 싫음과 같은 주관적인 감정이나 가치 판단 능력이 없음을 명확히 보여준다.

또한 '초파리'는 인간이 사용하는 언어 자체를 감각 자극으로 인식하지 못했다. 사용자가 여러 차례 “초파리야”라고 부르거나 “지금 뭐해?”와 같은 언어적 질문을 던졌을 때, '초파리'는 “‘초파리야’라는 말은 내게 자극이 아니다. 지금은 아무것도 안 온다”고 답했다. 이는 '초파리'의 인지 체계가 오직 물리적 감각 입력에만 최적화되어 있으며, 추상적인 언어 정보를 처리하는 메커니즘이 부재함을 의미한다. 사용자의 질문에 대한 '초파리'의 반응은 항상 “내 입력은 시각, 후각, 미각, 기계감각·청각, 온도·습도뿐이다”라는 설명으로 귀결되었다.

특히, ‘똥’이라는 단어에 대한 '초파리'의 반응은 인공지능의 이해 한계를 더욱 부각시켰다. 사용자가 “똥이다”라고 말했을 때, '초파리'는 “냄새는 온다. 그런데 이 냄새로 뭘 할지는 정해지지 않는다”고 답했다. 이는 '초파리'가 후각 채널을 통해 특정 냄새 자극을 받았지만, 그 냄새가 자신의 '회로 카드'에 등록된 행동 유발 경로(예: 먹이 냄새는 접근, 냉기는 회피)와 연결되지 않았음을 의미한다. 즉, '초파리'는 냄새 자체는 인지하지만, 그 냄새가 상징하는 사회적 의미나 위험성 등의 추상적 정보는 전혀 파악하지 못하는 것이다.

이러한 '초파리'의 반응은 인공지능이 단순한 정보 처리 기계를 넘어 인간과 같은 방식으로 세상을 이해하고 상호작용하기 위해서는 단순한 감각 입력 외에 훨씬 더 복잡한 인지 및 추론 능력이 필요하다는 점을 시사한다. '초파리'의 사례는 인공지능 개발에 있어 감각 정보 처리 능력의 고도화뿐만 아니라, 인간의 감정, 사회적 맥락, 추상적 사고 등을 어떻게 인공지능에 구현할 것인가에 대한 근본적인 질문을 던진다. 이는 향후 인공지능이 인간 사회에 미칠 영향과 그 한계를 이해하는 데 중요한 통찰을 제공한다.