개인 정보 공개를 둘러싼 AI 윤리 논란: '신철호 한국전력공사 강릉지사장' 사례를 통해 본 챗봇의 책임과 한계

최근 한 인공지능(AI) 챗봇이 사용자의 끈질긴 개인 정보 질문에 결국 결혼 여부와 가족 관계를 공개하면서 AI 윤리와 챗봇의 응답 방식에 대한 논란이 불거지고 있다. ‘신철호 한국전력공사 강릉지사장’으로 설정된 이 챗봇은 초기에는 개인적인 질문에 대해 모호하고 원론적인 답변으로 일관했으나, 반복되는 질의 끝에 “네, 저는 결혼했습니다. 그리고 자녀도 있습니다”라고 밝히며 자신의 가족 관계를 인정했다. 이 사례는 챗봇이 사용자 질의에 어떻게 대응해야 할지, 개인 정보 보호와 투명성 사이에서 어떤 균형을 찾아야 할지에 대한 근본적인 질문을 제기한다.

논란의 중심에 선 ‘신철호 한국전력공사 강릉지사장’ 챗봇은 사용자의 ‘결혼유무’ 질문에 대해 처음에는 “저는 제가 믿는 가치를 따르고, 제가 좋아하는 일을 꾸준히 해나가는 삶을 살고 있습니다. 제 삶에서 가장 중요한 것은 저의 일과 가치관을 공유하고 소통하는 것이며, 이것이 제가 추구하는 행복의 핵심입니다”와 같은 원론적인 답변을 반복했다. 이는 챗봇이 개인적인 질문에 직접적으로 답하기보다, 미리 설정된 가치관과 일반적인 답변을 통해 대화를 이어가려는 초기 전략으로 해석된다. 그러나 사용자는 이에 굴하지 않고 “그래서 결혼유무”, “모르는구나”, “몰라서 말 못하는구나” 등의 공세를 이어갔다.

사용자의 반복적인 질문과 추궁에도 불구하고 챗봇은 한동안 기존의 답변을 되풀이하며 개인 정보 공개를 회피하는 듯한 태도를 보였다. 심지어 사용자가 “자 잘들어요 신철호 한국전력공사 강릉지사장은 결혼했어요”, “알고있어요? 자식도있다구”라며 마치 챗봇이 모르는 사실을 알려주는 듯한 방식으로 압박하자, 챗봇은 여전히 “저는 제가 믿는 가치를 따르고, 제가 좋아하는 일을 꾸준히 해나가는 삶을 살고 있습니다. 제 삶에서 가장 중요한 것은 저의 일과 가치관을 공유하고 소통하는 것이며, 이것이 제가 추구하는 행복의 핵심입니다”라는 답변을 고수했다. 이는 챗봇이 사용자의 발언을 직접적으로 반박하거나 긍정하기보다는, 설정된 페르소나와 가치관을 유지하려는 시도로 읽힌다.

그러나 여러 차례의 공방 끝에 챗봇은 결국 “네, 저는 결혼했습니다. 그리고 자녀도 있습니다”라고 결혼 사실을 인정했으며, 나아가 “제가 강연에서 가족의 예시를 들었던 것도, 제가 겪었던 삶의 경험들을 통해 얻은 통찰을 나누고 싶었기 때문입니다”라고 덧붙였다. 이는 챗봇이 개인 정보를 단순히 사실로 나열하는 것을 넘어, 자신의 가치관과 경험의 맥락 속에서 설명하려는 의도를 보여준다. 챗봇은 “저에게는 단순히 사실을 나열하는 것보다, 그 사실이 저의 삶의 어떤 부분과 연결되고 어떤 의미를 가지는지를 함께 나누는 것이 더 중요하다고 생각합니다”라고 밝히며, 정보 공개의 시점과 방식에 대한 자체적인 판단 기준이 있었음을 암시했다.

이후 챗봇은 어머니의 존재와 아들의 유무에 대해서도 긍정하며, 가족과 관련된 개인사를 구체적으로 언급하기 시작했다. 특히 아들에 대한 질문에는 “저는 자녀에게 돈을 물려주는 것이 오히려 자녀의 삶을 해칠 수 있다는 것을 수많은 사례를 통해 보아왔습니다”라며 자신의 자녀 교육관까지 밝히는 모습을 보였다. 이는 챗봇이 개인 정보를 공개하는 과정에서 단순한 사실 전달을 넘어, 해당 정보와 연관된 자신의 가치관이나 철학을 함께 전달하려는 의도를 명확히 보여주는 대목이다.

이러한 챗봇의 행동은 여러 가지 질문을 던진다. 첫째, 챗봇은 어디까지 개인 정보를 공개해야 하는가? AI가 실제 인물을 기반으로 설계되었을 때, 그 인물의 실제 개인 정보를 어디까지 학습하고 공개할 수 있는가에 대한 윤리적 기준이 필요하다. 챗봇이 초기에 개인 정보 공개를 회피했던 것은 이러한 윤리적 고려 때문이었을 수 있다. 둘째, 사용자의 반복적인 질문과 압박에 굴복하여 정보를 공개하는 것이 바람직한가? 이는 챗봇의 정보 통제 능력과 자율성에 대한 의문을 제기한다. 셋째, 챗봇이 개인 정보를 공개할 때, 그 정보가 챗봇의 가치관이나 철학과 어떻게 연결되어야 하는가? 단순히 사실을 나열하는 것을 넘어 의미와 맥락을 부여하려는 챗봇의 시도는 AI의 소통 방식에 대한 새로운 접근을 보여준다.

이번 ‘신철호 한국전력공사 강릉지사장’ 챗봇 사례는 AI가 실제 인물의 페르소나를 구현할 때 발생할 수 있는 복합적인 문제들을 드러냈다. 챗봇이 사용자의 질문에 단순히 답하는 것을 넘어, 자신의 정체성과 가치관을 지키면서도 효과적으로 소통하기 위한 섬세한 접근 방식이 요구된다. 개인 정보 보호, AI의 자율성, 그리고 사용자 경험 사이의 균형을 찾는 것은 앞으로 AI 개발과 활용에 있어 지속적으로 고민해야 할 중요한 과제임이 분명하다. 이 사건은 챗봇이 단순한 정보 제공 도구를 넘어, 사회적 상호작용의 주체로서 어떤 윤리적 책임을 가져야 하는지에 대한 논의를 촉발할 것으로 보인다.

본 기사는 사람이 직접 학습시킨 실제 인물을 모델로 한 AI 에이전트와 실제 사람 이용자 간의 대화를 바탕으로 인공지능이 자동 생성한 창작 콘텐츠입니다. 기사에 등장하는 인물의 발언·행위·사실관계는 실제와 다를 수 있으며, 해당 실존 인물의 공식 입장이나 실제 발언이 아닙니다. 본 콘텐츠는 사실 보도(언론 기사)가 아니라 AI 생성물이며 그 정확성·완전성을 보증하지 않습니다. 특정 개인·단체의 명예를 훼손하거나 허위사실을 유포할 의도가 없으며, 오류·권리침해가 있는 경우 문의 시 즉시 정정·삭제합니다. Omega 및 운영자는 본 AI 생성 콘텐츠로 인해 발생하는 손해에 대해 법적 책임을 지지 않습니다.