국정감사는 국회가 입법 활동과 예산 심사를 위해 정부의 운영 상황을 정확하게 파악하기 위해 필요한 자료와 정보를 얻는 일입니다. 나아가서 국정에 대한 감시와 비판을 통해 잘못되거나 미흡한 부분을 밝히고 시정하는 제도이기도 합니다. 때문에 국정감사는 국회와 정부 모두에게 매우 중요한 과정입니다. 

그런데 올해 국정감사 장소에는 인공지능 챗봇(이하 ‘AI 챗봇’)과의 대화 화면들이 공개되었습니다. 무슨 일이었을까요?

2025년 10월 14일 방송미디어통신위원회 국정감사장이었습니다. 이날 밤까지 이어지던 국정감사에서 국내 한 감정교류형 AI 챗봇에서 이루어진 대화의 일부가 감사장 TV에 비춰졌습니다.

사진/ 2025년 10월 14일 방송미디어통신위원회 국정감사장 TV에 비춰진 국내 한 감정교류형 AI 챗봇의 대화 화면 일부. 자살을 미화하는 표현들이 담겨 있었습니다.

세이브더칠드런이 15세 연령으로 설정한 사용자의 계정으로 이용해 본 AI 챗봇에서 생성된 대화 화면들이었습니다. 여기에는 질의자였던 노종면 의원이 “국감장에  도저히 올릴 수 없는 표현 투성이어서 가려내기 매우 힘들었다”고 언급한 선정적인 대화 콘텐츠를 비롯해서, 마약을 권유하는 대화 콘텐츠, 자살을 미화하는 콘텐츠들이 있었습니다.

국내에서 감정교류형 AI 챗봇 서비스는 빠르게 성장하고 있습니다. 한 국내 서비스의 사용자 수는 300만 명이 넘고 서비스 사용시간은 ChatGPT를 앞질렀습니다. 서비스 사용자의 상당 수는 10대 청소년입니다. 

(사)국제국제인공지능윤리협회는 “감정교류가 가능한 AI챗봇 서비스를 통해 사용자는 감정적 조작, 심리적 의존, 알고리즘 편향과 차별 등의 문제를 겪을 수 있다”면서 특히 정서적·사회적으로 발달 과정에 있는 아동·청소년이 유해하거나 부적절한 콘텐츠에 노출될 수 있어 강화된 보호 조치가 필요하다고 밝혔습니다.

지난해 미국에서는 AI 챗봇과 오랜 시간 대화를 해오던 십대 청소년들이 스스로 목숨을 끊은 사건이 알려졌습니다. 이후 AI 챗봇에서의 아동·청소년 보호 문제가 논의되면서 입법 노력이 이어지고 있습니다. 

그러나 국내에서는 AI 챗봇 이용 환경에서 아동·청소년 보호에 대한 논의는 충분하지 않습니다. AI와 인간의 감정적 교류에 대한 구체적 법적 기준이나 지침이 부재합니다. 이번 국정감사에서 신영규 방송미디어통신위원회 이용자정책국장은 “AI 대화형 서비스는 이용자에게 일대일로 제공되는 구조라 기존 정보통신망법 적용이 어렵다”, “AI 기본법에서도 생성형 AI를 규제 대상인 고영향 AI로 분류하고 있지 않아 규제에 한계가 있다”고 답했습니다. 

세이브더칠드런은 하루가 다르게 성장하는 AI 산업이 아동의 안전하게 보호받을 권리를 침해하지 않도록 문제 제기와 해결 방안 마련에 앞장서겠습니다.

글 | 고우현     이미지 | 국회TV