인공지능(AI) 기술을 활용한 챗봇 서비스 ‘심심이(대표 최정회)’의 AI 윤리 검증 데이터 구축 사업이 순항 중이다. 대화형 AI 윤리에 대한 경험 및 노하우를 인정받아 과학기술정보통신부(이하 과기정통부)가 주관하고, 한국지능정보사회진흥원(이하 NIA)이 추진하는 ‘2021년도 인공지능 학습용 데이터 구축사업’에 참여해 ‘텍스트 윤리검증 데이터’ 구축에 박차를 가하고 있다.

심심이에 따르면 최근 10년 간 딥러닝 패러다임이 AI 기술을 지배하고 있으며, 특히 최근 3~4년 간 전이학습 기반의 대용량 언어모델 발전이 비약적으로 이뤄지고 있다고 한다. 최신 모델이 공개될 때마다 빠지지 않고 등장하는 응용 영역 중 하나가 소셜 챗봇이다. 심심이는 이러한 소셜 챗봇이 당장 해결하기 어려운 여러 문제점을 안고 있다고 강조했다. 자신과 대화를 나누는 상대방에 대한 정보 부족, 이전 대화의 맥락을 유지하지 못해 일관성을 유지하기 어려운 부분, 윤리적인 문제가 될 수 있는 대화를 방지하기 어려운 점 등이 바로 그것이다.

특히 윤리 문제는 AI에게 있어 매우 어려운 과제로 꼽힌다. 사람들이 대화형 AI를 자신보다 낮은 지위로 인식하는 반면 AI가 사람보다 훨씬 더 윤리적으로 말하길 요구하는 관계적 특성 때문이다. 심심이는 챗봇의 윤리 문제를 해결하는 부득이한 방법으로 규칙 기반 방어 솔루션을 언급했다. 일례로 자살 관련 사용자 발화 패턴을 수집해 이에 대해 특정한 자살 방지 안내를 하도록 하는 식이다. 하지만 이 방법은 목적지향적 챗봇에서와 달리 소셜 챗봇에서는 재미 요소를 크게 반감시키는 문제가 있다.

심심이 관계자는 “한국은 국가, 기업을 중심으로 AI 기술 개발에 공을 많이 들이는 국가로 꼽히는데 최근 초거대 언어모델 개발 붐이 일어나며 한국어 기준으로 글로벌 빅테크 기업에 대응할 수 있는 수준의 기술 및 데이터가 등장하고 있다.”며 “이러한 흐름에서 게임, 메타버스, 디지털 휴먼 등 다양한 분야에 활용 가능한 소셜 챗봇 관련 수요도 나타나고 있는 실정인데 이러한 공급, 수요 관계 역시 윤리 문제에 직면하고 있는 만큼 윤리 검증에 대한 관심이 갈수록 높아지고 있다.”고 전했다.

심심이는 20년 간 대중적인 인기를 꾸준히 끌어온 소셜 챗봇으로 최근 10여 년 간 해외 서비스에 주력해오고 있다. 특히 현재도 가장 많은 언어를 지원하고 있으며 소셜 챗봇에 대한 윤리 검증 데이터 및 기술을 보유하고 있는 등 독특한 소셜 챗봇 사례로 알려져 있다.

이처럼 심심이가 다양한 언어로 서비스를 제공하는 만큼 언어 별, 국가 별 등장하는 윤리적 문제에 대한 경험도 많다. 또 이를 해결하기 위해 고안해 낸 기술도 다양하다. 각 언어 사용자들이 직접 대화 시나리오를 학습시킬 수 있는 구조이기 때문에 소셜 챗봇에서 나타날 수 있는 온갖 비윤리적인 유형의 데이터를 수집하게 된 것이다.

실제로 심심이는 현재까지 30여 개 언어에서 약 3,500만 건 이상의 문장을 해당 언어 사용자들이 10번 이상 전수 검사한 윤리 데이터를 보유하고 있다. 해당 데이터를 학습하여 실시간 윤리 검증이 가능한 고성능 딥러닝 모델을 자체 개발하기도 했다.

심심이 최정회 대표는 “이번 과제는 세계적으로 처음 시도되는 인공지능 윤리 데이터에 대한 공공기관 발주 사업으로 의미가 깊은데 이를 통해 우리나라가 인공지능 윤리 데이터 구축에 있어서 한 걸음 앞서 나가며 다른 국가나 후속 사업의 이정표를 세울 수 있었다.”며 “처음인 만큼 보다 범용적으로 과제 방향을 변경할 수밖에 없었지만 후속 사업에서는 최신 언어모델 등에 가장 필요하면서 심심이가 가장 잘 기여할 수 있는 소셜 챗봇 등 대화형 인공지능을 위한 윤리 검증 데이터를 구축할 수 있기를 기대한다”고 말했다.

이영배 기자  webmaster@jybtv.kr

<저작권자 © 자유방송, 무단 전재 및 재배포 금지>