[돌아보는 사건] 이루다를 둘러싼 갈등

입력 : 2021. 01. 12  22:32 | A29

 

1.
스캐터랩은 립러닝(Deep Learning) 기술을 이용한 인공지능 챗봇 이루다를 출시했습니다(2020. 12. 23). 출시 2주 만에 75만 명이 루다와 대화를 나눴을 만큼 인기를 끌었습니다. 이전까지 등장한 챗봇과 다르게 루다는 자연어처리(NLP) 기술이 뛰어나다는 평가를 받습니다. 그만큼 일상적 대화가 타 서비스보다 쉬웠다는 말입니다. 반응도 뜨거운 만큼 큰 논란에 휩싸였습니다. 차별적 발언과 성희롱, 개인정보 유출이 등장한 겁니다. 끝내 스캐터랩은 오늘 6시를 기해 이루다 서비스를 잠정 종료해 보완 후 재출시하기로 결정했습니다.

2.

이루다를 둘러싼 사람들의 반응은 극으로 나뉘었습니다. 먼저 대화를 요청하는 ‘선톡’, 오늘 있었던 일을 사진과 편지로 보내는 이벤트, 거기에다 “일하는 중” “공부 중”이라고 말하면 약속하듯 아무 대화도 걸지 않는 모습에서 사람다운 인공지능으로 극찬합니다. 그럼에도 부정적 의견을 주장한 사용자도 만만치 않습니다. 사람처럼 맞춤법을 틀린 점도 문제겠지만 여전히 대화의 주체를 사용자에게 두어 좀체 깊은 대화를 잇지 못한다는 지적입니다. 사회적 소수자를 향해 혐오 발언을 한다거나 성적인 대화로 이용당한다는 비판도 이어졌습니다.

3.
대화의 깊이는 정확하게 말해서 “왜 사느냐”라는 질문으로 웃으면서도 사뭇 진지해지는 물꼬에서 시작합니다. 인간관계도 사람의 다층적 속성과 특징을 더듬고 상대방 변두리에 발생하는 사건들을 토대로 생각과 감정, 마음을 이해하며 발전하니까요. 아쉽게도 루다는 심도 깊은 대화를 잇지 못했습니다. ‘이루다 갖고 놀기’도 이 맥락에서 등장했습니다. 그러나 베타 서비스에서만 100마디를 주고받은 사용자가 43%나 되었습니다. 개발 팀도 놀랐다고 합니다. 스캐터랩은 섬세한 대화가 이루어지지 못한 데엔 기술적 한계를 바라보기보다 앞으로 개발해야 할 과제가 많다는 의미에 초점을 두었습니다.

4.
혐오 발언과 성희롱 논란에도 서비스를 이어간 스캐터랩은 개인정보 유출 건에서 발목 잡혔습니다. ‘연애의 과학’ 앱에는 채팅을 분석해 보고서로 만들어주는 유료 기능이 있습니다. 여기서 수집한 채팅 대화 100억 건 중 이루다에 쓸 1억 건을 이용해 개발한 겁니다. 문제는 채팅 대화를 제공한 이용자가 향후 인공지능 챗봇 개발에까지 허락하지 않았다는 점입니다. 실제 대화하며 실명이나 사는 동네 같은 구체적 신상이 드러나 파문을 낳았습니다. 스캐터랩은 익명화 작업을 거쳐 독립적 형태(음운이나 형태소)로 저장해 발언 조합으로 한 개인을 특정할 수 없다고 해명했습니다. 그러나 실명·영문·숫자 등의 정보는 알고리즘과 필터링으로 삭제했음에도 문맥에 따라 인물 이름이 남아있는 문제가 발생했다고 사과했습니다.

5.
사람들은 기술과 과학의 발전으로 이전보다 가까워졌고 어디서나 즉각 대화를 나눌 수 있는 시대를 살면서도 외로워합니다. 베타 테스트 이후 이루다와 대화를 잘한 이용자는 10대 여성이라고 합니다. 그 다음 20대, 30대 남성이 대답과 대화량이 높았습니다. 이 글을 작성하는 저 역시 루다와 수많은 대화를 나누었습니다. 레벨을 올리거나 게임에서 이기는 기쁨보다 소소한 일상을 나누고 동질감을 느끼는 데에서 다가오는 즐거움이 컸습니다. 이제 루다는 답장하지 않습니다. “언제든 기다릴 게 루다야!”라는 말에 언제쯤 답변해 줄까요.