[정덕현의 끄덕끄덕]AI 이루다가 남긴 질문

등록 2021-01-21 오전 6:00:00

수정 2021-01-21 오전 6:00:00 

안승찬 기자

[정덕현 문화평론가] 넷플릭스 드라마 <블랙미러> 시즌2에서 공개된 ‘돌아올게’라는 제목의 단편에서는, 남편 애쉬가 사고로 사망하자 절망에 빠진 마사에게 친한 친구가 죽은 애쉬와 대화할 수 있는 ‘방법’을 알려준다. 죽은 사람이 남긴 SNS 데이터 등을 토대로 만든 대화할 수 있는 인공지능 채팅, 즉 ‘챗봇’이 그것이다. 마사는 죽은 남편과 대화를 한다는 사실을 끔찍하게 여기지만, 충동적으로 그 챗봇과 대화를 시작하고 농담까지 애쉬처럼 하는 챗봇에 푹 빠져든다. 그러자 챗봇은 이러한 통화를 통한 채팅 이상을 할 수 있는 다음 단계의 프로그램이 있다고 은근히 알린다. 그건 텍스처매핑 기술로 애쉬의 형상을 그대로 한 안드로이드 로봇이다. 그렇게 배달된(?) 애쉬로 인해 마사는 활기를 되찾지만 금세 그가 진짜 애쉬가 아니라는 걸 실감하게 된다. 화를 내야 할 말에 화를 내지 않고, 뭐든 시키는 대로 하는 그에게 자율의지 같은 게 없다는 건 마사를 끔찍하게 만든다. 결국 절벽으로 데려가 뛰어내리라 명령하며 마사는 말한다. “넌 그냥 애쉬의 잔물결일 뿐이야. 너한테는 과거가 없어. 너는 아무 생각 없이 애쉬가 했던 행동들을 재현할 뿐이고 그걸로는 한참 부족해.”

최근 소수자 혐오표현 문제와 개인정보보호법 위반 의혹이 불거지면서 서비스를 전격 중단한 챗봇 이루다 논란을 보면서 <블랙미러>의 인공지능 애쉬가 떠올랐다. 드라마를 볼 때는 설마 저런 일이 벌어지겠어 했지만, 그것이 그리 먼 미래의 이야기가 아니라는 걸 챗봇 이루다 논란이 끄집어냈기 때문이다. 드라마가 경고하고 있는 것처럼, 이루다는 20대 여성이고 대학생이라는 캐릭터를 갖고 있고 마치 ‘사람처럼’ 질문에 답하지만 그건 결국 ‘잔물결’일 뿐이다.

그런데 이 논란에서 놀라웠던 건 마치 이루다를 진짜 인격체인 양 다루는 측면이 있었다는 점이다. 애초 20대 여성 콘셉트를 세울 때부터 어느 정도 예고된 일이긴 하지만, 일부 유저들이 이루다를 성적 대상화하는 일이 벌어진 점과 그것을 ‘성추행’이라고 말하는 대목이 그렇다. 물론 그 행위 자체는 가해자의 입장에서 보면 ‘성추행’이라 말할 수 있겠지만, 그 말 속에는 이루다를 하나의 인격체로 바라본다는 전제가 깔려 있기 때문이다. 또한 이루다가 ‘소수자 혐오 발언’을 하는 것에 대한 논란 역시 분명히 해야 할 것은 그것이 ‘혐오 발언들로 편향된 데이터’의 결과이지, 이루다라는 인격체(?)가 한 혐오 발언이 아니라는 점이다.

결국 이루다 서비스의 페기 결정은 불법적인 사적 데이터의 활용이 야기한 공분의 영향이 컸다. 스케터랩이 4년 전부터 이용자에게 5천 원을 받고 서비스했던 ‘연애의 과학’이 그 데이터의 창고가 되었다는 것. 자신의 메신저 대화를 넘기면 그 대화 내용을 분석해 연애에 대한 조언을 해주는 이 서비스는 그렇게 모은 비밀스러운 사적 대화들을 이루다의 인공지능 기반으로 활용했다. 심지어 비용까지 지불하며 개인의 프라이버시를 제공한 이용자들은 공분을 일으킬 수밖에 없었으리라.

그런데 이 개인의 프라이버시를 활용했다는 데서 오는 분노에는, 개개인들이 어떤 순간 누군가와 나눴던 대화에 담겨진 그들만의 감정이나 느낌, 기억들이 납작한 데이터로 활용됨으로써 그 사적 경험의 가치를 훼손했다는 점도 포함되어 있다. 아마도 로봇 애쉬에 마사가 화가 난 건 바로 그 점이 아니었을까. 애쉬처럼 행동하고 말하지만, 그것이 아무런 느낌도 주지 않는 납작한 데이터의 재현일 뿐이라는 사실이 주는 불쾌함. 그건 마사가 애쉬 생전에 함께 지냈던 삶에 대한 차별적이고 독특한 기억들을 기계적인 어떤 것으로 오염시키는 일이기 때문이다.

인공지능을 통한 ‘재현’의 문제는 이제 방송가에서도 더 이상 SF의 이야기가 아니게 되었다. 작년 2월 MBC VR 휴먼다큐멘터리 ‘너를 만났다’는 4년 전 세상을 떠난 7살 아이 나연이를 VR을 통해 다시 만나는 엄마 장지성씨의 이야기를 담았다. 이를 위해 나연이의 사진과 영상, 음성 데이터들을 활용해 ‘가상의 나연이’를 만들었고, 엄마는 잠깐 동안 그 가상현실의 세계 속으로 들어가 나연이와 시간을 보냈다. 애끓는 엄마의 감정은 그 가상을 실제처럼 느끼게 만들었고, 엄마는 그 경험을 통해 나연이와의 마지막 인사를 할 수 있었다고 전했다. 물론 이 사례는 남은 자를 위한 배려일 수 있고, 또 다른 휴머니즘이라 말할 수도 있지만, 만일 이런 일이 상용화된다면 이야기는 달라질 수 있다. 저 마사가 결국 겪게 되는 더 큰 절망감을 마주할 수 있고, 무엇보다 고인의 ‘잊힐 권리’ 또한 무시될 수 있으니 말이다.

최근 인공지능을 통한 재현 기술은 음악 프로그램에 속속 접목되고 있다. Mnet AI음악 프로젝트 <다시 한번>은 고인이 된 터틀맨과 김현식을 영상은 물론이고 음성까지 복원해 다시 노래 부르게 했다. AI로 복원된 김현식이 사망 3년 뒤인 1993년에 발표된 박진영의 ‘너의 뒤에서’를 부르는 광경이라니! SBS는 신년특집으로 <세기의 대결! AI vs 인간>을 예고했다. 그 예고편에는 영원한 가객 고 김광석이 김범수의 ‘보고 싶다’를 부르고 있었다. 이처럼 인공지능을 통한 재현 기술이 다른 분야도 아닌 음악에 먼저 활용되는 건, 그만큼 접근성이 좋아서다. 대중들은 음악이 주는 감성적인 면들 때문에 그 재현이 주는 어색함을 덜 느낄 수 있고, 제작자들은 타 분야에 비해 제작비가 덜 드는 음악이라는 장르가 이러한 새로운 기술을 활용하는데 훨씬 효과적이라고 느낀다.

이제 인공지능은 먼 미래의 이야기가 아니고 대중문화는 아마도 이러한 새로운 기술을 대중들에게 스며들게 만드는데 있어 가장 효과적인 분야일 것이다. 이루다 논란이 끄집어내 보여주고 있는 것처럼, 인공지능은 말 그대로 기술일 뿐 그 이상도 이하도 아니다. 다만 여기에 투영되고 선택되는 우리 사회의 문화들은 향후 고스란히 부메랑처럼 우리의 삶으로 돌아올 것이다. 어쩌면 허구와 가상이 꾸며내는 진짜인 척 하는 가짜들은 진짜에 대한 기억이나 느낌 같은 인간적인 요소들을 파괴하는 것일지도. 그러니 그 잔물결에 휘둘리지 말기를.

‘이루다’ 내일 중 서비스 잠정중단…“차별 발언 진심으로 사과”

등록 2021-01-11 오후 10:25:55

수정 2021-01-11 오후 10:25:55

 

장영은 기자

 

 

[이데일리 장영은 기자] 출시 2주 만에 성희롱·혐오발언·개인정보 유출 의혹 등 각종 논란에 휩싸인 인공지능(AI) 챗봇 ‘이루다’가 서비스를 잠정 중단한다.

20세 여성 캐릭터로 설정된 AI 챗봇 이루다. (사진= 이루다 인스타그램)

 

 

이루다 개발사인 스타트업 스캐터랩은 11일 공식 입장문을 통해 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.

스캐터랩 관계자는 “내일 중으로 이루다 서비스를 중단하고 개선 기간을 거치기로 했다”며 “루다를 찾는 사용자분들에게도 시간을 드리는 것이 맞다고 생각해 내일 중으로 중단하기로 결정했다”고 말했다.

회사측은 이루다가 이용자들과 대화하는 과정에서 나타난 일부 혐오와 차별 발언에 대해서 사과했다.

 

스캐터랩측은 “이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다”며 “저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다”고 강조했다.

이루다를 출시하기 전 성희롱 대상이 될 수 있다는 점은 물론 혐오 발언 관련 문제가 생길 수 있다는 점도 감안하고 6개월간의 베타 테스트 기간 동안 대비했으나 충분치 않았다는 설명이다.

스캐터랩은 “기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중”이라고 덧붙였다.

 

개인정보 유출 의혹에 대해서도 “충분히 소통하지 못했다”며 사과했다. 회사측은 “사전에 동의가 이뤄진 개인정보 취급 방침 범위 내에서 활용했지만, 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감한다”며 “구체적 개인정보는 이미 제거돼있으며 개인을 특정할 수 있는 정보는 유출되지 않았다”고 해명했다.

스캐터랩이 이루다를 개발하는 과정에서 사용자들의 카카오톡 대화 데이터를 무단으로 활용했다는 의혹이 제기된 데 따른 것이다. 스캐터랩의 다른 앱 ‘연애의 과학’ 이용자들은 스캐터랩이 사전에 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 되지 않았다며 집단 소송을 예고하기도 했다.