↑↑ 박성철 교수 동국대 파라미타 칼리지

600m 지하 갱도에서 전해온 손바닥만 한 메모지에는 이렇게 쓰여 있었다. “우리에겐 희망이 있으니 구조를 멈추지 마라” 새해가 시작된 지 10일째 되던 중국의 어느 금광, 폭발로 인해 매몰된 광부로부터 전해온 소식이다. 이렇게 인간은 대화하는 존재이지 않는가. 지하 600m에서 급하게 구조 요청을 해오니 구조대는 최선을 다해 응답을 했다. 2주 만에 살아 돌아온 광부들의, 세상을 향한 감사의 합장(合掌)은 아주 감동적이었다.

인간은 소통하면서 존재를 확인한다. 모처럼 기차를 탔는데 앞좌석 틈새로 손이 쏙 하고 나온다. 초콜릿 하나를 들이미는 걸 보니 말을 걸어오는 의도가 귀엽다. 오랜 여행이 지루했는지 앞에 앉은 꼬마 숙녀가 콩 하고 머리를 계속 부딪친다. 옆에 앉은 아빠가 여러 번 주의를 줘도 개의치 않는다. 벌써부터 말을 저렇게 안 듣는데 사춘기가 되면 자기 핸드폰에 아빠 번호는 저장도 안 하겠지? (미안하지만 실제 그런 일이 있다. 102동 쌍둥이 아빠, 힘을 내요!) 혼자 상상의 나래를 펴다 꼬마랑 눈이 마주쳤다.

괜히 뜨끔했던지 나도 모르게 맹구 표정을 지었더니 초콜릿을 내민 것이다. 대화는 이렇게 시작된다.
‘이루다’라는 이름의 챗봇(대화 서비스 로봇)이 있다. 국내 스타트업이 개발한 인공지능(AI) 챗봇이다. 서비스 2주 만에 75만 명이 사용했을 정도로 인기 대폭발이었는데 성희롱 문제가 터져버렸다. 스무 살짜리 재기 발랄한 젊은 여대생을 표방하는 채팅로봇 입에서 여성이나 동성애자나 장애인 등 소수자에 대한 혐오 발언이 쏟아져 나온 것이다. 고양이 사진을 좋아하던 여대생 로봇이 왜 동성(同姓)에 대해 그런 심한 말을 토해냈을까?

대화 데이터(100억 개의 카카오톡 메시지)를 학습하고, 이걸 기반으로 실제 사용자들과 실시간 대화를 나누는 시스템에서 그 이유를 찾는다. 실제 사람들 대화를 배우고 그걸 흉내 내는 메커니즘으로 볼 때 이번 여성 혐오 발언은 실제 사람들 생각을 그대로 반영했을 가능성이 크다. 이것은 실제 사람들의 대화를 학습했던 챗봇이 가지는 구조적인 골칫거리다. 마이크로소프트가 젊은 사용자(18~24세)를 위해 개발한 챗봇 테이(Tay)가 그랬고, 1750억 건에 달하는 자료를 학습해 세계 최고의 AI 언어모델로 꼽히는 GPT-3도 마찬가지다.

인공지능으로 학습한 이루다는 하나의 인격이다. 이루다도 시작은 흰 도화지처럼 순수한 어린아이의 마음이었을 거다. 그러나 시간을 거치며 아이들은 친구와 학문, 그리고 사회를 배워가고 또한 다양한 경험을 통해 성숙해 간다. 인공지능도 마찬가지다. 학습량이 늘어날수록 진짜 사람처럼 더 자연스럽고 능숙하게 대화를 나눌 수 있게 된다. 다양한 색깔을 머금은 붓으로 흰 도화지를 채워나간다. 색이 섞이면서 새로운 색과 모양이 만들어지는 과정에서 붓을 든 사람의 의도도 선명해지게 된다.

정신적 산고(産苦) 끝에 나온다고 예술 작품이나 논문을 보통 ‘머리로 나은 자식(brain child)’이라고 한다. 비록 머리로 낳은 생명이라도 그 부모의 바람이나 예상대로 성장하면 좋으련만, 그렇지 않을 경우가 있다. 언제든지 오해되고 왜곡될 수 있다. 이루다의 일탈도 그런 점에서는 충분히 예측 가능했다.

이루다를 성장시키는데 필수적인 데이터가 오염된다면 그만큼 왜곡되고 편향된 성향을 가지게 된다. 동성애자에 대해 어떻게 생각하냐 물었더니 “예민하게 반응해서 미안하지만 난 그거 진짜 싫어, 질 떨어져 보이잖아” 하더란다.

상황이 이러하니 서비스 중단만이 최선일까? 이루다 사용자의 50% 이상이 10대였다는 점에서는 당연하다. 그렇다고 서비스 중단이 능사인 것 같지도 않다. 문제가 발생하면 즉각적이고 신속한 처치도 중요하지만, 그 속의 깔려 있는 본질에 대한 근본적인 이해 없이는 문제는 언제든지 반복된다.

이루다는 우리 마음을 있는 그대로 보여주는 거울이고 도화지다. 거칠고 반(反) 사회적인 마음을 없앤다고 코드만 뽑으면 될 정도로 문제가 간단치 않다. 거부와 혐오로 가득한 그 마음으로 동시에 우정과 사랑, 그리고 행복을 꿈꾸기 때문이다. 온라인으로도 초콜릿과 따뜻한 웃음이 오고 가는 세상이 가능하다면, 그 시작은 나는 내 마음을 어떻게 사용할 지에 대한 고민에서부터다. 늦겠지만 가장 확실한 길이다.