'오버워치' AI에 한국어로 욕 1,000개 이상 넣어봤다

블리자드는 지난 5월에 ‘오버워치’에 특이한 기술을 넣었다. 게임에서 부적절한 채팅을 잡아내는 일명 ‘욕설 잡는 인공지능’이다. 정확히 이야기하면 욕설과 함께 다른 유저에게 부적절한 메시지를 보내는 유저를 바로 찾아내서 제재하는 것이다. 기존에도 유저 신고를 받은 후 이를 사람이 확인해 처리했으나 인공지능을 쓰면 처리 시간을 줄일 수 있다. 유저 입장에서는 게임을 하며 불쾌한 말을 들을 걱정이 줄어드는 셈이다.

현재 지원하는 언어는 영어와 한국어다. 그렇다면 한국어를 배워 온 ‘욕설 잡는 인공지능’은 두 달 동안 어떠한 성과를 냈을까? 블리자드는 6월 7일 진행된 프레젠테이션을 통해 그 결과를 공개했다. ‘오버워치’ 스캇 머서 총괄 디자이너는 인공지능 도입 후 채팅 제재에 대한 주요 수치를 공개했다. 인공지능이 없었던 올해 3월과 이를 도입한 5월 수치를 서로 비교한 것이다.

스캇 머서 총괄 디자이너는 “우선 채팅을 할 수 없게 막는 ‘침묵 제재’는 651%가 늘었고, 일시 및 영구 계정 정지는 1,471% 증가했다”라며 “보시다시피 상당히 많은 유저를 제재했지만 놀랍게도 오제재율(잘못 제재한 비율)은 0%이며, 반복 제재도 6.12%에서 2.46%로 감소했다”라고 설명했다. 부적절한 채팅을 찾아내는 인공지능 덕분에 문제되는 내용을 좀 더 빠르게 잡아낼 수 있었다는 것이 그의 의견이다. 이를 통해 ‘오버워치’ 제작진이 불쾌한 채팅을 제대로 잡고 있다는 믿음을 주는 것이 목표라고 덧붙였다.

다른 유저와 부딪칠 일이 많은 게임을 해본 유저들이라면 잘 알겠지만 욕을 하고자 마음을 먹은 사람은 온갖 기상천외한 방법을 찾아낸다. 모음 ‘l’ 대신에 숫자 1을 넣거나, 욕설을 단 한 마디도 넣지 않고 상대를 공격하는 말을 전하기도 한다. 그 반대로 ‘18년 동안’이라는 말처럼 평범한 말도 욕설로 잘못 알고 ***으로 처리되는 경우도 있다.

즉, 유저 채팅에서 부적절한 말을 추적하는 인공지능을 만드는 것은 생각보다 복잡하고, 다양한 상황을 고려해야 한다. 단순히 특정 단어를 사용하지 못하게 막는 것으로는 해결되지 않으며, 말을 하는 사람의 전체적인 뉘앙스를 살펴야 한다. 따라서 ‘오버워치’ 제작진 역시 한국어로 비매너 채팅을 찾아내는 AI를 만들며 많은 고민과 어려움이 있었을 것이라 생각한다.

이에 대해 스캇 머서 총괄 디자이너는 “가장 어려웠던 점은 언어와 문화에 따라 나쁜 말을 하는 방식이 다양하다는 것이었다. 그래서 이를 연구하는데 많은 시간을 들였다. 한국어를 비롯해 각 언어 당 1,000개 이상, 수천 가지에 달하는 케이스가 필요했고, 부적절한 말을 찾아내는 알고리즘을 구성하는 것이 어려웠다. 하지만 덕분에 이러한 좋은 결과가 나올 수 있었다고 생각한다”라고 말했다.

‘오버워치’를 즐기는 유저들은 키보드도 많이 쓰지만 말로 이야기를 주고 받는 음성 채팅도 종종 사용한다. 음성 채팅에서도 다른 유저들에게 불쾌한 말을 하는 게이머들이 있다. 특히 목소리를 통해 말하는 사람이 남성인지, 여성인지 알 수 있기 때문에 불필요한 충돌이 일어난 경우도 있다. 이에 대해 ‘오버워치’ 제작진은 어떻게 생각하고 있을까? 

스캇 머서 총괄 디자이너는 “음성 채팅 제재에 대해서는 내부에서 논의하고 있지만 아직 이렇게 하자고 결정한 것이 없다. 남성과 여성이 같이 게임을 할 때 상대적으로 여성 유저들이 불이익을 받고 있다는 점은 인지하고 있고, 남성처럼 목소리를 바꿔주는 옵션에 대해서도 생각해본 적 있지만 아직 공식으로 이야기할 단계는 아니다. 여성 플레이어에 대한 배려는 큰 이슈라고 생각하고, 어떻게 하면 개선할 수 있을지 계속 고민 중이다”라고 말했다.