악풀을 잡아내는 AI (특수기호 문맥인식)

 

 

전 국민이 스마트폰을 손에 쥐고 온종일 콘텐츠를 소비하는 '콘텐츠 범람'의 시대에 콘텐츠 제작사들 입장에서 악성 코멘트가 큰 골칫거리입니다.

 

악성 코멘트가 노출되면 다른 사용자들이 불쾌감을 느껴 사용자 경험이 저하되고, 이런 경우가 잦아지면 해당 플랫폼에서 이탈할 가능성이 커지기 때문입니다.

 

24일 IT업계에 따르면 게입개발사, 온라인동영상서비스,포털 등 IT 관련 기업들은 최근 이런 악성 코멘트 문제를 해결하기 위해 독자적인 인공지능(AI) 시스템 개발에 나서고 있습니다.

 

게임업계 AI개발 선두주사는 넥슨입니다.

 

넥슨은 AI 기술 연구 조직인 '인텔리전스랩스' 에서 머신러닝 기술을 활용해 욕설, 혐오 표현, 도박 광고 등을 차단하는 텍스트 탐지 기술을 개발했습니다.

 

넥슨의 텍스트 탐지 기술은 사람들이 많이 쓰는 전통적인 욕설뿐 아니라 신조어 성격의 욕설, 또는 특수 기호 등을 이용한 욕설 등까지 잡아냅니다.

 

넥슨 관계자는 "과거 자연어 처리 방식의 욕설 차단 기술은 단어 일부를 변형하면 욕설을 발견하지 못했는데, AI 기반 기술은 변형된 형태의 욕설도 탐지가 가능하다" 면서 "욕설 뿐만 아니라 불법 광고 등의 탐지에도 활용된다"고 설명했습니다.

 

넥슨은 텍스트 감지 기술을 게임 내 채팅에도 적용하고 있습니다.

일부 온라인게임에서 실시간 필터링 용도로 사용되고 있으며 적용 게임을 점차 확대할 예정입니다.

 

넥슨 인텔리전스랩스는 2017년 설립된 후 현재 200여명 규모로 커졌습니다.

넥슨은 올해도 AI연구 인력을 계속 채용해 인텔리전스랩스를 300여명 규모로 키울 계획입니다.

 

토종 OTT '왓챠플레이' 를 운영하는 왓챠도 영화 드라마 등 콘텐츠 감상평에서 AI 모니터링 기술을 개발 적용하고 있습니다.

 

왓챠 사용자들은 영화나 드라마 시청 전후 다른 사용자들의 감상평을 보는 경우가 많습니다.

유명 영화 평론가들도 왓챠에 코멘트를 남기기 때문에 감상평은 왓챠의 UX를 좌우하는 핵심 요소 중 하나 입니다.

 

왓챠의 AI 모니터링 기술은 코멘ㅌ의 부적절성 여부를 판단해 확실하게 부적절한 경우 블라인드 처리합니다.

 

왓챠 AI 역시 넥슨처럼 특수기호를 사용한 욕설이나 혐오 표현까지 잡아냅니다.

 

왓챠 관계자는 "과거에도 문제 되지 않았지만 시대 변화에 따라 지금은 차별 비하 표현으로 여겨지는 표현도 잡아낼 수 있도록 AI가 학습하고 있다" 면서 "정치적 올바름에 어긋나는 혐오 표현인지 AI가 판단할 수 있게 될 것" 이라고 말했습니다.

20년 동안 연예인 악플, 댓글 여론 조작 등의 사건 사고를 겪으며 '댓글과의 전쟁'을 치르고 있는 네이버 역시 댓글에 AI 기술을 도입한 대표적인 IT기업입니다.

 

네이버는 지난해 4월 'AI 클린봇'을 개발해 웹툰, 스포츠, 뉴스 등에 순차적으로 도입했습니다.

 

AI클린봇은 그동안 욕설 지속어가 들어간 댓글을 자동으로 블라인드 처리해왔는데, 최근 악성 댓글 판단 기준을 '욕설 단어'에서 '문장 맥락'으로 확대하도로 고도화되었습니다.

 

비속어가 없어도 문장 맥락을 고려해 모욕 협오 표현이라고 판단되면 AI가 블라인드 처리 하는 것입니다.

 

업그레이드된 AI 클린봇은 악성 댓글 상스 작성자도 자동으로 판단합니다.

클린봇이 인지한 '상습 악플러'는 일정기간 댓글 이용이 제한됩니다.

 

네이버 관계자는 "비속어 한 개에 많게는 10만개 이상의 변칙이 존재하기 때문에 AI만으로 악플 감지 효과를 100% 기대하기는 버겁다"면서도 "다양한 AI모델과 빅데이터 학습으로 정밀한 AI를 구축할 수 있다"고 말했습니다.

(출처 연합뉴스 )