영화 '아이 로봇' 스틸컷(사진=이십세기폭스코리아 제공)
불법 음란물 유통과 콜센터 악성 민원 고객을 차단하는 인공지능(AI) 기술이 개발됐다.
갈수록 빨라지는 기술 진화 속도와 동시에 음란물 역시 동시다발적 급속도로 퍼지면서 일일이 감시, 관리 단속하기에는 한계가 있었다. 또 욕설과 성희롱을 일삼는 고객들에 상시 노출되는 콜센터 직원들 역시, 관련 조치 등의 강화와 상관없이 속수무책으로 감정노동에 시달려야 했다.
이런 가운데 직접 관련 기기를 만지거나 조작하지 않아도, 따로 누군가에게 지시하지 않아도 AI가 이같은 불법 음란물과 이른바 '진상' 고객에 즉각 반응, 차단하면서 디지털 동반자로 자리 잡고 있다.
◇ 네이버, AI 기술로 음란 이미지 잡는다…400만 장 실험서 적중률 98.1%네이버가 자체 개발한 음란물 필터링 AI 기술인 '네이버 X-eye'는 부적절한 내용을 담은 이미지가 등록될 경우 이를 실시간으로 감지,해 검색 노출을 막아준다.
특히 구글과 페이스북 인스타그램 등 세계적인 SNS 기업들이 불법 음란 정보 유통을 방조한다는 논란이 이는 가운데, 네이버는 자체적으로 기술을 개발, 음란물을 원천적으로 차단함으로써 건전한 인터넷 환경을 조성에 나선 것이다.
이는 사용자들의 검색 환경을 보호하기 위한 노력의 일환으로, AI를 이미지 필터링에 도입한 것은 네이버가 처음이다.
네이버는 실제 기술 적용에 앞서 방대한 이미지를 형태별로 분류해 10개월 동안 AI를 학습시켰다. 최근 400만 장의 이미지를 대상으로 한 필터링 실험에서 98.1%의 적중률을 기록, 필터링 기술을 자랑했다.
네이버 X-eye는 먼저 네모난 돋보기로 그림을 보듯 이미지의 각 부분을 순차적으로 훑어 특징을 추출한다. 이렇게 추출된 특징들로 다시 하나의 새로운 레이어를 이루고, 두 번째 레이어에 대해서도 같은 작업을 반복한다.
이미지 조각으로부터 특징을 추출하는 작업을 '컨볼루션'(convolution)이라고 한다. 이 작업을 여러 레이어에 걸쳐 반복할수록 딥러닝이 이뤄진다. 최종 결과물을 기존 학습 데이터의 카테고리로 분류해 음란성 여부를 판독한다. 이미지 데이터를 개발자가 유형별로 세분화해 학습시키는 게 핵심 기술이다.
'네이버 X-eye'는 음란 검색어에 따른 이미지 결과 노출을 막을 뿐만 아니라 해당 음란 이미지를 검수자에게 전달해 빠른 조치를 취한다. 연중 24시간 음란 이미지 감지 체계가 실시간으로 돌아간다.
◇ 해외 SNS 음란물 '심각' 법제화도 속수무책…네이버 자발적 필터링 AI 도입
(사진=네이버 제공/자료사진)
현재 구글이나 페이스북, 인스타그램 등 글로벌 서비스에서 특정 유해정보 키워드로 검색하면 수위가 매우 높은 사진이나 불법 광고 등을 쉽게 찾아볼 수 있다.
야후가 운영하는 텀블러의 경우 음란물 유통의 온상이 될 정도로 그 수위가 심각하고 페이스북의 성인광고 역시 국내 정서와는 맞지 않는다는 평가다.
특히 "일본 유명 여배우 AV 품번(작품번호)은 꼭 구글에서 검색하라"는 인터넷 커뮤니티에서 떠돌 정도로, 구글에서는 음란 이미지를 손쉽게 찾을 수 있다. 음란물 이미지 필터링 기술인 구글 '세이프 서치'도 있지만 '세이프 서치 해제 방법' 역시 금방 검색, 사용자 해제가 가능하다. 모바일에서는 세이프 서치도 적용되지 않는다.
페이스북은 테러 같은 키워드에는 인공지능을 적용해 적극적인 선조치를 하고 있지만, 음란 정보에 대한 부분은 모니터링 담당자의 게시물 감시, 이용자의 신고, 살구색이 일정 비율 이상 노출될 경우 해당 계정 경고·차단 같은 방식을 고수하고 있다.
별도의 성인 인증 절차 없이 노출되는 음란 정보에 대한 미성년자의 보호조치가 필요한 실정이지만, 관련법은 기술 진화 속도를 따라가지 못하고 있다.
독일은 지난 4월 SNS 업체들이 음란성 게시물을 발견하고도 24시간 이내에 지우지 않으면 최대 5000만 유로(약 650억원)의 벌금을 부과하는 내용의 '네트워크 시행법'을 통과시켰다.
국내에서도 방통위가 매년 온라인상의 유해한 음란 정보를 찾아 심의하고 삭제 등의 시정 조치를 요구하고 있다. 그러나 이 역시 사후조치에 불과하다는 지적이다.
이에 따라 IT기업의 자체적인 필터링 프로그램의 도입이 촉구되는 가운데 네이버가 가장 먼저 이를 선보이며, 사회적 책임에 나섰다는 평가다. 네이버는 연내 네이버 동영상 서비스나 1인 방송 등에도 적용할 방침이다.
오경수 네이버 리더는 "네이버 X-eye로 성인 이미지에 대한 연중무휴 실시간 대응이 가능해졌다"며 "향후 동영상 필터링에도 확대 적용할 계획이며, 건전한 인터넷 이용환경 조성을 위해 외부에도 손쉽게 사용할 수 있는 AI 필터링 프로그램 제공을 검토하고 있다"고 말했다.
◇ AI 콜센터 악성 고객 차단, 24시간 연중무휴 상담…보험업계는 AI 현실화
(사진=자료사진)
KT는 기계학습 알고리즘 '딥러닝'을 적용한 AI 콜센터를 선보였다. 고객이 욕설과 폭언 등을 할 경우 AI가 자동으로 텍스트 기반의 상담으로 넘어가게 하거나, 악성 고객에 대응하는 전문 상담사에게 연결해주는 AI 기술이다.
현재 콜센터에서는 악성 민원을 일삼는 고객은 따로 분류해 자동으로 상담이 끝나도록 하는 등의 조치를 취하고 있다. 그러나 보통 3회 정도 반복돼야 가능한 조치여서 그동안은 상담원이 악성 고객들을 대응해야 하는 어려움이 있었다.
KT는 서울 우면동 AI 테크센터에서 이처럼 고객 음성을 텍스트로 변환하고, 주제와 핵심어를 추려 자동 분류하는 기술을 개발했다. 사투리도 들을 수 있도록 음성인식 정확도를 크게 높였다. KT는 향후 이 시스템을 자사 콜센터에 적용할 계획이다.
이 기술이 상용화되면 콜센터 직원들은 감정 노동에서 벗어날 수 있을 전망이다. 고객의 음성을 자동으로 글자로 변환하기 때문에 욕설과 성희롱, 인격 모독이나 협박을 듣는 스트레스를 줄일 수 있다.
악성 고객들의 목소리를 듣지 않고도 텍스트로 전환된 불만 사항 등을 처리할 수 있다. 상담 내용을 따로 작성할 필요도 없어 상담 진행 중 나타날 수 있는 실수나 오류 등을 줄일 수 있다. 노동 강도도 감소할 것으로 보인다.
KT는 "콜센터의 녹취 데이터는 고객들이 어떻게 행동하는지, 원하는 바는 무엇인지 빠르게 파악하고 대응하는 인공지능을 개발하는 데 활용된다"면서 "콜센터 직원들이 감정노동으로 고통받고 있는 상황에서 기술로 회사 내의 문제를 해결하는 것은 자연스러운 일"라고 말했다. SK텔레콤도 음성인식 AI를 콜센터에 활용하는 방안을 검토 중인 것으로 알려졌다.
한편, 보험업계에서는 이미 AI 콜센터가 현실화되고 있다. 악성 민원고객에 대응하기 쉬울뿐더러 24시간, 일요일에도 나이와 병력 등에 따른 '맞춤형' 고객 상담이 가능하기 때문이다.
보험정보플랫폼 마이리얼플랜은 최근 AI 기반의 알고리즘 상품 추천 시스템을 선보였다. 어떤 보험에 가입해야 할지 모르는 고객들이 자신에게 필요한 보험을 추천받을 수 있도록 검색엔진을 탑재한 점이 핵심이다.
앞서, AIA 생명은 보험업계 최초로 IBM과 SK㈜ C&C가 개발한 AI 플랫폼 '에이브릴' 기반의 AI 콜센터를 선보였다. 크게 고객 상담 챗봇과 전화로 응대하는 로보텔러로 구분된다. 고객이 자주 하는 문의에 대해서는 채팅 형태로 AI 챗봇이 1차 상담을 진행한다. 24시간 365일 응대는 물론, 대기시간 없이 바로 연결이 가능하다.
AIA생명 관계자는 "기존 상담사들은 전문적인 역량을 강화해 고차원적인 업무를 맡기는 등 AI 콜센터와 기존 상담사의 역할 분담을 보다 체계적으로 운영할 것"이라고 말했다.