카카오 AI 이미지 생성 모델 '칼로'가 그린 토끼. 카카오브레인 제공총선을 앞두고 카카오가 허위 조작 정보를 막기 위해 인공지능(AI)을 활용한 이미지 생성물에 워터마크를 넣는다.
13일 관련 업계에 따르면 카카오는 허위·조작 콘텐츠 제작·유통을 막기 위해 정책·기술적 조치를 마련했다.
카카오는 카카오브레인의 이미지 생성형 모델 '칼로(Karlo)'에 일반 사용자에는 보이지 않는 워터마크를 도입했다. 사용자가 이미지를 편집해도 해당 워터마크는 그대로 유지된다.
카카오톡 채널인 '칼로 AI 프로필' 기능에 해당 워터마크 기능을 우선 도입했다. 이미지 생성 웹 기반 전문가 툴인 'Karlo.ai'에도 이달 내 도입될 예정이다. 언론사가 AI로 생성한 기사는 이를 인지할 수 있도록 '자동생성 알고리즘에 의해 작성된 기사'라는 문구도 상단에 노출한다.
카카오는 허위 조작 정보 신고 절차도 간소화한다. 이용자가 위반 사항 발견 후 신고를 하면 중앙선거관리위원회 신고센터로 연결된다. 공개 영역에 딥페이크 영상이나 영상 캡처 이미지 등이 노출되면 삭제 등 조치에 나선다.
아울러 포털 다음에 '허위사실 및 비방 게시물 신고', '오보 및 권리침해 신고' '불공정 기사 모음', '정정·반론·추후 보도 기사' 배너를 게시하는 등 허위 정보 확산을 막기 위한 조치도 강화한다.