| ▶ 알립니다 |
*인터뷰를 인용보도할 때는 프로그램명 'CBS라디오 <박재홍의 한판승부>'를 정확히 밝혀주시기 바랍니다. 저작권은 CBS에 있습니다.
*아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다.
|
◇ 박재홍> CBS 라디오 박재홍의 한판승부 2부 문을 열었습니다. 요즘 딥페이크 문제. AI 기술이 발달하면서 딥페이크의 오용, 남용 문제가 심각하게 대두되고 있는데요. 그래서 오늘은 선거를 앞두고 규제책 또 처벌 방식은 무엇이 있을지. 그리고 또 이러한 기술발달을 어떻게 봐야 할지 전문가 모시고 말씀 나눠보겠습니다. 임종인 고려대학교 정보보호대학원 교수 나오셨습니다. 교수님, 어서 오십시오.
◆ 임종인> 안녕하세요. 임종인입니다.
◇ 박재홍> 그리고 진 교수님, 박 실장님 인사 나누시고.
◆ 박성태> 안녕하십니까?
◆ 진중권> 안녕하세요.
◇ 박재홍> 딥페이크. 영상을 유명인들의 발언이나 행동을 조작해서 실제 영상이나 이미지를 합성하는 기술을 말하는 거죠. 어떻게 이해하면 될까요.
◆ 임종인> 그러니까 딥페이크 전에도 CG라고 해서 컴퓨터 그래픽 기술을 이용해서 여러 가지 화면을 만들고 했었는데 최근에 생성형 AI, AI 기술이 발전하면서 우리 AI 쭉 보면 애당초가 딥러닝 기술을 이용해서 현재 제너러티브 AI가 나온 거니까. 그래서 딥은 AI를 얘기하고요. 페이크는 가짜 아닙니까? 그래서 AI 기술을 이용해서 만든 가짜 영상, 이걸 딥페이크라고 합니다.
그런데 이따 보면 나오지만 긍정적으로 좋게 사용되는 것도 굉장히 많은데 말씀하신 것처럼 얼마 전에 테일러 스위프트 포르노 영상도 있고 그다음에 사기 사건에 나오기도 하고 특히 선거 개입, 이게 큰 문제가 돼서 지난달 뮌헨 사이버 세큐리티 콘퍼런스에서도 이러한 딥페이크를 이용한 선거 개입 이게 올해 가장 큰 위협이다, 민주주의 위협이다, 이런 얘기가 나왔습니다.
◇ 박재홍> 그렇군요. 그럼 이게 사실은 실제 영상이 아닌데 실제 영상인 것처럼 일반인도 볼 수 있기 때문에 그것이 또 다른 가짜뉴스의 형태로 오용될 수 있기 때문에 우려가 큰 거죠?
◆ 임종인> 그렇죠. 지금 문제는 전에는 CG라든지 할 때는 전문가들만 할 수 있었던 건데 요즘에 챗GPT 이후에 지금 GPT 스토어에 보면 한 달에 구독형으로 한 20달러만 들면 누구나 이러한 딥페이크 AI를 만들어주는 AI 구독형으로 할 수 있으니까 재미로 하는 사람도 있고 이걸 가지고 사기 사건에 하는 사람도 있는데. 문제는 외국에서 이 서비스를 하니까 범인 잡을 수도 없고.
◇ 박재홍> 만약에 진중권 교수 총선 비례대표 출마 선언 영상, 이걸 만들어줘 이렇게 하면 진 교수님이.
◆ 임종인> 만들어주죠.
◇ 박재홍> 이번에 만들 수 있다.
◆ 임종인> 그럼요. 이게 정말 특히 얼마 전에 나온 오픈AI의 소라라고 하는 거 아니면 구글의 제미나이 1.5. 이런 것들은 CG 하는 사람 보고 절망감에 빠졌다고 합니다.
◇ 박재홍> 너무 잘 만들어서?
◆ 임종인> 이거 우리는 못하겠다, 이제. 특히 AI 쪽은 기술 발전이 옛날에 무어의 법칙은 18개월마다 기술이 2배씩 좋아진다고 했는데 AI 쪽은 1년에 5배에서 10배씩 좋아지고 있어요. 그러니까 이게 한 5년만 지나면 사실은 최악의 경우에 10의 5승 그러면 10만 배 아닙니까? 그러니까 사람들이 2030년 되면 사람이 못 다루겠다 하는데.
◆ 진중권> 그런데 한편으로는 중국에서 그걸 이용해서 만든 영화를 봤는데 서유기를 만들었더라고요. 나 같은 사람도 SF영화를 만들 수 있는 거죠.
◆ 임종인> 맞습니다. 그러니까 요즘에 우리가 사실 스마트폰 갖고 혼자 영화 간단한 단편영화 만들고 그러지 않습니까? 이제는 훨씬 정교하게 만들 수 있어요.
◆ 박성태> 아마 소라에 나온 그래픽. 일본 거리를 걷는 여성, 이걸 주문해서 나온 영상 있잖아요. 저도 그걸 봤는데 사실 방송에서 그래픽으로 그걸 만들려면 돈도 엄청 많이 들고 기간도 엄청 걸리거든요. 그런데 그걸 불과 뚝딱 만들었다는 게 사실은 너무 놀랍고 또 두렵더라고요.
◆ 임종인> 그래서 작년에 할리우드에서 한 달도 넘게 파업한 게 일자리가 날아간다, 우리가.
◇ 박재홍> 우리도 방송사도 파업해야 될 상황이에요, 생각해 보니까.
◆ 임종인> 그러지는 않습니다. 우리 교수들도 AI 시대에 이제 뭘 가르치지, 우리가. 걱정 많이 합니다.
◇ 박재홍> 그러니까요. 그럼 이를테면 예전에 초기 기술로 손석희 스타일의 앵커가 하는 뉴스, 박성태 앵커의 뉴스, 박재홍의 뉴스 이렇게 했었는데 그때는 약간 뭐랄까, 저거 가짜다라고. 너무 약간 미숙함이 드러났는데 요즘은 입모양이 좀 발달이 되면서 이게 잘 만들었네 이런 것도 많이 나오던데요.
◆ 임종인> 그러니까 아까 제가 말씀드린 그러한 생성형 AI 이용한 딥페이크 나오는 거 보면 이미지, 비디오, 심지어는 딥보이스 그래서 목소리도 딱 나오는데 전에는 입모양하고 조금 달랐는데 이제는 완벽합니다. 그래서 멀티모달 그래서 이게 소리까지 그다음에 영상까지 그대로 나오니까 그거 뭐 정말 얼마 전에도 조인성 해서 사기 사건 당하지 않았습니까?
◇ 박재홍> 송혜교 씨랑 조인성 씨가 딥페이크 영상, 투자자 모집하는 사기 범죄가 있었고.
◆ 임종인> 그렇죠. 그건 그래도 얼마 안 됐는데 한 달 전에 홍콩에서 어떤 금융회사에서 비디오 콘퍼런스콜 많이 하지 않습니까? 그런데 거기서 여러 명이 딱 등장해서 담당자한테 비디오 콘퍼런스콜 쭉 하다가 CFO가 너 2500만 불 이리 보내, 그러니까 거기 합의가 돼서 딱 보냈는데 알고 보니까 다 가짜였어요. 자기만 진짜고 거기 나중에 보니까 CFO부터 거기 등장했던 사람들이 다 가짜였어요. 그런데 평소에 접한 사람인데도 전혀 알아보지 못할 만큼 이 정도로 정교해집니다.
◇ 박재홍> 앞으로는 우리가 보게 될 모든 영상의 우측 하단에 이 해당 영상은 AI 딥페이크가 아닙니다라는 인증마크가 있어야지 우리가 믿고 볼 수 있는 시대가 올까요?
◆ 임종인> 그게 이제 사실은 그 말씀하신 그 부분을 그래서 지난달에 뮌헨 어떤 사이버 세큐리티 콘퍼런스에서 그걸 논의했는데요. 문제는 정직하게 하는 예를 들면 구글이나 오픈AI나 메타에서 나오는 거는 그걸 넣을 수 있어요. 그런데 사실은 우리 여기도 지하세계가 있거든요.
◇ 박재홍> 지하세계가 있어요?
◆ 임종인> 다크웹 시장이 있어서요. 그러니까 AI 중에 다크AI라는 게 있습니다. 이렇게 사실 무기 이런 거 다 암시장에서 밀매되고 있지 않습니까? 그러니까 여기 AI 쪽도 다크시장이 있어요. 거기서 나오는 것은 원래 지금 오픈AI나 이런 데서 예를 들면 딥페이크에 대해서 뭘 질의하잖아요. 뭐 만들어줘 그러면 딥페이크에 나오면 그건 우리 못합니다, 그러고 딱 떠요. 그런데 다크웹에서 구독형으로 하는 게 있어요. 한 달에 20달러씩 주고. 그런 건.
◇ 박재홍> 가격도 아시네.
◆ 임종인> 스팸메일도 만들어주고 악성코드도 어디 내가 침투하고 싶은데 고급형은 악성코드 만들어줘, 파이썬으로 만들어줘 하면 당장 만들어줍니다.
◇ 박재홍> 파이썬 기술도 안 배워도 되는 상황이네요.
◆ 임종인> 그러니까 얼마 전에 엔비디아 CEO 젠슨 황이 내년부터는 코딩 배울 필요 없어, AI가 더 잘해 줘, 이렇게 자신 있게 공개적으로 얘기했습니다.
◆ 진중권> 안 배우길 잘했다.
◇ 박재홍> 그래서 안 배우신 건 아닐 것 같은데. 우리가 또 CG를 이용해서 실제 한번 유튜브 자료 사진을 볼 텐데, 최근에 인디아나 존스의 해리슨 포드가 40대 캐릭터를 연기하거나 손석구 씨가 최근 살인자ㅇ난감의 손석구의 아역 배우도 CG로 만들어서. 지금 나오고 있는데. 이렇게 이제 사실은 저렇게 생긴 아역 배우를 찾았었는데, 예전에는. 이제는 CG를 통해서 얼마든지 가능하다라는 거네요.
◆ 임종인> 맞아요. 특히 작년에 나왔던 인디아나 존스5에서 지금 80대 해리슨 포드가 40대 모습으로 나와야 되는데 아무리 분장해도 불가능하잖아요. 목소리도 그렇고. 그런데 그걸 갖다가 이런 AI 이용해서 감쪽같이 40대의 해리슨 포드로 바꿔놨잖아요. 그러니까 이제 그 분야의 어떤 분장이라든지 일거리가 확 없어진 거죠. CG도 이제 더 이상 각광받는 게 아니에요. 그러니까 옛날에 픽사라고 해서 스티브 잡스가 해서 재개했지 않습니까? 그런 데가 이제 다 위협을 받는 거예요.
◇ 박재홍> 요즘 여성 배우들 같은 경우에 화면을 나이가 드니까 약간 자신의 미모가 많이 떨어지잖아요. 그걸 어떤 AI 기술을 통해서 그걸 또 계약에 넣는 분들도 있더라 이런 얘기도 있더라고요. 화면이 더 잘 나오게 해 달라 그런 걸 계약에 넣는다 이런 얘기도 있는데.
◆ 진중권> 다른 한편으로는.
◆ 박성태> 이런 딥페이크 영상이 너무 넘쳐나면 우리가 옛날에는 농담식으로 이런 얘기를 하잖아요. 꼭 눈으로 봐야 믿는 사람들이 있어라고 얘기했는데 앞으로 눈으로 봐도 믿을 수 없는, 딥페이크면.
◆ 임종인> 눈으로 봐도 믿을 수 없을 뿐만 아니라 그 사람이 그거 딥페이크인지 아닌지 어떻게 증명해. 너 딥페이크 아니라는 거 증명해 봐. 거꾸로 부정해버리면 굉장히 범죄 수사나 이런 데서도 사실 지장을 받을 수밖에 없어요.
◆ 진중권> 이게 아직까지도 우리가 사진의 관습에 묶여 있거든요. 사진은 딱 피사체가 있었던 거죠, 증거고 기록이고 흔적인데 그렇기 때문에 그런 영상을 보게 되면 그게 있었다고 그냥 무의식 중에 생각을 해버리는데 성격이 전혀 다르잖아. 그러니까 지금은 혼란기에 있는 것 같은데 그러니까 조금 지나면 사람들이 그걸 딱 보면 기본적으로 옛날에 우리가 그림을 보고 예컨대 내가 봤던 범죄현장의 그림입니다. 그러면 우리가 증거로 채택 안 해 주잖아. 그거랑 같은 것으로 관습이 변해가지 않을까.
◆ 임종인> 그러니까요. 그전에 우리 인터넷 초기에 인터넷 리터러시, 그런 얘기하는데 요즘에는 AI에 대한 이해도를 높여서 무조건 믿으면 안 된다. AI 리터러시 얘기가 많이 나오고 있습니다.
◇ 박재홍> 가짜뉴스에서 뉴스 리터러시 강조됐는데 이제 AI 리터러시가 할 게 너무 많은데 최근 윤석열 대통령의 가짜 연설 영상, 경찰이 딥페이크 영상으로 규정하고 방심위에서 함께 차단 요청했던 영상이 있었어요. 결국 차단 조치가 의결되면서 현재는 영상이 모두 내려간 상태라고 하는데 관련 영상이 준비돼 있습니까? 함께 볼까요? 그런데 이게 딥페이크 영상이냐, 사실 딥페이크 영상이 짜깁기 영상이었던 거죠?
◆ 임종인> 그렇죠. 이게 생성형 AI 형태 소라나 이런 걸 이용해서 만들었냐. 그런데 이게 짜깁기하는 기술도 사실은 CG 기술들이 저렇게 감쪽같은 거는 딥러닝 기술이라고 하는 이번 제너러티브의 챗GPT 나오기 전에 AI 기술 그걸 이용해서 사실 만든 거예요. 그런데 저건 말씀하신 것은 우리 대통령께서 이렇게 보면 고개를 자주 돌리시는데 저거 안 돌리시잖아. 저도 보고 저건 좀 이상하다 그랬어요.
◆ 박성태> 저건 그냥 순서만 바꿔서 편집한.
◆ 진중권> 몽타주에 더 가까운 거고.
◆ 임종인> 그런데 그게 별의미 없는 게 사실은 저거 만들면 훨씬 더 감쪽같이 만들 수 있거든요. 그러니까 그리고 그분은 저거 풍자다 이렇게 발뺌을 하는데.
◆ 진중권> 처음부터 밝히고 들어갔죠.
◆ 임종인> 제일 문제는 사실은 국내에서 한 거는 어떻게든 하면 수사도 하고 범인을 잡을 수 있으니까 억제 효과가 있는데 사실은 외국에서 치고 들어오면 이건 일단 아이피 추적도 안 되고요. 특히 만약에 저는 사이버보안 전문가라 저한테 너 어떡할래 하면 우리 유튜브에 이러한 인플루언서 있지 않습니까? 10명 계정 해킹하는 건 일도 아니에요. 그 사람 아이디, 패스워드 딱 해서 10명 계정 해서 쫙 뿌려버리면 순식간에 다 퍼지죠. 그러면 외국에서 더군다나. 그러면 수사도 안 돼요.
◇ 박재홍> 해킹이 일도 아닙니까?
◆ 임종인> 해킹은 일도 아니죠. 얼마든지 사실 유튜브 계정들. 특히 유명한 사람일수록 어떻게 보면 많이 공유하고 공개하다 보니까 이게 노출이 많이 돼서 그 계정 해킹하는 건 일도 아니죠.
◇ 박재홍> 교수님 화이트해커들. 그러니까 해커들과 싸우는 전사들 양성하는 분이니까 그런 말씀도 할 수 있는 것 같은데.
◆ 진중권> 그런 생각을 좀 해 봤거든요. 처음부터 밝히고 들어간다면. 그러니까 AI를 이용해서 좀 전에 저런 영상을 갖다 완벽하게 만들고 AI로 만들고 그다음에 그 사실 밝히고 AI로 합성한 것입니다, 사실이 아닙니다라고 밝히고 했을 때는 그것도 일종에 풍자의 영역에 들어가는 건데 그게 표현의 자유의 측면도 있고 또 다른 한편으로 그것이 오용될 위험도 있는데. 그건 어떻습니까?
◇ 박재홍> 표현의 자유냐, 너무 과한 것이냐.
◆ 임종인> 그건 우리 교수님 말씀하신 것처럼 사실은 표현의 자유, 풍자 이게 경계선상이잖아요. 경계선상인데 어쨌든 딥페이크에서 가장 큰 어떤 부작용은 아동 포르노, 그다음에 명예훼손 그다음에 선거개입, 사기 뭐 이런 것들이 큰 문제고요. 지금 아까 말씀하신 것처럼 그게 단순 풍자인지 패러디 그런 건지. 아니면 명예훼손적인 건지. 아니면 이게 선거에서 하여튼 나쁜 목적을 가지고 하는 건지. 그 경계선상의 어떤 것들은 항상 문제가 되고 사법적 판단을 받아야겠죠.
◆ 박성태> 그러면 가상이라고 밝힌 것들은 사실 패러디라고 볼 수가 있죠. 그런데 말씀하신 AI로 만약에 했다 그러면 그런 것들이 너무 창궐할까 봐 우려할 수 있지만 일단 가상이라고 밝힌 것들은 뭐라 할 수 없는 거 아닌가요.
◆ 진중권> 그러니까 누군가 하나는 그걸 밝히고 썼는데 문제는 뭐냐 하면 그걸 퍼뜨린 사람들이 그걸 떼내고 또 퍼뜨릴 수 있거든요. 그런 문제 때문에.
◆ 임종인> 그리고 말씀하신 것처럼 특히 올해 아까 사실은 다보스포럼에서도 그렇고 다 이게 제일 큰 문제 중의 하나라고 하고 있는데 해외에서 선거 개입하려고. 해외에서 이제.
◇ 박재홍> 해외에서 만들어질 수 있다.
◆ 임종인> 해외에서 만들어서 특정한 나라의 후보를 떨어뜨리려고.
◇ 박재홍> 러시아가 만약에 미국 대선에 개입하기 위해서.
◆ 임종인> 그렇죠.
◇ 박재홍> 이렇게 만들 수 있다는 어떤 가설도 가능한 거죠.
◆ 임종인> 그리고 김정은 위원장 같은 경우도 한국에 작년부터 험한 말 많이 쏟아내고 있잖아요. 그 양반 같은 경우는 이제 뭐.
◇ 박재홍> 북한에서.
◆ 임종인> 북한에서.
◇ 박재홍> 북한 해커들이?
◆ 임종인> 북한 해커들이 그렇게 하는 건. 북한 해커들은 전 세계에서 5위 안에 들어갑니다.
◇ 박재홍> 잘해요?
◆ 임종인> 네.
◇ 박재홍> 우리는 몇 위예요? 말할 수 없습니까?
◆ 임종인> 하여튼 뭐.
◇ 박재홍> 알겠습니다. 그러면 과거에는 북한에서 선거 개입이 총풍이다, 북풍이다 했는데 이 방식이 오히려 딥페이크 영상의 북풍이 올 수 있다, 이런 예상도 가능한 겁니까?
◆ 임종인> 그렇죠. 사실은 많이 알려진 그러한 곳에 대해서는 국민들이 안 속겠지만 갑자기 선거 얼마 앞두고 나서 굉장히 그런 영상을 만들어서 이미지를 훼손시킨다든지 그런 거를 충분히 할 수 있죠.
![[홍소영 제작] 일러스트 연합뉴스](https://file2.nocutnews.co.kr/newsroom/image/2024/03/06/202403061917472261_0.jpg)
[홍소영 제작] 일러스트 연합뉴스◆ 박성태> 조금 더 구체적으로 예를 들어주시면 딥페이크 영상으로 해서 정말 사실과. 왜냐하면 어느 정도 뭔가 나왔다 하면 바로 브리핑이나 이런 걸 통해서 저건 아니다라고 얘기할 수 있잖아요. 지금 뭐 특히 우리나라는 그런 정보가 빨라서. 그런데 이건 정말 국민들이 많이 속겠다 이런 예를 들어줄 수 있습니까?
◇ 박재홍> 미국에 이런 사례가 있었어요. 미국 관련 딥페이크 사례가 있는데 그 얘기를 듣고 우리 교수님의 구체적인 얘기 한번 이어보겠습니다. 그러니까 힐러리 클린턴 전 장관인데. 이분이 공화당 소속을 좋아한다고 가짜영상을 만든 거죠, 그러니까.
◆ 임종인> 그렇죠. 그러니까 젤렌스키 우크라이나 대통령이 나 항복한다 그런 것들도 만든 적이 있습니다. 그러니까 그런 거는 젤렌스키 대통령이 항복한다고? 아닌 것 같은데. 우크라이나가 요새 많이 어렵지 않습니까? 그러니까 그런 것도 있을 수 있고. 사실 지금 이번 총선에 많이 개입하려고 하면 지금 국민의힘 같으면 한동훈 위원장 전체적으로 진두지휘하고 이미지가 굉장히 절대적인 건데. 그분의 예를 들면 이미지를 훼손시키려고 그분도 사실은 옛날에 다른 검사와 별로 다를 게 없었다라든지.
◆ 진중권> 아니면 청담동에서 진짜 술 먹는 장면을 만든다든지.
◆ 임종인> 이런 것을 만든다고 하면 진짜인지 가짜인지.
◇ 박재홍> 딥페이크입니다. 가정입니다, 여러분.
◆ 임종인> 알 수가 없어요.
◆ 박성태> 그런 경우도 있겠네요. 본인이 브리핑을 통해서 이건 가짜 영상입니다라고 얘기해서 그럼 그렇지, 가짜야. 그러니까 저런 앞선 영상 힐러리 클린턴의 멘트 같은 경우에는 저건 딥페이크 하는 사람들이 그러네라고 할 수 있지만 예를 들어서 어떤 데서 약간 옆에서 살짝 찍은 카메라 같은 걸로 예를 들어서 선거운동 말씀해 주셨지만 유력 정치인들이 그런 모습들. 그런 모습들이 나왔을 때 이거 가짜라고 해도 안 믿을 수 있잖아요.
◆ 진중권> 예컨대 투표하기 전날 밤에 딱 뿌려놓고서.
◆ 임종인> 그런데 이게 결국은 선관위에서도 이게 문제가 되니까 공직자 선거법에 선거 3개월 전부터는 딥페이크 사용해서 선거에서 못 쓰게 만들었어요. 그러니까 우리나라는 괜찮아요. 지금 이런 게 딱 뜨면 즉시 예를 들면 국민의힘이든 민주당이건 딱 보고 신고 딱 하면 즉시 네이버, 카카오 이런 데서 차단 조치를 해버려요.
◇ 박재홍> 영상 못 보게.
◆ 임종인> 임시조치를 해 버려요. 그런데 문제는 윤 대통령 가짜영상 같은 경우도 유튜브하고 틱톡 통해서 퍼졌어요. 유튜브하고 틱톡은 전 세계 단일하게 어떤 기준을 하기 때문에 시간이 많이 걸려요.
◇ 박재홍> 영상 내에다.
◆ 임종인> 우리가 요청해도 선관위에서 요청해도 72시간 걸리고요. 방심위에서 요청하면 더 오래 걸려요. 왜냐하면 본사에 결정권이 있어요.
◇ 박재홍> 미국에 있으니까.
◆ 임종인> 그러기 때문에 지난주에 저커버그를 대통령께서 면담하셨을 때.
◇ 박재홍> 그 얘기 하셨어요?
◆ 임종인> 예? 하셨어요. 이게 딥페이크가 민주주의에 큰 위기를 가져올 수 있으니까 메타 여기 인스타그램 가지고 있지 않습니까? 인스타그램 갖고 있으니까 협조를 해라. 그랬더니 거기도 좋게 화답을 했거든요. 그래서 이러한 글로벌 빅테크를 통해서 다 퍼지고 있기 때문에 어떤 국제 협력, 이게 중요하고. 하여튼 그들이 미국 회사들이니까 미국 정부에서 요청하는 것은 빨리빨리 반응하는데 우리나라에서 요청하는 것은 갔다가 오는 데 시간이 너무 오래 걸려요.
◇ 박재홍> 사실 이메일은 금방 가는데 왜 그런 규제들은.
◆ 임종인> 왜냐하면 거기 법률팀에서 한국만 봐주기가 좀 그래요. 그런데 이제 다행인 것은 작년에 이게 한미일 안보실장들끼리 가짜뉴스에 대해서 우리 한미일 동맹이니까 공동 대응하자, 이래서 그런 플랫폼을 만들어놨기 때문에 이제 그거에 의거해서 대통령도 얘기하신 거고 그러니까 아마 효과가 있을 겁니다.
◆ 박성태> 예를 들어서 그런데 이게 딥페이크인지 아닌지 모를 수 있잖아요. 아까 저런 어나운스 같은 건 알 수 있겠지만 유력 정치인 A의원의 음주운전 영상. 좀 흐릿하면서 나와요. 얼굴 보면 그분 같아요. 그런데 그런 게 딥페이크인지 아닌지 알 수 있는데, 전문가들이 보면.
◆ 임종인> 그건 시간이 많이 걸립니다.
◆ 박성태> 시간이 많이 걸려요?
◆ 임종인> 이게 사실은 지금 딥페이크를 발견한 디텍션한 기술들이 많이 나와 있어요. 그러니까 구글도 메타도 다 만들고 있거든요. 그리고 사실은 센티넬이니 솔루션들 많은데 우리 백신들. 저 스마트폰에 백신 5개 깔고 있거든요. 그 이유는 어떤 백신도 완벽하지 않으니까 다중 방어를 하면 방어력이 높아져요.
◇ 박재홍> 정보보호대학원 교수님이니까 백신을 5개 깔고 계시는군요.
◆ 임종인> 원체 스마트폰이 별게 다 있으니까. 그러니까 여기 지금 딥페이크를 발견하는 디텍션 솔루션들이 많이 있는데 그걸 여러 개 중첩해서 해야 되고. 그렇지만 안전하지 않으니까 미국은 어떻게 하냐 하면 신고를 하면 거기다가 콘텐츠 밑에다 라벨링을 딱 해서 이건 의심스럽습니다, 신고 받았습니다, 라벨링을 딱 깔아줘요. 그리고 포르노나 이런 거는 이게 진짜인지 가짜인지 모르는데 일단은 해상도를 확 낮춰버려요. 그리고 그걸 누가 공유하려고 하면 네가 지금 공유하려고 하는 것은 신고된 거다. 이거 확실히 믿지 말아라, 이렇게 해 주는데 그건 미국의 얘기고 우리나라는 오래 걸리고 전 세계에서 지금 프랑스가 유일하게 2017년에 러시아가 선거에 개입했거든요. 그러니까 그때 관련된 정보 조작 방지법이라는 걸 만들어서 이게 강하게 밀어붙이니까 또 프랑스 EU에서 위상이 있으니까 프랑스하고 미국하고 빅테크하고 협조가 잘 돼요. 그러니까 우리도 사실은 이번 총선 끝나면 여야를 가리지 말고 이거 관련된 프랑스 예를 참조해서 법을 만들어서 그거에 의거해서 우리가 얘기를 해야 됩니다.
◇ 박재홍> 마크롱이 그거 잘했군요.
◆ 임종인> 잘했습니다.
◆ 진중권> 또 하나는 얼마 전에 뉴스를 보니까 예컨대 아이유의 음색으로 다른 노래를 커버링을 해서 그걸 올리고 이러죠. 그런데 수익을 창출하지 않았다라고 하는데 일단 논리적으로 그걸 통해서 장사를 할 수도 있는 거 아니겠습니까?
◆ 임종인> 그럼요.
◆ 진중권> 라고 하는데 지금 현재 저작권법으로는 그게 사실 표절도 아니고 조작 저기도 아니고 보호를 못 받는 건데 제가 아이유라면 굉장히 큰 손해를 피해를 받는 거 아니겠습니까?
◆ 임종인> 맞아요. 그러니까 이게 딥보이스거든요. 딥보이스인데요. 그 부분도 지금 말씀하신 대로 사실 몇십 초 분량만 있으면 감쪽같이 할 수 있거든요. 그리고 입술 모양까지 정확하게 만드니까. 더군다나 지금 예를 들면 영어로 얘기하는 걸 한국어로 바꿔주면서 입모양까지 한국어 모양으로 다 바꿔줘요.
◇ 박재홍> 그러니까 프레디 머큐리 목소리로 김광석 노래를 부를 수 있는 것이고.
◆ 임종인> 그러니까. 그 정도가 되는데 이건 저작권 문제인데 전 세계에서 미국의 저작권법이 1790년에 처음 생겼는데 그때는 텍스트하고 악보 이런 거밖에 없었잖아요. 그런데 그다음에 19세기에 축음기도 생기고 그다음에 영화도 생기고 사진도 생기면서 저작권의 범위가 다 넓어지지 않았습니까? 그러니까 지금 말씀하신 그런 부분도 향후 저작권법 개정 때 당연히 개정돼야 될 것으로 생각하고 있습니다.
◇ 박재홍> 진중권의 목소리, 박성태의 목소리. 박재홍의 목소리, 저작권 할 수 있다.
◆ 임종인> 그리고 사실 얼굴, 이런 것도 이분이 돌아가신 분들도 올드팬들이 그리워하는데 그 모양 그대로 살려서 영화 다 만들 수 있거든요.
◇ 박재홍> 그렇네요.
◆ 임종인> 그렇죠? 그러면 그분에 대해서도 여전히 저작권이 다 되는데. 이 저작권이 사실 그분이 돌아가신 다음에도 미국 같은 경우에 사후 70년입니다. 그러니까.
◇ 박재홍> 후손들에게.
◆ 임종인> 후손에게 일종의 재산권이죠.
◆ 박성태> 저 사실 이번에 AI에서 소라 동영상을 만든 소라 나왔을 때 그 기사에 이렇게 나오더라고요. 이 기술은 너무 위험해서 특정 허가받은 업체들만 일단 실험하고 발전시키는 데 쓰는 걸로 한다, 소라는 그쪽에만 오픈이 돼 있다고 하더라고요. 그러니까 사실 영상을 딥페이크 영상이 되게 무서운 건 사실 같을 때잖아요. 너무나 개연성 있는 그림들. 그래서 어느 정도 기술 이상은 당연히 정부가 규제를 해서. 앞서 말씀하신 이렇게 예를 들어서 진중권 교수님이 이렇게 하는 걸 만들어줘, 너무 똑같이 만드는 것들은 아예 그 오픈AI는 그 프로그램 자체는 사용을 못하게 허가받은 소수만 쓰게 이런 식으로 규제가 돼야 되지 않을까.
◆ 임종인> 그 규제가 사실상 어렵습니다. 왜냐하면 아까 말씀드린 암시장이 워낙 창궐하고 있어서요. 그래서 암시장 그걸 막고 하려면 유엔 같은 데서 우리 핵무기 규제 때문에 IAEA 만들었지 않습니까? 그러니까 예를 들면 사이버 IAEA 이런 걸 만들어서 사이버 무기라든지 이러한 다크 AI 이런 걸 국제적으로 공통으로 하고 만약 어기는 사람에 대해서는 금융계좌라든지 이런 걸 하지 않으면 이 다크웹 암시장의 그 시장이 너무 크고 있기 때문에 심지어는 이것까지 용병까지 있습니다.
◇ 박재홍> 용병?
◆ 임종인> 용병. 요즘에 해킹 같은 거 할 때 대단한 테크닉, 돈 주면 비트코인으로 딱 해서 누구 해킹해. 어디 해 줘, 그러면 바로 해킹해 줍니다. 사이버 용병이라고 그래요. 그리고 북한 같은 경우에 작년, 재작년 해서 매년 10억 달러 이상씩 가상화폐 해킹해서 돈 벌지 않습니까? 그러면 옛날 같으면 그거 돈을 해킹해도 그걸 갖다 자금 세탁하는 게 어려웠는데 지금 비트코인 해서 다 믹싱 서비스 이용하면 3% 로열티만 주면 다 자금 세탁해 줘요.
◇ 박재홍> 너무 많은 정보를 받아서. 그럼 이제 방송 듣는 청취자 여러분께서 굉장히 혼란스러우실 것 같아요. 그러면 앞으로 우리는 개인이 살면서 무엇을 조심해야 되는가 이런 또 생각하실 것 같아요. 어떤 말씀 주실 수 있을까요?
◆ 임종인> 그래서 아까 제가 AI 리터러시 얘기했는데요. 사실 이런 거 봤을 때 현혹되지 말고 원래 우리가 원소스 우리 이상한 보이스피싱 전화 오면 다시 전화해서 확인하고 뭐 하라고 하지 않습니까? 그래서 이러한 이상한 이미지 비디오나 이런 걸 목소리를 받았을 때는 자기가 알기 때문에 현혹되는 거니까 원래 소스에 확인해 보는 거, 그게 제일 중요합니다.
그리고 현재 기술들은 국제적으로 지난번에도 한 20개 빅테크들이 우리 전체적으로 이것이 가짜라는 걸 쉽게 알아차릴 수 있는 뭔가 그걸 갖다가 제거할 수 없는 그러한 도구를 거기다 집어넣자, 이러한 것도 하고 있습니다.
◇ 박재홍> 기술이 발달할수록 우리가 더 해야 할 일은 많아 보이네요. 교수님 자주 모셔야 될 것 같습니다. 일단 오늘 여기까지 말씀 듣겠습니다. 고려대학교 정보보호대학원의 임종인 교수였습니다. 고맙습니다, 교수님.
◆ 임종인> 고맙습니다.