테일러 스위프트도 당한 딥페이크, 어디까지 왔고 막을방법은

딥페이크는 기술은 A사람의 얼굴을 AI에 인식시켜서 B사람에 합성하는 기술입니다. 주로 연예인, 정치인 간혹 일반인 대상으로 활용되기도 해서 이제 앞으로 음란물, 불법광고, 보이스 피싱 등에 악용될까봐 걱정 됩니다. 

 

테일러 스위프트케이스, 딥페이크 기술

테일러 스위프트 피해

테일러 스위프트

최근 테일러스위프트 얼굴을 합성하여 음란물을 제작, 그리고 X(구 트위터)에 공유하여 4,700만명이상의 조회수를 기록했습니다. 이미 삭제되었지만 진짜로 믿는사람도 많아져서 테일러스위프트는 이미지 타격을 받았습니다.

대표적인 얼굴합성 어플리케이션

Faceplay: 중국앱이고 템플릿마다 무료/유료가 있어서 사용하시면 됩니다.
DEEPSWAP: 주로 영화 주인공 교체용으로 쓰며 엠마왓슨 얼굴을 예전 영화주인공에 합성할 수 있습니다. 달에 10달러 정도 구독료를 가지고있습니다. 

 

출처 DEEPSWAP 앱에서 보여주는 기술

이외에도 Fotor, Picsi.Ai, FaceApp, Morph, Reface 등이 있으며 대부분 공짜인것처럼 하지만 이메일 가입을 요구하고 신용카드 정보 기입 강제하므로 신중하게 결정하시길 바랍니다. (신용카드 가입한다고 말도안되는 금액을 부과하지는 않지만 까먹고 계속 구독하는 경우도 많음)

 

그럼 어떻게 막아야 하나?

탐지 기술 개발: 아래는 대표적인 딥페이크 감지 기술 업체 입니다. 

2024년 최고의 AI 딥페이크 탐지기 7가지 도구 - 테코피디아 (techopedia.com)

 

위베리파이(WeVerify)
딥웨어 스캐너(Deepware Scanner)
마이크로소프트(Microsoft Video AI Authenticator)
센시티(Sensity)
포네메-비세메 미스매치 탐지기(Phoneme-Viseme Mismatch Detector)
센티널 AI(Sentinel AI)
인텔의 페이크캐쳐(Intel’s FakeCatcher)

플랫폼의 책임: 구글, 틱톡, 네이버 등 주요 플랫폼들은 딥페이크 콘텐츠의 게재 시 워터마크나 다른 방법으로 딥페이크가 된 콘텐츠다 라는걸 알려야하는 의무를 부과하는 방법도 있습니다. 

 

 

우리나라는?

 

우선 오는 4월 국회의원 총선거를 앞두고 이같은 딥페이크 기술이 악용될 것을 우려해 선거관리위원회가 단속에 나섰습니다. 정치권은 가짜뉴스때문에 선거 자체가 망가지기 때문에 국회의원 후보자들이 정정당당하게 싸울수있도록 AI 감별반을 구성해 딥페이크를 활용한 선거 운동 단속에 나섰습니다.

 

예를들면 A정치인이 사석에서 극단적인 말을 쏟아내는 영상이 돌아다닌다면 일부 사람들은 팩트체크도 안하고 그 후보자에게 투표를 안하게 될수 있습니다. 

 

또한 유럽 연합에서 AI법안이 승인되고있는데 내용은 다음과 같습니다. 

 

 

EU AI 법안 승인 과정

EU 회원국들이 AI법안에 대해 만장일치로 승인했으며 유럽의회 전체투표만 남은 상황입니다. (4월에 진행 예정) 

AI 법안의 주요 내용

얼굴인식 기술 제한: 테러범 추적이나 국가 안보를 제외하고는 얼굴인식 기술 사용을 엄격히 제한합니다.
생체정보 사용 제한: 생체 정보의 수집과 사용을 엄격히 제한합니다.
투명성 의무 강화: 챗GPT와 같은 생성 AI 개발 업체는 시장 출시 전에 투명성 의무를 준수해야 합니다.
데이터 공개 의무화: 자율주행차와 같은 고위험 기술을 사용하는 기업은 데이터를 공개해야 합니다.
금지 규정 위반 벌금: 최대 3천500만 유로 혹은 세계 매출의 7%에 해당하는 벌금이 부과됩니다.

 

반대 의견

독일과 프랑스의 반대: 독일과 프랑스는 처음에 AI법안에 반대 의사를 표명했습니다. 코로나때문에 인플레이션이 심한데 뉴 테크 기술인 AI기술이 나오기도 전에 제동을 건다면 성장을 할 수가 없기 때문에 지켜봐야한다는 입장이었습니다. (결국 규제에 찬성하는 쪽으로 감)