딥페이크 기술은 빠르게 발전하고 있으며, 육안이나 분석 알고리즘으로 감지하기 점점 더 어려워지고 있다. 하지만 연구자들은 개인과 기업이 이를 방어할 수 있는 몇 가지 방법을 제안하고 있다.

Yoti에 따르면, 딥페이크 및 인젝션 공격이 연령 및 신원 확인 검사에서 시도된 사기의 3.9%를 차지하며, 이는 2023년의 1.6%에서 증가한 수치다.

이 회사는 다양한 서비스에서 매주 500만 건의 검사를 수행하며, 2025년 1월에는 하루 평균 6,000건 이상의 공격을 감지했다고 밝혔다. 이는 2024년 2월 하루 1,000건에서 급격히 증가한 것이다. Yoti는 딥페이크 문제의 심각성이 많은 사람들에게 인식되기 시작한 1년 전, 이에 대한 대응 방법을 담은 백서를 발표한 바 있다.

유사하게, Sardine은 링크드인 게시글에서 “이 문제가 점점 임계점에 도달하고 있다”고 언급했다. 이 회사는 딥페이크 공격이 더욱 정교해질 뿐만 아니라, 소셜 미디어에서 시작된 후 암호화폐나 금융 플랫폼으로 확산될 것으로 예측하고 있다.

또한, Sardine은 이러한 트렌드가 1차 사기(first-party fraud)의 폭발적인 증가와 맞물리면서 “완벽한 사기 폭풍(perfect storm of fraud)”을 만들어낼 가능성이 있다고 경고했다.

유령 손가락과 어려운 방언

Eurasia Review에 따르면, 사람의 손가락 개수 오류, 일관되지 않은 그림자나 반사, 출처와 메시지의 신뢰성 등 세부적인 실수뿐만 아니라, 기술의 한계를 역으로 이용할 수도 있다. iProov의 조사에 따르면, 응답자의 60%가 자신이 딥페이크를 정확히 식별할 수 있다고 자신하지만, 실제로 이를 증명할 수 있는 사람은 단 0.1%에 불과하다.

노르웨이 과학 연구소 SINTEF의 연구원 비고 텔레프센 비베스타드(Viggo Tellefsen Wivestad)는 딥페이크를 생성하는 딥러닝 알고리즘이 소수의 사용자를 가진 특정 언어의 지역 방언을 처리하는 데 어려움을 겪을 수 있다고 지적한다. 그는 “훈련 데이터의 가용성 때문에, 딥페이크는 요나스 가르 스퇴레(Jonas Gahr Støre)의 동부 노르웨이 방언을 만드는 것이 에르나 솔베르그(Erna Solberg)의 베르겐 방언을 만드는 것보다 더 쉽다”고 설명했다.

비베스타드는 미리 암호를 설정하거나, 사기 용의자가 알 수 없는 세부 정보를 물어보는 방식으로 진짜 사람과 디지털 가짜를 구별할 수 있다고 제안한다. 또한, 사람들이 자신이 소통하는 채널을 직접 통제할 수 있는 방법도 있다.

그는 Eurasia Review와의 인터뷰에서 “사기를 시도하는 사람은 보통 먼저 접촉을 시도하려 한다. 만약 조금이라도 의심이 든다면, 대화를 중단하고 평소 사용하는 공식적인 채널을 통해 상대방에게 직접 연락하는 것이 좋다”고 조언했다. 또한, “현실 자체를 딥페이크할 수는 없다. 따라서 민감한 대화는 가급적 대면으로 진행하는 것이 바람직하다”고 덧붙였다.

다중 모달 생체인식과 규제

다중 모달 생체인식(multimodal biometrics) 역시 딥페이크 방어에 중요한 역할을 할 수 있으며, 이는 최근 Biometrics Institute가 주최한 “On the Pulse Conversation”에서 논의되었다.

이 토론에는 JCour Consulting, Facephi, Crosound AI, Trust Stamp, Facia 등의 대표들이 참여했으며, 딥페이크는 이미 현실이며 이를 완전히 차단하는 것은 불가능하고, 오직 탐지할 수 있을 뿐이다는 결론에 도달했다. 또한, 정부가 딥페이크 방어를 위한 규제를 의무화해야 하는지와 생체인식 기술을 포함해야 하는지에 대한 논의도 이루어졌다.

이 문제는 특정 국가에 국한되지 않고 전 세계적으로 확산되고 있다. Awani International에 따르면, 말레이시아 정부는 딥페이크 규제를 위한 별도의 법률이 필요한지 검토 중이다. 현재 말레이시아에는 허위 콘텐츠 유포를 금지하는 법이 있지만, 최근 딥페이크 관련 사기 사건이 454건 발생하여 국가 경찰에 신고되었으며, 피해 금액이 227만 말레이시아 링깃(약 61만 달러)에 달하면서 기존 법으로는 충분하지 않을 수 있다는 우려가 제기되고 있다.

미국에서는 DARPA가 첨단 딥페이크 탐지 기술을 개발 중이며, 기기 수준의 보안 솔루션도 도입될 예정이다. Gizchina에 따르면, Honor는 2025년 4월에 인젝션 공격을 감지하는 온디바이스 분석 기능을 출시할 예정이다. 그리고 Appdome은 계정 탈취 방지(Account Takeover Protection) 제품군의 일부로 30개의 새로운 동적 방어 플러그인을 출시하며, 이를 통해 네이티브 디바이스 생체인식의 무결성을 보호할 수 있다고 주장하고 있다.