작성자: Joel R. McConvey
보도일자: 2025년 4월 17일
출처: Biometricupdate.com


딥페이크 위협이 계속되면서, 제공업체들은 점점 더 정교해지는 합성 미디어, AI 생성 오디오 및 외모 도용에 맞서 기술을 정교화하기 위해 파트너십을 추진하고 있다.

Reality Defender, 음성 엔진 데이터셋으로 딥페이크 탐지 AI 훈련 예정

Reality Defender는 AI 음성 생성 플랫폼인 PlayAI와 전략적 파트너십을 체결했다고 발표했다. 이번 협업을 통해 Reality Defender는 PlayAI의 음성 모델에서 생성된 데이터를 활용하여 딥페이크 탐지 도구의 정확성과 내성을 향상시킬 예정이다.

보도자료에 따르면, 이번 협력은 PlayAI가 “AI의 윤리적이고 책임 있는 사용에 대한 헌신, 그리고 디지털 환경 내에서의 신뢰와 책임의 중요성”을 보여주는 사례라고 한다.

PlayAI의 CEO 마흐무드 펠펠(Mahmoud Felfel)은 “PlayAI는 생성형 AI가 인류에게 근본적인 진보라고 믿지만, 이 기술이 사회적 정렬을 유지하기 위해서는 새로운 기술이 필요하다”고 밝혔다. 그는 “Reality Defender와의 파트너십을 통해 사용자들에게 또 다른 딥페이크 방어 계층을 추가함으로써 이러한 신념을 더욱 강화하고 있다”며 “우리는 AI와 신뢰가 조화를 이루는 미래를 만들고자 하는 같은 목표를 공유한다”고 덧붙였다.

해당 기업(PlayAI)은 자신들이 Reality Defender가 해결하고자 하는 딥페이크 문제의 원인이 되는 업체는 아니라는 점을 굳이 명시하고자 한 것으로 보인다. 그러나 그들이 제공한다고 밝힌 서비스 – “인간처럼 진짜 같은 생성형 AI 음성, 웹, 전화, 앱 등 어디든 배포 가능” – 은 분명 딥페이크 방어 기업들이 경고하는 저렴하고 쉽게 사용 가능한 음성 엔진 기술의 전형으로 보인다.

AI 산업 전반에 이러한 경향이 나타나고 있다. 위협이 될 정도로 강력한 기술을 개발한 다음, 그 위협을 막기 위한 기술 개발에도 뛰어드는 것이다.

그럼에도 불구하고 이번 파트너십은 Reality Defender에 있어 큰 수확이다. 이들은 PlayAI가 생성형 AI로 제작한 음성 데이터 라이브러리를 활용해 자사의 특허받은 딥페이크 탐지 알고리즘을 훈련할 수 있게 되며, 이는 ‘적을 알라’는 격언을 충실히 따르는 셈이다.

Reality Defender의 CEO 벤 콜먼(Ben Colman)은 이번 협력에 대해 “생성형 음성 사기 위협이 증가하는 가운데, 이를 대응하는 우리의 역량을 강화한다”고 밝혔다. CTO인 알리 샤리야리(Ali Shariyari)도 이에 동의하며 “PlayAI는 생성형 AI 음성 기술 분야의 선두주자로서, 우리 팀이 악의적 행위자와 사기범들보다 몇 단계 앞서 나갈 수 있도록 고도화된 탐지 기능을 제공하는 데 핵심적인 역할을 하고 있다”고 덧붙였다.

실시간 딥페이크 탐지를 최적화하는 KOBIL 통합

KOBIL은 딥페이크 음성 탐지 기능을 향상시키기 위해 다름슈타트 공과대학교(Technical University of Darmstadt)와 협력하고 있다.

디지털 신원 인증 및 모바일 보안 전문 기업인 KOBIL은 보도자료를 통해, 다름슈타트 공대의 시스템 보안 연구실(System Security Lab)이 개발한 ‘VoiceRadar’라는 도구를 자사의 Secure SuperApp 플랫폼에 통합하여 실시간으로 신원 확인과 딥페이크 음성 탐지를 최적화할 예정이라고 밝혔다. 이 도구의 맞춤형 버전은 실리콘밸리에 위치한 KOBIL 벤처 스튜디오를 통해 창업 희망자들에게도 제공될 예정이다.

KOBIL 그룹의 CEO 이스메트 코윤(Ismet Koyun)은 “우리는 이제 보이거나 들리는 모든 것을 믿을 수 없는 시대에 살고 있습니다. 딥페이크 기술이 잘못된 사람들의 손에 들어가면 경제적, 인적, 사회적 피해를 초래할 수 있습니다”라고 말했다.

Doppel이 GetReal Security와 협력하여 악성 콘텐츠를 모니터링합니다

Doppel과 GetReal Security가 임원들을 겨냥한 딥페이크 위협에 대응하기 위해 파트너십을 맺었습니다. Doppel은 소셜 엔지니어링 공격에 대한 알고리즘 기반 방어 솔루션을 제공하며, GetReal Security는 “악의적인 AI 생성 콘텐츠”, 즉 딥페이크에 집중하고 있습니다.

두 회사의 보도자료에 따르면, 딥페이크와 합성 미디어는 2025년 세계경제포럼(WEF)이 2년 연속 선정한 세계 최고 수준의 기술적 리스크로 꼽혔습니다. 양사의 통합 솔루션은 “온라인 상의 딥페이크를 사전에 모니터링하고, 다층적 분석을 통해 디지털 콘텐츠의 진위를 검증하며, 앙상블 머신러닝, 통계 분석, 고급 포렌식을 기반으로 한 설명 가능하고 증거에 기반한 결과를 제공합니다.”

Doppel의 CEO 케빈 티안(Kevin Tian)은 “AI는 위협 지형을 빠르게 변화시키고 있으며, 특히 딥페이크는 기업과 임원들에게 막대한 위협이 되고 있다”고 말했습니다.

GetReal Security의 CEO 맷 모이너핸(Matt Moynahan)도 이에 동의하며, “디지털 콘텐츠의 진정성이 위협받고 있으며, 합성되고 기만적인 미디어를 제작하고 유포하는 장벽이 사실상 사라졌다”고 말했습니다. 그는 “이번 파트너십을 통해 기업은 의심스러운 콘텐츠를 조기에 탐지하고, 정밀한 진위 평가 및 포렌식 근거를 기반으로 중요한 순간에 신속히 대응할 수 있는 이점을 얻게 된다”고 덧붙였습니다.

Loti AI가 시리즈 A 투자 라운드를 마무리하며 1,620만 달러(약 220억 원)의 투자를 유치했습니다

“유사성 보호 기술(likeness protection technology)”을 제공하는 Loti AI가 Khosla Ventures가 주도하고 FUSE, Bling Capital, Ensemble 등이 참여한 시리즈 A 투자 라운드에서 1,620만 달러(약 220억 원)의 자금 조달을 마무리했다고 보도자료를 통해 밝혔다.

이번 투자 유치는 2024년 10월에 있었던 665만 달러 규모의 시드 라운드를 기반으로 한 것으로, 당시에는 FUSE, Bling Capital, Khosla Ventures, Ensemble, Alpha Edison, K5 Tokyo Black 등이 투자에 참여했다. 이번 투자금은 제품 개발, 시장 확장, 시스템 확장에 사용되어 공공 인물, 브랜드, 일반 개인을 위한 보호 기능을 강화하는 데 쓰일 예정이다.

Loti AI의 CEO 루크 아리고니(Luke Arrigoni)는 “Loti AI는 사람 중심의 AI를 실현하는 데 전념하고 있습니다. 우리의 비전은 개인의 자율성과 기술 발전이 조화를 이루는 미래이며, 이것이 창의성을 촉진하고 사회에 혜택을 줄 수 있다고 믿습니다. Khosla Ventures와 협력하여 온라인에서의 유사성 및 라이선싱 문제를 해결하는 것은 인간 중심 가치를 우선시하는 중요한 걸음이며, 앞으로의 여정을 함께하게 되어 기쁩니다”라고 전했다.

소셜 미디어에서의 사칭, 딥페이크, 음성 시뮬렝션, 정보 유출은 셀럽, 예술가, 운동선수, 정치인과 같은 유명인들에게 새로운 위협이 되고 있다. 하지만 유사성 도용(자신의 얼굴, 목소리 등을 무단으로 사용당하는 문제)은 이제 누구에게나 닥칠 수 있는 문제가 되어가고 있다. 이를 반영하듯 Loti는 일반 사용자도 무단 콘텐츠를 모니터링하고 삭제 요청할 수 있도록 무료 서비스를 제공하고 있다.

Khosla Ventures의 존 추(Jon Chu)는 “Loti에 대한 우리의 투자 논리는 간단합니다. 생성형 AI는 새로운 딥페이크 기술을 가능하게 하며, 이는 사기와 신뢰에 대한 새로운 위험과 도전 과제를 만들어냅니다. 이러한 문제에 대해 오늘날 셀럽, 인플루언서, 브랜드들은 제대로 대비하지 못하고 있습니다. Loti는 세계 최고 수준의 기술과 업계를 선도하는 제품을 갖추고 있으며, 그 효과를 이미 입증했습니다”라고 말했다.