작성자: Masha Borak
보도일자: 2024년 10월 20일
출처: Biometricupdate.com


50년이 넘는 세월 전, 미국 심리학자 폴 에크만은 단지 얼굴을 보기만 해도 자살할 가능성이 있는 사람을 구별할 수 있는지 알아보고자 했다.

그는 프로젝터를 설치하고 정신과 환자와의 12분짜리 인터뷰를 프레임별로 분석하며 수백 시간을 보냈고, 그녀의 미세한 표정과 제스처를 하나하나 기록했다. 인터뷰 중 환자는 명랑해 보였지만, 얼굴 표정은 다른 이야기를 하고 있었다. 에크만은 이후 미세 표정 연구의 선구자 중 한 명이 되었다. 미세 표정은 감정 반응으로 인해 나타나는, 0.5초 미만으로 지속되는 미세한 얼굴 표정을 의미한다.

오늘날 유럽의 법 집행 기관들은 동일한 과학을 적용하여 신원 도용, 사기, 협박에 자주 사용되는 합성 인물 동영상인 딥페이크를 단속하려 하고 있다. 얼굴 생체 인식 소프트웨어 제조업체인 스페인 바르셀로나에 본사를 둔 헤르타 시큐리티(Herta Security)가 이 목표를 달성하는 데 도움을 주고 있다.

헤르타는 딥페이크 탐지에 있어 기존의 방식과는 차별화된 혁신적인 접근법을 사용하고 있다고 말한다. 빠르게 발전하는 딥페이크 기술에 의존하거나 영향을 받지 않는 독립적이고 중립적인 기술을 만들어 향후 기술 변화에 대응하고자 한다.

“우리는 [딥페이크 탐지]를 인간 관점에서 접근합니다. 이는 딥페이크가 요즘 제대로 모방하지 못하는 미세 표정을 기반으로 하고 있습니다.”라고 헤르타의 최고기술책임자(CTO)인 마누엘 파스토르는 말한다. “딥페이크는 자연스럽게 눈을 깜빡이지도, 웃지도 않습니다. 사람이 설명하기 어려운 점이죠.”

헤르타는 유럽 경찰 부서들이 사이버 범죄와 신원 도용을 단속할 수 있는 소프트웨어 도구를 개발하기 위해 결성된 12개의 회원사 컨소시엄의 일원이다. 유럽 신원 도용 관찰 시스템(EITHOS)으로 알려진 이 조직은 딥페이크 얼굴 및 음성을 탐지하는 작업을 하는 대학, 법 집행 기관, 기업들을 한데 모아 온라인 신원 도용의 유럽 허브가 되는 것을 목표로 한다.

EU의 호라이즌 2020(Horizon 2020) 프로그램의 자금을 지원받는 EITHOS는 유럽에 있어 매우 중요한 시기에 출범했다. 최근 딜로이트의 설문 조사에 따르면 향후 12개월 동안 딥페이크 금융 사기가 급증할 것으로 예측되고 있으며, 성적인 딥페이크(딥 누드)를 사용한 협박 사건이 계속해서 언론의 주목을 받고 있다.

이 이니셔티브는 현재 신원 도용에 대한 경찰 수사를 지원하기 위해 네 가지 도구를 개발하고 있다. 여기에는 딥페이크 비디오 탐지 외에도 텍스트 및 오디오 분석 소프트웨어를 EITHOS에 제공하는 스페인의 AI 응용 연구 개발 센터인 비콤텍(Vicomtech)이 제작한 딥페이크 오디오 탐지가 포함된다. 또한 피싱 및 기타 사기를 위한 소셜 미디어 봇넷을 분석하고 딥페이크 생성기가 논의되는 온라인 포럼에서 데이터를 추출하는 도구도 있다.

헤르타의 도구는 의심되는 딥페이크 비디오의 표정 세트와 실제 사람을 보여주는 비디오의 표정 세트를 비교한다.

파스토르는 “비자발적 표정은 뇌의 의식적 부분에 의해 통제되지 않습니다. 사람이 자연스럽게 말할 때는 자연스러운 빈도로 눈을 깜빡이고 특정한 방식으로 웃는데, 이는 모방할 수 없습니다 […] 우리가 잠재적으로 가짜 비디오에서 찾고 있는 것이 바로 그것입니다.”라고 말한다.

이 과정에는 여러 기계 학습 알고리즘이 포함된다. 헤르타는 스페인 경찰을 위해 미세 표정 알고리즘을 만든 경험을 바탕으로 이 기술을 구축하고 있다. 이 도구는 심문 중 피해자와 용의자의 비정상적인 행동을 감지하도록 설계되었다.

이 새로운 안티 딥페이크 소프트웨어는 현재 베타 테스트 중이며, 스웨덴, 그리스, 스페인의 세 법 집행 기관이 이를 탐색 중이다. 헤르타는 이 제품이 유럽의 다른 경찰 기관에 곧 제공될 수 있을 것으로 기대하고 있다.

파스토르는 “프로젝트의 최종 목표는 주로 유럽의 [법 집행 기관] 뿐만 아니라 EU 외부에도 판매할 수 있는 상용 제품을 만드는 것입니다.”라고 말한다.

EITHOS의 3개년 계획에 따르면 이 도구들은 2025년에 준비될 예정이다.

이 프로젝트는 2022년에 시작되었으며, 그리스 테살로니키의 헬라스 연구기술센터(CERTH)가 이를 주관하고 있다. 이탈리아 기업인 엔지니어링, 그리스의 안전연구센터(KEMEA), 유럽 공공안전통신(PSCE)도 참가하고 있다.

법 집행 기관을 위한 기술 도구 개발 외에도 컨소시엄의 또 다른 과제는 신원 도용 및 개인정보 보호에 대한 대중의 인식을 높이는 것이다. 볼로냐 대학, 벨기에 브뤼셀 자유대학의 사이버 및 데이터 보안 연구소(CDSL), 마드리드 공과대학 등 교육 기관들이 신원 도용의 사회적, 심리적, 법적 측면에 대한 연구를 진행 중이다.

파스토르는 “신원 도용 피해자들은 경찰에 자주 신고하지 않습니다. 그들은 이를 비밀로 하고 스스로 해결하려고 합니다. 부끄러움을 느끼기 때문입니다.”라고 말한다.

연구에 따르면 신원 도용 피해자는 기술에 능통하고 고학력인 계층까지도 포함된다. 신원 도용에는 종종 가짜 음란물 비디오로 협박하는 경우가 포함되며, 이는 피해자가 도움을 요청하기 망설이게 만든다.

파스토르는 “시민들이 이러한 특정 범죄에 대해 [법 집행 기관]의 기술적 지원과 도움을 받을 수 있다는 것을 인식하는 것이 매우 중요합니다.”라고 말했다.