작성자: Joel R. McConvey
보도일자: 2025년 5월 14일
출처: Biometricupdate.com


딥페이크가 공격할 때, 누구에게 연락해야 할까? 이는 리얼리티 디펜더(Reality Defender)의 CEO 벤 콜먼(Ben Colman)이 새 블로그에서 제기한 근본적인 질문이다. 그는 딥페이크가 기존 보안 사고 대응의 한계를 시험하고 있으며 “준비 부족이라는 격차가 점점 벌어지고 있다”고 지적한다.

이 문제를 해결하기 위해 딥페이크 탐지 전문 기업인 리얼리티 디펜더는 “현재 인식에서 행동으로 전환해야 하는 팀들을 위해 맞춤화된, 기업 수준의 딥페이크 탐지 및 대응 계획 수립을 위한 실질적인 프레임워크”를 제공하는 가이드를 발표했다.

사기 수법은 이제 바뀌었다. 더 이상 악성코드나 네트워크 침해에 의존하지 않고, ‘신뢰’를 악용하는 모델로 이동하고 있다. 콜먼은 “복제된 음성은 기존 음성 생체 인증 시스템을 통과할 수 있다”며 “가짜 영상 통화는 충분한 정밀도로 회사 임원을 사칭해 송금이나 비밀번호 재설정을 유도할 수 있다”고 설명했다.

“보안 리더들은 이미 AI로 생성된 음성과 영상이 임원을 사칭하고, 직원들을 고위험 행동으로 유도하며, 실시간으로 생체인식 시스템을 우회하는 데 사용되고 있다는 사실을 잘 알고 있습니다. 이제 문제는 ‘인식’이 아니라 ‘책임’입니다.”

여기서 말하는 책임이란, 기존의 보안 분류 체계를 무너뜨리고 구식 사기 방지 시스템을 혼란에 빠뜨리는 딥페이크 공격에 대응하기 위한 공식적인 구조와 프로세스를 의미한다.

콜먼은 이렇게 말한다. “대부분의 조직에는 딥페이크 대응을 위한 매뉴얼이 존재하지 않습니다. 예를 들어, 한 사기 분석가가 고객의 의심스러운 행동에 대한 보고를 받았을 때, 합성 음성을 분석할 도구가 없을 수 있습니다. 보안운영센터(SOC) 분석가가 이상 징후를 감지하더라도, 영상이 위조된 것이라면 이를 상위 대응 체계(escalation)로 올릴 경로조차 없는 경우가 많습니다.” 핵심 문제는 바로 분절성이다. AI 기반 사기 행위는 어느 한 팀의 전담 책임으로 명확히 구분되지 않기 때문에, 조직 내에서 사각지대로 떨어지기 쉽다는 것이다.

리얼리티 디펜더의 효과적인 딥페이크 대응 계획은 다섯 가지 핵심 요소로 구성된다. 최고 수준의 탐지가 시작점이다. “악의적인 AI 생성 콘텐츠가 존재한다는 신뢰할 수 있는 신호가 없다면 대응할 대상도 없는 셈이다. 탐지는 메타데이터 분석이나 피상적인 휴리스틱을 넘어야 하며, 조작이 발생하는 즉시 이를 표시할 수 있도록 통신 채널을 실시간으로 스캔할 수 있어야 한다.”

트리아지(Triage)는 어떤 사람이 탐지된 통신을 검토할지, 무엇이 에스컬레이션(상위 보고)의 대상이 될지 혹은 기각될지를 정의한다. “이상적으로는, 탐지 플랫폼이 신뢰도 점수를 제공함으로써 분석가에게 부담을 주지 않으면서 트리아지 판단에 도움을 줄 수 있어야 한다.”

에스컬레이션은 사건 대응의 책임과 전달 체계를 정의한다. 이는 특히 임원진, 재무팀, 고객 응대 직원을 겨냥한 사칭 시도에 있어서 중요하다.

귀속(attribution)과 포렌식(forensic)은 팀이 특정 미디어가 조작되었는지를 검증하고, 내부 또는 외부 검토를 위한 증거를 문서화하며, 해당 인사이트를 현재 진행 중인 사기 또는 위협 인텔리전스 워크플로우에 통합할 수 있도록 한다.

그리고 커뮤니케이션 및 차단(containment)은 합성 공격이 고객, 파트너 또는 대중과 같은 외부 이해관계자에게 도달했을 때 작동된다.

팀 역할과 책임을 조율하는 것은 취약점을 해소하는 데 핵심이다. “사기, 보안, 법무, 커뮤니케이션 부서 간의 명확한 책임 분담을 수립하는 것이 매우 중요하지만 종종 간과된다. 조직은 비공식적 에스컬레이션 경로에 의존하기보다는 사건 유형, 사칭 대상, 커뮤니케이션 채널에 따라 대응 책임자를 명확히 정의해야 한다.”

대응 계획은 실제로 테스트되고 시뮬레이션되어야 한다. “팀이 딥페이크 영상통화나 조작된 임원 영상에 어떻게 대응하는지를 연습해 보면, 실제 상황에서 위험이 발생하기 전에 프로세스의 허점을 발견하는 데 도움이 된다.”

보안 인식도 한 단계 업그레이드되어야 한다. “사기, IT, 고객 지원 부서 전반의 팀은 AI로 조작된 실제 커뮤니케이션 사례를 접해보고 그 영향력을 이해해야 한다. 그래야 단순한 인간의 직관만으로는 이를 잡아낼 수 없다는 사실을 인식할 수 있다.”

은행권의 음성 사기는 단순한 수익 손실을 넘어선 피해를 초래한다

사기 방지에 관한 별도의 게시물에서는 은행권에서의 음성 사기를 조명하고 있다. “음성 사기는 더 이상 새롭게 떠오르는 리스크가 아닙니다,”라고 콜먼(Colman)은 쓴다. “이제는 실제로 금융기관에 영향을 주고 있는 입증된 고비용 공격 벡터입니다.”

피해는 단기적인 손실에 그치지 않는다. “AI 기반 음성 공격은 조직으로 하여금 위기관리 및 사후 대응에 막대한 투자를 하게 만듭니다. 여기에는 침해 원인을 파악하기 위한 포렌식 조사, 향후 재발 방지를 위한 보안 프로토콜 강화, 그리고 평판 손상을 줄이기 위한 대외 홍보 활동 등이 포함됩니다. 이 모든 활동은 막대한 시간, 인력, 자본을 필요로 합니다.”

고객 신뢰의 타격도 또 다른 위험 요소이며, 규제 당국과의 충돌 가능성 또한 존재한다.

조직을 더욱 효과적으로 돕기 위해, 콜먼은 “5가지 핵심 요소를 기반으로 노출 위험을 계산하는 실용적인 프레임워크”를 제시한다. 이 5가지 요소는 다음과 같다: 인증 노출 범위, 고액 거래의 빈도, 콜센터 및 상담원의 회복력, AI 생성 사기를 탐지할 수 있는 능력, 규제 및 컴플라이언스 민감도.

콜먼은 “이 다섯 가지 요소를 종합적으로 적용하면, 금융기관은 자사의 노출 위험에 대해 리스크 가중 모델을 구축할 수 있다”고 설명한다.

생성형 AI 협업을 통해 탐지 역량 강화

콜먼은 Customer Experience Magazine과의 인터뷰에서 콜센터가 직면한 위협과, AI가 사전 대응형 딥페이크 방어에 어떤 역할을 하는지에 대한 생각도 밝혔다.

콜먼은 “우리의 AI 기반 탐지 모델은 방대한 데이터를 분석하고, AI 조작의 징후가 되는 미세한 이상 징후들을 대규모로 식별할 수 있습니다”라며, “생성형 AI 기업들과의 협력을 통해 이들의 모델을 조기에 접할 수 있고, 이를 바탕으로 사전적으로 탐지 기법을 개발할 수 있습니다”라고 말했다.