작성자: Xin Ren
보도일자: 2024년 11월 26일
출처: Biometricupdate.com


생성형 AI(Generative AI, 이하 GenAI)는 비즈니스 환경의 판도를 바꾸며 사기범들에게 새로운 도구를 제공하고 있습니다. 사기의 진화를 억제하기 위해서는 AI 규제와 금융 서비스 부문에서 기술적 역할의 확대가 필수적입니다.

GASA와 Feedzai가 발표한 2024년 사기 동향 보고서에 따르면, 전 세계적으로 은행 사기 및 사기로 인한 손실은 1조 달러(약 1,300조 원)에 달했습니다. 이러한 막대한 손실은 은행들이 범죄자들보다 한발 앞서 나가는 것이 그 어느 때보다 중요함을 보여줍니다. 이제 은행들은 사기에 대응하는 방식에서 사기를 예방하는 방식으로 전환해야 합니다.

생성형 AI, 자동화된 사기 및 금융 범죄의 길을 열다

사회 공학적 기법, 데이터 유출로 다크웹에 공개된 민감 정보, 소셜 미디어, 그리고 도난당한 은행 데이터와 같은 기존의 전술에 더해, 사기범들은 GenAI를 활용해 사기를 더욱 정교화할 수 있습니다.

사기범들은 새로운 신원을 빠르게 생성할 수 있을 뿐만 아니라, GenAI는 이 신원에 더 큰 신뢰성을 부여합니다. 가짜 이미지, 동영상, 심지어 허위 음성 녹음까지 생성할 수 있는 능력은 사기범들이 처음부터 완전히 조작된 신원을 만들 수 있게 합니다.

GenAI는 인증 절차를 통과할 수 있는 능력을 갖추며, 금융 범죄의 강력한 도구로 자리 잡고 있습니다. 이러한 도구가 더욱 보편화되고 발전함에 따라, 은행들은 모든 상호작용의 진정성을 의심하게 될 가능성이 높습니다.

‘서비스형 사기(Fraud as a service)’의 확산

GenAI 덕분에, 콜센터는 표적에 대한 정보를 빠르게 수집하고 조직의 운영 방식을 학습하며 특정 은행을 겨냥한 공격을 맞춤형으로 설계할 수 있습니다. 이는 특히 신규 계좌 사기 및 계좌 개설 요청에 대해 우려를 불러일으킵니다.

사기범들은 GenAI 도구를 사용해 은행의 화면 레이아웃과 절차를 학습할 수 있습니다. 이를 통해, 조직의 작동 방식을 파악한 범죄자들은 스크립트를 작성해 신뢰할 만한 신원을 만들고 계좌 개설 사기를 빠르게 실행할 수 있습니다. 따라서 은행들은 이제 “이 사람이 맞는가?”라는 질문에 더해, “내 고객이 인간인가 AI인가?”라는 질문도 던져야 할 것입니다.

AI의 힘을 수용하는 것이 필수적이다

기업들은 AI 기반 위협으로부터 자신을 보호하기 위해 고급 사기 방지 도구가 필요합니다. AI 기반 사기 탐지 시스템은 방대한 거래 데이터를 실시간으로 분석하고, 전통적인 방식으로는 놓칠 수 있는 숨겨진 패턴과 경고 신호를 밝혀낼 수 있습니다.

이와 함께, AI가 생성한 경고에는 명확한 설명이 포함되어야 인간 분석가가 문제의 원인을 이해하고 정보에 근거한 결정을 내릴 수 있습니다.

AI 알고리즘은 편향될 가능성이 있으므로 지속적인 모니터링과 개선이 필요합니다. 따라서 AI 기반 의사결정 과정에서는 여전히 인간의 전문성이 중요한 요소로 남아 있습니다.

금융 서비스 부문의 협업 확대

은행들이 다른 금융 기관(핀테크 및 레그테크 포함)과 협력하여 데이터와 지식을 공유하고 국제적 사기 시스템에 맞서 방어력을 강화하려는 움직임이 증가하고 있습니다. 하지만, 은행들은 법적 문제 노출에 대한 우려 때문에 정보 공유를 꺼리는 경우가 많습니다.

데이터 공유와 협력을 개선하려면, 규제 당국이 은행에 대해 명확하거나 완화된 입장을 제공해야 합니다. 협업이 목표라면, 데이터가 올바르게 공유되도록 하기 위해 최고 수준에서의 명확성이 필요합니다.

금융 기관은 데이터 기반 인사이트를 활용하여 자원 배분을 최적화하고, 고위험 사례에 집중할 수 있습니다. 이를 통해 모든 거래를 수동으로 철저히 조사해야 할 필요성이 줄어들어 팀이 노력을 효과적으로 우선순위화할 수 있습니다. 결과적으로, 조직은 가장 중대한 사기 사례를 예방함으로써 효율성을 높이고 비용을 절감할 수 있습니다.

AI와 머신러닝: 사기 방지를 위한 방패

은행들은 실시간으로 사기를 탐지하고 예방하기 위해 AI와 머신러닝을 필요로 합니다. 사기 분석은 잠재적인 손실을 줄일 뿐만 아니라 고객이 은행에 대한 신뢰를 형성하는 데 도움을 줍니다.

사기 분석은 인공지능(AI), 머신러닝, 예측 분석을 결합하여 방대한 데이터를 고급 분석하며, 이를 통해 은행들이 데이터를 신속히 처리하고 의심스러운 사기에 실시간으로 대응할 수 있도록 합니다.

미국 은행들과의 경험을 바탕으로, 이들 은행은 잠재적인 사기 거래의 절반을 감지할 수 있었습니다. 하지만 AI와 머신러닝의 활용을 통해 사기의 60%를 탐지해 수백만 달러의 잠재적 손실을 예방할 수 있었습니다.

또한, GenAI는 오탐(False Positive)을 40% 줄여 은행이 더 투명하고 원활한 고객 경험을 제공할 수 있게 했습니다.

결론

빅데이터 시대의 은행들은 더 이상 전통적인 규칙 기반 시스템에만 의존해 사기 거래를 감지할 수 없습니다. 사기범들은 은행의 규칙을 빠르게 학습하고, 이를 피해 사기를 저지를 방법을 찾아냅니다. 새로운 사기 수법이 나타날 때마다 은행은 끝없는 ‘고양이와 쥐’ 게임에 휘말리게 됩니다.

은행과 금융 기관에게 AI를 둘러싼 규제 환경의 변화는 도전이자 기회입니다. 한편으로는 새로운 지침을 준수하기 위해 AI 기반 프로세스를 신속히 업데이트해야 하며, 이에 따른 잠재적 책임도 고려해야 합니다. 다른 한편으로는 이러한 원칙 준수가 고객 및 이해관계자의 신뢰를 강화할 수 있으며, 이는 금융 업계에서 매우 중요한 자산입니다.

저자 소개

신 렌(Xin Ren)은 Feedzai의 데이터 과학 수석 디렉터로, 금융 산업에서 10년 이상의 경력을 보유하고 있습니다. 그녀는 AI 기반 전략을 구현하고 데이터 과학의 모범 사례를 고객에게 제공하는 데 전문성을 가지고 있습니다.