업계에 새로운 두려움이 드러났습니다. 바로 AI가 만든 마치 진짜처럼 보이는 가짜 신분증 이미지입니다. 2023년 2월 언론사들은 IT 신경망을 사용하여 원격 신원 확인 도구를 속이는 데 사용할 수 있는 가짜 ID 이미지를 생성한다고 주장하는 OnlyFake라고 알려진 다크웹 앱에 대한 스토리를 포착했습니다. 신분증 사진만 있으면 가입할 수 있는 비트코인과 같은 사이트는 AI가 생성한 가짜 신분증을 사용해 허위 신원으로 가입하는 고객으로 인해 잠재적 위험에 처해졌습니다.

인공 지능의 기능과 가용성의 주요 발전은 지난 몇 년 동안 온라인 사기 감시자들의 관심사였습니다. 따라서 우리 팀은 AI가 만든 가짜 ID의 성능이 얼마나 좋은지를 알아보기 위해 신속하게 취재했습니다.

 

OnlyFake 앱 테스트

OnlyFake 사이트는 Google 검색을 통해 쉽게 접근할 수 있었습니다. AI 성인 이미지 생성을 위한 무료 사이트입니다. 대부분의 뉴스 기사가 "Only Fake"를 언급했기 때문에 우리는 그것이 범인인지, 또는 책임이 있는지를 알아보기 위해 이 사이트를 시험해 보기로 결정했습니다. "여성의 루이지애나 운전 면허증"이라는 연관 단어들을 넣으면, 다음 이미지가 빠르게 생성됩니다.



모든 AI가 원하는 결과를 생성하려면 연관 단어 입력과 기술 훈련이 필요하지만 이 이미지는 ID 스캐너를 스캔하고 속일 수 있는 ID 이미지는 물론이고 시각적으로 통과할 수 있을 정도 수준의 ID 이미지와도 거리가 멀기 때문에 사기꾼이 위조된 문서를 생성하기 위해 이 사이트를 사용할 수 없다고 판단했습니다.

가짜 신분증 이미지를 위한 비밀 텔레그램 채널

몇몇 뉴스 기사에서는 애플리케이션과 사기꾼들이 AI로 만든 새로운 가짜 신분증 이미지에 대해 논의하고 있는 공유 채널을 언급했습니다. 현재 비공개 처리 되어있는 텔레그램방에서 최근 뉴스와 관련된 다음 메시지를 보았습니다.



이 대화방에는 다양한 위조 문서 형식(운전면허증과 여권 모두)의 사용 가능성에 대해 논의하고 있는 수십 개의 메시지들이 있었는데, 그 중 다수는 러시아어였습니다. 이 대화방에 연결된 .RU 사이트 Passport Cloud는 초보자도 사용하기 쉬운 구조와 샘플 ID에 친숙한 얼굴(유명 할리우드 배우)이 있는 가짜 ID 생성기를 갖추고 있습니다. Passport Cloud는 AI 시스템을 구축하기 위해 5,000개의 운전 면허증을 테스했다고 주장합니다.



일단 사이트에 들어가면 이 사이트의 AI 이미지 생성기는 단순히 프로그래밍 방식의 가짜 ID 생성기에 불과하다는 것이 분명해집니다. 사용자는 국가를 선택한 다음 사용하려는 가짜 신원에 대해 원하는 데이터를 입력합니다. 특히 이 사이트는 캐나다의 모든 주와 미국의 모든 주 등 북미의 모든 관할권을 제공합니다. 그래서 우리는 Passport Cloud가 구문 분석이나 바코드 보안을 통과할 수 있는 가짜 ID를 생성할 수 있는지 확인하는 테스트 과정에 들어갔습니다.

특히, 이 사이트는 가짜 ID의 이미지만 생성하기 때문에 이러한 ID는 오프라인 시나리오에서나 ID 인증을 우회하는 데 사용될 때(자외선 또는 적외선 표시가 없기 때문에) 쓸모가 없습니다. 이러한 AI가 생성한 가짜 ID를 사용할 수 있는 유일한 방법은 ID 이미지를 업로드할 수 있는 시나리오입니다. 따라서 신원 문서의 실시간 캡처를 요구하거나 문서 활성을 수행하는 모든 회사는 이러한 사기성 ID로부터 안전하다고 생각할 수 있습니다.

AI가 생성한 가짜 신분증이 작동하는가?

텔레그램방에서 우리는 Passport Cloud 웹사이트에서 생성한 가짜 ID의 몇 갖지 예를 추출했습니다. 이 가짜 펜실베이니아 ID는 합법적인 것처럼 보이고 실제 ID에서 기대할 수 있는 시각적 기능을 갖추고 있지만 문제는 '이 ID가 스캔 인식이 될까?'입니다.



Passport Cloud에서 생성된 바코드가 바코드 보안 도구를 속일 수 있는지 확인하기 위해 소프트웨어를 통해 ID를 신속하게 인식 실행해보았습니다. 하지만 AI가 생성한 가짜 ID는 당사의 신원 확인 소프트웨어를 통과하지 못합니다.

사기꾼 영화배우 이미지는 불행하게도 간단한 2D 바코드 스캔만으로 그의 신분증은 즉시 가짜로 신고되었습니다. Passport Cloud는 스캔 가능한 PDF417 바코드를 생성하는 방법을 알고 있다고 주장하지만, 우리 AI 시스템을 사용하여 바코드 내부의 데이터 형식을 조사한 결과 소프트웨어에서 문제가 있다고 판단하고 ID를 가짜로 표시했습니다.



우리 알고리즘이 독점적이기 때문에 이 사기꾼 영화배우 ID를 사기성으로 식별할 수 있었던 정확한 이유를 공유할 수는 없지만, Passport Cloud에서 생성된 모든 ID를 성공적으로 경고 조치했기 때문에 안심하시기 바랍니다. 이는 2D 바코드 보안의 중요성을 강조합니다. 소프트웨어가 단순히 ID의 데이터를 읽고 분석하는 것을 넘어서, 스캔 된 ID의 대규모 데이터 정보를 기반으로 데이터의 문제점을 찾지 않는 경우에는, AI가 생성한 가짜 ID가 통과될 수도 있습니다.

Passport Cloud는 FAQ(질의/응답)에서 스캔 가능한 가짜 ID에 대한 질의를 받습니다.

바코드는 BCS, Show me ID와 같은 스캐너뿐만 아니라 교환 및 기타 서비스를 확인할 때 확인을 통과합니까>

예. 우리의 바코드는 원본과 100% 유사합니다. 그러나 BCS 및 Show me ID와 같은 스캐너가 실제 운전면허증 또는 FAKE ID 또는 올드 버전의 운전면허증도 감지할 수 있다는 것도 고려해 볼 가치가 있습니다.
따라서 Passport Cloud는 실제로 통과 가능한 가짜 바코드를 생산한다고 주장하는지 또느 기본 ID 스캐너 앱을 사용하여 가짜를 잡을 수 있는지 여부를 결정할 수 없는 것 같습니다.

AI가 만든 가짜 여권

Passport Cloud는 가짜 여권을 생성할 수 있는 옵션도 제공하는데, 이는 업계에 좀 더 우려되는 부분입니다. 여권에는 많은 물리적 보안 기능과 RFID 칩(무선 식별 스마트칩)이 있지만 여권이 2D 이미지로 변환되면 이러한 기능에 문제가 생깁니다. 여권의 2D 이미지는 여권 MRZ(기계판독영역)의 데이터를 텍스트 영역으로 변환하는 MRZ 판독을 사용하여 읽거나 수집됩니다. MRZ 스캔은 데이터의 형식이 올바른지 확인하기 위해 몇 가지 보안 검사를 수행할 수 있지만 기계 판독 가능 영역에 저장된 데이터의 양이 상대적으로 적고 글로벌 표준화로 인해 MRZ 형식은 간단하며 대부분의 가짜 여권은 읽혀지는 것이 가능합니다. 이것이 바로 가짜 여권 사기 예방에 있어 실시간 문서 캡처가 중요한 이유입니다.

AI가 만든 위조 신분증 포착

AI가 생성한 가짜 ID로부터 업계를 보호하기 위한 세 가지 중요한 프로토콜(순서 방식)이 있습니다.

• ID 바코드의 이상 및 형식 문제를 검사하는 2D 바코드 보안입니다. 우리의 AI는 수백만 개의 ID들에 대해 훈련을 받았으며, ID의 시각적 요소를 검사하지 않고도 많은 가짜 ID를 찾아낼 수 있습니다.

• 실시간 문서 캡처. 고객이 이전에 촬영한 이미지를 업로드할 수 있도록 허용하면 현재 보유하고 있지 않은 신분증을 사용할 수도 있습니다. 모든 고객은 모바일 장치의 카메라를 사용한 실시간 문서 캡처만 허용하는 것이 좋습니다.

• 제3자 검사. DMV(차량관리국) 데이터 자료 또는 IdentiFraud에 대한 확인을 통해 발급된 ID 번호, 주소, 이름 및 생년월일이 일치하는지 여부를 귀하에게 알려줄 수 있습니다.

훔친 신원과 AI가 만든 가짜 ID를 결합

가짜 ID 생성기보다 더 걱정스러운 것은 텔레그램방에서 가짜 ID를 판매한다는 대화들이였습니다. 이러한 ID들을 사용하여 사기꾼은 이름, 주소, 생년월일과 같은 실제 개인 정보를 사용하여 가짜 ID를 만들 수 있습니다. 진짜 개인 데이터가 포함된다는 것은 제3자 수표도 잠재적으로 합법적인 것으로 인지될 수 있음을 의미합니다. 이것이 위조 신분증을 잡기 위해선 위 세 가지 방법 모두를 활용해야 하는 이유입니다.

AI로 생성된 ID 사기가 실제로 위협적입니까?

네 전적으로 그렇습니다. 사기꾼들은 그 어느 때보다 더 많은 다양한 방식들을 사용할 수 있습니다. 그러나 Passport Cloud와 같은 사기 사이트는 AI를 사용하여 진정한 1대1 가짜 ID를 생성할 만큼 충분한 ID와 여권을 테스트하지 않았을 가능성이 높습니다. 그리고 AI가 생성한 가짜 ID를 사용하더라도, 실제 사용이 더욱 어렵게 만들기 위해 업계에서 쉽게 활용할 수 있는 여러 계층의 보호 장치들이 있습니다.

귀하의 비즈니스가 위조 ID 사기에 대해 걱정하고 있다면, 당사에 문의하여 모든 유형의 ID 사기에 대처할 수 있는 방법들을 알아보십시오.