작성자: Joel R. McConvey
보도일자: 2025년 3월 7일
출처: Biometricupdate.com


비록 지역마다 언어가 다르지만, 대부분의 생체 인식 기술 관련 규제는 시스템이 견고하고, 정확하며, 신뢰할 수 있고, 높은 효율성을 갖추어야 하며, 중대한 오류 없이 본래의 목적을 수행할 수 있어야 한다고 요구한다.

이를 가능하게 하는 것이 바로 테스트 과정이다. 미국 국립표준기술연구소(NIST), FIDO, MOSIP에서 제공하는 표준화된 테스트 프레임워크는 생체 인식 산업에서 신뢰를 구축하는 기반을 마련한다.

그러나 테스트 자체가 충분히 견고하지 않다면 어떻게 될까? 실제 환경을 재현하려는 시도가 이루어지더라도, 특정 사례에 따라 발생하는 미묘한 차이를 포착하지 못할 가능성이 크다. 실험실에서 효과적인 기술이 현장에서 실패할 수도 있으며, 표준 테스트만으로는 편향 감지, 공격에 대한 내성, 실제 환경에서의 사용성을 완벽하게 반영하지 못할 수 있다.

Biometrics Institute의 새로운 ‘책임 있는 생체 인식 기술의 미래’ 보고서에서, Bixelab은 “적절한 국제 표준을 기반으로 한 지역 맞춤형 테스트는 인구 통계적 편향, 고유한 취약점, 그리고 변화하는 규제 환경을 해결하는 데 필수적이다.’라고 주장한다.

맞춤형 테스트는 표준 테스트를 보완하여, 생체 인식 시스템이 특정 인구 집단, 기기, 사용 사례의 요구사항을 충족하도록 도울 수 있다. 다양한 기기에서의 테스트는 저가형 또는 구형 하드웨어를 사용하는 사용자들도 고려할 수 있도록 한다. 공격 내성 테스트는 알고리즘이 위조 방지, 적대적 AI 공격, 기타 악의적인 조작 시도에 얼마나 강한지를 평가할 수 있다. 실제 환경 변수를 적용한 테스트는 알고리즘이 조명 변화, 습도, 배경 소음 등 역동적인 조건에서도 제대로 작동하는지를 검증할 수 있다.

“생체 인식 시스템은 다양한 인구 집단과 상호작용하며, 각기 다른 환경에서 작동한다. 지역 맞춤형 테스트 없이 시스템을 배포할 경우, 특정 그룹을 의도치 않게 배제하거나 특정 지역에서 신뢰할 수 없는 성능을 보일 위험이 있다.”

안면 인식 시스템 훈련을 위한 강력한 다양성

인구 통계적 다양성에 대한 직접적인 주장으로, “일부 안면 인식 시스템이 훈련 데이터셋의 다양성이 부족하여 더 어두운 피부색에서 성능이 저하되는 것으로 나타났다”는 지적이 있다. (그러나 NIST의 최신 테스트에서는 가장 정확한 알고리즘의 성능 차이가 매우 낮은 것으로 보고되었다.) 이 문제는 부분적으로 속도와 관련이 있다. 생체 인식 생태계는 빠르게 성장했으며, 일부 구성 요소는 단절된 상태로 존재한다. 또한, 개발자들 간의 정보 공유가 제한적이다.

그리고 무엇보다 중요한 점은, Fime는 “AI 모델은 훈련 데이터의 질에 따라 성능이 결정된다”는 점에 대한 합의가 이루어졌다고 강조한다. 안면 인식 시스템의 얼굴 생체 정보 템플릿을 기반으로 한 심층 기계 학습을 가능하게 하는 합성곱 신경망(CNNs, Convolutional Neural Networks)은 다양한 참조 자료를 필요로 한다. 만약 데이터가 충분히 다양하지 않다면, 알고리즘의 성능은 불충분 할 수밖에 없다.

“이것이 편향(bias)이다”라고 Fime는 말한다. “악의적인 의도가 있는 것은 아닐 수 있지만, 현실적인 문제이며, 소프트웨어 및 센서 개발자, 기기 제조업체(OEM), 표준화 기관, 정부 등 생체 인식 가치 사슬 전반에서 시급히 해결해야 한다.”

Fime는 “생체 인식 시스템의 잠재적인 편향성을 평가하는 최적의 지표를 파악하려면, 각 지표가 시스템의 특이성과 정확성에 미치는 영향을 측정하는 것이 중요하다”고 설명한다. 이를 바탕으로, 주요 생체 인식 전문가들은 새로운 방법을 개발하여 생체 인식 시스템에 인위적으로 편향을 주입하고, 각 지표의 효과를 평가하는 혁신적인 방식을 만들었다. 이 시스템을 통해 전문가들은 특정 인구 통계적 하위 그룹에 대해 선택적으로 편향을 주입할 수 있으며, 각 편향의 강도를 조절할 수 있다. 또한, 편향 강도를 직접 조정함으로써, 알려진 변수에 대해 각 평가 지표의 유효성을 지속적으로 모니터링할 수 있다.

생체 인식 테스트를 알아야 한다

테스트를 많이 할수록 더 많은 것을 알게 되며, Ingenium은 성능 테스트, 보안 테스트, 편향성과 공정성 테스트, 규제 및 준수 테스트 간의 차이를 설명한다.

성능 테스트는 “생체 인식 시스템이 실제 환경에서 얼마나 잘 작동하는지를 측정”한다. 여기에는 오인 수락률(FAR, False Acceptance Rate)과 오인 거부율(FRR, False Rejective Rate)이 포함되며, 각각 시스템이 얼마나 자주 위조자를 허용하거나 정당한 사용자를 거부하는지를 나타낸다. 또한, 다양한 환경적 조건에서 시스템의 성능을 평가하는 환경 테스트도 포함된다.

보안 테스트는 “생체 인식 시스템의 취약점을 식별하고 악의적인 공격으로부터 보호하는 데 필수적”이다. 여기에는 위조 및 프레젠테이션 공격 탐지(PAD, Presentation Attack Detection)가 포함되며, 위조 지문, 3D 프린팅된 얼굴, 음성 모방 등의 탐지 기능을 평가한다. 또한, 데이터베이스의 안전한 암호화를 보장하고, 규제 준수를 확인하며, 딥페이크, 합성 미디어, 주입 공격(injection attacks)과 같은 실제 사기 수법을 시뮬레이션하는 과정이 포함된다.

편향성과 공정성 테스트는 “생체 인식 시스템이 모든 인구 집단에서 동일하게 작동하도록 보장하며, 윤리적 구현을 위해 필수적”이다. 이 과정에는 다양성 평가, 인구 통계별 오류율 분석, 알고리즘 감사가 포함된다.

규제 및 준수 테스트는 GDPR, 일리노이 생체 정보 보호법(BIPA), AI 법 (AI Act)과 같은 윤리적, 법적, 규제적 프레임워크를 기준으로 시스템을 평가하는 과정이다.

Ingenium은 “독립적인 연구소와 테스트 시설이 생체 인식 시스템이 시장에 출시되기 전에 평가하는 중요한 역할을 한다”고 설명한다. NIST는 “얼굴 인식 공급업체 테스트(FRVT, Face Recognition Vendor Test)와 지문 시스템을 위한 MINEX 평가”와 같은 엄격한 생체 인식 테스트 프로그램을 운영한다. 국제표준화기구(ISO)는 ISO/IEC 19795(생체 인식 시스템의 성능 테스트 프레임워크)와 ISO/IEC 30107(PAD 표준)와 같은 생체 인식 테스트 표준을 제공한다.

또한, FIDO Alliance와 같은 업계 기관들도 생체 인식 시스템의 평가 및 인증을 제공하는 역할을 수행한다.

Ingenium은 “책임 있는 생체 인식 기술의 미래는 엄격한 테스트, 윤리적 고려 사항, 보안 및 프라이버시 표준 준수에 달려 있다”고 강조한다.

Idiap 보고서, ‘공정하고 신뢰할 수 있는 얼굴 인식 시스템의 필요성’ 강조

Idiap 연구소(Idiap Research Institute)의 새로운 연구 보고서는 “얼굴 인식(FR)에서 인구 통계적 편향 문제를 체계적으로 탐구하며, 원인, 데이터셋, 평가 지표, 완화 전략 등 서로 관련된 다양한 측면을 다룬다.”

보고서에서 지적한 원인은 “불균형하거나 대표성이 부족한 데이터셋”을 포함하며, 피부 톤의 차이, “인구 통계적 속성을 처리하는 알고리즘의 민감도 및 한계”, 그리고 이미지 품질도 주요 요인으로 꼽았다.

IEEE의 공동 저자 케탄 코트왈(Ketan Kotwal)과 세바스티앙 마르셀(Sébastien Marcel)은 “이 분야에서의 핵심 연구들을 분류함으로써, 본 연구는 얼굴 인식 시스템의 편향성을 이해하고 해결하는 데 구조화된 접근 방식을 제공한다.”라고 설명했다.

궁극적으로, 그들은 “공정하고 신뢰할 수 있는 얼굴 인식 시스템의 필요성이 매우 중요하다.”라고 강조했다.

모스크바에 새로운 생체 인식 테스트 연구소 개설

테스트의 필요성은 전 세계적으로 확대되고 있으며, 이를 반영하듯 모스크바에서 운영 중인 통합 생체 인식 테스트 센터(ECBI)가 새롭게 문을 열었다. 이 센터는 모스크바 정보기술부(Moscow Department of Information Technology)와 러시아 생체 인식 학회(Russian Biometric Society) 비영리 파트너십 간의 협력으로 설립되었다. Oreanda News에 따르면, 이 센터는 “비디오 분석(video analytics)을 활용한 연구, 시범 운영 및 솔루션 평가를 수행할 예정이다.”

모스크바 부시장 나탈리아 세르구니나(Natalia Sergunina)는 도시 문제 해결을 위해 컴퓨터 비전 기술의 모범 사례를 적극적으로 연구하고 이를 도입하고 있다고 밝혔다.