미국 국토안보부(DHS)는 얼굴 인식(FR) 및 얼굴 캡처(FC) 기술 사용에 관한 새로운 보고서를 통해 인공지능 시대에서 보안과 시민 자유 사이의 균형을 유지하는 것이 중요하다고 강조했다.

이 보고서는 DHS가 FR/FC 기술을 계속 배치하면서 이러한 기술의 잠재력을 최대한 활용하는 동시에 위험을 최소화해야 하는 이중 과제에 직면해 있다고 지적한다. 앞으로의 노력은 알고리즘의 공정성을 개선하고, 데이터 보호 조치를 강화하며, 이러한 시스템의 장점과 한계에 대한 대중의 인식을 높이는 데 중점을 둘 것으로 보인다.

이 보고서는 DHS 내에서 FR/FC 기술 사용에 대한 재조명이 이루어진 가운데 발표되었다. 이달 초, 하원 국토안보위원회 의장인 마크 E. 그린과 교통 및 해상 보안 소위원회 의장인 카를로스 기메네즈 의원은 “생체 인식 및 AI 기반 기술을 활용한 교통안전청(TSA)의 국토안보 임무 이행”에 대해 정부 회계 감사원(GAO)에 세부 검토를 공식적으로 요청했다.

다른 의원들 역시 이러한 생체 인식 기술 사용의 프라이버시, 시민 자유, 효율성에 대한 우려를 반영하며 유사한 조치를 최근 취했으며, 이는 연방 기관의 첨단 기술 사용을 면밀히 검토하고 규제하려는 초당적 노력이 증가하고 있음을 보여준다.

그럼에도 불구하고, DHS는 윤리적 혁신과 투명한 거버넌트에 전념함으로써 디지털 시대에서 프라이버시와 보안이 공존할 수 있음을 입증하겠다고 밝혔다. 그러나 공공 생활에서 감시 기술의 역할에 대한 사회적 논쟁은 계속되고 있으며, 정책 입안자, 기술 전문가, 시민들이 이 논의에 참여하여 개인의 권리와 집단적 안보를 모두 존중하는 미래를 형성하는 것이 중요하다.

DHS 지침 026-11에 따라 요구된 이번 보고서는 FR/FC 사용 사례에 대한 분석을 담고 있으며, FR/FC 시스템과 관련된 이점, 과제, 규제 보호 장치에 대한 종합적인 개요를 제공한다. 이 지침은 DHS가 FR 및 FC 기술을 권한에 따라 사용할 수 있도록 하는 기관 정책을 수립했으며, “이번 보고서는 우리가 이러한 기술을 어떻게 사용하고 관리하는지에 대해 이전보다 더 많은 정보를 제공한다”고 밝혔다.

이 보고서는 직접 테스트, 운영 보고 통계 분석, 제3자 테스트 결과 검토를 기반으로 FR/FC의 8가지 우선 사용 사례에 대한 성과 검토를 포함하고 있으며, 가능할 경우 인구통계학적 차이도 분석했다.

“얼굴 인식 기술은 논란이 될 수 있으며, 잘못 사용될 경우 실제적인 피해를 초래할 수 있습니다. 그렇기 때문에 2023년 DHS는 FR 기술 사용 및 테스트에 있어 연방 기관 중 가장 엄격한 요구사항을 도입했습니다.”라고 에릭 하이센 전 DHS 최고정보책임자(CIO) 겸 최고 AI 책임자가 말했다.

하이센은 “이번 보고서는 우리의 FR 시스템이 다양한 인구통계학적 그룹에 대해 매우 우수하게 작동했음을 보여줍니다. 공항과 입국장에서 여행객 신원 확인과 같은 완전히 운영 중인 시스템의 경우, 기술이 99% 이상의 정확도로 작동했습니다. 그리고 경미한 문제가 식별되었을 때는 신속히 대응하여 이를 해결했습니다.”라고 덧붙였다.

“우리는 완벽하지 않습니다,”라고 하이센은 말하며, “그러나 이번 보고서는 FR이 대중에게 실질적인 가치를 제공하고, 투명성, 책임성, 책임 있는 AI 사용에 대한 우리의 약속을 유지하면서 중요한 법 집행 의무를 지원하고 있음을 강조합니다.”라고 밝혔다.

“전반적으로, FR/FC 시스템은 다양한 인구통계학적 그룹에서 매우 우수하게 작동했습니다,”라고 보고서는 언급하며, “공항 및 미국 입국장에서 여행객 신원 확인과 같은 완전히 운영 중인 시스템의 경우, 평균적으로 기술이 99% 이상의 정확도로 작동했습니다.”라고 밝혔다.

얼굴 인식 및 얼굴 캡처 기술은 DHS의 운영 전반에서 효율성과 보안을 강화하는 데 중요한 역할을 하고 있다. 공항, 국경 검문소 및 범죄 수사 중 신원 확인에 사용되는 이 기술은 대중과의 상호작용을 개선하고 더 강력한 법 집행 역량을 약속한다. FR/FC 기술은 여행자 신원을 여권과 일치시키는 것과 같은 전통적으로 수작업에 의존하던 과정을 자동화하여 인간 오류를 줄이고 운영 속도를 높인다.

예를 들어, TSA에서 도입한 카메라 시스템이 포함된 신원 인증 기술(CAT-2)은 보안 검색대에서 승객 신원 확인을 신속히 처리할 수 있게 한다. 이 시스템은 여행자의 실시간 사진과 신분증 사진을 비교하는 일대일 얼굴 매칭 프로토콜을 사용한다. 이러한 과정은 평균적으로 몇 초 만에 완료되어 운영 효율성을 보장하는 동시에 사기나 도용의 위험을 줄인다.

그러나 FR/FC 기술의 도입은 생체 데이터를 수집, 저장 및 사용하는 것과 관련하여 본질적으로 프라이버시 우려를 제기한다. DHS는 이러한 우려를 해결하기 위해 정책을 시행했으며, 미국 시민의 얼굴 이미지는 캡처 후 12시간 이내에 삭제된다. 비시민의 이미지는 더 오랜 기간, 일반적으로 최대 14일 동안 저장되지만 엄격한 보존 및 접근 통제 정책에 의해 관리된다. 특히 미성년자와 같은 민감한 집단을 포함하는 FR/FC 프로세스에서 수집된 데이터는 더욱 신중하게 처리된다고 DHS는 밝혔다.

DHS는 또한 투명성을 강조하며, 개인이 공항 체크인과 같은 비법 집행 목적의 얼굴 인식 사용을 페널티 없이 거부할 수 있다고 지적했다. 이를 위해 안내 표지판 및 공지 사항을 통해 데이터가 어떻게 수집되고 어떤 목적으로 사용되는지를 이해할 수 있도록 돕는다. DHS는 또한 정책과 관행을 지속적으로 개선하기 위해 대중과의 협의를 진행하고 있다.

얼굴 인식 기술과 관련된 반복적인 문제는 알고리즘 편향의 가능성이다. 보고서는 일부 시스템이 피부색이 더 어두운 사람들과 같은 특정 인구 집단에서 덜 정확하게 작동한다는 연구 결과를 언급하며, DHS가 이 문제를 완화하기 위해 엄격한 테스트를 포함한 조치를 취했다고 밝혔다. 이러한 평가를 통해 FR/FC 시스템의 인구통계학적 차이를 분석하고 정확성의 불균형을 식별 및 해결하려는 노력이 진행 중이라고 한다.

예를 들어, TSA의 CAT-2 시스템은 다양한 인구 집단에 걸쳐 균일한 성능을 보여주었으며, 얼굴 캡처와 매칭 과정에서 99% 이상의 성공률을 달성했다. 글로벌 엔트리 터치리스 포털(Global Entry Touchless Portals)과 같은 다른 시스템은 피부 톤과 나이에 따라 정확도의 경미한 변동이 나타났으며, DHS는 이러한 알고리즘의 공정한 성능을 보장하기 위해 지속적인 모니터링과 개선 작업을 진행 중이다.

보고서는 TSA 프리체크(TSA PreCheck)의 프로토타입 터치리스 신원 확인 솔루션(Touchless Identity Solution) 테스트 결과에 대해 “얼굴 매칭은 잘 작동했지만, 얼굴 사진에 얼굴이 포함되어 있는지를 확인하는 얼굴 감지 알고리즘에서 문제가 있었다”고 언급했다. 이 알고리즘은 88%에서 97% 사이의 정확도를 기록했으며, 이는 피부 톤, 본인이 신고한 인종, 성별, 나이에 따라 성능이 다소 변동했다. 이를 해결하기 위해 TSA는 수동 사진 캡처 단계를 신속히 도입했으며, 이 과정은 전체 스크리닝 경험에 영향을 미치지 않으면서 2~3초만 추가로 소요된다.

DHS는 TSA와 국토안보부 과학기술국이 이 단계를 개선하기 위해 새로운 알고리즘을 평가하고 있으며, 이를 올해 말에 테스트 및 구현할 계획이라고 밝혔다.

또한 보고서는 “테스트 결과에서 나타난 두 가지 다른 사소한 경향”이 확인되었으며, “앞으로 이를 지속적으로 모니터링할 것”이라고 언급했다.

일부 관세국경보호청(Customs and Border Protection)의 사용 사례에서는 “피부 톤과 본인이 신고한 인종 및 나이에 따라 얼굴 매칭 성능에서 매우 작은 차이(1% 미만에서 2-3% 범위)가 측정되었다”고 보고서는 밝혔다. “얼굴 매칭은 전체적으로 여전히 우수한 성능을 보였으며, 어떤 인구 집단에서도 가장 낮은 성공률은 97%였다. 이번 테스트는 5% 이상의 차이를 신뢰성 있게 감지하도록 설계되었으므로, 측정된 작은 차이가 실제 성능 차이를 반영하는지 여부를 단언할 수 없다. 이러한 경향을 계속 모니터링하고, 테스트 방식을 정교화하며, 적절한 조치를 취할 예정이다.”

얼굴 인식 기술의 사용은 여행 및 국경 보안을 넘어 확장되고 있다. 국토안보수사국(HSI)은 아동 성 착취 및 학대를 방지하기 위해 이 기술을 활용하고 있다. Clearview AI와 같은 도구를 활용하여 HSI 수사관들은 피해자와 가해자를 더 효율적으로 식별할 수 있다. 그러나 DHS는 이러한 민감한 FR/FC 기술 사용에 대해 엄격한 프로토콜을 수립하여 다른 수사 기법이 모두 소진된 후에만 기술이 사용되도록 보장하고 있다.

DHS는 HIS의 FR/FC 기술 사용이 시민 자유를 보호하기 위해 신중하게 제한되어 있다고 밝혔다. 얼굴 인식을 통해 생성된 단서는 엄격한 인간 검토와 추가 증거와의 교차 검증을 거친 후에만 집행 조치가 이루어진다. 이러한 보호 조치는 취약한 집단을 구출하는 임무와 개인의 프라이버시 및 적법 절차를 존중해야 할 필요성 사이의 균형을 맞추기 위한 것이다.

공공 신뢰는 FR/FC 기술을 성공적으로 구현하는 데 매우 중요하다. 이를 인식한 DHS는 구제 및 피드백을 제공할 수 있는 방법을 모색해왔다. FR/FC 시스템 사용 중 문제가 발생한 여행자는 DHS 여행자 구제 문의 프로그램(DHS Traveler Redress Inquiry Program)에 문의하거나 시민권 및 시민 자유 사무국(Office for Civil Rights and Civil Liberties)에 불만을 제기할 수 있다.

또한 DHS는 정책을 검토하기 위해 프라이버시 옹호자, 시민권 단체 및 기술 전문가들과 정기적으로 협력한다고 밝혔다. 이러한 협력적 접근 방식은 기관의 이니셔티브에 대한 신뢰성을 높일 뿐만 아니라 기술 발전과 사회적 기대에 부응하여 관행이 발전하도록 보장한다.