작성자: Fraser Sampson
보도일자: 2025년 1월 13일
출처: Biometricupdate.com


대통령의 서명으로 직접 발효되는 행정명령(EO)은 매우 개별화된 법 제정 형태입니다. 헐리우드에서는 이 강력한 법적 수단을 주제로 한 블록버스터 영화도 제작된 바 있습니다. 이는 영국에는 존재하지 않는 법적 장치이며, 아무도 “2024년 디지털 정부 (정보 공개) (신원 확인 서비스) (개정) 규정” 같은 제목의 영화를 만들지 않을 것입니다.

트럼프 행정부의 첫날이 예고된 대로 실현된다면, 차기 행정명령 발표는 화려한 발표와 함께 등장할 것입니다. 하지만 생체 인식 기술 커뮤니티가 주목해야 할 행정명령은 조금 더 조용히 등장한 #14074번 명령입니다.

조 바이든 대통령이 2022년 5월에 발행한 행정명령 14074는 효과적이고 책임 있는 치안 유지 활동을 증진하며, 공공의 신뢰와 안전을 강화하는 것을 목표로 하고 있습니다. 지난달 발표된 연방 기관 공동 보고서는 이 행정명령에 따라 미국 전역의 모든 법 집행 기관들이 생체 인식 기술을 어떻게 활용하고 있는지를 검토하고 있습니다. 이 보고서에는 연방 생체 인식 기술에 대한 이해관계자들의 견해와 경찰 활동에서 얼굴 인식 기술(FRT)의 ‘모범 사례’ 세트가 상세히 분석되어 있습니다.

이 두 문서를 관통하는 핵심 주제는 바로 ‘책임성’입니다. 영국에는 행정명령 제도가 없지만, 보고서에서 제기된 생체 인식 기술과 AI-driven 기술이 경찰 활동에서 직면하는 일부 도전 과제와 책임성의 필요성은 영국과 매우 공통적입니다. 헌법상의 차이에도 불구하고, 양국 경찰 수장들은 현재 두 가지 실질적인 질문에서 공감대를 이루고 있습니다. “AI 생체 인식 기술의 책임성은 무엇을 의미하는가?” 그리고 “이를 어떻게 실현할 수 있는가?”

영국 측에서는 연구자들이 이러한 질문에 대한 답을 가지고 있다고 믿습니다. 이 답은 연방 보고서 작성자들에게도 흥미로울 것입니다. 유럽, 북미, 기타 지역에서 6,000명 이상의 시민들을 대상으로 한 설문 조사와 경찰관 및 경찰 직원들의 집단 경험을 바탕으로, 경찰과 학계가 협력한 AiPAS 프로젝트는 AI-driven 기술에서 책임성의 지표를 식별했습니다. 또한 이 팀은 이러한 원칙에 비추어 경찰 기관들이 정책과 관행을 감사할 수 있도록 돕는 소프트웨어 도구를 개발했습니다.

연방 보고서와 AiPAS에서 제시된 주제를 결합하면, AI-driven 생체 인식 기술의 책임성 기본 사항은 다음과 같습니다:

합법성 (법을 준수하라): AI 생체 인식 기술의 모든 측면은 합법적이어야 하며, 이를 입증할 책임은 경찰에게 있습니다. 여기에는 AI 관련 법령(EU AI법과 같은), 행정명령 및 조직의 정책 준수가 포함됩니다. 합법성은 모든 상황에서 적용됩니다. 나머지 원칙들은 합법성을 기반으로 추가됩니다.

완전성 (모든 것을 포괄하라): AI-driven 생체 인식 기술은 다자간 협력 프로그램이므로, 책임성은 조달에서 배치까지, 파트너와 하청업체를 포함한 모든 영역을 포괄해야 합니다. 만약 공백이 있다면, 기본적 권리와 자유의 보호 및 증진이 우선시되어야 합니다.

포괄성 (누구도 배제하지 말 것): AI 시스템에 참여하거나 영향을 받는 모든 이해관계자를 포함해야 합니다. 이해관계자의 폭넓은 참여를 통해 다양성을 반영하고 편향 가능성을 줄이며, 정책 수립, 시스템 배치 검토, 학습 포인트 탐색을 촉진합니다.

투명성 (개방적으로 행동할 것): 투명성은 공공의 신뢰와 자신감을 증진시키며, 영향을 받는 사람들이 정보에 입각한 판단을 내릴 수 있게 합니다. 책임성은 AI 생체 인식 시스템에 대한 명확하고 의미 있으며 정확하며 시기적절한(CMAT) 정보를 필요로 합니다(운영 민감성을 고려). 시스템 사용이 필요한 이유와 비례성을 보여주고 예측 가능한 위험을 강조해야 합니다.

공정성 (독립성을 보장할 것): 책임성 기관은 이해 충돌 없이 공정해야 합니다. 외부 책임성(법원과 규제 기관)은 이러한 공정성을 내재하고 있습니다. 내부적으로는 AI 생체 인식 기술의 설계, 개발 및 배치에 관여한 관리 구조와 독립된 사람들이 책임성을 담당해야 합니다.

증거성 (증거를 따를 것): 경찰은 증거를 수집, 분석, 제시하는 방법을 알고 있습니다. 책임성에 대한 증거는 운영상의 증거 수집 기준(무결성, 신뢰성 및 연속성)을 반영해야 하며, AI 생체 인식 기술 사용 여부에 따른 의사결정의 영향을 보여줘야 합니다.

집행 가능성과 구제 (문제를 바로잡을 것): ‘그러면 어쩌자는 거지?’라는 질문이 없으면 책임성은 장식에 불과합니다. 책임성 메커니즘은 사람들이 효과적인 구제책을 받을 수 있게 해야 하며, 불만과 이의 제기를 위한 경로, 내부 집행 가능성 및 구제 방안을 제공해야 합니다.

강제성 (작동하게 할 것): 감독 기관은 책임성을 실현하기 위한 수단을 가져야 합니다. 외부 강제성은 법적 또는 민주적 과정을 통해 이루어지고, 내부 정책은 법적 권한 없이도 조치를 승인해야 합니다.

설명 가능성 (설명하고 입증하며 이해시키기): AI 생체 인식 기술은 참여자/대상에게 이해되어야 합니다. 기술적 환경에서 시스템을 설명하는 것과 비전문가가 이해할 수 있도록 설명하는 것은 다릅니다. 시민과 그 대표자가 시스템의 사용을 이해하고 참여하며 이의를 제기할 수 있도록 비전문가용 언어로 설명하는 것이 중요합니다.

건설성 (개선을 목표로 할 것): 책임성은 단순한 비판을 넘어섭니다. 개선을 위한 공통 목표를 공유하며 건설적으로 참여하고, 다양한 관점을 고려하며 도전을 초대하는 것은, 의견 불일치가 어떻게 유익한 해결책으로 이어질 수 있는지 보여줄 것입니다.

행동 (스스로 책임질 것): 유럽 경찰 윤리 강령은 “민주주의의 상태는 경찰의 행동만 살펴봐도 알 수 있다”고 말합니다. 경찰의 ‘행동’은 AI 기술의 사용을 점점 더 포함하게 될 것입니다. 여기에는 개인적, 조직적 차원의 전문 표준, 가치, 윤리 및 기대되는 행동이 포함됩니다.

학습 (교훈을 찾을 것): (새로운)지식과 통찰력을 적용해 AI를 모든 측면에서 개선하려는 의지를 촉진합니다. AI 생체 인식 기술의 설계, 사용 및 감독에 적용되는 학습은 시스템, 구조, 관행, 프로세스, 지식 및 자원의 수정과 개선을 포함하며, 전문 교리, 표준 및 정책의 개발도 포함됩니다.

AiPAS 팀은 그들의 방법론, 연구 결과, 준수 도구를 연방 공동 기관들과 공유할 의사를 밝혔으며, 1월 20일 이후 백악관에서 나올 분위기도 주의 깊게 지켜볼 예정입니다.

행정명령 14074번이 어떻게 되든, 법 집행에서 AI 기반 생체 인식 기술의 사용은 우리 모두를 넘어 지속될 것입니다. FRT(얼굴 인식 기술)와 같은 역량은 경찰의 효율성을 증진시키고, 전 세계적으로 공공의 신뢰와 안전을 강화할 것입니다. 이러한 목표를 이루기 위해서는 책임성을 기반으로 자유를 보장하는 것이 필수적입니다. 또한, 법 집행 커뮤니티간의 지속적인 협력은 또 하나의 유명한 대통령 이상을 실현할 것입니다: 다수에서 하나로(Out of many, one).

저자 소개

프레이저 샘슨은 전 영국 생체 인식 및 감시 카메라 커미셔너이며, CENTRIC(테러, 회복력, 정보 및 조직 범죄 연구 우수 센터)의 거버넌스 및 국가 안보 교수이자 Facewatch의 비상임 이사입니다.