하버드 대학교의 카르 인권정책센터(Carr Center for Human Rights Policy) 후원으로 발간된 최근 보고서 “인공지능: 약속, 위험, 그리고 규제”(Artificial Intelligence: Promises, Risks, and Regulation)에 따르면, 감시에 활용되는 안면 인식 기술(FRT)은 중대한 윤리적·법적 문제를 제기한다. 보고서는 특히 권위주의 정권에서 AI 기반 안면 인식을 활용해 정치적 반대 세력을 감시하고 탄압하는 위험성을 강조하고 있다.

보고서의 공동 저자인 하버드 케네디 스쿨(Havard Kennedy School) 선임 연구원 루이스 로베르토 바로소(Luís Roberto Barroso)는 “직관적으로, 문제는 기술 자체에 있는 것이 아니라 우리가 이를 어떻게 활용하느냐, 더 나아가 그 기술이 창출할 혜택을 어떻게 분배할 것이냐에 달려 있다”며 “따라서 앞으로의 과제는 AI의 유익한 활용을 촉진하고 남용을 제한하는 제도적 설계를 구축하는 것이며, 이를 통해 자동화된 불공정성을 방지하고 기존 위험이 확산되는 것을 막아야 한다”고 지적했다.

이러한 논의 속에서 안면 인식 기술은 가장 논란이 많고 영향력이 큰 발전 중 하나로 떠오르고 있다. AI가 우리의 일상에 점점 더 깊이 자리 잡으면서, 안면 인식 기술이 작동하는 방식, 그 활용 사례, 위험 요소, 그리고 적절한 규제 방안에 대한 이해가 필수적이라고 보고서는 경고하고 있다. 보고서는 또한 안면 인식 기술이 AI 알고리즘을 활용해 사람의 얼굴 특징을 분석하고 이를 기존 데이터베이스와 대조하여 신원을 확인하는 방식으로 작동한다고 설명한다.

안면 인식 기술은 수십 년 동안 개발되어 왔지만, 최근 머신 러닝과 신경망 기술의 발전으로 정확성과 효율성이 크게 향상되었다. 그러나 미성숙하거나 문제가 있는 AI는 오작동할 가능성이 있으며, 그럼에도 불구하고 이 기술은 이미 법 집행, 국경 보안뿐만 아니라 스마트폰 잠금 해제나 맞춤형 광고와 같은 상업적 용도까지 광범위하게 활용되고 있다. 보고서는 이러한 기술이 일상에 깊이 스며듦에 따라, 앞으로는 물리적 신분증이 사라질 가능성도 있다고 전망했다.

안면 인식 기술이 가장 두드러지게 활용되는 분야 중 하나는 보안 및 법 집행 분야이다. 전 세계 여러 정부는 감시 역량을 강화하고 범죄를 예방하며 용의자를 추적하기 위해 FRT를 도입했다. 경찰은 군중 속에서 특정 인물을 식별하는 데 이 기술을 활용하여 범죄 수사 및 대테러 작전을 지원하고 있으며, 공항과 국경 관리 기관은 입국 심사 절차를 간소화하고 보안을 강화하기 위해 안면 인식을 적용하고 있다. 이러한 활용 사례는 FRT가 공공 안전을 보장하는 데 있어 얼마나 효율적이고 편리한 기술인지 보여준다.

이 모든 문제의 본질적인 핵심은 개인의 동의 없이 추적할 수 있는 능력의 적법성에 대한 의문이며, 이는 프라이버시와 표현의 자유를 포함한 기본적 인권을 침해할 수 있다는 점이다. 일부 국가에서는 AI 기반 감시가 정치적 탄압과 차별과 연관되어 있어, 이러한 기술이 무분별하게 도입되는 것에 대한 우려를 더욱 증폭시키고 있다.

프라이버시와 관련하여, 보고서는 “최소한 세 가지 측면에 대한 주의가 필요하다”고 지적한다. 첫 번째는 디지털 플랫폼과 웹사이트가 인터넷 사용자의 데이터를 동의 없이 수집하는 문제이다. 이 정보는 광고 및 맞춤형 정보 제공과 같은 상업적 목적뿐만 아니라, 신경과학 연구가 보여주듯 사용자의 의지를 조작하는 데까지 활용될 수 있다.

두 번째는 “정부 및 경찰 당국이 안면 인식 기술과 추적 도구를 활용해 감시 및 추적을 수행하는 문제”라고 보고서는 언급한다. 보고서는 이러한 기술이 범죄 예방을 목적으로 사용되지만, 특히 권위주의 정부에서는 남용될 위험이 매우 크다고 경고한다.

마지막으로, “AI 시스템은 모델을 훈련하기 위해 방대한 양의 데이터를 필요로 하는데, 이는 데이터 유출과 악의적인 사이버 공격의 위험을 초래한다. 예를 들어, 스피어 피싱(spear phishing)h가 독싱(doxing)은 괴롭힘, 정치적 폭력, 허위 정보 및 가짜 정보 확산을 조장할 수 있다”고 보고서는 설명한다.

법 집행을 넘어, 안면 인식 기술은 점점 더 민간 기업에서도 채택되고 있다. 소매업체는 FRT를 활용하여 소비자 행동을 분석하고 맞춤형 광고를 제공하며 고객 서비스를 개선하고 있다. 소셜 미디어 플랫폼 또한 안면 인식을 활용해 사진 태그 자동화 기능을 제공하고 사용자 참여도를 높이고 있다.

이러한 활용 사례는 편리함과 개인화된 서비스를 제공하지만, 보고서는 데이터 보안 및 사용자 콘텐트 보호 측면에서 심각한 위험을 초래할 수 있다고 경고한다. 생체 인식 데이터의 수집 및 저장은 프라이버시 침해 위험을 높이며, 데이터 유출이 발생할 경우 개인 정보 도용이나 무단 감시에 노출될 가능성이 있다.

안면 인식 기술과 관련된 또 다른 중요한 문제는 편향성과 정확성이다. 보고서는 여러 연구 결과를 인용하며, 안면 인식 알고리즘이 인종 및 성별 편향을 보이는 경우가 많으며, 특히 피부색이 어두운 사람이나 남성 이외의 성 정체성을 가진 사람들에게 더 높은 오류율을 나타낸다고 지적하고 있다.

이러한 편향성은 주로 훈련 데이터셋이 밝은 피부톤을 가진 개인을 중심으로 구성되어 있기 때문에 발생하며, 이는 차별적인 결과로 이어질 수 있다. 보고서는 특히 사법 및 치안 분야에서 잘못된 신원 확인이 억울한 체포나 유죄 판결로 이어질 수 있다는 점을 강조하며, AI가 구조적 불평동을 지속시키는 위험성을 경고하고 있다. 이러한 편향성을 해결하려면 보다 다양하고 대표성 있는 데이터가 필요하며, 알고리즘이 어떻게 훈련되고 활용되는지에 대한 투명성이 보장되어야 한다.

보고서는 “알고리즘은 기존 데이터를 기반으로 학습하며, 이는 본질적으로 역사적·문화적·사회적 환경에서 형성된 인간의 과거 및 현재의 행동과 편견을 반영한다”며 “결과적으로, 알고리즘은 기존 사회 구조에서의 포용과 배제를 그대로 유지하거나 확대하는 경향이 있다”고 설명한다.

미국 국립표준기술연구소(NIST)이 생체인식 테스트에 따르면, 대부분의 안면 인식 알고리즘은 어두운 피부톤을 가진 사람, 여성, 그리고 노인을 잘못 식별할 가능성이 더 높은 것으로 나타났다. 다만, 가장 정확한 알고리즘의 경우 최신 테스트에서 이러한 오류율 차이가 매우 낮아진 것으로 보고되었다.

보고서는 안면 인식 기술의 규제가 그 위험을 완화하면서도 이점은 유지하는 데 필수적인 단계라고 주장한다. 또한 정부와 규제기구가 FRT의 윤리적 사용을 관리할 법적 프레임워크를 구축해야 한다고 제안한다. 규제에는 데이터 수집에 대한 엄격한 가이드라인이 포함되어야 하며, 개인의 생체 데이터가 사용되기 전에 반드시 사전 동의가 이루어져야 한다. 또한, 공공 및 민간 부문에서 기술이 남용되지 않도록 감시 및 책임을 보장하는 감독 체계가 마련되어야 한다.

일부 국가에서는 이미 안면 인식 기술에 대한 규제 조치를 시행하고 있다. 유럽연합(EU)은 일반 데이터 보호 규정(GDPR)을 통해 생체 데이터 처리에 대한 엄격한 규정을 적용하고 있으며, 사용 시 명확한 동의와 정당한 사유를 요구하고 있다. 미국에서는 일부 도시에서 AI 규제에 대한 우려로 인해 법 집행 기관이 안면 인식을 사용하는 것을 금지하고 있다. 그러나 국가 차원의 명확한 규제는 아직 마련되지 않아, 윤리적 기준과 안전 장치를 확립하기 위한 국제적인 공조가 필요하다고 보고서는 강조하고 있다.

보고서는 안면 인식 기술이 여러 가지 도전 과제를 안고 있지만, 책임감 있게 활용될 경우 상당한 잠재력을 지니고 있다고 평가한다. 의료 분야에서는 특정 질환과 관련된 얼굴 특징을 분석하여 유전 질환을 진단하는 데 활용될 수 있다. 또한, 시각 장애인을 위해 실시간으로 사람과 사물을 식별해주는 보조 기술로도 사용할 수 있다.

금융 서비스 분야에서도 안면 인식 기술은 거래 시 생체 인증을 제공함으로써 보안을 강화하고, 사기 및 무단 접근을 줄이는 데 기여하고 있다. 이러한 사례들은 안면 인식 기술이 윤리적으로 활용될 경우 사회에 긍정적인 영향을 미칠 수 있음을 보여준다.

그러나 혁신과 윤리적 고려 사이의 균형을 맞추기 위해서는 정책 결정자, 기술 전문가, 그리고 시민 사회가 협력하여 안면 인식 기술의 미래를 형성해 나가야 한다고 보고서는 강조한다.

또한 보고서는 기술 발전이 개인의 자유를 희생시키지 않도록 인권 원칙에 기반한 AI 거버넌스의 중요성을 강조하고 있다. AI 개발 과정에서 투명성, 책임성, 포용성을 증진함으로써, 사회는 안면 인식 기술의 혜택을 누리는 동시에 그로 인한 잠재적 위험을 최소화할 수 있다.

“AI 규제는 필수적이지만, 이는 단순한 작업이 아니며 수많은 도전과 복잡성을 동반한다”라고 보고서는 인정하며, “규제는 달리는 기차 위에서 이루어져야 한다”고 지적한다.

보고서는 2023년 3월, 1,000명이 넘는 과학자, 연구자, 기업가들이 “사회와 인류에 심각한 위험을 초래할 수 있다”는 이유로 가장 발전된 AI 시스템의 개발을 일시적으로 중단할 것을 요구하는 공개 서한에 서명했다고 언급한다. 이들은 최소 6개월 동안 개발을 멈추고 “공동의 보안 프로토콜”을 마련할 것을 제안했으나, 이러한 우려에도 불구하고 연구는 중단되지 않았다. AI 개발 경쟁이 국가, 연구자, 기업가들 사이에서 치열하게 진행되면서 기차는 고속으로 계속 달리고 있는 것이다.

그럼에도 불구하고, 이 공개 서한은 새로운 기술이 사회, 경제, 정치에 미치는 영향을 면밀히 살펴보고, 이를 관리·규제·감시해야 할 긴급한 필요성을 다시 한 번 강조하는 계기가 되었다고 보고서는 결론짓고 있다.

보고서는 “변화의 속도가 놀라울 정도로 빠르다”며, “이로 인해 미래의 발전을 예측하고 이에 맞춰 법적 기준을 조정하는 것이 극도로 어려워지며, 규범이 빠르게 시대에 뒤처질 위험이 있다”고 경고한다.

궁극적으로 안면 인식 기술의 미래는 이를 어떻게 규제하고 활용하느냐에 달려 있다고 보고서는 지적한다. AI가 지속적으로 발전하는 가운데, 인권을 보호하고, 알고리즘의 편향성을 해결하며, 생체 데이터의 오남용을 방지하는 정책을 수립하는 것이 필수적이다.

또한, 안면 인식 기술의 윤리적 경계를 설정하기 위해서는 대중의 인식 제고와 충분한 사회적 논의가 필수적이라고 강조한다. 이를 통해 안면 인식 기술이 민주적 가치와 사회적 복지에 부합하는 방향으로 활용될 수 있도록 해야 한다.

이러한 도전 과제에 선제적으로 대응함으로써, 정부와 기관들은 개인의 자유를 보호하면서도 윤리적 AI 도입을 촉진하고 안면 인식 기술의 이점을 극대화할 수 있는 규제 프레임워크를 구축할 수 있을 것이라고 보고서는 결론짓고 있다.