작성자: 패트릭 하딩(Patrick Harding), 핑 아이덴티티(Ping Identity) 수석 제품 설계자

 

작성자: Patrick Harding

보도일자: 2025년 11월 3일

출처: Biometricupdate.com

 

AI 에이전트의 도입이 급격하게 증가하면서, 가상 비서의 개념을 재정의하고, 업무 흐름을 간소화하며, 산업 전반의 의사결정 과정에까지 영향을 미치고 있다. 실제로 KPMG의 최근 조사에 따르면, 현재 전체 조직의 65%가 AI 에이전트 프로그램을 시범 운영 중이며, 이는 2024년 4분기의 37%에서 크게 상승한 수치로, 도입 속도가 예외적으로 빠르게 가속화되고 있음을 보여준다.

 

이러한 AI 에이전트들은 이제 일상적으로 과거 사람만이 수행하던 업무를 처리하고 있다 – 여행 예약, 의료 의사결정 지원, 거래 승인, 상품 추천 등이 그 예다. 이러한 변화는 기업과 고객의 상호작용 방식을 근본적으로 바꾸고 있다. 과거에는 광고 캠페인, 멤버십 프로그램, 웹사이트 큐레이션 등을 통해 결정되던 소비자 선택이 이제는 구조화된 데이터를 해석하는 AI 시스템에 의해 이루어지고 있는 것이다.

 

즉, 브랜드 인식(Brand Perception)은 더 이상 인간의 손에만 달려 있지 않다. 만약 기업이 이 새로운 환경에서 일관되고 검증 가능하며 기계 친화적인 방식으로 자사의 정체성을 효과적으로 표현하지 못한다면, 그 브랜드는 AI 시스템에 의해 잘못 인식되거나, 왜곡되거나, 심지어 무시될 위험에 놓이게 된다.

 

이 새로운 현실은 근본적인 질문을 던진다. “더 이상 사람과의 직접 접점이 아닌, 기계가 첫 번째 상호작용 주체가 되는 환경에서 – 당신의 브랜드 정체성을 올바르게 표현하고, 신뢰받으며, 보호받도록 보장하려면 어떻게 해야 하는가?”

 

에이전트형 AI에서 고려해야 할 주요 신원 관리 과제

그동안 신원(Identity)은 항상 운전면허증, 로그인, 혹은 대면 상호작용 등을 통해 인간을 매개로 확인되어 왔다. 이러한 접점들은 신뢰의 관문이자, 고객과 조직의 관계가 시작되는 지점이었다.

 

그러나 에이전트형 AI(Agentic AI)의 등장으로 이러한 전통적인 관문이 사라지고 있다. 이제 브랜드들은 개인보다 기계(AI 에이전트)와 더 자주 상호작용하게 되며, 이는 AI 기반 환경(AI-native environment)으로의 전환을 의미한다. 이 변화는 조직이 반드시 대비해야 할 새롭고 복잡한 신원 관리 과제를 불러온다.

 

예를 들어, 과거에는 제한된 수의 사용자와 시스템만 관리하면 되었지만, 앞으로 기업들은 직원과 고객을 대신해 행동하는 수천 개의 AI 에이전트를 관리해야 할 수 있다. 이 각각의 에이전트에게는 자격 증명 발급, 권한 관리, 사용 종료 절차(폐기)가 필요하며, 만약 이러한 통제가 제대로 이루어지지 않는다면 무단 접근이나 보안 리스크가 발생할 수 있다.

 

동시에 ‘신원(Identity)’ 자체도 점점 더 복잡해지고 있다. 일부 에이전트는 실제 인간을 대표하지만, 다른 일부는 자체 자격 증명을 가지고 자율적으로 행동한다. 이로 인해 인간의 의도와 기계 주도적 행동 간의 경계가 흐려지고 있으며, 이는 보안(Security)과 책임성(Accountability) 양측 모두에 있어 매우 중요한 구분이다.

 

기존의 보안 체계 또한 한계를 드러내고 있다. 지금까지의 보안 도구들은 악의적 행위자와 합법적인 AI 에이전트를 구분하도록 설계되지 않았기 때문에, 조직은 오탐(false positive)과 탐지되지 않은 위협(undetected threat) 양쪽 모두에 노출될 위험이 있다. 한 번 AI 에이전트가 위임 권한(delegated authority)을 부여받으면, 감독(oversight)은 더욱 어려워진다. 에이전트의 의사결정 내역, 접근 권한, 리스크 정책 준수 여부를 지속적으로 추적해야 하며, 이는 곧 운영적·재무적·평판적 리스크의 새로운 층위를 만들어낸다. 따라서 보다 강력한 신원 거버넌스(identity governance)가 필수적이다.

 

이 모든 문제는 한 가지 결론으로 이어진다. 에이전트형 AI 시대의 신원은 더 이상 정적(static)일 수 없다. 조직이 신뢰를 유지하려면, 신원은 끊임없이 관리되고, 검증되며, 주장(asserted)되어야 한다.

 

브랜드가 신원을 확립하고 증명하는 방법

이러한 어려움에도 불구하고, 브랜드가 AI 기반 환경(AI-native environment)에서 자사의 신원을 확립하고 증명하기 위해 취할 수 있는 구체적인 단계들이 존재한다. 핵심은 AI 에이전트를 임시로 관리해야 할 예외적 존재로 보지 않고, 신원 생태계(Identity Ecosystem)의 정식 참여자로 인식하는 것이다.

1. AI 에이전트를 사용자처럼 관리하라(Provision AI Agents Like Users)
   첫 번째 단계는 AI 에이전트 자체도 ‘하나의 신원(Identity)’을 필요로 한다는 점을 인식하는 것이다. 각 에이전트에게 자격 증명(Credentials)을 발급하고, 정책(Policies)을 부여하며, 리스크 프로파일(Risk Profile)에 따라 분류해야 한다. 에이전트를 완전한 디지털 시민(Digital Citizen)으로 대우함으로써, 조직은 에이전트의 행위에 대한 책임(Accountability)을 명확히 확립할 수 있다.
2. 정확한 권한 위임을 시행하라(Enforce Precise Delegation)
   모든 개별 에이전트는 명시적으로 허용된 작업에 대해서만 인증(Authentication) 및 인가(Authorization) 되어야 한다. 특히 민감도가 높은 업무의 경우, 반드시 인간이 검증 및 승인 과정에 개입(human-in-the-loop)해야 한다. 이를 통해 에이전트가 위임된 권한을 초과하거나, 대표하는 사람을 사칭(impersonation)하는 것을 방지할 수 있다.
3. 지속적인 모니터링 및 거버넌스(Monitor and Govern Continuously)
   신뢰(Trust)와 위험(Risk)은 항상 변화하는 동적(Dynamic) 요소이므로, 에이전트에 대한 감독(Oversight) 또한 지속적으로 이루어져야 한다. 에이전트의 활동을 실시간으로 모니터링하면 비정상적 행동 탐지, 이상 징후 표시, 사전 대응(Prevention)이 가능하다. 또한 시스템 내에는 즉시 접근 철회(Revocation) 기능이 내장되어 있어야 하며, 비정상적 에이전트(Rogue Agent)는 즉시 차단할 수 있어야 한다.
4. 기계 친화적인 신원 구조를 설계하라(Structure Identity for Machines)
   인간 중심의 브랜드 구축은 기계에게 아무 의미가 없다. 따라서 기업은 AI가 해석(Parsing), 검증(Verification), 신뢰(Trusting) 할 수 있는 방식으로 신원 데이터(Identity Data)를 구조화해야 한다. 여기에는 메타데이터, 스키마, 콘텐츠 포맷 등을 AI가 소비하기에 적합하도록 최적화하는 과정이 포함된다. 또한 모든 에이전트의 행위는 그 출처(Source)로 추적 가능(Traceable)해야 하며, 필요할 경우 되돌릴 수 있는(Reversible) 구조를 갖춰야 한다.

 

브랜드가 스스로에게 던져야 할 핵심 질문들

이 새로운 현실에 대비하기 위해, 경영진은 조직에 다음과 같은 어렵지만 반드시 필요한 질문들을 던져야 한다.

• AI 에이전트가 허위 또는 편향된 데이터에 의해 조작될 경우, 어떤 일이 발생할 것인가?
• 자율적 의사결정이 피해를 초래했을 때, 그 책임은 누구에게 있는가?
• 우리의 브랜드 정체성이 기계에 의해 정확하게 해석되도록 보장하려면 어떻게 해야하는가?
• 문제가 발생했을 때, 에이전트의 행동을 철회할 수 있는 안전장치가 마련되어 있는가?
• 에이전트의 주요 목표가 효율성일 때, 그 과정에서 지켜야 할 윤리적 한계는 무엇인가?

 

우리가 디지털 아이덴티티의 새로운 시대로 들어오면서, 지금 이 질문들을 던지고 답하는 일만이 미래의 신뢰를 지키는 유일한 방법이 될 것이다. 앞으로 성공하는 조직은 가장 요란하게 말하는 곳이 아니라, 자사의 정체성을 구조적이고 검증 가능하며 윤리적인 방식으로 제시하는 조직이 될 것이다.

 

AI 시대에는 ‘신뢰(Trust)’가 가장 가치 있는 화폐가 될 것이다. 그리고 올바르게 확립된 신원(Identity)만이 그 신뢰를 지켜낼 수 있는 시스템이 될 것이다.

 

저자 소개

패트릭 하딩(Patrick Harding)은 핑 아이덴티티(Ping Identity)의 수석 제품 설계자(Chief Product Architect)이다.