Trulioo 최고기술책임자(CTO) 할 로너스(Hal Lonas) 작성

 

작성자: Hal Lonas

보도일자: 2025년 11월 23일

출처: Biometricupdate.com

 

에이전틱 AI가 머지않아 디지털 환경 전반에서 수천 개의 에이전트를 통해 인간을 보조하게 될 것이라는 점은 의심의 여지가 없습니다. 그러나 더 시급한 질문은 다음과 같습니다. 그 에이전트들이 인간의 복잡한 의사결정을 스스로 복제하기까지 얼마나 걸릴 것인가?

 

에이전트에게 “일주일에 한 번 우유를 재주문해줘”라고 지시하는 것과, “가족 여행 전체 일정을 예약해줘”라고 요청하는 것은 전혀 다른 문제입니다.

 

여행을 예약할 때 우리는 수많은 변수를 동시에 고려합니다. 비용, 일정, 여행 유연성, 목적지, 활동 계획, 날씨, 여행 인원, 숙소, 현지 교통 등 다양한 요소들을 한꺼번에 관리해야 합니다.

 

이 과정은 복잡하며 사람마다 모두 다르게 진행됩니다. 하지만 우리의 두뇌는 이러한 요소들을 잘 분해하고 우선순위를 정하는 데 매우 능숙합니다.

 

그렇다면 에이전틱 AI는 이 단계에 가까워지고 있을까요? 에이전트가 이 정도의 복잡성을 관리할 수 있을까요?

 

기술은 거의 그 단계에 도달했지만, 적절한 안내가 필요합니다. 우리가 AI에게 우리의 행동 방식을 직접 알려주거나, 아니면 AI가 우리가 여행을 예약하는 모습을 관찰하고 선택 이유를 질문하도록 해야 할 것입니다.

 

하지만 기술이 어떻게 발전하든 반드시 가드레일(안전 장치)이 필요합니다.

 

AI 에이전트에 대한 신뢰 구축

AI 에이전트가 잘못 행동할 수 있는 방식에는 여러 유형이 있습니다.

 

가장 큰 우려 중 하나는 에이전트가 과연 사용자의 이익을 최우선으로 두고 있는가 하는 점입니다. 예를 들어 여행 예약을 AI 에이전트에게 맡긴다면, 어떻게 가장 좋은 요금으로 예약했는지 확인할 수 있을까요? 에이전트는 항공사 시스템과 어떤 방식으로 상호작용할까요?

 

사실 AI 에이전트를 사용하지 않더라도, 여행을 계획하는 사람들은 가격 책정에 영향을 미치지 않도록 VPN을 사용하거나 쿠키를 끄는 경우가 많습니다. 예를 들어 최근 연구에 따르면 일부 항공사는 혼자 여행을 예약하는 사람을 비즈니스 여행으로 간주해 요금을 올리는 경우가 있다고 합니다. 비용이 환급된다고 가정하기 때문입니다.

 

디지털 경제에서 신뢰는 가장 중요한 자산이며, 소비자에 대한 공정성은 AI 에이전트가 반드시 최우선으로 다뤄야 하는 과제입니다.

 

다양한 형태의 사기와의 싸움

에이전틱(Agentic) 사기는 매우 다양한 형태로 나타날 수 있으며, 디지털 거래의 모든 주체에 영향을 미칩니다.

 

예를 들어 판매자들은 이미 봇(bot)에 대비한 강력한 방어 체계를 구축해 왔습니다. 봇은 기본적으로 웹사이트에서 제품과 가격 정보를 긁어가 데이터베이스를 만드는 “똑똑한 브라우저”입니다. 이제 판매자들은 방어를 완화하기를 주저합니다. 왜냐하면 에이전트가 실제 구매자인 척 위장하면서 사실상 동일한 봇 스크래핑을 수행할 가능성이 있기 때문입니다. 단순하지만 매우 흔한 사기 위협입니다.

 

악의적 행위자는 이러한 위협을 더 악화시킬 수 있습니다. 예를 들어, 정상 사용자를 사칭하는 에이전트, 또는 허가받지 않은 작업을 수행하는 에이전트를 이용해 사기를 저지를 수 있습니다. 이런 방식의 거래는 자금 세탁, 결제 사기, 상품 절도와 같은 범죄를 갖추는 데 악용될 수 있습니다.

 

반대로, 사용자의 에이전트가 겉보기에는 정상적인 판매자로 보이는 곳에서 물건을 구매했지만 실제로는 제품을 받지 못할 수도 있습니다. 따라서 해당 판매자의 에이전트가 신뢰할 만한지 검증할 수 있는 평판 확인 절차가 필요합니다.

 

이러한 사기 위협이 증가하면서, 에이전트 간 상호작용에서 책임을 누가 지는가에 대한 논쟁이 촉발되었습니다.

 

현재는 신용카드로 온라인 구매를 하면, 소비자와 카드사가 거래에 대한 책임을 일부씩 나눠 가집니다. 문제가 발생하면, 카드사는 판매자를 문제 있는 상점으로 판단해 카드 소유자에게 비용을 청구하지 않을 때도 있습니다. 반대로 카드 소유자가 책임을 져야 하는 경우도 있습니다.

 

하지만 에이전틱 환경에서는 상황이 더 복잡해집니다. 사람들이 “내 에이전트가 임의로 거래했다”라고 주장할 수 있기 때문입니다. 그렇다면 분쟁이 생겼을 때 책임은 누가 져야 할까요? 판매자일까요, 카드사일까요, 아니면 사용자의 에이전트일까요? 지금으로서는 명확한 답이 없는 큰 질문입니다.

 

에이전트 확인(KYA): 해답은 신원에서 시작된다

앞으로 몇 년 안에 수십억 개의 에이전트가 활동하게 될 가능성이 매우 높습니다. 그렇다면 우리는 그렇게 많은 에이전트를 어떻게 추적하고, 검증되었다는 것을 어떻게 확인할 수 있을까요? 그 유일한 방법은 AI 기반의 KYA(Know Your Agent, 에이전트 확인) 프로세스를 구축하는 것입니다.

 

에이전틱 신원 인증은 – 그 에이전트를 만든 주체가 판매자이든, 결제 회사이든, 제3자이든 – 향후 디지털 거래의 새로운 시대를 결정짓는 핵심 요소가 될 것입니다. 그리고 이 인증은 그 에이전트를 실제로 사용하는 사람에게까지 확장되어야 합니다.

 

미래에는 사람들이 앱스토어처럼 에이전트 스토어(agent store)에 들어가 여행 예약처럼 특정 작업을 수행하는 데 가장 적합한 에이전트를 골라 사용하는 시대가 올 것으로 보입니다. 에이전트 스토어는 에이전트의 개발자, 목적, 그리고 사기범이 개입하지 않았는지를 확인할 수 있는 중요한 장치 역할을 합니다.

 

두 번째 메커니즘은 에이전트 패스포트(agent passport)입니다. 이는 다음 요소들을 하나로 통합할 것입니다:

• 에이전트 개발자의 신원
• 에이전트를 사용하는 사용자의 신원
• 애플리케이션의 의도(intent)
• 에이전트에 적용되는 가드레일(안전 규칙)
• 신용카드와 같은 금융 정보

이 모든 요소가 암호학적으로 검증 가능한 방식으로 결합되어, 개발자·의도·코드가 시간이 지나도 변조되지 않았음을 증명해야 합니다.

 

에이전틱 AI가 복잡한 의사결정 단계로 진화하는 시점은 여전히 중요한 질문으로 남아 있습니다. 하지만 그보다 더 중요한 질문이 있습니다: 그 진화 과정 동안, 어떻게 안전하고 신뢰할 수 있는 디지털 거래를 유지할 것인가? 그 해답은 언제나 신원(identity)에서 시작됩니다.

 

저자 소개

할 로너스(Hal Lonas)는 Trulioo의 최고기술책임자(CTO)입니다.