2026년 AI 기반 사기 탐지: 금융 기관의 실시간 거래 보안 강화 방안

실시간 결제는 복구 가능 시간이 거의 없기 때문에 실시간 사기 탐지 기술은 빠르게 변화하고 있습니다. 특히 2026년 9월 2일, 비자는 비자와 피처스페이스(Featurespace) 기술을 결합하여 계좌 간 결제에 대한 통합 사기 점수를 제공하는 향상된 A2A Protect 서비스를 발표했습니다. 중요한 것은 하나의 제품이 사기 문제를 해결한다는 것이 아닙니다. 더 큰 흐름은 금융 기관들이 자금이 계좌에서 빠져나가기 전에 거래 수준의 AI를 행동 신호 및 네트워크 인텔리전스와 결합하는 추세라는 점입니다.

이는 송금이 송금인에서 수취인으로 단 몇 초 만에 이루어질 수 있기 때문에 중요합니다. 은행은 송금이 의심스러운지 판단하기 위해 밤새도록 일괄 처리 과정을 기다릴 수 없습니다. 사기 방지 시스템은 신호를 수집하고, 위험도를 평가하고, 정책을 적용하고, 승인 또는 결제 시간 내에 조치를 취해야 하며, 동시에 정상적인 거래도 신속하게 승인해야 합니다.

Visa의 2026년 9월 발표 내용은 A2A Protect 보도자료 에서 확인할 수 있습니다 . 이는 단일 기관 내의 고정된 규칙에만 의존하는 대신 실시간 네트워크 기반 의사결정으로 나아가는 업계 전반의 움직임을 보여주는 한 예입니다.

AI 기반 사기 탐지 기능은 실제로 무엇을 하는가?

AI 기반 사기 탐지는 통계 및 머신러닝 모델을 사용하여 활동이 합법적인지 의심스러운지 판단하는 것입니다. 결제 분야에서 이러한 모델은 단독으로 작동하는 경우가 드물며, 일반적으로 확정적 규칙, 인증 제어, 처리 속도 제한, 제재 또는 규정 준수 확인, 그리고 사람의 조사 등을 포함하는 더 큰 의사 결정 시스템 내에 통합되어 사용됩니다.

카드 결제의 경우, 금융기관은 승인, 거절 또는 강화된 인증 요청 여부를 결정할 수 있습니다. 계좌 간 즉시 이체의 경우, 결제 허용, 결제 시스템 및 법률이 허용하는 범위 내에서 일시 중지, 추가 고객 확인 요청 또는 사기 방지팀으로 이관 여부를 결정할 수 있습니다.

Visa의 최신 AI 사기 탐지 개요는 정적인 규칙이나 블랙리스트에만 의존하는 것이 아니라 거래 및 행동 데이터를 분석하는 실시간 시스템을 설명합니다. 이러한 기본 아키텍처는 특정 모델이나 공급업체가 변경되더라도 견고하게 유지됩니다.

실시간 결제가 왜 더 큰 위험을 초래하는가?

기존의 사기 방지 프로그램은 일부 결제 흐름에서 비정상적인 활동을 사후에 검토할 시간이 더 있었습니다. 그러나 즉시 결제는 이러한 검토 시간을 단축합니다. 예를 들어, 연방준비제도의 FedNow 서비스는 참여 기관들이 24시간 내내 송금 및 수금을 할 수 있도록 하며, 수신자는 즉시 자금을 이용할 수 있습니다.

2025년 6월, 연방준비제도 금융서비스국은 FedNow에 계좌 활동 임계값 기능을 추가했습니다. 참여 기관은 고객 세그먼트별로 금액 및 거래 속도 임계값을 정의할 수 있습니다. 이는 현대적인 사기 방지 시스템을 잘 보여주는 사례입니다. 인공지능(AI)은 하나의 계층일 뿐이며, 금액 및 빈도 제한과 같은 간단한 제어 방식은 신속하고 투명하며 모델 점수와 쉽게 결합할 수 있기 때문에 여전히 유용합니다. 자세한 내용은 연방준비제도 금융서비스국의 발표를 참조하십시오 .

실시간 사기 탐지 파이프라인

1. 거래 컨텍스트를 캡처합니다.

이 시스템은 결제 자체에서 시작됩니다. 금액, 판매자 또는 수취인, 시간, 채널, 결제 유형, 통화 및 계좌 식별자가 포함됩니다. 12달러짜리 식료품 구매와 12,000달러짜리 신규 수취인 송금은 둘 다 결제라는 이유만으로 동일한 의사 결정 경로를 거쳐서는 안 됩니다.

2. 행동 및 장치 신호 추가

결제 내역은 최근 계정 활동 내역과 비교됩니다. 유용한 단서로는 로그인 기록, 기기 식별 정보, IP 또는 네트워크 특성, 지리적 위치 일관성, 비밀번호 또는 연락처 정보 변경 후 경과 시간, 계정 생성 시기, 거래 빈도, 이전 수신자, 일반적인 결제 금액 등이 있습니다.

이러한 특징들은 "비정상적인" 상황과 "사기" 상황을 구분하는 데 도움이 됩니다. 예를 들어, 고객이 다른 나라에서 항공권을 구매하는 것은 단독으로는 비정상적으로 보일 수 있지만, 시스템에서 최근 여행 예약 내역, 알려진 기기 사용 기록, 그리고 오랜 기간 유지되어 온 카드 소지자 관계 등을 함께 인식하면 정상적인 거래로 간주됩니다.

3. 네트워크 인텔리전스 추가

일부 사기는 단일 계정 내부에서보다 네트워크 전체에서 더 쉽게 발견될 수 있습니다. 자금 세탁 계좌, 조직적인 사기, 위조 신분, 자금 세탁 구조는 여러 기관에 걸쳐 있는 수많은 송금인과 수취인을 포함할 수 있습니다.

국제결제은행(BIS)이 2025년 6월에 발표한 헤르타 프로젝트(Project Hertha)는 실시간 소매 결제 시스템을 위한 인공지능(AI) 기반 거래 분석을 연구했습니다. 180만 개의 계좌와 3억 800만 건의 거래로 구성된 가상 데이터셋을 사용한 실험에서, 결제 시스템 분석 기능을 추가함으로써 모의 은행과 결제 서비스 제공업체는 불법 계좌를 12% 더 많이 식별하고, 이전에 발견되지 않았던 행위를 탐지하는 데 26%의 개선 효과를 보였습니다. 이는 가상 데이터를 사용한 실험 결과이며, 실제 은행 시스템에서의 성능을 보장하는 것은 아닙니다. 이 프로젝트의 가치는 네트워크 패턴을 통해 개별 은행이 자체 장부에서는 확인할 수 없는 관계를 파악할 수 있다는 설계 교훈에 있습니다. 자세한 내용은 BIS 헤르타 프로젝트 보고서를 참조하십시오 .

4. 하나 이상의 위험 점수를 생성합니다.

모델은 특징들을 확률, 점수 또는 위험 범주로 변환합니다. 금융기관은 계좌 탈취 방지 모델, 카드 미소지 사기 방지 모델, 사기 위험 방지 모델, 그리고 의심스러운 수신자 관계를 위한 네트워크 모델 등 여러 모델을 동시에 사용할 수 있습니다.

모델 점수가 곧 최종 결정은 아닙니다. 은행은 "새로운 기기, 새로운 수취인, 비정상적으로 높은 금액"과 같은 규칙이나 고객 세그먼트 임계값을 함께 고려하여 최종 결정을 내릴 수 있습니다. 목표는 사기 손실과 정상적인 고객 차단 비용 간의 균형을 맞추는 것입니다.

5. 행동을 기획하다

일반적인 결과로는 승인, 거절, 추가 인증, 확인 요청, 허용되는 경우 지연, 검토 요청 등이 있습니다. 추가 인증은 위험도가 높아진 경우에만 더 강력한 증거를 요구하는 것을 의미합니다. 예를 들어, 앱 내 추가 확인이나 다른 인증 요소를 사용하는 것입니다.

의사 결정 엔진은 결제 흐름에 맞춰 충분히 빨라야 합니다. 카드 승인 플랫폼은 일반적으로 밀리초 단위로 위험 판단을 내리며, 즉시 결제 시스템은 일반적으로 시작부터 정산까지 단 몇 초밖에 걸리지 않습니다.

어떤 데이터 신호가 가장 중요한가?

인공지능 시대에도 규칙은 여전히 ​​중요합니다.

규칙 기반 시스템을 구식으로, 머신러닝을 그 대체 기술로 설명하는 것은 쉽습니다. 하지만 실제 운영 환경에서 사기 방지 시스템을 고려할 때, 이는 지나치게 단순화된 설명입니다. 규칙 기반 시스템은 특정 국가 차단, 불가능한 거래 유형, 규제 요건 충족, 중복 거래, 엄격한 금액 제한, 새롭게 도입된 긴급 통제 등과 같이 확정적인 조치가 필요한 알려진 상황에 매우 효과적입니다.

인공지능은 명확한 규칙 목록으로 표현할 수 없는 여러 신호나 행동의 조합에 따라 결정이 좌우될 때 가장 강력한 힘을 발휘합니다. 따라서 선진 기관들은 계층적인 접근 방식을 사용합니다. 명확한 정책을 위해서는 규칙을, 복잡한 위험 분석을 위해서는 머신러닝을, 관계 분석을 위해서는 네트워크 분석을, 그리고 모호하거나 중대한 사안에 대해서는 인간의 검토를 거칩니다.

오탐이 핵심 보안 지표인 이유

모든 거래를 차단하는 사기 방지 시스템은 기술적으로는 사기를 막는 데 효과적이지만, 결제 시스템으로는 사용할 수 없습니다. 오탐 (false positive) 이란 정상적인 거래가 의심스러운 거래로 잘못 분류되는 것을 말합니다. 오탐이 너무 많으면 고객 불편, 콜센터 비용 증가, 구매 포기, 그리고 신뢰도 하락으로 이어집니다.

그렇기 때문에 기관들은 단순히 사기 적발률만 추적하는 것이 아닙니다. 중요한 지표로는 사기 손실, 회수율 또는 탐지율, 정확도, 오탐률, 승인율, 고객 불편률, 수동 검토량, 지연 시간, 그리고 각 결정 유형에 따른 재정적 비용 등이 있습니다.

최적의 임계값은 상황에 따라 다릅니다. 50달러짜리 카드 구매는 25만 달러 규모의 신규 계좌 이체와는 다른 허용치를 적용할 수 있습니다. 따라서 실시간 사기 방지는 단순히 분류 문제가 아니라 최적화 문제입니다.

승인된 푸시 결제 사기는 계정 정보 도용 사기보다 더 어렵습니다.

일부 사기는 비교적 간단합니다. 범죄자가 고객의 계정 정보를 훔쳐 고객이 승인하지 않은 결제를 진행하는 방식입니다. 또 다른 유형은 흔히 ' 앱 기반 승인 결제 사기' 라고 불리는데 , 고객이 속아서 직접 송금을 하도록 유도하는 경우입니다.

AI가 이러한 상황을 식별하기 어려운 이유는 로그인, 기기, 인증 및 최종 확인이 모두 정상일 수 있기 때문입니다. 의심스러운 신호는 대신 수신자 네트워크, 거래 내역, 비정상적인 수혜자 관계, 결제 속도 또는 더 광범위한 사기 패턴에서 나타날 수 있습니다.

이것이 바로 네트워크 수준의 인텔리전스가 주목받는 이유 중 하나입니다. 마스터카드가 2025년 필리핀 실시간 결제 네트워크에 TRACE를 출시하고 영국에서 A2A 사기 방지 도구를 제공하는 것은 각 은행의 데이터를 고립된 섬처럼 취급하는 대신 여러 기관에 걸쳐 위험을 식별하려는 서비스 제공업체의 노력의 예입니다.

모델 변화: 사기꾼들은 정적인 모델보다 훨씬 빠르게 변화한다

모델 드리프트는 입력값과 사기 결과 간의 통계적 관계가 시간이 지남에 따라 변할 때 발생합니다. 소비자 행동 변화, 신제품 출시, 계절적 패턴 변화, 그리고 범죄자들이 의도적으로 보안 시스템의 취약점을 찾아내는 행위 등이 이러한 변화에 영향을 미칩니다.

기관들은 모니터링, 재교육, 챔피언-챌린저 테스트, 임계값 조정, 규칙 업데이트, 그리고 확인된 사기 사례에 대한 피드백을 통해 대응합니다. 특히 정확한 레이블링이 중요합니다. 프로젝트 헤르타는 레이블링된 학습 데이터, 견고한 피드백 루프, 그리고 설명 가능한 알고리즘이 효과적인 운영의 핵심 요소임을 강조했습니다.

실시간 시스템은 또한 잘못되거나 품질이 낮은 라벨로부터 보호하기 위한 안전장치가 필요합니다. 고객이 정당한 거래를 잘못 이의 제기하거나 조사관이 사건을 일관성 없이 분류하는 경우, 모델은 잘못된 패턴을 학습할 수 있습니다.

설명 가능성과 인간 검토는 여전히 중요합니다.

사기 관련 결정은 자금 접근성, 고객 경험 및 규제 의무에 영향을 미칩니다. 금융기관은 모델이 다르게 작동하는 이유를 이해하고, 오류를 조사하고, 임계값이나 정책 변경을 정당화하기 위해 충분한 설명이 필요합니다.

설명 가능성을 확보하기 위해 모든 모델이 단순할 필요는 없습니다. 다만 유용한 운영상의 결과물을 도출해야 합니다. 즉, 어떤 신호가 위험을 유발했는지, 어떤 규칙이 적용되었는지, 점수가 시간에 따라 어떻게 변했는지, 그리고 결정이 승인된 정책과 일치하는지 등을 파악해야 합니다.

위험도가 높거나 모호한 사건의 경우 조사관의 역할은 여전히 ​​중요합니다. 사람의 검토를 통해 모델이 갖지 못한 맥락을 파악하고, 새롭게 나타나는 사기 유형을 식별하며, 다음 모델 업데이트를 위한 더 나은 레이블을 생성할 수 있습니다.

2026년 모델 거버넌스는 모델 정확도만큼 중요합니다.

2026년 4월, 통화감독청(OCC), 연방준비제도(Fed), 예금자보호공사(FDIC)는 위험 기반 접근 방식을 강조하는 개정된 기관 간 모델 위험 관리 지침을 발표했습니다. 이 지침은 모델 개발 및 사용, 검증 및 모니터링, 거버넌스 및 통제, 그리고 제3자 모델에 대해 논의합니다. 또한, 생성형 인공지능(Generative AI)과 에이전트형 인공지능(Agentic AI)은 새롭고 빠르게 발전하고 있기 때문에 이 지침의 범위에 포함되지 않는다고 명시하고 있습니다.

사기 방지팀에게 있어 실질적인 핵심은 고성능 모델만으로는 충분하지 않다는 것입니다. 금융기관은 명확한 소유권, 문서화된 사용 목적, 테스트, 모니터링, 변경 관리, 데이터 거버넌스, 그리고 공급업체 모델에 대한 적절한 감독이 필요합니다. 자세한 내용은 OCC의 2026년 개정 모델 위험 지침을 참조하십시오 .

미국 국립표준기술 연구소(NIST)의 자발적 인공지능 위험 관리 프레임워크는 거버넌스, 매핑, 측정, 관리를 중심으로 광범위한 분야 간 구조를 제공합니다. 이는 은행 규제는 아니지만, 신뢰성, 투명성, 개인정보 보호, 보안 및 책임성에 관한 질문들을 정리하는 데 유용합니다.

생성형 인공지능이 적합한 분야와 적합하지 않은 분야

생성형 AI는 수사관들이 사건을 요약하고, 메모에서 정보를 추출하고, 수사 보고서를 작성하거나, 대규모 정책 및 사례 데이터베이스를 검색하는 데 도움을 줄 수 있습니다. 하지만 그렇다고 해서 방대한 언어 모델이 결제의 적법성을 판단하는 유일한 승인 엔진이 되어야 한다는 의미는 아닙니다.

핵심적인 실시간 사기 점수 산정은 일반적으로 낮은 지연 시간의 분류, 이상 탐지, 그래프 분석 및 보정된 위험 점수에 최적화된 구조화된 통계 모델에 의존합니다. 생성형 시스템은 특히 경고 발생 후 워크플로를 보완할 수 있지만, 금융 기관은 여전히 ​​거래 경로에서 확정적인 제어와 측정 가능한 모델 동작을 필요로 합니다.

시스템이 제대로 작동할 때 고객이 경험하는 것

대부분의 AI 기반 사기 탐지 시스템은 눈에 띄지 않게 작동합니다. 일반적인 결제는 추가 절차 없이 승인됩니다. 다소 비정상적인 결제의 경우 앱 내에서 확인 절차가 진행될 수 있습니다. 고위험 거래는 거부되거나 검토를 위해 회부될 수 있습니다. 목표는 선택적 마찰을 유도하는 것입니다. 즉, 위험도가 높을 때만 보안을 강화하는 것입니다.

고객 입장에서는 최첨단 사기 방지 시스템이 기존 시스템보다 불편함이 덜할 수 있습니다. 정상적인 행동과 의심스러운 활동을 더욱 정확하게 구분할 수 있기 때문입니다. 금융기관 입장에서는 이러한 사용자 경험을 유지하면서도 새로운 사기 패턴에 신속하게 대응하는 것이 과제입니다.

금융기관을 위한 실용적인 아키텍처

• 고품질의 거래, 계정, 기기 및 행동 신호를 실시간으로 수집합니다.
• 명확한 정책과 알려진 고위험 상황에는 결정론적 규칙을 사용하십시오.
• 거래 수준의 위험을 평가하기 위해 지도 학습 및 이상 탐지 모델을 적용합니다.
• 운반책과 수령자 간의 관계가 중요한 경우 그래프 또는 네트워크 분석을 추가하세요.
• 세그먼트별 임계값을 사용하여 의사 결정 엔진에서 점수를 결합합니다.
• 위험이 불확실한 경우 모든 이상 징후를 자동으로 거부하기보다는 단계별 인증 또는 검토 방식을 사용하십시오.
• 확인된 사기 행위, 고객 반응 및 조사 결과를 모델 모니터링에 다시 입력합니다.
• 오탐, 승인율, 사기 손실, 지연 시간 및 검토량을 함께 추적하세요.
• 재료 모델을 검증하고, 편차, 데이터 품질 및 공급업체 종속성을 모니터링합니다.
• 모델, 데이터 피드 또는 결제 시스템에 문제가 발생할 경우 명확한 해결 경로를 유지하십시오.

진행 방향

2026년 9월에 발표된 Visa A2A Protect 업데이트, FedNow의 구성 가능한 위험 관리 기능, 그리고 BIS의 Project Hertha는 모두 동일한 방향을 가리킵니다. 즉, 사기 방지 시스템이 개별 거래 규칙에서 계층화된 실시간 인텔리전스로 전환되고 있다는 것입니다. 가장 강력한 시스템은 개인 행동, 계정 정보, 기기 데이터, 네트워크 관계, 규칙 및 전문가의 지식을 결합합니다.

AI는 위험을 신속하게 평가하는 능력을 향상시키지만, 여전히 해결해야 할 과제들을 안고 있습니다. 금융기관들은 여전히 ​​어느 정도의 마찰을 허용할지, 모델을 어떻게 검증할지, 어떤 데이터를 법적·윤리적으로 사용할 수 있을지, 제3자 시스템을 어떻게 관리할지, 그리고 모델이 불확실할 경우 어떻게 대처할지 등을 결정해야 합니다.

실시간 금융에서 AI 기반 사기 탐지의 실질적인 의미는 바로 이것입니다. 사기를 "알아내는" 단일 알고리즘이 아니라, 거래가 회복 불가능한 손실로 이어지기 전에 빠르게 변화하는 증거를 적절한 조치로 지속적으로 전환하는 정교한 의사결정 시스템인 것입니다.