[Case Study] PayPal의 AI 사기 탐지 혁신 – 머신러닝으로 신뢰와 효율을 동시에 잡다

개요

PayPal은 전 세계 수백 만 건의 거래를 처리하는 결제 플랫폼으로서, 고객이 안심하고 결제하도록 하는 것이 핵심 경쟁력입니다. 하지만 동시에 거래량이 많을수록 ‘사기(fraud)’ 위험도 그만큼 커집니다. 따라서 단순히 결제 승인을 처리하는 것만으로는 부족하고, 사기 거래를 얼마나 빨리·정확히 탐지하느냐가 플랫폼 신뢰성과 비용 구조에 큰 영향을 줍니다.

이런 맥락에서 PayPal은 머신러닝(ML)·AI(인공지능) 기반의 사기 탐지 시스템을 본격적으로 도입하여 리스크 관리 체계를 고도화하였습니다.

요약하면: 결제 플랫폼 + 리스크 관리 + AI 결합 → 운영 비용 절감 + 사용자 신뢰 확보 라는 구조입니다.

문제

PayPal이 직면했던 주요 문제는 다음과 같습니다.

전통적인 규칙기반(rule-based) 사기 탐지 시스템만으로는 사기 수법이 급속히 진화하는 환경을 따라잡기 어렵다는 점입니다. 규칙이란 “IP 주소가 해외고 결제금액이 크면 거절한다” 같은 고정된 로직인데, 사기범은 이를 회피하는 방식으로 변화합니다.
글로벌 규모 거래량이 매우 크므로 “몇 건을 사기로 놓쳤다”는 것이 곧 수백 만 달러 손실로 이어질 수 있고, 반대로 “정상 거래를 사기처럼 잘못 걸렀다(오탐)”면 고객 경험 저하 및 신뢰 손실로 이어집니다.
사기 탐지를 위해 수작업으로 리뷰(reviewer)가 개입되는 경우가 많았고, 이로 인해 운영비용이 증가하며 실시간성(real-time) 대응이 어려웠습니다.
글로벌 네트워크(수백 개 시장, 수억 계정)를 운영하면서 다양한 국가·통화·결제수단 별로 사기 패턴이 다르기 때문에 단일한 규칙으로 관리하기에는 복잡성이 매우 높았습니다.

이런 문제들을 해결하지 못하면, 신뢰할 수 있는 결제 플랫폼으로서의 입지가 흔들리며 비용이 치솟고, 경쟁사 대비 리스크 부담이 커지는 구조였습니다.

전략

PayPal이 위 문제들을 해결하기 위해 취한 전략은 다음과 같습니다.

1. 머신러닝·AI 모델 도입

PayPal은 거래 하나하나에 대해 수천 개의 데이터를 실시간으로 분석하고, 이상 패턴을 탐지할 수 있는 머신러닝 모델을 도입하였습니다.
슈퍼바이즈드(supervised) 학습, 언슈퍼바이즈드(unsupervised) 학습, 준감독(semi-supervised) 학습 등 여러 형태의 ML 기법을 함께 적용했습니다.
거래 시점에 “이 거래가 정상일지 사기일지 리스크 스코어(risk score)를 매긴 뒤 판단”하는 방식으로 전환하였으며, 기존 규칙 기반 필터와 ML 모델을 조합하는 하이브리드 방식도 채택하였습니다.

2. 데이터 규모 및 네트워크 활용

PayPal은 4억 건 이상의 액티브 계정을 보유하며, 수십억 건의 거래 데이터를 확보하고 있습니다.
이 방대한 데이터와 “양면 네트워크(two-sided network)” 구조(구매자 + 판매자)를 활용해 사기패턴을 조기에 탐지할 수 있는 강점을 가졌습니다.
또한 그래프 데이터베이스(graph database) 기술을 활용하여, IP 주소나 동일 디바이스, 동일 주소 등 ‘네트워크 관계’로 연결된 이상행동을 탐지했습니다.

3. 운영 효율화 및 사용자 경험 개선

실시간으로 거래 승인을 처리하면서 정상 고객이 거절되지 않도록 ‘신뢰 있는 고객의 승인 지연 최소화’ 전략을 펼쳤습니다.
사기 가능성이 높은 거래만 별도로 리뷰어가 개입하도록 시스템화하여 운영비용을 절감하고, 처리 속도를 개선했습니다.
또한 판매자 및 구매자 보호 프로세스(chargeback protection, seller protection 등)를 강화하여 플랫폼 전반의 신뢰도를 높였습니다.

결과

전략 실행 이후 PayPal이 얻은 주요 성과는 다음과 같습니다.

머신러닝 모델 도입 이후 기존에 비해 모델 정확도가 상당히 개선된 사례가 있습니다. 예컨대, 한 문서에서는 “10년 넘게 해당 사기 탐지 분야를 작업해온 팀임에도 불구하고, H2O.ai의 드라이버리스 AI(Driverless AI)를 사용한 테스트에서 단일 실험으로 모델 정확도가 약 6%p 향상되었다”고 보고되어 있습니다.
실시간 거래 리스크 분석 기반으로 정상 고객 차단(false positives)을 줄였고, 사기 탐지율(fraud detection rate)을 높였다는 언급이 여러 곳에서 나옵니다.
운영비용 관점에서 리뷰어 수작업 개입을 줄이고 자동화된 리스크 판단을 확대하면서, 처리 속도가 빨라지고 효율이 개선되었습니다. (구체적 수치가 공개되지는 않았지만, ‘리뷰 개입 최소화’라는 정성적 성과가 언급되어 있습니다)
글로벌 시장에서 다양한 결제 환경에 대응할 수 있는 리스크 플랫폼 기반이 마련되면서, 확장성 및 신뢰 측면에서 경쟁 우위를 확보하였습니다.

한마디로, 결제 플랫폼에서의 리스크 관리와 AI 결합은 탐지 정확도 개선 + 비용 절감 + 사용자 신뢰 강화 라는 삼박자를 실현한 결과라 할 수 있습니다.

인사이트

이번 사례로부터 얻을 수 있는 주요 인사이트는 다음과 같습니다.

1. 규칙 기반 시스템만으로는 한계가 있다

사기 수법은 지속적으로 바뀌기 때문에, 고정된 규칙만으로 대응하면 어느 순간 탐지율이 급격히 떨어집니다. 따라서 머신러닝처럼 ‘패턴을 학습하고 변화에 적응하는 구조’가 필수적입니다.
특히 내부 데이터가 풍부하고 거래량이 큰 플랫폼일수록 ML 도입은 선택이 아닌 필수입니다.

2. 데이터 규모와 네트워크 효과가 핵심이다

PayPal처럼 방대한 거래·계정 데이터를 갖춘 기업은 머신러닝 모델을 고도화하고, 새로운 사기패턴에도 빠르게 대응할 수 있습니다.
내부 거래 데이터뿐만 아니라, 계정 간 관계·디바이스 정보·네트워크 연결 등을 이용하면 탐지력이 더 강화됩니다.

3. 정상 고객 경험을 유지하는 것이 중요하다

사기만 잡으면 된다는 관점이 아니라, 정상 고객이 불편을 겪지 않고 결제를 원활히 할 수 있도록 하는 것이 중요합니다.
즉, 탐지 정확도(거절하지 않는 것)와 탐지 민감도(사기를 놓치지 않는 것) 사이에서 균형을 유지해야 합니다. PayPal의 사례에서도 이에 대한 고려가 돋보입니다.

4. 운영 효율화와 비용절감도 함께 고려해야 한다

AI 도입은 단순히 기술을 설치하는 것이 아니라, 리뷰어 개입을 줄이고 자동화 수준을 높이며 운영비용을 낮추는 구조로 설계해야 실질적인 ROI(투자 대비 수익)가 나옵니다.
내부 프로세스 설계, 실시간 대응 체계, 모니터링 및 모형 재학습(모델 리트레이닝) 등이 함께 작동해야 합니다.

5. 글로벌·다채널 환경에서는 확장성이 중요하다

여러 국가, 다양한 결제수단, 다국어/다문화 환경에서 사기패턴이 다르기 때문에, 하나의 모델로만 해결되지는 않습니다. 데이터-모형 설계 시 확장성(스케일러빌리티)과 자동 재학습 구조가 필수입니다.
예컨대 PayPal은 매일 모델을 재학습하거나 최신 패턴을 반영하는 방식으로 대응하고 있다는 보도가 있습니다.

💡 FLEXDADDY의 제언

페이팔이 AI와 머신러닝을 활용해 사기 탐지 시스템을 혁신한 사례는 단순히 손실을 줄이는 것을 넘어, ‘고객 신뢰’라는 무형의 자산을 구축하고 시장을 선도하는 방법을 보여줍니다. 사기꾼들의 끊임없는 진화에 맞서 ‘움직이는 타겟을 예측’하고 ‘사용자 경험을 해치지 않는 보안’을 제공하는 이 전략은 모든 비즈니스의 리스크 관리와 성장 전략에 핵심적인 통찰을 제공합니다.

🎯 ‘제로 트러스트’와 ‘지속적인 학습 루프’

페이팔의 사기 탐지 시스템은 ‘제로 트러스트’ 원칙, 즉 모든 거래를 의심하되 ‘정당한 사용자의 거래를 방해하지 않는’ 정교한 균형 위에서 작동합니다. 이는 AI가 새로운 사기 패턴을 실시간으로 학습하고 모델을 업데이트하는 ‘지속적인 학습 루프’가 있기에 가능합니다.

① ‘부정적 데이터’를 핵심 자산으로 활용하라.

대부분의 비즈니스는 성공적인 거래 데이터에 집중하지만, 페이팔처럼 ‘실패한 거래, 부정 행위 시도, 고객 이탈 패턴’ 같은 ‘부정적 데이터’를 가장 귀중한 학습 자산으로 간주해야 합니다. 여러분의 비즈니스에서도 클레임, 환불, 취소 사례를 단순한 비용으로 보지 말고, ‘시스템의 취약점을 알려주는 최고급 교재’로 활용하여 리스크 모델을 강화해야 합니다.

② ‘마찰 없는 보안’을 설계하라.

AI 사기 탐지의 성공은 고객에게 ‘보안 검증의 마찰’을 느끼게 하지 않으면서도 보안을 유지하는 데 있습니다. 여러분의 서비스 프로세스에서도 고객에게 불필요한 노력이나 시간 낭비를 요구하지 않으면서 신뢰도를 높이는 방법을 찾아야 합니다. 예를 들어, 보안이 필요한 순간에만 AI 기반의 추가 인증을 요청하는 등 ‘투명하지만 방해되지 않는’ 시스템을 구축해야 합니다.

③ ‘신뢰의 속도’를 높여 시장 독점을 꾀하라.

페이팔은 ‘가장 안전하고 빠르며, 사용자에게 편리한 결제 경험’을 제공함으로써 독점적인 신뢰 자본을 쌓았습니다. 여러분의 비즈니스에서도 ‘경쟁사보다 더 빠르게, 더 안전하게, 더 편리하게’ 가치를 제공하는 것이 핵심입니다. ‘신뢰 구축의 속도’를 높이는 AI와 자동화 시스템에 투자하는 것이 바로 장기적인 시장 지배력을 확보하는 가장 확실한 길입니다.

개요

문제

전략