2025년 온라인 사기 및 악용: 상황을 주도하는 AI

AI는 단순히 온라인 사기와 악용의 속도를 높여주기만 하는 것이 아니라 엄청난 힘도 실어주고 있습니다. 새로운 세대의 LLM(Large Language Model) AI 봇은 (잠재적으로) 공격을 대규모로 자동화함으로써 애플리케이션 및 API 위협 환경을 복잡하게 만들고 있습니다.

작년에만 AI 기반 봇 트래픽이 300% 증가해 정상 활동과 악성 활동을 구분하기가 더욱 어려워졌습니다. 이와 동시에 암시장에서 FaaS(Fraud as a Service)가 증가하면서 사이버 범죄자의 진입 장벽이 크게 낮아졌습니다.

결과적으로 초보자도 소셜 엔지니어링 및 피싱부터 신원 사기에 이르기까지 사기 행위를 더 쉽게 저지를 수 있게 되었습니다.

새로운 인터넷 보안 현황 보고서(SOTI)인 2025년 사기 및 악용 보고서: AI라는 불확실한 환경을 헤쳐 나가는 전략에서 이 중요한 문제를 살펴보았습니다.

Akamai의 최신 리서치를 기반으로 한 이 보고서에서는 확장되는 사기 및 악용 환경과 이것이 주요 업계 및 지역에 미치는 영향을 심층적으로 살펴봅니다. 이 보고서에서는 기업이 AI를 사용해 규제 컴플라이언스를 유지하면서 방어 체계를 강화하는 방법에 대한 팁도 제공합니다.

AI 봇 트래픽은 Akamai 네트워크 전반에서 매일 수십억 건의 요청을 처리하며 일반적인 봇 트래픽보다 빠르게 증가하고 있습니다. 이로 인해 비즈니스 성장을 촉진하는 정상적인 봇과 디지털 사기 및 악용과 관련된 악성 봇 트래픽을 구분하기가 더욱 복잡해지고 있습니다. 이것이 비즈니스에 미치는 영향으로는 비용 증가, 사이트 성능 저하, 주요 지표 오염 등이 있습니다.

SOTI 보고서에서는 학습 봇과 에이전트/어시스턴트 봇부터 검색 봇에 이르기까지 다양한 종류의 AI 봇과 그 기능을 살펴봅니다. 정상적인 봇은 의도가 투명하지만 탐지를 회피하도록 설계된 봇도 있습니다.

취약점을 찾기 위해 인간의 상호 작용을 모방하도록 설계된 봇과 피싱 및 기타 사이버 공격을 포함한 악성 행위를 촉진하는 FraudGPT 및 WormGPT 같은 AI 챗봇이 특히 우려의 대상이 되고 있습니다.

커머스는 2개월의 관찰 기간 동안 봇 요청이 250억 건 이상에 달하며 가장 많은 AI 봇 활동이 나타난 업계였습니다. 헬스케어 업계에서는 AI 봇 트래픽의 90% 이상이 주로 검색 및 학습 봇에 기인하는 스크레이핑 활동으로 인해 발생합니다. AI 봇 트래픽이 많은 다른 업계에는 첨단 기술과 퍼블리싱 업계가 있습니다.

2025년 7월부터 8월 사이에 북미 지역의 Akamai 고객은 전체 AI 봇 활동의 54.9%를 경험했으며, EMEA(23.6%), APAC(20.2%), LATAM(1.3%)이 그 뒤를 이었습니다. 지역을 뛰어넘어 학습 봇이 AI 봇 트래픽의 대부분을 차지했습니다.

이 보고서에서는 주요 취약점에 초점을 맞추고 OWASP 상위 10대 목록의 관점으로 사기 및 악용을 살펴봅니다. 이 보고서는 OWASP 관련 취약점을 사기 및 악용과 관련된 일반적인 영역과 매핑해 예방 가능성이 가장 높은 종류를 식별합니다. 이는 보안을 강화하는 데 유용한 인사이트가 됩니다.

SOTI 보고서에는 개인정보 보호 및 보안 전문가가 작성한 특정 주제를 심층적으로 다루는 특별 게스트 칼럼이 포함되어 있습니다.

금융 서비스 정보 공유 및 분석 센터(FS-ISAC)의 CISO인 존 'JD' 데닝(John 'JD' Denning)은 레이어드 방어, 대응 플레이북, 모든 소스 위협 인텔리전스, 집단 방어에 중점을 둔 협력적인 접근 방식의 중요성을 강조합니다.

Akamai의 부사장 겸 최고 개인정보 보호 책임자인 제임스 A. 케이시(James A. Casey)가 글로벌 AI 컴플라이언스 환경을 살펴봅니다. 유연한 리스크 기반 거버넌스 모델을 도입해 새로운 AI 규제를 충족하는 동시에 자동화된 공격을 방어하는 데 필요한 속도, 확장성, 정확성을 유지할 수 있도록 그가 제시하는 모범 사례를 확인하세요.

SOTI 보고서에서는 기술적 제어 수단과 명확한 기업 정책 및 지속적인 모니터링을 결합해 AI 기반 사기 및 악용으로 인한 위협을 효과적으로 방어하는 방법도 추천합니다.

이러한 실용적인 팁에는 리스크 기반 봇 관리 및 모니터링, AI 전용 보안 제어 수단, OWASP에서 개발한 프레임워크 등 확립된 프레임워크의 사용, 전체 API 라이프사이클을 다루는 포괄적인 API 보안 전략 구축 등이 있습니다.

리서치에서 한 가지 명확한 사실은 다음과 같습니다. 바로, AI가 공격과 방어 전략을 모두 혁신하며 온라인 사기 및 악용의 가장 중요한 변화의 원동력으로 부상했다는 점입니다.

빠르게 진화하는 이러한 위협과 리스크를 줄이기 위해 할 수 있는 일을 명확히 이해하는 것에 우선순위를 두는 것이 매우 중요합니다.

먼저 인Fraud and Abuse Report 2025: Charting a Course Through AI’s Murky Waters을 다운로드하세요.