웹 방화벽은 알려진 공격 패턴을 차단하지만, 같은 의도를 조금씩 다른 형태로 표현하면 탐지 결과가 달라질 수 있습니다. Cloudflare는 2026년 9월 29일 공개한 실험에서 최신 AI 모델이 요청을 반복적으로 바꾸며 WAF의 경계를 탐색하게 했습니다.
핵심은 AI에 무제한 권한을 준 것이 아니라, 허용된 스테이징 환경과 코드 기반 안전장치 안에서 후보를 찾고 사람이 최종 판단했다는 점입니다.
3줄 핵심 요약
- Cloudflare가 허가된 고객 스테이징 환경에서 최신 AI 모델로 웹 방화벽(WAF)을 반복 점검했습니다.
- 45개 시나리오에서 1,107번의 요청 변형을 시도했고, 사람의 재검토를 거쳐 WAF와 관련된 49개 단서를 추렸습니다.
- AI가 보안을 대신한 것이 아니라, 제한된 자동화와 사람의 판정을 결합해 놓치기 쉬운 패턴을 더 빨리 찾은 사례입니다.
정해진 답을 확인하는 테스트와 무엇이 달랐나
일반적인 보안 회귀 테스트는 미리 준비한 요청을 보내 예상한 차단 결과가 나오는지 확인합니다. 이번 방식은 모델이 직전 응답을 참고해 다음 변형을 제안하는 적응형 테스트였습니다.
고정된 목록만 반복하지 않아 사람이 미리 생각하지 못한 표현 차이를 탐색할 수 있다는 것이 장점입니다.
AI는 제안하고 코드는 실행했다
모델은 요청 후보를 만들고 별도의 검토 호출이 그 후보를 다시 살폈습니다. 실제 네트워크 요청은 모델이 아니라 프로그램이 담당했습니다.
대상 호스트 허용 목록, 리디렉션 차단, 시도 횟수 제한, 구조화된 로그를 코드로 강제했고, 모델에는 소스 코드나 WAF 규칙을 보여주지 않았습니다.
1,107번 시도에서 확인한 숫자
Cloudflare는 XSS, SQL 인젝션, 명령어 인젝션, SSRF, 경로 탐색·로컬 파일 포함, Log4j 등 6개 범주의 45개 시나리오를 시험했습니다. 총 1,107번의 시도 가운데 사후 분류 대상에서는 558건이 차단됐고, 사람의 검토를 거쳐 49건이 WAF 개선과 관련된 단서로 정리됐습니다.
이 가운데 48건은 명령어 인젝션과 SSRF 범주에 집중됐습니다.
차단되지 않았다는 말의 정확한 뜻
요청이 WAF를 통과했다고 해서 실제 침해에 성공했다는 뜻은 아닙니다. 해당 애플리케이션에 취약점이 있어야 공격이 이어질 수 있고, 응답 차이만으로 취약성을 단정할 수도 없습니다.
Cloudflare도 ‘미차단’을 조사할 후보로 다뤘고 사람의 재현·분류를 거쳐 규칙과 정규화 로직 개선에 활용했습니다.
기업 보안팀이 가져갈 수 있는 운영 원칙
생성형 AI를 보안 테스트에 활용한다면 운영 환경이 아니라 명시적으로 허가된 스테이징 환경부터 시작해야 합니다. 대상 주소를 코드에 고정하고, 요청량과 실행 시간을 제한하며, 모델이 받은 응답은 신뢰할 수 없는 데이터로 처리해야 합니다.
탐지 정책 변경과 차단 규칙 배포는 모델이 직접 수행하지 못하도록 분리하는 편이 안전합니다.
AI 보안 테스트가 대체하지 못하는 것
WAF는 애플리케이션 취약점을 보완하는 방어 계층이지 소프트웨어 패치를 대신하지 않습니다. 코드 리뷰, 의존성 업데이트, 인증·권한 검증, 침투 테스트와 함께 사용해야 합니다.
AI가 만든 결과 역시 오탐과 누락이 있으므로 보안 담당자의 재현과 위험도 판단을 통과한 뒤에만 조치해야 합니다.
사용자와 업계에 미치는 영향
적응형 AI 테스트는 정해진 체크리스트 밖의 요청 변형을 대량으로 탐색해 보안팀의 조사 범위를 넓힐 수 있습니다. 특히 WAF 공급자와 대규모 서비스 운영자는 사람이 모든 변형을 직접 만드는 시간을 줄이고, 사람이 검토할 가치가 있는 후보를 우선순위화하는 데 활용할 수 있습니다.
확인할 점
이 결과는 Cloudflare가 허가된 특정 고객의 스테이징 환경에서 수행한 자체 실험입니다. 모든 WAF나 애플리케이션에 같은 수치가 적용되는 것은 아닙니다.
허가 없이 타인의 시스템을 시험하면 법률과 서비스 약관을 위반할 수 있으므로, 반드시 소유하거나 명시적으로 허가받은 환경에서만 제한적으로 수행해야 합니다.
출처
함께 읽을 글
- Windows 11 26H2 배포 시작: 설치 전에 알아둘 업데이트 방식과 지원 기간
- 윈도우에서 리눅스 컨테이너를 바로 돌린다: WSL 컨테이너 정식 출시
- 정상 DLL로 위장한 장기 침투 악성코드, Microsoft가 NeedyMantis를 분석했다
'수수께끼연구소' 카테고리의 다른 글
| 구글 미트 회의실에서 팀즈 회의에 바로 참여: Android 장비 상호연동 정식 출시 (0) | 2026.10.02 |
|---|---|
| AI 해킹 시대, 진짜 바뀐 건 속도였다: 2026 Microsoft 보안 보고서 핵심 (1) | 2026.10.02 |
| Windows 11 26H2 배포 시작: 설치 전에 알아둘 업데이트 방식과 지원 기간 (0) | 2026.10.01 |
| 윈도우에서 리눅스 컨테이너를 바로 돌린다: WSL 컨테이너 정식 출시 (0) | 2026.09.30 |
| 정상 DLL로 위장한 장기 침투 악성코드, Microsoft가 NeedyMantis를 분석했다 (0) | 2026.09.30 |