AI-Infra-Guard - AI 인프라와 에이전트를 점검하는 오픈소스 레드팀 플랫폼

요약

텐센트가 개발한 'AI-Infra-Guard'는 AI 인프라, 에이전트, LLM의 취약점과 보안 위협을 점검하는 오픈소스 레드팀 플랫폼입니다.
서비스 버전 식별, CVE 규칙 탐지, LLM 탈옥 공격 테스트, 에이전트 워크플로 평가 등 다양한 보안 검사 기능을 제공하며, 웹 UI와 CLI를 통해 연동할 수 있습니다.

Tencent가 개발한 AI 보안 점검 플랫폼으로, 서버의 알려진 취약점부터 에이전트의 도구 오용·정보 유출, LLM 탈옥 공격까지 검사
실행 중인 Ollama, ComfyUI, vLLM, n8n 등의 서비스 주소를 입력하면 구성요소와 버전을 식별하고 알려진 취약점을 탐지
- v4.6.0 기준 146개 AI 구성요소와 2,000개 이상의 CVE 규칙을 지원하며, 계속 검사 규칙을 확대 중
MCP Server와 Agent Skill은 GitHub URL이나 업로드한 소스 코드를 분석해 도구 오염, 자격 증명 유출, 명령어 주입, 악성 코드와 권한 상승 등의 위험을 검사
Agent Scan은 여러 에이전트로 Dify·Coze 등의 워크플로를 자동 평가해, 실행 중 발생하는 도구 오용과 데이터 유출 위험을 탐색
OpenClaw 전용 ClawScan으로 잘못된 설정, Skill 위험, 알려진 취약점과 개인정보 노출을 함께 점검
여러 탈옥 기법과 데이터셋으로 LLM이 공격성 프롬프트에 얼마나 견디는지 시험하고 모델별 결과를 비교
LLM API에 여러 차례 질의해 제공 모델의 정체와 중계 과정의 바꿔치기·백도어 징후를 검사하는 블랙박스 감사 기능 포함
웹 UI에서 검사 진행 상황과 결과를 확인하며, API와 skill-scan, mcp-scan, agent-scan 독립 CLI로 기존 보안 점검 절차에 연동 가능
서비스 식별 규칙, 취약점 검사 규칙, MCP 검사 규칙과 탈옥 평가 데이터셋을 파일 기반 플러그인으로 확장 가능
Docker로 Linux, macOS, Windows에서 실행
자체 인증 기능이 없어 공개 네트워크에 직접 노출하지 않고 내부 환경에서만 사용해야함
Apache-2.0 라이선스