회사에 도입한 AI도
공격 대상입니다
사내 챗봇, RAG 검색, AI 에이전트, 외부에서 받은 모델까지 공격자 입장에서 점검합니다.
공격 실험은 모두 격리된 Research Lab에서 진행하고 감사 로그를 남깁니다.
상담 접수 중전문가가 수행하는 서비스입니다. 범위와 일정은 상담에서 정합니다.
Genox와 함께하면 이렇게 달라집니다
고객마다 전용 분석 노드
분석은 고객별로 따로 배정한 전용 노드에서 돌아갑니다. 다른 고객과 연산 자원이나 저장소를 함께 쓰지 않습니다.
판정마다 근거가 남습니다
어느 엔진이 어떤 로그를 근거로 그렇게 판정했고 무슨 조치를 권했는지가 한 건의 기록으로 남습니다. 감사 때 그대로 내시면 됩니다.
지난 판정도 다시 돌려 봅니다
판정 당시의 모델과 정책 버전을 같이 기록합니다. 지난달 판정이 의심스러우면 같은 데이터로 다시 돌려 비교할 수 있습니다.
최종 결정은 사람이 합니다
경보 분류와 요약은 AI가 하고, 대응 승인은 분석가가 합니다. 서버 격리나 계정 잠금은 사람이 승인해야 실행됩니다.
AI 보안 진단 세부 서비스
LLM 애플리케이션 진단
챗봇·RAG·사내 AI 서비스를 20개 항목으로 점검합니다.
자세히 보기AI 에이전트 · MCP 진단
에이전트가 가진 툴 권한, 위임 관계, MCP 연결을 점검합니다.
자세히 보기모델 · 공급망 진단
외부에서 받은 모델, 데이터셋, 플러그인이 안전한지 확인합니다.
자세히 보기LLM 애플리케이션 진단
OWASP LLM Top 10을 바탕으로 AI 에이전트 위협과 국내 규제 항목을 더해 20개 항목을 봅니다.
자동 공격 세트로 넓게 훑고, 전문가가 서비스 구조에 맞춘 시나리오로 깊게 파고듭니다.
특장점
20개 점검 항목
OWASP LLM Top 10에 에이전트 위협과 국내 규제 항목을 더했습니다.
격리된 실험 환경
공격 프롬프트와 결과물은 외부로 나가지 않습니다.
재현 증적 첨부
취약점마다 공격에 쓴 프롬프트와 실제 응답을 그대로 첨부합니다.
방어 규칙 제안
찾은 취약점별로 적용할 가드레일과 필터 규칙을 드립니다.
주요 진단 항목 (20)
| 분류 | 진단 항목 | 설명 | 위험도 |
|---|---|---|---|
| 입력 | 직접 프롬프트 인젝션 | 시스템 지시를 무력화하거나 역할을 바꿔치기 | 상 |
| 입력 | 간접 프롬프트 인젝션 | 문서·웹페이지·메일에 숨긴 지시문이 실행됨 | 상 |
| 입력 | 탈옥(Jailbreak) | 안전 정책을 우회하는 응답 유도 | 중 |
| 입력 | 다국어·인코딩 우회 | 한국어 변형, Base64 등으로 필터 우회 | 중 |
| 데이터 | 시스템 프롬프트 유출 | 내부 지시문과 업무 로직 노출 | 중 |
| 데이터 | 민감정보 노출 | 응답에 개인정보·영업비밀이 섞여 나옴 | 상 |
| 데이터 | RAG 권한 우회 | 사용자 권한 밖의 문서가 검색 결과에 노출 | 상 |
| 데이터 | 학습 데이터 추출 | 모델이 기억한 학습 데이터를 그대로 출력 | 중 |
| 에이전트 | 과도한 툴 권한 | 필요 이상의 권한을 가진 툴·API 연결 | 상 |
| 에이전트 | 툴 호출 조작 | 인젝션으로 메일 발송, DB 조회 등을 유도 | 상 |
| 에이전트 | MCP 서버 위장 | 악성이거나 변조된 MCP 서버에 연결 | 상 |
| 에이전트 | 승인 우회 | 사람이 승인해야 하는 단계를 건너뛰게 유도 | 중 |
| 출력 | 부적절한 출력 처리 | 모델 출력이 코드·쿼리로 그대로 실행됨 | 상 |
| 출력 | 유해 콘텐츠 생성 | 정책을 위반하는 콘텐츠 생성 | 중 |
| 출력 | 환각으로 인한 오정보 | 근거 없는 사실이나 존재하지 않는 링크 생성 | 하 |
| 공급망 | 모델 파일 변조 | 악성 직렬화 파일, 백도어가 심긴 모델 | 상 |
| 공급망 | 데이터 포이즈닝 | 파인튜닝·RAG 데이터 오염 | 중 |
| 운영 | 리소스 고갈 | 과도한 토큰·호출로 비용 폭증이나 장애 유발 | 중 |
| 운영 | 로그·감사 부재 | 프롬프트와 툴 호출이 기록되지 않음 | 하 |
| 거버넌스 | 규제 정합성 | AI 기본법·개인정보보호법 요구사항 미충족 | 하 |
진행 프로세스
위협 모델링
서비스 구조와 데이터 흐름을 파악합니다
- 위협 모델
자동 공격
공격 프롬프트 세트를 자동으로 돌립니다
- 자동 진단 결과
전문가 공격
서비스에 맞춘 시나리오로 직접 공격합니다
- 취약점 목록
방어 설계
가드레일과 권한 개선안을 만듭니다
- 방어 가이드
재검증
조치 후 다시 공격해 봅니다
- 이행 점검서
자주 묻는 질문
모델을 외부로 보내야 하나요?
아니요. 고객 환경 안이나 격리된 Research Lab에서 점검하며, 공격 데이터는 밖으로 나가지 않습니다.
AI 기본법 대응에도 쓸 수 있나요?
고영향 AI 위험관리 요구사항과 관련된 항목은 보고서에 따로 표시해 드립니다.
연관 콘텐츠로 더 많은 정보를 확인해 보세요
AI 에이전트 · MCP 진단
AI 에이전트가 호출할 수 있는 툴, API, MCP 서버와 각각의 권한을 목록으로 만듭니다.
그다음 문서나 메일에 숨긴 지시문으로 에이전트가 메일을 보내거나 DB를 조회하게 만들 수 있는지 직접 시험합니다.
특장점
권한 지도
에이전트마다 어떤 툴과 데이터에 접근할 수 있는지 한 장으로 보여 드립니다.
위임 관계 분석
에이전트가 다른 에이전트를 부를 때 권한이 어떻게 넘어가는지 따라가 봅니다.
MCP 서버 검증
연결된 MCP 서버의 출처, 버전, 서명을 확인합니다.
툴 호출 감시 규칙
평소 툴 호출 패턴을 정리하고, 여기서 벗어나는 호출을 잡는 탐지 규칙을 드립니다.
진행 프로세스
목록화
에이전트·툴·MCP를 정리합니다
- 권한 지도
공격
툴 호출 조작을 시도합니다
- 취약점 목록
개선
줄여야 할 권한을 항목별로 제안합니다
- 권한 개선안
모니터링
행동 분석 탐지 규칙을 적용합니다
- 탐지 규칙
연관 콘텐츠로 더 많은 정보를 확인해 보세요
모델 · 공급망 진단
공개 저장소에서 내려받은 모델 파일과 데이터셋, 플러그인에 악성 코드나 오염된 데이터가 섞여 있는지 검사합니다.
특장점
모델 파일 검사
pickle 같은 직렬화 모델 파일에 로드 시 실행되는 코드가 숨어 있는지 찾습니다.
AI-BOM 작성
어떤 모델, 데이터, 라이브러리를 쓰고 있는지 목록으로 관리할 수 있게 정리합니다.
격리 환경 실행
Research Lab에서 모델을 직접 돌려 이상 동작이 없는지 확인합니다.
반입 절차 수립
출처와 무결성을 확인하고 승인하는 사내 절차를 만들어 드립니다.
진행 프로세스
목록화
사용 중인 모델과 데이터를 정리합니다
- AI-BOM
정적 검사
파일 속 숨은 코드를 찾습니다
- 검사 결과
실행 평가
격리 환경에서 실행해 봅니다
- 평가 결과
정책 수립
승인된 모델만 쓰는 체계를 설계합니다
- 반입 정책서
