공격 연구와 AI 레드팀을
격리된 환경에서 진행합니다
Genox 연구원이 익스플로잇을 만들고 AI 모델을 공격해 보는 격리 환경입니다. 작업 공간은 연구자마다 따로 두고 외부 송신은 기본으로 막습니다. 명령과 접근은 서명된 감사 로그에 남고, 결과물은 책임자 승인이 있어야 밖으로 꺼낼 수 있습니다. 여기서 확인한 공격 기법은 다른 엔진의 탐지 규칙 초안으로 정리됩니다.
2027 정식 출시 목표Genox 플랫폼으로 운영하는 서비스입니다. 지금은 PoC와 얼리 액세스 상담을 받고 있습니다. 얼리 액세스 안내
연구 결과물은
승인 없이 나가지 않습니다
연구자마다 Kubernetes 네임스페이스를 따로 주고, 밖으로 나가는 트래픽은 기본 거부 정책으로 막아 둡니다.
보고서나 코드를 꺼내려면 책임자 승인과 전자서명을 거쳐야 합니다.
- 외부 송신은 정책으로 기본 거부
- 반출 파일은 해시와 승인자 기록을 함께 남김
- 연구자마다 네임스페이스 분리
lab-ns/target-01진행 중
정책: egress-deny10:41
책임자 승인 대기10:55
AI 모델과 에이전트를
직접 공격해 봅니다
Garak, PyRIT 같은 공개 도구와 자체 시나리오로 프롬프트 인젝션, 탈옥, 툴 조작 공격을 반복해서 돌립니다. 영어 데이터셋으로는 잘 안 걸리는 한국어 우회 표현은 연구원이 따로 모아 둡니다. 성공한 공격은 재현 절차와 가드레일 규칙 초안으로 정리해 드립니다.
- 직접·간접 인젝션과 툴 조작 공격 세트
- 한국어 변형 공격 세트
- 성공한 공격은 가드레일 규칙 초안으로
누가 언제 무엇을 했는지
모두 남깁니다
명령 실행과 대상 접근, 반출 요청이 전부 서명된 감사 로그에 남습니다.
연구가 승인한 범위를 벗어나지 않았는지 나중에 확인할 때 이 기록을 봅니다.
- 명령 단위 감사 로그
- 세션 화면 녹화
- 감사 대응용 리포트 출력
핵심 기능
격리 연구 환경
네임스페이스와 NetworkPolicy로 연구자별 분리
레드팀 운영
합의한 범위와 시나리오 안에서 공격 훈련
AI 레드팀
LLM과 에이전트 대상 공격 자동 실행
취약점 연구
새로 찾은 취약점은 제조사에 먼저 알립니다
감사 로그
명령 단위 서명 기록
반출 통제
승인과 서명을 거친 파일만 반출
동작 방식
범위 승인
연구 목적과 대상 범위를 문서로 합의
환경 생성
격리 작업 공간과 대상 복제본 준비
연구
공격과 실험
검토
결과 검토와 반출 승인
반영
Sigma·YARA 탐지 규칙 초안과 리포트 작성
연동할 수 있는 도구 (API · Syslog)
배포 옵션
| 방식 | 설명 | 추천 |
|---|---|---|
| 온프레미스 · 폐쇄망 | 고객 데이터센터에 설치합니다. 탐지 규칙과 모델 업데이트도 오프라인 패키지로 반입해서 외부 연결 없이 돌아갑니다. | 금융 · 공공 · 국방 |
| 전용 클라우드 | 국내 리전에 고객 한 곳만 쓰는 환경을 따로 만듭니다. 다른 고객과 노드를 같이 쓰지 않습니다. | 엔터프라이즈 · 의료 |
| 매니지드 | 설치와 운영은 Genox 관제센터가 맡고, 고객은 판정 확인과 조치 승인만 하시면 됩니다 (MDR). | 중견 · 중소기업 |
| MSSP 파트너 | 보안관제 기업이 고객사마다 테넌트를 나눠 직접 운영합니다. | 보안 전문기업 |
자주 묻는 질문
고객사도 Research Lab을 쓸 수 있나요?
자체 레드팀을 운영하는 고객에게 격리 연구 환경을 따로 제공하는 방안을 준비하고 있습니다. 일정과 조건은 아직 정해지지 않았습니다.
새로 찾은 취약점은 어떻게 처리하나요?
책임 있는 공개 원칙을 따릅니다. 제조사에 먼저 알리고, 패치가 나온 뒤에 공개합니다.
