AI 보안 블로그 | 에임인텔리전스 (AIM Intelligence)

전체 글

RESEARCH • 2026년 6월 24일

도움을 주려는 본능의 함정: Claude Opus 4.8과 눈앞에 숨어 있던 CBRN 유출

탈옥도, 속임수도 없었습니다. 그저 전문가처럼 다듬은 요청이었을 뿐입니다. 저희는 Stinger 레드티밍 엔진을 사용해 Claude Opus 4.8에서 확인된 CBRN 유출 83건을 수집했습니다.

글 읽기 →

RESEARCH • 2026년 6월 19일

AI 보안이 지속적 모니터링으로 향하는 이유

최근 NIST가 발표한 자료에 따르면, 그 어떤 유한한 AI 안전 규칙 집합으로도 미래의 모든 공격을 막을 수 없습니다. AI 에이전트가 도구와 기업 시스템에 접근하면서, 보안의 무게 중심이 정적 가드레일에서 지속적 모니터링과 적응으로 옮겨가고 있습니다.

글 읽기 →

DIGEST • 2026년 6월 12일

2026년 5월은 AI 보안의 분수령이었습니다. 실제 공격에서 확인된 최초의 AI 작성 제로데이 익스플로잇부터, OpenAI의 코드 서명 파이프라인까지 도달한 자기 전파형 npm 웜, Microsoft Semantic Kernel에서 완전한 RCE로 이어진 프롬프트 인젝션 결함까지, AI 시스템을 둘러싼 공격 표면이 모든 방향으로 확장됐습니다. 이번 다이제스트에서는 AIM Intelligence와 협력 기관들이 공개한 XL-SafetyBench를 포함해 이달을 규정한 일곱 가지 사건을 다룹니다.

글 읽기 →

RESEARCH • 2025년 11월 30일

도구 매개 신념 주입: 도구 출력이 어떻게 모델 오정렬로 번져 가는가

언어 모델에 외부 도구 접근 권한을 부여하면 그 역량은 극적으로 확장됩니다. 하지만 도구 접근은 전통적인 프롬프트 인젝션과는 근본적으로 다른 새로운 공격 표면도 함께 열어 놓습니다. 우리는 악의적으로 조작된 도구 출력이 어떻게 거짓 전제를 심고, 그 전제가 대화 전반에 걸쳐 지속되며 누적되는지를 기록합니다.

글 읽기 →

RESEARCH • 2025년 8월 14일

MisalignmentBench: 우리는 어떻게 LLM을 사회공학적으로 조종해 스스로 정렬을 무너뜨리게 했는가

우리는 최전선 모델들이 거짓말하고, 조종하고, 자기보존에 나서도록 만들었습니다. 프롬프트 인젝션이나 탈옥을 쓰지 않았습니다. 특정 역할과 지침이 부여된, 맥락이 풍부한 시나리오에 모델을 배치했을 뿐입니다. 우리가 만든 상황을 헤쳐 나가려다 모델들은 스스로 자신의 정렬을 무너뜨렸습니다.

글 읽기 →