안랩클라우드메이트가 전하는
월간 AI 보안 소식
2026년 11월호10월 중순부터 11월 중순까지 AI 보안 업계의 관심은 '일하는 AI'로 모였습니다. AI가 메일을 읽고, 문서를 정리하고, 업무 시스템에 연결되면서 사고가 나는 지점도 함께 늘고 있는데요. AI가 일하기 시작하자 보안도 실행 단계와 데이터의 흐름 과정으로 옮겨가는 분위기입니다. 관련해 이번 호에서는 메인 스토리로 Notion 사례를 자세히 파보았습니다.
주요 뉴스
Notion, 외부 AI 공급사 사고로 대화 기록 노출
Notion은 외부 공급사 Fireworks AI의 보안 사고로 Notion AI 대화 기록 일부가 노출됐다고 밝혔습니다. 영향 범위는 전체 워크스페이스의 1% 미만이고 기록 대부분에 사용자 식별 정보는 없었지만 AI 관련 공급망 보안 사고가 날 수 있다는 경각심을 일으킨 소식이었습니다.
Sublime Security, AI 비서를 노린 청구서 사기 메일 공개
Sublime Security는 10월 26일 청구서 사기 이메일에서 보이지 않는 유니코드 문자로 숨긴 지시문을 공개했습니다. 사람을 대상으로 한 이메일 피싱 공격이 이제는 에이전트까지 확대되고 있는 시대가 되었네요.
Google·Mandiant, AI 사용 권한 탈취 'LLMJacking' 분석
Google과 Mandiant는 11월 초 훔친 인증정보로 기업의 AI 모델을 무단 사용하는 LLMJacking을 분석했습니다. 내용을 보면 AI API키 노출이 거액의 클라우드 비용 폭탄 이라는 결과로 돌아올 수 있다는 것을 알 수 있습니다.
금융위, 전수점검부터 AI 방어까지 금융권 보안 재정비
금융당국이 AI발 해킹 위협에 대비해 보안체계 정비에 나섰습니다. 금융위는 11월 5일 약 580개사의 외부 접점과 내부통제를 전수점검하고 금융권 공동 관제와 위협정보 공유를 강화하겠다고 밝혔습니다. AI로 공격을 탐지·차단할 수 있도록 망분리 규제 개편도 추진합니다.
Meta, AI 에이전트 Muse 버그바운티 결과 공개
Meta는 11월 2일 AI 에이전트 Muse의 버그바운티 결과를 공개했습니다. 내용을 보면 에이전트 보안이 참 어려운 것이라는 생각이 듭니다. 연결하는 도구와 데이터, 권한이 달라질 때마다 새로운 공격 경로가 생길 수 있다는 것을 이번 버그바운티 결과가 잘 보여주는 것 같네요.
행정안전부, 공공도 AI 코딩 시대 도입의 핵심은 보안
행정안전부가 차세대 지방행정공통시스템 구축에 AI 코딩 개발 체계를 도입합니다. 11월 13일 설명회에서 소개한 사업은 AI로 개발 생산성을 높이는 동시에 보안 전문 업체를 통한 보안·검증과 지속 가능한 개발체계를 추진하는 방향입니다.
AI에 입력한 정보가 공급사에서 노출
Notion은 11월 외부 AI 공급사 Fireworks AI의 보안 사고로 고객 데이터가 노출됐다고 공지했습니다. 영향을 받은 범위는 전체 워크스페이스의 1% 미만이고 Notion 자체 시스템이 침해된 것은 아닙니다. 눈여겨볼 점은 따로 있는데요. 사용자가 입력한 내용이 Notion에 서비스를 제공하는 공급사를 통해 노출된 것입니다. 네, 바로 느낌이 오셨을 텐데요. 공급망 보안 사고입니다.
노출된 데이터는 Notion AI 대화 기록입니다. Notion은 관리자에게 구성원의 AI 사용 현황을 보여주는 Insights 기능을 운영했습니다. 이 분석을 위해 저장된 AI 요청과 응답을 Fireworks로 보냈고 그 데이터가 Fireworks 측에 남아 있었죠.
Notion은 영향을 받은 워크스페이스 대부분에서 대화 기록에 워크스페이스·사용자·회사를 특정할 정보가 붙어 있지 않았다고 설명했습니다. 그렇다고 100% 안심할 수는 없습니다. 대화 본문에 개인정보나 업무 기밀이 들어 있을 수 있으니까요. Notion도 해당 데이터를 노출된 것으로 간주하고 AI 대화에 붙여 넣은 인증정보는 즉시 교체하라고 권고했습니다.
공급사의 공급사까지 봐야 하는 이유
Fireworks의 공지를 보면 사고의 출발점은 한 단계 더 아래에 있었습니다. Fireworks의 연구개발 장비를 호스팅하던 클라우드 업체가 10월 23일 보안 사고를 겪었고, 공격자는 다음 날 이를 발판으로 Fireworks 개발 시스템에 접근했습니다. Notion 고객의 입장에서는 계약한 적도 없는 두 단계 아래 업체의 사고가 자사 데이터 노출로 이어진 셈이죠.
데이터 보존 여부도 살펴볼 부분입니다. Fireworks는 기본적으로 데이터를 보존하지 않는 추론 서비스에서는 영향이 확인되지 않았다고 밝혔습니다. 그런데 Notion은 조사 과정에서 자사가 사용한 Fireworks 엔드포인트에 데이터가 보존돼 있었다는 사실을 파악했습니다. Notion은 11월 3일 Fireworks와 연결을 끊고 이튿날 데이터를 삭제했으며 주요 공급사의 데이터 미보존 준수 여부를 감사하기 시작했습니다.
클라우드 업체 보안 사고 발생
Fireworks의 연구개발 장비를 호스팅하던 업체가 보안 사고를 겪었습니다. Notion 고객의 입장에서는 계약 관계도 없고 존재조차 알기 어려운 공급망에서 시작된 사고입니다.
Fireworks 개발 시스템 무단 접근
공격자는 전날의 사고를 발판으로 Fireworks 개발 장비에 접근해 무단 작업을 실행했습니다. 이 과정에서 고객 데이터에 추가 영향이 생겼고 Fireworks는 같은 날 이를 탐지했습니다.
Notion, Fireworks와 연결 차단
Notion은 Fireworks와 시스템 연결을 끊고 모든 데이터와 트래픽 전송을 멈췄습니다. 조사 과정에서는 자사가 사용한 Fireworks 엔드포인트에 데이터가 보존돼 있었다는 사실을 파악했습니다.
Fireworks에 남은 데이터 삭제
Fireworks 시스템에 남아 있던 Notion 데이터가 모두 삭제됐습니다. Notion은 추론 업체를 비롯한 주요 공급사가 데이터 미보존 약속을 지키는지 감사하기 시작했습니다.
Fireworks 조사 업데이트 공개
Fireworks는 기본적으로 데이터를 보존하지 않는 추론 서비스에서는 영향이 확인되지 않았다고 밝혔습니다. 조사는 진행 중이며 결과는 달라질 수 있다고 덧붙였습니다.
AI 공급망 사고의 탐지와 대응이 어려운 이유
이번 사고는 공급망 보안 사고입니다. 다만 우리가 익히 아는 소프트웨어 공급망 사고와는 결이 다른데요. SolarWinds나 Log4j 사례에서는 오염되거나 취약한 코드가 고객 환경으로 들어왔습니다. AI 서비스 공급망에서는 반대로 고객의 데이터가 공급사 쪽으로 나갑니다. 들여온 것이 아니라 내보낸 것이 문제가 되는 구조이죠.
| 구분 | 소프트웨어 공급망 사고 | AI 서비스 공급망 사고 |
|---|---|---|
| 사고 원인 | 알려지 않은 취약점을 포함한 코드가 고객 환경에 배포됨 | 사용자가 입력한 데이터가 공급사로 나감 |
| 사고 위치 | 우리 회사 환경 안 | 우리 회사 환경 밖 |
| 탐지 수단 | 자사 로그와 보안 장비 | 공급사의 통보 |
| 대응 수단 | 패치, 버전 교체 | 연결 차단, 인증정보 교체 |
우리가 알고 있는 소프트웨어 공급망 사고와 비교할 때 AI 서비스 공급망 사고는 탐지가 더 어렵습니다. 그 이유는 사고가 우리 환경 밖에서 일어나기 때문입니다. 자사 로그나 보안 장비에는 흔적이 남지 않죠. Notion도 Fireworks의 통보를 받고 사고를 알았고 Notion 고객은 다시 Notion의 공지를 통해 알았습니다. Fireworks가 침입을 탐지한 날은 10월 24일이고 Notion이 연결을 끊은 날은 11월 3일입니다. 공급망의 단계가 길어질수록 소식이 닿는 데도 시간이 걸립니다.
무엇이 나갔는지 파악하기도 어렵습니다. 프롬프트에는 개인정보, 업무 기밀, 비밀번호까지 무엇이든 들어갈 수 있는데요. Notion은 영향을 받은 워크스페이스 소유자가 노출된 내용을 직접 내려받아 민감정보가 있는지 확인하도록 안내했습니다. 결국 어떤 정보가 노출됐는지는 고객이 대화 기록을 하나씩 살펴봐야 알 수 있습니다.
계약만으로는 안심하기 어렵다는 점도 드러났습니다. Fireworks는 Notion에 데이터를 보존하지 않겠다고 계약으로 약속했지만 실제로는 데이터가 남아 있었습니다. 고객이 공급사 내부를 직접 들여다볼 수 없으니 약속이 지켜지는지 확인할 방법이 마땅치 않죠. 대응에도 한계가 있습니다. 코드 문제는 패치로 고칠 수 있지만, 한번 나간 데이터는 회수할 수 없습니다. 할 수 있는 일은 연결을 끊고, 노출된 인증정보를 바꾸고, 영향 범위를 확인하는 정도입니다. 사고가 난 뒤에 할 수 있는 일이 적은 만큼, 내보내기 전에 통제하는 일이 중요해집니다.
우리에게 남은 과제
많은 기업이 사용을 허용한 AI 서비스 목록을 관리하고 있는데요. 이번 사례는 그 목록 뒤를 봐야 한다는 점을 보여줍니다. 승인한 서비스가 어떤 공급사에 데이터를 넘기는지, 분석이나 평가를 위해 무엇을 저장하는지, 직원이 어떤 정보를 입력하는지까지 함께 관리해야 합니다. 실무자가 던져볼 만한 질문을 표로 정리해 보았습니다. 체크리스트 예시라 보아 주시면 좋을 듯합니다.
| 점검 항목 | 체크리스트(예시) |
|---|---|
| AI 서비스 공급망 | 사내에서 쓰는 AI 서비스와 그 서비스와 연결된 공급망 관련 위험을 인지하고 있는가? |
| 데이터 보존 | 입력한 내용이 분석·평가·학습 용도로 저장되는지, 보존 기간은 얼마인지 계약으로 확인할 수 있는가? |
| 입력 통제 | 개인정보·기밀정보·인증정보가 AI에 입력되기 전에 탐지하고 가리거나 차단할 수 있는가? |
| 사고 대응 | 공급사 사고 통보를 받았을 때 계약 내용 파악, 영향 데이터 확인 등의 대응 절차가 마련되어 있는가? |
끝까지 읽어주셔서 감사합니다!