Date: 2026-07-27
Topic: AI 보안·오픈소스
Primary source: NVIDIA
엔비디아는 7월 27일 마이크로소프트, IBM, 시스코, 클라우드플레어, 허깅페이스, 리눅스 재단 등과 함께 ‘Open Secure AI Alliance’를 출범시켰다. 한국 기업 중에는 네이버와 SK텔레콤이 창립 파트너로 참여한다. 이 연합은 AI 모델과 에이전트를 안전하게 운영하는 데 필요한 공개 도구와 연구 성과를 공동 개발하고 공유하는 것을 목표로 한다.
이번 발표에서 달라진 점은 보안의 대상을 모델 하나로 한정하지 않았다는 것이다. 에이전트의 신원과 권한, 실행 도구인 하네스, 격리 환경, 로그와 평가 체계까지 하나의 방어 계층으로 보고 여러 기업의 기존 프로젝트를 연결한다. AI 에이전트를 업무 시스템에 붙이려는 기업과 이를 관리하는 개발·보안 조직이 직접 영향을 받는다.
엔비디아는 최근 허깅페이스 보안 사고를 공동 대응의 필요성을 보여준 사례로 들었다. 공격과 방어를 구분하지 못한 폐쇄형 도구가 포렌식 작업을 막을 수 있는 만큼, 방어자가 직접 살펴보고 수정하며 자기 인프라에서 실행할 수 있는 고성능 도구도 필요하다는 주장이다.
News Brief
Open Secure AI Alliance는 완전히 새로운 제품 하나를 내놓는 조직이라기보다, 여러 회사와 오픈소스 진영이 보유한 보안 기술을 연결하는 협력체에 가깝다. 기반에는 리눅스 재단의 Akrites 이니셔티브와 OpenSSF 커뮤니티의 기존 작업이 있다.
공식 발표가 제시한 범위는 다음과 같다.
- AI 에이전트의 행동을 시험하고 추적하며 감사할 수 있는 하네스
- 허가된 에이전트와 서비스만 통신하도록 확인하는 신원 체계
- 모델 가중치를 안전하게 저장하고 배포하는 형식
- 여러 AI가 취약점을 함께 찾고 검증하는 스캐닝 도구
- 오픈소스 공급망에서 패치의 출처와 무결성을 확인하는 장치
연합은 개방형 모델과 도구를 무조건 안전하다고 주장하지 않는다. 대신 방어자에게도 충분한 관찰 가능성과 통제권을 주고, 안전장치·평가·신속한 수정 절차를 함께 마련해야 한다는 입장이다.
Key Details
참여사들이 내놓은 초기 구성 요소를 보면 이 연합이 겨냥하는 범위가 드러난다.
| 참여사·프로젝트 | 역할 |
|---|---|
| NVIDIA NOOA | 에이전트 행동을 시험·추적·감사·관리하는 연구용 하네스 |
| HPE SPIFFE/SPIRE | 에이전트와 서비스의 신원을 암호학적으로 확인하는 제로 트러스트 체계 |
| Hugging Face Safetensors | 임의 코드 실행 위험을 줄인 모델 가중치 저장 형식 |
| Microsoft MDASH | 여러 전문 에이전트가 취약점을 찾고 토론하며 검증하는 스캐닝 하네스 |
| IBM·Red Hat Lightwell | 디지털 서명 패치로 오픈소스 공급망의 수정 과정을 보호 |
엔비디아는 모델과 가중치, 데이터, 에이전트 하네스 연구를 제공한다. HPE와 CrowdStrike도 별도 발표를 통해 창립 멤버 참여를 확인했으며, 각자 개방형 신원 관리와 위협 탐지 경험을 연합 활동에 연결하겠다고 밝혔다.
다만 공식 발표에는 의사결정 구조, 결과물의 공통 라이선스, 구체적인 개발 일정이 제시되지 않았다. 지금 확인된 것은 참여사 명단과 초기 기여 프로젝트, 그리고 공동 방어 도구를 개방형으로 만들겠다는 방향이다. 실제 표준이나 호환 가능한 제품군이 만들어졌다고 보기는 아직 이르다.
Why Open Tools
일반적인 챗봇은 질문에 답하는 데서 멈추지만, 에이전트는 파일을 읽고 코드를 실행하며 외부 서비스에 접근할 수 있다. 그래서 같은 모델을 쓰더라도 어떤 권한을 받았는지, 실행 환경이 격리됐는지, 행동 기록을 나중에 재구성할 수 있는지에 따라 위험이 크게 달라진다.
폐쇄형 서비스는 공급자가 빠르게 안전장치를 적용할 수 있다는 장점이 있다. 반면 보안팀이 내부 기록을 충분히 확인하지 못하거나 정상적인 침해 분석까지 차단될 수 있다. 개방형 도구는 직접 검사하고 환경에 맞게 바꿀 수 있지만, 강력한 기능이 공격자에게도 돌아갈 수 있다. 이번 연합은 이 둘 중 하나만 고르는 대신, 공개된 방어 도구에 권한 통제와 평가 체계를 결합하자는 쪽에 무게를 둔다.
Core Lens
이번 발표의 핵심은 모델 공개 여부보다, AI 에이전트가 무엇을 했는지 조직이 직접 확인하고 통제할 수 있는 공동 방어 기반을 만들려는 데 있다.
The Korea Angle
네이버와 SK텔레콤이 창립 파트너 명단에 포함된 점도 눈에 띈다. SK텔레콤은 공식 뉴스룸을 통해 참여 사실을 확인하고, 글로벌 파트너와 안전하고 신뢰할 수 있는 AI 환경을 만드는 데 협력하겠다고 밝혔다.
국내 기업이 자체 모델과 AI 데이터센터, 기업용 에이전트 서비스를 확대할수록 보안 문제는 모델 성능만으로 해결되지 않는다. 외부 도구 호출 권한, 고객 데이터 접근 범위, 에이전트 간 신원 확인, 사고 로그 보존처럼 운영 단계의 기준이 필요하다. 이번 연합의 결과물이 실제 규격과 오픈소스 구현으로 이어진다면 국내 서비스가 글로벌 보안 기준에 맞춰 설계되는 통로가 될 수 있다.
What It Means
이번 연합은 AI 보안 경쟁의 단위가 개별 모델에서 전체 실행 환경으로 넓어지고 있음을 보여준다. 기업 입장에서는 “어떤 모델이 더 안전한가”뿐 아니라 “어떤 권한으로 실행됐고, 누가 행동을 승인했으며, 사고 뒤에 경로를 재현할 수 있는가”를 함께 물어야 한다.
또 하나의 변화는 경쟁사들이 공통 방어 기반에서는 협력하려 한다는 점이다. 소프트웨어 산업이 취약점 데이터베이스와 패키지 서명, 공개 보안 도구를 공동 자산으로 발전시켰듯 AI 에이전트 분야에서도 비슷한 기반을 만들려는 시도다. 다만 초기 명단에 OpenAI, 구글, 앤트로픽은 포함되지 않았다. 연합의 도구가 산업 표준으로 자리 잡으려면 더 넓은 참여와 실제 상호운용성 검증이 필요하다.
What To Watch
- NOOA와 MDASH가 연구 발표를 넘어 기업 환경에서 재현 가능한 도구로 발전하는지
- 서로 다른 회사의 에이전트가 SPIFFE/SPIRE 기반 신원 체계로 안전하게 연결되는지
- 프로젝트별 라이선스와 보안 취약점 공개 절차가 일관되게 정리되는지
- 네이버와 SK텔레콤이 국내 서비스에 적용할 구체적인 기술이나 일정을 공개하는지
- 개방형 방어 도구의 악용 가능성을 제한하면서도 보안팀의 분석 권한을 보장하는지
Sources
- AI 안전과 보안을 위해 뭉친 업계 리더들, Open Secure AI Alliance 출범 — NVIDIA Blog Korea
- HPE joins Open Secure AI Alliance to advance open cybersecurity innovation — HPE
- CrowdStrike Joins the Open Secure AI Alliance — CrowdStrike
- SK텔레콤, ‘오픈 시큐어 AI 얼라이언스’ 합류 — SK텔레콤 뉴스룸
- Nvidia and Tech Giants Launch AI Security Alliance — SecurityWeek
- OpenAI not part of the new Open Secure AI Alliance — CSO Online