![Fortanix와 NVIDIA의 협력으로 구현된 '기밀 컴퓨팅(Confidential Computing)' 기반 AI 보안 플랫폼 개념도. 전문가들이 보안 데이터 센터 환경에서 민감한 데이터를 활용하는 AI 워크로드를 시각화된 자료를 통해 논의하고 있다. [사진 = AI를 통해 생성한 이미지 / 코리아비즈니스리뷰]](https://epzvqcvbpcduaglyoici.supabase.co/storage/v1/object/public/news-images/legacy-cgi/2025/10/30/1761791268_83022.jpg)
데이터 보안 기업 Fortanix(포타닉스)가 NVIDIA(엔비디아)와 협력하여 고도의 규제가 적용되는 산업을 위한 새로운 공동 솔루션을 전격 발표했다.
이 솔루션은 조직이 자체 데이터 센터나 주권 환경(Sovereign environments) 내에서 에이전트 AI(Agentic AI)를 배포할 수 있도록 지원하는 턴키 플랫폼으로, NVIDIA의 '기밀 컴퓨팅(Confidential Computing)' GPU 기술이 핵심 기반이다.
이는 AI 도입을 열망하면서도 엄격한 개인정보 보호 및 규제 요건으로 인해 제약을 받던 의료, 금융, 정부 부문에 결정적인 전환점을 제공할 것으로 전망된다.
Fortanix의 CEO 겸 공동 창립자인 아난드 카시얍(Anand Kashyap)은 최근 인터뷰를 통해 "우리의 목표는 칩에서 모델, 데이터에 이르기까지 모든 계층을 보호하여 AI를 신뢰할 수 있게 만드는 것"이라며, "기밀 컴퓨팅은 민감하거나 규제 대상이 되는 정보를 AI와 함께 자신 있게 사용할 수 있도록 엔드투엔드 신뢰를 제공한다"고 강조했다.
Fortanix의 새로운 플랫폼은 NVIDIA 기밀 컴퓨팅 기술을 기반으로, 기업이 보안이나 통제력을 희생하지 않고도 민감한 데이터에 대한 AI 시스템을 구축하고 실행할 수 있도록 설계되었다.
신뢰할 수 있는 AI, 칩에서 모델까지 검증되다
Fortanix와 NVIDIA 협력의 핵심은 데이터, 모델 및 워크플로우가 전체 라이프사이클 동안 보호되도록 보장하는 '기밀 AI 파이프라인(Confidential AI Pipeline)'에 있다.
이 시스템은 Fortanix의 데이터 보안 관리자(DSM, Data Security Manager)와 기밀 컴퓨팅 관리자(CCM, Confidential Computing Manager)를 NVIDIA의 GPU 아키텍처에 직접 통합한 형태를 띤다.
Fortanix의 최고 제품 책임자인 아누즈 자이스왈(Anuj Jaiswal)은 "금융, 의료, 정부 분야의 기업들은 AI의 힘을 활용하기를 원하지만, 신뢰, 규정 준수 또는 통제력을 타협하는 것은 극복할 수 없는 위험을 초래한다"며, "우리는 기업들에게 AI 에이전트를 위한 주권적 온프레미스 플랫폼을 제공하며, 이는 실행 중인 작업을 증명하고 중요한 것을 보호하며 생산에 더 빨리 도달하도록 돕는다"고 밝혔다.
카시얍 CEO는 이 구조를 비유적으로 설명했다. "DSM은 키를 보관하는 금고로, CCM은 키 사용 허가 여부를 확인하는 게이트키퍼로 생각할 수 있다. DSM은 정책을 시행하고 CCM은 신뢰를 시행한다." 이처럼 양 솔루션의 유기적인 결합이 이번 플랫폼의 핵심 경쟁력이다.
FIPS 140-2 레벨 3 기반의 철저한 접근 제어
Fortanix의 DSM은 암호화 키를 관리하고 엄격한 접근 제어를 시행하는 FIPS 140-2 레벨 3 수준의 하드웨어 보안 모듈(HSM) 역할을 수행한다.
이번 발표와 함께 소개된 CCM은 '복합 증명(Composite Attestation)' 프로세스를 사용하여 AI 워크로드 및 인프라의 신뢰성을 검증하며, 이는 민감한 데이터에 접근하기 전에 CPU와 GPU를 모두 검증하는 과정을 포함한다.
워크로드가 CCM에 의해 검증된 경우에만 DSM은 데이터 암호 해독 및 처리에 필요한 암호화 키를 해제한다.
카시얍은 "CCM은 워크로드, CPU, GPU가 신뢰할 수 있는 상태에서 실행되고 있는지 확인하고, DSM이 키를 해제하기 전에 검증하는 인증서를 발급한다. 이를 통해 민감한 데이터가 해독되기 전에 올바른 워크로드가 올바른 하드웨어에서 실행되도록 보장한다"고 상세한 과정을 설명했다.
이러한 '증명 기반(Attestation-gated)' 모델은 Fortanix가 설명하는 '하드웨어 칩에서 애플리케이션 계층까지 확장되는 검증 가능한 신뢰 체인(Provable chain of trust)'을 생성한다. 이는 기밀성 유지가 필수불가결한 산업을 정면으로 겨냥한 접근 방식이다.
파일럿에서 실전 배포까지: 보안과 유연성의 두 마리 토끼
카시얍 CEO에 따르면, 이번 파트너십은 전통적인 데이터 암호화 및 키 관리에서 나아가 전체 AI 워크로드를 보호하는 방향으로 한 걸음 더 나아간 것을 의미한다. 기업들은 기존 AI 워크로드를 기밀 환경으로 마이그레이션하는 '리프트 앤 시프트(Lift-and-Shift)' 모델을 사용하여 Fortanix-NVIDIA 솔루션을 점진적으로 배포할 수 있다.
그는 "우리는 제로 풋프린트의 SaaS형과 자체 관리형의 두 가지 폼팩터를 제공한다. 자체 관리형은 가상 어플라이언스 또는 1U 물리적 FIPS 140-2 레벨 3 어플라이언스가 될 수 있다"고 언급하며, "가장 작은 배포는 3노드 클러스터이며, 20-30개 노드 이상의 대규모 클러스터도 가능하다"고 덧붙였다.
이미 오픈 소스 또는 독점 AI 모델을 실행 중인 고객은 최소한의 재구성만으로 이를 NVIDIA의 Hopper(호퍼) 또는 Blackwell(블랙웰) GPU 아키텍처로 이전할 수 있다. 새로운 AI 인프라를 구축하는 조직을 위해 Fortanix의 Armet AI 플랫폼은 오케스트레이션, 관찰 가능성(Observability) 및 내장된 가드레일을 제공하여 생산까지 걸리는 시간을 단축시킨다.
자이스왈 CPO는 "그 결과 기업들은 파일럿 프로젝트에서 신뢰할 수 있고 즉시 생산에 투입 가능한 AI로 나아가는 데 걸리는 시간을 수개월이 아닌 수일 내로 단축할 수 있다"고 성과를 강조했다.
규제 준수 및 데이터 주권(Data Sovereignty)을 위한 설계
새로운 플랫폼 설계의 핵심 동인은 단연 '규제 준수(Compliance)'다.
Fortanix의 DSM은 역할 기반 접근 제어(RBAC), 상세한 감사 로깅, 안전한 키 보관 등 엄격한 데이터 보호 규정을 준수함을 입증하는 데 필수적인 요소들을 강제한다. 이러한 통제 기능은 은행, 의료, 정부 계약 등 규제가 심한 산업에 필수적이다.
양사는 이 솔루션이 기밀성뿐만 아니라 '주권(Sovereignty)'을 위해 구축되었음을 강조한다. AI 환경에 대한 로컬 제어를 유지해야 하는 정부 및 기업을 위해 이 시스템은 완전한 온프레미스 또는 에어갭(Air-gapped) 배포 옵션을 지원한다.
Fortanix와 NVIDIA는 이러한 기술을 '정부용 NVIDIA AI 팩토리 레퍼런스 디자인(NVIDIA AI Factory Reference Design for Government)'에 공동으로 통합했다. 이는 국가 또는 기업 수준의 보안 AI 시스템 구축을 위한 청사진을 제시한다.
미래 위협 대비: 양자 내성 암호(PQC)와 클라우드 유연성
카시얍은 "우리가 암호학을 발명하는 것은 아니지만, 입증된 것을 구현한다"며, "동시에 고객들이 양자 이후 시대(Post-quantum era)가 도래했을 때 준비될 수 있도록 보장한다"고 말하며 미래지향적 기술 로드맵을 시사했다.
이 플랫폼은 온프레미스 및 주권 사용 사례를 위해 설계되었지만, 이미 기밀 컴퓨팅을 지원하는 주요 클라우드 환경에서도 실행될 수 있다는 유연성을 갖추고 있다. 여러 지역에서 운영되는 기업은 중앙 집중식 키 호스팅 또는 복제된 키 클러스터를 통해 일관된 키 관리 및 암호화 제어를 유지할 수 있다.
이러한 유연성을 통해 조직은 성능 최적화, 이중화 또는 규제상의 이유로 민감한 정보에 대한 통제력을 잃지 않으면서 데이터 센터나 클라우드 지역 간에 AI 워크로드를 자유롭게 이동시킬 수 있다.
Fortanix, NVIDIA GTC 2025에서 공동 플랫폼 시연
Fortanix는 오는 2025년 10월 27일부터 29일까지 워싱턴 D.C.의 월터 E. 워싱턴 컨벤션 센터에서 열리는 NVIDIA GTC에서 이 공동 플랫폼을 선보일 예정이다. 방문객들은 부스 I-7에서 고도로 규제되는 환경에서의 AI 워크로드 보안에 대한 라이브 데모와 토론에 참여할 수 있다.
Fortanix는 2016년 캘리포니아 마운틴뷰에서 Anand Kashyap과 Ambuj Kumar에 의해 설립되었다.
두 창립자 모두 인텔(Intel)에서 신뢰 실행(Trusted execution) 및 암호화 기술을 연구했던 엔지니어 출신이다.
이들은 당시 초기 개념이었던 '기밀 컴퓨팅'을 상용화하기 위해 회사를 설립했으며, 암호화된 데이터의 보안을 저장 및 전송 단계를 넘어 '사용 중인 데이터(Data-in-use)'로 확장하는 데 주력해왔다.
카시얍 CEO는 "역사적으로 우리는 암호화 및 키 관리 기능을 제공해왔다"며, "이제 우리는 AI 파이프라인 전체가 기밀 컴퓨팅으로 보호되어 실행될 수 있도록 AI 자체, 즉 워크로드 자체를 보호하는 데까지 나아가고 있다.
이는 AI가 클라우드에서 실행되든, 민감하거나 규제 대상 데이터를 다루는 주권 환경에서 실행되든 동일하게 적용된다"고 밝혔다.