기업 AI 보안: Zadara Sovereign Cloud에서 vLLM을 사용하여 안전한 GenAI 구축

기업 AI 보안

기업 AI 보안 이는 외부 노출로부터 독점 데이터를 보호하기 위해 설계된 사설 인프라, 암호화 및 로컬 추론 프로토콜의 전략적 프레임워크입니다. 이를 배포함으로써 Zadara Sovereign Cloud의 vLLM이를 통해 조직은 제3자 데이터 전송에 노출되지 않는 통제된 로컬 환경에서 고성능 대규모 언어 모델(LLM)을 실행할 수 있습니다. 이러한 접근 방식은 민감한 비즈니스 데이터와 인텔리전스를 조직의 완벽한 통제 하에 유지하여 현대 디지털 환경의 엄격한 상주 및 개인정보 보호 요구 사항을 충족합니다.

챗봇을 넘어 에이전트형 AI로의 전환

My 이전 GenAI 블로그 GenAI 챗봇이 AI와 자동화를 강력한 보안 및 데이터 제어와 결합하여 기업 내부 지원 방식을 어떻게 혁신하고 있는지 설명했습니다. RAG 기반 시스템이 생산성을 혁신적으로 향상시켰지만, 이제 우리는 더욱 발전된 패러다임으로 나아가고 있습니다. 에이전트형 AI 프레임워크.

직원이 ChatGPT나 Google Gemini 같은 공개 AI 플랫폼에 문서를 업로드할 때마다 민감한 기업 데이터와 정보가 제3자 서버로 전송됩니다. 이는 이미 입증된 사실이며, 미래지향적인 기업들이 이러한 문제에 접근하는 방식을 바꾸고 있습니다. 기업 AI 보안.

AI 보안 동향 및 시장 현실

  • 세계경제포럼(WEF)의 2026년 글로벌 사이버보안 전망에 따르면AI 도구의 보안을 평가하는 조직의 비율은 거의 두 배로 증가하여 2025년 37%에서 상승했습니다. 64에서 2026의 %.
  • 리서치 앤 마켓츠에 따르면전 세계 국가 클라우드 시장은 2025년 1,039억 7천만 달러에서 성장할 것으로 예상됩니다. 128.62에서 $ 2026 억디지털 스파이 행위에 대한 우려가 커지면서 이러한 현상이 나타나고 있습니다.
  • 세계경제포럼에 따르면현재 지도자들의 31%가 주요 사이버 공격에 대한 국가의 대응 능력에 대해 낮은 자신감을 보인다고 답했는데, 이는 작년의 26%에서 증가한 수치입니다.

AI 보안 동향 및 시장 현실

"2026년의 환경에서는… 자율 에이전트의 수가 인간 사용자보다 100대 1의 비율로 훨씬 많은 비인간적인 신원 경계를 관리해야 합니다." - 토마스 너스Tenable의 제품 마케팅 책임자.

공공 AI vs. 주권 AI: Sortis 비교

이해하다 AI를 안전하게 보호하는 방법데이터 흐름 감사를 살펴봐야 합니다. Sortis에서 제공한 아래 표를 참조하십시오. https://www.sortis.es/스페인의 Zadara 파트너사인 기술팀은 Zadara의 자체 인프라에서 실행되는 내부 vLLM이 데이터가 인프라 외부로 유출되는 것을 방지하는 유일한 아키텍처인 이유를 설명합니다.

표준vLLM(내부)노트북LM쌍둥이 자리ChatGPT클로드DeepSeek부조종사
데이터가 조직 네트워크를 벗어납니다아니요, 온프레미스에서 실행됩니다.가능가능가능가능가능가능
제3자에게 발송된 문서아니가능가능가능가능가능가능
벤더별로 저장된 프롬프트아니알 수 없는알 수 없는가능가능알 수 없는가능
사용자 데이터로 학습된 모델위험성없는위험위험위험위험위험위험
GDPR / 거주지 통제가득 찬아니아니아니아니아니아니
에어갭 배포 가능가능아니아니아니아니아니아니
규정 준수 감사 추적내부의아니아니아니아니아니아니
API 키/인증 종속성아니가능가능가능가능가능가능
모델 버전 잠금/감사 가능가능아니아니아니아니아니아니
민감한 문서 노출 위험없음 높음 높음 높음 높음 높음 높음

기술 쇼케이스: Veltrix Veritas (버전 1 아키텍처)

벨트릭스 베리타스 AI 기반 문서 인텔리전스 플랫폼인 vLLM은 단일 기술 문서(PDF, DOCX, PPTX, TXT)를 구조화된 영업 인텔리전스로 변환합니다. 자체 vLLM 추론 서버를 기반으로 구축되어 모든 LLM 호출은 온프레미스에서 처리되며 외부 상용 API로 데이터가 전송되지 않습니다. 벨트릭스 베리타스 이 도구는 기업이 공개 API의 "정보 유출" 위험 없이 정교한 AI 기능을 구현하는 방법을 보여주는 대표적인 사례입니다. Zadara의 자체 인프라에서 실행되는 프라이빗 vLLM 추론 서버를 기반으로 구축된 이 문서 인텔리전스 플랫폼은 다음과 같은 사항을 보장합니다.

  1. 추론은 로컬에서 수행됩니다. 모든 프롬프트 및 문서 분석은 온프레미스에서 이루어집니다.
  2. 자율 검색: 경쟁 정보는 자체 호스팅을 통해 수집됩니다. 검색XNG 검색 엔진은 검색 쿼리를 비공개로 유지합니다.
  3. 지적 재산권 오염 제로: 모델은 고정된 가중치로 실행되므로, 귀사의 독자적인 판매 전략이 공개 모델을 학습시키는 일이 절대 발생하지 않습니다.

자다라 소버린 클라우드의 장점

Zadara Sovereign Cloud는 다음과 완벽하게 일치합니다. NVIDIA 소프트웨어 참조 가이드이를 통해 자다라는 풀스택 워크로드 격리 및 VM 기반 GPU 테넌시를 자사 소유 클라우드에 제공합니다. 이번 제휴는 자다라가 네트워크 분할 및 테넌트별 데이터 볼륨 분리와 같은 핵심 설계 원칙을 구현하고 있음을 확인시켜 줍니다.

안전한 AI를 위한 필수 제어 기능

  • 데이터 주권: 메타데이터와 로그는 지정학적 국경을 넘지 않습니다.
  • 운영 자율성: 기업들은 하이퍼스케일 제공업체의 "수출 통제"나 서비스 중단을 피하려고 합니다.
  • 재정적 예측 가능성:  숨겨진 전송 수수료가 전혀 없는 100% 운영 비용(OpEx) 가격 모델을 통해 AI 프로젝트는 확장 중에도 예산 안정성을 유지할 수 있습니다.

 

경쟁 우위 확보

주권형 AI 인프라로의 전환은 단순한 보안 업데이트가 아니라 전략적 필수 요소입니다. 사이버 사기가 2026년 주요 관심사로 떠오르고 AI가 더 이상 선택 사항이 아닌 상황에서, AI 공급망을 통제하는 능력은 비즈니스 회복력을 위한 궁극적인 요구 사항입니다. 자다라 소버린 클라우드이를 통해 가장 귀중한 자산인 데이터의 보안을 희생하지 않고도 AI의 힘을 활용할 수 있습니다.

온프레미스 LLm


 
나가, 소르티스 - 공동 저자.

나가 벤카타 사티아 사이 크리슈나 무누쿠틀라는 소티스(Sortis)의 AI 제품 리더로서, 자다라 클라우드 솔루션(Zadara Cloud Solutions)과 협력하여 내부 및 외부 AI 활용 사례를 구축하고 AI 분야의 단기 및 장기 로드맵을 수립하고 실행합니다. 그는 AI 제품 개발 4년, IoT 및 데이터 분석 6년을 포함하여 총 10년의 기술 경력을 보유하고 있습니다. 현재 그는 벨트릭스 베리타스(Veltrix Veritas)를 비롯한 자사 소유 AI 인프라 및 AI 기반 제품, 온프레미스 AI 모델 학습, 통신 분야에 적용되는 AI에 집중하고 있습니다.

베흐남 엘리야후의 사진

베흐남 엘리야후

베남은 2022년 4월 자다라에 합류하여 현재 APAC 및 SEMEA 지역 CTO를 맡고 있습니다. 20년 이상 IT 업계에 몸담은 베남은 심도 있는 엔지니어링과 리더십을 결합하여 경력을 쌓아온 혁신적인 기술 전문가입니다. 그는 실무 개발자로서뿐만 아니라 R&D 및 기술 제품 마케팅 분야에서 지리적으로 분산된 여러 부서의 팀을 이끌고 멘토링하는 관리자로서도 폭넓게 기여해 왔습니다. 이스라엘과 미국에서 모두 근무한 경험을 바탕으로, 베남은 기술 리더십에 글로벌 관점을 접목하여 심도 있는 엔지니어링 문화와 고객 중심의 엔터프라이즈 규모 솔루션 제공을 결합합니다. 베남은 경력의 대부분을 C 언어 개발에 능숙한 핵심 개발자로서 고성능 펌웨어 및 소프트웨어 설계 및 구현에 전념해 왔습니다. 그의 기술적 배경은 NOR, NAND, SSD, 올플래시 어레이(AFA), 인텔 옵테인, 소프트웨어 정의 스토리지(SDS) 등 고급 스토리지 기술을 아우르며, 온프레미스 및 클라우드 환경 모두에서 블록, 파일 및 객체 스토리지를 지원합니다. 베남은 인텔, 마이크론, 웨스턴 디지털과 같은 기술 기업에서 고위직을 역임했으며, 2021년 엔비디아에 인수된 혁신적인 스타트업 엑셀레로(Excelero)에서도 경력을 쌓았습니다. 엑셀레로 재직 시절과 이후 엔비디아 관련 AI 프로젝트를 통해 베남은 고객 대상 배포 및 플랫폼 아키텍처를 포함한 AI 기반 인프라 및 AI용 가속 컴퓨팅 분야에 적극적으로 참여해 왔습니다. 그의 전문 분야는 스토리지 시스템(FTL, SSD, 펌웨어 및 풀스택 소프트웨어 개발), 가상화, 클라우드 컴퓨팅, 네트워킹, 분산 시스템, AI용 서비스형 인프라(IaaS)입니다. 또한 베남은 SSD 기반 랜섬웨어 회피 탐지 기술에 대한 특허를 보유하고 있으며, 수십 편의 기술 블로그와 백서를 집필하는 등 발명가이자 사상적 리더로서 활약하고 있습니다.

이 게시물 공유

더 알아보기