누구나 쉽게 공유 가능한 클라우드와 멀티테넌시 환경
공유가 쉬운 클라우드 환경! 클라우드는 이미 우리 생활에 깊숙이 들어와 있어요. 파일을 저장하고, 소프트웨어를 사용하고, 동료나 친구와 협업하는 모든 일이 이제는 인터넷의 클라우드를 통해 이뤄지고 있죠! 마치 네이버·구글 드라이브 처럼요 :)📁🗂️
더 쉽게 예를 들어볼까요? 우리가 메일이나 메신저를 확인하려 열었는데, 나에게 온 메일 뿐 아니라 부서 내 모든 사람의 메일이 들어있다면 다소 당황스러울 것인데요. 이처럼 클러스터를 공유하게 되면 보안, 공평성 등의 여러 문제 상황이 발생할 수 있어요.😥
이러한 문제점을 해결하기 위해서는 각각의 사용자에게 독립적인 서비스 환경을 제공해야 하는데요. 오늘 소개해드릴 ‘멀티테넌시’ 환경에서 가능하게 됩니다 :) 다양한 형태로 변형 또는 혼합이 가능해, 다수의 팀과 고객의 워크로드를 컨트롤 할 수 있는 멀티네넌시 환경! 어떤 것인지 씨이랩과 함께 알아볼까요?🤗
멀티테넌시(Multitenancy)의 정의
멀티테넌시는(Multitenancy)는 하나의 소프트웨어 애플리케이션 인스턴스가 여러 고객에게 서비스를 제공하는 아키텍처에요. 하나의 소프트웨어 인스턴스가 한 대의 서버 위에서 동작하면서 여러 개의 테넌트(tenant)를 서비스하는데요. 즉, 여러 고객이 동일한 소프트웨어를 사용하지만 각 고객의 데이터는 분리되어 관리되는 것인데요!
🖥️이러한 멀티테넌시는 클라우드 컴퓨팅 환경에서의 중요한 기능으로 간주하고, 일반적으로 SaaS(Soft-as-a-Service)에서 사용되고 있어요. 많은 SssS 제공업체는 애플리케이션의 단일 인스턴스를 실행하여 개별 고객들에게 액세스를 제공하는데요. 따라서 사용자별로 데이터와 성정, 화면 구성 등 많은 속성을 개인화할 수 있게 되었어요!
* tenant: 소프트웨어 인스턴스에 대해 공통이 되는 특정 접근 권한을 공유하는 사용자들의 그룹
* 같은 클래스에 속하는 개인의 객체라면, 테넌트는 사용자 계정으로 이해하시면 됩니다:)
| 멀티테넌시 vs 멀티 인스턴스 구조 차이💡 멀티 인스턴스 구조에서의 응용 소프트웨어는 데이터, 구성, 사용자 관리, 테넌트 개별 기능 및 비기능 속성을 포함하여, 모든 테넌트에게 인스턴스의 일부분을 단독적으로 제공하기 위해 설계되어 있는데요. 반면, 멀티테넌시는 개개인 소프트웨어 인스턴스들이 각기 다른 테넌트를 위해 운영되는 멀티인스턴스 구조와는 상반돼요. |
멀티테넌시(Multitenancy)구조와 장점
1) 비용과 자원 절약
멀티 테넌시 구조의 가장 큰 장점은 고객마다 새로운 시스템을 제공하는 형태가 아니라 하나의 시스템으로 여러 고객에게 제공하는 것이에요. 따라서 소프트웨어 개발과 유지보수 비용의 공유가 가능한데요. 오류 발견 시 하나만 수정하면 모든 고객에게 똑같이 적용되고 업데이트 시에도 한 번의 업데이트만으로 모든 고객이 이용 가능해요.
2) 유연성/확장성
하드웨어와 소프트웨어를 자체적으로 구입하면 수요가 많을 때는 용량이 부족하고 수요가 적을 때는 용량이 남아돌 수 있어요. 반면에 멀티테넌트 클라우드에서는 사용자 리소스 수요 증감에 맞춰 필요한 사용자에게 리소스 풀을 할당할 수 있어요. 퍼블릭 클라우드 환경에서는 용량이 더 필요할 때 요청하여 사용하고, 필요하지 않을 때는 비용을 내지 않아도 되거든요!
3) 효율성
마지막으로 개별 사용자가 인프라를 관리하고 업데이트 및 유지 관리를 수행하는 일이 줄어듭니다! 개별 테넌트는 이 반복적이고 번거로운 작업을 직접 처리하는 대신 중앙의 클라우드 제공업체에 맡길 수 있어요.
멀티테넌시(Multitenancy)와 싱글테넌시(Singletenancy)
한 편, 이러한 멀티테넌시의 장점에도 불구하고 활용 사례에 따라서는 프라이빗 클라우드 또는 자체 데이터센터 사용과 같은 단일 테넌트 컴퓨터 시스템을 선호하는 경우가 있는데요.
주로 기업이나 기관에서의 고객 데이터베이스나 기밀 정보를 보호하기 위해 사용되죠. 예를 들어, 금융 기관과 의료 기관은 고객 정보나 환자 정보와 같은 민감한 데이터를 보호해야 하기 때문에, 싱글 테넌시를 활용하여 해당 데이터를 전용으로 관리하고 보안을 강화할 수 있는데요.
소규모 기업이나 개인 사이트에서도 싱글테넌시를 활용하여 자신의 웹 서비스를 전용으로 운영하고자 할 때 사용할 수 있어요, 이를 통해 자신의 데이터와 리소스를 외부와 완전히 분리하여 안전하게 보호할 수 있어요.
위의 사례처럼 싱글 테넌시는 고객의 수가 제한적이라는 가정 하에는 훌륭한 개발 솔루션이 될 수 있으나, 우리는 항상 고객의 수가 줄어드는 것이 아닌 늘어나는 것을 대비해야 하죠 :) 이때 멀티테넌트 아키텍처는 무제한적인 규모가 필요한 서비스에 선호되는 솔루션이에요. 멀티 테넌트는 클라우드 제공업체가 설정한 리소스 제한 내에서 많은 고객을 서비스하는 유일한 방법인데요.
이러한 멀티테넌트 환경을 위해 AI개발자는 격리된 테넌트, 확장성, 성능관리, 보안 등의 다양한 정보들을 고려해야 해요. 이러한 개발 환경에 대한 고민을 astrago를 통해 줄여보실 수 있어요!
아스트라고(astrago)에 탑재된 MIG는 GPU를 독립적인 인스턴스로 분할하여 여러 개의 업무를 진행할 때 GPU 활용도와 유연성을 향상시킬 수 있어요. astrago는 컨테이너와 MIG 기반의 멀티테넌시 격리 기술을 통해 장애 발생 시 전체 시스템 영향을 최소화시키고, 모니터링 스케줄링 등 다양한 기능의 연동 및 튜닝의 확장성을 제공하고 있어요.
또한 분할된 인스턴스를 통해 안전성과 리소스 활용도를 향상시킬 수 있고, 유휴 자원을 확인할 수 있어 작업 배치 능률 향상이 가능합니다!
따라서 각 GPU 인스턴스의 작업별 최적화 환경을 통해 성능을 향상시킬 수 있어요. 다양한 요소들을 astrago를 통해 관리할 수 있어, 모델 개발과 관리를 효율적으로 운영할 수 있습니다 :)
오늘은 다수의 팀과 고객 환경을 위해서 필요한 멀티테넌시 환경에 대해 알아보는 시간을 가졌는데요. 멀티테넌시로 알아본 필요성처럼 AI 비즈니스 협업을 강화하기 위해서는 다양한 환경을 컨트롤할 수 있는 인프라도 굉장히 중요해요. GPU 인프라 관리 솔루션 astrago를 통해 더욱 효율적인 멀티테넌시 환경을 만들어보는 건 어떨까요?
Email : astrago@xiilab.com
영업 문의: sales@xiilab.com
TEL: 02-6914-9369
'AstraGo' 카테고리의 다른 글
| 일반 인공지능을 넘은 초인공지능의 등장! ASI와 AI의 발전 단계 (0) | 2024.07.18 |
|---|---|
| 컴퓨팅 환경에서 탄력적으로 업무를 수행하는 방법: 클라우드네이티브(Cloud Native) (0) | 2024.07.11 |
| LLM 한계를 보완할 수 있는 AI 검색증강생성 RAG 기술 (3) | 2024.07.05 |
| 우리의 생활로 들어오는 똑똑한 범용인공지능 AGI 개념과 사례 (0) | 2024.07.05 |
| 생성형 AI 산업 내 주요 이슈, ‘AI 할루시네이션’ (2) | 2024.07.01 |
