AstraGo (41) 썸네일형 리스트형 AI를 위한 완벽한 엣지 컴퓨팅 솔루션: NVIDIA Jetson 모델 시리즈 지난 시간, 엣지 컴퓨팅을 위한 최초의 고성능 AI 컴퓨팅 플랫폼 NVIDIA Jetson 모듈 소개 다들 기억하시나요? 다양한 AI 응용 프로그램과 강력한 처리 능력이 특징인 젯슨 모듈은, AI 작업과 머신러닝을 구축하기에 효율적인 성능을 제공하고 있어요 :) 따라서 NVIDIA Jetson 시리즈는 여러 모델로 구성되어 있고, 각 모델은 목적별 성능과 요구사항에 맞게 설계되어 있는데요! 이번 콘텐츠에서는 Jetson의 주요 모델을 비교하며, 각각의 특징과 적합한 용도에 대해 알아보는 시간까지 가져볼게요! 또한, 젯슨 모델들이 AI 인프라와 머신러닝 작업에 어떻게 활용될 수 있는지도 AstraGo 솔루션을 통해 함께 알아보겠습니다. 😜 🔽 NVIDIA Jetson, 핵심만 알아보기 🔽 세계 최.. 세계 최초의 고성능 AI 컴퓨팅 플랫폼 NVIDIA Jetson 엔비디아 젯슨 점점 더 많은 모델의 요구사항 수준이 높아지고 슈퍼 컴퓨팅 성능이 중요해진 시점, 기업에서는 여러 개의 고해상도 센서에서 전송되는 데이터를 빠르게 처리하는 것이 AI 프레임워크의 주요 관점이에요.그리고 그 중심에는 엣지 컴퓨팅과 고성능 임베디드 AI 시스템이 자리 잡고 있어요. 오늘은 이러한 혁신의 핵심 주자인 NVIDIA Jetson(엔비디아 젯슨)에 대해서 소개해 드릴게요! 엣지 컴퓨팅을 위해 설계된 고성능 AI 컴퓨팅 보드NVIDIA Jetson (엔비디아 젯슨) NVIDIA Jetson은 AI와 엣지 컴퓨팅을 위해 설계된 고성능 임베디드 컴퓨팅 플랫폼이에요. Jetson 플랫폼은 NVIDIA의 GPU 아키텍처를 기반으로 하며, ARM 프로세서를 함께 사용하여 고효율적인 성능을 제공해요. 또 J.. 지속 가능한 AI 에코 시스템을 만드는 'AI 스토리지' 인프라의 중요성과 전략 새로운 비즈니스가 가속화 창출됨에 따라서 AI의 활용 범위도 확대되고, 전 세계적으로 방대한 양의 데이터가 생성되고 있어요. 인터넷 데이터 센터 IDC에 따르면 2025년까지 전 세계에서 생성되는 디지털 데이터의 총량은 175제타바이트(ZB)에 달한다고 해요. ⚡이제는 “이 수많은 AI 데이터를 어떻게 효율적으로 처리하는가”에 대한 질문이 비즈니스 연속성을 위한 기업과 조직에서 주요한 안건이 되고 있어요. 단순히 고성능의 GPU만이 정답이 아니란 것이죠. 그렇다면, 지속 가능한 비즈니스를 이루기 위해서는 어떻게 해야 할까요? 이와 관련하여 ‘데이터 스토리지 인프라’가 중요한 이슈로 급부상하고 있어요. 현재 데이터 센터는 전 세계 에너지 소비의 1~4%를 차지하고 있어, 심각한 에너지 소비와 탄소 문제.. Vision 분야를 주도하는 객체 알고리즘 YOLO시리즈 알아보기 오늘날 AI 분야는 컴퓨터 비전(Vision)를 빼놓고 말할 수 없게 되었어요. 머신러닝 및 신경망을 사용하여 작업에 영향을 미칠 수 있는 결함과 문제를 컴퓨터가 미리 식별해 인간 보다 더 빠르게 작동할 수 있게 만들어주죠. 이처럼 컴퓨터 비전은(Computer Vision), 컴퓨터가 이미지와 비디오를 통해 시각 정보를 인식하고 해석함으로써, 시각적 데이터를 고루 이해하고 분석하는 것을 목표로 하는데요! 이런 컴퓨터 비전 분야에는 다양한 알고리즘과 머신러닝 기술을 통해 이루어져요. 그 중 이미지 분류와 객체 검출은 비전 분야에서도 가장 대표적인 사례로 꼽을 수 있는데요! 지난 콘텐츠에서 소개해드린 YOLO모델에 이어, 이번 콘텐츠에서는 버전별 객체 알고리즘과 AstraGo에서의 활용 방법을 함께 알려드.. AI 인프라 내 HW+SW 통합 관리 가능한 AstraGo HPE OneView 안녕하세요 AI 영상 분석 전문 씨이랩입니다😊 현재 많은 기업 및 연구 기관에서는 AI 인프라를 도입하며, 발전하는 AI 기술을 따라가기 위해 노력하고 있어요. 특히 하드웨어와 소프트웨어를 통합 관리 할 수 있는 니즈가 극대화되고 있어요. 이러한 이유는 비용 절감 및 효율성을 넘어, 관리자가 동시에 관리함으로써 사용자 경험을 개선시키고, 스케일링에 용이하게 하기 위함이에요! 따라서 오늘은 기업에서 왜 하드웨어 관리의 필요성을 느끼는지 어떤 지표가 중요한지 찬찬히 살펴보며, 동시에 ML 인프라 관리 솔루션인 AstraGo에서 HPE OneView를 통해 HW/SW 모니터링을 원 플랫폼으로 일원화하여 진행할 수 있는 방법에 대해 소개해드리겠습니다:) AI 인프라에서 하드웨어 관리는 왜 필요할까요?AI 인.. AI 엔터프라이즈 배포속도를 향상시켜줄 추론 서비스 NVIDIA NIM 배경 이미지 출처: 엔비디아 안녕하세요 AI 영상 분석 전문 씨이랩입니다😊 현재 많은 기업과 조직들에서는 AI의 역량을 활용해 자체 온프레미스 데이터 센터에서 직원 생산성을 높이고, 혁신적인 AI 기반 사용자 경험을 창출하는데 많은 노력을 가하고 있어요. 이러한 AI 흐름에 따라 어디에서나 실행할 수 있는 AI 서비스가 주목받고 있어요. 대표적으로 NVIDIA NIM(NVIDIA Inference Microsoft)을 통해 다양한 기능을 활용할 수 있는데요! 이번 콘텐츠에서 NVIDIA NIM 소개와 함께 업계 동향을 짧게 소개해 드리는 시간을 가져볼게요. NVIDIA NIM의 탄생 배경과 그 가치많은 기업이 AI를 거의 필수적으로 도입을 하여 솔루션과 비즈니스 모델에 사용을 하고 있는 것을 쉽게 볼 .. AI 워크로드 내 추론 과정을 간소화시켜줄 최적의 솔루션 NVIDIA TRITON 안녕하세요, AI 영상 분석 전문 씨이랩입니다😊 AI 프로젝트를 진행하면서 가장 큰 두 단락이 있어요. 바로 '학습'과 '추론'인데요. 적합한 데이터를 통해 모델을 학습시키고 나면, 인공지능 시스템이 학습한 지식이나 모델을 바탕으로 새로운 데이터를 분석하고 결론에 내리게 돼요. 우리는 이 과정을 AI 추론(Inference serving)이라고 부르게 되는데요! 학습은 AI의 기초를 형성하지만, 추론은 그 기초를 바탕으로 실제 문제를 해결하고, 새로운 상황에 적응하는데 필수적인 과정이기 때문에, AI 프로젝트 내에서는 학습보다 더 큰 파이를 차지하고 있는데요. 따라서 오늘은 AI 워크 로드에서 추론을 효율적이게 진행할 수 있는 방법을 알려주고자 해요. 모든 플랫폼에서의 고성능 추론을 위한 NVIDIA의.. 딥러닝 모델을 최적화하는 방법 'AI 모델 경량화' "딥러닝 모델을 최적화하는 방법? " 안녕하세요, AI 영상 분석 전문 씨이랩입니다😊 AI 시장이 커지고, 많은 빅테크기업은 더 나은 성능과 효율성을 위한 딥러닝 모델을 끊임 없이 개선하고 최적화하고 있어요. 이때 딥러닝 모델개발과 배포 과정에서는 많은 시간과 비용의 리소스가 들게 되는데요. 딥러닝 모델의 크기와 연산량이 커짐에 따라 학습과 추론 과정에서 요구되는 자원과 비용은 증가하게 되고, 응용 모델이 개발됨에 따라 모바일 기기 등에서는 제한 정보 자원을 추론 지원 또한 요구되는데요. 따라서 AI 업계에서는 모델을 더 효율적으로 실행하고 저사양 하드웨어나 제한된 환경에서도 사용 가능하게 만드는 '모델 경량화'에 대해 큰 관심을 두고 있어요. 오늘은 AI 모델의 크기가 커질수록 함께 뜨거운 주목을 .. 이전 1 2 3 4 ··· 6 다음
