본문 바로가기

AstraGo

 (41)
한정된 자원을 유동적으로 사용할 수 있는 '도커'와 '컨테이너' 여러분이 만약 AI 프로젝트를 시작할 때, 한정된 컴퓨팅 자원에서 많은 부서의 인원들이 동시적으로 자원을 사용하게 된다면 어떨까요? 부서 간 수동으로 자원을 분배하는 것도 일이며, 안정적인 환경에서 업무를 진행하시는 것은 더욱 어려운 일일 텐데요. 특히 개별 프로세스에서 문제가 발생하게 된다면, 전체 시스템이 중단할 가능성이 존재하며 우리는 유동적인 수요에 언제든지 대응 가능한 자원 분배의 자동화가 필요하게 됩니다.  이처럼, 현대 IT 인프라 환경에서는 한정된 자원을 다수의 인원/프로젝트가 유동적으로 사용하며, 빠르고 안정적인 환경까지 요구할 수 있도록 매일 방법을 고민하고 있습니다. 즉 우리의 한정된 시간과 예산을 극한의 효율로 이끌 수 있도록 말이죠! 이렇게 AI 개발과 운영의 효율화를 끊임없이 고..
AI 개발에 파이썬을 주로 활용한다면, ‘주피터 노트북’(Jupyter Notebook) 앞서 지난 시간에 AI 개발에 도움이 되는 프레임워크인 텐서플로우와 파이토치를 만나보시고 오셨을 텐데요. 여기에 뭔가 하나 빠진 것 같지 않나요? 특히 파이썬을 주 언어로 사용하고 계신 분들께는 더욱 친숙한 단어일 것 같은데요. 바로 ‘주피터(Jupyter)’입니다. 🔎프레임워크 편 살펴보기 👉   https://blog.naver.com/xiilab/223449753500 AI 개발을 기본적으로 진행하는 데 다양한 개발 언어와 프레임워크가 필요한 것처럼 개발을 더욱 원활하게 진행할 수 있도록 도움을 주는 ‘환경’과 ‘도구’도 필요합니다. 그 사이에 오늘 소개해 드릴 ‘주피터 노트북(Jupyter Notebook)’이 있는데요. 주피터 노트북이라 하면, 시중에 나와 있는 노트북 PC 모델이 떠오르실 ..
머신러닝·딥러닝의 대표적 프레임워크 텐서플로우vs파이토치 AI를 처음 시작하거나 관련 업무를 진행하게 되면, '텐서플로우' '파이토치'와 같은 단어들을 굉장히 자주 듣고 볼 수 있는데요. TensorFlow, PyTorch는 AI 업계에서 대표적인 프레임워크라고 할 수 있습니다. 아직까지 머신러닝·딥러닝에서 사용되는 프레임워크는 무엇인지 아직까지 낯설어하는 분들이 계실 수 있습니다. 그런 분들을 위해 이번 시간에는 가장 기본적으로 사용되는 이 용어들이 무엇인지, 어떤 차이점과 특징을 가지고 있는지 함께 짚어보는 시간을 가져봅시다! AI 개발의 기본 뼈대, 프레임워크(FrameWork) 프레임워크는 Frame(틀) + work(일)이라는 단어의 합성어인데요. 일 구조, 혹은 작업 구조라는 뜻과 같이 프레임워크는 어떠한 일을 처리하기 위한 구조를 제공합니다. 즉,..
GPU를 가장 잘 활용하는 방법: 멀티 인스턴스 MIG " AI 상용화에 따른 GPU 활용🧑‍💻 "  현재 AI가 상용화가 되어가는 시점에서 AI를 학습하고 개발시키는 것은 매우 중요한 일이라고 꼽히고 있습니다. 그리고 AI를 학습하고 개발하는 데 필요 중심이 되는 것은 ‘GPU’ 자원입니다. 덕분에 많은 기업 사이에서 ‘GPU 품귀현상’이 일어나며 나날이 몸값이 상승하고 있는데요. 엔비디아의 A100 , L40 등의 GPU는 현재 개당 3,000만 원 안팎으로 거래되며 그 인기를 입증하고 있습니다! ▶현대 GPU의 중요성 알아보기: https://blog.naver.com/xiilab/223424716933  어찌어찌 확보된 GPU는 기업 내 여러 팀에서 나눠 쓰면서, 부서 간 눈치싸움이 시작되는데요. ML을 학습하고 개발 목적에 따라 작업 크기가 달라..
개발과 운영을 한 번에 효율화 하는 MLOps 정의와 플랫폼 " 성공적인 머신러닝의 워크플로우 단계 "  지난 시간에는 머신러닝에 대한 개념과 정의를 돌아보며, 머신러닝이란 경험과 학습을 통해 자동으로 개선하는 컴퓨터 알고리즘이라는 것을 알 수 있었는데요. 이때 데이터 훈련을 통해 모델을 만들고 새로운 데이터를 예측하는 것에 초점을 맞추고 있기 때문에, 양질의 데이터가 아주 중요하다는 점 기억하시고 계신가요? ▶머신러닝 이해하기: https://blog.naver.com/xiilab/223428011674  성공적인 머신러닝 프로젝트는 데이터 수집 - 점검 및 탐색 – 모델 학습 및 훈련 - 평가 - 배포의 크게 6단계의 워크플로우를 거치게 되고 이 과정을 계속 반복합니다. 하지만 이 일련의 과정들이 모두 수동으로 처리된다면, 시간이 굉장히 오래 걸리고 오류가 발..
이것만은 꼭! 반드시 알아야 할 AI 기술과 LLM 이슈 단 시간 일상에 스며든 '생성형 AI'  최근 일상 속에서 가장 많이 활용하는 어플 중 ‘ChatGPT’가 떠오르며, 많은 사람들은 이제 궁금한 것을 묻거나 업무에 활용할 때 검색 엔진이 아닌 ChatGPT를 활용하곤 합니다.  또한 대부분의 인터넷 사용자는 ChatGPT를 인지하고, 직접 사용해 본 경험이 있다고 하는데요. 이렇게 AI 앱에서 기사를 요약하거나 스토리를 창작하고 대화에 참여할 수 있게 되면서 대규모 언어 모델의 비중은 점점 더 커지고 있습니다. 현재 국내 기업의 약 41%는 인공지능 도입을 위한 프로젝트를 진행 중이거나 이미 업무에 활용하고 있으며, 나머지 40.8%의 기업들 역시 가까운 시일 내 인공지능을 도입을 검토하고 있는 것으로 나타났는데요. 약 10곳 중 8곳 이상의 기업들이 ..
머신러닝(Machine Learning) 개념 정의와 활용 사례 "지극히 개인화된 맞춤 AI 뒤에는 머신러닝이 있다"  넷플릭스·유튜브처럼 이젠 나만을 위해 개인화된 AI, 여러분들은 일상 속에서 흔히 사용자 기반 추천기능을 사용하고 있을 텐데요. 이러한 알고리즘 운영에는 머신러닝에서부터 출발되었습니다. 그렇다면 머신러닝이 무엇일까요? 그대로 직역하면 “기계가 배운다”는 뜻을 가지고 있는데요. 기계가 무엇을 어떻게 배울 수 있을지 또한 배운 것을 어디에 어떻게 사용할 수 있을지 등 오늘은 머신러닝의 개념과 주요 역할 그리고 사례를 통해 머신러닝의 활용 장점을 쏙쏙 뽑아보겠습니다. 일일이 데이터를 수집하고 수작업했던 과거 엔지니어🧑‍💻 머신러닝의 탄생 배경을 알기 위해서는 과거 엔지니어가 AI를 다뤘던 때부터 돌아 볼 수 있을 것 같은데요. 과거에는 인공지능 개발자..
CPU GPU 차이점으로 알아보는 현대 GPU의 중요성 🔷GPU 암호화폐 채굴에서부터 AI컴퓨팅 자원으로🔷  지난해부터 현재까지 빅테크 기업에서 대형언어모델(LLM), Chat GPT 등 AI 산업계에서 굵직 굵직한 기술이 개발되며, 말그대로 AI 대란이 일어나고 있는데요. 국내외 기업들이 모두 AI에 매달리며, 주요 공급처인 엔비디아의 GPU는 아직까지도 수요가 공급을 따라잡지 못하고 있는 형태라고 합니다. 암호화폐 채굴용으로 화제되었던 하드웨어에서부터 AI 컴퓨팅에 투입되면서 더욱 주가를 높이고 있는 'GPU' 오늘은 AI 기술 발전과 함께 지속 언급되고 있는 CPU GPU 개념 및 차이점을 통해 AI에서 GPU의 중요성에 대해 함께 알아보는 시간을 가져보겠습니다.  GPU, 왜 필요할까요? AI를 하기 위해선 일단 GPU가 필요하다고 알고 있거나, ..

티스토리툴바