KIM SMILE
ChatGPT 열풍으로 엔비디아 AI용 GPU의 품귀가 지속되는 가운데, 그래픽 전문가용 GPU를 AI GPU 클라우드 서비스로 출시한 기업이 있어 화제다.
클라우드 서비스(IaaS) 전문 기업 스마일서브(대표 김병철)는 AMD Radeon PRO W6800 GPU를 온디맨드 클라우드 서비스로 출시 했다고 30일 밝혔다.
텐서플로우, 파이토치 등 AI 라이브러리용 파이썬 소스 코드 100% 호환
AMD Radeon PRO W6800 GPU 클라우드 서비스의 가장 큰 특징은 호환성이다.
NPU는 AI에 특화된 칩셋으로 엔비디아와 경쟁하기에 높은 잠재력을 가졌지만,
CUDA 환경에서 작업된 소스코드나 실질적 산업 표준인 오픈스택 클라우드 서비스에서 이식성이 높지 않다.
반면 AMD는 GPU 생산을 넘어 ROCm 소프트웨어 스택으로 통합하면서 호환성과 접근성을 높였다.
CUDA 도구 위에서 AI 프레임워크인 텐서플로우나 파이토치 등으로 개발된 파이썬 소스코드는 ROCm 소프트웨어 스택을 통해
100% 호환되어 AMD Redeon 시스템으로 코드변환 없이 이식가능하다.
또한 AMD의 오픈소스 소프트웨어 라이선스 정책도 접근성에 한몫한다.
A100 대비 성능 90%, 가격 5분의 1
엔비디아 AI용 GPU를 구하는 것은 하늘에 별따기만큼 어렵다.
AI 서비스의 극적인 발전으로 GPU에 수요가 급격히 몰리면서 자연스럽게 엔비디아 GPU 가격이 연이어 폭등하는 현상이 일어나고 있다.
그 결과 사용자는 가격에 거품이 많이 낀 것을 알면서도 구매할 수 밖에 없는 것이 현실이다.
그래픽 전문가용 GPU인 AMD Radeon PRO W6800은 엔비디아 A100 대비 5분의 1 가격 수준이다.
그렇지만 성능은 가격에 비례하지 않는다. 각 제조사에서 밝힌 사양에 따르면 W6800은 딥러닝 모델의 학습 및 추론의 지표로 많이 쓰이는 단정밀도(Single-Precision)에서 엔비디아 A100의 19.5TFLOPS 대비 90%(17.83TFLOPS) 성능을 자랑한다.
가격과 성능을 고민할 수 밖에 없는 AI 스타트업이나 연구 개발 단계에 있는 기업뿐만 아니라 당장 GPU를 구할 수 없어 멈췄던 신규 프로젝트팀에게 충분한 결과를 제공할 것으로 기대된다.
이번 서비스 개발에 파일럿 프로젝트로 참여한 AI 전문 기업 아토믹스 이규호 대표는 “라데온 W6800은 충분히 매력적인 가격과 성능을 갖췄다. 파이토치와의 높은 호환성으로 지원되는 AI 모델을 바로 사용할 수 있다.”라고 말했다.
스마일서브는 AMD Radeon PRO W6800 환경에서 실행하는 AI를 고객이 직접 체험 할 수 있도록 같은날 공개했다. 이 밖에도 RDNA3 아키텍처를 기반으로 한 AMD Radeon PRO W7000 시리즈를 장착한 GPU 서버를 공식 홈페이지에 추가로 출시할 예정이다.
스마일서브 김병철 대표는 “자사 클라우드는 하드웨어가 강한 서비스다. GPU 서버를 직접 설계, 개발하여 높은 가성비로 만들었다.
이제 10만원 미만의 개발자용 사양부터 H100급의 하이엔드 라인업까지 제공할 예정이다.” 라고 말했다.
스마일서브는 지난 2019년에도 Radeon VII과 Vega64를 장착하고 ROCm 소프트웨어를 통합한 GPU 서버를 출시한 바 있다.
● 언론 속의 스마일서브
[아이티데일리] 스마일서브, ADM 라데온 프로 W6800 기반 GPU 클라우드 서비스 출시
http://www.itdaily.kr/news/articleView.html?idxno=218496
[민중의소리] 스마일서브, AMD 라데온 GPU 클라우드 서비스 출시
https://vop.co.kr/A00001642932.html
[데이터넷] 스마일서브, AMD 라데온 GPU 클라우드 서비스 출시
https://www.datanet.co.kr/news/articleView.html?idxno=189182
[아주경제] 스마일서브, AMD AI 반도체 기반 클라우드 선봬…”가성비로 중저가 AI 시장 공략”
https://www.ajunews.com/view/20231130165306813