머스크, 세계최대 AI슈퍼컴 '콜로서스'10배로 확장 NVIDIA Ethernet Networking Accelerates World’s Largest AI Supercomputer, Built by xAI
엔비디아 GPU 10만→100만개로 늘려
AI 서비스 '그록' 가동
일론 머스크가 작년에 창립한 인공지능(AI) 스타트업 xAI가 지금도 세계 최대 규모의 AI 슈퍼컴퓨터로 꼽히는 '콜로서스'의 규모를 10배로 키우겠다는 계획을 밝혔다.
미국 테네시주 멤피스권역 상공회의소(Greater Memphis Chamber)는 4일(현지시간) 보도자료를 내고 이 단체 연례행사인 회장 오찬에서 xAI가 이런 확장 계획을 발표했다고 전했다.
이에 따르면 현재 콜로서스는 엔비디아 그래픽처리장치(GPU)가 10만여개 상호연결된 클러스터로 운영되고 있으나, xAI는 이를 100만여개로 늘리기로 했다.
콜로서스에 든 GPU를 현재의 2배인 20만여개로 늘리겠다는 2개월 전의 발표보다 확장 계획 규모가 훨씬 더 커진 것이다.
콜로서스는 인공지능 서비스 '그록'(Grok)을 훈련시키는 데 사용된다.
콜로서스 확장을 위해 시설 크기를 늘리는 작업은 이미 시작됐다.
이번 확장을 지원하기 위해 엔비디아, 델, 슈퍼마이크로 컴퓨터가 멤피스에 사무소를 개소할 예정이다.
상공회의소는 'xAI 특수작전팀'을 만들어 xAI에 "24시간 컨시어지 서비스를 제공"할 것이라고 밝혔다.
xAI는 콜로서스가 '세계 최대 규모의 AI 슈퍼컴퓨터'라고 주장하고 있다. 머스크의 표현으로는 "세계에서 가장 강력한 AI 훈련 시스템"이다.
머스크는 올해 9월 초 콜로서스의 온라인 운영 개시를 알리면서 시스템 구축이 "시작부터 마무리까지 122일만에 이뤄졌다"고 말했다.
젠슨 황 엔비디아 최고경영자(CEO)는 지난 10월 콜로서스가 "단일 클러스터로는 세계에서 가장 빠른 슈퍼컴퓨터"라며 이런 정도 크기의 데이터 센터를 짓는 데 보통 3년이 걸릴 것이라고 말했다.
콜로서스는 널리 인정받는 슈퍼컴퓨터 성능 순위 랭킹인 '톱500'에는 포함돼 있지 않다.
콜로서스와 같은 AI용 슈퍼컴퓨터의 성능은 전통적인 슈퍼컴퓨터 성능을 측정하는 데 널리 쓰이는 '린팩 벤치마크' 방식으로는 적절히 비교할 수 없다는 지적이 나온다.
다만 지금 콜로서스의 성능을 이런 방식으로 톱500 목록과 비교한다면 10위 안에는 쉽게 들 것이라는 얘기도 있다.
지난달 기준으로 톱100 중 1위는 미국 로런스 리버모어 국립연구소에 있는 '엘 카피탄'으로, 초당 174경(京)번의 부동소수점 연산을 할 수 있다.
엘 카피탄은 중앙연산장치(CPU) 코어 105만개, GPU 코어 999만개 등 총 1천104만개의 코어를 내장하고 있다.
콜로서스의 확장과 가동에는 엄청난 비용이 들어간다.
엔비디아의 최신세대 GPU의 개당 가격이 수천만 원에 이르는 점을 감안하면, GPU 구입 비용으로만 수십조 원이 들어갈 수도 있다.
게다가 엄청나게 큰 서버들이 들어갈 건물, 전력공급, 냉각 등으로 비용이 추가된다.
영국 일간 파이낸셜타임스(FT)는 xAI의 기업가치가 450억 달러(64조 원)로 평가되며 투자자들로부터 최근 약 50억 달러(8조 원)의 자본금 투자를 받았다고 전했다.
미국 일간 월스트리트저널(WSJ)은 xAI가 500억 달러(71조 원) 규모의 추가 투자를 받으려고 하고 있다고 지난달 보도했다.
주요 AI 기업들은 대규모 컴퓨팅 성능을 확보하기 위해 최근 수년간 천문학적 투자를 받아 시설과 장비를 확충해왔다.
'챗GPT'를 개발한 오픈AI는 마이크로소프트와 140억 달러(20조 원) 규모의 파트너십을 맺고 있다.
'클로드' 챗봇을 개발한 앤스로픽은 아마존으로부터 80억 달러(11조 원)의 투자를 받았으며, 곧 특화 AI칩 10만여개로 구성된 새로운 클러스터를 사용할 수 있게 된다.
xAI가 콜로서스로 가동하는 '그록'은 AI 챗봇 분야에서 후발주자다.
주요 경쟁 상대는 챗GPT, 클로드, 퍼플렉시티, 구글 '제미나이', 마이크로소프트 '코파일럿', 메타 AI, 아크서치 등이다.
(서울=연합뉴스) 임화섭 기자 solatido@yna.co.kr
NVIDIA Ethernet Networking Accelerates World’s Largest AI Supercomputer, Built by xAI
https://nvidianews.nvidia.com/news/spectrum-x-ethernet-networking-xai-colossus
kcontents
