광 인터포저, 2025년부터 AI 속도 향상 시작 Optical Interposers Could Start Speeding Up AI in 2025
광섬유 케이블은 고성능 컴퓨터의 프로세서에 점점 더 가까이 다가가고 있으며, 구리 연결을 유리로 대체하고 있습니다. 기술 회사는 서버 외부에서 마더보드로 광 연결을 옮긴 다음 프로세서 옆에 끼어넣어 AI를 가속화하고 에너지 비용을 낮추기를 바라고 있습니다. 이제 기술 회사는 프로세서의 잠재력을 배가하기 위한 탐구에서 연결을 그 아래로 밀어넣는 방식으로 한 단계 더 나아갈 준비가 되었습니다
Lightmatter 가 취한 접근 방식은 프로세서 간뿐만 아니라 프로세서의 일부 간에도 광속 연결을 만들도록 구성된 인터포저 로 선두를 달리고 있다고 주장합니다 . 이 기술의 지지자들은 복잡한 컴퓨팅에서 사용되는 전력량을 크게 줄일 수 있는 잠재력이 있다고 주장하는데, 이는 오늘날의 AI 기술이 발전하는 데 필수적인 요건입니다.
Lightmatter의 혁신은 투자자들의 관심을 끌었고 , 투자자들은 이 기술에서 충분한 잠재력을 발견하여 회사를 위해 8억 5천만 달러를 모금하고, 경쟁사보다 훨씬 앞서서 44억 달러의 멀티유니콘 기업 가치를 달성했습니다. 이제 Lightmatter는 Passage라는 기술을 실행할 준비가 되었습니다. 이 회사는 2025년 말까지 리드 고객 시스템에 이 기술의 생산 버전을 설치하고 실행할 계획입니다.
Passage는 광학 상호 연결 시스템으로, 무어의 법칙의 한계를 넘어 고성능 프로세서의 계산 속도를 높이는 데 중요한 단계가 될 수 있습니다. CEO Nick Harris에 따르면, 이 기술은 개별 프로세서가 리소스를 모아 인공 지능 에 필요한 거대한 계산을 동기화하여 수행할 수 있는 미래를 예고합니다 .
그는 "앞으로 컴퓨팅의 발전은 여러 개의 칩을 서로 연결하는 데서 시작될 것"이라고 말했습니다.
광 인터포저
기본적으로 Passage는 인터포저, 즉 유리나 실리콘 조각으로, 칩렛 이라고도 불리는 작은 실리콘 다이가 동일한 패키지 내에서 부착되고 상호 연결됩니다. 요즘 많은 최고 서버 CPU와 GPU는 인터포저에 여러 개의 실리콘 다이로 구성되어 있습니다. 이 방식을 사용하면 설계자는 다양한 제조 기술로 만든 다이를 연결하고 단일 칩으로 가능한 것 이상으로 처리 및 메모리 양을 늘릴 수 있습니다.
오늘날 인터포저의 칩렛을 연결하는 상호 연결은 엄격히 전기적입니다. 이들은 예를 들어 마더보드의 것과 비교하면 고속 저에너지 링크입니다. 하지만 유리 섬유를 통한 임피던스 없는 광자 흐름과는 비교할 수 없습니다.
Passage는 표면 바로 아래에 얇은 이산화규소 층이 있는 300mm 두께의 실리콘 웨이퍼에서 절단됩니다. 다중 대역 외부 레이저 칩이 Passage가 사용하는 빛을 제공합니다. 인터포저에는 시리얼라이저/디시리얼라이저 또는 SerDes라고 하는 칩의 표준 I/O 시스템에서 전기 신호를 수신할 수 있는 기술이 포함되어 있습니다. 따라서 Passage는 기본 실리콘 프로세서 칩과 호환되며 칩에 대한 기본적인 설계 변경이 필요하지 않습니다.
SerDes에서 신호는 마이크로링 공진기 라고 하는 일련의 트랜시버로 이동하는데 , 이 트랜시버는 다양한 파장의 레이저 광선에 비트를 인코딩합니다. 그 다음, 멀티플렉서는 광 파장을 광 회로에 결합하고, 여기서 데이터는 간섭계와 더 많은 링 공진기를 통해 라우팅됩니다.
광 회로 에서 데이터는 칩 패키지의 반대쪽에 줄지어 있는 8개의 파이버 어레이 중 하나를 통해 프로세서에서 전송될 수 있습니다. 또는 데이터는 동일한 프로세서의 다른 칩으로 다시 라우팅될 수 있습니다. 어느 목적지에서든 프로세스는 역순으로 실행되며, 여기서 빛은 디멀티플렉싱되어 광 검출기와 트랜스임피던스 증폭기를 사용하여 전기로 다시 변환됩니다.
해리스는 통로를 활용하면 데이터 센터가 1/6에서 1/20까지 많은 에너지를 사용할 수 있다고 주장합니다.
프로세서 내의 모든 칩렛을 직접 연결하면 일반적인 전기적 배열(종종 다이 주변에 국한되는)과 비교했을 때 대기 시간이 없어지고 에너지가 절약됩니다.
프로세서와 빛을 연결하려는 경쟁에서 Passage가 다른 진입자와 다른 점은 바로 이 부분입니다. Ayar Labs 와 Avicena 와 같은 Lightmatter의 경쟁사는 프로세서의 메인 다이 옆의 제한된 공간에 놓이도록 설계된 광학 I/O 칩렛을 생산합니다. Harris는 이 접근 방식을 "2.5세대" 광학 상호 연결이라고 부르며, 마더보드의 프로세서 패키지 외부에 있는 상호 연결보다 한 단계 더 높습니다.
광학의 장점
광자 상호연결의 장점은 전기에 내재된 한계를 제거하는 데서 나옵니다. 전기는 데이터를 더 멀리 이동시켜야 할수록 더 많은 에너지를 소모합니다.
광자 상호연결 스타트업은 미래 시스템이 인공지능의 다가올 계산적 수요를 충족하기 위해 이러한 제한이 해소되어야 한다는 전제에 기반을 두고 있습니다. 데이터 센터의 여러 프로세서가 동시에 작업을 수행해야 한다고 Harris는 말합니다. 하지만 전기로 여러 미터 떨어진 곳에서 데이터를 이동하는 것은 "물리적으로 불가능"할 것이고, 또한 엄청나게 비쌀 것이라고 그는 덧붙입니다.
해리스는 "데이터 센터가 지어진 목적에 비해 전력 요구 사항이 너무 높아지고 있습니다."라고 계속 말했습니다. 그는 Passage가 데이터 센터가 1/6에서 1/20 사이의 에너지를 사용할 수 있게 할 수 있으며, 데이터 센터의 규모가 커질수록 효율성이 높아진다고 주장합니다. 그러나 광자 상호 연결 로 인해 가능한 에너지 절감으로 인해 데이터 센터가 전체적으로 전력을 덜 사용하게 되지는 않을 것이라고 그는 말합니다. 에너지 사용을 줄이는 대신 더 많은 요구가 있는 작업에만 동일한 양의 전력을 소비할 가능성이 더 큽니다.
AI가 광 상호 연결을 구동합니다
Lightmatter의 금고는 10월에 4억 달러 규모의 시리즈 D 펀드 모금 라운드로 증가했습니다. 최적화된 프로세서 네트워킹에 대한 투자는 "불가피한" 추세의 일부라고 TechInsights 의 분석가인 James Sanders는 말합니다 .
2023년에 출하된 서버의 10%가 가속되었습니다. 즉, CPU와 GPU 또는 기타 AI 가속 IC가 페어링되어 있습니다. 이러한 가속기는 Passage가 페어링하도록 설계된 것과 동일합니다. TechInsights는 2029년까지 출하된 서버의 3분의 1이 가속될 것으로 예상합니다. 광자 상호 연결에 투자되는 돈은 AI에서 수익을 올리는 데 필요한 가속기라는 것을 확신하는 것입니다.
Optical Interposers Could Start Speeding Up AI in 2025
https://spectrum.ieee.org/optical-interposers
kcontents
