AI 에너지 사용량을 줄이기 위해 설계된 하이브리드 메모리칩 Hybrid Memory Designed to Cut AI Energy Use
법안 자금 지원으로 고밀도, 고속 하이브리드 게인 셀 메모리 연구 촉진
메모리 음주 임베디드 DRAM 산화물 반도체
DRAM의 밀도와 SRAM의 속도를 결합한 하이브리드 유형의 메모리에 대한 연구는 CHIPS 및 Science Act 자금 지원으로 힘을 얻고 있습니다. 하이브리드 게인 셀 메모리 연구는 9월 말 발표에 따르면 미국 국방부로부터 1,630만 달러 를 지원받고 있는 California-Pacific-Northwest AI Hardware Hub 내의 프로젝트 중 하나입니다.
이 그룹은 AI를 위한 보다 에너지 효율적인 하드웨어 개발에 집중하고 있으며, 메모리는 그 목표의 핵심이라고 허브의 의장인 스탠포드 대학교 전기 엔지니어 H.-S. 필립 웡은 말합니다 . 로직과 메모리 간에 데이터를 앞뒤로 이동하면 GPU 속도가 느려지고 AI 에너지 소비의 주요 원인이 됩니다. 칩에 더 빠르고 밀도가 높은 메모리를 추가하면 이러한 제약을 완화하는 데 도움이 되지만 옵션은 제한적입니다. 웡은 "디자이너가 속도나 에너지 절감을 원하든 더 나은 최적화를 할 수 있도록 더 나은 옵션을 제공하고 싶습니다."라고 말합니다.
Wong의 팀은 SRAM과 DRAM의 장점을 결합한 대체 메모리 설계를 개발하고 있습니다. DRAM은 트랜지스터 하나 와 커패시터 하나로 구성되어 비교적 작은 면적에 많은 데이터를 저장할 수 있지만, 그 데이터를 읽는 것은 비교적 느립니다. SRAM은 더 빨리 읽을 수 있지만, 셀은 비교적 크고 여러 개의 트랜지스터로 구성되어 있습니다. Stanford 팀의 게인 셀 메모리는 DRAM의 작은 면적과 SRAM과 거의 비슷한 속도를 결합합니다.
DRAM과 SRAM의 장점을 결합
이득 셀은 DRAM과 비슷하지만, 커패시터 대신 두 번째 트랜지스터를 사용하여 데이터를 저장합니다. 이 데이터는 두 번째 트랜지스터의 게이트에 전하 형태로 저장되는데, 이는 트랜지스터를 통한 전류 흐름을 제어하는 용량성 구조입니다. 일반 DRAM의 커패시터는 시간이 지남에 따라 전하를 누출하고 데이터를 읽으면 파괴됩니다. 이득 셀에서 신호를 읽는 것은 비파괴적입니다. 사실, 읽기 트랜지스터는 읽을 때 저장 트랜지스터에 신호 부스트를 제공합니다. 즉, 이득을 제공합니다. DRAM에서 "정보를 읽을 때마다 정보를 파괴합니다." 스탠포드 전기 공학 박사 과정생인 슈한 류가 말합니다 . "이득 셀은 추가 읽기 트랜지스터를 추가하기 때문에 더 좋습니다. 전하를 읽는 것이 아니라 증폭된 신호를 읽는 것입니다."
그러나 게인 셀은 고유한 한계가 있습니다. 두 트랜지스터가 모두 실리콘인 경우 데이터가 비교적 빠르게 누출됩니다. 두 트랜지스터가 모두 산화물 반도체로 만들어지면 판독이 느립니다.
Liu와 Wong은 실리콘 읽기 트랜지스터와 인듐 주석 산화물 쓰기 트랜지스터를 결합하여 더 나은 성능의 하이브리드 이득 셀 메모리를 만들어 이러한 한계를 극복했습니다. 그 결과 장치는 5000초 이상 비트를 유지했습니다. 일반 DRAM은 64밀리초마다 새로 고침해야 하며 비슷한 산화물-산화물 이득 셀보다 약 50배 더 빠릅니다. 이 그룹은 처음에 6월에 열린 IEEE VLSI 기술 및 회로 심포지엄 에서 결과를 발표했습니다 .
조지아 공대의 전기 엔지니어인 Shimeng Yu는 실리콘과 산화물 기반 트랜지스터의 조합은 "셀 풋프린트를 줄이고 산화물 트랜지스터는 누설 전류가 낮습니다."라고 말합니다 . 그는 이렇게 하면 하이브리드 메모리의 데이터 보존 시간이 실리콘-실리콘 이득 셀에 비해 몇 배나 향상된다고 말합니다.
Wong은 이러한 하이브리드 메모리 셀이 로직 칩에 통합될 수 있다고 말합니다. 그는 "컴퓨터를 재구성할 수 있는 기회입니다."라고 말합니다. 이러한 종류의 디자인은 메모리가 사용되는 방식을 바꿀 수 있습니다. 플래시, DRAM, SRAM에만 액세스할 수 있는 것을 넘어서는 것은 "3단 변속 자전거에서 20단 변속 자전거로 가는 것과 같습니다."라고 그는 말합니다.
Hybrid Memory Designed to Cut AI Energy Use
https://spectrum.ieee.org/embedded-dram
kcontents
