*삼성전자, 지능형 메모리 반도체(HBM-PIM) 세계 최초 성공 VIDEO: Samsung Develops Industry’s First High Bandwidth Memory with AI Processing Power

삼성전자, 세계 최초 지능형 메모리 반도체 개발 성공

인공지능 HBM-PIM 제품화…메모리 반도체에 AI 연산 기능 탑재

기존 제품 대비 성능 2배 향상…ISSCC에서 논문 공개

  삼성전자가 세계 최초로 기존 메모리 반도체의 패러다임을 바꾸는 지능형 메모리 반도체 기술을 개발했다.

데이터 저장 공간으로만 여겼던 메모리 반도체에 인공지능(AI) 엔진을 탑재해 메모리가 저장뿐만 아니라 일부 연산까지 가능하게 한 기술이다.

Samsung Global Newsroom

Samsung Develops Industry’s First High Bandwidth Memory

with AI Processing Power

The new architecture will deliver over twice the system performance

and reduce energy consumption by more than 70%

Samsung Electronics, the world leader in advanced memory technology, today announced that it has developed the industry’s first High Bandwidth Memory (HBM) integrated with artificial intelligence (AI) processing power — the HBM-PIM. The new processing-in-memory (PIM) architecture brings powerful AI computing capabilities inside high-performance memory, to accelerate large-scale processing in data centers, high performance computing (HPC) systems and AI-enabled mobile applications.

Kwangil Park, senior vice president of Memory Product Planning at Samsung Electronics stated, “Our groundbreaking HBM-PIM is the industry’s first programmable PIM solution tailored for diverse AI-driven workloads such as HPC, training and inference. We plan to build upon this breakthrough by further collaborating with AI solution providers for even more advanced PIM-powered applications.”

Rick Stevens, Argonne’s Associate Laboratory Director for Computing, Environment and Life Sciences commented, “I’m delighted to see that Samsung is addressing the memory bandwidth/power challenges for HPC and AI computing. HBM-PIM design has demonstrated impressive performance and power gains on important classes of AI applications, so we look forward to working together to evaluate its performance on additional problems of interest to Argonne National Laboratory.”

View full text

https://news.samsung.com/global/samsung-develops-industrys-first-high-bandwidth-memory-with-ai-processing-power

---

via youtube

edited by kcontents

 

삼성전자는 세계 최초로 메모리 반도체와 인공지능 프로세서를 하나로 결합한 HBM-PIM(Processing-in-Memory) 제품을 개발했다고 17일 밝혔다.

PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 차세대 신개념 융합기술을 말한다.

삼성전자는 PIM 기술을 활용해 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용되는 HBM2(High Bandwidth Memory) 아쿠아볼트(Aquabolt)에 인공지능 엔진을 탑재한 HBM-PIM을 개발했다.

HBM2 아쿠아볼트는 2018년 1월 삼성전자가 양산한 2세대 고대역폭 메모리 반도체다.

삼성전자에 따르면 AI 시스템에 HBM-PIM을 탑재할 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고, 시스템 에너지는 70% 이상 감소된다.

또한 기존 HBM 인터페이스를 그대로 지원해 HBM을 이용하는 고객들은 하드웨어나 소프트웨어의 변경 없이 HBM-PIM을 사용해 강력한 AI 가속기(인공지능을 실행하기 위한 전용 하드웨어) 시스템을 구축할 수 있다.

최근 인공지능의 응용 영역이 확대되고 기술이 고도화되면서 고성능 메모리에 대한 요구가 지속적으로 커져 왔으나 기존의 메모리로는 '폰 노이만' 구조의 한계를 극복하기 어려웠다.

폰 노이만 구조는 대부분의 컴퓨터에서 사용하는 방식으로 중앙처리장치(CPU)가 메모리로부터 명령어를 불러오고 실행하며 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행한다.

이 과정에서 CPU와 메모리간 주고받는 데이터가 많아지면 작업처리가 지연되는 현상이 생긴다.

삼성전자는 이를 극복하기 위해 메모리 내부의 각 뱅크(주기억장치를 구성할 때의 최소 논리적 단위)에 인공지능 엔진을 장착하고 병렬처리를 극대화해 성능을 높였다.

또한 HBM-PIM은 메모리 내부에서 연산 처리가 가능해 CPU와 메모리간 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있다.

 

삼성전자는 이 기술을 D램 공정에 접목해 HBM-PIM을 제품화하는데 성공했으며, 최근 반도체 분야 세계 최고권위 학회인 ISSCC에서 관련 논문을 공개했다.

삼성전자 메모리 사업부 상품기획팀장 박광일 전무는 "HBM-PIM은 AI 가속기의 성능을 극대화할 수 있는 업계 최초의 인공지능 맞춤형 PIM 솔루션"이라며 "삼성전자는 고객사들과 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것"이라고 밝혔다.

삼성전자는 상반기내 다양한 고객사들의 AI 가속기에서 HBM-PIM을 탑재해 테스트 검증을 완료할 예정이다.

삼성전자 관계자는 "HBM-PIM은 일단 AI 가속기에 채택될 것으로 보이며 추후 기술 개발을 통해 스마트폰 등 일반 제품으로 적용이 확대될 수 있을 것"이라고 말했다.

연합뉴스 /동아사이언스

http://dongascience.donga.com/news.php?idx=44007

HBM Flashbolt (HBM2E): Reaching new heights in supercomputing | Samsung

kcontents