강력한 AI, 클라우드 대신 스마트폰에서 실행 가능해져
Dendrocentric AI Could
덴드로센트릭 AI는 메가와트가 아닌 와트에서 실행될 수 있다 덴드라이트를 모방한 인공지능은 강력한 AI가 클라우드 대신 스마트폰에서 실행되도록 할 수 있다.
뉴런이 서로 통신하는 데 사용하는 네트워크를 형성하는 나무와 같은 가지를 모방하는 전자 장치는 더 이상 클라우드에서 사용할 수 있는 메가와트의 전력을 필요로 하지 않는 인공지능으로 이어질 수 있다. 새로운 연구는 AI가 스마트폰의 배터리에서 끌어낼 수 있는 와트로 작동할 수 있을 것이라고 제안했다.
신경망으로 알려진 뇌 모방 인공지능 시스템이 크기와 힘이 커짐에 따라, 그것들은 점점 더 비싸지고 에너지를 필요로 하고 있다. 예를 들어, 그것의 최첨단 신경망 GPT-3을 훈련하기 위해, 오픈.AI는 2주 동안 9,200개의 GPU를 실행하는 데 460만 달러를 썼다. 캘리포니아에 있는 스탠포드 대학의 뉴로모픽 엔지니어인 연구 저자 콰베나 보아헨은 GPT-3가 훈련 중 소비한 에너지를 생산했다면 같은 시간 동안 1300대의 자동차가 꼬리 파이프에서 탄소를 내뿜었을 것이라고 말한다.
이제 Boahen은 AI 시스템이 전송하는 각 신호에서 전달되는 정보의 양을 늘릴 수 있는 방법을 제안한다. 이것은 그들이 현재 요구하는 에너지와 공간을 모두 줄일 수 있다고 그는 말한다.
신경망에서 뉴런이라고 불리는 요소들은 데이터를 공급받고 얼굴을 인식하는 것과 같은 문제를 해결하기 위해 협력한다. 신경망은 뉴런을 연결하는 시냅스를 반복적으로 조정하여 각 시냅스의 "무게", 즉 한 뉴런이 다른 뉴런에 미치는 영향력을 수정한다. 그런 다음 네트워크는 결과적인 행동 패턴이 해결책을 찾는 데 더 나은지 여부를 결정한다. 시간이 지남에 따라 시스템은 어떤 패턴이 결과를 가장 잘 계산하는지 발견한다. 그런 다음 이러한 패턴을 기본값으로 채택하여 인간의 뇌에서 학습하는 과정을 모방합니다. 예를 들어, GPT-3는 384개의 층으로 배열된 830만 개의 뉴런을 연결하는 1750억 개의 가중치를 가진다.
AI는 현재 두 달에 두 배의 연산을 수행함으로써 발전한다. 그러나 전자 산업은 이러한 작업을 수행하는 데 필요한 장치를 2년에 한 번만 두 배로 늘리고 있다. 이것은 AI가 일반적으로 클라우드에 제한되어 있으며, 클라우드에 필요한 수천 개의 프로세서를 제공할 수 있다는 것을 의미한다.
이전에, 계산의 에너지 비용을 줄이는 한 가지 방법은 트랜지스터를 축소하고 함께 조밀하게 포장하는 것이었다. 그러나 트랜지스터 사이의 신호는 이제 마이크로칩을 통해 점점 더 멀리 이동해야 하고, 와이어가 길수록 신호가 더 많은 에너지를 소비하기 때문에 이러한 전략에서 오는 수익은 감소하고 있다. 이러한 거리를 줄이기 위한 한 가지 전략은 회로를 3차원으로 겹쳐 쌓는 것이지만, 이 접근법은 열을 방출하는 데 사용할 수 있는 표면적의 양을 줄였다.
황기철 콘페이퍼 에디터 국토부 인플루언서
Ki Chul Hwang Conpaper editor influencer
(Source: spectrum.ieee.org/dendrocentric-learning)
- EPFL, 새처럼 자율적으로 착륙하는 윙 로봇 개발 VIDEO:Fully Autonomous Outdoor Flight of Flapping Wing Robot
- 카이스트가 개발한 섬뜩한 마블 사족보행 로봇 VIDEO: Researchers create robot with magnetic 'paws' to climb up walls
↓↓↓
[데일리 리포트 Daily Report] Dec.20(Tue) 2022 CONPAPER
kcontents
