수면 단계 거친 인공 신경망... 기억상실증 예방 가능 Sleep Can Keep AI From Catastrophic Forgetting

 

수면은 AI를 치명적인 망각으로부터 보호할 수 있다 

새로운 데이터 재생 전략은 AI 기억상실증을 예방한다.

 

  신경망은 많은 작업에서 초인적인 성능을 달성할 수 있지만, 이러한 AI 시스템은 새로운 기억을 흡수하도록 요청받으면 갑자기 배운 것을 완전히 잊을 수 있다. 이제 새로운 연구는 신경망이 수면과 같은 단계를 거치고 그러한 기억상실증을 예방하는 데 도움이 되는 새로운 방법을 보여준다.

 

 

 

 

인공 신경망이 직면한 주요 과제는 "대멸적 망각"이다. 그들이 새로운 과제를 배울 때, 그들은 이전에 배운 것을 갑자기 완전히 잊어버리는 불행한 경향이 있다. 기본적으로, 그들은 과거의 데이터를 새로운 지식으로 덮어씁니다.

 

대조적으로, 인간의 뇌는 이전에 기억에 전념했던 일을 수행하는 능력을 방해하지 않고 새로운 일을 평생 학습할 수 있다. 이전 연구는 인간의 뇌가 학습 라운드가 수면 기간과 함께 분산될 때 가장 잘 학습한다고 제안한다. 수면은 분명히 최근의 경험들이 장기적인 기억의 풀에 통합되도록 도와준다.

 

"기억의 재구성은 사실 유기체가 수면 단계를 거쳐야 하는 주요한 이유 중 하나일 수 있습니다,"라고 연구 공동 저자인 샌디에이고 캘리포니아 대학의 전산 신경 과학자 에릭 들라노아는 말한다.

 

이전의 연구는 인공지능이 수면의 모습을 연습하게 함으로써 치명적인 망각을 해결하고자 했다. 예를 들어, 신경망이 새로운 작업을 학습할 때, 인터리브 훈련으로 알려진 전략은 기계가 과거에 대한 지식을 보존하는 것을 돕기 위해 이전에 학습한 오래된 데이터를 동시에 제공한다. 이 접근법은 이전에 오래된 기억이 재생되는 동안 뇌가 어떻게 작동하는지를 모방하는 것으로 생각되었다.

 

aimagazine.com

 

 

그러나 과학자들은 인터리브 훈련이 신경망이 새로운 것을 배우기를 원할 때마다 원래 오래된 기술을 배우기 위해 사용한 모든 데이터를 제공해야 한다고 가정했다. 이것은 많은 시간과 데이터를 필요로 할 뿐만 아니라, 실제 뇌가 실제 수면 중에 하는 것처럼 보이지도 않는다. 그들은 오래된 작업을 배우는 데 필요한 모든 데이터를 보관하지도 않고, 잠자는 동안 모든 데이터를 재생할 시간도 없다.

 

황기철 콘페이퍼 에디터 국토부 인플루언서

Ki Chul Hwang Conpaper editor influencer

 

(Source: 

spectrum.ieee.org/catastrophic-forgetting-deep-learning)

 

---

1. 카이스트, 입을 수 있는 OLED로 소아 황달 치료기술 개발​
2. 쥐가오리 영감...부드럽고 빠르게 수영하는 로봇 VIDEO: A butterfly-stroke-like soft robotic swimmer that is fast and efficient
3. 스타워즈 우주선들은 실제로 얼마나 클까 VIDEO: Star Wars Starships Size Comparison 3D
4. 세계에서 가장 치명적인 벌레는? World's deadliest bugs REVEALED: Bacterial infections kill nearly 8MILLION people a year

---

↓↓↓

[데일리 리포트 Daily Report] Nov.23(Wed) 2022 CONPAPER

[데일리 리포트 Daily Report] Nov.23(Wed) 2022 CONPAPER

kcontents