세계 미래의 설계자들, 초지능 AI에 행복한 미소....반이상향에 대항 World Builders Put Happy Face On Superintelligent AI
AI 세계 구축 대회
생명의 미래 연구소의 콘테스트는 오늘날의 디스토피아적 운명에 맞선다.
*디스토피아적=반이상향 : 과정이 생략된 합리적이지 못한 계획
초지능적 AI로 팀들에게 긍정적인 미래를 상상하게 한 세계 구축 대회에서 가장 큰 도전 중 하나는, 그것을 그럴듯하게 만들라는 것이다.
인류에 대한 실존적 위협에 초점을 맞추고 있는 비영리 단체인 미래 생명 연구소는 이 대회를 조직했고 여러 명의 수상자들에게 나누어질 최대 14만 달러의 거액의 상금을 제공하고 있다. 지난 주 FLI는 144개의 출품작 중 20개의 결승전 진출자를 발표했으며, 6월 15일에 수상자를 발표할 예정이다.
"우리는 유토피아를 밀어붙이려 하지 않습니다. 우리는 단지 디스토피아적이지 않은 미래를 보여주려 할 뿐이므로, 사람들은 무언가 노력해야 할 것이 있다."
—안나 옐리자로바, 생명의 미래 연구소
이 대회는 인간보다 똑똑해지고, 우리의 통제에서 벗어나 세상을 이래저래 지옥으로 만드는 인공지능의 일반적인 디스토피아적 이야기에 대항하는 것이 목적이다. 철학자 닉 보스트롬은 공장 AI가 목표를 달성하기 위해 세계의 모든 문제를 종이 클립으로 바꾸는 것을 상상한 것으로 유명하며, 컴퓨터 과학자 스튜어트 러셀과 같은 현장의 많은 존경 받는 사람들은 초지능이 달성되기 전에 AI 안전에 대한 연구를 지금 시작하는 것이 필수적이라고 주장해왔다. 공상과학 소설, TV 쇼 및 AI가 장악하고 있는 어두운 이야기(블레이드 러너, 웨스트 월드, 터미네이터, 매트릭스(원래 레시피와 부활 모두)를 덧붙이면 대중이 이 기술에 대해 경계심을 느끼는 것은 당연하다.
FLI에서 콘테스트와 다른 프로젝트들을 관리하고 있는 안나 옐리자로바는 미디어에서 디스토피아의 이미지들에 의해 폭격을 받는 것을 느끼며, 그것이 "사회로서 우리의 세계관에 어떤 영향을 미치는지" 궁금하게 만든다고 말한다. 그녀는 그 대회를 부분적으로 미래에 대한 희망적인 비전을 제공하는 방법으로 본다. "우리는 유토피아를 밀어붙이려고 하는 것이 아닙니다"라고 그녀는 말하면서, 이 대회를 위해 지어진 세계가 갈등이나 투쟁을 전혀 하지 않는 완벽한 장소가 아니라고 언급했다. "우리는 단지 디스토피아적이지 않은 미래를 보여주기 위해 노력하고 있습니다. 그래서 사람들은 노력해야 할 무언가가 있습니다"라고 그녀는 말한다.
이 콘테스트는 참가한 팀들에게 많은 것을 요청했다. 그들은 지금부터 2045년까지 인공지능(AGI)의 발명, 두 개의 "일상 속의" 단편 소설, 질문 목록에 대한 대답, 그리고 그들이 상상한 세계를 반영하는 미디어 작품을 포함한 사건들의 타임라인을 제공해야 했다.
옐리자로바는 이 대회의 또 다른 동기는 사람들이 어떤 종류의 아이디어를 생각해 내는지 보기 위해서였다고 말한다. 그녀는 AGI와 함께 희망찬 미래를 상상하는 것은 디스토피아적인 것을 상상하는 것보다 본질적으로 더 어렵다고 지적한다. 왜냐하면 그것은 인류가 직면한 가장 큰 도전 중 몇 가지에 대한 해결책을 생각해 내야 하기 때문이다. 예를 들어, 어떻게 하면 세계 정부가 AGI를 책임감 있게 배치하기 위해 협력하고 그것의 개발을 군비경쟁으로 취급하지 않을 수 있을까요? 어떻게 인간의 목표와 일치하는 AGI 에이전트를 만들 수 있을까? 옐리자로바는 "만약 사람들이 새로운 제도나 새로운 문제 해결 방법을 제안한다면, 그것들은 현실 세계에서 우리가 추구할 수 있는 실질적인 정책 노력이 될 수 있다"고 말했다.
"AI와의 진정으로 긍정적인 변화 관계를 위해서는 인류가 더 나아지도록 우리를 도와야 합니다. 그리고 그런 세상이 가능할지도 모른다는 생각은 제가 싸우고 싶은 미래입니다."
—삶의 미래 연구소의 세계 구축 콘테스트 최종 후보인 레베카 래플
황기철 콘페이퍼 에디터 인플루언서
Ki Chul Hwang Conpaper editor influencer
(Source:
https://spectrum.ieee.org/superintelligence-future-life-institute-contest)
- 엔비디아-에이수스, 세계 최초 500Hz G-⋯
- 다이슨이 청소기만 만든다고?...천만에⋯
- 부정투개표 선관위가 황교안 고발?...지⋯
- 우주에서 온 금펜 2[박종진]
- 롯데건설, MZ세대 20개 직무 모집 ㅣ 일⋯
kcontents
