스티븐 호킹 “인공지능 무기 개발 법으로 금지해야 The Artificial Intelligence AK-47: A cheap, replicable autonomous weapon is inevitable
호킹·머스크·워즈니악 등 1000명 서한 공개
‘터미네이터’ 같은 AI 무기 막아야
영화 ‘터미네이터: 제니시스’에 등장하는 터미네이터 T-3000. 인간보다 뛰어난 초지능을 보유하고 인간을 위협
한다. - 롯데엔터테인먼트 제공
edited by kcontents
케이콘텐츠 편집
“인공지능(Artificial Intelligence·AI) 기술로 만든 무기는 미래의 ‘칼라시니코프(러시아제 소총 AK47)’가 될 것입니다. 인간의 통제를 벗어난 AI 무기 개발을 법으로 금지해야 합니다.”
세계적 천체물리학자인 스티븐 호킹 박사, 전기차업체 테슬라의 최고경영자(CEO)이자 민간 우주선회사 스페이스X의 최고기술책임자(CTO)인 일론 머스크, 애플의 공동창업자인 스티브 워즈니악 등 세계적인 석학과 기업가 1000여 명의 서명이 담긴 서한이 27일(현지 시간) 공개됐다.
서한은 이들의 연구 모임인 ‘삶의 미래 연구소(Future of Life Institute·FLI)’ 홈페이지를 통해 발표됐으며 1000여 명의 명단도 함께 공개됐다.
이들은 서한에서 ‘AI 자동화 무기’ 개발을 금지하자고 했다. 아직 존재하지 않는 AI 자동화 무기는 공격 대상만 미리 설정해 놓으면 기준에 맞춰 목표를 공격하는 무기로 인간의 개입 없이 알아서 작동한다. 이들은 AI 자동화 무기 개발이 핵무기 개발과 같은 ‘군비 경쟁’으로 이어질 수 있다고 우려했다. 주요 군사 강국들이 AI 무기 개발에 뛰어든다면 세계적인 군비 경쟁은 불가피하다는 것이다.
특히 AI 무기는 핵무기보다 개발하기 쉽다는 점도 문제로 지적됐다. AI 무기는 핵무기와 달리 원재료를 구하기가 어렵지 않고 개발비도 핵무기만큼 많이 들지 않기 때문에 대량생산될 경우 세계적으로 쉽게 이용될 수 있다는 것이다. 이들은 “AI 무기가 암시장을 통해 테러리스트와 독재자의 손에 들어간다면 ‘인종 청소’ 등에 이용될 수 있다”고 염려했다.
AI 무기 개발자들을 향해 “대부분의 화학자와 생물학자들이 화학무기나 생물학무기 개발에 관심이 없듯 대다수의 AI 연구자도 AI 무기 개발에 관심이 없다”고 일침을 가했다. 또 화학자와 생물학자들이 화학·생물 무기금지협약을 지지하고, 물리학자들이 핵무기와 레이저 무기 개발 금지를 지지하는 것처럼 AI 연구자들도 AI 무기 개발 금지에 동참할 것을 촉구했다.
호킹 박사와 머스크 회장은 이번 서한 발표 이전에도 수차례 AI 무기 개발과 관련해 경고의 메시지를 보냈다. 호킹 박사는 지난해 영국 BBC방송과의 인터뷰에서 “AI 발전이 인류 종말을 부를 수도 있다”고 밝혔다. 머스크 회장 역시 “AI 기술이 인류에게 중대한 위협을 줄 수 있다”고 밝힌 바 있다. 동아사이언스 신선미 기자 vamie@donga.com |
The Artificial Intelligence AK-47: A cheap, replicable autonomous weapon is inevitable
by Mic Wright
“The endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow. The key question for humanity today is whether to start a global AI arms race or to prevent it from starting.”
– Autonomous Weapons: An Open Letter from AI & Robotics Researchers
The Kalashnikov aka the AK-47 is the design classic we don’t talk about that much. It’s the mechanical instrument of murder that has outlived every other ‘gadget’ of its generation. Those who do bring it up as an incredible and awful achievement usually do so to be polemical, but it’s true.
Elon Musk, Professor Stephen Hawking and the 1,000 other AI researchers who signed today’s warning about autonomous weapons are right – grafting AI onto the tools of warfare will produce the AK-47 of the future, an endlessly replicable, increasingly cheaper means of murder. And somewhere out there, today’s equivalent of Mikhail Kalashnikov is already working on it.
A Type 2 AK-47, the first machined receiver variationExperiments with recurrent neural networks and other AI structures are already throwing up incredible results. Companies including Google and Facebook are pumping huge amounts of resources into the research. Intelligence agencies and the military are doing the same. Take it another step and it’s not inconceivable that outright bad actors are exploring those ideas too.
Phillip Killicoat in a working paper for the World Bank [pdf link], published in 2007, estimated that of 500 million firearms worldwide in 2004, approximately 100 million were descendants of Kalashnikov’s designs, three-quarters of those being AK-47s. The first easily replicable AI weapon will spread just as widely and be even more devastating.
The AK-47’s strength was born from constraints. Kalashnikov designed a weapon that could be mass-produced using the production methods available to the war-weary Soviet Union of the late-40s.
The weapon’s design – generous clearances between moving parts, a tapered cartridge case – mean it can continue firing long after other weapons would be gummed up by dirt, dust and grime. The tradeoff is that it is less accurate than rivals.
Weaponry, unlike consumer technology, doesn’t always yoke to the principle that products get smaller, cheaper, faster and better over time.
While the AK-47 has remained the practically open-standard for cheap-to-make, cheap-to-acquire semi-automatic rifles, expensive projects pushed by militaries across the world have failed to match it. The British Army spent over £480 million ($308 million) and 30 years developing its current standard issue rifle, the SA80. Soldiers despise it. It’s unreliable, works poorly in desert conditions and is fragile compared to the Kalashnikov.
Massive bureaucracy and military might may not create the AI weapon that will become the future AK-47. Computing power continues to get cheaper and the ideas around artificial intelligence continue to spread.
edited by kcontents
"from past to future"
데일리건설뉴스 construction news
콘페이퍼 conpaper
.
