AI의 오용이 불러올 재앙에 대한 우려 Civilian AI Is Already Being Misused by the Bad Guys
Construction, Science, IT, Energy and all other issues
Search for useful information through the top search bar on blog!
건설,과학,IT, 에너지 외 국내외 실시간 종합 관심 이슈 발행
[10만이 넘는 풍부한 데이터베이스]
블로그 맨 위 상단 검색창 통해 유용한 정보를 검색해 보세요!
책임 있는 인공지능의 사각지대
AI 만들기 너무 쉬워
악의적인 행위자에 의한 AI 개발
국제 평화와 안보에 심각
민간 AI는 이미 나쁜 사람들에 의해 오용되고 있고 AI 커뮤니티는 그것에 대해 무언가를 해야 한다.
*여기에 표현된 견해는 저자의 견해일 뿐 IEEE 스펙트럼 또는 IEEE의 입장을 나타내지 않는다.
지난 3월, 한 연구팀이 잠재적인 새로운 화학 무기를 발명할 수 있는 인공지능(AI) 도구를 개발했다고 밝혀 화제가 되었다. 또한 놀라운 속도로 이러한 작업을 수행할 수 있습니다. AI 툴이 4만 개를 제안하는 데 걸린 시간은 단 6시간이다.
그러나 이 이야기의 가장 걱정스러운 부분은 그 AI 도구를 개발하는 것이 얼마나 쉬운지였다. 연구원들은 단순히 신약의 독성을 검사하기 위해 일반적으로 사용되는 기계 학습 모델을 적용했다. 신약의 성분이 위험할 수 있는지 예측하기보다는 생성 모델과 독성 데이터 세트를 이용해 새로운 독성 분자를 설계하도록 했다.
그 논문은 AI의 불법 사용을 장려하지 않았다(1997년 화학 무기가 금지되었다). 대신 저자는 악성 국가, 비국가 무장 단체, 범죄 조직 또는 외로운 늑대 등 악의적인 행위자에 의해 AI의 평화적 애플리케이션이 얼마나 쉽게 오용될 수 있는지 보여주고 싶었다.
악의적인 행위자에 의한 AI의 개발은 국제 평화와 안보에 심각하고 충분히 이해되지 않은 위험을 초래한다.
많은 "책임 있는 AI" 이니셔티브는 동일한 사각지대를 공유한다. 그들은 국제 평화와 안보를 무시한다.
생명과학 분야에서 일하는 사람들은 이미 수십 년 동안 군비 통제 전문가들과 과학자들 사이의 참여 덕분에 평화적인 연구의 오용 문제에 잘 적응하고 있다.
우리는 유엔 군축 사무국과 스톡홀름 국제 평화 연구소의 두 단체와 함께 이 문제를 매우 심각하게 생각하고 있다. 우리는 인식 제고 및 역량 강화 활동을 통해 더 넓은 AI 커뮤니티, 특히 미래 세대의 AI 실무자들에게 우리의 메시지를 전달하려고 노력하고 있다.
책임 있는 인공지능의 사각지대
인공지능은 사회와 인간의 삶의 많은 측면을 개선할 수 있지만, 많은 최첨단 기술들처럼, 그것이 어떻게 개발되고 사용되는지에 따라 실질적인 문제를 일으킬 수도 있다. 이러한 문제에는 일자리 감소, 알고리즘 차별 및 기타 많은 가능성이 포함된다. 지난 10년 동안 AI 커뮤니티는 더욱 책임감 있는 혁신의 필요성을 점점 더 인식하게 되었다. 오늘날, AI 실무자에게 윤리적인 지침을 제공하고 업무에서 발생할 수 있는 부정적인 영향을 예측하고 완화하는 것을 돕는 것을 목표로 하는 "책임 있는 AI" 이니셔티브가 부족하지 않는다.
문제는 이러한 이니셔티브의 대다수가 동일한 사각지대를 공유한다는 것이다. 그들은 AI가 의료, 교육, 이동성, 고용 및 형사 정의와 같은 분야에 어떻게 영향을 미칠 수 있는지를 다루지만, 그들은 국제 평화와 안전을 무시한다. AI의 평화적 응용이 정치적 허위 정보, 사이버 공격, 테러 또는 군사 작전에 악용될 수 있는 위험은 매우 피상적이지 않은 한 거의 고려되지 않는다.
이는 반드시 채워야 할 책임 있는 AI에 대한 대화의 큰 공백이다.
책임 있는 AI 대화에 참여한 대부분의 행위자들은 순수 민간 목적을 위해 AI에 대해 작업하기 때문에 평화와 안보를 간과하는 것은 놀랄 일이 아닐 것이다. 민간 공간에서는 인권 침해 가능성부터 인공지능의 탄소 발자국 증가까지 이미 걱정해야 할 것이 많다.
황기철 콘페이퍼 에디터 인플루언서
Ki Chul Hwang Conpaper editor influencer
(Source:
https://spectrum.ieee.org/responsible-ai-threat)
kcontents
