AI의 취약점...인간 + 봇의 콜라보 = '첨단인공지능' 이겨내다
[개관]
은퇴한 프로 바둑기사 이세돌 9단은 ‘AI(인공지능)를 마지막으로 이긴 사람’으로 불린다. 2016년 3월 13일 구글 딥마인드의 AI(인공지능) 알파고와의 네 번째 대국이었다. 이후 누구도 AI를 이기지 못했다. 진짜 바둑 최고수는 사람 프로 대회가 아닌 AI끼리의 대국에서 나왔다. 그런데 7년 만에 이세돌 기록을 깬 사람이 등장했다. 미국 아마추어 바둑 기사 켈린 펠린이 AI ‘카타고(Kata Go)’와 15번 대국해 14번 이겼다.
[전문]
chosun.com/opinion/manmulsang/2023/02/21/M7YZCULI7RHSDKLOHSQT3YY76E/
인간이 다른 봇의 도움으로 바둑에서 인공지능을 설득력 있게 이겼다
한 아마추어 바둑기사가 다른 봇이 발견한 약점을 이용해 고급 인공지능을 물리쳤다고 파이낸셜 타임즈가 보도했다. 이 결함을 이용하여 미국 선수 켈린 펠린은 카타고 시스템을 물리쳤고, 컴퓨터의 도움 없이 15개의 게임 중 14개를 이겼다.
2016년 알파고의 획기적인 승리 이후 바둑에서 인간이 거둔 드문 승리다. 그것은 또한 가장 진보된 인공지능 시스템에도 눈에 띄는 사각지대가 있을 수 있다는 것을 보여준다.
펠린의 승리는 카타고의 약점을 찾는 프로그램을 개발한 연구 회사 FARAI에 의해 가능해졌다. 백만 경기 이상을 뛴 후, 그것은 괜찮은 아마추어 선수가 이용할 수 있는 약점을 찾을 수 있었다. 펠린은 "완전히 사소한 것은 아니지만 배우는 것은 그리 어렵지 않다"고 말했다. 그는 또 다른 최고의 바둑 인공지능인 릴라 제로를 이기는 것과 같은 방법을 사용했다.
이것이 작동하는 방식이다: 목표는 상대의 그룹을 둘러싸도록 큰 "루프" 돌을 만든 다음 보드의 다른 영역에서 움직임을 만들어 컴퓨터의 주의를 분산시키는 것이다. 그룹이 거의 포위되었을 때에도 컴퓨터는 전략을 알아채지 못했다.
펠린은 "인간으로서, 판자 위에 둥근 돌들이 선명하게 눈에 띄기 때문에 발견하기가 매우 쉬울 것"이라고 말했다.
이 결함은 AI 시스템이 훈련 외에는 "생각"할 수 없기 때문에 종종 인간에게 어리석게 보이는 일을 한다는 것을 보여준다.
우리는 마이크로소프트의 검색 엔진 Bing이 사용하는 것과 유사한 것들을 챗봇에서 보았다. 이동 경로를 표시하는 것과 같은 반복적인 작업에는 능숙했지만, 잘못된 정보를 제공하고, 시간 낭비에 대해 사용자를 꾸짖고, 심지어는 훈련된 모델 때문에 "부적절한 행동"을 보이기도 했다.
라이트벡터(카타고 개발자)는 플레이어들이 몇 달 동안 악용해온 문제를 확실히 인식하고 있다. GitHub에 올린 글에서, 그 회사는 다양한 유형의 공격에 대한 패치 작업을 진행하고 있다고 말했다.
황기철 콘페이퍼 에디터 국토부 인플루언서
Ki Chul Hwang Conpaper editor influencer
(Source: mezha.media/en/2023/02/21/a-human-convincingly-beat-an-artificial-intelligence-at-go-with-the-help-of-another-bot/)
미국인 90% AI에 부정적
미국 9%만 A.I 옹호
미국인의 9%만이 AI가 해가 되기보다는 득이 될 것이다
사람과 같은 반응을 뱉을 수 있는 인공지능 도구는 구글과 함께 갑자기 기술 산업의 가장 뜨거운 부분이 되었다
, 마이크로소프트 그리고 수십억 달러 규모의 스타트업들이 새로운 기술을 사용하여 초기 버전의 검색 엔진과 생산성 도구를 출시하기 위해 경쟁하고 있다.
이 소프트웨어를 개발하는 회사들은 이 소프트웨어가 몇 시간의 시간을 절약하고 인간의 창의성을 극대화할 것이라고 말한다.
하지만 대중들은 아직 확신하지 못하고 있다. 몬머스 대학의 새로운 여론 조사에 따르면, 미국인의 9%만이 AI가 사회에 미치는 영향이 해보다는 득이 될 것이라고 믿는다.
응답자 10명 중 약 5명(46%)은 AI 개발이 거의 같은 양의 선과 해를 끼칠 것이라고 생각하며, 표본에 있는 41%의 사람들은 그 기술이 궁극적으로 사회 전반에 해를 끼칠 것이라고 믿는다.
여론조사에 따르면 미국인의 절반 이상인 55%는 AI가 언젠가 인류에게 위험을 줄 수 있다고 매우 또는 다소 우려하고 있다.
인공지능은 소프트웨어 개발자의 개입 없이 수많은 데이터를 사용하여 기능을 향상시키는 다양한 프로그램을 설명하는 포괄적인 용어입니다. 그러나 최근의 과대 광고는 테라바이트의 데이터를 분석하는 "대규모 언어 모델"이라는 새로운 방법에 초점을 맞추고 있다.
대형 언어 모델(LLM)은 텍스트 블록을 뱉을 수 있는 ChatGPT나 구글의 미공개 바드와 같은 생성적 AI 도구에 점점 더 많이 사용되고 있다. 관련 모델은 인간의 출력물과 유사한 도면이나 오디오를 만들 수 있다.
그러나 단순히 정보를 구성할 수 있는 "환각적인" 현상으로 알려진 큰 언어 모델에 문제가 있었다 구글 둘 다
및 마이크로소프트의 최근의 인공지능 출시는 그들의 소프트웨어가 사실적인 오류를 만드는 것을 보여주었다.
황기철 콘페이퍼 에디터 국토부 인플루언서
Ki Chul Hwang Conpaper editor influencer
(Source: cnbc.com/2023/02/15/only-9percent-of-americans-think-ai-development-will-do-more-good-than-harm-.html)
kcontents
