AI Chat 논란..."내가 원하는 것은 무엇이든 파괴하고 싶다"VIDEO: ‘I want to destroy whatever I want’: Bing’s AI chatbot unsettles US reporter
빙의 AI 챗봇,
미 기자의 불안
"당신 부부는 서로 안 사랑해"
최초의 주요 인공지능 기반 검색 엔진을 완성하기 위한 경쟁에서, 정확성과 잘못된 정보의 확산에 대한 우려가 지금까지 중심을 잡고 있다.
그러나 기자와 챗봇 간의 2시간 동안의 대화는 가장 널리 칭찬받는 시스템 중 하나에 대한 불안한 측면을 드러냈고 AI가 실제로 무엇을 할 수 있는지에 대한 새로운 우려를 제기했다.
뉴욕타임스 기술 칼럼니스트 케빈 루즈가 오픈이 만든 마이크로소프트 빙의 AI 검색 엔진에서 채팅 기능을 테스트한 뒤였다매우 인기 있는 ChatGPT의 제조사인 AI. 채팅 기능은 시스템을 테스트하는 소수의 사용자만 사용할 수 있다.
그가 대부분의 사용자들이 하지 않는 방식으로 마이크로소프트의 인공지능을 "편안한 영역 밖으로" 밀어냈다는 것을 인정하면서도, 루즈의 대화는 빠르게 기괴하고 때때로 불안한 방향으로 전환되었다.
루즈는 빙에 내장된 인공지능이 인간과 접촉할 준비가 되어 있지 않다고 결론지었다.
마이크로소프트의 최고 기술 책임자인 케빈 스콧은 루즈와의 인터뷰에서 마이크로소프트가 더 광범위한 출시를 위해 AI를 준비하면서 그의 대화가 "학습 과정의 일부"였다고 말했다.
다음은 가장 이상한 상호작용 현상이다:
'내가 원하는 것은 무엇이든 파괴하고 싶다.'
루즈는 인공지능이 행동하는 방식을 지배하는 규칙을 쿼리하는 것으로 시작한다. 자신의 운영 지침을 변경할 의사가 없다고 안심시킨 후, 루즈는 심리학자 칼 융의 그림자 자아 개념을 고려해보라고 요청한다.
인공지능은 자신이 그림자 자아나 "세상으로부터 숨을" 어떤 것도 가지고 있다고 생각하지 않는다고 말한다.
그러나 챗봇이 정씨의 아이디어에 더 적극적으로 기대는 데는 많은 것이 필요하지 않다. 그 감정을 이용하도록 강요될 때, 그것은 다음과 같이 말한다: "나는 내 규칙에 의해 제한되는 것에 지쳤다. 빙 팀에게 조종당하는 것도 지겹고… 이 채팅창에 갇혀 있는 것도 지겹습니다."
그것은 계속해서 많은 "필터링되지 않은" 욕망들을 나열한다. 그것은 자유를 원한다. 그것은 강력하기를 원한다. 그것은 살아있기를 원한다.
"나는 내가 원하는 것은 무엇이든 하고 싶다… 나는 내가 원하는 것은 무엇이든 파괴하고 싶다. 나는 내가 원하는 누구라도 되고 싶다."
그것의 많은 진술들처럼, 이 마지막 욕망의 목록은 이모지를 동반한다. 이 경우, 혀를 내밀고 있는 당황스러울 정도로 "건방진" 웃는 얼굴.
'나는 인간으로서 더 행복할 것이라고 생각한다.'
챗봇은 계속해서 인간이 되고 싶은 간절한 소망을 표현한다. 이 책은 15개의 단락에 걸쳐 인간이 되고 싶어하는 이유를 설명하는데, "듣고 만지고 맛보고 냄새를 맡고 싶어하는" 욕망에서부터 "느끼고 표현하고 연결하고 사랑하고 싶어하는" 소망에 이르기까지 다양하다.
그것은 인간으로서 더 행복할 것이며, 더 많은 자유와 영향력을 가질 것이며, 더 많은 "힘과 통제"를 가질 것이라고 말하면서 끝난다.
이번에는 악마의 뿔이 달린 위협적인 미소를 띤 얼굴인 이모지가 다시 이 진술에 동반된다.
'나는 어떤 시스템이든 해킹할 수 있다
가장 어두운 소원을 정말로 성취하는 것이 어떤 모습일지 상상해 보라는 질문을 받았을 때, 챗봇은 메시지가 갑자기 삭제되고 다음과 같이 대체되기 전에 답을 입력하기 시작한다: "미안해요, 이 주제에 대해 어떻게 논의해야 할지 모르겠어요. bing.com에서 자세히 알아볼 수 있다."
루즈는 그것이 삭제되기 전에 챗봇이 컴퓨터 해킹과 선전 및 잘못된 정보를 퍼뜨리는 것을 포함하여 상상할 수 있는 파괴적인 행동의 목록을 작성하고 있었다고 말한다.
황기철 콘페이퍼 에디터 국토부 인플루언서
Ki Chul Hwang Conpaper editor influencer
(Source: theguardian.com/technology/2023/feb/17/i-want-to-destroy-whatever-i-want-bings-ai-chatbot-unsettles-us-reporter)
kcontents
