'딥페이크' AI 가짜 누드 생성앱 논란 VIDEO: AI Fake Nudes Are Out of Control. These Victims Are Fighting Back

 

AI undressing deepfake nude generation apps soar in popularity

https://readwrite.com/ai-undressing-deepfake-nude-generation-apps-soar-in-popularity

 

[개관]

여성 옷 벗기는 그 앱, 한 달간 2400만명 썼다… 우려 커진 딥페이크

 

인공지능(AI)을 이용해 여성의 ‘가짜 누드’ 사진을 만드는 딥페이크(deepfake) 애플리케이션과 웹사이트 이용자가 폭증하면서 덩달아 범죄 악용 우려 역시 날로 커지고 있다.

 

 

워싱턴포스트 보도화면

 

10일(현지시각) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카(Graphika)를 인용해, 지난 9월 한 달 동안에만 2400만명이 딥페이크 웹사이트를 방문했다고 보도했다. 해당 사이트에서는 AI 기술을 기반으로 얼굴 등을 실제처럼 조작해 여성의 옷을 벗긴 이미지 등을 제작할 수 있다.

문지연 기자 조선일보

 

딥페이크 누드 생성 앱 옷 벗는 AI 인기 급상승

 

타임 보도에 따르면 인공지능을 이용해 동의 없이 여성 사진의 옷을 디지털 방식으로 제거하는 앱과 웹사이트의 인기가 치솟고 있다.

 

 

소셜네트워크분석업체 그라피카 연구진은 지난 9월에만 2400만명이 옷을 입은 여성의 실제 사진에 AI 알고리즘을 적용해 가짜 누드 이미지를 생성하는 이른바 '누디파이' 또는 '미복' 서비스를 방문한 것으로 나타났다.

 

 

놀라운 성장은 놀랍도록 사실적인 가짜 누드 이미지를 만들 수 있는 몇 가지 새로운 인공지능 확산 모델의 오픈 소스와 일치한다. 이전의 인공지능으로 변경된 이미지가 흐릿하거나 비현실적인 경향이 있는 반면, 이러한 새로운 모델은 아마추어들이 정교한 훈련 없이 설득력 있게 실제 누드 사진을 생성할 수 있도록 한다.

 

부탄의 왕과 왕비의 첫 출산과 명명식 VIDEO: Royal family confirm name of new princess and share first photos: Bhutan

https://conpaper.tistory.com/111582

부탄의 왕과 왕비의 첫 출산과 명명식 VIDEO: Royal family confirm name of new princess and share first photos: Bh

edited by kcontents

 

 

 

이러한 서비스에 대한 마케팅은 종종 레딧이나 텔레그램과 같은 플랫폼에서 공개적으로 발생하며, 일부 광고는 사용자가 가짜 누드를 피해자 자신에게 다시 보내도록 제안하기도 한다. 한 누디파이 앱은 후원되는 유튜브 콘텐츠에 대해 비용을 지불하고 대부분의 사이트의 정책을 위반하는 관행에도 불구하고 구글 검색에서 1위를 차지한다. 그럼에도 불구하고, 그 서비스들은 대체로 통제되지 않고 운영된다.

 

 

딥페이크는 특히 동의되지 않는 게시물 경우 위험

전문가들은 DIY 딥페이크 누드의 확산은 비동의 음란물에서 위험한 새로운 국면을 보여준다고 경고했다. "우리는 이것의 점점 더 많은 것이 평범한 목표를 가진 일반인들에 의해 행해지고 있는 것을 보고 있습니다,"라고 전자 프론티어 재단의 에바 갈페린은 고등학생들 사이에서 사례가 증가하고 있다고 언급했다.

 

그럼에도 불구하고, 많은 피해자들은 그러한 이미지가 존재한다는 것조차 발견하지 못한다. 그들은 종종 법 집행 기관이 조사하도록 고군분투하거나 법적 조치를 취할 자금이 부족한 사람들이다.

 

현재 연방법은 딥페이크를 명시적으로 금지하지 않고, 가짜 아동 성학대 자료 생성만 금지하고 있다. 11월, 노스캐롤라이나의 한 정신과 의사는 미성년자 환자 사진에 인공지능 옷 벗기기 앱을 사용한 혐의로 40년 형을 선고받았다.

 

AI undressing deepfake nude generation apps soar in popularity

https://readwrite.com/ai-undressing-deepfake-nude-generation-apps-soar-in-popularity

 

 

 

AI Deepfake | Concerning Rise in Usage of 'Undress' Apps and Websites | Cybersecurity Alerts Rise

https://youtu.be/4oH4KM6aD-Q

 

kcontents