인권 유린 악용 안면인식시스템(face recognition)의 미래 VIDEO:Lawsuits allege Microsoft, Amazon and Google violated Illinois facial recognition privacy law

도로와 빌딩을 도배하는 안면인식 시스템, 이대로 좋은가

     최근 IBM, 마이크로소프트, 아마존 등 3개의 글로벌 테크 회사가 경찰 업무 지원을 위한 안면인식(FR) 기술 개발을 중단하겠다고 발표했다고 포브스, 로이터통신, CNBC 등 외신들이 보도했다. FR 기술이 인종 프로파일링과 인권 유린에 악용될 수 있다는 우려 때문이다.

미국은 법 집행기관의 FR 기술 사용을 금지하는 ‘안면인식 및 생체공학기술 모라토리엄법’을 도입했다. 이는 미국의 얼굴인식 기술기업 클리어뷰AI가 소셜 네트워크에서 사람들의 사진을 무작위로 추출해 수십억 명의 데이터베이스를 구축하고 이를 사법기관에 제공한 사실이 논란이 되면서 취해진 입법 조치다. 특히 클러이뷰 AI 시스템은 수개월 전 해킹까지 당해 각계에서 비난이 빗발쳤다.

Image Credits: Stegerphoto / Getty Images

Lawsuits allege Microsoft, Amazon and Google violated Illinois facial recognition privacy law In a set of new lawsuits, two Illinois residents argue that three tech giants violated state laws prohibiting the use of personal biometric data without permission. Illinois residents Steven Vance and Tim Janecyk allege that images of their faces appeared in IBM’s “Diversity in Faces” database without their consent and were used to train facial recognition systems at Amazon, Microsoft and Google’s parent company Alphabet. While all three companies are based on the West Coast, the suit accuses the tech giants of running afoul of an Illinois law known as the Biometric Information Privacy Act (BIPA). The suit names Vance and Janecyk as plaintiffs but also seeks class action status on behalf of “all other similarly situated individuals” in Illinois. In the lawsuit, the pair of plaintiffs seek $5,000 per violation of the law, an injunction barring the companies from using Illinois residents’ “biometric identifiers” and the destruction of any relevant facial data that’s been stored. View full text https://techcrunch.com/2020/07/15/facial-recognition-lawsuit-vance-janecyk-bipa

edited by kcontents

FR 기술은 인종적 편견을 가지고 있다는 주장이 많다. FR에는 컴퓨터 비전, AI 기반 알고리즘, 교육 및 검증을 위한 데이터베이스 등 3가지 주요 기술적 구성요소가 있다. 이미지는 카메라에 잡히고 알고리즘의 도움으로 데이터 저장소를 통해 매핑돼 대상을 식별한다.

FR은 우리 일상생활의 많은 부분을 차지한다. 스마트폰의 일반적인 잠금 해제 기능에도 구현되며 공항에서도 폭넓게 사용된다. 홍채 스캐너, 지문인식 스캐너와 같은 다른 생체인식 스캐닝 기술은 특정 개인에게 국한되지만 FR은 크고 넓은 범위의 사람들을 전반적으로 인식하는데 널리 사용된다. 문제는 여기서 생긴다.

The Next Web

edited by kcontents

특정 지역의 경찰이 시위를 위해 모인 군중을 카메라로 찍어 얼굴을 특정하고 예컨대 클리어뷰 AI의 데이터베이스를 이용해 신원을 파악한다면 심각한 사회 문제가 발생한다. 인종차별의 문제는 사회적이고 구조적인 영역에서 시스템적인 차원으로 확대된다.

법 집행기관 내에서 FR의 사용은 주로 대규모 감시, 군중 관리, 사람 숫자 판별, 얼굴 분석용 메타데이터 및 도시별 대시보드에 인기가 높다. 심하게 이야기하면 이 역시 악용되는 하나의 사례이다.

글로벌 마켓 리서치 업체 그랜드뷰리서치에 따르면 글로벌 FR 시장 규모는 지난해 34억 달러(4조 800억 원)에서 향후 7년 동안 연평균 14.5%씩 성장할 전망이다. 기술을 기반으로 한 안면인식 시장은 2D, 3D, 안면분석 등으로 세분화된다.

온라인 매체 BW스마트시티에 따르면 중국, 이스라엘, 영국, 독일과 같은 나라들은 FR을 대량 감시에 널리 사용하고 있다. 중국의 ‘스카이넷’ 정부 감시 프로그램은 FR과 다른 비디오 분석 어플리케이션이 내장된 2000만 대 이상의 감시용 카메라를 주요 도시 전역의 공공 지역에 설치했다.

수집된 데이터와 스토리지에 대한 보안 및 개인 정보보호 문제도 있다. 이러한 문제를 해결하기 위해 만들어진 규정은 거의 없다. GDPR(General Data Protection Regulation)은 유럽연합(EU)에서 개인정보 보호에 관한 문제를 해결하기 위해 제정된 규제 중 하나이다.

European Commission - europa.eu

edited by kcontents

글로벌 테크 기업 외에도 많은 비디오 카메라 공급업체들이 솔루션의 일부로 FR 분석을 제공하고 있다. 중국, 대만, 일본의 공급업체들은 세계 시장에서 상당한 점유율을 차지하고 있다. 또한 FR을 독립형 솔루션으로 제공하는 전문 비디오 분석 회사도 많다.

인도의 경우 효과적인 치안유지 활동에서 FR 기술의 활용 비율이 늘고 있다. 범죄추적 네트워크(Crime & Crime Tracking Network) 시스템을 도입하면서 시작된 경찰 현대화 프로그램이 그것이다. 이것은 스마트시티 프로그램과 같은 디지털 인도 이니셔티브에 의해 더욱 강화됐다. 인도 경찰청 연구개발총국(Bureau of Police of Police R&D)에 따르면 유엔의 인구 10만 명 당 경찰 권고 비율인 220명에 대비한 인도의 경찰 수는 193명이다. FR 기술은 이러한 격차를 더욱 좁힐 수 있는 것도 사실이다.

그러나 FR 기술을 활용하는 주체가 누군가에 따라 기술의 가치는 달라진다. 미국의 인종차별 시위에서 주동자를 가려내기 위해 경찰이 FR 기술을 사용했다면 극단적으로 악용된 사례가 된다. 중국에서도 코로나19의 방역을 넘어 대중을 감시하는 용도로 전환된다면 이는 비난받을 일이다.

FR 시장이 커질 것임은 자명하다. 개인정보를 보호하고 대중을 감시하는 악용을 막기 위해 이에 대한 규제 체제 마련과 정책의 개발이 시급하다.

By 조현호 기자  스마트시티투데이

Why Cities Are Banning Facial Recognition Technology | WIRED

 kcontents