인공지능의 발전과 고려해야 할 법률적 이슈 및 대응방향 VIDEO: AI and its legal impact – Chatbots

AI and its legal impact – Chatbots

인공지능의 발전과 고려해야 할 법률적 이슈 및 대응방향  

   챗봇을 통한 소비자 서비스 및 대응 빈도 개선, 그리고 반복적인 업무의 자동화 등을 위해 챗봇이 소매업 또는 소비자와 대면하는 산업 부문에 더욱 더 활용도가 높아지고 있다.

‘대화(chat)’와 ‘로봇(robot)’의 합성어인 챗봇은 사람들과 간단한 대화를 할 수 있는 소프트웨어 프로그램이다. 간단한 챗봇은 시스템에 사전 프로그래밍된 내용으로 키워드 중심의 답변이 가능하다. 반면 스마트 챗봇은 인공지능을 이용하여 봇과 인간 이용자 사시의 커뮤니케이션을 처리하기 위한 인공지능(AI, Artificial Intelligence)을 사용한다.

ITChronicles

* 챗봇 chatbot 

chatter(수다를 떨다)와 robot(로봇)의 합성어로 사람과 대화할 수 있는 메신저 프로그램

AI and its legal impact – Chatbots

https://www.lexology.com/library/detail.aspx?g=e2127ca3-a8a1-450f-a4c3-db374422b8a3

EDITED BY KCONTENTS

머신러닝의 상호작용성과 능력으로 인해, 챗봇은 소비자 서비스 부문에서 주로 사용된다. 예를 들어 챗봇은 음성 명령 혹은 텍스트 메시지를 통해 소비자들로 하여금 커피를 주문하고 택시를 예약할 수 있도록 한다. 챗봇의 다른 혁신적인 이용사례로는 치매환자를 위한 말동무 역할, 그리고 의료 진단을 원활하게하기 위해 디자인된 챗봇 등을 들 수 있다.

그러나 고려해야 할 법률적 이슈들도 상당하다.

먼저 기업 운영자들은 자신들의 비즈니스 활동 혹은 산업이 규제 대상인지를 확인해야 한다. 보건의료 서비스 및 금융 서비스 제공자들은 보다 엄격한 규제가 존재할 수 있으므로 이것이 필수사항이다. 예를 들어 금융서비스 제공업체들은 챗봇에 의해 수집된 소비자 정보에 대해 해당되는 금융보안관련 법률이 있는지, 그리고 어떻게 적용될 수 있는지 검토하는 것이 필요하다.

추가적으로 챗봇이 소비자들에게 직접적으로 서비스를 제공하므로, 기업은 이와 관련된 소비자 보호법과 광고 관련 법률을 이해해야 한다. 기업들은 챗봇이 부주의하게 소비자 및 광고 관련 법률을 어기는 일이 발생하지 않도록 주의해야 한다.

다음은 개인정보보호이다. 챗봇은 대량의 데이터를 처리하고 분석하는데, 그 중에는 개인정보가 포함된다. 따라서 개인정보보호 이슈가 제기될 수 있다. 유럽연합의 일반개인정보보호법(GDPR, General Data Protection Regulation)에서 규정하고 있듯이, 프로파일링을 포함한 자동화된 처리(automated processing, including profiling)에만 근거하여 정보주체에 대한 사항을 결정하지 않아야 한다.

Oracle Blogs

edited by kcontents

한편 제3자 권리 침해 이슈가 있다. 시스템과 통합된 인공지능이 스마트 챗봇 기능을 탑재하여 저작권과 상표권 등 제3자 권리를 침해할 가능성이 있다. 특정 챗봇은 인간 이용자에게 해답을 제시하기 위해 인터넷 탐색 기능을 갖추고 있다. 그러나 찾아낸 콘텐츠는 저작권 혹은 상표권의 보호를 받는 경우가 있어 권리 소유자의 명시적인 허가가 없는 콘텐츠 이용은 제3자 권리 침해로 이어질 수 있다.

불량 챗봇 이슈도 있다. 인공지능을 탑재한 챗봇이 오기능을 일으켜 부정확하거나 해로운 반응을 표출할 수 있다.

상기의 문제점들을 해결하기 위한 방안은 아래와 같다.

먼저 프로그래밍이다. 앞서 언급한 위험을 최소화하기 위해 관련 규제와 산업 표준, 업계 관행 등에 상응하도록 프로그램되어야 한다. 아울러 법률내용을 일관성있게 반영하도록 업데이트되어야 한다. 규정을 어기는 것은 형사적 책임과 더불어 비즈니스 운영자에게 심각한 법률적 문제를 야기할 수 있다.

Chatbots Life

edited by kcontents

아울러 기업들은 챗봇 운영에 대한 내부정책을 수립해야 한다. 해당 정책은 챗봇에게 허용되는 활동, 챗봇에게 제공되는 정보의 범위와 제공되는 방법, 챗봇에 의한 데이터 수집과 처리, 챗봇의 유지 보수, 챗봇 활동의 모니터링과 인간 개입이 필요한 상황 정의, 챗봇과 관련된 우려나 불만 제기 사항 관리 매커니즘 등이 포함된다.

아울러 챗봇에 의해 제공되는 서비스는 불완전할 수 있다는 주의 안내와 경고를 웹사이트 등에 게시하고 공포하는 것이 필요하다.

챗봇과 여타 인공지능 관련 기술이 지속적으로 진화하고 있는 가운데, 인공지능에 의해 야기되는 잠재저인 위험과 부정적 영향에 대해 우려가 제기되고 있다. 규제기관들은 인공지능 관련 기술을 규제하기 위해 기존 법률을 재정비하거나 새로운 법률을 입안하고 있다. 챗봇 소유자들은 그에 따른 위험성을 관리하기 위해 끊임없이 변화하는 법률적 환경에 주의를 기울이는 것이 필요하다.

ndsl.kr

KCONTENTS