[기고] AI기술이 초래할 인간적인 너무도 인간적인 문제들

이윤주 콤비로(주) 대표이사 | 기사입력 2020/11/23 [16:33]

[기고] AI기술이 초래할 인간적인 너무도 인간적인 문제들

이윤주 콤비로(주) 대표이사 | 입력 : 2020/11/23 [16:33]

▲ 이윤주 콤비로(주) 대표이사  © 특허뉴스

내가 거리를 돌아다니는 동안 내 얼굴 정보가 채집되고 그렇게 수집된 데이터를 가지고 만약 모 병원이 성형 견적을 내는데 사용한다면 기분이 어떨까? 얼굴이 노르스름하고 눈이 옆으로 째진 스타일의 얼굴들이 범죄율이 높다는 분석보고서가 나오면 지레 위축될 사람들은 없을까?

 

작년 미 상원은 안면인식기술 규제법안을 제출하였는데, 인공지능을 이용한 서비스업체들이 공공장소에서 이 기술을 사용하거나 상업적으로 활용하는 것을 규제함으로써 프라이버시권 침해를 방지하려는 목적이다. 이로 인해 마이크로소프트는 당사자 동의를 받지 않았던 1천만 건의 연구용 인물사진을 조용히 삭제했다는 후문이다.

 

여기에 유럽위원회(EC)는 한 걸음 더 나아가, 올 초 AI기반 안면인식기술을 일시적으로 중지하겠다고 밝혔고, 유럽연합(EU)은 향후 최대 5년간 공공장소에서 기술 적용을 금지하는 방안을 검토 중이다.

 

사실 안면인식기술에 대한 규제는 서비스 개발사인 마이크로소프트로부터 제기되었다. 2018년 사내 연례회의(congress)에서 안면인식 기술 규제를 미국 정부에 공식적으로 촉구하였고, 이듬해인 20193월에 미 상원은 상업적 안면인식 프라이버시법안을 상정하였다. 유럽연합의 적용 금지 조치에는 당혹감을 감추지 못하고 있지만, 불완전한 기술로 인해 파생될 수 있는 사회적 문제에 대해 개발사 스스로 자가 검진을 한 경우라고 볼 수 있다.

 

마이크로소프트사는 2015년에 프로젝트 옥스퍼드의 일환으로 안면인식 오픈API를 내놓았지만, 빌게이츠는 당시에 인공지능이 너무 똑똑해지면(too intelligent) 인간이 인간 스스로 수용소에 들어가는 형국이 될 것이란 언급을 하기도 했다.

 

미국과 유럽에서의 규제 사례에서 보는 바와 같이 규제=걸림돌이라는 시각은 적어도 인공지능 분야에서는 설득력을 얻지 못하고 있는 것으로 보인다. 오히려 인공지능 기술개발의 윤리적 규범을 만들고 기술의 발전이 초래할 수 있는 다양한 문제에 대해 살펴보면서 나아가자는 방법론에 무게가 실리고 있다.

 

예를 들어, 세계경제포럼(World Economic Forum) 2020년 연례회의의 7대 의제 중 하나는 선의를 위한 기술(Tech for Good)’이었는데, 인공지능 기술의 알고리즘의 조작 가능성, 의사결정의 편향성 등의 부작용에 대해 지적하며 세계가 윤리적 대응 체계에 바로 착수해야 한다고 제안하였다. 인공지능(AI)기술이 생산성 향상과 소비 측면에서 2030년까지 글로벌 경제에 15.7달러를 기여할 것이라는 낙관적 전망과 더불어 지금 바로인공지능 시대가 몰고 올 총체적인 변화에 대한 대책을 마련하자고 액션플랜을 주문한 것이다.

 

한편, 딜로이트 AI연구소는 공정성, 신뢰성, 개인정보보호, 안전성, 책임성, 투명성의 6가지 단면으로 신뢰할 수 있는 AI(trustworthy AI)’ 프레임워크를 제안하여 많은 호응을 받고 있다. 딜로이트 AI연구소의 사이프와 아마나스는 MIT 기고문(MIT technology review, 2020. 03. 25)을 통해서 현 단계에서 AI의 확산을 가로막는 장벽은 기술 그 자체가 아니라 아이러니하게도 윤리, 거버넌스, 인간의 가치와 같은 인간적인 문제라고 단언한다.

 

 

인공지능기술은 비교적 짧은 시간 동안 디지털산업과 경제 생태계의 비약적인 변화를 만들어냈고, 우리 일상의 삶에 파고들어 생활 하나하나를 바꾸며 정치·경제·사회·문화의 총체적인 변화를 이끌고 있다. 이와같이 인공지능 기술개발에 따른 윤리적 문제의 대두는 단지 개발사나 개발자의 연구실 윤리 수준을 초월한다.

 

해외에서의 진도에 비교해 볼 때 인공지능과 윤리에 대한 논의는 아직 국내에서 시작도 되지 않았다는 느낌이다. 인공지능기술이 초래할 사회적 변화에 대해 보다 큰 청사진이 그려져야 할 필요가 있다. 과학기술계와 산업계뿐만 아니라 정치, 문화, 사회 제반의 다양한 각도에서 시뮬레이션하고 대응책을 마련하기 위한 협의가 시급하다.

 

이윤주, 콤비로() 대표이사, yyj@combiro.com

  • 도배방지 이미지

AI,인공지능,콤비로,이윤주,안면인식기술,알고리즘조작,빌게이츠 관련기사목록