▲ 출처=freepik  © 특허뉴스

유럽 의회(EP)는 ‘인공지능법(AI Act)’을 최종 승인했다.

동 법은 2021년 4월, 유럽연합 집행위원회(EC)가 제안한 것으로 기본권, 민주주의, 법치, 환경적 지속가능성을 고위험 인공지능(AI)으로부터 보호하는 동시에 혁신을 촉진하고 유럽을 해당 분야의 리더로 만드는 것을 목표로 잠재적 위험과 영향 수준에 따라 AI에 대한 의무를 설정했다. 또한 2023년 12월 유럽 의회는 의회 및 이사회(Council) 협상단이 ‘인공지능법(AI Act)’에 대한 잠정 합의에 도달했다고 발표한 바 있다.

동 법은 범용 AI에 대한 보호 조치, 법 집행 기관의 생체인식시스템(RBI) 사용 제한, 사용자 취약점을 조작하거나 악용하는 데 사용되는 사회적 점수 평가(social scoring) 금지, 소비자가 불만을 제기하고 의미 있는 설명을 받을 수 있는 권리 등을 명확히 규정했고, 의회의 공식적인 승인을 받아 EU 27개 회원국이 최종 승인하면 관보에 게재되며 관보에 게재된 후 20일 후에 발효될 예정이다.

또한 동 법은 발효 후 24개월 후에 시행될 예정인 한편 금지된 행위에 관한 규정은 발효 후 6개월, 행동 강령은 발효 후 9개월, 거버넌스를 포함한 범용 AI 규정은 발효 후 12개월, 고위험 시스템에 대한 의무는 발효 후 36개월 후에 시행되는 등 단계적으로 시행될 예정이다.

‘인공지능법(AI Act)’의 주요내용을 살펴보면, AI 응용의 금지 범위와 관련, 민감한 특성을 기반으로 하는 생체 인식 분류 시스템, 안면 인식 데이터베이스 생성을 위해 인터넷이나 CCTV 영상에서 불특정한 얼굴 이미지를 스크래핑 하는 행위 등과 같이 시민의 권리를 위협하는 특정 AI 응용(applications)을 금지했고, 직장 및 교육기관에서의 감정 인식, 사람의 행동을 조작하거나 사람의 취약점을 악용하는 등의 AI를 금지했다.

법 집행의 예외사항과 관련해 법 집행 기관에서 생체인식시스템(RBI)을 사용하는 것은 원칙적으로 금지되며, 엄격하게 한정된 상황만을 예외사항으로 규정했다. 구체적으로 생체인식시스템은 시간과 지리적 범위가 제한되고 사전에 사법 또는 행정 허가를 받는 등의 엄격한 안전 조치를 충족하는 경우에만 배포 가능하다.

고위험 시스템에 대한 의무와 관련, 보건, 안전, 기본권, 환경, 민주주의, 법치주의에 대한 잠재적 피해로 인하여 고위험군으로 분류된 AI 시스템에 대한 명확한 의무에 합의해야 하고, 구체적으로 주요 인프라, 의료·금융 부문 등과 같은 필수 민간 및 공공 서비스, 법 집행, 선거에 영향을 미치는 행위와 같은 사법 및 민주적 절차 등을 고위험으로 분류했다. 또한 시민들은 AI 시스템에 대한 불만을 제기하고 자신의 권리에 영향을 미치는 고위험 AI 시스템에 기반한 결정에 대해 설명을 받을 권리가 있음을 고지했다.

투명성 요건과 관련, 범용 AI 시스템과 그 기반이 되는 AI 모델은 EU 저작권법(EU Copyright Law)을 준수하고, 학습에 사용된 콘텐츠의 상세 요약 공개 등 특정 투명성 요건을 충족해야 하고, 특히 시스템적 위험을 초래할 수 있는 강력한 범용 AI 모델일수록 위험 평가 수행, 시스템적 위험 평가 및 완화, 사고 보고 등의 추가 요건에 부합해야 한다. 또한 조작된 이미지, 오디오 또는 비디오 콘텐츠(딥페이크)는 그 사실을 명확하게 표시해야 한다.

혁신 및 중소기업 지원과 관련, 혁신적인 AI가 시장에 출시되기 전에 개발하고 훈련할 수 있도록 국가 차원에서 중소기업과 스타트업이 이용 가능한 규제 샌드박스와 테스트를 마련해야 한다.

해당 법안을 추진한 이탈리아 의원 브랜도 베니페이(Brando Benifei)는 “마침내 위험을 줄이고, 기회를 창출하며, 차별에 맞서고, 투명성을 확보하기 위한 세계 최초의 구속력 있는 AI 관련 법률이 마련되었고 유럽에서는 허용되지 않는 AI 관행이 금지되고 근로자와 시민의 권리가 보호될 것이다.”라고 부연했다.