미국 백악관 산하 예산관리국(OMB)은 미국 연방정부 및 기관(이하, 연방기관)들이 업무에 인공지능(AI)을 활용할 경우, 그 내용을 투명성 있게 공개하는 한편, 부작용 및 기타 영향에 대해 평가 및 모니터링을 하도록 하는 신규 정책을 발표했다.

지난해 10월 30일, 백악관은 ▲AI 안전 및 보안에 대한 새로운 표준 확립, ▲미국 국민의 개인정보보호, ▲형평성 및 시민권 증진, ▲소비자 및 근로자 옹호, ▲혁신 및 경쟁 촉진, ▲미국의 글로벌 리더십 발전 등의 내용이 담긴 ‘안전하고 보안적이며 신뢰할 수 있는 AI 행정명령’을 발표한 바 있다.

미국 정부는 동 행정명령을 통해 미국 기업들을 대상으로 자사가 개발한 AI가 국가안보나 경제 및 건강상 위험을 초래할 경우 이를 정부에 통지하고, AI에 대한 안전 테스트 결과 및 주요 정보를 정부와 공유하게 했다.

이번 정책은 그간 AI 개발 및 활용의 안전성에 주목했던 AI 행정명령과 달리 AI의 위험을 완화시키고 연방기관의 업무 상 AI 활용의 안전성에 중점을 두고자 수립되었다.

신규 정책에 따르면, 첫째, AI 사용으로 인한 위험 해결을 위해 2024년 12월 1일까지 미국의 연방기관은 AI를 사용할 경우 국민의 권리나 안전에 미치는 영향을 최소화하는 방식으로 구체적인 안전장치(safeguards)를 구현해야 한다. 이러한 안전장치는 보건, 교육, 고용, 주택 등 광범위한 AI 응용(application)에 적용되며 ▲AI가 대중에게 미치는 영향을 안정적으로 평가, 테스트 및 모니터링하고, ▲알고리즘 차별 위험을 완화시키며, ▲정부가 AI를 사용하는 방식을 대중에게 투명하게 제공하기 위한 다양한 의무적 조치가 포함됐다.

연방기관은 이러한 안전장치를 적용할 수 없는 경우, 기관 경영진이 국민의 안전 또는 권리에 대한 전반적인 위험을 증가시키거나 기관 운영에 용납할 수 없는 장애가 초래된 정당한 이유가 없는 한, AI 시스템 사용을 중단해야 한다.

둘째, AI 사용의 투명성 확대를 위해 연방기관이 AI 사용 현황을 공개하도록 요구하는 동시에 AI 사용과 관련하여 투명하게 개선할 것을 요구하며 세부 지침 초안도 함께 공개했다. 국민의 권리 또는 안전에 영향을 미치는 AI 사용 사례와 기관이 AI를 사용할 경우 관련 위험을 어떻게 해결하고 있는지 파악하는 것을 포함하여 AI 사용 사례에 대한 확장된 연간 인벤토리(annual inventories)를 공개했다.

민감성 사유 등으로 공개 목록에서 보류된 기관의 AI 사용 사례에 대한 결과가 대중이나 정부 운영에 위험을 초래하지 않는 경우에 한해, 동 정책의 모든 요소에 대한 준수 및 면제 사유 등을 공개하고 정부 소유의 AI 코드, 모델 및 데이터를 공개했다.

셋째, 책임감 있는 AI 혁신 추진을 위해 기후 위기 해결 및 자연재해 대응, 공중 보건 향상, 공공 안전 보호 등 사회의 현안 과제를 해결하기 위해 AI 기술이 사용되고 있는 가운데, 동 정책은 연방기관의 책임 있는 AI 혁신을 가로막는 불필요한 장벽을 제거하는 것이 목표이다.

이에 OMB는 각 기관이 적절한 안전장치를 마련하여 책임감 있게 생성형 AI를 실험하도록 권장했다.

넷째, AI 인력 증대를 위해 미국 연방기관은 AI 관련 인재를 확충하고 숙련도를 높여야 하며 각 기관은 AI 위험 관리, 혁신, 거버넌스를 발전시키기 위해 인력을 적극적으로 강화할 예정이다. 2024년 여름까지 미국 바이든(Biden) 정부는 AI의 신뢰할 수 있고 안전한 사용을 촉진하기 위해 AI 전문가 100명을 채용할 계획이다.

미국 인사관리처는 연방정부 내 AI 인재의 중요성을 강조하고 고용 유지를 개선하기 위해 AI 역할에 대한 급여 및 휴가 유연성에 관한 지침을 발표하였으며 2025 회계연도 대통령 예산안에는 정부 전체 AI 교육 프로그램을 확대하기 위한 500만 달러(한화 약 69억 원)의 추가 예산이 포함됐다.

다섯째, AI 거버넌스 강화를 위해 미국 연방기관들은 AI 사용을 조정할 ‘최고 AI 책임자(Chief AI Officer)’를 지정해야 한다. 2023년 12월부터 OMB와 과학기술정책실은 최고 AI 책임자 협의회에 각 책임자들을 소집하고 있으며 연방기관들은 AI 사용을 조정할 최고 AI 책임자를 지정해야 한다. 또한 차관보 및 이에 상응하는 직책을 가진 자가 의장을 맡는 AI 거버넌스 위원회를 설립하여 전반적인 AI 사용을 조정하고 관리할 예정이다.

미국 카멀라 해리스 부통령은 “향후 연방기관들이 AI 도구를 사용할 경우 그 도구들이 미국인의 권리 및 안전을 위험하게 만들지 않는다는 사실을 입증하도록 요구할 것이다.”고 밝혔다.