민주당의 Richard Blumenthal 상원의원과 공화당의 Josh Hawley 상원의원은 미래의 AI규정을 마련하기 위한 입법 체계를 공동으로 제시했다. 이 프레임워크에는 인공지능을 규제하는 새로운 정부 기관을 설립하고 OpenAI의 GPT-4와 같은 고급언어모델의 개발을 제한하여 이러한 작업을 해당 목적에 대한 라이센스를 부여받은 회사로 제한한다는 제안이 포함되어 있다.

이번 입법 제안에 따라 얼굴인식을 포함한 '고위험' AI 애플리케이션을 개발하려는 기업은 정부 허가를 받아야 한다. 이러한 라이선스를 얻으려면 기업은 잠재적인 피해를 평가하기 위해 AI모델의 배포 전 테스트를 수행하고, 출시 후 AI관련 피해사건을 공개하고, AI 모델에 대한 독립적인 제3자 감사를 허용해야 한다. 또한 기업은 AI 모델 개발에 사용되는 훈련 데이터에 대한 접근 권한을 제공해야 하며, AI로 인해 피해를 입은 개인은 책임 있는 기업을 상대로 법적 조치를 취할 권리를 갖게 된다.

Blumenthal과 Hawley가 도입한 이 프레임워크는 워싱턴에서 AI 규제에 관해 진행 중인 논쟁에 중요한 영향을 미칠 가능성이 높다. 두 상원의원이 감독하는 상원 소위원회 청문회에서는 AI 시스템이 피해를 입히거나 권리를 침해하는 데 대해 기업과 정부에 책임을 묻는 방법을 논의할 예정이다. 증언할 것으로 예상되는 증인 중에는 브래드 스미스(Brad Smith) 마이크로소프트 사장과 엔비디아의 수석과학자 윌리엄 댈리(William Dally)가 포함됐다.

또한 척 슈머(Chuck Schumer) 상원의원은 주요 기술 임원과 AI윤리 및 인권전문가의 의견을 바탕으로 AI규제 과제를 탐구하기 위한 일련의 회의를 조직하고 있다. 그러나 새로운 AI감독기관이 자율주행차부터 의료, 주택에 이르기까지 다양한 분야에 걸쳐 AI 기술을 감독하는 데 필요한 기술 및 법적 전문지식을 보유할 수 있는지에 대해서는 회의적인 시각이 남아 있다.

AI 개발을 위한 라이선스 개념은 업계와 의회 내에서 주목을 받았다. OpenAI CEO 샘 알트만(Sam Altman)은 지난 5월 상원 증언에서 AI 개발자 라이선스를 제안한 바 있다. 린지 그레이엄(Lindsay Graham) 상원의원과 엘리자베스 워렌(Elizabeth Warren) 상원의원이 제출한 별도의 법안은 특정 규모 이상의 기술 기업에 대한 정부 AI 라이선스를 제안한다.

Blumenthal과 Hawley의 프레임워크는 AI규제를 향한 중요한 단계를 나타내지만 몇 가지 풀리지 않는 질문을 제기한다. 프레임워크는 AI 감독이 새로 창설된 연방 기관에서 나올지, 아니면 기존 기관 내의 부서에서 나올지 명시하지 않다. 라이선스가 필요한 고위험 AI 사용 사례를 정의하는 기준도 제안서에 없다.

자유주의 단체와 디지털 권리 단체를 포함한 비평가들은 AI 라이센스가 혁신을 억제하고 영향력 있는 기업이 업계를 장악하게 될 수 있다고 주장한다. 입법 체계에는 AI 감독 기관 내에서 강력한 이해 상충 규칙에 대한 조항이 포함되어 있다.

궁극적으로 이 입법 프레임워크는 연방 정부의 현재 자발적 위험 관리 프레임워크 및 구속력 없는 AI 권리 장전과 비교하여 더 엄격한 AI 규제를 향한 의회의 성향을 나타낸다. 백악관은 주요 AI 기업과 자발적인 협약을 시작했지만 AI 피해에 직면해 공공 안전을 보장하기 위한 입법 조치의 필요성을 인정했다.

작성자: Impact Lab