미국의 새 행정 명령은 AI를 규제하고 발전시키는 데 있어 중추적인 역할을 하는 단계에 있다. 그러나 행정 명령에는 도전 과제와 모호한 부분이 있어 더 면밀히 검토하고 다듬을 필요가 있다.
백악관이 새로운 행정 명령인 ‘안전하고 보안이 유지되며 신뢰할 수 있는 인공지능(Safe, Secure, and Trustworthy Artificial Intelligence)’을 발표했다. 이를 통해 산업 전반의 안전과 책임에 초점을 맞춘 국가 차원의 AI 규제 시대를 열겠다는 계획이다. 하지만 과연 행정 명령에는 문제가 없을까?
미국 정부는 이 행정 명령을 통해 연방 정부와 민간 부문 모두에 적용될 수 있는 포괄적인 AI 규제 프레임워크를 만들 방침이다. 본격적으로 AI 생태계를 위한 광범위한 목표를 다루는 첫 단추이며, AI와 관련된 이전 지침을 기반으로 하고 있다. 하지만 책임과 구체적인 일정은 부족하며, 잠재적으로 과도한 보고 의무가 포함될 수 있다는 과제도 남아있다.
행정 명령을 살펴보면 AI 업계가 스스로 시장을 이끌어갈 수 있도록 몇 가지 가드레일을 설정하는 대신, 정부가 어떻게든 AI의 미래를 인도하겠다는 구시대적인 규제 접근방식을 고수하고 있다는 점을 알 수 있다. 이러한 접근 방식으로는 민간 산업의 발전 속도를 따라잡기 어려울 것이다. 인공지능의 잠재적 영향과 효과에 대한 필자의 의견을 밝힌다.
AI 규정
AI 행정 명령은 대규모 언어 모델(LLM) 개발자가 안전 테스트 결과를 연방 정부와 공유하도록 하는 등 AI에 대한 새로운 안전 및 보안 표준을 마련하도록 요구한다. 그러나 중요한 사실은 규제를 받는 대규모 모델을 특정 사용 사례에 맞게 미세 조정하는 수많은 기업과 구축 업체에 대한 보고 의무가 아직 불분명하다는 점이다.
AI는 매우 강력한 기술이며, 본질적으로 좋거나 나쁘지는 않지만 막강한 힘을 고려할 때 가드레일은 필요하다. 어느 정도의 규제는 있어야 한다는 의미다. 행정 명령은 이러한 기준을 가장 큰 모델 개발 업체에 적용하는 데 초점을 맞추고 있지만, 보고 의무는 다른 규제 산업의 구조를 반영할 필요가 있다. 다른 규제 산업의 경우 모든 미국인에게 영향을 미치는 가장 큰 기본 인프라 제공업체가 규제 부담을 지고 있기 때문이다. 반면 규제 당국은 혁신 분야에서 미국의 선도적 위치를 유지하기 위해 스타트업에 대해 가벼운 태도를 취할 필요가 있다.
AI 보안
행정 명령에는 상무부(Department of Commerce)가 콘텐츠 인증에 대한 지침을 개발하고 AI로 생성된 콘텐츠에 명확한 워터마크 라벨을 붙이는 기술을 개발한다는 내용도 담겼다. 몇 가지 요소에서 구체성이 드러난 것은 반가운 일이지만, 여전히 많은 보안 목표에 해석의 여지가 남아있다.
또한 국방물자생산법을 인용하면서 ‘시험 결과 및 기타 중요 정보’를 미국 정부와 공유하는 것을 우선시하고 있는데, 이는 긴급 상황 시 기업을 국유화할 수 있는 근거가 될 수 있다. 광범위하고 모호한 문구는 과도한 권한을 행사할 수 있는 길을 열어준다. 이 행정 명령은 미국의 가치를 옹호하는 방식으로 선전될 수 있지만, 지나치게 광범위하게 적용될 가능성도 분명하다. 이 섹션에는 ‘에너지부와 국토안보부는 중요 인프라에 대한 AI 시스템의 위협과 화학, 생물학, 방사능, 핵, 사이버 보안 위험도 다룰 것’이라는 모호한 표현도 포함돼 있다. 이는 해석의 여지를 남기며, 의도하지 않은 결과를 초래할 수 있다.
소비자 프라이버시 보호
AI 행정 명령은 또한 기관이 AI에 사용되는 프라이버시 기술을 평가할 수 있는 가이드라인을 만들어 프라이버시를 보호할 것을 요구하고 있다. 정부 기관이 이러한 가이드라인을 적용한다면 규제 기관과의 충돌을 피하고자 하는 기업을 돕는 결과로 이어질 수 있다. 물론 이러한 가이드라인은 일관되게 적용될 때만 혁신을 장려하는 데 효과적이다.
마찬가지로 행정 명령은 교육자가 책임감 있게 AI 도구를 사용할 수 있는 방법에 대한 프로그램과 리소스를 보건복지부가 개발할 것을 요구한다. 이러한 사용 사례별 규제 접근 방식은 규제 당국이 해당 영역의 기술 혁신을 안내하는 프레임워크를 적용하도록 하기 때문에 효과적일 수 있다.
코드 공개
행정 명령의 세부 사항에서는 AI 기업이 ‘장막을 걷어내고’ 제품의 내부 테스트 데이터를 미국 국립표준기술연구소(NIST)와 공유해야 한다는 내용이 주목을 받았다. NIST는 공개 출시 전에 안정성을 보장하는 ‘레드팀’ 테스트의 안전 기준을 설정하도록 지정돼 있다.
혁신의 속도를 고려할 때 AI 연구 개발(R&D)에 대한 규제는 거의 의미가 없다. 대신 R&D에 대한 규제를 가볍게 적용하고 혁신의 진행 속도에 맞춰 적응하는 것이 좋다. 따라서 심층 R&D 보고에 대한 추가적인 명확성을 제시할 필요가 있다.
AI 인재 채용
이번 행정 명령에서 가장 고무적인 부분이라고 할 수 있는 부분은, 기존 비자 기준, 인터뷰 및 심사에 대한 예외 조항을 수립해 AI 전문성을 갖춘 ‘고도로 숙련된 이민자 및 비이민자’가 더 많이 미국에 체류하고 일할 수 있도록 하자는 내용이다.
여기에는 미국 태생이 아닌 근로자에 대한 엄격한 H-1B 취업 허가 기준을 완화하는 내용이 포함됐다. 행정 명령을 통해 당국은 미국 AI 기업, 연구 및 전문 인력의 지속적인 성장에 중요한 요소인 고도로 숙련된 근로자의 이민을 완화하고자 한다.
필자는 5년 전 이 문제에 대해 언급했다. 당시 새로운 인재, 교육자, 데이터 과학자를 유치하는 것이 국가적 의제의 일부가 돼야 한다고 강조한 바 있다. 여전히 이 의견을 지지하고 있다.
미국 이민자들은 기술 스타트업의 원동력이 되어 왔다. 2022년 미국정책재단(NFAP) 분석에 따르면 스타트업 기업(기업 가치 10억 달러 이상)의 55%가 이민자에 의해 창업된 것으로 나타났다. 더 중요한 사실은 10억 달러 규모의 유니콘 기업 중 64%가 이민자 또는 그 자손이 창업했다는 점이다.
또한 최근 이민자가 미국 상위 AI 기업의 65%(43개 기업 중 28개 기업)를 창업하거나 공동 창업했으며, 창업자의 42%는 유학생 신분으로 미국에 온 것으로 추정됐다.
이 수치는 해외 기업가들이 기술/AI 산업에 의미 있게 기여하고 있음을 보여준다. AI 분야에서 선도적인 위치를 차지하기 위해 새로운 인재를 지속적으로 유치하고 유지하는 것은 미국의 공익에도 부합한다.
외국인 근로자와 함께 기존 학생들에게 투자하는 과정도 중요하다. 행정 명령은 학생과 AI 연구자에게 필수 AI 리소스와 데이터에 대한 접근 권한을 부여하고 중소기업에 기술 지원을 제공한다. 이를 위해 AI 연구를 강화하는 국립 AI 연구 자원을 설립할 방침이다.
이 학생들은 차세대 머신러닝 전문가, AI 알고리즘 엔지니어, 미래의 기업 창업자가 돼 AI의 잠재력을 최대한 발휘하고 미국의 혁신과 리더십을 주도할 수 있다. 이는 빠르게 성장하는 산업의 발전을 촉진하는 고무적인 조치다.
행정 명령은 미국에서 AI를 규제하고 발전시키는 데 있어 중추적인 역할을 하는 단계에 있다. 그러나 여기에는 도전 과제와 모호한 부분이 있어 더 면밀히 검토하고 개선할 필요가 있다.
* Rudina Seseri는 AI 및 첨단 기술을 활용해 산업을 혁신하는 엔터프라이즈, 플랫폼 및 보안 스타트업에 투자하는 벤처 캐피털 기업 글래스윙 벤쳐스(Glasswing Ventures)의 설립자이자 매니징 파트너다. dl-ciokorea@foundryco.com
