미국은 후퇴하는 유럽의 AI 제도를 따라가면 안된다

CFE_해외칼럼_25-07.pdf

지난달 미국과 영국의 AI 안전 기관은 AI 안전성을 연구하고 개발하기 위한 정책 권고안을 개발하기 위해 협력하기로 발표했다. 겉으로는 신중해 보이지만, '안전'이라는 선의의 외관 뒤에는 AI 시스템이 말하고 행동할 수 있는 것을 제어하려는 얄팍한 시도가 숨어 있다. 잠재적 위험으로부터 우리를 보호한다는 명목 하에 서방 각국 정부는 AI의 발전보다는 AI의 내용과 행동을 통제하는 데 더 관심이 있는 것처럼 보인다.

미국과 영국의 협력은 'AI 안전' 운동의 최신 사례에 불과하다. 전 세계 각국 정부는 국가 안보와 신기술과 관련된 잠재적 위험에 대한 우려를 해소한다는 명목 하에 더 많은 통제권을 확보하기 위해 연막 같은 유사한 작전을 진행한다.

예를 들어 지난 3월, 유럽연합은 유럽 전역에서 인공지능의 개발과 배포를 관리하기 위한 포괄적인 규정인 AI 법안을 통과시켰다. 인공지능의 잠재력을 두려워하는 사람들에게는 승리처럼 보일 수 있지만, 실제로 이 법안은 잠재적 피해에 따라 규제 부담을 조정하는 위험 기반 접근 방식을 사용하며 개발자에게 AI 사용에 관한 명확한 요구 사항을 제공한다고 주장한다. 이 개념은 합리적으로 들릴 수 있지만, EU의 '고위험'에 대한 광범위한 정의는 광범위한 결과를 초래할 수 있다.

인공지능의 강력한 장악

AI 법률에 따르면 AI 모델은 '높은 영향력'과 같은 모호한 기준이나 위원회의 일방적인 결정에 따라 '체계적 위험'이 있는 것으로 분류할 수 있다. 위원회에 부여되는 모호한 표현은 오픈소스 프로젝트로 개발된 모델도 향후 AI 시스템의 구성 요소가 될 많은 기본 모델을 규제할 수 있다. 민간 기업이 개발한 특정 모델에 대해 더 높은 명백함을 요구하는 것은 합리적이지만, 오픈소스 프로젝트에까지 동일한 조사를 적용하는 것은 실수이다. 오픈소스 개발은 협업, 혁신이라는 AI법이 추구하는 가치를 구현하는 것으로, 이를 억압할 것이 아니라 축하해야 한다.

폐쇄형 소스와 오픈 소스 AI를 구분하지 않음으로써 이 법안은 폐쇄형 경쟁자와 같은 규제의 덫에 걸리게 할 위험이 있다. 이러한 불확실성으로 인해 개발자들은 칭찬을 받을지 처벌을 받을지 알 수 없다. 그 결과 AI 분야의 가장 똑똑한 인재들이 끊임없이 변화하는 규정의 미로를 헤쳐 나가면서 오픈 소스 혁신에 대한 위축효과가 나타나게 된다. 예를 들어, 오픈 소스 기반 모델을 제공하는 프랑스 AI 기업 미스트랄(Mistral)은 "AI 법이 우리 기업을 죽일 수 있다"고 경고했다. 유럽의 주요 기업들도 이 메시지에 공감하고 있다. 독일에 본사를 둔 알레프 알파 (Aleph Alpha)는 회사가 본인의 나라로 오라는 외국의 제안을 받았다고 전해진다.

실제로 경쟁국들은 유망한 스타트업을 잡아먹으려는 듯 상어처럼 몰려들고 있다. AI 세계의 새로운 중심지로 자리잡을 기회를 느낀 아랍에미리트는 황금 비자와 자체 최첨단 언어 모델인 팔콘(Falcon)을 활용할 수 있는 기회를 놓치지 않았다. 사우디아라비아는 400억 달러 규모의 AI 투자 기금을 내걸며, EU 회원국의 초라한 제안들과는 비교할 수 없는 경쟁력을 과시하고 있다. 캐나다조차도 최고의 인재를 영입하기 위해 가능한 모든 AI 스타트업과 연구원을 조용히 유치하고 있다.

중국이 아닌 미국이 AI 분야에서 주도권을 잡아야 한다

미국이 무엇을 할 것인지는 이 중요한 시점에서 여전히 미해결 과제로 남아있다. 2023년에는 AI 관련 로비가 무려 185% 증가했으며, 이는 주로 몇몇 기술 대기업의 이기적인 이해관계에 의해 주도되었다. AI 시장이 빠르게 통합되고 있는 상황에서, 미국의 미래는 유럽과 비슷해질 수 있다.

꼭 이런 식일 필요는 없다. 더 안전하다고 주장하지만 여전히 책임감이 없고 대중의 감시를 받고 있는 폐쇄형 시스템과 달리 오픈소스 AI는 세계 최고의 인재들이 이러한 모델을 스트레스 테스트하고 면밀히 조사하며 개선하도록 장려하여 안전하고 책임감 있는 기술 개발을 가속화한다. 이러한 방식은 역사적으로 아이디어와 혁신을 만들었다. 국가 안보를 보호하는 가장 좋은 방법은 이 혁신적인 기술을 비공개로 숨기는 것이 아니라 발전을 하도록 돕는 것이다.

만약 의회가 지금 혁신을 촉진하고 오픈 소스 AI 개발을 보호하는 다른 길을 개척할 수 있는 덧없는 기회로 인식한다면, 미국은 AI 혁명의 최전선에 서게 될 것이다. 그 위상이 높을수록, AI 경쟁에서 승리한 국가는 21세기를 형성하게 될 것이다. 우리는 부담스러운 규제 속에서 통제의 환상에 집착할 수도 있고, AI가 숨 쉴 수 있도록 하여 그 잠재력을 최대한 발휘할 수도 있다

*본 내용은 아래 기사 및 칼럼 내용을 요약 번역한 내용임*

Jake Denton, U.S. Shouldn’t Go the Way of Europe on AI, 8 May 2024

번역: 정구범

출처: https://www.heritage.org/big-tech/commentary/the-us-shouldnt-go-the-way-europe-ai