제5회: AI 기본법의 방향

[시장경제콜로키움] AI 기본법의 방향.pdf

제5회 시장경제콜로키움

일시: 2025년 4월 24일 오전 11시, 장소: 열림홀

주제: AI 기본법의 방향

발제: 박혜림 자유기업원 기획팀장

토론:  김영용 전남대학교 명예교수, 김이석 시장경제제도연구소 소장, 안재욱 자유기업원 이사장, 최승노 자유기업원 원장 외 자유기업원 연구원 3인

AI 기본법의 방향

박혜림 자유기업원 기획팀장

AI 기본법은 이제 막 입법의 첫걸음을 뗐다. 4차 산업혁명의 핵심 기술로 부상한 인공지능(AI)은 기술 자체를 넘어 사회, 경제, 정치 전반에 구조적 변화를 야기하고 있다. 기술의 진보는 법과 제도의 속도를 압도하고 있으며, “어떻게 통제할 것인가”보다 “어떻게 공존할 것인가”에 대한 답을 요구하고 있다. 이 변화의 흐름 속에서, 한국은 세계 두 번째로 AI 기본법을 제정하며 발 빠른 행보를 보였다. 하지만 그 내용은 기술의 흐름에 비해 지나치게 경직적이며, 기업계에서는 벌써부터 '규제 과잉’ 우려가 제기되고 있다.

우리는 미국형 AI에 주목해야 한다. 미국은 정부 주도의 직접 규제보다는, 민간의 기술 혁신 역량을 극대화하는 방향으로 AI 시장을 활성화했다. 2023년 7월, 마이크로소프트, 구글, 메타, 아마존, 오픈AI 등 미국의 주요 AI 기업들은 백악관과 협력해 '안전하고 신뢰할 수 있는 AI 확보'라는 자율 규범을 마련하였다. 이 합의는 법적 구속력은 없지만, AI 시스템의 안전성, 투명성, 책임성 확보를 위한 민간 주도의 기준 정립이라는 점에서 의미가 크다. 기업은 자사 모델 공개 전 독립적인 검증 절차를 마련하고, 생성형 AI의 콘텐츠에 워터마킹을 적용하는 등 위험 완화 장치를 도입하기로 했다. 동시에 바이오안보, 사이버보안, 알고리즘 편향 등 사회적 위험 요소를 식별하고 완화하기 위한 공동 기준도 제시하였다.

빅테크 기업들의 경쟁 구도 속에서 자연스럽게 하나의 생태계가 구축된 것이다. 마이크로소프트는 오픈AI와의 전략적 파트너십을 통해 AI 주도권을 강화하고 있으며, 구글은 자체 생성형 AI 모델인 Gemini를 중심으로 세계관을 확장 중이다. 애플 또한 AI 분야 후발주자로 분류되지만, 보안 중심의 AI 칩 개발과 개인화 모델 전략으로 차별화된 노선을 추구하고 있다. 이들 기업은 기술 경쟁을 넘어서, AI의 안전성·윤리성·책임성을 담보하는 기준을 선점하려는 '규범 경쟁’의 단계로 접어들었다.

한국은 정부 주도의 규제 프레임에 갇혀 경쟁의 흐름에 역행하고 있다. 위험을 전제로 한 사전 차단 방식으로 접근하고 있기 때문이다. 대표적인 사례로 AI 기본법 제28조를 보면, '생성형 AI’에 대해 일률적인 표시 의무를 부과하고, 그 책임을 제공자에게 지우고 있다. 이 조항은 기술의 용도나 사회적 맥락을 세분화하지 않고, 단순 요약형 챗봇부터 의료진단·교육서비스에 이르기까지 포괄적으로 동일한 의무를 적용한다. 기술의 리스크가 아니라, 그 자체를 규제 대상으로 삼는 접근이다.

고위험 AI에 대한 정의는 추상적이고, 시행령에 위임된 부분이 많아 향후 어떤 기술이 규제 대상이 될지조차 예측하기 어렵다. 이러한 법 체계는 기업들로 하여금 '무엇을 할 수 있는가’보다 '무엇을 하면 문제가 될까’를 우선 고려하게 만든다. 규제 회피와 리스크 최소화에 초점을 맞춘 구조는 결국 글로벌 AI 전쟁에서 기업이 본연의 경쟁력을 키우기는 대신, 왜곡된 방식으로 활동할 수밖에 없게 만든다.

하나의 AI 서비스에 개인정보보호법, 신용정보법, AI 이용자 보호법 등이 동시에 적용되면서, 최대 '4중 규제’ 적용 가능성도 지적 받고 있다. 중첩된 규제는 신기술 기반 스타트업이나 기업들이 기술을 상용화하기도 전에 복잡한 규제 장벽에 부딪히게 만든다. 창의성과 민첩성이 핵심인 AI 글로벌 패권 경쟁에서 우리 기업들은 심각한 제약을 받을 수밖에 없다.

AI 기본법의 한계를 근본적으로 해결하기 위해서는, 기술 그 자체보다 기술이 사용되는 상황과 그로 인해 발생할 수 있는 영향에 주목하는 관점의 전환이 필요하다. AI는 산업 간 경계를 허무는 일반목적기술(General Purpose Technology)로, 기술 자체보다 그것이 활용되는 용도와 맥락이 위험 수준을 좌우한다. 기술을 규제하는 데 집중하기보다, 위험 기반 접근(risk-based approach)을 채택해 차등적이고 유연한 규제 체계를 마련해야 한다.​

AI 생태계 조성을 위해 저작권, 개인정보, 정보보호 등 규제 혁신과 AI 인프라 구축, AI 기술 개발이 선행돼야 한다. AI가 정보분석 목적으로 데이터를 이용하면 저작권자의 저작물을 AI 학습용 데이터로 사용할 수 있도록 텍스트 데이터 마이닝(TDM) 면책규정 역시 논의되야 한다. 이러한 면책 규정은 AI 모델의 학습 데이터 확보를 용이하게 하여 기업의 경쟁력 향상에 기여할 것이다.

기업의 혁신은 통제가 아니라, 자유롭게 경쟁할 수 있는 환경에서 비롯된다. 정부는 민간의 자율성과 혁신이 제대로 작동할 수 있도록, 경쟁을 가로막지 않는 명확한 원칙만을 제시해야 한다. AI 기본법이 도입된 후 시행령 제정을 앞둔 지금, 명확한 기준과 정의를 바탕으로 최소한의 질서를 세우는 방향으로 발전해야 한다.

향후 제정될 AI 기본법 시행령이 혁신을 부르는 초석이 되기를 바란다. 어떤 철학과 기준을 담느냐에 따라 AI 업계의 활력을 좌우할 것이다. 기술 진화의 흐름을 따라잡으려 하기보다는, 제도의 일관성과 책임 원칙을 통해 기업이 새로운 AI 생태계를 형성할 수 있는 기반 마련에 집중해야 한다.