<요 약>
우리나라는 2025년 1월 21일 AI 기본법을 제정하고 2026년 1월 22일부터 시행함으로써 EU에 이어 세계 두 번째 AI 기본법을 입법한 국가임. 주요 내용은 (1) AI 발전 및 신뢰 기반 조성 체계 마련 (2) AI 기술 개발 및 산업 육성 (3) AI 윤리 및 신뢰성 확보 방안 등으로 요약 가능
최근 AI 관련 국내외 이슈로는, 국제적 차원에서 (1) 중국 딥시크(DeepSeek)가 고성능 AI 모델을 저비용으로 개발하여 공개함으로써 미국과 중국 간의 글로벌 패권 경쟁이 심화하고, (2) 미국 트럼프 2기 행정부가 바이든 전 정부의 AI 행정명령을 폐기함으로써 규제 완화 정책을 추진하며, (3) EU도 일부 국가가 규제보다는 산업 육성 정책을 강화하면서 글로벌 경쟁에 가세되었음. 국내적 차원에선 AI 기본법이 산업진흥과 규제 중 어디에 가중치가 더 두어져 있는지에 대한 논란이 제기되며 하위법령에서 정책 균형점을 잘 찾아야 하는 과제가 제기
AI 기본법에 대하여 기업들은 (1) 법적 기준이 마련되어 정책 불확실성이 다소 해소된 점, (2) AI 육성과 지원 정책이 강화될 것이라는 점, (3) AI 경쟁력 향상 등에 대한 기대가 커진 반면, (4) 고영향 AI 범위가 모호하여 광범위하게 적용될 가능성, (5) 규제로 인해 기업 부담 증가 및 해외 투자 유치 애로가 발생할 수 있다는 점, (6) 산업계와의 실질적 소통이 미흡하여 의견 반영이 충분하지 않았다는 점 등에 대하여 우려하고 있음.
AI 규제에 대한 국제적 기류는 경성규제에서 연성규제로 변화하는 과정에 있다고 판단함. 세계 주요 국가들의 경제정책은 신산업에 대한 규제보다는 AI, 바이오 등 첨단 산업 육성과 녹색 전환 등에 중점을 둔 산업정책을 추진하고, 글로벌 공급망 위기에 대응하기 위한 경제 안보에 집중하며, 양질의 일자리 창출 노력을 가속화 하는 신산업정책 패러다임으로 변화
규제경제학적 관점에서도 AI와 같이 예상할 수 없는 속도로 혁신하는 산업을 경직적 규제로 통제하는 것은 비효율적이며 산업발전에도 부정적 영향이 크다고 판단함. AI 기본법 하위법령 수립에 있어 산업계와 정부의 소통 창구를 강화하여 정책 중심이 산업진흥에 더 많이 두어지고 규제는 유연하게 설계될 것 기대
|
Ⅰ |
|
서론 |
중국 스타트업 딥시크(DeepSeek)가 고성능․저비용의 딥시크R1을 오픈소스로 공개하며 미․중간 세계 AI 시장 패권 경쟁이 본격화함.
딥시크는 AI 훈련비용이 미국 기업 비하여 크게 저렴함에도 불구하고, 오픈 AI의 GPT-4o 성능을 구현
AI 개발의 핵심적 가치가 우수한 성능과 함께 비용 대비 효율성, 소비자 맞춤형 대응 등 기능 다양화에도 있음을 부각
중국 유니트리사는 AI와 로봇을 결합한 휴머노이드 로봇 H1 모델을 상용화하여 온라인 판매를 시행하여 완판되는 성과를 올림.
중국 피지컬(Physical) AI 산업 약진은 미국의 대중국 첨단 기술 유출 규제 속에서 이루어진 성과
또한 중국 빅테크들은 대규모 AI 투자계획을 발표함.
알리바바의 마윈이 향후 3년간 AI 분야에 약 220조원에 이르는 투자계획을 발표하였고, 틱톡 모기업인 바이트댄스는 2025년에 17조 2천억 원을 투자할 계획
한편 미국 트럼프 행정부는 MAGA(Make America Great Again) 슬로건 아래 자국 중심의 경제정책들을 연이어 추진함.
바이든 전 정부에서 시행한 ‘안전하고 신뢰할 수 있는 AI의 개발 및 활용에 관한 행정명령’을 폐지하고, 산업 육성정책 성격의 ‘인공지능 분야 리더십 강화를 위한 장벽 제거’ 행정명령을 발표
민간의 혁신과 성장을 강조하는 한편 규제는 최소화하겠다는 정책 의지 표명한 것으로 해석 가능
이처럼 미국과 중국의 글로벌 AI 패권 경쟁이 본격화․가속화되고 있는 가운데 EU도 미․중 간의 AI 패권 경쟁에 가세하는 양상을 보임.
최근 개최된 제3차 파리 AI 행동 정상회의(AI Action Summit)는 AI 기술 개발 및 경쟁력에 관한 논의를 중점적으로 진행하여 지난 정상회의가 안전과 포용, 혁신 등에 초점을 두었던 것에 비하여 차이
우리나라는 2024년 12월말 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)’이 국회를 통과하고 2025년 1월 21일 제정되어 EU에 이어 세계에서 두 번째로 AI 기본법을 마련함.
법의 시행은 1년 후인 2026년 1월 22일
주요 내용은 ① AI 발전 및 신뢰 기반 조성 추진체계 마련, ② AI 기술 개발 및 산업 육성 방안 ③ AI 윤리 및 신뢰성 확보 방안 등으로 AI 산업 발전을 위한 법적 토대가 마련
본 보고서는 2025년 1월 24일 개최된 ‘AI 기본법: 혁신과 규제 속 방향 점검’ 자유기업원 주최 세미나에서 발표된 고상원 박사의 발제 자료와 저의 토론 자료를 토대로 최근 상황을 반영하여 작성함.
<그림 1> DeepSeek의 성능
자료: DeepSeek 자료를 혁신성장금융1부 한국수출입은행(2025)에서 재인용
|
Ⅱ |
|
최근 AI 관련 이슈 |
1. 국제적 이슈
젠슨 황 엔비디아 CEO는 세계 최대 규모의 IT․가전 박람회인 2025 CES 기조연설에서 AI가 놀라운 속도로 진보하여 처리와 추론, 계획, 행동이 가능한 ‘물리적 AI (Physical AI)’ 시대로 들어서고 있다고 주장함.
이러한 변화의 중심에 엔비디아 GPU와 플랫폼이 있으며, 게이밍과 로보틱스, 자율주행 차량 업계 전반의 혁신이 가능하다고 발표
엔비디아의 신기술은 디지털 분야의 애플리케이션을 넘어 AI가 로보틱스와 결합하여 새로운 물리적 세계로 혁신할 길을 열어 주며 향후 수년간 로보틱스 전반에서 놀라운 혁신을 경험하게 될 것으로 전망
자료: https://www.newsis.com/view/NISX20250107_0003023817
<그림 2> AI 발전 단계
자료: 엔비디아 자료를 황원정․이상원(2025)에서 재인용
한편 AI를 이용하여 애플이 아이폰 기사 알림 요약을 제공하던 서비스가 기사 요약 오류를 반복하면서 중단되는 일이 발생함.
애플 인텔리전스는 유나이티드 헬스케어 CEO를 살해한 혐의를 받는 자의 BBC 관련 기사를 잘못 요약하여 아직 AI가 불완전한 측면이 있음이 드러나며 파장을 일으킴.
자료: https://www.mk.co.kr/news/world/11220562
2. 국내적 이슈
국내적으로는 AI 기본법이 산업진흥과 규제 중 어디에 더 정책 비중을 두고 있는가에 대해서 논란이 있음. 다음은 정책 방향성에 대해서 서로 대조되는 언론매체 기사 2건을 발췌하여 소개함.
‘(중략) 생각보다 빠르게 통과된 AI 기본법으로 사업자들이 바짝 긴장하고 있다. AI 기본법이 사업장에 대한 규제 중심일 뿐 육성과 활용에 대한 방향은 부족한 실정이기 때문이다. 특히 고영향 AI에 해당하는 의료, 금융, 교통, 에너지 등에 속하는 사업자군은 AI 기본법으로 인한 직격타를 맞을 것으로 예상된다 (중략)’
자료: https://view.asiae.co.kr/article/2025011313311601914
‘(중략) 한국의 기본법은 규제보다는 산업 진흥에 무게를 두고 있는 게 분명한 것 같다. 하지만 규제적인 요구사항에 대해 긴장을 늦추면 안 된다. (중략)’
자료: https://www.sedaily.com/NewsView/2GNPB2K4W3
|
Ⅲ |
|
AI 기본법에 대한 기대와 우려 혼재1) |
AI 기본법은 우리나라 AI 산업의 전환점이자 새로운 도약의 계기가 될 것으로 기대됨. 그렇지만 신기술산업에 대한 사전 규제적 성격이 존재하고 적용 대상이나 범위가 모호한 규정들이 있어 기업들의 우려도 있음.
1. 기업들의 기대
법적 기준 수립 및 예측 가능성 확보
AI 기술 개발과 활용에 대하여 기준을 수립함으로써 정부 정책 불확실성이 완화될 것으로 기대
산업 진흥과 지원 정책 강화
‘AI 가장 잘하는 국가’로 도약하기 위한 AI 산업 육성 및 지원 정책이 강화될 것으로 예상되며 기업 성장에 긍정적인 영향 기대
국가 AI 경쟁력 향상
AI 산업이 국가 성장과 도약을 견인할 핵심 성장 기반이라는 인식하에 제정된 세계적인 선도 입법사례로, 혁신 AI 기술 경쟁력 확보와 이를 통한 국내 산업의 글로벌 시장확보에 기여 기대
2. 기업들의 우려
고영향 AI 정의의 모호성
‘AI 기본법 제 2조(정의) 4항 가~카 규정’1)에서 고영향 인공지능에 대한 판단기준이 명확하지 않아 산업 전반에 광범위하게 적용될 가능성 우려
규제 강화로 인한 국내 기업 부담 증가와 해외 기업 유치 애로 가능성
산업진흥보다 규제로 더 크게 작용하며 특히 국내 기업들이 대상이 되고 해외 투자 유치에도 걸림돌이 될 가능성 우려
신산업발전에 핵심적인 창의성과 기업가의 도전정신을 위축시킬 가능성도 제기
산업계 의견 반영 미흡
AI 기본법 하위법령 정비단 구성 등 민․관 소통 기구 구성에 있어 산업계 대표성 부족 우려가 제기
하위법령 수립 과정에 산업계와 소통 창구를 보다 실질적이고 효과적인 방식으로 운영할 필요
|
Ⅳ |
|
주요국 AI 규제 동향 |
1. 세계 AI 관련 입법 추이
미국 스탠퍼드(Stanford) 대학교 인간중심 인공지능연구소 (Human
-Centered Artificial Intelligence, 이하 ‘HAI’)의 ‘AI 지표 보고서 2024(AI Index Report 2024)’에 따르면 2016~2023년 기간 중 128개국에서 ‘인공지능’ 관련 법안 논의되었으며, 이 중 32개국에서 적어도 1개 이상의 법이 제정되어 총 148개의 AI 관련법이 입법됨.
2023년 28개 법안이 제정되어 전년보다 법안 수가 감소하였으나 추세적 증가세는 이어지고 있다고 분석
<그림 3> 국가별 AI 관련 입법 수 (2016~2023년)
자료: HAI(2024)
<그림 4> 128개국에서 통과된 연도별 AI 관련 법안 수(2016~2023년)
자료: HAI(2024)
제정된 법의 유형 - 즉 AI 사용을 늘리는 확장적(expansive) 유형인지 아니면 AI 사용을 제한하는 제약적(restrictive) 유형인지- 에 따라 분류하면, 제약적 성격의 입법은 증가하고 있지만, 확장적 성격의 입법 수는 증가하지 못하고 있는 것으로 나타남.
이는 각국 입법자들이 AI 사용에 따른 사회의 잠재적 피해를 완화하고자 하는 데 관심을 보다 집중하고 있다는 점을 시사한다고 보고서가 분석
<그림 5> 법안 유형별 입법 수 추이(2016~2023년)
자료: HAI(2024)
2023년 AI 관련 입법이 가장 많은 국가는 벨기에(5개)이며, 한국, 프랑스, 영국 등 3개국이 3개로 조사됨.
2016~2023년 기간 중 누적 수치로는 미국(23개), 포르투갈(15개), 벨기에(12개), 스페인과 한국(11개) 등
<그림 5> 2023년 국가별 AI 관련 입법 수 및 2016~2023년 입법 수 합계
2. 경성규제에서 연성규제로 전환 가능성 커져2)
인공지능에 대한 규제 조치는 다음과 같이 분류될 수 있음.
① 구속력이 없는 연성 규범(soft law), ② 경성 규범(hard law) 접근, ③ 애플리케이션별 일시적 서비스 중지(moratorium) 또는 전면적 금지 도입, ④ 규제실험을 위한 통제된 환경 촉진, ⑤ 국제 표준화 노력 및 국제법 노력 지원
연성규범은 윤리적 프레임워크와 지침, 자발적 프로세스, 기술 표준 및 행동강령 개발 등이 있고, 경성규범은 특정 영역의 AI 기술을 규제하는 법률이 존재함
경성규범으로 분류되는 AI 시스템을 수평적으로 규제하는 최초의 법률인 EU AI Act가 2024년 8월 1일 발효
미국도 2023년 10월 AI 행정명령을 시행하여 국가안보, 건강, 안전을 위협하는 AI 기술 개발과 이용을 규제하고, AI 개발 기업의 안전성 평가 의무화, AI 도구의 안전성 표준 마련, AI 콘텐츠 워터마크 적용 의무화, 개인정보보호 등의 내용을 포괄
그렇지만 미국에서 트럼프 대통령이 집권하면서 2025년 1월 이전 정부의 행정명령을 철회하였고, 선거기간 중에는 AI 개발 지원 정책을 공약으로 내건 바 있음.
따라서 미국의 AI 규제는 경성규제에서 연성규제로 전환하고 세계 AI 국제협력의 중심점이 다자협력에서 양자협력으로 변화할 가능성
3. AI 규제에 대한 글로벌 기류의 변화
Letta 보고서(2024.4)는 유럽단일시장을 달성하기 위해 인력, 재화, 서비스, 자본 이동의 자유에 이어 5번째 자유로 연구, 혁신, 투자에 대한 투자를 강조함.
Draghi 보고서(2024.9)는 과도한 규제를 EU 생산성과 디지털 경쟁력을 약화하는 주요 원인으로 파악
특히 AI와 같은 첨단 분야는 연구와 혁신을 위한 투자를 확대하고 규제를 완화해 혁신을 상업화로 연결하여야 한다고 강조
|
Ⅴ |
|
세계 경제정책 패러다임: 신산업정책으로 회귀 |
1980년대 이후 신자유주의 흐름 속에서 ‘최선의 산업정책이라는 것은 산업정책을 하지 않는 것이다’라는 산업정책 무용론이 주류 경제학의 대세이었음.
그러나 최근에는 오래전부터 산업정책의 효과성을 주장하여 온 하버드 대학의 대니 로드릭(Dani Rodrik) 교수를 비롯하여 OECD, IMF, WTO 등 국제기구가 산업정책 효과를 재평가하며 산업정책이 주목받음.
과거에는 자유시장경제를 옹호하고 정부의 산업 육성 효과에 대해 의문을 제기하며 국가 주도 산업정책에 반대하는 것이 주류 경제학의 대세
코로나19 이후 세계 각국은 경제 회복세를 가속화하고 인공지능 혁명으로 새롭게 변화하고 있는 산업기술 환경에서 경쟁력 우위를 선점하기 위해 산업정책을 적극적으로 추진
<그림 6> 산업정책 관련 학계 및 국제기구의 최근 연구보고서
|
|
|
|
|
|
INTERNATIONAL MONETARY FUND
1. 산업정책 추진 건수 증가 및 증가 요인
세계 주요국 정부가 산업정책을 시행하는 건수가 2017년 이후 크게 증가하여 2010년 G20 국가들의 산업정책은 34건에 불과하였으나 2021년에는 1,594건으로 급증함.
1인당 GDP가 높은 국가들이 저소득 국가들보다 산업정책을 많이 시행
<그림 7> G20의 산업정책 건수 변화와 국민소득 수준별 시행 건수(2010~2022년)
자료: Juhàsz, R. et. al (2024)
주: a. 2010~2022년 누적 수치, 2010년 기준 소득수준이 가장 낮은 1분위
(하위 20%)에서 가장 높은 5분위(상위 20%)의 산업정책 건수
산업정책을 추진하는 주된 동기로는 산업경쟁력 강화가 37.0%로 가장 많고 기후변화 대응, 공급망 위기 대응 등도 각각 28.1%, 15.2%의 비중으로 나타났으며, 국가안보와 지정학적 갈등에 대응하기 위해 도입된 경우도 약 20% 차지
<그림 8> 산업정책 도입 동기
자료: IMF(2024)
주요 국가들의 경제정책 패러다임이 산업정책으로 회귀하는 이유는 디지털 경제와 녹색 경제로 전환에 대응하고 AI, 바이오 등 첨단 기술 산업에서 경쟁력 우위를 확보하는 것에 초점
또한 2008년 금융위기, 2019년 코로나 위기 등 일련의 경제위기로 인한 고용 및 물가 불안을 완화하고, 미국과 중국의 통상분쟁에서 촉발된 지정학적 위기 및 글로벌 공급망 혼란을 타개하려는 목적도 존재
2. 산업정책 성공 조건3)
대니 로드릭 교수는 다음 3가지 방식으로 산업정책이 수립되고 집행될 때 성공 가능성이 높아진다고 주장함.
(1) 명확하고 단일한 목표를 설정하여 추진하는 것으로 예를 들면, 고용 창출, 수출산업 생산능력 확충 등과 같은 단일 목표에 집중할 때 성공 가능성이 상승
(2) 사회학자들이 ‘체화된 방식(embedded manner)’이라고 표현하는, 민․관 협력을 통한 정보 교류가 중요하며 정책이 탑다운 또는 형식적으로 진행되는 것은 바람직하지 못하고 민간․정책입안자․이해관계자 간의 실질적이며 지속적인 상호작용과 정보 교환이 중요
(3) 특히 정부의 유연하면서 엄격한 관리(government discipline)가 중요함. 승자 선택보다 패자(쇠퇴) 산업을 신속하게 정리하는 것이 중요하고, 정책 실패가 발생한 분야에서는 이를 신속하게 포기․철수할 수 있는 유연성과 엄격한 모니터링이 필요하다고 주장함.
* 참고: (3) 인터뷰 원문
|
Ⅵ |
|
규제경제학적 관점 AI 기본법 검토 |
1. 규제가 지닌 ‘one size fits all’ 성격
규제경제학에서는 규제를 설계할 때 모든 대상에게 동일한 (또는 유사한) 기준을 적용하려는 시도를 ‘one size fits all’이라고 표현하며, 이러한 특성 때문에 다양한 상황에 맞는 맞춤형 규제를 설계하기 어려움.
‘one size fits all’은 단일 규제 방식이나 정책이 모든 산업에 보편적으로 적합하다고 가정하는 접근법으로 긍정적 효과와 부정적 효과를 동시에 지님.
긍정적 측면
- 단순성과 효율성 제고: 법적 명확성과 행정 비용의 절감
- 형평성 및 규제 예측 가능성 제고
- 글로벌 표준화와 정합 가능성
부정적 측면
- 혁신과 다양성 저해 우려: 산업별 특수성 반영 부족, 혁신 비용 증가
- 비효율적 자원 배분에 따른 경쟁력 약화 가능성
- 규제 경직성: 혁신 속도가 빠른 신산업을 하나 또는 몇 개의 잣대로 판단하는 데 따르는 위험
- 사회적 수용성 미흡: 이해관계자 간 갈등 초래 우려
‘one size fits all’ 접근은 시장 참여자들에게 단순성과 명확성을 제공하며 산업 발전 초기 단계에서는 효과적이지만 산업별 다양성과 특수성을 반영하기 어렵고, 특히 신산업의 발전 속도에 적합한 규제체계를 형성하기 쉽지 않음.
맞춤형 규제 방식도 결국 ‘one size fits all’의 제한적 잣대로서 다양하고 빠르게 진화하는 산업에는 경직적으로 작용할 가능성
2. 비례적 규제 방식 접근
AI와 같이 예측하기 어려울 정도로 빠른 속도로 진화하는 기술과 이를 접목한 융합 제품 및 서비스 신산업의 경우 비례적 규제 (Proportional Regulation) 규제접근이 효과적일 수 있음.
비례적 규제는 규제 범위와 강도가 기술이나 산업의 특성과 규모에 비례하도록 설계된 방식으로 규제가 지나치게 강하거나 약하지 않도록 상황에 적절한 균형을 찾는 접근법
따라서 차등적이면서 신속하고 유연하게 상황에 대응하고 이해관계자와 긴밀한 협의 체계를 구성․운영하는 것이 긴요
- 차등적 규제 도입: 산업이나 기업 규모, 기술 위험 수준과 사회적 영향력 등을 기준으로 규제 강도를 차별화하는 방안
- 유연한 규제 설계: 기술 변화와 시장 상황에 신속히 대응할 수 있는 규제 프레임워크(예: 규제샌드박스)를 설계하고 도전정신으로 창업하는 벤처기업이 능동적으로 시장에 참여할 충분한 기회 제공
- 리스크 기반 접근: AI 사용 목적과 위험 수준에 따라 규제 기준을 세분화하여 적용하면 규제의 효율성을 제고
- 이해관계자와 긴밀하며 실질적인 협의 체계 가동: 산업계, 학계, 시민사회의 포괄적이면서도 긴밀한 채널을 정부가 형성하고 다양한 의견을 반영하여 사회적 수용성을 실질적으로 제고
AI의 혁신 단계와 진전 속도를 감안할 때 AI 기본법이 하위법령에 위임한 규제와 산업진흥의 균형추는 규제보다는 진흥에 무게를 둘 필요가 있다고 판단함.
AI 분야 국내 기업의 혁신적 기술 발전과 융합 기술 및 산업의 성장을 적극적으로 장려하는 데 중점
주요국과 국제기관의 AI 관련 입법과 논의 추이를 면밀하게 파악할 필요
‘EU AI Act는 모든 분야의 AI 위험을 강제적이고 수평적으로 규제하고 처벌하는 방식의 제도이며, 미국, 영국, 싱가포르 등 세계 주요국은 유사한 제도를 도입하는 것에 대해 미온적이고 신중한 입장’이라는 국책연구기관의 연구결과를 신중하게 참고할 필요(김정욱 외, 2024)
과학기술정보통신부는 ‘AI 기본법 하위법령 정비계획’, ‘AI 글로벌 3대 강국으로 도약을 위한 종합계획’, ‘개인정보 보호 추진계획’ 등 AI 관련 정책을 발표함.
앞으로도 AI 기본법 하위법령이 우리나라 AI 산업이 국제경쟁력을 확보하고 국가 경제의 핵심 산업으로 성장할 기반이 되는 반석으로 수립되기를 요망
|
첨부1 |
|
AI 기본법 제1조 (목적)과 하위법령 관련 기업 건의 |
1. AI 기본법 제1조(목적)
‘인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 확보하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 데 이바지함을 목적으로 함.’
법의 제안 사유로는 (1) 인공지능은 모든 산업뿐만 아니라 사회를 바꾸는 기반 기술로 최근 성능이 비약적으로 발전하고 있으며, (2) 특히 생성형 인공지능 등장에 따라 인공지능이 가져올 잠재적 혜택과 위험성에 대한 우려에 전 세계가 주목하고 있다고 판단하고, (3) 건전한 발전 지원과 신뢰 기반 조성을 위한 대한민국 인공지능의 새로운 기준을 마련하기 위함임을 제시
우리 정부는 산업진흥을 위한 인센티브(당근)와 사회적 위험을 최소화하려는 규제(채찍)가 금년 상반기 중 시행령 등 하위법령으로 구체화할 것임을 발표함.
하위법령 입법에 혁신 기술 발전에 따라 과거 신산업이 성장하였던 시기의 산업정책 추진 사례를 참고할 필요가 있다고 판단
* 사례: 인터넷, 스마트 폰 등 정보화․디지털 혁명 기간에 ICT 산업과 소프트웨어산업 등을 육성하면서 디지털 격차(digital divide)와 디지털 범죄 등 부작용을 완화하기 위한 정책을 추진한 사례
과거 정책의 성과 긍정적 측면과 부정적 측면을 세밀하게 평가하여 하위법령 입법에 참고할 필요
2. AI 기본법 목적 달성을 위한 기업 건의 사항
(1) ‘고영향 인공지능’ 관련(제2조 4항 카 규정)
인공지능시스템이 활용되는 영역만을 고려하기보다는 해당 영역에서 ‘ 사람의 생명․신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려’가 있는지를 기준으로 한 점은 영향(위험)을 기준으로 판단할 수 있다는 측면에서는 긍정적임.
그렇지만 ‘사람의 생명․신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려’에 대한 구체적인 해석은 부재
‘그 밖에 사람의 생명․신체의 안전 및 기본권에 중대한 영향을 미치는 영역으로써 대통령령으로 정하는 영역’을 확정할 때 해외 입법례와 현장을 모니터링하면서 인공지능산업 발전과 위험 관련 균형점을 모색
(2) ‘고영향 인공지능 사업자의 책무 부담 주체’ 관련(제34조)
고영향 인공지능 사업자는 안전성․신뢰성 확보를 위한 구체적인 조치를 취하도록 규정함.
인공지능 사업자는 인공지능개발사업자로 인공지능 이용사업자를 포괄하는 개념이어서 시장 참여자 광범위한 영역에 해당한다고 볼 수 있어 구체적으로 어떤 사업자가 의무를 부담하는지 명확하게 할 필요
특히 본 조항을 위반하는 경우 기업이 과기부의 사실 조사, 시행 명령 및 과태료 부과 대상이 될 수 있어 범위 명확화는 중요
* 참고: EU AI Act는 관련 사업자를 고위험 인공지능의 공급자(provider), 배포자(developer) 및 유통자(distributer)로 각각 나누어 관련 의무를 차등적으로 부과
(3) 하위법령 위임 내용에 대한 실질적 소통 창구 마련
인공지능 검․인증(제30조), 투명성 확보(제31조), 대규모 인공지능시스템에 대한 안정성 확보(제32조), 고영향 인공지능 확인(제33조), 고영향 인공지능시스템에 대한 안전성․신뢰성 확보 조치(제34조), 고영향 인공지능 영향평가(제35조)
구체적 관련 내용은 대통령령 또는 과기부 고시 등에서 확정
입법 취지에 부합하면서 산업 혁신을 저해하지 않고 혁신 속도에 효과적으로 대응할 수 있도록 산업계의 의견을 충분히 반영할 수 있는 실질적 창구와 절차를 마련할 필요
(4) ‘대규모 인공지능시스템’에 대한 규제 관련(제32조)
학습에 사용된 누적 연산량이 대통령령 기준 이상인 인공지능시스템의 경우, 안정성 확보를 위한 이행 의무를 부담하고 이를 과기부에 제출
그러나 학습에 사용된 누적 연산량만을 기준으로 안정성 확보 의무를 부과하는 것이 입법 취지에 부합하는지와 다른 기준을 검토할 필요가 없는지에 대해서 추가적인 검토가 필요
해외에서는 학습 단계보다는 학습 이후의 추론적 사고 (inference reasoning)으로 중점이 이동하고 있는 상황
(5) ‘영향받는 자’의 설명 받을 권리 관련(제3조 2항)
영향받는 자(인공지능제품 또는 서비스에 의해 자신의 생명, 신체의 안전 및 기본권에 중대한 영향을 받는 자)는 인공지능의 최종 결과 도출에 활용된 주요 기준 및 원리 등에 대하여 기술적․합리적으로 가능한 범위에서 명확하고 의미 있는 설명을 청취할 수 있음을 규정함.
의무를 이행하여야 하는 주체에 대한 명확한 규정이 없어 보완할 필요
(6) ‘사실조사’ 관련(제40조)
단순히 ‘신고를 받거나 민원이 접수된 경우’만으로도 정부 조사가 이루어지는 것은 아닌지에 대한 우려가 제기됨.
법 위반에 대한 합리적인 의심과 증거가 있고 그러한 경우라도 적법한 절차에 따라 사실 조사가 이루어지도록 조치가 필요
(7) 저작권 관련
AI 학습과 관련된 저작권 문제에 대하여 해외 사례와 글로벌 스탠다드를 잘 반영하여 규정할 필요가 있음.
(8) 적용 범위 예외 규정 (제4조 2항)
‘이 법은 국방 또는 국가안보 목적만으로 개발․이용되는 인공지능으로서 대통령령으로 정하는 인공지능에 대해서 적용되지 아니한다’라고 상당히 한정적인 범위의 예외 규정이 있음.
EU AI Act가 과학 연구개발만을 목적으로 하거나 서비스 출시 이전의 시스템과 모델에 대해서 법 적용 예외로 하는 점 등을 고려하여 현재의 예외 규정을 보다 확대할 필요
(9) AI 데이터 센터 구축 및 확장과 전력 확보
AI 산업은 데이터를 안정적으로 확장가능 하도록 저장하고 처리하는 고품질․대규모의 데이터 센터를 비롯한 제반 인프라 구축이 필수적임.
특히 전기 먹는 하마로 표현되는 대규모 데이터 센터의 구축이 시급한 과제라고 판단되는데, 정부는 AI의 영향으로 2030년 반도체산업 및 데이터 센터의 전력 수요가 2023년 수요의 2배 이상 증가할 것으로 전망(이승만, 2025)
싱가포르의 경우 데이터 센터 수요 증가에 대응하기 위해 데이터 센터에 할당되는 전력량을 현재 수준 대비 35% 늘릴 계획을 발표하였는데 구글은 아시아에 대만, 일본, 싱가포르 등 3국에 대규모 데이터 센터를 운영
(10) AI 인재 확보
AI 업계에서는 ‘인재를 얻는 사람이 모델을 얻고, 모델을 얻는 사람은 세상을 얻는다’라는 말이 있을 만큼 AI 인재의 확보는 경쟁력 확보의 핵심 사안이며 AI 인재 글로벌 구인 경쟁이 치열함.
산․학․연과 교육․과기․산자부 등 범정부는 세밀하고 체계적인 AI 인재 양성 및 확보계획을 글로벌 차원에서 공동으로 모색할 필요
|
첨부2 |
|
AI 기본법 제2조 (정의) 제4항 가~카 규정 |
4. “고영향 인공지능”이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 다음 각 목의 어느 하나의 영역에서 활용되는 것을 말한다.
가. 「에너지법」 제2조 제1호에 따른 에너지의 공급
나. 「먹는물관리법」 제3조 제1호에 따른 먹는물의 생산 공정
다. 「보건의료기본법」 제3조 제1호에 따른 보건의료의 제공 및 이용체계의 구축ㆍ운영
라. 「의료기기법」 제2조 제1항에 따른 의료기기 및 「디지털의료제품법」 제2조 제2호에 따른 디지털의료기기의 개발 및 이용
마. 「원자력시설 등의 방호 및 방사능 방재 대책법」 제2조 제1항 제1호에 따른 핵물질과 같은 항 제2호에 따른 원자력시설의 안전한 관리 및 운영
바. 범죄 수사나 체포 업무를 위한 생체인식정보(얼굴ㆍ지문ㆍ홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적ㆍ생리적ㆍ행동적 특징에 관한 개인정보를 말한다)의 분석ㆍ활용
사. 채용, 대출 심사 등 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는판단 또는 평가
아. 「교통안전법」 제2조 제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
자. 공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, 「공공기관의 운영에 관한 법률」 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정
차. 「교육기본법」 제9조 제1항에 따른 유아교육ㆍ초등교육 및 중등교육에서의 학생 평가
카. 그 밖에 사람의 생명ㆍ신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역
참고 문헌
고상원(2025), 글로벌 AI 규제 동향과 시사점, ‘AI 기본법, 혁신과 규제 속 방향 점검 세미나 발제자료,’ 자유기업원.
김근효(2023), 미국의 신산업정책의 변화와 특징, Policy Brief vol. 2, 경제․인문사회연구원.
김계환․양주영 외(2024), 미-중의 공급망 디리스킹 정책과 우리의 대응 방향, KIET 산업경제, 산업연구원.
김동수․문종철 외(2024), 신산업정책연구: 미․중 전략경쟁 사대 신산업정책, 협동연구총서 24-06-02, 경제․인문사회연구회.
김인철(2007), 대니 로드릭의 산업정책론과 한국 산업정책에 대한 시사.
김정곤․나승권․장한별(2025), 파리 AI 행동 정상회의 주요 결과와 시사점: 포용적 AI를 위한 국제협력 방향, KIEP 세계경제 포커스, 대외경제정책연구원
김창욱외(2024), 인공지능 시대의 경쟁력 강화를 위한 AI 규제연구, 협동연구총서 24-07-01, 경제․인문사회연구회.
노재인(2024), 글로벌 AI 패권 경쟁과 한국의 대응 전략, KISDI AI Outlook Vo.18, 정보통신정책연구원.
디지털플랫폰경제연구실(2025), 딥시크가 촉발한 AI패러다임 변화와 플랫폼 정책방향, KISDI Premium Report 25-01, 정보통신정책연구소.
박강민․장진철․안성원(2024), 유럽연합 인공지능법(EU AI Act)의주요 내용 및 시사점, 소프트웨어정책연구소.
오상일․이수민․이하민․장수정․Zexi Sun․Xin Cindy Xu(2025), AI와 한국경제, BPK 이슈노트 2025-2호, 한국은행.
이승만(2025), 제11차 ‘전력수급기본계획’실무안의 평가와 제언, 이슈와 논점 제2317호, 국회입법조사처.
전수봉(2025), AI 기본법; 혁신과 규제 사이의 방향, ‘AI 기본법, 혁신과 규제 속 방향 점검’ 세미나 토론자료, 자유기업원.
(2024), 산업정책의 동향, ‘AI 도입과 일자리: 경기도에 주는 함의,’ 세미나 발표 자료, 세계경제사회연구원.
정은미․조철 외(2023), 한국 주력산업의 구조 전환 방향과 정책과제, 연구보고서 2023-01, 산업연구원.
조은교․박소희(2024), 양회로 살펴본 중국 산업정책 방향, i-kiet 산업경제이슈 제165호, 산업연구원.
황유선․김예슬(2025), 트럼프 취임사 및 행정명령 관련 해외 시각, 국제금융센터.
황원정․이상원(2025), Agentic AI 시대 도래와 은행산업 영향 점검, 국제금융센터.
황현아(2025), 인공지능 규제법과 보험산업, KIRI 보험법 리뷰 포커스, 보험연구원.
혁신성장금융1부(2025), DeepSeek의 AI 모델과 반도체산업 영향, Vol. 2025-이슈, 한국수출입은행 해외경제연구소.
현준원(2013), 좋은 규제, 나쁜 규제, 그리고 좋은 규제의 요건, 법연 Vol. 42, 법제처.
Baldwin, R., Cave, W. and Lodge, M.(2011), Understanding Regulation: Theory, Strategy, and Practice, 2nd Edition, Oxford University Press.
Criscuolo, C, Gonne, N., Kitazawa, K. & Lalanne, G. (2022), An industrial policy framework for OECD countries: old debates; new perspectives, OECD.
Dani, Rodrik, (2022), An Industrial Policy for Good Jobs, The Hamilton Project, BROOKINGS.
(2024), Dani Rodrik: doing industrial policy right, Financial Times 인터뷰 기사.
Garcia, D. M. & Sollaci, A. (2024), Industrial Policies for Innovation: A Cost-Benefit Framework, IMF Working Paper No. 2024/174, IMF.
HAI(2024), Artificial Intelligence Index Report 2024, Stanford University Human-Centered Artificial Intelligence.
IMF(2024), The Return of Industrial Policy in Data, IMF.
Juhasz, R., Lane, N., Oeslhen, E. & Perez, V.(2023), The Who, What, When and How of Industrial Policy: A Text Based Approach, ATEG Working Paper, STEG․CEPR.
Juhasz, R., Lane, N. & Rodrik D.(2024), The New Economics of Industrial Policy, Annual Review of Economics, vol. 16: p. 213-242.
Millot, Valentine & Rawdanowicz, Lukasz(2024), The return of industrial policies: policy considerations in the current context, Economic Policy Papers No. 34, OECD.
The Economist(2025. Feb. 12th), ‘After DeepSeek, America and the EU are getting AI wrong.pdf’
https://blogs.nvidia.co.kr/blog/ces-2025-jensen-huang/
1) <첨부 2> AI 기본법 제2조 (정의) 4항 가~카 규정 참조
2) 이하 내용은 고상원(2025), ‘글로벌 AI 규제 동향과 시사점’에서 발췌
3) 2024년 2월 9일 대니 로드릭 교수의 Financial Times 인터뷰 기사에서 발췌
