[IT] AI 기본법(인공지능기본법)이란 - 고영향 AI·생성형 AI 표시 의무 정리

2026년 1월부터 한국에도 인공지능을 정면으로 다루는 법이 시행됐다. 흔히 AI 기본법 또는 인공지능기본법이라 부르는 법인데, 정식 명칭은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이다. 이 글에서는 AI 기본법이 무엇인지, 고영향 인공지능과 생성형 AI 표시 의무 같은 핵심 내용은 무엇인지, 그리고 EU AI Act와는 어떻게 다른지를 정리한다.

AI 기본법이란 무엇인가

AI 기본법은 인공지능 산업의 진흥과 신뢰 확보를 동시에 목표로 하는 법이다. 2024년 12월 국회 본회의를 통과했고 2025년 1월 공포된 뒤 1년의 유예기간을 거쳐 2026년 1월 22일 시행됐다. EU가 2024년 AI Act를 확정한 데 이어 국가 단위로 포괄적인 인공지능 법제를 갖춘 사례로는 세계에서 손에 꼽힌다.

'기본법'이라는 이름이 붙은 이유가 중요하다. 기본법은 특정 행위 하나하나를 촘촘하게 금지하는 규제법이라기보다, 국가가 그 분야를 어떤 방향으로 끌고 갈지에 대한 기본 원칙과 추진 체계를 정하는 법이다. 실제로 이 법의 상당 부분은 규제가 아니라 진흥 조항이다. 정부가 3년마다 인공지능 기본계획을 세우고, 대통령 소속 국가인공지능위원회가 정책을 심의하며, 인공지능 안전을 전담하는 연구 기관과 데이터센터·학습데이터 지원 근거를 두는 식이다. 소관 부처는 과학기술정보통신부다.

왜 지금 만들어졌나

배경은 크게 두 가지다. 첫째, 생성형 AI가 대중화되면서 딥페이크, 저작권, 허위정보처럼 기존 법으로는 애매한 문제가 한꺼번에 터져 나왔다. 둘째, EU가 2024년 AI Act를 통과시키면서 국제적으로 '규제 정합성'이 통상 이슈가 됐다. 유럽에 서비스를 팔려면 유럽 기준을 맞춰야 하는데, 국내에 대응 법제가 없으면 기업이 매번 개별적으로 대응해야 한다.

그래서 AI 기본법은 처음부터 '규제를 위한 규제'보다는, 산업을 키우되 최소한의 신뢰 장치를 깔아두는 쪽으로 설계됐다. 업계에서 이 법을 두고 진흥법에 가까운 규제법이라고 부르는 이유다.

핵심 내용 한눈에 정리

구분	내용
정식 명칭	인공지능 발전과 신뢰 기반 조성 등에 관한 기본법
시행 시점	2026년 1월 22일
소관 부처	과학기술정보통신부
추진 체계	3년 단위 인공지능 기본계획, 대통령 소속 국가인공지능위원회
핵심 규제	고영향 AI 사업자 의무, 생성형 AI 표시 의무, 안전성 확보 의무
해외 사업자	일정 기준 이상이면 국내대리인 지정 의무
제재	사실조사·시정명령, 위반 시 3천만원 이하 과태료

1) 고영향 인공지능

고영향 인공지능(high-impact AI)은 사람의 생명·신체 안전이나 기본권에 중대한 영향을 줄 수 있는 영역에서 쓰이는 AI를 말한다. 법에서 예시로 드는 영역은 보건의료, 에너지, 채용·인사 평가, 대출 심사 같은 금융, 교통수단, 공공서비스 결정, 생체인식 등이다. 같은 기술이라도 어디에 쓰이느냐에 따라 고영향인지 아닌지가 갈린다는 점이 핵심이다. 이미지 분류 모델이 사진 앱에 들어가면 일반 AI지만, 같은 구조가 병변 판독에 들어가면 고영향 AI가 되는 식이다.

고영향 AI로 분류되면 사업자는 위험관리 방안을 마련하고, 왜 그런 결과가 나왔는지 설명할 수 있는 자료를 갖추고, 이용자에게 고영향 AI가 쓰인다는 사실을 미리 알려야 한다. 사람이 최종적으로 감독할 수 있는 구조도 요구된다. 자기 서비스가 고영향에 해당하는지 애매하면 과기정통부에 확인을 요청할 수 있는 절차도 두고 있다.

2) 생성형 AI 표시 의무

일반 이용자가 가장 체감하는 조항이다. 생성형 AI로 만든 결과물은 AI가 만들었다는 사실을 표시해야 한다. 특히 실제와 구분하기 어려운 가상의 영상·음성·이미지, 즉 딥페이크 성격의 결과물은 이용자가 명확히 인지할 수 있도록 더 분명하게 표시하도록 하고 있다. 예술적·창작적 목적처럼 표시가 작품성을 해칠 수 있는 경우에는 표시 방식을 달리할 수 있는 여지를 두었다.

3) 안전성 확보 의무와 국내대리인

학습에 투입된 누적 연산량이 일정 기준을 넘는 대규모 모델을 다루는 사업자에게는 별도의 안전성 확보 의무가 붙는다. 위험을 식별·평가하고 완화 조치를 마련한 뒤 그 결과를 정부에 제출하는 방식이다. 연산량이 기준이 된 이유는 단순하다. 모델의 위험을 사전에 정량화하기 어려우니, 지금으로서는 규모가 곧 잠재적 영향력이라는 대리 지표를 쓴 것이다. 학습 규모를 결정하는 배치 사이즈나 에폭 같은 개념이 낯설다면 Epoch, Batch size, Iteration 차이 정리 글을 함께 보면 이해가 빠르다.

또 하나 눈여겨볼 조항은 국내대리인 지정이다. 국내에 영업소가 없는 해외 AI 사업자라도 이용자 수나 매출이 일정 기준 이상이면 국내에 대리인을 두어야 한다. 글로벌 빅테크에 대한 실효적 집행 수단을 확보하려는 취지다. 구체적인 연산량 기준과 매출·이용자 기준은 법률이 아니라 시행령에 위임돼 있어, 실무에서는 시행령과 고시를 함께 봐야 한다.

EU AI Act와 무엇이 다른가

비교 항목	한국 AI 기본법	EU AI Act
기본 성격	진흥 + 최소 규제	규제 중심
위험 분류	고영향 AI 중심의 단순 구조	금지·고위험·제한적·최소 위험 4단계
금지 AI 유형	별도의 포괄적 금지 목록 없음	사회적 점수화 등 명시적 금지
제재 수준	과태료 중심(3천만원 이하)	글로벌 매출 연동 고액 과징금
표시 의무	생성형 AI 결과물 표시	투명성 의무 및 딥페이크 고지

표에서 보이듯 두 법의 방향은 확실히 다르다. EU가 위험 등급별로 촘촘하게 금지·의무를 나눈 반면, 한국은 고영향 AI라는 하나의 축을 중심으로 최소한만 규정하고 나머지는 진흥과 자율에 맡겼다. 제재 수준도 차이가 크다. EU의 과징금이 글로벌 매출에 연동되는 반면 한국은 과태료 중심이다.

쟁점과 전망

시행 전후로 지적된 쟁점은 대체로 세 갈래다.

• 정의의 모호함 : 고영향 AI의 범위가 시행령과 해석에 크게 좌우된다. 스타트업 입장에서는 자기 서비스가 규제 대상인지 판단하는 비용 자체가 부담이라는 목소리가 나온다.
• 중복 규제 우려 : 개인정보보호법, 신용정보법, 의료기기 관련 규제 등 이미 적용받는 법이 있는 분야에서 의무가 겹칠 수 있다는 지적이다.
• 실효성 논란 : 반대로 시민사회 쪽에서는 과태료 중심의 제재로는 빅테크의 행동을 바꾸기 어렵다는 비판이 있다. 표시 의무를 어겨도 부담이 크지 않다는 것이다.

정리하면 AI 기본법은 완성된 규제라기보다 출발선에 가깝다. 실제 규제 강도는 시행령·가이드라인이 어떻게 다듬어지느냐에 달려 있고, 정부도 시행 초기에는 계도 중심으로 운영하겠다는 방향을 밝혀 왔다. AI 서비스를 만들거나 도입하는 입장이라면 지금 시점에서 해야 할 일은 명확하다. 내 서비스가 고영향 영역에 걸치는지, 생성형 결과물에 표시가 붙는지, 이 두 가지부터 점검하는 것이다.

법 조문 원문은 국가법령정보센터에서, 시행령과 해설 가이드라인은 과학기술정보통신부 자료에서 확인할 수 있다. 세부 기준은 개정될 수 있으므로 실무 적용 전에는 공식 자료를 다시 확인하는 편이 좋다.

핵심 요약

• AI 기본법의 정식 명칭은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이며 2026년 1월 22일 시행됐다.
• 규제법이라기보다 진흥과 신뢰 기반을 함께 담은 기본법이고, 소관 부처는 과학기술정보통신부다.
• 핵심 의무는 고영향 AI 사업자의 위험관리·설명·사전고지, 생성형 AI 결과물 표시, 대규모 모델의 안전성 확보 세 가지다.
• 해외 사업자도 기준을 넘으면 국내대리인을 지정해야 하며, 위반 시 3천만원 이하 과태료가 부과될 수 있다.
• EU AI Act가 4단계 위험 분류와 매출 연동 과징금으로 촘촘하다면, 한국은 고영향 AI 중심의 완화된 구조다.

함께 보면 좋은 글

• [딥러닝] Epoch, Batch size, Iteration 차이 정리 - 배치 사이즈는 어떻게 정해야 할까
• [Linux] 서버에서 백그라운드로 학습 돌리기 - nohup, screen, tmux 차이와 사용법
• [생활] 여름 전기요금 폭탄은 왜 나오나 - 주택용 누진제 구조와 요금 계산 방법 정리