AI 기본법은 언제부터, 누구에게 적용되나요?
AI 기본법은 2026년 1월 22일부터 시행됐고, 주된 의무는 AI 제품이나 서비스를 고객에게 제공하는 'AI사업자'에게 있습니다. 정식 명칭은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이며, 2025년 1월 21일 공포된 뒤 1년의 준비 기간을 거쳤습니다. 2026년 1월 20일에는 국가인공지능위원회를 '국가인공지능전략위원회'로 바꾸는 등의 일부개정이 있었습니다.
법 제2조는 AI사업자를 두 가지로 나눕니다.
- 인공지능개발사업자: AI를 개발해 제공하는 자
- 인공지능이용사업자: 개발사업자가 제공한 AI를 이용해 AI 제품·서비스를 제공하는 자
그리고 AI 제품·서비스를 '제공받는 자'는 이용자로 따로 정의합니다. 이 구분이 중요한 이유는 투명성·고영향 AI 의무가 모두 'AI사업자'에게 걸려 있기 때문입니다.
우리 회사는 AI사업자인가요, 이용자인가요?
사내 업무에 생성형 AI를 쓰기만 한다면 원칙적으로 이용자입니다. 법무법인 세종(신앤김)의 해설도 "사내 업무에 ChatGPT를 활용하는 회사는 이용자"이고, AI 생성 결과물을 활용해 자기 콘텐츠를 만드는 경우도 AI사업자에 해당하지 않는다고 봅니다.
| 상황 | 구분 | 주의할 점 |
|---|---|---|
| 직원이 생성형 AI로 문서 초안 작성 | 이용자 | 사내 보안·개인정보 지침 |
| 고객 상담에 AI 챗봇 도입 | 이용사업자 가능성 높음 | 사전 고지, 결과물 표시 |
| 자사 앱에 AI 추천·생성 기능 탑재 | 이용사업자 | 사전 고지, 결과물 표시 |
| AI로 채용 서류를 평가해 합격 여부 결정 | 이용사업자 + 고영향 AI 가능 | 고영향 AI 책무 |
| 자체 모델을 개발해 다른 회사에 판매 | 개발사업자 | 전체 의무 검토 |
애매한 경우는 법률 자문을 받거나, 과학기술정보통신부가 운영하는 안내 창구에 문의하시는 것이 좋습니다.
생성형 AI 서비스라면 무엇을 해야 하나요?
생성형 AI 기능을 고객에게 제공한다면 사전 고지와 결과물 표시 두 가지를 반드시 챙겨야 합니다. 법 제31조의 내용은 다음과 같습니다.
- 1사전 고지(제1항): 고영향 AI나 생성형 AI를 이용한 제품·서비스라는 사실을 이용자에게 미리 알려야 합니다.
- 2결과물 표시(제2항): 생성형 AI가 만든 결과물이라는 사실을 표시해야 합니다.
- 3실제와 구분하기 어려운 결과물(제3항): 가상의 음향·이미지·영상은 이용자가 명확히 인식할 수 있게 고지 또는 표시해야 합니다. 예술적·창의적 표현물은 감상을 해치지 않는 방식이 허용됩니다.
과학기술정보통신부의 「인공지능 투명성 확보 가이드라인」은 고지 방법으로 이용약관·계약서, 화면 안내, 오프라인 게시물 등을 예로 들고, 표시는 눈에 보이는 로고·문구뿐 아니라 메타데이터나 디지털 워터마크 같은 비가시적 방식도 허용합니다. 비가시적 방식을 쓸 때는 알림창이나 UI로 한 번 이상 안내해야 합니다.
개발 단계에서 넣으면 비용이 거의 들지 않습니다. 서비스 첫 화면의 안내 문구, 생성 결과 옆의 'AI 생성' 라벨, 다운로드 파일의 메타데이터 기록 정도를 기본 사양으로 잡아 두세요.
고영향 AI에 해당하는지는 어떻게 판단하나요?
법 제2조 제4호가 열거한 영역에서 사람의 생명·안전·기본권에 중대한 영향을 주는 AI라면 고영향 AI입니다. 주요 영역은 다음과 같습니다.
- 에너지 공급, 먹는물 생산 공정, 원자력시설 관리
- 보건의료 제공, 의료기기·디지털의료기기 개발과 이용
- 범죄 수사·체포를 위한 생체인식정보 분석
- 채용, 대출 심사 등 개인의 권리·의무에 중대한 영향을 주는 판단·평가
- 교통수단·교통시설의 주요 작동과 운영
- 국가·지자체·공공기관의 자격 확인, 비용 징수 등 의사결정
- 유아교육·초등교육·중등교육에서의 학생 평가
교육기관이라면 마지막 항목을 꼭 확인하셔야 합니다. 예를 들어 AI가 문항 초안을 만들고 교사가 검토해 출제하는 시스템과, AI가 학생 답안을 채점해 성적에 반영하는 시스템은 판단이 다를 수 있습니다.
AI사업자는 제공 전에 고영향 AI 해당 여부를 스스로 검토해야 하고(제33조), 필요하면 과학기술정보통신부에 확인을 요청할 수 있습니다. 고영향 AI로 판단되면 제34조에 따라 다음 조치를 이행해야 합니다.
- 위험관리방안 수립·운영
- 최종 결과, 주요 판단 기준, 학습용 데이터 개요에 대한 설명 방안
- 이용자 보호 방안
- 사람의 관리·감독
- 위 조치를 확인할 수 있는 문서 작성과 보관
기본권 영향평가(제35조)는 '노력' 의무지만, 국가기관 등은 영향평가를 거친 제품을 우선 고려해야 하므로 공공 납품을 노린다면 미리 준비하는 편이 유리합니다.
과태료는 얼마이고, 지금 부과되나요?
과태료는 3천만 원 이하이고, 정부는 시행 초기 최소 1년 이상 계도기간을 두겠다고 밝혔습니다. 제43조의 과태료 대상은 세 가지입니다.
| 위반 행위 | 근거 |
|---|---|
| 생성형·고영향 AI 사용 사실을 사전 고지하지 않음 | 제31조 제1항 |
| 국외 사업자가 국내대리인을 지정하지 않음 | 제36조 제1항 |
| 정부의 중지·시정명령을 이행하지 않음 | 제40조 제3항 |
결과물 표시 의무(제31조 제2항)나 고영향 AI 책무(제34조)는 바로 과태료 대상은 아니지만, 위반이 확인되면 사실조사와 시정명령 대상이 되고, 명령을 따르지 않으면 과태료로 이어집니다. 또 학습 연산량이 시행령 기준(10의 26승 FLOPs) 이상인 초대형 모델에만 적용되는 안전성 의무(제32조)는 일반 중소기업과는 거리가 있습니다.
계도기간은 '의무가 없다'는 뜻이 아닙니다. 과학기술정보통신부는 인명 사고나 인권 침해 같은 중대한 문제가 생기면 사실조사를 할 수 있다는 입장입니다.
외주로 AI 서비스를 만든다면 계약서에 무엇을 넣어야 하나요?
의무는 서비스를 제공하는 발주사에 있으므로, 법 준수에 필요한 기능을 개발 범위에 명시해야 합니다. 저희 미라클스튜디오가 AI 프로젝트를 시작할 때 확인하는 항목은 다음과 같습니다.
- 1서비스 화면과 이용약관의 AI 사용 고지 위치와 문구
- 2생성 결과물의 표시 방식(가시적 라벨, 메타데이터 중 무엇을 쓸지)
- 3고영향 AI 해당 여부 검토 결과와 근거 기록
- 4사람이 최종 확인하는 단계가 업무 흐름에 들어가 있는지
- 5입력·출력 로그와 모델 버전 기록의 보관 기간
- 6학습·참조 데이터의 출처와 개요 문서
특히 교육·공공 분야에서는 AI가 '판단'하는 구조인지, 사람이 판단하고 AI는 '보조'하는 구조인지를 설계 단계에서 정해 두면 이후 대응이 훨씬 간단해집니다.
AI 기능을 넣은 서비스를 기획 중이시라면, 미라클스튜디오 30분 무료 상담에서 법 대응에 필요한 기능 범위를 함께 정리해 드립니다.
