‘인공지능 산업 육성 및 신뢰 확보에 관한 법률(AI 기본법)’에 관련해서 이야기 해보고자 한다.
특히, 이 법안은 대한민국이 ‘세계 최초 전면 시행’이라는 타이틀을 거머쥐게 되어 더욱 주목받고 있다.
2026년 1월 22일(목)에 적용 될 핵심적인 변화 3가지와 우리가 주목해야 할 포인트를 짚어보겠다.
1. 딥페이크 가짜 뉴스 방지: “AI가 만들었다면 표시하세요”
가장 두드러지게 체감하게 될 부분은 ‘워터마크 의무화’이다.
앞으로 생성형 AI로 만든 결과물에는 반드시 AI 생성물임을 알리는 표식을 남겨야 한다.
대상: AI로 생성된 이미지, 영상, 음성 등 모든 콘텐츠
방식: 시각적으로 보이는 워터마크뿐 아니라, 시스템이 식별할 수 있는 비가시적 메타데이터 포함
목적: 딥페이크를 이용한 성범죄 및 가짜 뉴스 확산 방지
위반 시: 최대 3,000만 원의 과태료가 부과
> 단, 초기 혼란을 방지하기 위해 약 1년 동안은 계도 기간을 가질 예정이라고 하네요.
딥페이크 부분은 강력하게 처벌 받아야 한다고 생각한다.
5~6년 전 인스타 계정을 해킹 당해 불법 성관계 영상에 인스타 주인의 얼굴을 바꿔(딥페이크) 지인과 가족들에게 알리고 게시글을 올리겠다며 합의금 5,000만원을 달라고 했는데 경찰에서도 찾을 수 없는 상황에 이르러 죽음까지 고민하는 글을 본 적이 있었다.
2. ‘고영향 인공지능’의 집중 관리와 안전성 확보
모든 AI를 규제하는 것은 아니라고 한다.
사람의 생명, 신체, 혹은 기본권에 직접적인 영향을 줄 수 있는 분야는 ‘고영향 인공지능’으로 분류되어 특별 관리를 받게 된다고 한다.
| 분류 | 주요 대상 영역 |
| 의료/보건 | AI 의료기기, 진단 보조 시스템 등 |
| 경제/금융 | 대출 심사 AI, 신용 평가 시스템 |
| 사회/행정 | 채용 면접 AI, 에너지 및 공공 서비스 공급 등 |
이러한 분야의 AI 사업자는 시스템의 신뢰성을 확보하기 위한 조치를 의무적으로 취해야 하며, 관련 내용을 정부에 보고해야 한다고 한다.
‘편향성’이나 ‘오작동’으로 인한 피해를 국가 차원에서 관리하겠다는 의지를 볼 수 있었다.
3. 왜 ‘세계 최초’인가? EU AI Act와의 차이점
유럽연합(EU)이 먼저 법안을 통과시켰는데 왜 우리나라가 ‘세계 최초’라는 수식어를 쓰는 이유는 ‘전면 시행 시점’에 있다고 한다.
EU AI Act: 법안 통과 후 단계별로 시행되어 완전 적용까지 수년이 소요
한국 AI 기본법: 2026년 1월 22일부터 바로 시행에 들어가며, 실질적인 전면 적용 시점이 EU보다 약 6개월 앞서게 됩니다.
또한, 이번 법 제정을 통해 ‘국가인공지능위원회’와 ‘인공지능안전연구소’가 법적 근거를 갖추게 되어, 기술 개발(R&D)과 인재 양성을 위한 체계적인 지원이 가능해졌다고 한다.
혁신인가, 규제인가?
이 법안을 두고 다양한 목소리가 나오고 있다고 한다.
찬성: “안전 장치가 있어야 국민이 안심하고 AI를 소비하며, 시장이 건강하게 성장할 것이다.”
우려(업계): “워터마크와 고영향 규제가 스타트업에게 비용 부담이 되어 글로벌 경쟁력을 약화시킬 수 있다.”
우려(시민단체): “과태료 3,000만 원은 대기업에게 너무 가벼운 처벌(솜방망이)이 아니냐.”
결국 핵심은 ‘AI 진흥’과 ‘안전 규제’ 사이의 균형을 얼마나 잘 잡느냐에 달려 있을 것 같다.
찬성 쪽의 마음도 우려 쪽의 마음도 알겠는 것은 일부분만 하다 보면 ‘실수 였다’라는 가정하게 피해를 보는 사람이 겉잡을 수 없이 많아 질 수도 있고 그로 인해 선량하게 쓰려는 사람들이 피해를 볼 수도 있는 양날의 검과 같은 상황이기에 앞으로 조금 더 지켜 봐야 하지 않을까 싶다.
그래서, 유럽도 전면 시행은 조심스럽게 접근하는 것이 아닐까 싶다.