경제신문스크랩 > 매일경제 > EU, AI 규제법 세계 첫 발효 전면시행은 2026년 8월부터

헤드라인

EU, AI 규제법 세계 첫 발효 전면시행은 2026년 8월부터   AI기술 위험도 따라 규제법 위반땐 매출의 7% 벌금

https://n.news.naver.com/mnews/article/009/0005344222

본문

유럽연합(EU)이 세계 최초로 제정한 포괄적 인공지능(AI) 규제법이 1일(현지시간) 발효됐다. EU집행위원회는 이날 "AI 법은 인간의 기본권을 보호하기 위한 안전장치를 포함해 EU에서 개발·사용되는 AI의 신뢰성을 보장하기 위해 설계됐다"고 취지를 설명했다.

 

이 법에 따르면 특정 제품이나 분야에서 AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 네 단계로 나눠 차등 규제가 이뤄진다. 부정적 영향을 줄 위험이 높을수록 더 엄격한 규제가 적용된다. 의료와 교육, 선거, 핵심 인프라 등에 활용되는 AI 기술은 고위험 등급으로 분류된다. 여기에 해당할 경우 사람이 AI 사용을 반드시 감독해야 하고 위험관리 시스템을 구축해야 한다.

 

인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 완전히 금지된다. AI를 활용한 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가, 인터넷이나 폐쇄회로(CC)TV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 이에 속한다. 법 집행기관에서 실시간 원격 생체인식 시스템을 사용하는 것도 극히 예외적인 경우를 제외하고는 금지된다.

 

챗GPT를 비롯한 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘AI)에 대해서는 AI 학습 과정에 사용된 콘텐츠를 명시해야 하는 등 투명성 의무가 부여된다. 이날 발효를 기점으로 원천 기술 금지 규정은 6개월 뒤부터, 범용 AI에 대한 의무 규정은 12개월 뒤부터 적용된다.

 

전면 시행은 2년 뒤인 2026년 8월부터다. 집행위에 따르면 AI 기술 관련 잘못된 정보를 제공하는 경우 전 세계 연 매출의 1.5%를, 의무 규정 위반 시 3%의 과징금이 각각 부과될 수 있다. 금지된 AI 애플리케이션 사용으로 법을 위반하는 경우 EU는 최대 전 세계 매출액의 7% 또는 3500만유로 가운데 큰 금액을 벌금으로 부과할 수 있다.

기사 내용의 수치화, 인사이트 나누기

1. 이 법에 따르면 특정 제품이나 분야에서 AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 네 단계로 나눠 차등 규제가 이뤄진다. 

2. 인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 완전히 금지된다. AI를 활용한 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가, 인터넷이나 폐쇄회로(CC)TV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 이에 속한다.

3. 집행위에 따르면 AI 기술 관련 잘못된 정보를 제공하는 경우 전 세계 연 매출의 1.5%를, 의무 규정 위반 시 3%의 과징금이 각각 부과될 수 있다. 금지된 AI 애플리케이션 사용으로 법을 위반하는 경우 EU는 최대 전 세계 매출액의 7% 또는 3500만유로 가운데 큰 금액을 벌금으로 부과할 수 있다.

추가 조사할 내용 또는 결과

AGI(Aritificial Intelligence Act, AI Act)

a.   인공지능 규제법으로, 세계 최초의 포괄적인 AI 법률이다.

b.   EU가 AI 분야에서 글로벌 리더십을 확보하기 위한 중요한 조치로 평가받고 있다.

c.   AI를 활용해 개인의 특성, 행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가(social scoring), 인터넷이나 CCTV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위는 EU 역내에서 원천 금지된다.

요약

EU에서 세계 최초로 제정한 포괄적 인공지능 규제법이 8월 1일 발효됐다. AI 기술 활용 시 발생할 수 있는 위험 정도에 따라 네 단계로 나눠 차등 규제가 이뤄지며 의료와 교육, 선거, 핵심 인프라 등에 활용되는 AI 기술을 고위험으로 등급되어 사람이 AI 사용을 감독해야 하고 위험관리 시스템을 구축해야 한다. 인터넷이나 CCTV에서 사람의 얼굴을 무작위로 수집해 데이터베이스를 구축하거나 AI를 활용해 개인의 특성/행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가 등이 이에 속한다. ChatGPT를 비롯한 AGI에 대해서는 AI 학습 과정에 사용된 콘텐츠를 명시해야 하는 투명성 의무가 부여된다. AI 기술 관련하여 잘못된 정보를 제공하면 전 세계 연 매출의 1.5%를, 의무 규정 위반 시 3%의 과징금이 부과될 수 있다. 금지된 AI 애플리케이션 사용으로 법을 위반하는 경우에는 전 세계 매출액의 7% 혹은 3500만 유로 가운데 큰 금액을 벌금으로 부과해야 한다.

현직자에게 할 질문

AI 규제법이 생기면서 기술 개발에 제약이 생기는지 궁금합니다.

이상탐지 등 CCTV에 관련된 AI 기술을 개발할 때 데이터 수집을 어떻게 해야할지 궁금합니다.

AI 기술 개발에 걸림돌이 되지 않는지 궁금합니다.

이 사태를 어떻게 해결해나갈지 궁금합니다.

연관기사 링크

https://www.lawtimes.co.kr/news/198482

EU, 세계 첫 AI규제법 2026년 시행 확정

 

https://terms.naver.com/entry.naver?docId=6716784&cid=42107&categoryId=42107

인공지능 규제법