빠른 입법

EU 깃발 위에 ‘AI Artificial Intelligence’ 텍스트와 상승하는 그래프가 겹쳐진 이미지

EU는 매사 신중하고 단계적인 접근을 취해왔지만, 이번 AI Act는 이례적으로 속도를 높였다. 이렇게 서두른 배경에는 생성형 AI의 확산, 딥페이크 논란, 시민사회의 제도 불신이 있다.

2022년 말 ChatGPT가 공개된 이후, 사회 각 분야에 엄청난 영향을 미치기 시작했다. 이에 대해 EU 집행위원회는 2023년 초부터 파운데이션 모델(Foundation Model)을 범용 AI(GPAI, General-Purpose AI)로 정의하고, 이 GPAI가 경제와 사회에 광범위한 영향을 미칠 수 있으므로 더 확산되기 전에 법적 기준을 마련해야 한다는 공감대가 형성되었다.

OpenAI, Google, Anthropic 등이 독점하고 있는 LLM 시장에서 기술적인 선점을 규범적인 틀로 견제하려는 정책 의지가 분명히 드러났다. 여기에 딥페이크 기반 정치 교란의 가능성이 대두되었다. 2023년부터 유럽 전역에서 생성형 AI를 이용한 가짜 뉴스, 조작 음성, 영상 캠페인이 확인되었고, 특히 프랑스와 이탈리아에서는 정치 후보에 대한 허위 발언을 생성형 음성으로 유포한 사례가 큰 논란을 낳았다.

EU는 이러한 위협을 민주주의 질서에 대한 침해로 간주하였고, AI Act 초안에서는 딥페이크에 대해 “인공 생성 콘텐츠임을 명시적으로 표시해야 한다”는 조항을 도입하였고, 유럽의회는 “이 조항 없이는 법안 통과 불가” 입장을 고수했다.

시민사회의 제도적인 불신과 요구도 컸다. 특히 유럽 언론과 시민단체들은 “AI 규제에서 기술 기업이 공백을 악용할 가능성이 높다”며, 투명성과 책임성 강화를 촉구했다. 여론은 AI 시장을 규제하지 않으면 EU의 디지털 주권이 무너진다는 방향으로 움직였고, 이와 같은 압박은 정치적인 압력으로 작용했다.

입법 과정에서의 고비는 2023년 12월의 3자 협상이었다. 유럽의회는 범용 AI에 대한 규제를 강하게 주장한 반면, 프랑스·독일·이탈리아는 자국 기업에 불리하다며 반대 입장을 고수하였다. 특히 프랑스는 Mistral AI와 같은 유럽 LLM 기업 보호를 명분으로 “GPT-4급 모델도 규제 대상에서 제외해야 한다”고 주장했으며, 독일은 SAP, Siemens의 산업 AI 활용을 고려해 데이터 공개 조항의 완화 필요성을 강조하였다.

그런데 협상 중에 터진 유명 인사에 대한 AI 음란물 딥페이크 확산 사례는 여론을 자극했고, 이를 계기로 정치적인 합의를 이끌어내게 되었다. 결국 2024년 3월, 유럽의회는 AI Act 법안을 통과시켰고, 5월에는 EU 이사회 승인을 거쳐 입법 절차를 마무리하였다.

참고자료