AIA는 AI 기술이 사회 전반에 근본적인 영향을 미치는 규제 대상이라는 인식에서 출발한다. 이러한 인식 아래 제1조 목적(Subject Matter)는 단순한 기술 관리를 넘어 유럽의 가치와 질서를 반영하여 다음과 같은 포괄적 목적을 설정하고 있다.
- 내부 시장의 구조 개선
- 신뢰할 수 있는 인간 중심 AI 도입 촉진
- 기본권, 건강, 안전, 환경, 민주주의, 법치주의 보호
- 기술 혁신 지원
내부 시장의 구조 개선
EU는 27개 회원국이 서로 다른 AI 규제를 도입할 경우 규제 불확실성과 역내 시장 분열 위험을 우려했다. 실제로 독일, 프랑스, 스페인 등은 자체적인 AI 윤리 지침이나 관리 기관을 설치하려고 했다.
회원국이 개별적으로 AI 시스템을 규제하면 기업의 컴플라이언스 부담이 크게 늘어난다. 따라서 내부 시장에서의 AI 관련 규정을 통일하여 기업들이 하나의 기준으로 EU 시장에 진입할 수 있게 하려는 것이다.
신뢰할 수 있는 인간 중심 AI 도입 촉진
EU는 ‘탈린 디지털 서밋’ 이후 AI에 대한 관심이 급속히 높아지면서, 2019년부터 **‘신뢰할 수 있는 인공지능(Ethics Guidelines for Trustworthy AI)’**을 통해 인간 중심, 설명 가능성, 안전성, 비차별성 등을 강조해왔다.
범용 AI의 확산으로 인해 사용자가 알지 못한 채 AI의 결정에 영향받는 사례가 증가하면서 AI가 투명하고 책임 있는 방식으로 설계·운영되어야 한다는 요구가 커졌다. 이에 따라 EU의 가치에 맞게 AI 기술의 발전 촉진과 안전성·신뢰성의 균형을 제도화하려 한 것이다.
기본권, 건강, 안전, 환경, 민주주의, 법치주의 보호
실제 AI 시스템의 차별과 편향 사례는 AIA의 목적 설정에 큰 영향을 미쳤다. 2018년 10월 아마존이 AI 채용 도구에서 남성 대비 여성에게 낮은 점수를 부여하는 성별 편향이 드러나 프로그램을 폐기한 사건, 2020년 8월 영국 정부의 비자 승인 심사에서 발생한 편향성 문제 등이 사회적 파장을 일으킨 바 있다.
또한 감정 인식, 실시간 생체 인식, 사회적 점수화 같은 기술들은 개인의 자유와 인권을 침해하고 민주주의를 위협할 수 있는 위험한 도구로 여겨졌다. 환경적으로도 AI가 과도한 전력을 사용하고 탄소를 많이 배출해 지속가능한 발전에 걸림돌이 되면서, EU는 이런 문제들을 예방할 필요가 있었다.
기술 혁신 지원
AIA의 목적에는 EU의 다양한 고민이 반영되어 있다. AIA는 유럽 기업의 경쟁력을 강화하고 역내의 산업 보호를 위해 탄생되었지만, 동시에 AI 기술의 발전을 저해하지 않도록 기술 혁신의 제도적인 촉진 요소를 고려하였다.
스타트업과 중소기업을 위한 AI 샌드박스 제도, 규제 유예 조항, 비용 완화 조치 등 기술 개발이 위축되지 않도록 장치를 마련하였다. EU 집행위는 “신뢰 가능한 규제는 시장 진입장벽이 아니라 경쟁력을 높이는 기반”이라고 강조하며, 혁신적이고, 공정하며, 개방적이고, 경쟁 가능한 AI 시장을 육성하여 유럽 기업이 글로벌 무대에서 경쟁할 수 있는 힘을 실어주고자 했다.
규범 체계
법의 목적을 실현하기 위해서는 목적을 실제 작동하게 만드는 장치, 법 적용의 일관성과 예측 가능성을 보장하는 구조, 규제와 혁신 간 균형을 제도화하는 메커니즘 등으로 구체화되어야 한다. 이때 필요한 것이 규범 체계이다.
이 체계는 AI 시스템이 어떻게 설계되고 사용되어야 하는지에 대한 ‘행동 기준’, 금지 조항, 고위험 조건, 투명성 요건 등 ‘법적 구조’, 인간 존엄, 기본권, 민주주의, 환경 등 ‘핵심 가치’를 포함하고 있다.
AIA에서는 다음과 같이 7개 영역으로 제시하고 있다.
- AI 시스템이 EU 시장에 출시되거나, 서비스로 사용되거나, 운영될 때 적용되는 규칙
- 인간의 존엄성과 권리를 침해하거나, 조작적 설계에 해당하는 AI 기술의 사용 금지
- 고위험 AI 시스템의 위험관리, 기술문서, 인간 감독, 정확성 보장 등 기술 요건 부과
- 사용자와 상호작용하는 AI 시스템에 대한 투명성 확보 의무 부과
- 범용 AI의 시장 출시 및 운용에 대한 별도 규정
- 시장 감시, 집행, 거버넌스 체계를 설계하여 감독 기능을 제도화
- 중소기업과 스타트업의 부담 완화, 규제 샌드박스 등을 통한 혁신 촉진 수단 마련
이와 같은 체계는 단순히 AI 제품을 관리하려는 것이 아니라 AI 기술을 유럽 사회의 가치 질서에 통합하는 방식으로 제도화하려는 것이다. 또한 환경적으로 지속 가능한 설계 및 운영, 인간의 개입과 통제 가능성*human oversight)을 전제로 한다.
AI 시스템이 아무리 정교하더라도 최종 판단과 책임은 인간에게 있어야 한다는 원칙에서 출발한다. 기술이 인간을 대체하는 것이 아니라 인간이 통제하고 책임지는 범위 안에서 작동해야 한다는 기준을 밝힌 것이다.
이 법의 모든 조항은 EU 기본권 헌장을 근거로 한다. AI가 작동하는 모든 장면에서 헌장의 가치가 우선되도록 설계해야 한다는 법적 원칙이므로 개별 기업의 규범이나 업계 관행으로 임의로 바꿀 수 있는 사안이 아니다.
제1조는 ‘목적’은 EU가 AI 기술의 허용 조건을 선언하였고, 이후 등장하는 모든 조항은 이 기준에 따라 구체화된 것이다. 기술을 수용하되 통제하며, 혁신을 허용하되 방향을 제시하는 것이 AIA의 기본 철학이고, 제1조는 그 철학의 출발점이다.