AI는 추론 능력 등 일반 소프트웨어와 다른 속성을 가지고 있어 정확한 개념 정립이 없으면 규제 대상과 책임 주체가 모호해질 수 있다. 이에 따라 AIA는 제3조 정의(Definitions)를 통해 68개의 핵심 개념들을 정립하고, 이를 통하여 법 해석의 기준을 마련하였다.
- AI 시스템(AI system): 다양한 수준의 자율성을 가지고 작동하도록 설계되며 배포 후 적응성을 보일 수 있는 기계 기반 시스템으로 명시적인 또는 암시적인 목표를 위해 입력으로부터 예측, 콘텐츠, 추천, 결정 등의 출력을 생성하여 물리적인 또는 가상 환경에 영향을 미칠 수 있는 것
- 위험(Risk): 위해 발생 가능성과 그 심각성의 결합
- 제공자(Provider): AI 시스템이나 범용 AI 모델을 개발하거나 개발을 위탁하여 자신의 이름이나 상표로 시장에 출시하거나 사용을 개시하는 개인, 법인, 공공기관, 대행사 또는 기타 단체(유료·무료 불문)
- 배포자(Deployer): 개인적이고 비전문적인 활동에서 사용하는 경우를 제외하고, 자신의 권한 하에 AI 시스템을 사용하는 개인, 법인, 공공기관, 대행사 또는 기타 단체
- 공인 대리인(Authorised representative): AI 시스템 또는 범용 AI 모델 제공자로부터 규정상 의무와 절차를 수행하도록 서면 위임을 받고 이를 수락한 EU 내 위치·설립된 개인이나 법인
- 수입자(Importer): 제3국에서 설립된 개인이나 법인의 이름이나 상표로 된 AI 시스템을 EU에서 시장에 출시하는 EU 내 위치·설립된 개인이나 법인
- 유통업자(Distributor): 제공자나 수입자가 아닌 공급망 내에서 AI 시스템을 EU 시장에 제공하는 개인이나 법인
- 운영자(Operator): 제공자, 제품 제조자, 배포자, 공인 대리인, 수입자 또는 유통업자
- 시장 출시(Placing on the market): AI 시스템이나 범용 AI 모델을 EU 시장에 최초로 제공하는 행위
- 시장 공급(Making available on the market): 상업 활동 과정에서 유료·무료를 불문하고 AI 시스템이나 범용 AI 모델을 EU 시장에서 배포하거나 사용하는 행위
- 사용 개시(Putting into service): AI 시스템을 배포자에게 직접 또는 EU 내에서 자가 사용을 위해 의도된 목적으로 최초 제공하는 행위
- 사용 목적(Intended purpose): 제공자가 의도한 AI 시스템의 사용으로서 사용 지침서, 홍보·판매 자료, 기술문서 등에 명시된 구체적인 맥락과 조건을 포함
- 합리적으로 예측 가능한 오용(Reasonably foreseeable misuse): 의도된 목적에 부합하지 않으나 합리적으로 예측 가능한 인간의 행위나 다른 시스템과의 상호작용에서 발생할 수 있는 사용
- 안전 구성요소(Safety component): 제품이나 AI 시스템에서 안전 기능을 수행하거나 그 실패·오작동으로 인해 사람이나 재산의 건강과 안전이 위험해지는 구성 요소
- 사용 지침서(Instructions for use): 제공자가 배포자에게 AI 시스템의 사용 목적과 적절한 사용법을 알리기 위해 제공하는 정보
- AI 시스템 리콜(Recall of an AI system): 배포자에게 제공된 AI 시스템을 제공자에게 반환하거나 서비스에서 철수시키거나 사용을 중지하는 조치
- AI 시스템 철회(Withdrawal of an AI system): AI 시스템이 공급망에서 시장에 제공되는 것을 방지하는 조치
- AI 시스템 성능(Performance of an AI system): AI 시스템이 의도된 목적을 달성할 수 있는 능력
- 통보 기관(Notifying authority): 적합성 평가기관의 지정·통보 및 감독을 위해 필요한 절차를 설정·수행하는 국가 기관
- 적합성 평가(Conformity assessment): 고위험 AI 시스템에 관한 제3장 제2절의 요건이 충족되었는지를 입증하는 절차
- 적합성 평가기관(Conformity assessment body): 시험, 인증, 검사 등을 포함한 제3자 적합성 평가를 수행하는 기관
- 통보된 기관(Notified body): 본 규정 및 기타 관련 EU 통합 법령에 따라 통보된 적합성 평가기관
- 중대한 변경(Substantial modification): AI 시스템을 시장에 출시하거나 사용을 개시한 후에 하는 변경으로서 처음 적합성 평가 때 미리 계획하거나 예상하지 않았던 것이며, 그 변경으로 인해 규정 준수 상태에 영향을 미치거나 시스템의 의도된 목적이 바뀌는 변경
- CE 마크(CE marking): 제공자가 AI 시스템이 제3장 제2절의 요건 및 기타 적용 가능한 EU 통합 법령을 준수하고 있음을 표시하는 마크
- 시판 후 모니터링 체계(Post-market monitoring system): 제공자가 시장 출시·사용 개시한 AI 시스템의 사용 경험을 수집·검토하여 즉시 필요한 시정·예방조치를 적용할 필요성을 확인하는 활동
- 시장감시 당국(Market surveillance authority): 규정 2019/1020에 따라 활동·조치를 수행하는 국가 당국
- 공통 표준(Harmonised standard): 규정 No 1025/2012 제2조 제1항 c호에서 정의된 공통 표준
- 공통 규격(Common specification): 규정 No 1025/2012 제2조 제4항에서 정의된 특정 요건 준수를 위한 기술 규격
- 훈련 데이터(Training data): AI 시스템의 학습 가능한 파라미터를 최적화하기 위해 사용되는 데이터
- 검증 데이터(Validation data): 학습된 AI 시스템을 평가하고 학습 불가능한 파라미터와 학습 과정을 조정하여 과소적합이나 과적합을 방지하기 위해 사용되는 데이터
- 테스트 데이터(Testing data): 시장 출시 또는 사용 개시 전 AI 시스템이 기대 성능을 충족하는지 독립적으로 평가하기 위해 사용되는 데이터
- 입력 데이터(Input data): AI 시스템이 출력을 생성하기 위해 제공받거나 직접 취득하는 데이터
- 생체 데이터(Biometric data): 개인의 신체적·생리적·행동적인 특성과 관련된 특정 기술적인 처리를 통해 생성된 개인정보
- 감정 인식 시스템(Emotion recognition system): 생체 데이터를 기반으로 개인의 감정이나 의도를 식별·추론하기 위한 AI 시스템
- 원격 생체 인식 시스템(Remote biometric identification system): 개인의 적극적인 개입 없이 주로 거리에서 생체 데이터를 수집해 참조 데이터베이스와 비교함으로써 신원을 확인하는 AI 시스템
- 범용 AI 모델(General-purpose AI model): 대규모 데이터로 자기지도학습된 경우를 포함하여 높은 범용성을 가지며 다양한 작업을 수행할 수 있는 AI 모델
- 시스템적 위험(Systemic risk): 범용 AI 모델의 고위능력에 특유한 위험으로 EU 시장 및 사회 전반에 광범위한 영향을 미칠 수 있는 위험
- AI 리터러시(AI literacy): AI 시스템을 이해·활용할 수 있는 기술·지식·이해능력
- 딥페이크(Deep fake): 실제처럼 보이도록 생성·조작된 이미지, 음성, 영상 콘텐츠
- 범용 AI 시스템(General-purpose AI system): 범용 AI 모델을 기반으로 다양한 목적에 활용될 수 있는 AI 시스템
- 하위 제공자(Downstream provider): 다른 곳에서 개발된 AI 모델을 받아 자신의 AI 시스템에 통합하여 제공하는 자