제4조 AI 리터러시(AI literacy)는 AI 시스템의 제공자와 배포자가 직원들의 AI 이해 능력을 높이도록 요구한다. 단순한 기본교육이 아니라 실제 운용 환경에서 안전하고 책임감 있게 사용할 수 있는 역량을 기르는 데 초점을 두고 있다.
여기에는 AI가 어떻게 작동하는지에 대한 기술 지식과 실제 사용 경험뿐만 아니라 AI가 활용되는 구체적인 환경과 영향을 받는 사람들의 특성까지 AI 리터리시의 범위로 정의하고 있다. 즉, AI 리터러시는 단순한 기술 이해가 아니라 특정 상황에서 특정 대상을 위해 AI를 안전하게 활용할 수 있는 종합적인 능력을 의미한다.
이 조항은 사람의 역량을 제도적으로 강화하는 데 중점을 두고 있으며, 이를 통해 기본권 보호라는 법의 근본 취지를 현장에서 실현하는 데 중점을 둔다. AI 리터러시는 위험 관리, 투명성 확보, 인간 감독 등 법이 규정한 의무가 제대로 작동하기 위한 전제조건이다.
이처럼 제4조는 AIA가 단순한 기술 규범이 아닌 사람을 중심에 둔 규범이라는 점을 잘 보여주고 있다. 제공자와 배포자가 AI 시스템의 운용에 직접 관여하는 인력의 이해 수준을 높여야 한다는 책임을 명확히 밝혔고, 이를 통해 AI가 사회적·법적 환경 속에서 안전하게 작동하도록 법적인 근거를 제공한다.