제13조 투명성과 배포자에 대한 정보 제공(Transparency and Provision of Information to Deployers)은 고위험 AI 시스템의 투명성과 배포자(Deployer)에게 제공되는 정보에 관한 규정이다.
이 규정은 고위험 AI 시스템이 투명하게 설계·개발되어야 하며, 배포자가 출력 결과를 해석하고 적절하게 사용하도록 지원해야 한다는 내용을 담고 있다. 또한 시스템은 사용 설명서를 제공해야 하며, 이 설명서는 간결·완전·정확·명확하게 작성되어야 하며, 디지털 형식 등 적절한 형태로 제공되어야 한다.
설명서에는 최소한 다음과 같은 사항이 포함된다.
- 제공자와 공인 대리인의 인적사항 및 연락처
- 시스템의 특성, 성능, 한계
- 출력 해석과 관련된 기술적 능력
- 특정 집단에 대한 성능 차이
- 입력 데이터 및 훈련·검증·시험 데이터셋 관련 정보
- 초기 적합성 평가 당시 사전 결정된 변경 사항(업데이트, 변경 계획 등)
- 인간 감독 조치 및 해석 지원 수단
- 시스템의 계산·하드웨어 자원, 기대 수명, 유지관리·업데이트 필요 사항
- 로그 기록 수집·저장·해석 방법
이 조항은 배포자가 시스템을 책임 있게 활용하고 기본권 보호 의무를 준수하도록 보장하는 장치다. AIA가 강조하는 투명성 원칙은 고위험 AI가 블랙박스로 작동하지 않도록 하고, 결과에 대한 이해 가능성과 설명 가능성을 제도적으로 확보하는 데 목적이 있다.