제19조 자동 생성 로그(Automatically Generated Logs)는 고위험 AI 시스템이 자동으로 생성하는 로그를 일정 기간 보관하도록 규정하고 있다. 자동 생성 로그는 오류나 예외 사항, 사용자 접근 및 이용 이력 등 시스템이 스스로 남기는 운영 기록을 의미하는데, 이러한 기록은 항공기의 블랙박스처럼 시스템의 작동 과정을 추적하고 문제 발생 시 원인을 규명할 때 필수적이다.
이 로그를 제공자는 최소 6개월 이상 보관해야 한다. 다만, 기간은 고정적이지 않고 시스템의 사용 목적과 관련 법률에 따라 달라질 수 있다. 예를 들어, 사법 행정, 이민 심사, 사회보장 서비스 같은 분야에서는 분쟁 해결이나 사후 감사가 필요하기 때문에 6개월보다 훨씬 긴 기간 동안 로그를 보관해야 할 수 있다. 반대로 로그가 개인정보를 포함하는 경우에는 GDPR이나 회원국 데이터 보호법에 따라 보관 기간이 결정될 수 있으며, 이때는 6개월보다 짧은 기간만 허용될 수도 있다.
금융기관은 이미 금융서비스법에 따라 내부 거버넌스 및 절차 관련 문서를 관리하고 있으므로 고위험 AI 시스템이 생성한 로그를 해당 문서 체계에서 관리하면 된다.