본문 바로가기
객관의 의무

참 한가한 국가대표 AI 선발

어제 ‘독자 AI 파운데이션 모델’ 2차 발표가 있었다. 어떤 기업이 선발되고, 또 어떤 기업이 탈락했는지 관심 없다. 당장 사용할 수 있는지, 그 성능은 우수한지, 어떤 작업에 특화되어 있는지…이런 게 궁금하다. 벌써 1년이 지났다. 그러데 아직도 평가 중이고, 최종 선발은 올해 말에 발표된다고 한다.

선발되면 약 1,000장의 GPU를 지원한다고 한다. 이 컴퓨팅 자원이 귀한 건 알겠는데, 운영비까지 합치면 2,000~3,000억 정도 들 것 같다. 참여한 기업 중에는 대기업도 있다. 이 정도 예산이 아까워서 계속 평가를 받으며 연구개발을 진행한다는 것이 쉽게 이해하기 어렵다. 정부 평가도 받아야 하고, 내부 보고 절차도 거쳐야 하고, 연구개발도 해야 하고. 과연 제대로 집중하면서 일하고 있을까? 쉽지 않다. 연구개발에만 집중해도 시원치 않은 판국에 때마다 평가를 받는 게 맞는지 모르겠다.

여튼…AI 기술은 하루가 다르게 발전하고 있는데 6개월 단위로 그 과정을 평가나 하고 있으니 답답하다. 굳이 6개월 단위로 2년에 걸쳐 선발해야 하는 이유가 대체 뭘까? 소중한 컴퓨팅 자원을 정말 실력 있는 기업에 지원하려는 의도는 잘 알겠다. 그런데 이 사업이 최종 승자를 가려내기 위한 과정이 아니라 경쟁을 통해 국내 AI 기업의 경쟁력을 글로벌 수준으로 끌어올리겠다는 논리는 납득하기 어렵다. 이런 논리라면 다른 평가도 국가 예산으로 경쟁을 붙여 참여 기업의 경쟁력을 올려야 하는 것이다.

무엇보다도 동일 기준이나 조건으로 성능을 측정하는 평가체제에서 단순 경쟁만으로 모델 성능이 나아질 수 있을까? 만약 ChatGPT, 클로드, 딥시크가 동일 기준이나 조건으로 경쟁했다면 그 결과는 어떻게 될까? 이렇게 경쟁시킨다고 경쟁력이 높아지는 것은 아니다. 그저 평가를 통과하기 위한 능력만 높아질 뿐이다. 경쟁은 벤치마크 대상인 글로벌 AI 모델과 해야 하는 것이다.

경쟁의 출발점은 전략이다. 어떻게 차별화할 것인지, 어떻게 특성화할 것인지, 어떤 시장에 집중할 것인지…이에 따라 개발 방법론도 다르고, 그 평가 기준도 다르다. 그래서 단순히 스펙 차원의 경쟁은 진정한 경쟁이라고 부를 수 없다. 그리고 AI 기술이 빨리 변하므로 6개월마다 목표와 방법론을 바꾼다는 논리도 참 의아하다. 이런 규칙에 적응하는 것 자체가 소모적이다. 그렇게 기술이 빨리 변하는 데 평가를 2년에 걸쳐 진행하는 것은 더 의아하다.

최근 글로벌 AI 모델은 LLM 성능의 진화는 물론 코딩과 에이전트가 핵심 경쟁력이 되었다. 때론 시장을 따라 진화하고, 때론 시장을 변화시키고 있다. 이미 AI는 생활과 비즈니스 속에 들어와 작동되고 있고, 개인과 기업 모두 다양한 시도와 시행착오를 겪으면서 AI 전환을 추진하고 있다.

이런 상황에서 독파모가 출시되면 독파모로의 전환이 이루어질까? 독파모가 무료이든 저렴한 가격이든 간에 타 모델보다 유리한 조건으로 제공되어도 독파모로 갈아타기 쉽지 않을 것이다. 저렴하지만 다소 낮은 성능의 AI와 비싸지만 높은 성능의 AI 중 어떤 것을 선택할까? 상황과 용도에 따라 다르겠지만 AI로 얻는 성과는 비용 대비 크게 높기 때문에 예산 절감의 이유로 독파모로 갈아타는 경우는 생각보다 적을 수 있다.

모든 문제를 하나의 모델로 해결할 수 없다. 이미 사람들은 용도에 맞게 여러 모델을 사용하고 있다. 코딩은 클로드, 추론은 ChatGPT, 멀티모달은 제미나이, 그리고 단순 업무에는 공개형 로컬 LLM을 선택하는 식으로 AX 환경을 구축한다. 사실 독파모보다 더 시급한 것은 특정 모델에 종속되지 않는 AX 환경이다.

모델은 대체할 수 있지만 AX는 대체할 수 없다. 좋은 모델이 있다고 AX가 바로 구현되는 것은 아니다. 모델은 AX를 구성하는 여러 요소 중 하나일 뿐이다. 모델은 필요에 따라 선택하고 교체하면 된다. AI를 업무에 적용하려면 데이터를 연결하여, 필요한 지식을 검색할 수 있도록 구성하고, 기존 시스템과 API를 연동해야 한다. 그리고 에이전트의 역할과 권한을 설정하여 실제 업무 프로세스와 애플리케이션을 통해 사용자가 편하게 사용할 수 있어야 한다.

이 과정에서 시행착오가 발생한다. 모델의 성능이 아무리 좋아도 데이터를 제대로 찾지 못하거나 필요한 시스템에 접근하지 못하면 무용지물이다. 그래서 모델을 실제 적용해야 무엇이 부족한지도 알 수 있다. 그래서 현행처럼 모델 개발과 AX를 순차적으로 하기보다는 모델을 먼저 적용하고, 문제가 생기면 고치고, 더 좋은 모델이 나오면 교체하면 된다. 이 과정에서 축적된 데이터와 실패 사례는 다시 모델을 개선하는 데 활용할 수도 있다.

물론 완성도가 낮은 모델을 적용하면 그에 따른 시행착오도 발생한다. 그렇다고 명확한 완성 시점이 없는 AI 모델을 마냥 기다리는 것도 현실적이지 않다. 지금의 최신 모델도 몇 달 뒤면 이전 모델이 되고, 이 모델도 다시 또 새로운 모델로 대체된다. 이런 환경이라면 완성된 모델을 기다리기 보다는 현재 상황에서 채택 가능한 모델부터 적용하는 것이다. 모델의 불완전성은 필연이고, 이는 AX를 통해 관리해야 하는 조건일 뿐이다.

그런데 독파모는 모델을 고르는 데만 2년 가까운 시간을 쓰고 있다. 그동안 정부와 공공기관의 AX 사업은 이미 진행되고 있다. 독파모가 완성될 때까지 기다려주는 것도 아니다. 2025년 들어 정부 각 부처와 기관에서 AX 사업이 쏟아졌다. 하지만 구체적인 실행체계 없이 각자 추진되었고, 올해 들어서야 데이터와 기술 연계 등 이를 보완하기 시작했다. 늦어도 한참 늦었다. 연계와 통합을 위한 전환 비용, 재작업 비용, 매몰 비용 등 불필요하게 소모되는 비용이 독파모 예산보다 몇 배는 더 들 것이다.

국가대표 AI를 한 달만에 선발할 수는 없었을까? 아니 선발하는데 2년, 3년이 걸리더라도 AX까지 기다리거나 시행착오를 반복하지 않게 할 수는 없었을까? 현재 가용한 모델로 AX를 진행하고 독파모가 출시되면 모델을 교체하거나 라우팅하면 될 일이다. 지금 AI 시대에는 GPU뿐만 아니라 시간과 기회도 희소자원이다. GPU는 다시 살 수 있다. 예산도 편성하면 되는 것이고. 그러나 AX를 위한 시간과 기회는 다시 살 수도 편성할 수도 없다.

미국 국립표준기술연구소 NIST와 글로벌 컨설팅펌 McKinsey, BCG 등의 연구와 보고서에서 지적하는 문제를 AX 지연의 관점에서 정리해 보면 다음과 같다.

  • 시행착오를 통해 배울 시간을 잃는다(Learning Loss)

    AX는 좋은 모델만으로는 완성되지 않는다. 실제 데이터를 연결하고 업무 프로세스에 적용하면서 “이 데이터를 못 찾는다”, “이 업무에서는 추론이 약하다” 같은 문제가 드러나고, 다시 피드백 되어 AX와 모델을 개선한다. Deploy → Failure → Feedback → Improve라는 학습 사이클 자체를 늦추는 것이 가장 큰 손실이다.

    (참고) https://airc.nist.gov/airmf-resources/airmf/5-sec-core/

  • 기관과 기업이 제각각 AX를 구현한다(Fragmentation Cost)

    독파모 완성 시까지 AX가 멈춰 있는 게 아니다. 정부부처, 공공기관, 지자체, 기업들은 이미 ChatGPT, 클로드, 제미나이 등으로 사업을 개별적으로 추진하고 있다. 공통된 방향이나 지침이 없으면 각자 API를 연결하고, RAG를 만들고, 에이전트를 만들고, 보안과 권한체계를 설계할 수밖에 없다. 결국 같은 문제를 수백, 수천 곳에서 따로 해결하는 비용이 발생한다.

    (참고) https://www.mckinsey.com/capabilities/tech-and-ai/our-insights/digital-blog/what-it-really-takes-to-scale-artificial-intelligence

  • 동일 시행착오에 중복 투자한다(Duplicate Investment)

    A기관이 이미 실패해서 알아낸 것을 B기관이 모르고 다시 시도하는 일이 다반사다. 국가 차원에서 실패와 성공 사례가 축적되고 공유되지 않으면 AX 예산은 반복적인 실험비용으로 전락할 수 있다.

    (참조) https://web-assets.bcg.com/eb/d3/5fc6471941b2845872fffdc74b2a/bcg-wheres-the-value-in-ai.pdf

  • 특정 모델과 사업자에 종속될 수 있다(Legacy & Switching Cost)

    각 기관이 특정 모델이나 벤더에 서비스를 만들면 독파모가 공개되어도 교체하기 어렵다. 다시 개발하고 데이터를 이전하고 인터페이스를 수정하는 것 자체가 큰 일이다. 결국 기다리는 2년 동안 종속의 고착화가 심화될 수 있다.

    (참조) https://www.nist.gov/system/files/documents/2021/08/23/ai-rmf-rfi-0039-1.pdf

  • 현장 피드백을 모델 개선에 활용하지 못한다(Feedback Loss)

    국내 모델을 좀 더 빨리 행정, 금융, 제조, 관광 등에 넣었다면 어떤 업무에서 잘하고 못하는지에 대한 데이터를 축적할 수 있다. 이 데이터는 평가 데이터셋을 개선하거나 모델 고도화에 활용할 수 있다. 피드백 루프(Feedback Loop)를 독파모 개발 과정에 포함시킬 수 있었다. 그런데 현행처럼 모델 개발과 적용을 순차적으로 추진하면 이 피드백 루프를 놓칠 수밖에 없다.

    (참조) https://airc.nist.gov/airmf-resources/playbook/measure/

  • 국내 AI 산업의 성장 기회를 잃는다(Market Formation Loss)

    AX가 확산되면 파운데이션 모델뿐만 아니라 에이전트, RAG, 보안, 평가, 애플리케이션 등 다양한 분야에서 새로운 수요가 생긴다. 실제 수요가 늘어나면서 관련 기술과 서비스도 발전한다. AX가 늦어지는 만큼 국내 AI 기업이 시장을 만들고 성장할 기회도 늦어지는 것이다.

    (참조) https://www.worldbank.org/en/publication/dptr2025-ai-foundations/report

  • AI 역량 축적이 늦어진다(Human Capital Loss)

    AX 역량은 기술을 도입한다고 바로 생기지 않는다. 교육으로도 부족하다. 개발자뿐만 아니라 기획자와 현업 담당자도 AI를 실제 업무에 사용하면서 활용 방법과 한계를 익혀야 한다. AX가 늦어지는 만큼 사람과 조직이 이런 경험을 축적할 시간도 늦어진다.

    (참조) https://www.bcg.com/publications/2026/scaling-ai-requires-new-processes-not-just-new-tools

정부의 3대 메가프로젝트는 속도전과 총력전을 강조한다. 국가대표 AI를 제대로 만드는 것도 중요하다. 그보다 더 중요한 것은 국가 전체가 AI를 제대로 하는 것이다. 그리고 이 시점이 빠르면 빠를수록 좋다. 이미 늦어진 국가대표 AI를 기다리지 말고, 구체적인 AX 실행 환경을 만드는 것이 시급하다. 이 환경은 특정 모델에 종속되지 않고, 필요한 모델과 데이터, API, 에이전트, 보안, 평가 등의 요소를 실제 업무와 애플리케이션에 연결해 사용할 수 있도록 만든 체계다.

대한민국 인공지능 행동계획, 공공부문 AI 도입·활용 가이드 등 방향이나 전략이 모두 나와야 그에 맞는 실행환경을 만들 수 있다고 생각한다면 순서가 잘못됐다. 문서를 계속 만드는 동안에도 실제 사업을 시작할 수 있는 기반은 먼저 구축할 수 있다.

파운데이션 모델이 자동차 엔진이라면, 실행환경은 공장(생산체계)이다. 공장이 있어야 뭘 만들던가 할 것 아닌가? 지금까지 공장 구축은 언급도 하지 않고, 자동차를 만들어 판매하겠다는 문서만 만들고 있던 셈이다. 엔진은 시원치 않으면 교체하거나 개선하면 된다. 중요한 것은 다양한 엔진을 가져다 실제 자동차를 만들 수 있는 생산체계를 먼저 갖추는 것이다.

그리고 국가대표 AI 선발에 관한 진행 현황, 모델 소개 등을 공유하는 웹사이트 하나 만드는 것이 그렇게 어렵나? AI가 코딩하는 시대에 전용 웹사이트 하나 만들지 않고 여기저기 돌아다니게 하는 것 자체가 넌센스다.