본문 바로가기
← 메인으로
모델

모델의 도입과 선택

게시 2024-10-24

수백 개의 언어 모델이 존재하고 매주 새로운 모델이 등장한다. 선택지는 무궁무진하다. 문제는 성능 좋은 모델이 반드시 적합한 모델은 아니라는 점이다. 최신 모델일수록 높은 비용과 복잡한 운영이 필요하고, 해외 모델은 한국어 처리에 한계가 있을 수 있다. 반대로 검증되지 않은 최신 모델은 예상치 못한 장애나 서비스 중단 위험을 안고 있다.

모델 선택은 단순한 기술적인 결정이 아니다. 클라우드 API로 빠르게 시작할 것인지, 직접 구축하여 통제권을 확보할 것인지부터 결정해야 한다. 특히 국내 기업은 한국어 성능, 데이터 주권 문제까지 고려해야 하는 상황이다.

모델 도입 방식

모델을 사용하는 방법은 크게 호출 방식과 구축 방식으로 나뉜다. 호출 방식은 ChatGPI, Claude 같은 모델을 클라우드 API로 호출하여 사용하는 방식이다. 자체 서버 없이 바로 사용할 수 있으며 최신 성능이 자동 반영된다. 초기 서비스 개발에 유리하고, 자연어 처리, 번역, 요약, 코딩 등 다양한 작업을 즉시 실행할 수 있다.

반면에 모델의 판단 기준과 응답 형식을 변경할 수 없고, 입력값이 외부 서버로 전송되어 민감한 업무에는 부적합하다. 운영 관점에서 확장성은 떨어진다. 또한 운영 관점에서 확장성이 제한적이다 구축 방식은 오픈소스 모델을 사내 서버나 클라우드에 직접 배포하여 사용하는 구조다. LLaMA, Mistral, KoGPT, Solar 같은 모델이 해당한다. 판단 기준이나 응답 형식을 내부 목적에 맞게 자유롭게 조정할 수 있고, 사내 데이터로 학습도 가능하다. 보안이 요구되는 분야나 특수 도메인 기업에 적합하다.

모델 구축 방식

구축 방식은 사전 학습 모델 활용, 파인튜닝, 경량 모델 직접 구축으로 나뉜다.

  • 사전 학습 모델(Pre-trained Model) 활용 : 가장 쉽고 빠른 모델 구축은 사전 학습 모델을 추가 학습 없이 그대로 활용하는 방식이다. LLaMA, Mistral 같은 오픈소스 모델을 다운로드하여 서버에 설치하면 된다. 별도 학습 과정이 없어 운영할 수 있고, 검증된 성능을 그대로 활용할 수 있다는 장점이 있다. 하지만 범용적인 모델이므로 금융, 의료 등 특정 도메인처럼 특화된 성능이나 맥락은 제한적이다.
  • 파인튜닝(Fine-tuning) : 다음은 사전 학습 모델을 파인튜닝 후 활용하는 방식이다. 대형 언어 모델을 처음부터 학습시키는 것은 현실적으로 거의 불가능하다. 테라바이트급 텍스트 데이터와 수만 개의 GPU를 동시에 가동할 수 있는 인프라 없이는 GPT-3나 Claude 수준의 모델을 처음부터 만들기 어렵다. 하지만 사전 학습 모델을 개선하는 파인튜닝은 충분히 가능하다. 예를 들어 의료기관이 상담 기록을 요약하고 싶다면, 기존 LLaMA나 Mistral 모델에 의료 기록을 훈련시켜 해당 업무에 최적화된 판단을 유도할 수 있다. LoRA, QLoRA 같은 PEFT 기법이 알려지면서 파인튜닝이 훨씬 쉬워졌다. QLoRA를 사용하면 일반 GPU 하나로도 중간 크기 모델을 10여 시간, 수십 달러 비용으로 학습시킬 수 있다.
  • 경량 모델 직접 구축(sLLM) : 경량 모델을 직접 구축하는 방법도 있다. 이를 sLLM(Small Language Model)이라 부르는데, 수백만~10억 단위의 파라미터를 가진 이 모델은 사내 데이터를 중심으로 빠르게 훈련시킬 수 있다. 복잡한 계산이 필요하지 않기 때문에 중소규모 환경에 적합하다. sLLM은 문서 분류, 키워드 추출, 요약 등 단일 업무에 특화된 모델이므로 하나의 모델은 하나의 목적으로 운용된다. 여러 기능을 동시에 수행하려면 멀티태스크 구조로 별도 설계해야 한다.

선택 시 고려사항

모델은 주로 허깅 페이스(Hugging Face) 같은 플랫폼을 통해 소개되는데, 이곳에서는 수만 개 이상의 사전 학습 모델과 도구를 제공한다. 생성형 모델뿐만 아니라 분류, 추출, 요약 등 목적별 모델이 정리되어 있고, 직접 다운로드하거나 API로 호출할 수 있다. 대부분 파이토치(PyTorch) 또는 텐서플로우(TensorFlow) 기반으로 구성되어 있으며, 학습에 사용된 데이터셋, 사용 방법, 입출력 예시까지 제공된다. 오픈소스 모델 선택 시 모델의 성능 외에도 실제 운영에 필요한 현실적인 요건들을 고려해야 한다.

  • 훈련 비용 및 저장 용량 : 모델 선택 시 핵심 고려사항이다. LLaMA 7B 모델을 전체 파인튜닝할 경우 A100 GPU 여러 대로 수일간 작업이 필요하며, 클라우드 환경에서 수백만 원에서 수천만 원의 비용이 소요될 수 있다. 다만 LoRA나 QLoRA 같은 경량 파인튜닝 기법을 사용하면 비용을 크게 줄일 수 있다. 70B 모델은 더 많은 GPU와 비용이 필요하다. 모델 용량도 7B는 약 14GB, 70B는 140GB로 큰 저장 공간이 필요하다.
  • 개발자 역량 : 모델 선택의 중요한 기준이다. 오픈소스 모델 파인튜닝을 위해서는 파이썬(Python) 프로그래밍, GPU 서버 관리, 딥러닝 프레임워크 경험이 필요하다. 최소 2~3년 경력의 AI 엔지니어나 데이터 사이언티스트 수준의 전문성이 필요하다.
  • 호환성 : 모델 업데이트와 호환성도 신중히 고려해야 한다. 예를 들어 아키텍처 차이나 토크나이저 변경으로 인해 기존 LLaMA 2 파인튜닝 결과는 LLaMA 3에서 그대로 사용할 수 없으며, 대부분 다시 파인튜닝해야 한다. 그만큼 유지보수 비용이 발생한다는 것을 의미한다.
  • 라이선스 및 상업적 활용 : 대부분의 오픈소스 모델은 상업적 사용을 허용하고 있다. Google의 BERT와 T5는 Apache 2.0 라이선스를, Meta의 LLaMA는 자체 커뮤니티 라이선스를 적용하여 기업에서도 자유롭게 활용할 수 있다.
  • 언어 지원 : 처음부터 한국어를 지원하는 모델을 선택하는 것이 별도 파인튜닝보다 효율적이다. 한국어 미지원 모델을 파인튜닝하면 기본적인 이해와 생성은 가능하지만, 자연스러운 표현이나 복잡한 추론에서는 한계가 있다.

LLM은 개발 주체에 따라 외산 모델과 국산 모델로 구분할 수 있는데, 서로 다른 강점과 특성을 가지고 있어 기업의 상황과 요구사항에 따라 선택 기준이 달라진다.

외산 모델

먼저 글로벌 시장에서 널리 사용되는 외산 모델부터 살펴보자.

  • Meta의 LLaMA : 7B부터 70B까지 다양한 크기로 제공되며, LLaMA 3.1에서는 405B 모델이 추가되었다. 가장 널리 활용되는 고성능 언어 모델 중 하나다. 7B 모델은 A100 GPU 1대로 운영 가능하지만, 70B 모델은 최소 4대 이상 필요하다. 한국어 성능은 보통 수준으로 한국어 특화 파인튜닝이 필요하다.
  • Mistral : 프랑스 스타트업에서 개발한 모델로 7B부터 8x22B까지 다양한 규모로 제공되며, MoE 아키텍처를 활용하여 효율적인 성능을 보인다. 7B 모델로도 13B급 성능을 내어 비용 효율적이고, 최신 Mistral Large 2 등은 한국어를 포함한 다국어 지원을 강화하고 있다. 다만 더 높은 한국어 성능을 원한다면 추가 파인튜닝하거나 번역 파이프라인을 구축할 필요가 있다.
  • Microsoft의 Phi 시리즈 : 1.3B~3.8B의 소형 모델이지만 크기 대비 뛰어난 성능으로 일반 서버나 클라우드에서도 운영 가능하다. GPT-3.5에 근접한 성능을 보여 작은 크기에도 불구하고 문서 요약, 번역, 코딩 등 다양한 업무에 적합하다.
  • 알리바바의 Qwen : 1.8B부터 72B까지 제공되며, 중국어와 영어 모두 뛰어난 성능을 보인다. 특히 Qwen-Chat은 대화형 AI에 특화되어 있고, 수학과 추론 능력이 뛰어나 교육 분야에서 활용도가 높다. 기본적인 한국어 처리는 가능하지만, 고도화된 표현이나 복잡한 맥락에서는 별도 튜닝이 필요하다.
  • DeepSeek : 중국 스타트업이 개발한 모델로 강화학습을 통해 추론 능력을 크게 향상시킨 것이 특징이다. DeepSeek-Coder는 깃허브 코파일럿(GitHub Copilot) 수준의 코딩 지원이 가능하고, DeepSeek-Math는 수학 문제 해결에서 높은 성능을 보인다. 중국어와 영어를 공식 지원한다.
  • BigScience의 BLOOM : 다양한 언어를 지원하는 176B 파라미터의 다국어 모델이다. 아프리카, 동남아시아 등 소수 언어는 물론 한국어도 지원한다. 다만, 한국어 성능은 제한적이며 실무 적용에는 한계가 있다고 알려진다. 모델 크기가 커서 운영 비용이 높은 편이며, 글로벌 서비스를 운영하는 다국적 기업에 적합하다.

국산 모델

국내에서도 한국어와 국내 기업 환경에 최적화된 다양한 LLM이 개발되고 있다. 국산 모델은 한국어 처리 성능이 뛰어나고 국내 법규와 문화적인 맥락을 잘 이해한다는 장점이 있다.

  • 네이버의 HyperCLOVA X : 네이버가 개발한 한국어 특화 대형 언어 모델이다. 한국어 데이터를 중심으로 학습되어 자연스러운 한국어 표현과 문화 맥락을 잘 이해한다. 네이버 서비스에 통합되어 검색, 쇼핑, 웹툰 등 다양한 분야에서 활용되고 있으며, 한국어 문서 요약, 번역, 대화 등에서 뛰어난 성능을 보인다. 기업용 API도 제공하여 한국어 기반 고객 응대, 콘텐츠 분석, 업무 자동화 서비스 구축에 적합하다.
  • LG CNS의 EXAONE : LG CNS가 개발한 멀티모달 AI 모델로 텍스트와 이미지를 동시에 처리할 수 있다. 한국어와 영어를 모두 지원하며, 특히 제조업, 금융업 등 B2B 환경에 최적화되어 있다. 코드 생성, 데이터 분석, 업무 자동화 등에 특화되어 있다.
  • 삼성SDS의 Brity Works : 삼성SDS에서 개발한 Brity Works 플랫폼 내에 포함된 언어 모델이며, 한국어와 영어를 지원한다. 문서 분석, 고객 상담, 업무 프로세스 자동화에 특화되어 있다. 삼성 그룹 내 다양한 계열사에서 활용되고 있으며, 금융, 제조, 유통 등 여러 산업 분야의 업무 패턴을 학습하여 실용성이 높다. 보안과 프라이버시를 중시하는 대기업 환경에 적합하다.
  • 카카오브레인의 KoGPT : 카카오브레인이 개발한 한국어 특화 생성형 언어 모델로 6B 파라미터 규모로 설계되어 비교적 가볍고 한국어 텍스트 생성에서 강점을 보인다. 소스코드는 Apache 2.0, 사전 훈련 모델은 CC-BY-NC-ND 4.0 라이선스로 공개되어 연구와 실험용으로 활용 가능하다. 일부 카카오 서비스에 적용되었으며, 챗봇, 콘텐츠 작성, 고객 응대 자동화 등 한국어 중심의 다양한 업무에 활용할 수 있다.
  • SKT의 에이닷 : SK텔레콤이 개발한 대화형 AI 모델로 자연어 처리와 음성 인식 기술을 결합한 멀티모달 AI 서비스이다. SKT의 통신 인프라와 결합하여 고객 응대, 네트워크 최적화, 스마트 오피스 솔루션 등에 활용되고 있다. 특히 5G 네트워크 환경에서 실시간 AI 서비스 제공에 강점을 보인다.
  • KT의 Mi:dm(믿음) : KT가 개발한 한국어 특화 대형 언어 모델이다. 통신사 특성을 활용하여 고객 상담, 네트워크 관리, 업무 자동화 등에 특화되어 있으며, KT 그룹의 다양한 서비스에서 활용되고 있다.
  • 업스테이지의 Solar : 2020년 설립된 AI 스타트업이 개발한 소형 언어 모델이다. 107억 매개변수 Solar Mini와 220억 매개변수 Solar Pro로 구성되어 있으며, 2023년 허깅페이스 오픈 LLM 리더보드에서 1위를 차지하여 글로벌 주목을 받았다. 크기 대비 뛰어난 성능으로 벤치마크 기준 GPT-3.5에 근접한 성능을 보이며, 빠른 응답 속도로 주목받고 있다. 한국어와 영어를 모두 지원하며, 기업용 프라이빗 LLM 구축에 특화되어 있어 보안이 중요한 환경에 적합하다.
  • 뤼튼테크놀로지스의 뤼튼 : 2021년 설립된 생성형 AI 스타트업으로 자체 모델보다는 GPT-3.5, GPT-4, PaLM2 등 다양한 언어 모델을 통합하여 서비스하는 플랫폼 형태로 운영된다. 사용자가 직접 개인 맞춤형 챗봇을 제작할 수 있는 뤼튼 스튜디오와 사용자 제작 도구를 공유하는 뤼튼 스토어를 제공한다.
  • 솔트룩스의 루시아GPT : 2000년 설립된 AI 기업으로 2023년 자체 개발한 루시아GPT를 공개했다. 대화형 AI와 검색 기술을 결합한 솔루션에 강점을 보인다.
  • 코난테크놀로지의 코난LLM : 2023년 7000억개 토큰으로 학습한 기업용 코난LLM을 발표했다. 고성능과 저비용 구조를 강조하며 온프레미스 방식으로 보안 문제를 해결한 것이 특징으로 기업 내부 데이터 보안이 중요한 환경에 특화되어 있다.

모델 선택은 성능만큼이나 지속 가능성도 중요하므로 기업의 목표, 데이터 환경, 기술 역량, 보안 요구, 예산 등을 종합적으로 고려해야 한다. 보안이 중요한 금융사나 병원은 온프레미스 방식이 적합하고, 빠른 실험이 필요한 기업은 클라우드 API로 시작하는 것이 효율적이다. AI 개발 인력이 부족하면 경량 모델이나 서비스형 모델을, 기술적인 차별화가 중요하면 오픈소스 커스터마이징을 우선적으로 고려한다. 좋은 선택은 가장 높은 성능의 모델이 아니라 자신의 환경에 맞는 모델이다. 기술 수준에 맞춰 작게 시작하되 점진적으로 확장하는 것이 현명한 선택이다.