- NMT(신경망 기계 번역)와 LLM의 장단점을 조합해 정확성, 속도, 표현력, 비용 측면에서 균형을 잡는 번역 방식
- 정형화된 문장은 NMT로, 문맥 해석이 필요한 문장은 LLM으로 자동 분기
- 프로세스는 전처리(프리프로세서) → 경로 분기(라우터) → 번역 실행 → 후처리(오케스트레이터) 순으로 이어짐
프리프로세서 : 입력 텍스트를 문장 단위로 분리하고 특수문자 제거 등 기본 정제. 동시에 문장 길이, 키워드, 문체 같은 분석 정보를 추출해 어떤 번역 방식이 적합할지 판단하기 위한 데이터 수집
라우터(경로 분기) : 프리프로세서가 추출한 정보로 각 문장을 NMT/LLM 중 적합한 경로로 분기
- NMT 경로 : 짧거나 정형화된 문장, 용어 일관성이 중요한 문장(제품명, 기술 용어)
- LLM 경로 : 길고 복잡한 문장, 구어체/감정 표현, 광고 문안, “요약해서”, “정중하게” 같은 지시어가 포함된 문장
- 분기 방식은 규칙 기반(if-else 조건)과 텍스트 분류 모델(문장 유형 자동 판별) 두 가지
번역 실행 : NMT 경로는 OpenNMT/MarianMT/T2T 같은 번역 엔진에 REST API로 요청. LLM 경로는 프롬프트로 구성해 GPT-4/Claude/Mistral API에 요청. 두 방식 모두 API 호출 구조가 동일해 코드 관리가 일관됨. 필요에 따라 병렬 실행도 가능
오케스트레이터(후처리) : 번역 결과를 문장 순서대로 복원하고, 대소문자/문장 부호를 정리. NMT/LLM에서 나온 결과를 하나로 통합해 사용자에게는 단일 번역처럼 제공
적합한 상황 : LLM의 자연스러운 표현을 원하지만 속도/비용이 제한적일 때, 번역 난이도가 구간별로 다른 다국어 문서를 처리할 때, 정확성과 표현력을 동시에 요구하는 고객 서비스/내부 지식 검색 환경