- 거대 언어 모델(LLM)이 문장의 의미와 문맥을 이해한 뒤 자연스러운 표현을 생성하는 방식의 번역
- 기존 NMT가 언어쌍 중심의 직접 번역이라면, LLM 기반은 프롬프트로 요청을 전달하고 의도/상황/문체까지 고려해 재구성하는 방식
- 번역+재구성 요청을 자연스럽게 처리
- 프로세스는 프롬프트 입력 → 토큰화 → 문맥 이해(셀프 어텐션) → 맥락 통합 → 번역 생성 순으로 이어짐
셀프 어텐션과 맥락 통합 : 문장의 각 단어가 다른 모든 단어와의 관계를 동시에 계산. NMT도 어텐션을 쓰지만 인코더-디코더 분리 구조의 한계가 있는 반면, LLM은 더 큰 규모와 방대한 데이터로 더 깊은 문맥 이해 가능. 문서 유형, 스타일, 목적까지 통합적으로 파악
번역 생성 : 학습 시 접한 수많은 문장 예시를 참조해 상황에 맞는 표현을 확률적으로 선택하면서 문장 생성. 사용자 요청에 대해문장 길이, 서두/맺음 표현 등을 자동 반영. 요약 번역(핵심만 추려 재구성)에도 우수한 성능
프롬프트 엔지니어링 기반 구현 : GPT-4, Claude, LLaMA2, Mistral 등 다양한 LLM 활용. 별도 번역 모델 없이 프롬프트 설계만으로 번역 기능 구현 가능. Hugging Face Transformers로 모델을 직접 불러와 테스트 가능
한계 : 문장마다 번역 품질이 달라질 수 있어 일관성 유지가 어려움. 도메인 특화 용어 번역은 NMT/파인튜닝 모델이 더 적합. 연산 자원이 많이 들고 응답 속도가 느림 → 사용 목적과 시스템 환경에 따라 NMT와의 균형 설계가 중요