- 기존 통계 기반 번역(단어/구 단위 조합)과 달리 문장 전체를 하나의 의미 단위로 인식해 번역하는 방식
- 문맥 흐름을 이해하고 뉘앙스를 살릴 수 있어 번역 품질이 크게 향상됨
- Google Translate, DeepL, Papago 등 대부분의 상용 번역 서비스가 이 방식을 채택
- 프로세스는 데이터 준비 → 인코더-디코더 아키텍처 → 모델 학습(사전 학습/파인튜닝) → 번역 결과 출력 순으로 이어짐
어텐션 메커니즘과 Transformer : 번역할 때 문장의 모든 단어를 고르게 보는 것이 아니라 중요한 단어에 더 집중하는 방식. Transformer는 어텐션을 더 정교하게 활용하면서 문장 전체를 병렬로 처리해 속도와 정확도를 함께 향상
인코더-디코더 구조 : 인코더는 원문 문장을 입력받아 위치 인코딩을 포함한 문맥화된 표현으로 변환. 디코더는 이 표현을 바탕으로 번역문을 한 단어씩 생성. 어텐션 메커니즘이 두 단계 사이에서 어떤 부분에 집중할지를 결정
모델 학습 : 원문-번역문 쌍으로 구성된 병렬 코퍼스(대규모 데이터)로 사전 학습. 이미 공개된 사전 학습 모델(Hugging Face 등)을 활용하면 기본 번역 품질은 바로 확보 가능. 의료/법률처럼 전문 용어가 많은 도메인은 해당 분야 데이터로 파인튜닝해 정확도를 높임
오픈소스 도구 : Fairseq(Facebook AI), Marian NMT(다국어 환경에 최적화/경량화), Hugging Face Transformers(사전 학습 모델 제공, 빠른 테스트/커스터마이징에 유리)