La traducción automática (MT) ha dado un salto trascendental con el advenimiento de los modelos de lenguaje grande (LLMs), que han reconfigurado el panorama de la traducción especialmente en lenguas con bajos recursos. Los investigadores de IIT Patna abordan en una revisión exhaustiva cómo estos LLMs han mejorado la fluidez en las traducciones a través de técnicas innovadoras como el “few-shot prompting” y la transferencia translingual. Aun así, el reto de traducir lenguas menos comunes sigue presente, debido a la escasez de corpus paralelos.

El paper destaca la evolución de MT desde sistemas basados en reglas hasta modelos neuronales avanzados. Donde la estatística y la flexibilidad de los modelos LSTM se vieron limitadas por problemas de gradientes y dependencias de largo alcance, el modelo Transformer ha emergido, permitiendo una atención focal y mejorando significativamente la precisión de las traducciones.

A pesar de los avances, los LLMs aún enfrentan obstáculos considerables como alucinaciones, sesgos heredados y evaluaciones inconsistentes. Este estudio profundiza en enfoques de afinamiento de parámetros como LoRA y adaptadores, logrando adaptar modelos de IA de manera eficaz sin necesidad de una modificación extensiva.

La generación de datos sintéticos emerge como una solución para la traducción de idiomas con menos recursos. El uso de back-translation y la adaptación de dominio permiten mejorar la calidad de las traducciones en contextos de datos limitados. Estudios demuestran mejoras de hasta 5-6 puntos BLEU en traducciones del árabe al inglés usando estrategias innovadoras como LexMatcher.

Los métodos de evaluación de MT han evolucionado de puntuaciones BLEU hacia métricas impulsadas por LLMs, evaluando la calidad con mayor precisión. El uso de LLMs para la generación de corpora sintéticos ha demostrado ser efectivo, a menudo superando métodos basados en reglas y neuronales.

A futuro, la inclusión y adaptación de estos avances tiene el potencial de fomentar un sistema de MT más robusto y escalable, beneficiando a idiomas menos representados y enriqueciéndolos a través de comunicaciones interculturales más claras y eficaces.