Resumen - El impacto de la mezcla de lenguas en la razón de los modelos de lenguaje bilingües

El impacto de la mezcla de lenguas en la razón de los modelos de lenguaje bilingües

2025-07-21 17:56:09

{"Yihao Li","Jiayi Xin","Miranda Muqing Miao","Qi Long","Lyle Ungar"}

{cs.CL,cs.AI,cs.LG}

Este documento investiga el impacto de la mezcla de lenguas en las habilidades de razonamiento de los modelos de gran lenguaje bilingües (LLMs). Explora el fenómeno de la mezcla de lenguas, donde los LLMs saltan entre inglés y chino durante el razonamiento, y examines si este comportamiento beneficia o obstaculiza su desempeño. Los autores observan primero que una mayor capacidad de razonamiento se correlaciona con un aumento en la mezcla de lenguas, sugiriendo que la mezcla de lenguas podría ser una estrategia deliberada para mejorar el razonamiento. Identifican el aprendizaje por refuerzo con recompensas verificables (RLVR) como la etapa de entrenamiento crucial que induce la mezcla de lenguas. Para probar el impacto de la mezcla de lenguas en el razonamiento, llevaron a cabo experimentos en los que limitaron las salidas de los LLM a ser monolingües y las compararon con salidas bilingües no restringidas. Descubrieron que las salidas bilingües superaron significativamente a las monolingües en tareas de razonamiento matemático. Además, entrenaron un explorador ligero para predecir si un cambio de lenguaje potencial beneficiaría o perjudicaría el razonamiento. Este explorador se utilizó para guiar la decodificación, lo que resultó en mejoras adicionales en la precisión. Esto sugiere que la mezcla de lenguas no es simplemente un subproducto del entrenamiento multilingüe, sino un comportamiento de razonamiento estratégico que se puede aprovechar para mejorar el razonamiento de los LLM. En general, el documento proporciona evidencia de que la mezcla de lenguas puede ser una estrategia beneficiosa para el razonamiento de los LLM. Resalta la importancia de entender los factores que influyen en la mezcla de lenguas en los LLM y sugiere formas de aprovechar este comportamiento para mejorar el rendimiento del razonamiento.