Abriendo la Caja Negra de los Modelos de Lenguaje Grande: Dos Perspectivas sobre la Interpretabilidad Holística

A medida que los modelos de lenguaje grande (LLMs) se vuelven más poderosos, las preocupaciones en torno a los posibles daños como la toxicidad, la injusticia y la alucinación amenazan la confianza del usuario. Por lo tanto, garantizar una alineación beneficiosa de los LLMs con los valores humanos a través de la alineación del modelo es crítico pero desafiante, requiriendo una comprensión más profunda de los comportamientos y mecanismos de los LLMs. Proponemos abrir la caja negra de los LLMs a través de un marco de interpretabilidad holística que abarca perspectivas complementarias de abajo hacia arriba y de arriba hacia abajo. La perspectiva de abajo hacia arriba, habilitada por la interpretabilidad mecanicista, se centra en las funcionalidades de los componentes y la dinámica de entrenamiento. La perspectiva de arriba hacia abajo utiliza la ingeniería de representación para analizar comportamientos a través de representaciones ocultas. En este documento, revisamos el panorama de la interpretabilidad mecanicista y la ingeniería de representación, resumiendo enfoques, discutiendo limitaciones y aplicaciones, y delineando desafíos futuros en el uso de estas técnicas para lograr un razonamiento ético, honesto y fiable alineado con los valores humanos.