ThinkAct: Razonamiento Visión-Lenguaje-Acción a través de la Planificación Latente Visual Reforzada

Las tareas de razonamiento visión-lenguaje-acción (VLA) requieren que los agentes interpreten instrucciones multimodales, realicen planificación a largo plazo y actúen de manera adaptativa en entornos dinámicos. Los enfoques existentes suelen entrenar modelos VLA de manera end-to-end, mapeando directamente entradas a acciones sin razonamiento explícito, lo que limita su capacidad para planificar en múltiples pasos o adaptarse a variaciones complejas de tareas. En este artículo, proponemos ThinkAct, un marco de sistema dual que une el razonamiento de alto nivel con la ejecución de acciones de bajo nivel a través de la planificación latente visual reforzada. ThinkAct entrena un LLM multimodal para generar planes de razonamiento encarnado guiados por recompensas visuales alineadas a la acción, basadas en la finalización de objetivos y la consistencia de trayectorias. Estos planes de razonamiento se comprimen en un plan visual latente que condiciona un modelo de acción de seguimiento para una ejecución de acciones robusta en entornos objetivo. Experimentos extensos en razonamiento encarnado y puntos de control de manipulación robótica demuestran que ThinkAct permite una adaptación de pocos disparos, planificación a largo plazo y comportamientos de autocorrección en tareas complejas de IA encarnada.