A Geometria da Verdade: Estrutura Linear Emergente em Representações de Modelos de Linguagem Grande de Conjuntos de Dados Verdadeiro/Falso

Modelos de Linguagem Grande (LLMs) têm capacidades impressionantes, mas são propensos a produzir falsidades. Trabalhos recentes desenvolveram técnicas para inferir se um LLM está dizendo a verdade ao treinar sondas nas ativações internas do LLM. No entanto, essa linha de pesquisa é controversa, com alguns autores apontando falhas dessas sondas em generalizar de maneiras básicas, entre outras questões conceituais. Neste trabalho, usamos conjuntos de dados de alta qualidade de declarações simples verdadeiras/falsas para estudar em detalhe a estrutura das representações de verdade dos LLMs, baseando-nos em três linhas de evidência: 1. Visualizações das representações de declarações verdadeiro/falso dos LLMs, que revelam uma clara estrutura linear. 2. Experimentos de transferência nos quais sondas treinadas em um conjunto de dados generalizam para conjuntos de dados diferentes. 3. Evidência causal obtida por intervenções cirúrgicas na passagem de um LLM, fazendo com que ele trate declarações falsas como verdadeiras e vice-versa. No geral, apresentamos evidências de que, em escala suficiente, os LLMs representam linearmente a verdade ou falsidade de declarações factuais. Também mostramos que sondas simples de diferença de média generalizam tão bem quanto outras técnicas de sondagem, identificando direções que estão mais implicadas causalmente nas saídas do modelo.