Os Modelos de Linguagem São Mais Semelhantes a Bibliotecas ou a Bibliotecários? Biblioteconomia, o Novo Problema de Referência e as Atitudes dos LLMs

Os LLMs são tecnologias culturais como fotocopiadoras ou impressoras, que transmitem informações mas não conseguem criar novo conteúdo? Um desafio para essa ideia, que chamamos de biblioteconomia, é que os LLMs geram texto novo. Começamos com uma defesa da biblioteconomia, mostrando como mesmo o texto novo pode herdar seu significado de texto original criado por humanos. Em seguida, argumentamos que a biblioteconomia enfrenta um desafio independente a partir de exemplos em que os LLMs geram nova referência, usando novos nomes para se referir a novas entidades. Esses exemplos poderiam ser explicados se os LLMs não fossem tecnologias culturais, mas tivessem crenças, desejos e intenções. De acordo com o interpretacionismo na filosofia da mente, um sistema possui tais atitudes se e somente se seu comportamento é bem explicado pela hipótese de que as possui. Os interpretacionistas podem sustentar que os LLMs têm atitudes e, assim, têm uma solução simples para o problema da nova referência. Enfatizamos, no entanto, que o interpretacionismo é compatível com criaturas muito simples tendo atitudes e difere acentuadamente de visões que pressupõem que essas atitudes requerem consciência, sensibilidade ou inteligência (temas sobre os quais não fazemos reivindicações).