Más allá de Chatbot-K: Sobre Modelos de Lenguaje Grandes, "IA Generativa" y el Surgimiento de los Chatbots—Una Introducción

Resumen Este ensayo introduce la historia del paradigma de la "IA generativa", incluyendo su economía política subyacente, desarrollos técnicos clave y efectos socioculturales y ambientales. En conjunto con este marco, se discuten los artículos, reflexiones y revisiones que conforman la parte 1 de este número especial de dos partes (junto con parte del contenido de la parte 2). Aunque los modelos de lenguaje grandes (LLMs) se comercializan como maravillas científicas, no fueron diseñados para funcionar como sistemas interactivos confiables ni como herramientas robustas para apoyar la comunicación humana o el acceso a la información. Su desarrollo y despliegue como herramientas comerciales en un clima de positivismo reduccionista de datos y poder corporativo poco regulado volvieron obsoleta una larga historia en la que los investigadores consideraban a los chatbots como adecuados para un uso público seguro o confiable. Mientras que las bases técnicas de estos sistemas tan publicitados se guardan como secretos propietarios que no pueden ser compartidos con investigadores, reguladores o el público en general, hay evidencia suficiente para mostrar que su desarrollo depende de la expropiación y privatización de contenido generado por humanos (gran parte bajo derechos de autor); el gasto de enormes recursos computacionales (incluyendo energía, agua y materiales escasos); y la explotación oculta de ejércitos de trabajadores humanos cuyo trabajo mal remunerado y de alto estrés hace que la "IA" parezca más como "inteligencia" o comunicación humana. Al mismo tiempo, la comercialización de chatbots propaga una ideología engañosa de "conocimiento sin fricción" que confunde la capacidad de una persona para aprovechar una herramienta para producir un resultado con la comprensión activa y la conciencia de esa persona sobre la información relevante o las afirmaciones de verdad contenidas. En contraste, las mejores infraestructuras digitales para la escritura humana permiten a los usuarios humanos amplificar y concretar su rol interactivo en la elaboración de trenes de contemplación y representar esta experiencia situada de forma compartible. El ensayo concluye con reflexiones sobre caminos alternativos para el desarrollo de la IA—incluyendo herramientas comunicativas—en interés público.