不负责任的言论是大型语言模型（LLM）创造的一种新的伤害类型，它对科学、教育和民主社会中的共同社会真相构成了累积性、长期的风险。LLM生成的回复看似可信、有帮助且自信，但实际上却包含事实不准确、误导性引用和偏见信息。这些细微的不实信息有可能随着时间的推移累积地削弱并同质化知识。本文探讨了LLM提供者是否存在法律责任以创建能够‘说真话’的模型及其可行性。我们认为，LLM提供者应该被要求减少不负责任的言论，并通过开放的民主过程将其模型与真相更好地对齐。我们将不负责任的言论定义为与LLM中的‘基准真相’相对的内容，并探讨与之相关的风险，包括幻觉、错误信息和虚假信息。我们评估了欧盟人权法以及《人工智能法》、《数字服务法》、《产品责任指令》和《人工智能责任指令》中与真相相关的义务的存在。当前框架存在有限的、特定行业的真相责任。借鉴科学和学术、教育、档案馆和图书馆的职责，以及一起涉及谷歌因自动完成而被控诽谤的德国案例，我们提出了一条为狭义和通用大型语言模型的提供者创建法律真相责任的路径。
Wachter等人（周四）研究了这个问题。