Dieses Papier untersucht eine strukturelle Einschränkung in modernen großen Sprachmodellen: Sie können Stabilität, Wiederholbarkeit oder verifizierbare Korrektheit nicht garantieren, da das Denken durch stochastische Inferenz an der Grenze, wo Entscheidungen getroffen werden, getrieben wird. Viele bekannte Fehlerarten wie Halluzination, Interpretation Drift und Nicht-Reproduzierbarkeit sind keine Probleme des Tuning oder der Skalierung. Sie sind architektonischer Natur. Dieses Papier argumentiert, dass diese Fehler aus Systemen entstehen, die die Aufgabenbedeutung und den Denkzustand bei jedem Durchlauf neu inferieren. Als Antwort skizziert es ein deterministisches Systemrahmenwerk, in dem das Denken durch extern gesteuerte Zustände, eine feste Aufgabenontologie und Ausführungspfade, die überprüft und wiederholt werden können, eingeschränkt wird. Die Arbeit ist konzeptioneller und architektonischer Natur. Sie führt kein neues Modell ein. Stattdessen definiert sie eine Reihe von systemweiten Einschränkungen, unter denen Denksysteme verifizierbar, erklärbar und für hochriskante Anwendungen geeignet gemacht werden können. Dieses Manuskript ist als grundlegendes Positionspapier gedacht und wird mit laufenden empirischen und Implementierungsarbeiten kombiniert.
Armonti Du-Bose-Hill (Di.) untersuchte diese Frage.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: