Answers are grounded in this paper and cite their sources.
Je fähiger ein Modell, desto weniger zeigt sein Gedankengang, was seine Antwort bestimmt hat. Die gängigen Erklärungen, Trainingsdruck, nachträgliche Begründung und fehlender Zugang des Modells zum eigenen Prozess, reichen für den gemessenen Trend aus. Dieser Text behauptet einen zweiten Anteil darunter: Sprache ist auf die Mitte der menschlichen Fähigkeitsverteilung kalibriert, und ein Teil dessen, was ein fähiges Modell rechnet, hat in ihr keine Form, auch ohne Training und auch dann, wenn der Gedankengang gebraucht wird. Die These ist bislang unbelegt und läuft gegen den Trend der Abhängigkeitsmaße. Sie steht und fällt mit einem Test: kausale Attribution der antwortbestimmenden Features, Prüfung ihrer Sagbarkeit von außen, Kurve gegen die Schwierigkeit bei kontrollierter Unsicherheit. Stimmt sie, hat kontrollierbare KI eine Obergrenze, die in der Sprache liegt, nicht in der Technik. English summary: The more capable a model, the less its reasoning shows what determined its answer. The usual explanations (training pressure, post-hoc justification, the model's lack of access to its own process) suffice to explain the measured trend. This text claims a second component beneath it: language is calibrated to the middle of the human ability distribution, and part of what a capable model computes has no form in it, even without training and even when the reasoning is needed. The hypothesis is so far unsupported and runs against the trend of the dependence measures. It stands or falls with one test: causal attribution of the answer-determining features, an external check of their sayability, and the curve against difficulty with uncertainty controlled. If it is right, controllable AI has an upper bound that lies in language, not in the technology. Dateien: deutsche Originalfassung (maßgeblich), englische Übersetzung, je ein Anhang mit Gutachterfragen. Hinweis zur KI-Nutzung: Erarbeitet mit Claude (Anthropic, Modell Claude Fable 5.1): Gegenargumente, Quellenprüfung, Testdesign und große Teile der Formulierung; die englische Fassung ist eine KI-Übersetzung. Hypothese, Vorhersagen, Einsatz und die Verantwortung für jede Aussage liegen beim Autor.
No takes yet. Share an insight, caveat, or question.
Markus Helge Brückner (2026) studied this question.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: