Große Sprachmodelle (LLMs) zeigen starke generative Fähigkeiten, sind jedoch anfällig für semantische Drift, Halluzination und Instabilität im langfristigen Denken. Diese Studie schlägt Semantisches Entwerfen (SD) vor, ein Framework, das das Prompting als ein strukturiertes semantisches Kontrollsystem neu definiert. SD organisiert Inferenzen durch hierarchische Ebenen—L4 (Objektiv), L3 (Kontext), L2 (Einschränkungen) und L1 (Problem)—die gemeinsam den Denkraum eingrenzen. Darüber hinaus führt diese Studie eine strukturelle Interpretation von Halluzinationen basierend auf Semantischer Flexibilität (SF) ein. Anstatt Halluzinationen als zufällige Fehler zu betrachten, klassifizieren wir sie als eine Reihe von Fehlerarten, die aus Ungleichgewichten in der semantischen Integration entstehen. Durch kontrollierte Experimente mit strukturierten und abgetragenen Bedingungen zeigen wir, dass das Entfernen von SD nicht nur die Leistung mindert, sondern die Ausgabeverteilungen in Richtung unterschiedlicher Fehlerregime verschiebt. Diese Ergebnisse legen nahe, dass die Instabilität von LLMs grundlegend ein strukturelles Phänomen ist, das von Entwurfsbeschränkungen und semantischer Flexibilität gesteuert wird.
卓馬 吉田 (Sun,) hat diese Fragestellung untersucht.