Nutzenbare Informationstheorie: Ein Rahmen für Bedeutung, Nützlichkeit und Intelligenz in beschränkten Agenten

Zusammenfassung: Die klassische Informationstheorie misst syntaktische Unsicherheit, schließt jedoch absichtlich Bedeutung, Nützlichkeit und Relevanz aus. Dieser Artikel schlägt die Nutzenbare Informationstheorie (UIT) vor, einen Rahmen, in dem Information erst durch ihre Fähigkeit sinnvoll wird, prädiktive, komprimierende oder generative Nützlichkeit in Bezug auf einen beschränkten Agenten und sein Weltmodell zu erzeugen. Wir definieren nutzbare Information UA(I, MA) = I − H(I | MA), semantische Entropie ΣA(I, t) = H(I | MA(t)) als die verbleibende Information, die noch nicht in das Weltmodell des Agenten integriert ist, und informative freie Energie FA(I) = I − ΣA als extrahierbare epistemische Arbeit. Intelligenz wird als die Rate der Reduktion semantischer Entropie definiert. Wir argumentieren, dass scheinbare Diskontinuitäten im Lernen—semantische Phasenübergänge—von kontinuierlichen Aktualisierungen des Weltmodells herrühren, die durch Reservoire latenter hoch-ΣA Informationen kaskadieren und UIT mit dem Prinzip der freien Energie als geschachtelte Beschreibungsebenen versöhnen. Wir positionieren UIT gegen Shannon (1948), Carnap & Bar-Hillel (1953), Floridi (2011), Dretske (1981), Kolmogorov (1965), Tishby, Pereira & Bialek (1999), Schmidhuber (2010) und Kolchinsky & Wolpert (2018). UIT wird als falsifizierbarer Rahmen mit expliziten empirischen Vorhersagen präsentiert, einschließlich eines vorgeschlagenen experimentellen Tests des latenten Kaskadenmechanismus in Sprachmodellen.