Мы обычно рассматриваем результаты так, как будто они говорят сами за себя. Модель показывает хорошие результаты, и мы приписываем ей интеллект; сигнал обнаружен, и мы делаем вывод о каком-либо свойстве. В этой статье показано, что такой подход не просто рискован — он структурно неоправдан. Наблюдаемые результаты не определяют их интерпретацию. Один и тот же результат может возникнуть из-за множества несовместимых базовых структур, и ни один внутренний принцип в системе не разрешает эту неоднозначность. Поэтому интерпретация не просто неопределенна, но и в формальном смысле недостаточно детерминирована. Источник этой ошибки кроется в систематической путанице между представлением и атрибуцией. Чтобы это стало очевидным, в статье представлена минимальная структура эпистемических регистров (научного, философского, метафизического), управляемых преобразованиями, ограниченными типами. Только одно направление — представление — сохраняет структуру; обратное направление — нет. Эта асимметрия распространяется на вероятностный вывод, теорию принятия решений и оптимизацию, где она проявляется как нестабильность, дивергенция и сбой в работе прокси-системы. Искусственный интеллект представляет собой наиболее наглядный предельный случай этой структуры. В статье выдвигается единое утверждение: без явных ограничений на то, как мы переходим от измеряемого к утверждаемому, сама интерпретация не имеет определенной структуры.
M. Evoluit (Mon,) studied this question.