Исследователи и практики в области безопасности ИИ продолжают спрашивать, почему большие языковые модели иногда опасно галлюцинируют. Это правильный вопрос, но он не углубляется достаточно. Галлюцинация — это симптом. Настоящая проблема структурна — мы построили вершину синтетического познания без основания. Я называю это ошибкой инверсии.
В 1960-х годах психолог в области образования Джером Брунер отобразил когнитивное развитие человека в трёх последовательных и архитектурно зависимых стадиях. Первая — энактивная — обучение через физическое действие и сопротивление тела, через прямое столкновение с причинной реальностью. Вторая — иконическая — обучение через сенсорные образы, пространственные модели и структурные представления. Третья — символическая — обучение через абстрактный язык, математику и формальную логику. Критическое открытие Брунера состояло в том, что эти стадии не просто последовательные вехи. Они несущие. Символический уровень структурно зависит от иконического, который структурно зависит от энактивного. Удалите основание, и вершина не просто парит — она становится системой чрезвычайной абстракции без внутреннего механизма для проверки своих выходов против модели мира.
Рисунок 1: Ошибка инверсии в архитектуре тяжёлого сверху ИИ. Слева: трёхуровневая пирамида человеческого развития по Брунеру — энактивное основание, иконический средний уровень, символическая вершина. Справа: современное развитие ИИ — перевёрнутая структура с массивным символическим слоем (ЯМ с триллионами токенов), полым иконическим слоем (видео и изображения) и отсутствующим энактивным основанием (без заземления). Концепция и иллюстрация © 2026 Peter (Zak) Zakrzewski, на основе развивающей структуры Jerome Bruner.
Революция трансформеров добилась чего-то действительно экстраординарного: она интернализировала весь символический результат человеческой цивилизации в больших языковых моделях в масштабе, которого не мог бы достичь ни один отдельный человеческий ум. Корпус человеческого языка, математики, кода и записанного знания теперь живёт внутри этих систем как огромное статистическое распределение по токенам — доступное для извлечения и переиспользования в экстраординарном масштабе.
Проблема в том, что по понятным причинам осуществимости мы полностью обошли энактивный фундамент.
Это ошибка инверсии. Мы воздвигли тяжёлый сверху монолит — систему экстраординарной символической сложности, сидящую на отсутствующем основании. В результате получается система, которая может свободно обсуждать логику баланса, не имея при этом внутреннего механизма для проверки того, являются ли её выходы структурно согласованными. Это, в терминах Мошé Фельденкрайса, система слепого подражания без функциональной осознанности. И это различие имеет прямые последствия для безопасности, надёжности и корригируемости, которые область ещё не правильно определила.
Это не аргумент в пользу того, что ИИ должен биологически воспроизводить человеческие стадии развития. Ведь калькулятор выполняет математику, не считая на пальцах. Но калькулятор работает чисто в символическом царстве — он никогда не был разработан для навигации в физическом причинном мире. ОИИ, ожидаемый действовать безопасно в таком мире, требует структурного эквивалента физического сопротивления — воплощённого или имитированного энактивного слоя. Без него система не имеет оснований, на которых она стоит, когда окружающая среда меняется так, как данные обучения не предусмотрели.
Почему это важно сейчас: противостояние Пентагона как структурное доказательство
В начале марта 2026 года генеральный директор Anthropic Дарио Амодей отказал Пентагону в требовании удалить все защиты из Claude. Его основной аргумент был структурным, а не политическим: передовые ИИ-системы просто недостаточно надёжны для автономной работы без человеческого надзора в высокорисковых физических средах. Требование Пентагона было в структурном отношении требованием исключить способность человека переориентировать, остановить или переопределить систему. Отказ Амодея был настаиванием на сохранении того, что я называю обратимостью пространства состояний — архитектурном обязательстве держать человека в контуре.