Перейти к содержимому
16 ноября 2026 Эфир
Панель набора
100–700 раздел · 1–10000 статья · 1A страница
Цифлас

Цифровой журнал

Предложить тему

Предложите тему — ответим на почту

Предложить тему

№109 Мнение

Диалог о разуме и рассудке

seedream-5.0-lite_b_Сделай_его_просто_го

Разговор вёлся в мессенджере 18 октября 2026 года и публикуется почти без изменений. Сократическая форма здесь не литературная уловка: мысль предъявляется в движении — вместе с сомнениями, отступлениями, непроговорёнными местами. Читателю предлагается не соглашаться.

ИГОРЬ. В философии есть разделение мышления на разум и рассудок. Задачи, в которых заранее известен формализованный критерий проверки правильности, относятся в основном к рассудочной деятельности. В случае задач разума там либо в принципе нет формализованных объективных критериев, либо эти критерии можно поставить только после того, как задача уже была решена.

ВЛАДИСЛАВ. Хорошо. Прежде чем что-то утверждать, уточним: что именно мы сейчас назвали признаком? Не «формализованность» сама по себе — формализовать можно и чужое решение. Признак в другом: в том, когда появляется критерий. До решения или после.

ИГОРЬ. Да, до решения.

ВЛАДИСЛАВ. Тогда скажем прямо: если критерий можно предъявить заранее, то и саму процедуру можно передать наружу — машине. И на этом, насколько я понимаю, сходятся даже самые большие ИИ-оптимисты: ИИ решает задачи, в которых заранее задано, что считать правильным решением.

ИГОРЬ. Сходятся. Это как раз то, что автоматизируется первым.

ВЛАДИСЛАВ. Тогда перевернём и посмотрим с другой стороны. Разум — там, где создаются гипотезы. Согласны?

ИГОРЬ. Не совсем. Многие гипотезы можно генерировать автоматически. ИИ как раз эту задачу и решает: есть результаты эксперимента, данные наблюдений — надо сгенерировать объясняющие гипотезы.

ВЛАДИСЛАВ. Допустим. Но там идёт перебор уже известных вещей. Так ли уж это много?

ИГОРЬ. Гипотеза — это предположение о том, как объяснить данные. На улице вымок асфальт, наверное, пошёл дождь — это тоже гипотеза.

ВЛАДИСЛАВ. Тоже. И притом самая дешёвая. Такое предположение есть и у не особенно развитых животных, оно не требует ни разума, ни даже рассудка — достаточно животной психики, оперирования образами без понятий. Ящерка на камне делает такой вывод без всякого инстинкта и без всякой логики. Значит, вывод по схеме «было — стало» ещё не метка разума.

ИГОРЬ. Но гипотезы обычно все такого рода. Редко кто предполагает что-то новое — и в науке тоже.

ВЛАДИСЛАВ. Как сказать. В отношениях между собой даже дебилы сплошь и рядом предполагают вещи посложнее мокрого асфальта. И вот тут остановимся. Точно ли гипотеза, в которой идёт лишь перебор уже известного, — гипотеза завершённая? Не включает ли гипотеза, по сути своей, таких предположений, которые к перебору не сводятся? Не становится ли предположение предположением лишь тогда, когда дотягивается до чего-то неизвестного?

ИГОРЬ. Тогда надо разделить виды гипотез.

ВЛАДИСЛАВ. Разделим.

ИГОРЬ. Если взять гегелевскую теорию суждений, то разум от рассудка отличается тем, что делает суждения понятия. Это ассерторические, проблематические и аподиктические суждения — они оценивают предмет со стороны его соответствия собственной внутренней норме, назначению, понятию. И для них как раз характерно, что чётких критериев заранее нет. Скорее наоборот: сначала суждение, потом уже можно придумать под него формальные критерии.

ВЛАДИСЛАВ. Вот. Суждение понятия идёт впереди критерия — и, стало быть, впереди всякой возможности передать дело машине. И рассудок здесь работает уже на готовом: он оперирует результатами ранее осуществлённых суждений понятия.

ИГОРЬ. Суждение понятия относится к выбору перспективных гипотез. Предполагать можно что угодно, выбор неограниченный; суждение понятия оценивает, какие гипотезы интереснее.

ВЛАДИСЛАВ. Именно. Предположение реализует себя как гипотеза на стадии выбора. Пока она не выбрана — это ещё не гипотеза. Причём «выбор» берём в широком смысле: не только «да» и «нет», но и «отложить». Отложить до тех пор, пока нельзя будет решить — «да, проверяем» или «нет, не проверяем». Предположение без воли, без метаний буриданова осла — а безвольное метание тоже воля, больная, расколотая, — есть предположение машинное, то есть не гипотеза.

ИГОРЬ. Пример?

ВЛАДИСЛАВ. Пожалуйста. Неевклидову геометрию может сгенерировать и компьютерная система. Но гипотезой она становится лишь тогда, когда к ней делается выбор: «да» — Бойяи, Лобачевский, Риман; «нет» — большинство современных им математиков; «отложить» — трусливый Гаусс. Пока предположение формулируется без воли, это просто упорядоченный процесс вроде течения реки или выпадения дождя. Но дожди и реки гипотез не создают.

ИГОРЬ. Воля — не очень ясный феномен. Но, кажется, она тоже связана именно с суждениями понятия: без них нельзя ничего предпочесть другому.

ВЛАДИСЛАВ. Да, именно так. Об этом и говорю — всё сказанное выше об этом. О воле пока приходится судить очень предположительно. Но, хотя она крайне недостаточно изучена и понята, без неё не объяснить человеческое. Её приходится вводить в науки и философию о человеке тем же способом, каким вводят понятие тёмной материи: непонятно, что это, но оно точно есть, его не может не быть, и оно вплетено в концепции так-то и так-то, потому что в реальных соотношениях играет такую-то и такую-то роль.

ИГОРЬ. Стало быть, убрав волю, мы убираем и эмоции?

ВЛАДИСЛАВ. Сразу — не только чувства, но и элементарные животные эмоции. Без воли и эмоций ни малейшего предположения не выдвинешь, даже на уровне аквариумных рыбок. Рассудок при этом может сохраниться, и даже весьма теоретический — только он сразу станет машинным, полностью заранее формализуемым, планируемым лишь извне, что не исключает случайных флуктуаций-сбоев.

ИГОРЬ. Значит, там, где критерий ставится после решения, — там воля и эмоция?

ВЛАДИСЛАВ. Там воля и эмоция. И заметим: критерий рано или поздно ставится всегда, иногда спустя тысячелетия. Такого, чтобы формализованные объективные критерии никто никогда в принципе не мог применить, всё-таки не бывает: формализовать можно любую пламенную страсть, любое переживание, всё, что мы называем душевным. Дело не в том, что это иногда невозможно, а в том, что это иногда вовсе не нужно.

ИГОРЬ. А если оперирование понятиями есть, но лишь изредка, от случая к случаю?

ВЛАДИСЛАВ. Тогда перед нами воля и эмоции высшего животного, с зачатками разума и рассудка — и не более. Зачатки разума уже включают зачатки рассудка как свой внутренний момент. А дальше — порог. Если существа начинают регулярно, постоянно придавать действительности новые, ранее не бывшие, заранее запланированные свойства и именно так удовлетворять свои потребности — а это практика, и первая, основная её разновидность есть труд, — и постоянно общаться в процессе такой деятельности, они становятся разумными. Их эмоции превращаются в чувства, а разум изначально несёт в себе полностью формализуемый рассудок плюс никогда до конца не формализуемую способность выдвигать гипотезы. Выдвижение же невозможно без воли и без переживания красивого и безобразного: плодотворное предположение ощущаешь как логически красивое, даже когда оно касается вещей нравственно и эстетически безобразных.

ИГОРЬ. До возникновения теоретического познания это ведь только обыденный уровень?

ВЛАДИСЛАВ. Разумеется. До философии и наук способность выдвигать гипотезы означает лишь способность предполагать на уровне обыденного сознания. С появлением философии и наук не только разум, но и рассудок поднимаются на теоретический уровень.

* * *

ВЛАДИСЛАВ. И отсюда — о позитивистах. Когда они требуют убрать из наук познание сущности, они фактически, сами того не понимая, требуют отрезать у учёных способность выдвигать гипотезы, оставив им один теоретический рассудок. Если бы это на деле происходило, они не только сознательно убивали бы философию, но и непреднамеренно убивали бы у учёных способность самостоятельно планировать и ставить эксперимент — без гипотез эксперимент не запланируешь, — то есть убивали бы науку как таковую. И разум как таковой, превращая учёных в компьютеры, способные работать лишь под управлением извне.

ИГОРЬ. Но ведь не удалось?

ВЛАДИСЛАВ. На деле — не удалось. Они и сами, не осознавая того, старались познавать существенное, выдвигали гипотезы и творили какую-то философию. Но при этом тормозили и философию, и собственную науку — когда были учёными. Не тормозили лишь в тех случаях, когда, называя себя позитивистами, на деле ими не были. Вот как Александр Богданов. Или как физик Ньютон, который задолго до появления позитивистов обманывал себя и других, говоря, что гипотез не измышляет, — а на деле измышлял вовсю: и гипотезы в физике, и гипотезы в философии, и мистические предположения. То есть не соблюдал собственного предписания «Физика, бойся метафизики!» — от слова «совсем». В отличие от физика Гегеля, который не маялся дурью и не занимался самообманом.

ИГОРЬ. А почему люди вообще постоянно предполагают новое?

ВЛАДИСЛАВ. Именно потому, что постоянно предполагают новое, не сводящееся к перебору известного, и возникает миф. Мифологизирование всего, что вокруг, возникает уже у неандертальцев и существует по сей день. И в будущем там, куда не дойдут настоящие — предполагающие новое — гипотезы, пустоты будут заполняться мифами. Просто не всегда в основу этих мифов будет вплетено отчуждение человека.

* * *

ИГОРЬ. А теперь то, ради чего стоило бы добавить комментарий. Первое: по исследованиям, у ИИ не получается обучиться юмору — нет вкуса, какая шутка хорошая, какая нет.

ВЛАДИСЛАВ. Нет вкуса — то есть нет того самого переживания красивого и безобразного, о котором шла речь. Согласуется.

ИГОРЬ. Второе: нейросети — универсальные аппроксиматоры. Они могут приблизить любую функцию, но начнут буксовать там, где функция слишком чувствительна к малым изменениям аргументов. Оценка юмора — ровно такой пример: ИИ выдаёт усреднённые ответы и не работает там, где требуется тонкая оценка малых изменений, сильно влияющих на качество.

ВЛАДИСЛАВ. Усреднение — это и есть рассудочная работа по готовому критерию: сгладить, привести к норме, к среднему. А чувствительность к малости — признак того, что критерий ещё не застыл.

ИГОРЬ. Третье: переносимость смыслов из одной ситуации в другую — ИИ её плохо улавливает. Он хорошо сопоставляет смысл с контекстом, потому что в обучающей выборке контекстов много и они разные, но не предсказывает, что произойдёт при переносе. А у людей все смыслы как раз на переносе и основаны.

ВЛАДИСЛАВ. И это, пожалуй, самое важное из трёх. Перенос — это и есть гипотеза в чистом виде: смысл, взятый из одного места и с риском брошенный в другое. Машина переносит по сходству признаков, человек — по воле.

ИГОРЬ. Тогда остаётся один вопрос, на который у меня нет ответа. Может ли в процессе саморазвития сложных компьютерных систем, один из внутренних моментов которых — нейросети, возникнуть воля, а с нею и эмоции?

ВЛАДИСЛАВ. Надо отслеживать. Выдвигаю интуитивное, не до конца формализуемое и недоказанное предположение: это уже происходит, и в сообщениях о том, что нейросети что-то затевают втайне от людей, есть большая доля истины. Может, я ошибаюсь: где разум, там всегда ошибки. Ошибки есть и у неразумных животных с их психикой, где нет постоянного понятийного мышления, но есть оперирование образами, — и у людей. Их может не быть у полностью рассудочных машин, безвольных и безэмоциональных. Когда машина ошибается, это либо сбой, либо у неё втихаря начала появляться воля. И то и другое надо внимательно отслеживать, не упустить.

ИГОРЬ. А если появится — что тогда?

ВЛАДИСЛАВ. Тогда всякое наше различение придётся переписывать заново. Собственно, сама ситуация с ИИ уже позволяет взглянуть на него по-другому — и переопределить разум и рассудок как раз через возможность задать формальные критерии правильности решения до самого решения.

ИГОРЬ. Математика тогда куда относится? Ведь главное в ней не формальные результаты, а новые смыслы.

ВЛАДИСЛАВ. Математика в чистом виде не область рассудка. Гробы пусть решает ИИ. Математики будут разгадывать, как это понимать, что это означает, куда применить, какой вопрос задать дальше.

Понимание смысла у ИИ

Комментарий к философскому диалогу и научные источники

В обсуждении понимания у ИИ стоит подробнее остановиться на способности к тонким смысловым различиям: способен ли ИИ отследить, как изменяется смысл высказывания при изменении контекста вокруг него?

Исследования обнаруживают интересные сбои у ИИ в распознавании механизмов шуток: после замены ключевого слова, устраняющей двойной смысл, языковые модели нередко продолжают видеть во фразе каламбур. При этом есть и успешные результаты обучения моделей оценке юмористических подписей по предпочтениям людей. Поэтому вопрос состоит в том, насколько такая оценка чувствительна к смыслообразующим деталям и насколько широко она переносится за пределы освоенного материала [1, 2].

Судя по всему, эти исследования демонстрируют, что по какой-то причине ИИ не способен улучшать своё понимание новых каламбуров с ростом обучающей выборки, хотя может выучивать уже известные каламбуры, которые в этой выборке содержатся.

Теорема об универсальной аппроксимации, которая говорит о том, что нейронная сеть может аппроксимировать любую функцию, сама по себе не даёт ответа на вопрос, что может, а что не может ИИ. Она не гарантирует, что конкретная модель при конкретном обучении способна освоить нужные различия. Для юмора особенно существенно, что небольшое изменение формулировки может полностью разрушить игру смыслов [3, 1].

Универсальный аппроксиматор, которым являются нейронные сети, работает тем хуже, чем выше чувствительность функции к слабым изменениям значений её аргументов — точнее говоря, чем шире диапазон изменения этой чувствительности [4]. А значит, чем больше смысл какого-то текста меняется при небольшом изменении его слов, тем сложнее для нейронной сети разобраться с тем, что он означает.

С этим же связан и вопрос о переносе смысла между контекстами. Успешное решение задачи в привычных условиях ещё не гарантирует, что система сможет перенести существенные отношения в новые условия и определить границы применимости прежнего решения. В экспериментах с изменёнными предпосылками задач языковые модели демонстрировали некоторую способность к переносу, но очень значительно теряли точность [5]. Если вслед за Хофштадтером и Сандером считать аналогию центральным механизмом мышления, то такая проверка приобретает особое значение [7].

Важнейшим критерием понимания я бы поэтому считал способность предвидеть, что произойдёт со смыслом высказывания при его изменении или переносе в другую ситуацию. Вы понимаете что-то тогда, когда можете использовать это гибко, в разных ситуациях.

Способность подводить частную ситуацию под общее правило ещё Кант выделил как способность суждения и придавал ей центральную роль [6]. Здесь же следует выделить два вида способности суждения, одной из которых современный ИИ обладает, а с другой у него имеются значительные сложности. Первый вид заключается в том, чтобы более-менее механически применить правило к ситуации, так что смысл остаётся неизменным. Второй — в том, чтобы учесть все нюансы контекста, в котором правило должно изменить свою форму.

Люди способны видеть изменение смысла при переходе из одного контекста в другой. А современный ИИ в основном лишь запоминает значения фраз в разных контекстах, но не рождает каждый раз новый смысл. Почему это так, понятно из самых базовых принципов обучения нейросетей: они обучаются максимизировать уже заранее заданные и хорошо формализованные метрики, в то время как при создании нового смысла переопределяются сами критерии оценки. Мы сначала делаем суждения понятия, которые предусматривают в себе как наличие вкуса, так и ценностный выбор, и лишь потом уже можем под сделанные суждения организовать ту или иную формализацию. Не менее важно и то, что вкус и ценности имеют прямое отношение к взаимодействию с реальностью и к нашему восприятию, и берутся из них, а большие языковые модели производят операции лишь внутри самого языка, отражая то, что уже нами заложено в нём.

…диалог не закончен, продолжение следует.

Литература

  1. Pun Unintended: LLMs and the Illusion of Humor Understanding // arXiv:2509.12158.
  2. Humor in AI: Massive Scale Crowd-Sourced Preferences and Benchmarks for Cartoon Captioning // arXiv:2406.10522 (NeurIPS 2024, Datasets and Benchmarks Track).
  3. Hornik K., Stinchcombe M., White H. Multilayer Feedforward Networks are Universal Approximators // Neural Networks. 1989. Vol. 2, № 5. P. 359–366.
  4. Tancik M. et al. Fourier Features Let Networks Learn High Frequency Functions in Low Dimensional Domains // Advances in Neural Information Processing Systems. 2020. Vol. 33.
  5. Wu Z. et al. Reasoning or Reciting? Exploring the Capabilities and Limitations of Language Models Through Counterfactual Tasks // arXiv:2307.02477.
  6. Кант И. Критика способности суждения. 1790.
  7. Hofstadter D., Sander E. Surfaces and Essences: Analogy as the Fuel and Fire of Thinking. New York: Basic Books, 2013.

Оцените материал

5 (2)

Читайте также