Художественная литература и её трактовки
Чистая математика -- это художественная литература, если нет выхода в реальностьКогда меня спрашивают, как я отношусь к выкладкам Вольфрама, я отвечаю -- у него математика для математики, ходов на собственно физику что-то не видно. У меня в курсе "интеллект-стек" как раз указывается про связь физики и математики — это редко рассказывают в вузах, я беседовал много раз с выпускниками МФТИ. Вот и Ванчурин тоже расстраивается, что всё так плохо, у него даже текст есть про The Math Gap Problem -- https://t.me/theworldasaneuralnetworkchat/1032. Тут, правда, нюансы: у него акцент на то, что если люди из естественных наук возьмут хорошую математику, то жизнь будет много лучше, вот физики как раз так и делают, а если нет (и математика там, например, по-прежнему 19 века, а не современная 21 века), то это всё одно будет "собирание марок", а не наука. Фишка в том, чтобы подобрать такие математические объекты (и заметим, что они должны быть современными -- программа Воеводского с унивалентными основаниями математики как раз была про это, про помощь математиков в описании реального мира, подробности в курсе "Интеллект-стек", например только один из подразделов: https://aisystant.system-school.ru/lk/#/course/intelligence-stack/2023-07-27/11536), чтобы их поведение было похоже на поведение объектов в реальном мире, причём это поведение/изменения можно было бы измерить. И тем самым можно было бы сделать эксперименты, выбирая между альтернативными математическими объектами — эволюция описаний, всё более и более точно описывающих физический мир, а точность описаний проверяется измерениями. Где в теории мат.модель предсказывает результаты эксперимента лучше, там и победа. Полная оторванность — ну её нафиг, нужен выход на эксперимент, на поведение реальных физических объектов. Физика в этом, а не в математике. Именно по этой линии булева логика в описании мира меняется на байесову логику как "логику науки" (работы Jeynes как раз про это, это середина прошлого века), а байесова логика заменяется на квантовоподобную логику (про это работы Хренникова и его лаборатории, работы 21 века). Все ссылки -- в "Интеллект-стеке", там про это во многих местах. Дальше вопрос: если простое логическое рассуждение "на пальцах" можно выполнить "в уме" (логические загадки решают в детском саду), то байесовское рассуждение -- оно требует хорошего знания теории вероятностей и способностей к сложным вычислениям. А квантовоподобное -- оно тем более требует знания субъективной теории вероятностей, понимания сложной математики и тоже способностей к сложным вычислениям. И это означает, что в большинстве ситуаций победит плохо работающая булева логика, иногда байесова, никогда -- кватовоподобная, если они не встроены куда-то внутрь софта, принимающего решения. Мозг человека при этом интуитивно работает как квантовоподобный вычислитель (работы лаборатории Хренникова это показывают), и в том числе квантовоподобность позволяет делать ontology merge (ибо булева логика частный случай байесовской, и совместить две алгебры, построенных на разных распределениях -- невозможно, это любой онтолог скажет, что онтологии несовместимы. Но в квантовоподобной логике -- совмещение возможно, там не колмогоровская вероятность в основе исчисления, там на одну аксиому меньше. Собственно, смотрите сами, https://disk.yandex.ru/i/oVvfyvsbUfP46A, но у чтения этой книжки сразу есть порог -- надо таки знать математику и понимать, как она связана с физикой). Уже в текущем поколении нейросетей можно снять большое число вопросов (хотя не думаю, что кто-то этим был озабочен) к тому, "как же это всё считать, простые люди этого не смогут". В рамках Software 3.0 (https://divgarg.substack.com/p/software-3), которое Andrej Karpathy обозвал vibe coding (https://x.com/karpathy/status/1886192184808149383) ответ очевиден: надо просто описать задачу, а затем LLM сделает код, который вызовет необходимые байесовские или квантовые библиотеки, и даст ответ -- ещё и проинтерпретирует на человечьем языке, по отдельной просьбе. Сейчас все эти библиотеки есть (вот вероятностное программирование -- там аж спец.языки, типа указанного в https://discourse.julialang.org/t/current-state-of-julia-probabilistic-programming-languages-and-functionalities/78711 десятка только на Julia, а вот на той же Julia квантовые пакеты -- https://juliapackages.com/c/quantum-mechanics), но они по факту недоступны: слишком сложны для "просто инженеров" и тем более "просто менеджеров". Но физики недаром ждут AI, ибо эта сложность современной математики для них тоже ограничивающий фактор: хороших физиков очень мало, ибо единицы людей могут прорваться через барьер сложности. Поэтому "вот скоро придёт AI и начнёт нам помогать", хотя бы будет исправлять математические ошибки в статьях. Да, это уже происходит, например, вот пример использования LLM для нахождения ошибок в статьях (там просто надо дать статью и попросить найти ошибки в математике -- вот так просто!): https://x.com/emollick/status/1868329599438037491. А дальше? А даль
Чистая математика -- это художественная литература, если нет выхода в реальность
Когда меня спрашивают, как я отношусь к выкладкам Вольфрама, я отвечаю -- у него математика для математики, ходов на собственно физику что-то не видно. У меня в курсе "интеллект-стек" как раз указывается про связь физики и математики — это редко рассказывают в вузах, я беседовал много раз с выпускниками МФТИ. Вот и Ванчурин тоже расстраивается, что всё так плохо, у него даже текст есть про The Math Gap Problem -- https://t.me/theworldasaneuralnetworkchat/1032. Тут, правда, нюансы: у него акцент на то, что если люди из естественных наук возьмут хорошую математику, то жизнь будет много лучше, вот физики как раз так и делают, а если нет (и математика там, например, по-прежнему 19 века, а не современная 21 века), то это всё одно будет "собирание марок", а не наука. Фишка в том, чтобы подобрать такие математические объекты (и заметим, что они должны быть современными -- программа Воеводского с унивалентными основаниями математики как раз была про это, про помощь математиков в описании реального мира, подробности в курсе "Интеллект-стек", например только один из подразделов: https://aisystant.system-school.ru/lk/#/course/intelligence-stack/2023-07-27/11536), чтобы их поведение было похоже на поведение объектов в реальном мире, причём это поведение/изменения можно было бы измерить. И тем самым можно было бы сделать эксперименты, выбирая между альтернативными математическими объектами — эволюция описаний, всё более и более точно описывающих физический мир, а точность описаний проверяется измерениями. Где в теории мат.модель предсказывает результаты эксперимента лучше, там и победа. Полная оторванность — ну её нафиг, нужен выход на эксперимент, на поведение реальных физических объектов. Физика в этом, а не в математике. Именно по этой линии булева логика в описании мира меняется на байесову логику как "логику науки" (работы Jeynes как раз про это, это середина прошлого века), а байесова логика заменяется на квантовоподобную логику (про это работы Хренникова и его лаборатории, работы 21 века). Все ссылки -- в "Интеллект-стеке", там про это во многих местах.
Дальше вопрос: если простое логическое рассуждение "на пальцах" можно выполнить "в уме" (логические загадки решают в детском саду), то байесовское рассуждение -- оно требует хорошего знания теории вероятностей и способностей к сложным вычислениям. А квантовоподобное -- оно тем более требует знания субъективной теории вероятностей, понимания сложной математики и тоже способностей к сложным вычислениям. И это означает, что в большинстве ситуаций победит плохо работающая булева логика, иногда байесова, никогда -- кватовоподобная, если они не встроены куда-то внутрь софта, принимающего решения. Мозг человека при этом интуитивно работает как квантовоподобный вычислитель (работы лаборатории Хренникова это показывают), и в том числе квантовоподобность позволяет делать ontology merge (ибо булева логика частный случай байесовской, и совместить две алгебры, построенных на разных распределениях -- невозможно, это любой онтолог скажет, что онтологии несовместимы. Но в квантовоподобной логике -- совмещение возможно, там не колмогоровская вероятность в основе исчисления, там на одну аксиому меньше. Собственно, смотрите сами, https://disk.yandex.ru/i/oVvfyvsbUfP46A, но у чтения этой книжки сразу есть порог -- надо таки знать математику и понимать, как она связана с физикой).
Уже в текущем поколении нейросетей можно снять большое число вопросов (хотя не думаю, что кто-то этим был озабочен) к тому, "как же это всё считать, простые люди этого не смогут". В рамках Software 3.0 (https://divgarg.substack.com/p/software-3), которое Andrej Karpathy обозвал vibe coding (https://x.com/karpathy/status/1886192184808149383) ответ очевиден: надо просто описать задачу, а затем LLM сделает код, который вызовет необходимые байесовские или квантовые библиотеки, и даст ответ -- ещё и проинтерпретирует на человечьем языке, по отдельной просьбе. Сейчас все эти библиотеки есть (вот вероятностное программирование -- там аж спец.языки, типа указанного в https://discourse.julialang.org/t/current-state-of-julia-probabilistic-programming-languages-and-functionalities/78711 десятка только на Julia, а вот на той же Julia квантовые пакеты -- https://juliapackages.com/c/quantum-mechanics), но они по факту недоступны: слишком сложны для "просто инженеров" и тем более "просто менеджеров". Но физики недаром ждут AI, ибо эта сложность современной математики для них тоже ограничивающий фактор: хороших физиков очень мало, ибо единицы людей могут прорваться через барьер сложности. Поэтому "вот скоро придёт AI и начнёт нам помогать", хотя бы будет исправлять математические ошибки в статьях. Да, это уже происходит, например, вот пример использования LLM для нахождения ошибок в статьях (там просто надо дать статью и попросить найти ошибки в математике -- вот так просто!): https://x.com/emollick/status/1868329599438037491. А дальше? А дальше можно будет просить сделать сами математические выкладки, просить дать подходящую математику, найти в литературе уже выполненные эксперименты с их данными и сравнить с выводами конкурирующих теорий, подправить свои выкладки, чтобы учесть невязку с жизнью, вообще выполнить роль учёного. Людям тут не угнаться (вон, сеткам дали возможность сражаться друг с другом и с людьми в текстовых играх -- и людям там не сладко, на 4 февраля люди на 20 месте, в конце второй страницы leaderboard, https://textarena.ai/leaderboard. Можно теперь говорить, что "туда пришли люди, которые не профессиональные игроки в текстовые игры" -- но это и есть текущая ситуация, когда в вашем проекте не будет профессионального мыслителя по интересующим вас вопросам, поэтому нейросетки будут "думать-вычислять", а люди у вас в проекте будут "оценивать интуитивно". Всё, люди оказываются на роли задающих вопросы нейросеткам, при этом следующий шаг уже близок -- интересные (а не любые) вопросы будут задавать тоже нейросетки, подробней я написал в "В нейросетях devo вроде как реализовали, а для evo нужно ещё разобраться с eco" (https://ailev.livejournal.com/1752457.html), и там тоже про выход в реальный мир, выход в бесконечное познание, бесконечное развитие, open-endedness.
Проект Вольфрама: художественный, а не физический
Но вернёмся к Вольфраму. Его метод мне напоминает вывод, который я сделал в глубокой молодости, когда интересовался почёму это статус текста Библии такой большой, откуда там много лет интереса, как можно не читать текст прямо, а исключительно "толковать"? Ибо читал сам оригинал — и сильно удивлялся, как это всё можно вычитать из тривиального текста? Потом понял, что такое же с текстами не только Библии, но и всех священных книг. Это на раз-два, достаточно сказать, что "там посылка открытого мира", а затем сочинять. Например, читаешь "2*2=4" в тексте, а затем говоришь, что "текст тут метафора к бесконечному познанию, просто это в тексте не сказано, но там арифметика, значит высшая математика, значит -- идея бесконечного познания". Ну, а затем мы всё это "истолкованное" на раз-два притягиваем к ситуациям из жизни, это же удобно!
Потом я понял, что психологи работают точно так же, как толкователи религиозных текстов. Мне сказала знакомая психологиня, которая увлеклась Сонди, потом Люшером, а потом Астрологией: "да мне всё равно, какая там символическая система, лишь бы она была достаточно богатая. Астрология вполне подойдёт — я беру ситацию в реальной жизни и описываю её в паттернах, то есть объектах и связях из этой сложной символической системы, тем самым рассуждения нормально так проходят, могу выразить свои интуиции в привязке к сложным ситуациям". Это ровно та линия рассуждений, которая заставляет брать любой текст вроде "Винни-Пуха", а затем говорить, что "в этом тексте в символической форме закодированы самые разные ситуации нашего мира" -- и использовать паттерны этого текста (тамошние байки) вместо баек из Библии или Торы, или астрологических рассуждений.
Вау, вольфрамство тут легко подставляется вместо астрологии или Библии, "достаточно сложная математическая модель, чтобы каждый мог взять себе то, что ему надо для описания чего угодно" — это ж круто! Но нет, надо таки указать минимальную математику, которая хорошо описывает широкий круг физических явлений -- и вот на этом пути я что-то не слышал у Вольфрама подвижек. ОК, значит читаем его труды как художественную литературу. Мне как-то Гена Лебедев рассказывал, что он читает так книги Фоменко по истории: качественнейшая научная фантастика! Больше развлечение! Ничуть не хуже любых произведений профессиональных писателей-фантастов!
Я явно не хочу вчитываться в идеи Вольфрама, пусть его тексты LLM читают -- вдруг что-то интересное найдут. У меня есть много отслеживаемых мной интересных проектов по поиску новой безмасштабной математики для описаний физического мира, например проект Ванчурина на основе "ренормализованных нейронов", Deutsch и Marletto на основе создателей/constructors (много раз о них писал, ссылок не даю, в наших курсах всё это подробненько).
Но вопрос художественной литературы на этом не останавливается. Вот буквально вчера в чате моего блога (с https://t.me/ailev_blog_discussion/29364), с речь зашла о том же: нормально же читать вместо художественной литературы не Вольфрама про вроде как физику, не Фоменко про вроде как историю, а таки психологов (скажем, в их статьях на Habr), или даже астрологию, или всё-таки Библию или что-то подобное (буддизм тут вроде хорошая альтернатива, психопрактики же, в отличие от христианских текстов!). Там же можно вычитать всё, включая системное мышление! Ага, как проблемы добра и зла вычитывают из баек Библии, в количестве, прямо с современными примерами.
Нельзя читать мусорные тексты, на них умным не станешь, скорее наоборот
В этих текстах ни разу не предъявление хорошего мышления. Читать это -- это обучаться плохому мышлению. Тут я могу сослаться и на литературу по обучению сухих сеток: лучше меньше хороших текстов, чем больше всяких:
-- уже довольно давняя работа "Textbooks Are All You Need", https://arxiv.org/abs/2306.11644. Там обучали маленькие модельки, phi-1 -- и получали более чем приличные результаты просто за счёт того, что отфильтровали всякий мусор из pretrain, "данные качества учебника".
-- свежатинка, "LIMO: Less is More for Reasoning", https://arxiv.org/pdf/2502.03387, там In foundation models where domain knowledge has been comprehensively encoded during pre-training, sophisticated reasoning capabilities can emerge through minimal but precisely orchestrated demonstrations of cognitive processes. И дальше -- LIMO demonstrates exceptional out-of-distribution generalization, achieving 40.5% absolute improvement across 10 diverse benchmarks, outperforming models trained on 100x more data. Да, 1% от того, что считалось нормой -- а результат лучше. While conventional wisdom suggests that sophisticated reasoning tasks demand extensive training data (often > 100, 000 examples), we demonstrate a striking phenomenon: complex mathematical reasoning abilities can be effectively elicited with surprisingly few examples.
Читать ахинею вредно, времени на это уйдёт много, пользы -- нуль, если не вред (ибо выучитесь бредовым, а не лучшим паттернам мышления). Если вы будете брать древних авторов, скажем, буддийские трактаты, в надежде разобраться, как так говорить красиво, что ваша мысль будет сохраняться пару тысяч лет, я не думаю, что вы по этим текстам научитесь творить нетленку. А если интересуетесь тем, как говорить художественную (враньё там аккуратно в каждой речи определялось факт-чекингом, на итоги не влияло) речь убедительно, то берите в пример две кампании Трампа: про неожиданность успеха второй кампании уже всем понятно, а вот мой текст по его первой кампании, когда тоже для всех его победа была неожиданна 2016, https://openmeta.livejournal.com/235870.html. Там я, кстати, ещё в 2016 году выдвигаю тезис, что мокрые нейросетки и сухие нейросетки надо учить одинаковым способом -- это всё "нейролингвистическое программирование".
Должны ли мы читать всякую ахинею, чтобы стать умнее? В том числе ахинею, которой пара тысяч лет? Можно ещё зороастрийцев вспомнить, или даже свеженькое взять у бахаи, чтобы отойти от самого попсового — буддизма, христианства, неосуфизма и даже шаманизма, спасибо Кастанеде за популяризацию.
Святые тексты как художественная развлекательная литература и как учебники психопрактик
Тут два аспекта: вдохновения, мотивации и банального отдыха -- и аспект "заодно научусь чему-то, тысячелетней мудрости". Вот не думаю, что духовные традиции и их тексты помогают хоть что-то там превозмогать и чем-то таким вдохновляться. Или что там много какой-то продвинутой этики, проверенной тысячелетиями, или какой-нибудь астральной логики, или что они будят мотивацию заниматься чем-то важным, но неинтересным. Мотивацию, вдохновение дают самые разные привычки — https://vk.com/@typical__writer-kofe-blohii-gnilye-yablokistrannye-privychki-velikih-pisatel (там "лучшие практики, доказавшие свою результативность"). Чтение духоподъёмной литературы буддистов в сравнении, например, с этим "запахом гнилых яблок" смотрится очень выигрышно. Но у Гюго тоже был неплохой метод, вполне может посоревноваться с чтением упанишад! А если брать анекдотические свидетельства, то лучшие люди из AI/ML обычно смотрят аниме, у них аниме-персонажи на аватарках. Так что если хочется существенно повлиять на мир в плане добавки интеллекта этому миру, я бы рекомендовал вместо Библии смотреть японские мультики, некоторая степень отаковости тут явно в плюс.
Я предлагаю сразу: не читать статьи, где про психологов рассказывается и психологию (а потом говорится, что айтишники — это те же психологи с психологией), в том числе религиозную литературу, где по сути разговор идёт на те же темы -- счастье, радость труда, упорство и упоротость в достижении целей, Аниме и манга подробно разбирают эти же темы, с тем же эффектом, но в приятной для глаза форме и без претензий на правдивость. И делают это аниме и манга с той же степенью убедительности, заметим, что и специальные статьи, до сих пор использующие p-критерий добайесовской эпохи. Кто не любит мангу и аниме (обычно любят люди, которые занимаются AI), могут читать научную фантастику, или даже фэнтези, там тоже про счастье и достигательство-через-преодоление, неуверенность в себе и великость заурядных персонажей и простоту великих людей. По крайней мере, там честно, как в школе -- персонажи вымышленные, все совпадения с жизнью считать случайными. И там, конечно, можно как на школьных уроках литературы -- уроки этики силами незнакомых со спецлитературой учителями литературы и на примерах ситуаций из 19 века, уроки психологии на тех же примерах и тоже силами незнакомых с профессиональной психологической литературой учителей литературы. Всё по честняку, "художества, которые мы трактуем как хотим, вот как трактуем Библию или Тору -- любой текст". Белеет парус одинокий -- это предвестник революции, ага. Потом удивляемся, что средний человек с его хорошо обученной (хорошист в школе!) нейронной сеткой галлюцинирует ровно так же, как первое поколение нейронных сеток, обучавшихся на поймойке данных из интернета, на огромных массивах художественной литературы. Выученное умение не рассуждать, а грезить.
Дальше рассмотрим аргумент о том, что если брать не христианство (где психопрактики в почёте разве что у афонских монахов), а буддизм, индуизм и шаманизм, то нас там научат психопрактикам -- и мы станем умнее. У вольфрама и в аниме этого нет, а вот в буддизме и прочих из этой серии религий-с-медитациями этот ход на психопрактики есть. Начинаемся, станем просветлёнными! Профит! Только вот не надо про "просветлённых". В мире просветлённых (что это такое технически — это хорошо описал Кен Уилбер, там ничего мистического, это такая цирковая практика, особый режим работы мозга) десятки тысяч, они ведь производятся на потоке. И что-то ничего от них значительного нет, никакой интеллектуальной работы (за исключением самого Кена Уилбера, который пытался сказать, что это хорошо, но и он не самый светоч разума — ничего человечеству особо значимого он не принёс). Цивилизацию двигают не просветлённые, причём контрпримеры обычно даются даже Уилбером для литературных, а не реальных персонажей (тот же Будда). Страны, где просветлённых производят массово, они самые бедные -- пока не начали отказываться от этой идеологии. У меня было много текстов про это:
— https://ailev.livejournal.com/428032.html (2006 год, ""Православие шире христианства", там и про буддизм)
— https://ailev.livejournal.com/1307596.html, (2016, "Об Будду и его программу")
— https://ailev.livejournal.com/1330906.html, (2017, "Цикл Бойда, GAN и авианосец "Клемансо" против буддизма")
— https://openmeta.livejournal.com/236318.html, (2016, "Психопрактики развития мышления, а не животного начала")
— https://openmeta.livejournal.com/234856.html, (2016, "Незамутнённый (ясный) ум")
— ... там ещё до чёртиков, но и этого хватит. Been there, done that, bought the T-shirt.
Фильтр в голове на психологическую литературу
Вот прямо фильтр в голову надо поставить: если в статье поминают психологов и психологию, даже не называя их (как в буддийских текстах или прочих религиозных текстах, все эти кармы, счастья и как строить семью) — прямо с этой строчки дальше не читать! А переходить к поэзии, научной фантастике, аниме — с получением той же пользы и ощущения радости жизни. За почти двадцать прошедших лет (первый текст из моей подборки как раз 2006 года, время быстро бежит) выяснилось, что техники работы с собственным вниманием идут нормальные откуда угодно, только не от древних религиозных психопрактиков. Развитие есть везде, и в психопрактиках тоже достаточно школ — в том числе и совсем не древних (типа той же психонетики, хотя они и начинали с йоги), но дальше оказалось, что все эти школы упираются в цирк, и только совсем немного интересны для дела (типа того же focusing и TAO, или последователи NLP, переметнувшиеся в изучение когнитивной психологии). Мы очень долго мучались, пытаясь оставить слова вроде "сознание", "осознанность" с опорой на механистические теории сознания, это провалилось: понимание их оставалось попсовым и притягивало всяких фриков и прочих попсовиков-затейников (которыми я считаю и последователей древних психопрактик, интересных только историкам). И сейчас я рекомендую гигиену: как только видишь что-то про психологов или Будду — прекращать читать. Но можно почитать Желязны, "Князь Света". Духоподъёмное чтиво, хотя там больше индуизм. Всё честно, не психология, не религия -- чистая выдумка, галлюцинация Желязны! Дискуссии про практическое применение изложенного или основе этой книги как этического, религиозного, психотехнического, психологического и прочего учения -- они заведомо отсутствуют, это огромный плюс.
Картинка -- этот самый "Князь света", издание 1971 года (а книжка вышла в 1967 году, https://en.wikipedia.org/wiki/Lord_of_Light). Там всё честно, выдумка чистой воды, никаких претензий на обучение психологии, религиозным идеям, этическим принципам, медитативным практикам, просветлению и всякому такому. Чтиво исключительно ради удовольствия. Я вот читал, в нескольких переводах, чистая же поэзия! Аниме стали доступны много позже, их тоже смотрел. Помогло ли мне это стать умней? Дало ли просветление, цирковой режим работы мозга, недоступный людям без специальной цирковой подготовки? Вроде как нет. Но развлечение, конечно, знатное! Главное -- не считать это "престижным образовательным потреблением". Потребление, и отнюдь не престижное.
Когда меня спрашивают, как я отношусь к выкладкам Вольфрама, я отвечаю -- у него математика для математики, ходов на собственно физику что-то не видно. У меня в курсе "интеллект-стек" как раз указывается про связь физики и математики — это редко рассказывают в вузах, я беседовал много раз с выпускниками МФТИ. Вот и Ванчурин тоже расстраивается, что всё так плохо, у него даже текст есть про The Math Gap Problem -- https://t.me/theworldasaneuralnetworkchat/1032. Тут, правда, нюансы: у него акцент на то, что если люди из естественных наук возьмут хорошую математику, то жизнь будет много лучше, вот физики как раз так и делают, а если нет (и математика там, например, по-прежнему 19 века, а не современная 21 века), то это всё одно будет "собирание марок", а не наука. Фишка в том, чтобы подобрать такие математические объекты (и заметим, что они должны быть современными -- программа Воеводского с унивалентными основаниями математики как раз была про это, про помощь математиков в описании реального мира, подробности в курсе "Интеллект-стек", например только один из подразделов: https://aisystant.system-school.ru/lk/#/course/intelligence-stack/2023-07-27/11536), чтобы их поведение было похоже на поведение объектов в реальном мире, причём это поведение/изменения можно было бы измерить. И тем самым можно было бы сделать эксперименты, выбирая между альтернативными математическими объектами — эволюция описаний, всё более и более точно описывающих физический мир, а точность описаний проверяется измерениями. Где в теории мат.модель предсказывает результаты эксперимента лучше, там и победа. Полная оторванность — ну её нафиг, нужен выход на эксперимент, на поведение реальных физических объектов. Физика в этом, а не в математике. Именно по этой линии булева логика в описании мира меняется на байесову логику как "логику науки" (работы Jeynes как раз про это, это середина прошлого века), а байесова логика заменяется на квантовоподобную логику (про это работы Хренникова и его лаборатории, работы 21 века). Все ссылки -- в "Интеллект-стеке", там про это во многих местах.
Дальше вопрос: если простое логическое рассуждение "на пальцах" можно выполнить "в уме" (логические загадки решают в детском саду), то байесовское рассуждение -- оно требует хорошего знания теории вероятностей и способностей к сложным вычислениям. А квантовоподобное -- оно тем более требует знания субъективной теории вероятностей, понимания сложной математики и тоже способностей к сложным вычислениям. И это означает, что в большинстве ситуаций победит плохо работающая булева логика, иногда байесова, никогда -- кватовоподобная, если они не встроены куда-то внутрь софта, принимающего решения. Мозг человека при этом интуитивно работает как квантовоподобный вычислитель (работы лаборатории Хренникова это показывают), и в том числе квантовоподобность позволяет делать ontology merge (ибо булева логика частный случай байесовской, и совместить две алгебры, построенных на разных распределениях -- невозможно, это любой онтолог скажет, что онтологии несовместимы. Но в квантовоподобной логике -- совмещение возможно, там не колмогоровская вероятность в основе исчисления, там на одну аксиому меньше. Собственно, смотрите сами, https://disk.yandex.ru/i/oVvfyvsbUfP46A, но у чтения этой книжки сразу есть порог -- надо таки знать математику и понимать, как она связана с физикой).
Уже в текущем поколении нейросетей можно снять большое число вопросов (хотя не думаю, что кто-то этим был озабочен) к тому, "как же это всё считать, простые люди этого не смогут". В рамках Software 3.0 (https://divgarg.substack.com/p/software-3), которое Andrej Karpathy обозвал vibe coding (https://x.com/karpathy/status/1886192184808149383) ответ очевиден: надо просто описать задачу, а затем LLM сделает код, который вызовет необходимые байесовские или квантовые библиотеки, и даст ответ -- ещё и проинтерпретирует на человечьем языке, по отдельной просьбе. Сейчас все эти библиотеки есть (вот вероятностное программирование -- там аж спец.языки, типа указанного в https://discourse.julialang.org/t/current-state-of-julia-probabilistic-programming-languages-and-functionalities/78711 десятка только на Julia, а вот на той же Julia квантовые пакеты -- https://juliapackages.com/c/quantum-mechanics), но они по факту недоступны: слишком сложны для "просто инженеров" и тем более "просто менеджеров". Но физики недаром ждут AI, ибо эта сложность современной математики для них тоже ограничивающий фактор: хороших физиков очень мало, ибо единицы людей могут прорваться через барьер сложности. Поэтому "вот скоро придёт AI и начнёт нам помогать", хотя бы будет исправлять математические ошибки в статьях. Да, это уже происходит, например, вот пример использования LLM для нахождения ошибок в статьях (там просто надо дать статью и попросить найти ошибки в математике -- вот так просто!): https://x.com/emollick/status/1868329599438037491. А дальше? А дальше можно будет просить сделать сами математические выкладки, просить дать подходящую математику, найти в литературе уже выполненные эксперименты с их данными и сравнить с выводами конкурирующих теорий, подправить свои выкладки, чтобы учесть невязку с жизнью, вообще выполнить роль учёного. Людям тут не угнаться (вон, сеткам дали возможность сражаться друг с другом и с людьми в текстовых играх -- и людям там не сладко, на 4 февраля люди на 20 месте, в конце второй страницы leaderboard, https://textarena.ai/leaderboard. Можно теперь говорить, что "туда пришли люди, которые не профессиональные игроки в текстовые игры" -- но это и есть текущая ситуация, когда в вашем проекте не будет профессионального мыслителя по интересующим вас вопросам, поэтому нейросетки будут "думать-вычислять", а люди у вас в проекте будут "оценивать интуитивно". Всё, люди оказываются на роли задающих вопросы нейросеткам, при этом следующий шаг уже близок -- интересные (а не любые) вопросы будут задавать тоже нейросетки, подробней я написал в "В нейросетях devo вроде как реализовали, а для evo нужно ещё разобраться с eco" (https://ailev.livejournal.com/1752457.html), и там тоже про выход в реальный мир, выход в бесконечное познание, бесконечное развитие, open-endedness.
Проект Вольфрама: художественный, а не физический
Но вернёмся к Вольфраму. Его метод мне напоминает вывод, который я сделал в глубокой молодости, когда интересовался почёму это статус текста Библии такой большой, откуда там много лет интереса, как можно не читать текст прямо, а исключительно "толковать"? Ибо читал сам оригинал — и сильно удивлялся, как это всё можно вычитать из тривиального текста? Потом понял, что такое же с текстами не только Библии, но и всех священных книг. Это на раз-два, достаточно сказать, что "там посылка открытого мира", а затем сочинять. Например, читаешь "2*2=4" в тексте, а затем говоришь, что "текст тут метафора к бесконечному познанию, просто это в тексте не сказано, но там арифметика, значит высшая математика, значит -- идея бесконечного познания". Ну, а затем мы всё это "истолкованное" на раз-два притягиваем к ситуациям из жизни, это же удобно!
Потом я понял, что психологи работают точно так же, как толкователи религиозных текстов. Мне сказала знакомая психологиня, которая увлеклась Сонди, потом Люшером, а потом Астрологией: "да мне всё равно, какая там символическая система, лишь бы она была достаточно богатая. Астрология вполне подойдёт — я беру ситацию в реальной жизни и описываю её в паттернах, то есть объектах и связях из этой сложной символической системы, тем самым рассуждения нормально так проходят, могу выразить свои интуиции в привязке к сложным ситуациям". Это ровно та линия рассуждений, которая заставляет брать любой текст вроде "Винни-Пуха", а затем говорить, что "в этом тексте в символической форме закодированы самые разные ситуации нашего мира" -- и использовать паттерны этого текста (тамошние байки) вместо баек из Библии или Торы, или астрологических рассуждений.
Вау, вольфрамство тут легко подставляется вместо астрологии или Библии, "достаточно сложная математическая модель, чтобы каждый мог взять себе то, что ему надо для описания чего угодно" — это ж круто! Но нет, надо таки указать минимальную математику, которая хорошо описывает широкий круг физических явлений -- и вот на этом пути я что-то не слышал у Вольфрама подвижек. ОК, значит читаем его труды как художественную литературу. Мне как-то Гена Лебедев рассказывал, что он читает так книги Фоменко по истории: качественнейшая научная фантастика! Больше развлечение! Ничуть не хуже любых произведений профессиональных писателей-фантастов!
Я явно не хочу вчитываться в идеи Вольфрама, пусть его тексты LLM читают -- вдруг что-то интересное найдут. У меня есть много отслеживаемых мной интересных проектов по поиску новой безмасштабной математики для описаний физического мира, например проект Ванчурина на основе "ренормализованных нейронов", Deutsch и Marletto на основе создателей/constructors (много раз о них писал, ссылок не даю, в наших курсах всё это подробненько).
Но вопрос художественной литературы на этом не останавливается. Вот буквально вчера в чате моего блога (с https://t.me/ailev_blog_discussion/29364), с речь зашла о том же: нормально же читать вместо художественной литературы не Вольфрама про вроде как физику, не Фоменко про вроде как историю, а таки психологов (скажем, в их статьях на Habr), или даже астрологию, или всё-таки Библию или что-то подобное (буддизм тут вроде хорошая альтернатива, психопрактики же, в отличие от христианских текстов!). Там же можно вычитать всё, включая системное мышление! Ага, как проблемы добра и зла вычитывают из баек Библии, в количестве, прямо с современными примерами.
Нельзя читать мусорные тексты, на них умным не станешь, скорее наоборот
В этих текстах ни разу не предъявление хорошего мышления. Читать это -- это обучаться плохому мышлению. Тут я могу сослаться и на литературу по обучению сухих сеток: лучше меньше хороших текстов, чем больше всяких:
-- уже довольно давняя работа "Textbooks Are All You Need", https://arxiv.org/abs/2306.11644. Там обучали маленькие модельки, phi-1 -- и получали более чем приличные результаты просто за счёт того, что отфильтровали всякий мусор из pretrain, "данные качества учебника".
-- свежатинка, "LIMO: Less is More for Reasoning", https://arxiv.org/pdf/2502.03387, там In foundation models where domain knowledge has been comprehensively encoded during pre-training, sophisticated reasoning capabilities can emerge through minimal but precisely orchestrated demonstrations of cognitive processes. И дальше -- LIMO demonstrates exceptional out-of-distribution generalization, achieving 40.5% absolute improvement across 10 diverse benchmarks, outperforming models trained on 100x more data. Да, 1% от того, что считалось нормой -- а результат лучше. While conventional wisdom suggests that sophisticated reasoning tasks demand extensive training data (often > 100, 000 examples), we demonstrate a striking phenomenon: complex mathematical reasoning abilities can be effectively elicited with surprisingly few examples.
Читать ахинею вредно, времени на это уйдёт много, пользы -- нуль, если не вред (ибо выучитесь бредовым, а не лучшим паттернам мышления). Если вы будете брать древних авторов, скажем, буддийские трактаты, в надежде разобраться, как так говорить красиво, что ваша мысль будет сохраняться пару тысяч лет, я не думаю, что вы по этим текстам научитесь творить нетленку. А если интересуетесь тем, как говорить художественную (враньё там аккуратно в каждой речи определялось факт-чекингом, на итоги не влияло) речь убедительно, то берите в пример две кампании Трампа: про неожиданность успеха второй кампании уже всем понятно, а вот мой текст по его первой кампании, когда тоже для всех его победа была неожиданна 2016, https://openmeta.livejournal.com/235870.html. Там я, кстати, ещё в 2016 году выдвигаю тезис, что мокрые нейросетки и сухие нейросетки надо учить одинаковым способом -- это всё "нейролингвистическое программирование".
Должны ли мы читать всякую ахинею, чтобы стать умнее? В том числе ахинею, которой пара тысяч лет? Можно ещё зороастрийцев вспомнить, или даже свеженькое взять у бахаи, чтобы отойти от самого попсового — буддизма, христианства, неосуфизма и даже шаманизма, спасибо Кастанеде за популяризацию.
Святые тексты как художественная развлекательная литература и как учебники психопрактик
Тут два аспекта: вдохновения, мотивации и банального отдыха -- и аспект "заодно научусь чему-то, тысячелетней мудрости". Вот не думаю, что духовные традиции и их тексты помогают хоть что-то там превозмогать и чем-то таким вдохновляться. Или что там много какой-то продвинутой этики, проверенной тысячелетиями, или какой-нибудь астральной логики, или что они будят мотивацию заниматься чем-то важным, но неинтересным. Мотивацию, вдохновение дают самые разные привычки — https://vk.com/@typical__writer-kofe-blohii-gnilye-yablokistrannye-privychki-velikih-pisatel (там "лучшие практики, доказавшие свою результативность"). Чтение духоподъёмной литературы буддистов в сравнении, например, с этим "запахом гнилых яблок" смотрится очень выигрышно. Но у Гюго тоже был неплохой метод, вполне может посоревноваться с чтением упанишад! А если брать анекдотические свидетельства, то лучшие люди из AI/ML обычно смотрят аниме, у них аниме-персонажи на аватарках. Так что если хочется существенно повлиять на мир в плане добавки интеллекта этому миру, я бы рекомендовал вместо Библии смотреть японские мультики, некоторая степень отаковости тут явно в плюс.
Я предлагаю сразу: не читать статьи, где про психологов рассказывается и психологию (а потом говорится, что айтишники — это те же психологи с психологией), в том числе религиозную литературу, где по сути разговор идёт на те же темы -- счастье, радость труда, упорство и упоротость в достижении целей, Аниме и манга подробно разбирают эти же темы, с тем же эффектом, но в приятной для глаза форме и без претензий на правдивость. И делают это аниме и манга с той же степенью убедительности, заметим, что и специальные статьи, до сих пор использующие p-критерий добайесовской эпохи. Кто не любит мангу и аниме (обычно любят люди, которые занимаются AI), могут читать научную фантастику, или даже фэнтези, там тоже про счастье и достигательство-через-преодоление, неуверенность в себе и великость заурядных персонажей и простоту великих людей. По крайней мере, там честно, как в школе -- персонажи вымышленные, все совпадения с жизнью считать случайными. И там, конечно, можно как на школьных уроках литературы -- уроки этики силами незнакомых со спецлитературой учителями литературы и на примерах ситуаций из 19 века, уроки психологии на тех же примерах и тоже силами незнакомых с профессиональной психологической литературой учителей литературы. Всё по честняку, "художества, которые мы трактуем как хотим, вот как трактуем Библию или Тору -- любой текст". Белеет парус одинокий -- это предвестник революции, ага. Потом удивляемся, что средний человек с его хорошо обученной (хорошист в школе!) нейронной сеткой галлюцинирует ровно так же, как первое поколение нейронных сеток, обучавшихся на поймойке данных из интернета, на огромных массивах художественной литературы. Выученное умение не рассуждать, а грезить.
Дальше рассмотрим аргумент о том, что если брать не христианство (где психопрактики в почёте разве что у афонских монахов), а буддизм, индуизм и шаманизм, то нас там научат психопрактикам -- и мы станем умнее. У вольфрама и в аниме этого нет, а вот в буддизме и прочих из этой серии религий-с-медитациями этот ход на психопрактики есть. Начинаемся, станем просветлёнными! Профит! Только вот не надо про "просветлённых". В мире просветлённых (что это такое технически — это хорошо описал Кен Уилбер, там ничего мистического, это такая цирковая практика, особый режим работы мозга) десятки тысяч, они ведь производятся на потоке. И что-то ничего от них значительного нет, никакой интеллектуальной работы (за исключением самого Кена Уилбера, который пытался сказать, что это хорошо, но и он не самый светоч разума — ничего человечеству особо значимого он не принёс). Цивилизацию двигают не просветлённые, причём контрпримеры обычно даются даже Уилбером для литературных, а не реальных персонажей (тот же Будда). Страны, где просветлённых производят массово, они самые бедные -- пока не начали отказываться от этой идеологии. У меня было много текстов про это:
— https://ailev.livejournal.com/428032.html (2006 год, ""Православие шире христианства", там и про буддизм)
— https://ailev.livejournal.com/1307596.html, (2016, "Об Будду и его программу")
— https://ailev.livejournal.com/1330906.html, (2017, "Цикл Бойда, GAN и авианосец "Клемансо" против буддизма")
— https://openmeta.livejournal.com/236318.html, (2016, "Психопрактики развития мышления, а не животного начала")
— https://openmeta.livejournal.com/234856.html, (2016, "Незамутнённый (ясный) ум")
— ... там ещё до чёртиков, но и этого хватит. Been there, done that, bought the T-shirt.
Фильтр в голове на психологическую литературу
Вот прямо фильтр в голову надо поставить: если в статье поминают психологов и психологию, даже не называя их (как в буддийских текстах или прочих религиозных текстах, все эти кармы, счастья и как строить семью) — прямо с этой строчки дальше не читать! А переходить к поэзии, научной фантастике, аниме — с получением той же пользы и ощущения радости жизни. За почти двадцать прошедших лет (первый текст из моей подборки как раз 2006 года, время быстро бежит) выяснилось, что техники работы с собственным вниманием идут нормальные откуда угодно, только не от древних религиозных психопрактиков. Развитие есть везде, и в психопрактиках тоже достаточно школ — в том числе и совсем не древних (типа той же психонетики, хотя они и начинали с йоги), но дальше оказалось, что все эти школы упираются в цирк, и только совсем немного интересны для дела (типа того же focusing и TAO, или последователи NLP, переметнувшиеся в изучение когнитивной психологии). Мы очень долго мучались, пытаясь оставить слова вроде "сознание", "осознанность" с опорой на механистические теории сознания, это провалилось: понимание их оставалось попсовым и притягивало всяких фриков и прочих попсовиков-затейников (которыми я считаю и последователей древних психопрактик, интересных только историкам). И сейчас я рекомендую гигиену: как только видишь что-то про психологов или Будду — прекращать читать. Но можно почитать Желязны, "Князь Света". Духоподъёмное чтиво, хотя там больше индуизм. Всё честно, не психология, не религия -- чистая выдумка, галлюцинация Желязны! Дискуссии про практическое применение изложенного или основе этой книги как этического, религиозного, психотехнического, психологического и прочего учения -- они заведомо отсутствуют, это огромный плюс.
Картинка -- этот самый "Князь света", издание 1971 года (а книжка вышла в 1967 году, https://en.wikipedia.org/wiki/Lord_of_Light). Там всё честно, выдумка чистой воды, никаких претензий на обучение психологии, религиозным идеям, этическим принципам, медитативным практикам, просветлению и всякому такому. Чтиво исключительно ради удовольствия. Я вот читал, в нескольких переводах, чистая же поэзия! Аниме стали доступны много позже, их тоже смотрел. Помогло ли мне это стать умней? Дало ли просветление, цирковой режим работы мозга, недоступный людям без специальной цирковой подготовки? Вроде как нет. Но развлечение, конечно, знатное! Главное -- не считать это "престижным образовательным потреблением". Потребление, и отнюдь не престижное.
