Эту статью я писал ещё для своего паблика Мэйдомарксизм. Сейчас он заброшен, но статья хорошая, поэтому я отправлю её в общий банк статей (этот сайт)
Почему я рационалист, или как Lenin Crew меняли Юдковского на Маркса
Статья, о которой пойдёт речь, довольно старая. Она вышла в октябре 2023 года — практически год назад. Однако, какая нам, в самом деле, разница? В нашей кафешке можно читать всякие книги — и столетней давности, и годовалой.
Никто не запрещает, правда? А значит, давайте начнём!
Слой первый: Ярлычки
Начнём с цитаты — ведь какое может быть обсуждение без цитат?
На деле философия Юдковского — борщ из самых разных направлений мысли.
В качестве основы для этого специфического блюда возьмём т. н. «наивный реализм» — так на «птичьем» зовётся вульгарный материализм. Затем добавим в меню не то позитивизма, не то кантианства и тщательно взболтаем. Далее для остроты подмешаем ложечку известной ещё с XIX века специи — утилитаризма. Блюдо следует варить до появления на поверхности объективного идеализма. Секретный же ингредиент храброго кулинара — способность удерживать всю эту мешанину в одном котелке, не давая ей забурлить, вспениться и убежать. Задача эта, надо сказать, не из простых.
Эта цитата прекрасна. Просто оцените её. Перечитайте, если необходимо, несколько раз. Посчитайте про себя, сколько ярлычков за один абзац накинули товарищи из LC. Их там как минимум семь.
Вся глава “Ваша карта бита” — это процесс накидывания ярлычка. Всю главу можно сократить до фразы “Смотрите, Юдковский же буквально Коржбицкий! А Коржбицкий это буквально Венский кружок! А они все субъективные идеалисты! А ещё это старый буржуазный мусор в новой обёртке! Аааааа!”
LC, кажется, искрене считают, что если сказать “Ваша эпистимическая рациональность — это на самом деле гносеологическая паранойя!” — это что-то меняет. Не меняет. Вы просто переименовали переменную.
Этот тренд сохраняется и дальше, когда LC критикует моральный релятивизм Юдковского — вворачивая возгласы вроде “Omg, literally Бентам”!
У Юдковского есть странности во взглядах на мораль. Приведённый LC отрывок про Сортировщиков камушков — это одно из эссе, которое демонстрирует непоследовательность Юдковского, и лучшая критика этого эссе дана… в комментариях к этому эссе. Можете заглянуть сами по ссылке и почитать дискуссию между Элиезером и Роко. А потом вернитесь, и сравните с тем, как критикуют позицию Элиезера в журнале Lenin Crew. И да — Роко делает это без поминания Бентама и практически без ярлычков.
Чем же так плохи ярлычки, что я уделил им целый параграф? Тем, что ярлычки мешают думать. В “Обратной формуле Клаузевица” LC упомянули о том, что политика — это убийца разума. Но разум может убить не только она. Ярлычки сами по себе способны убить разум, причем делают они это часто и эффективно. Мы не слушаем буржуазных экономистов, философов-идеалистов, правых апологетов, и просто дураков. Мы не делаем этого, потому что они буржуазные, идеалистичные, правые и дураки. Ярлычок — чрезвычайно удобный способ организации информации, позволяющий одним махом отбрасывать целые отрасли науки из рассмотрения. Представьте, насколько сильно разгружает мозг возможность не читать эти тысячи книг по Economics, написанные за 150 лет? Как желанна эта возможность! И получить ты её можешь прямо сейчас — только собери все эти книги в коробку и налепи на неё ярлычок. “Буквально буржуй”, “Буквально Гитлер” или “Буквально Бентам” — не важно. Ведь по сути, это всё синонимы к “Буквально плохо”.
Из хороших новостей: альтернатива ярлычкам существует. Из плохих: она крайне когнитивно затратна. Попробуйте как-нибудь совершить проверяемое предсказание относительно какой-нибудь ситуации с позиций нескольких систем. Пусть это будет для вас идеологическим тестом Тьюринга. И вот когда вы по-настоящему сможете делать такие предсказания — вы вдруг поймёте, что для того, чтобы сравнивать системы, вам не нужны ярлычки. Ведь пока вы учились делать предсказания — вы сами не заметили, как прочитали ту тысячу книг.
Слой 2. Упрощения в соломенной шляпе.
Lenin Crew очень многое рассказывает нам простым языком. Если сказать об этом языком более сложным, то LC обильно фантазируют на тему. Это, своего рода, развитие идеи ярлычков. Ведь после того, как ярлычок наклеен, он открывает доступ к ульте — переходу на высокие абстракции. В основном это проявляется в главе “И Бентам!” — хотя, конечно, превращение теоремы Ауманна, описывающую байесианских агентов с одинаковыми исходными данными, до «Умные люди всегда друг друга поймут и договорятся».
Важно понимать, что если мы говорим исключительно о конкретных математических расчётах, то всё сказанное выше — верно. Если вы и ваш друг считаете вероятность рака при положительном тесте и получаете разные ответы — хотя бы один из вас ошибся. Неверны и вредны именно попытка распространить это правило на поведение людей и абсолютизация возможностей человеческого разума со всеми вытекающими последствиями.
Никто и не пытался. Деятельность Юдковского — она про то, чтобы сделать людей ближе к байесианским агентам, а не про то, чтобы натягивать теоремы о байесианских агентах на людей.
А теперь к главе про утилитаризм.
Она вся состоит из баталии с некоторыми абстрактными утилитаристами и приключений радикально-утилитарных семей.
Стоит отметить: в целом, критика идей утилитарной этики, которую ведет LC, состоятельна. Сложность в создании интегрального показателя счастья, трудности вычисления функций полезности, проблемы в различии потребностей — всё это правда есть. Поблема сверхсчастливого агента — значимый аргумент против утилитаризма, который, впрочем, имеет несколько возражений.
Однако, как именно они работают с этими проблемами!
LC делают три вывода:
Первый вывод LC: Утилитаризм не может быть коллективным.
В этом параграфе нужно следить за руками и наблюдать за течением мысли. Просто взгляните на то, как она развивается:
- Все версии группового утилитаризма отправляются на помойку.
- Это иллюстрируется примером семьи.
- Утилитаристская семья ведёт себя точно так же, как и не утилитаристская.
- Ведь самые ярые утилитаристы признают, что считать функции полезности для бытовых вопросов непрактично.
- Если решать подобные вопросы при каждом коллективном действии, никаких сил на действие не останется.
- А значит, чтобы быть утилитаристом, надо подавить всех и максимизировать только индивидуальную полезность.
Здесь, в одном параграфе, собран целый пучок приёмов. Тут у нас и прыжок от частного к общему без должных обоснований, и приравнение непрактичности к невозможности, и утверждение о единственности пути реализации.
Давайте попробуем разорвать этот пучок в нескольких местах.
Если решать подобные вопросы при каждом коллективном действии, никаких сил на само действие просто не останется.
Однако, мы можем решать их при некоторых коллективных действиях.
Непрактичные при принятии решения о мытье посуды могут оказаться удивительно практичными при решении старой доброй задачи о распределении ограниченных ресурсов при неограниченных потребностях. Классическая задачка о том, на что главврач больницы должен потратить десять тысяч долларов — на новый орган ребёнку, который умирает прямо сейчас, или на новое оборудование для больницы — решается в пользу второго именно через рассчёт функций полезности. Потому что на дистанции, новое оборудование спасёт больше жизней. Это можно — и нужно посчитать. Это — утилитарная этика в действии.
И вот уже тезис о выбрасывании всех групповых утилитаризмов на помойку становится не таким состоятельным. Выбросить получается разве что семью соломеных чучел — и то, до момента, пока они не выработают удобные правила оценки полезности бытовых стычек.
Могу предложить им, для начала, при возникновении затруднений уровня “Я хочу чтобы она мыла посуду, а она не хочет её мыть” проделать следующий трюк: совместно с партнёром напишите на бумажках своё желание или нежелание делать Х, где -100 — это абсолютное нежелание, 0 — это абсолютное безразличие, а 100 — абсолютное желание. Сложите получившиеся у вас цифры. Если цифра положительная — сделайте Х. Если отрицательная — не делайте Х. После обретения некоторой привычки сортировать свои желания по уровню интенсивности, из этого получится действительно неплохой метод принятия решений.
Второй вывод LC: вычислить функцию полезности на практике сложно.
Это, безусловно, так. Однако, далеко не невозможно, и там, где функции полезности действительно нужны — их вычисляют. Весь последующий абзац исполнен воображаемых друзей автора, которых утилитаризм приводит к цинизму. Не будем пытаться их лечить.
Третий вывод LC: утилитаризм может выглядеть как надстройка над чем угодно, применяясь при этом только на словах.
Не может. Это же не диамат! Человек может пользоваться разными этическими системами в разных ситуациях. Как, например, Юдковский спокойно использует максимизацию полезности и деонтологическую защиту невиновного в одном художественном произведении, причем в устах одного персонажа. Если человек не занимается максимизацией полезности то, скорее всего, в данной ситуации он просто использует другую этическую модель.
Что в завершение этого слоя можно сказать? Ну, наверное, что подменять понятия — это плохо. Однако, иногда подмены понятий и финты навроде совершенного LC сложно замечать, когда ты их пишешь. Потому что изнутри они смотрятся совершенно логично.
Если вы заметите такие финты в этой статье — скажите, пожалуйста.
:3
Вишенки
Сюда я собрал штуки, которые не вписывались в два слоя. Они просто показались мне забавными.
Например, придумать другую периодическую систему химических элементов, которая будет служить человечеству так же хорошо. Только вот, если вынырнуть из наших фантазий, почему-то «работает» именно система Менделеева.
Можно, конечно. Мы даже их придумали. Есть даже база данных, где собрано около 1300 альтернативных переодических таблиц. Лучше они или хуже? Не знаю. Среди горничных химиков (пока) нет. Однако, помимо системы Менделеева, другие системы есть.
И вот ещё что: я все не могу отделаться от мысли о «машине», что действует по каким-то чуждым человеку законам, максимизирует некое абстрактное «благо», подстраивается подо всё, что только можно, бесконечно растёт и оставляет людей без средств к существованию… Батюшки-светы! Так это ж капитализм!
Вот мы и выяснили, почему все проекты социализма провалились. Они были дальше от идеальной байесовской машины, чем капитализм. Кажется, победителем действительно оказался Азатот.
Что ж, тем лучше для нас, людей. Мне нравится Создатель, которого я могу перехитрить. Лучше, чем быть домашним животным. Я рад, что наш Бог — Азатот, а не Один.
(Юдковский, эссе «Чуждый Бог»)
Десерт. Так что же нам стоит взять у Юдковского?
Элиезер Юдковский — довольно специфичный персонаж. Он радикален, резок в своих высказываниях и иногда требует ядерной войны с дата-центрами. Однако, есть у него и плюсы.
Многие концепции, в популярной форме высказанные Юдковским — полезны и продуктивны для того, кто хочет эффективно познавать мир. Вот те из них, на которые я бы особенно обратил внимание. В ссылках приложены оригинальные эссе Юдковского — можете их прочитать.
Не стоит делать слишком много заплаток на своей теории. Если вы замечаете, что вам приходится часто говорить фразы а-ля “Да, здесь не сработало, но в целом…” или “Да, не получилось, но если бы не незначительная мелочь…”
Позвольте маленькой ошибке разрушить всю теорию прежде, чем эта теория наплодит крупных ошибок. Позвольте кризису веры случиться.
Смертельные аффективные спирали
Идеи, которые кажутся нам великими, склонны экспансировать. Если вам кажется, что идея, в которую вы верите, объясняет всё на свете — или вы видите с каждым днём всё больше и больше вещей, которые она объясняет — остановитесь и не падайте в аффективную смертельную спираль. Разбейте Великую Идею на множество маленьких идей, и рассматривайте их по отдельности. Монополии внутри вашей головы приводят к плохим последствиям. Учредите антимонопольную службу.
Чаще делайте проверяемые прогнозы на основе своих убеждений. Если прогнозы систематически не сбываются — отказывайтесь от этих убеждений. Если оправдание убеждения перед собой или другими требует много времени, а последнее сбывшееся предсказание на его основе вы сделали три года назад — подвергните убеждение кризису веры.
Комментарии
Комментариев пока нет.