Последние сообщения

81

Обсуждение книги / Re: Смерть сознания

« Последний ответ от kuuff 18 Мая 2019, 05:49 »

Во-первых, я не очень понял. Вы привели, по-сути, два определения смерти:
1.

Смерть есть полная потеря агентом способности воздействовать на окружающую действительность.

2.

Потерю способности к осуществлению этого цикла по любой причине, будь то утрата функции полезности, утрата вариативности возможного поведения или утрата приемлемого уровня соответствия между представлением о последствиях действий и реальными последствиями, следует рассматривать как смерть.

Они разные. Скажем, можно порезать человеку эфферентные нервные пути. Это можно сделать аккуратно, так, чтобы не поломать функционирование сердца, и не остановить дыхание. Человек потеряет способность воздействовать на внешнюю реальность. Теоретически можно вообще мозг вынуть, и поддерживать его функционирование "в пробирке" -- я читал о подобных опытах с мозгами свиней. И первое определение называет подобную ситуацию смертью. Но второе наводит на мысль о том, что всё же речь не об этом.

Во-вторых, "приемлемый уровень соответствия между представлением о последствиях действий и реальными последствиями" -- это очень размыто. Человек в состоянии аффекта идёт и убивает. Он в этот момент теряет связь с последствиями своих действий, всё его сознание фиксировано на чём-то одном. Значит ли, что он пережил смерть? А сон -- это смерть?

А шизофрения? Вот берёт шизофреник кусок мела, рисует на полу круг, и сидит в этом кругу голый всю ночь. Для него это выглядит, будто пока он сидит в этом кругу, Вселенная в безопасности, его родные и близкие в безопасности, а если он выйдет, то может случится катастрофа, Вселенная лопнет и все родные и близкие умрут мучительной смертью. То есть, дело не в том, что он верит в это, не всё гораздо интереснее: это его реальность такая. О, да, кстати о шизофрениках, очень рекомендую к прочтению книжку, где описана история болезни изнутри. Или у dpmmax'а есть куча психиатрических баек, которые позволяют глянуть на альтернативные реальности пациентов, типа этой, например.

Возвращаясь к определению: "утрата функции полезности" -- я переживал подобное. Это называется депрессия. Это когда лежишь на диване, тебе невыносимо плохо, невыносимо скучно, но нет ничего в этом мире, что могло бы развлечь. Даже когда ты забиваешь на чувство вины за себя слабака, подставляющего других людей, и говоришь себе плевать, дай-ка я займусь чем-нибудь... И если не выходит заняться полезным, займусь я чем-нибудь бесполезным. Но единственное чего хочется -- это заснуть: когда спишь, время проходит незаметно, безболезненно и не требуется усилий, чтобы дрейфовать по времени в будущее. Ничего не хочется настолько, что не заставить себя дойти до холодильника, чтобы поесть. А когда в холодильнике кончается еда, ты ещё два дня лежишь на диване голодный, прежде чем находишь в себе сил сделать усилие воли и сходить в магазин. То есть мне всё было одинаково противно. И очень противно. На диване было лежать противно, и я выбирал лежание на диване только потому, что это было отказом от выбора из многих одинаково противных опций. Был ли я мёртв, когда лежал с депрессией?

Это может показаться лишними придирками, ну вроде как мы говорим о "нормальных" людях, а мои примеры явно о ненормальных. Но граница между нормальностью и ненормальностью на деле размыта очень. То есть, я даже скажу хуже: её вообще нет. Считать одних людей нормальными, а других ненормальными -- это ксенофобия чистой воды. Любое свойство ненормального человека есть и у нормального, просто выраженность этих свойств разная.

82

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« Последний ответ от kuuff 11 Мая 2019, 16:08 »

Мир не ждёт, пока вы думаете над ответом. И вполне может когда-то выйти так, что после ваших раздумий их итог будет, в лучшем случае, уже никому не нужен, ну а в худшем - додумайте сами.

Я знаю. Но мои импульсы непредсказуемы для меня самого, меня это пугает.

83

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« Последний ответ от nar 11 Мая 2019, 13:37 »

Хотя, если подумать над этим, то я начинаю подозревать, что рациональность помогает не потому, что байес, или знания когнитивных искажений, а потому, что требует уделять больше внимания принятию решения и тратить на это больше времени. Она требует остановиться и подумать, то есть обуздать импульсивность.

Мир не ждёт, пока вы думаете над ответом. И вполне может когда-то выйти так, что после ваших раздумий их итог будет, в лучшем случае, уже никому не нужен, ну а в худшем - додумайте сами. Но в каких-то случаях да, остановиться и подумать не помешает. Вы можете даже сознательно устраниться от большинства ситуаций как выше, но этим вы и себя много чего лишите.

84

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« Последний ответ от kuuff 01 Мая 2019, 03:38 »

Но всякий раз, когда я чувствовал стыд, испытывал мучения совести, то есть проваливался как человек - я в конце концов обнаруживал, что произошло это во многом потому, что я позволил рационалисту внутри себя взять верх над тем самым кантовским императивом, подобным звездному небу над головой.

Любопытно это слышать, потому что со мной всё ровно наоборот. Те мои деяния которых я больше всего стыжусь -- это те деяния, в которых моя импульсивность оказалась сильнее. Рациональность помогает это преодолевать.

Хотя, если подумать над этим, то я начинаю подозревать, что рациональность помогает не потому, что байес, или знания когнитивных искажений, а потому, что требует уделять больше внимания принятию решения и тратить на это больше времени. Она требует остановиться и подумать, то есть обуздать импульсивность.

85

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« Последний ответ от Gradient 30 Апреля 2019, 20:12 »

Я использую слово "рациональность" в смысле "эпистемологическая и особенно инструментальная рациональность по Юдковски". То есть "как достигать целей, и как для этого работать с информацией".
В этом смысле высказывания о том, что рациональность неэффективна, выглядят довольно противоречиво. "Наилучшие известные нам методы достижения цели работают хуже, чем не-наилучшие. Известные нам же.".
Может, вы имели в виду под рациональностью использование явных логических рассуждений в противовес эвристикам, эмоциям и интуиции? Я в каком-то из ваших старых комментариев это видел. В таком случае... Ну да, явно пользоваться логикой не всегда эффективно, она не настолько быстрая. Но это лишь значит, что иногда логика и использование явного сознательного рассуждения - это менее рациональный (в инструментальном смысле) приём, чем использование эвристик.

Цели-выраженные-в-словах иллюзорны. А цели, выраженные в работе механизмов подкрепления мозга... Они как цели в бортовом компьютере самонаводящейся ракеты. По поведению сложно будет сказать, что они иллюзорны. Да, механизм подкрепления меняется со временем, цели расползаются, и не всегда можно этому противостоять. Но в какой-то мере это возможно.

Мне пофигу, откуда берутся данные эксперимента. Они даны мне в ощущениях. Их самих достаточно, чтобы поправить картину мира.

на уровне действий я с вами согласен. Использую слово "реальность", чтобы различить данные, полученные в эксперименте и предсказанные моделью. И у меня, честно говоря, было впечатление, что Юдковски тоже так действует - он в одной статье подробно изложил эту концепцию. Хотя и не могу быть уверен, он местами говорил довольно... непонятные для меня вещи о "реальности".

По критериям Поппера рационализм (как и любая религия, как и марксизм) - ненаучен, так как не допускает опровержения изнутри.

если брать инструментальный рационализм, то в чём проблема? Мы просто берём и делаем список стратегий, которые зарекомендовали себя лучше всего. Критерий Поппера касается моделей - он, грубо говоря, проверяет, является ли модель предсказательной, или нет. Эпистемологический рационализм - там да, много штук, которые непроверяемы. Но если рассматривать эпистемологию как кусок модели принятия решений, то её можно оценить на эффективность. Запрограммировать несколько ИИ с разными эпистемологиями, и устроить между ними битвы во множестве виртуальных миров. Какой победил, у того эпистемология и лучше - не истиннее, а лучше для задачи выигрывания.

Мде, хотел показать, что рационализм по Юдковски довольно хорош. Теперь сомневаюсь, что он соответствует таким высоким критериям =) Ладно, у меня есть субъективное ощущение, что некоторые приёмы из эпистемологического рационализма оказались для меня полезны. Например "заметить замешательство", "пытаться прогнозировать на базе опыта, если имею дело с неведомой фигнёй", "искать рационализации", "смотреть на возможность негативного исхода как на что-то реальное, а не отмахиваться" и ещё много чего, что я не вспомнил с ходу. Возможно, что это предвзятость подтверждения (ещё один полезный концепт) или недооценка того обучения. которое я мог пройти вместо рациональности-по-Ю. Полагаю, если подойти к эпистемологической части рациональности с точки зрения "это надо проверить на массовом эксперименте", то можно узнать, что работает, а что нет. С инструментальной сложнее.

Да, кое-какие рациональные моменты в менеджменте есть, есть психология влияния (Чалдини, напр., мне в свое время очень пригодился), но это от силы 10%. Остальное - харизма (альфа-тип психики - от природы), хватка, природное чутье, короче, некий талант мгновенно (безо всяких сборов данных, построения моделей, прогнозирования поведения и т.п.) найти нужные слова и сказать их нужным тоном. А потом - еще и опыт, конечно...

- почему вы полагаете, что дело не в скорости? Тот вариант, что я описал - долгий. Люди явно сознательно так не делают. Я описал, как решается задача, если отбросить мистику и делать исключительно то, что мы понимаем. Но есть оптимизации, эвристики, которые позволяют свести задачу с комбинаторным взрывом к просто задаче. Эти эвристики тоже можно было бы вывести явными правилами вывода - если вычислительные ресурсы позволяют.
Я к тому, что наличие правил вывода не означает, что реальный результативный человек будет ими пользоваться - может, он использует иную стратегию, которая менее точная, зато намного быстрее. И предельно рациональна - в том плане, что стратегия сравнена с другими и утверждена как локально-оптимальная.

Рационалист делает вид (и искренне верит себе в этом), будто ищет эффективные пути. А на самом деле он ищет самооправдания.

- видимо, это неправильный рационалист. Видимо, били его мало, что он ищет самооправдания, а не сражается в полную силу =) Я в том смысле, что у меня обычно всплески прагматичности случались вблизи сильных подкреплений - положительных или отрицательных.

Я бы еще такую фразочку выдал: отказ от самообмана - всегда новый самообман.

- что вы под этом подразумеваете? Я наблюдаю, что иногда мои модели систематически промахиваются мимо реальности. Допустим, я прогнозировал расход денег на месяц с занижением на 15%. Самообман. Чрезмерный оптимизм. Допустим, я внёс корректив в модель - теперь я промахиваюсь в обе стороны примерно поровну. Почему здесь должен вылезти новый самообман?

86

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« Последний ответ от anagor1 30 Апреля 2019, 18:39 »

"Территория" (читай - "истина"), "самообман", "целеустремленность" (в безусловно позитивной коннотации) - это просто слова-костыли, слова-затычки. Это инструменты языка (читай - "самообмана") рационалистов (ибо "как говоришь  так и думаешь"), который нужен им, чтобы замаскировать перед самим собой дефицит "души", "эмпатии", "чуткости" "чутья", "хватки", то есть тех природных (эвристических?) качеств, которые позволяют людям или помогать самим близким жить счастливо и умерать спокойно в свой срок, не испытывая вины за их смерть, или хотя бы зарабатывать миллионы, чтобы этот срок (зачем-то) продлевать. Мне импонирует ненависть Юдковски к смерти - они искренняя, яркая, даже, можно сказать, красивая. Но есть вещи и страшнее смерти.
Когда чего-то не Дано, следует нехватку чем-то компенсировать. Компенсаторные механизмы - основополагающие в базовых мотивациях человека, в выборе им для себя мировоззренческих позиций, любимых теорий и т.п. - спросите своего знакомого психолога, он подтвердит. От них ни в коем случае нельзя отказываться! Придет новый опыт, поутихнут старые комплексы, выявится имманентная иллюзорность всяких целей - и любимые теории "умрут" сами, став попросту ненужными.

Я бы еще такую фразочку выдал: отказ от самообмана - всегда новый самообман. "И опять слезает краска, и опять слетает маска, а под ней еще одна, а под ней еще одна..."

"Отказ от истины" и "недостаточная критичность к своим моделям мира" - совершенно разные вещи. Психологически разные. Мне не нужна "истина", чтобы сомневаться (даже наоборот!), чтобы допускать наличие ошибок в своей картине мира, а порой и находить их, если ожидаемое не совпало со случившимся. Мне пофигу, откуда берутся данные эксперимента. Они даны мне в ощущениях. Их самих достаточно, чтобы поправить картину мира. Допускать существование какой-то там территории нет нужды. Это избыточная сущность. Но психологически очень важная. Играющая ту же функцию, что и боги в религиях. Рождающая чувство "я прав, что живу так и делаю так". То есть, как раз заглушающая сомнения, точнее выставляющая для них рамки: вот в этом можно и нужно сомневаться, а вот в этом - ни-ни! По критериям Поппера рационализм (как и любая религия, как и марксизм) - ненаучен, так как не допускает опровержения изнутри. С этой точки зрения Юдковски ничем не отличается от Хаббарда или любого искренне верующего проповедника. Но человеку это нужно - нужно верить, а не только знать. В Бога или в науку - не важно. "Каждый выбирает по себе". Кому-то ближе и нужнее по жизни рациональность, да. Но таких всё меньше. Естественный отбор, видимо, выбраковывает их. Потому что рационализм, статистически, вреден для жизни. Неэффективен для подавляющего большинства.

...У меня "профессиональное" рациональное мышление (как часть системного научного). Мне его целенаправленно ставили 10 лет: 57-я школа лучших времен, золотой (без потерянных баллов) диплом физфака МГУ. Но беда в том, что это мышление оказалось, увы, неэффективным в обыденной жизни. В науке, в технике, в каких-то частных случаях - да, работает. Но в личной жизни, в бизнесе (то есть всюду, где результат напрямую зависит от взаимодействия не с "железом" и не с абстрактным сущностями, а с конкретными людьми) - нет.
"Эффективность" - это ведь когда искомый результат достигается минимумом затрат, не так ли? Задача "добиться от человека А поведения Б" - совершенно типичная, вот просто на каждом шагу. Называется "манипуляция". Любой серьезный управленец занимается этим непрерывно, в этом вся суть его работы; управление людьми - и есть манипуляция, без нее миллионов не заработать (ну, разве что случайно на биткойнах каких-нибудь). Если бы он при этом делал вот это вот: "Взять все данные по этому человеку и по другим, похожим людям. Собрать на их базе модель, которая будет прогнозировать поведение заданного человека.... и т.п." - это был бы не управленец от слова совсем. А консультант какой-нибудь в лучшем случае. Да, кое-какие рациональные моменты в менеджменте есть, есть психология влияния (Чалдини, напр., мне в свое время очень пригодился), но это от силы 10%. Остальное - харизма (альфа-тип психики - от природы), хватка, природное чутье, короче, некий талант мгновенно (безо всяких сборов данных, построения моделей, прогнозирования поведения и т.п.) найти нужные слова и сказать их нужным тоном. А потом - еще и опыт, конечно...
У меня вот очень большой опыт: и собственный, и близкого взаимодействия с успешными людьми. Я его, по дурной привычке, много и подробно анализировал, искал ошибки, разбирался, почему не получилось. Не помогло. "Разошелся сам с собой во мнениях". И пришел лишь к одному выводу: "Не дано". Нужна воля, нужен внутренний консенсус - нельзя с собой во мнениях разходиться!..
Да и ладно. Каждому - свое. "Каждому - свой крест, свой пьедестал, свой медовый пряник и свой кнут". Идти чужим путем - никуда не придешь, и умирать будет совсем тоскливо.

Бизнес - не моё, и ладно, не всем же миллионами ворочать.
Но всякий раз, когда я чувствовал стыд, испытывал мучения совести, то есть проваливался как человек - я в конце концов обнаруживал, что произошло это во многом потому, что я позволил рационалисту внутри себя взять верх над тем самым кантовским императивом, подобным звездному небу над головой. Рационалист делает вид (и искренне верит себе в этом), будто ищет эффективные пути. А на самом деле он ищет самооправдания.

Ну и самое главное. Как говаривал Вольтер, "все жанры хороши, кроме скучного". Жизнь - театр, но жанры той пьесы, в которой я актерствую, с годами как-то так плывут, меняются. Трагедии превращаются в фарсы, комедии - в буфф. И в некий момент рациональность становится попросту скучным жанром.

87

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« Последний ответ от Gradient 29 Апреля 2019, 10:57 »

Автор, мне нравится, как вы пишете. Очень интересно. Ну и критика рациональности-как-у-Юдковского - это круто - мало ли, получится сделать что-то лучше?

Другими словами, пользуясь любимой терминологией рационалистов, можно сказать, что у меня нет никакой территории, а есть только карта, которой я в той или иной степени доверяю, измеряя это доверие вероятностью. Я ей пользуюсь, она позволяет мне предсказывать результаты каких-то моих шагов, испытаний, экспериментов. Иногда она врет в предсказаниях — тогда я беру карандаш и вношу в нее поправки. На практике этого достаточно. А зачем тогда нужна территория? Есть подозрение, что только для одного — для ощущения собственной правоты.

Здесь я не вполне согласен. Автор явно указал, что когда карта ошибается в предсказаниях, он вносит в неё изменения. Но территория - это и есть та самая штука, которая сообщает, что карта ошиблась. Ну, то есть я согласен, что на некотором уровне территория начинает вести себя так, что обычная бытовая интуиция становится бесполезна, но территорией всё ещё можно называть ту штуку, которая генерирует данные экспериментов.

Ещё я увидел критику рациональности в том ключе, что рациональность-по-Юдковскому - это штука, в которой нет места самообману, даже если он делает человека счастливее. Тут я бы напомнил, что как только человек берётся за самообман, он ухудшает свою способность оценивать риски. И он не может оценить, чем он рискует ради счастья сейчас - может быть, здоровьем и жизнью своих близких. Ведь не получится оценить объём самообмана, не отказавшись от самообмана.

Кроме того, я видел критику рациональности как критику чрезмерного прагматизма - в ущерб счастью и восприятию искусства. Я общался со знакомым психологом - он говорит, что высокая целеустремлённость свойственна не всем людям.
Есть категория людей, для которых время, прошедшее даром - это просто бесполезный шаг в сторону смерти. Отказ от возможности заработать немного денег - это отказ от дополнительной финансовой подушки, которая понадобится, когда заболеет кто-то из близких. Любой поступок влияет на то, сколько проживут другие люди. Условно если мой родственник заболеет раком и на лечение надо 2 миллиона долларов, и он умрёт, потому что удалось собрать лишь один миллион - это буду виноват я, если я мог в течение жизни заработать ещё миллион, но вместо этого занимался чем-то другим. Здесь не обязательно приоритет на спасении людей, он может быть на чём угодно.
А есть другие люди - для них выглядит, что эти "достигаторы" не живут. Они постоянно стремятся к цели, но не получают по пути удовольствия, и потому проживают жизнь зря.
То есть эффективное достижение целей привлекает людей определённого склада ума.
Ну и ещё момент - лично мне в жизни очень важно уметь достигать целей эффективно, даже если это ведёт в какой-то мере к потере человеческого облика. Всякий раз, когда я крупно проваливаюсь как рационалист, за это расплачиваются своим здоровьем и уровнем жизни важные для меня люди. Отказ от истины (в смысле недостаточная критичность к своим моделям мира) быстро ведёт к грустному голосу в динамиках: "Unit lost". Полагаю, есть люди, для которых ставки не столь высоки, и потому для них рациональность-в-экономическом-смысле не выглядит чем-то сильно нужным.

Насчёт интерпретации вероятностей. Люди и правда могут интерпретировать вероятности по-разному. Но если мы решаем задачу оптимального управления, то есть инструментальной рациональности, то какой подход даст наилучший результат? Насколько мне известно, самые успешные попытки построить ИИ связаны с субъективным подходом к вероятностям - то есть с подходами "У Бога логика бинарна" и "Природа кроется в приорах.". А ИИ - это как раз площадка для тестирования различных подходов к рациональности. Если какой-то подход плохо работает на модельных задачах у ИИ, то вряд ли он хорошо сработает на похожих задачах у человека.
Не то, чтобы я сильно доверял математическим рассуждениям Юдковского о вероятностных подходах - но я поднял испытательный стенд и реализовал на нём принятие решений по Байесу (я эмулировал задачу обнаружения самолёта зенитным радаром, стрельба штрафуется чуть-чуть, разбомленный тыл штрафуется сильно). Получилось так, что остальные алгоритмы, что я пытался применить, оказались в среднем хуже. Это не значит, что подход Юдковского к вероятностям наилучший - это значит, что у нас есть способ протестировать подходы, посмотреть, насколько они хороши для принятия решений.
Может, я неправ? И есть методология, которая везде даёт качество решений не хуже, а иногда лучше, чем Байесовкая? Без учёта вычислительной сложности.

Насчёт математики и того, почему она работает:

Но такой отказ от интерпретации — это на самом деле тоже интерпретация. Потому что в нем имплицитно присутствует убеждение в «истинности» самой математики. Ну вот почему мы так уверены, что цепочки наших абстрактных суждений всегда обязаны подтверждаться эмпирически? Почему дважды два всегда четыре? Потому что математика тоже родилась из опыта? Потому что наше сознание так устроено — адекватно реальности? Или потому что реальность формируется сознанием? Или почему?

На мой взгляд, мы просто изготавливаем модели из математики. У нас есть в мозгу что-то наподобие ПЛИС и мы её грубо говоря, прошиваем. Прошивка называется словом "математическая модель". "ПЛИС" получает сигналы на входе и выдаёт сигналы на выходе. Подавляющее большинство моделей не применимы к произвольно взятой задаче, но есть некоторые модели, которые дают удовлетворительное качество прогноза. Мы эти модели называем истинными (или точными, или практически ценными), а те блоки, которые мы используем при их построении, мы воспринимаем как математические абстракции. Типа такого, что есть очень много вариантов математик, которые неизвестны почти или вообще никому, потому что они не доказали практическую ценность. Но широко известны лишь те, которые доказали полезность, и потому для нас выглядит, будто бы математика хорошо отражает реальность. По-моему, такой подход отвечает на вопрос "почему математика эффективна" и снимает вопрос "почему математика истинна".

Понимаете, если у вас уже есть правила вывода — то думать не о чем, нужно просто тупо им следовать: «Нажми на кнопку - получишь результат»

Это очень хорошие слова! Может быть, они немного вырваны из контекста, потому что автор затрагивал тему несколько раз и по-разному. Я полагаю, что автор полагает, что если у нас есть правила вывода, то нет ничего сложного в том, чтобы мыслить правильно, что бы под этим "правильно" не подразумевалось. Эти слова заставляют задуматься о том, что у рационального агента свободы воли не просто нет, а нет даже никакой иллюзии свободы, даже самого ощущения.
Что я наблюдаю по этому вопросу. Допустим, передо мной стоит задача - добиться от человека А поведения Б (или максимально к нему приблизиться). Воображение вывело ответ "я не знаю". Задачу решить надо, иначе "Unit lost!". Что делать? Примерно следующее: взять все данные по этому человеку и по другим, похожим людям. Собрать на их базе модель, которая будет прогнозировать поведение заданного человека. Собрать - в смысле подобрать, найти её в пространстве всех возможных моделей (пространство имеет огромное число степеней свободы), и убедиться, что она наиболее точна. Затем перебрать все возможные стратегии своего поведения и, пользуясь прогнозной моделью, выявить, при какой стратегии с наибольшей вероятностью будет достигнуто желаемое поведение и не будет достигнуто нежелательное. Что задача построения модели, что задача подбора стратегий - очень вычислительно затратные. Они ведут к комбинаторному взрыву, если решать их в лоб. Попытки решить эти задачи вызывают ощущение усилия. Пытаясь решить задачу не в лоб, а как-то хитрее, мы будем задействовать эвристики, например, мозговой штурм (его можно результативно проводить в одиночку, так что пусть это будет эвристика). Так что... Правила вывода у нас есть, но они не очень-то выполнимы, так что приходится пользоваться всякими эвристическими штуками, которые сильно зависят от опыта. Поэтому у рационалиста вовсе необязательно будет ощущение, что он следует правилам вывода, и у окружающих тоже необязательно будет ощущение, что рационалист действует идеально логично, в соответствии с неким известным шаблоном. Вот был бы у меня маховик времени с возможностью решать NP-полные задачи во временных петлях - тогда моя рациональность выглядела бы как хладнокровное применение правил =) Во всяком случае, для меня ситуация выглядит примерно так

Мне жаль, что я по-человечески привязан к своим любимым теориям. Но мне кажется, я способен от них отказаться, если увижу что-то, что лучше ведёт к цели.

88

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« Последний ответ от kuuff 29 Апреля 2019, 02:34 »

Мне немного жалко Юдковски. Он не умеет ловить кайф ни от Китса, ни от Ли Бо, ни от Пастернака, ни от Бродского, ни даже, видимо, от хорошей художественной прозы. Ибо Искусство и "эффективное достижение цели" - несовместны.

Я тоже не умею. Я вообще не понимаю в чём кайф читать ритмованные слова. Я привык читать быстро и в том темпе/ритме, который определяется моей способностью усваивать информацию. Со стихами так не выходит, да ещё и гадать надо, чё вообще автор хотел сказать. И хотел ли он чего-нибудь сказать, или у него просто приступ неудержимой шизофазии случился и он его записал буквами. Особенно это проявляется в английских стихах. Видимо потому, что английскими стихами меня не мучали в школе и поэтому у меня вообще нет опыта работы с ними. Прозу я могу оценить, но мне она не интересна, как правило. Всегда можно найти не художественные книжки, где будет не меньше, а то и больше глубоких мыслей автора. И не художественные книжки лучше тем, что о том, что там внутри за мысли (хотя бы на какую тему) можно судить по названию книги, что позволяет выбирать осмысленно, а не рандомом.

Я к тому, что жалость тут неуместна. Это очень индивидуальная штука. Я не считаю, что следует жалеть людей, кто не может получать кайф от чтения чего-нибудь в стиле https://bodil.lol/parser-combinators/
Почему кто-то считает, что нужно жалеть тех, кто не может получать кайф от чтения стихов?

Вы загляните по ссылке, там ведь продемонстрировано искусство владения языком rust, которое позволяет автору написать код, который а) выполняет поставленную задачу, б) легко читается глазами, в) довольно эффективен. С последним пунктом правда сложности выходят, это на порядок медленнее чем парсер на конечном автомате, но зато как красиво. Там самая кульминация, когда развитие событий в статье доходит до того, что компилятор rust'а начинает безбожно тормозить, а потом отказывается завершать компиляцию программы, потому что её рекурсивные типы оказаваются слишком огромными для компилятора.

Большинству людей не понять, но мне то что с того? У них есть другие способы щекотать свой мозг, доставляя себе интеллектуальное удовольствие.

89

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« Последний ответ от anagor1 28 Апреля 2019, 20:29 »

Разные системы терминов. "Наблюдаемость" - понятие теории измерений. Выражение "непосредственно наблюдаемо" в данном контексте несет в себе намек на то, что факт наблюдения не влияет на поведение системы.
Да, виноват. Если поначалу я продумывал каждую формулировку, дабы стараться не допустить ее многоякого толкования, то к концу формулировки пошли черновые, как бы для себя, для памяти о чем думал. А дальше было уже лень продумывать и перерабатывать. Хотя это, безусловно, интереснейшая вещь: работа над дискурсом с точки зрения разных нарративов. Но занимает много времени. Я примерно этим занимаюсь профессионально. И за это неплохо платят. А тут пришлось бесплатно...

Что касается реальности, то в быту вполне работает "вульгарный материализм": что вижу, слышу, ощущаю - то и реально. Физика, особенно квантовая, действительно заставляет задаваться вопросом о "реальности вообще", об интепретациях. Но я для себя эту проблему в свое время решил быстро: после МГУ почитал Канта с Юнгом - и успокоился. Умные люди написали тысячи умных слов... ну, делать им было нечего, видимо. А мне есть что делать! Особенно тогда, в начале 90-х. Когда тебя могут вполне реально пристрелить - с реальностью проблем не возникает:)

Сейчас, конечно, пенсия всё ближе, мысли витают всё дальше... Но вопрос о реальности актуальность себе не вернул. Мне для жизни и для прикладных суждений не нужно это понятие. А суждения кабинетные - это всего лишь игра слов. Есть настроение поиграть - поиграю, нет- и ладно.

Мне уже поздно в рационалисты (Вспоминается: "Таких не берут в космонавты!"), хотя рациональным мышлением, смею думать, я владею лучше большинства окружающих. Однако, мы друг другу ничего не докажем, и даже толком не поймем друг друга. Язык только на первый взгляд один. На самом деле языки разные - в понятийном плане, в нарративном. Потому что разные цели. "Эффективное достижение практического результата" (или как там) имеет для меня всё меньше и меньше смысла.

Ведь если коснулся душой пустоты -
Уже не важны ни посты, ни понты,
А только года и минуты.
Наивна надежда, смешна суета,
И лишь неподвижных вершин красота
Спасает еще почему-то.   
(с)2018

Впрочем, понятно почему. Вот, например, Ли Бо:

"Плывут облака отдыхать после знойного дня.
Стремительных птиц улетела последняя стая.
Гляжу я на горы,
и горы глядят на меня,
И долго глядим мы, друг другу не надоедая".


Мне немного жалко Юдковски. Он не умеет ловить кайф ни от Китса, ни от Ли Бо, ни от Пастернака, ни от Бродского, ни даже, видимо, от хорошей художественной прозы. Ибо Искусство и "эффективное достижение цели" - несовместны.

90

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 2

« Последний ответ от kuuff 28 Апреля 2019, 02:03 »

Рациональное и иррациональное — в отношении мышления мне, признаюсь, непонятно данное противопоставление. Таким может быть вывод, выраженный в словах или иных символах, таким может быть решение, выраженное в поступке. Но я лично мыслю (и, следовательно, существую) в какой-то иной плоскости, нежели та, в которой лежат данные понятия. Рациональность — это качество логики, а не самого мышления. То есть, это понятие скорее синтаксическое, чем семантическое.

Если глянуть исторически, то рациональный агент -- это изобретение экономики. Вебер, по-моему, придумал рационального агента. Вебер был социологом, а не экономистом, но в общем он создавал модель общества подходящую для экономики, и экономисты залипли на этом, внося в свои экономические модели постулат о рациональности участников рынка. После Великой Депрессии острота этого постулата несколько снизилась, но потом (где-то в районе 1970-1980) пришёл Фридман и там ещё какой-то чувак пришёл, я забыл как его звать, и они разломали кейнсианство и между прочим вернули в экономические теории рациональных агентов в новой инкарнации -- теория рациональных ожиданий (rational expectations theory).

Канеман, которого Юдковский так уважает, и выдаёт это уважение Поттеру из ГПиМРМ, по-хорошему-то всё что сделал -- это показал, что участники рынка вообще и очень сильно нерациональны. Что всё же не стоит, строя модель экономики, закладывать в основание постулат о том, что участники рынка ведут себя рационально. Они систематически ведут себя иррационально.

И в этом контексте рационально и иррационально довольно легко определяется. Рациональный агент оптимизирует прибыль (ну или доход или что-то там -- я в этой экономической терминологии до сих пор плаваю).

Собственно Юдковский именно в этом смысле понимает рационального агента, и он это понимание расширяет с поведения на рынке на вообще любое поведение.


Я сейчас заглянул в википедию и там такой замечательный пассаж есть (собственно это первый абзац статьи, самые сливки):

Rationality is the quality or state of being rational – that is, being based on or agreeable to reason.[1][2] Rationality implies the conformity of one's beliefs with one's reasons to believe, and of one's actions with one's reasons for action. "Rationality" has different specialized meanings in philosophy,[3] economics, sociology, psychology, evolutionary biology, game theory and political science.

Мне очень нравится. Но я хочу подчеркнуть последнее предложение: рациональность имеет различные специализированные значения в философии, экономике, социологии, психологии, эволюционной биологии, теории игр и в политической науке. Вот Юдковский берёт экономическое значение, а потом начинает его перемешивать со всеми остальными. Совершая ошибку, схожую с той, в которой Поттер обвинял проф. Квиррела, мол, тот скептичен ко всему, кроме самого скепсиса. Вот Юдковский, по-моему, выстраивая своё рациональное мировоззрение, забывает применить свои методы к этому самому выстроенному мировоззрению. Деля всё на карту и территорию, Юдковский забывает подумать мысль "если рациональность это карта, то что является территорией для этой карты".

Сама по себе рациональность Юдковского -- это лишь карта процессов познания и принятия решения. Реальные процессы познания и (я верю что) принятия решения, которые протекают в нашей голове, сокрыты от нас. Может быть они даже сокрыты барьером сходным с психофизическим, и столь же непознаваемы. Оценить рациональность можно только по поведению, но поведение не есть рациональность. Это то же самое, что вы пишете про вероятность: мы можем наблюдать исход, но саму вероятность нет. Так и с рациональностью -- мы можем наблюдать результат, но не рациональность. Даже если человек нам излагает каким образом он пришёл к решению, то это лишь его изложение, это его словесная интерпретация его процесса мышления, и даже если он не врёт нам сознательно по каким-то причинам, эта интерпретация может быть рационализацией. Мы не можем отличить, и я подозреваю, что мы принципиально не можем отличить, потому что любая высказанная словами мысль строится теми же механизмами психики и на тех же принципах, что и рационализация.

Впрочем, это уже психология, куда вы не хотели лезть, но я могу вернутся на шаг назад: есть много рациональностей. Под каждую задачу придумывается своё определение рациональности. И байесианская рациональность -- это лишь способ описания этой самой рациональности. И это неизбежно, потому что рациональность так или иначе требует утилитарной функции, которую мы будем оптимизировать. Но эта утилитарная функция нам неизвестна. У Лэма был какой-то рассказ (я могу поискать если интересно), в котором робот-убийца с искусственным интеллектом занимался психологичекими практиками, пытаясь понять себя. Который возлюбил свою предназначенную жертву, нашёл её чтобы сказать ей об этом, и с любовью убил. Точнее добил, потому что тот и так уже умирал. То что мы считаем своей утилитарной функцией -- это интерполяция, построенная на основании наблюдений за собой.