Умение объяснять как "режим провала"

[LswAgnostic]

Это режим психоаналитика, а не режим психотерапевта.

В чем отличие?

[kuuff]

В чем отличие?

Мне проще сказать в чём сходство. В поверхностности и категоричности.

[Alaric]

Кстати, а задавая такие вопросы вам, я не рискую испортить вам кайф от процесса стремления к рациональности?

Я полагаю, что это маловероятно. Дело в том, что я через эти вопросы уже прошёл зимой, и даже пример с группой врачей с веществами я придумал не сам, его применили против меня (кстати, успешно, в смысле у меня из-за этого поменялась точка зрения). Но у меня и ответ другой был, и стартовые условия другие Боязни поломать себе весь кайф от чего-то, задумываясь о том, а благодаря чему я этот кайф получаю, у меня не было ни до, ни после и сейчас, по-моему, тоже ничего не поменялось. Как по мне, задумываясь о том, благодаря чему получаешь кайф, можно получать его больше и эффективнее. И я как-то даже не задумывался о том, что у кого-то может быть по-другому.

Попробую зайти с другой стороны. На LW любят такое понятие, которое называется "функция полезности". Оно определяется на множестве всех возможных миров и для любых двух миров говорит, какой мир более предпочтителен. Считается, что функция полезности у человека может быть вообще любой, в смысле, наличие какой-то "странной" с чьей-то точки зрения функции полезности ещё не говорит о том, что человек не является рационалистом. Единственное ограничение - она не должна быть противоречивой. Если получается, что мир А предпочтительнее Б, Б предпочтительнее В, а В предпочтительнее А, то что-то тут не так.

Но, грубо говоря, нельзя назвать нерациональным человека за то, что у него, скажем, мир, где он ездит на "Запорожце", предпочтительнее, чем мир, где он ездит на "Бентли". Или, что у него слишком малый приоритет стоит у мира, где ему группа квалифицированных врачей вводят вещества для удовольствия. Или наоборот, у этого мира слишком большой приоритет. Функция полезности - это иной способ описать наши ценности, а ценности могут быть любыми, в этом нет ничего иррационального (повторюсь, некоторые тут со мной не согласятся).

Именно благодаря как-то встроенной в нас функции полезности мы принимаем решения. Мы оцениваем, к каким возможным мирам приведут наши действия и смотрим, что для нас более предпочтительнее. Естественно, это верно только для тех решений, которые мы принимаем осознанно.

И, соответственно, смысл инструментальной рациональности - это достижение более оптимальных возможных миров с точки зрения собственной функции полезности. Именно это я в предыдущих сообщениях называл "успехом". Поэтому я считаю, что в любых ситуациях, когда человек делает осознанный выбор, он может применять рациональность. Рациональность сводится к моделированию, к какому из возможных миров приведут его действия или их отсутствие.
В ситуациях, где осознанного выбора нет, никакой рациональности быть не может, да и то, с оговоркой, что можно себя натренировать на некоторые ситуации, чтобы в них даже неосознанно делать выбор, который сочтён более оптимальным.

Поэтому для меня заявление "вопрос о том, ехать на велосипеде или не ехать, нельзя в моём случае решать рационально" эквивалентно тому, что этот вопрос нужно решать, например, броском монетки. Или ожидая мистического озарения. Или ещё что-нибудь в таком духе. Если этот вопрос решается осознанно, значит, он решается из каких-то соображений. Значит, есть какие-то предпочтения. Они могут быть объективные или субъективные, это не важно, важно то, что по каким-то причинам (тоже не важно каким), человек чувствует, что для него есть какая-то разница, поедет он на велосипеде или нет. Если у него в функции полезности мир, где он едет на велосипеде, приоритетней мира, где он на нём не едет (при любых прочих условиях) не может быть рациональным не ехать. Но в реальности так не бывает

Другое дело, что функция полезности у нас не лежит в открытом доступе, и иногда мы сами не понимаем, что мы больше хотим, или ошибаемся в этом вопросе. Но, как мне представляется, рациональность вполне позволяет и исследовать собственную функцию полезности.

Так понятней?

Им, интересно, за это денег платят, или они занимаются этим чисто ради удовольствия делать прогнозы? Или они делают ради удовольствия, а деньги получают для того, чтобы когда им зададут вопрос "зачем тебе это надо", не приходилось бы выставлять вопрошающего из лаборатории, так как это делал Фарадей?

Это намёк, мол, суперпредсказатели в итоге занимаются своим делом для удовольствия, участники форума тут болтают ради удовольствия, так в чём разница? На этот вопрос я даже могу ответить. Если я приду к выводу, что участникам форума совершенно не нужно ради удовольствия строить фальсифицируемые гипотезы, им нет никакой надобности проверять свои теории, то это повлечёт вывод, что мне с такими людьми общаться не интересно. Ну, в общем-то у меня и так пара человек в игноре уже. И я могу в какой-то момент таки придумать концепт правил и действий по их поддержанию, который будет направлен на сокращение таких людей на форуме и попробовать его реализовать

Т.е. да, я не могу заявить, что форумчане ведут себя нерационально ведя себя так, как ведут, если в их функции полезности так вести себя более оптимально, чем так себя не вести. Но тут есть разные неучтённые последствия. Например, Yuu сочтёт, что этот форум ничуть не служит делу распространения рациональности и закроет его. (Это была абсолютно гипотетическая конструкция, мне абсолютно ничего неизвестно о настоящих планах и намерениях Yuu на этот счёт, и я прошу прощения, если это предположение его вдруг чем-то обидит.) Насколько предпочтителен этот исход для форумчан, для которых вроде как оптимально болтать на этом форуме, я, естественно, ничего сказать не могу.

Да, я понимаю, что последний фрагмент смотрится как-то совершенно по-дурацки, но если мы сводим всё к удовольствиям, и внезапно обнаруживаем, что любое отступление от предпринимаемых действий уменьшает количество удовольствия, то конфликт интересов неизбежен. К счастью, в реальном мире обычно бывает не так.

Да, я вынужден признать, что ключевая разница между суперпредсказателями и обитателями форума, которые строят нефальсифицируемые теории и не желают переходить к фальсифицируемым, сводится к тому, что первое поведение мне кажется более достойным поощрения, чем второе. Возможно, я смогу это как-то обосновать, но тут проблема, что вывод уже написан заранее.

[kuuff]

Другое дело, что функция полезности у нас не лежит в открытом доступе, и иногда мы сами не понимаем, что мы больше хотим, или ошибаемся в этом вопросе. Но, как мне представляется, рациональность вполне позволяет и исследовать собственную функцию полезности.

Вы ставите знак равенства между функцией полезности и таким психическим процессом как мотивация? А вы не думали о том, что функция полезности нужна рационалистам для того, чтобы управлять этим психическим процессом?
Функция полезности -- это абстракция. И этой абстракцией описать поведение человека не удастся. Реальный процесс человеческой мотивации гораздо сложнее, чем просто функция полезности. Можно пытаться впихнуть поведение человека в эту абстракцию, можно пытаться вести себя так, будто эта абстракция работает. К чему собственно прикладная рациональность и подталкивает своих адептов. И да, это будет делать поведение более рациональным. Но на достаточно большом промежутке времени даже поведение рационалиста нельзя будет описать при помощи функции полезности, потому что как вы сами сказали, рационалист будет эту свою функцию менять со временем, отражая те изменения, которые претерпевает его личность.
Плюс мне не очень нравится сама идея. Есть вещи, которые функция полезности и рациональность построенная на ней помечают как иррациональные, но они мне не кажутся иррациональными. И отчасти такое несоответствие возникает как раз из-за замены человеческой мотивации функцией полезности.

Знаете, я тут узнал такой замечательный факт, что во время родов организм женщины залит окситоцином, что приводит к тому, что память у женщины работает хуже, из-за чего женщина не запоминает насколько же неприятно рожать, с ней не случается посттравматического стрессового расстройства, и, в конечном итоге, не возникает такой модели поведения как избегание родов в будущем. Несмотря на то, что ей было очень больно и неприятно, женщина потом с удовольствием рассказывает каждому, кто не успел сбежать, как она рожала, смакуя все детали, явно получая удовольствие от воспоминания. Хотя если бы её память во время родов работала бы в нормальном режиме, она бы может быть и рассказывала, но морщась от воображаемой боли, замолкая периодически, потому что воспроизведение памяти воспроизводило бы и болевые ощущения тоже.
И я вот о чём думаю, а стоит ли соглашаться на болезненную хирургическую операцию, в течение которой вместо наркоза будет применятся окситоцин? Ну или ещё проще, если операцию сделают без наркоза, а потом сотрут память Обливейтом. Причём без каких-либо последствий для психики. Ну да, тут ситуация осложняется тем, что если есть выбор, наверное стоит выбрать всё же традиционный наркоз, если нет, то куда ж я денусь с подводной лодки, но... А если предположить, что операция с окситоцином/Обливейтом дешевле, то насколько она должна быть дешевле, чтобы было бы рациональным согласиться? Или если вспомнить, что традиционный наркоз гораздо вреднее для организма, чем окситоцин. Можно ли эту ситуацию осмысленно моделировать на базе функции полезности, или тут придётся придумывать другую абстракцию?

Это намёк, мол, суперпредсказатели в итоге занимаются своим делом для удовольствия, участники форума тут болтают ради удовольствия, так в чём разница?

Нет. Это намёк на то, что суперпрогнозисты могут быть недостаточно рациональны, и сами того не понимая придумывать "успешные" объяснения своему детскому поведению. Причём, даже не для того намёк, чтобы выставить суперпрогнозистов иррационалистами, а чтобы дать ещё один повод подумать о том, как строится мотивация человека. Как, например, учёный может заниматься бесперспективными исследованиями.

[LswAgnostic]

Мне проще сказать в чём сходство. В поверхностности и категоричности.

Сходство кого с кем?

[anagor1]

И под "успехом" в моей терминологии тут подразумевается следующее: Есть гипотетический мир, где учёный поменял место работы, есть гипотетический мир, где он остался. Есть гипотетическое получаемое суммарное удовольствие в первом случае и во втором. Если по результатам выбора получаемое суммарное удовольствие из возможных максимально, значит, это был успешный выбор. Если нет - значит, не успешный. Нет никакого внешнего успеха, есть только внутренний, исходя из собственных же целей.

И смотрите, к чему мы придем, так вот расширяя и расширяя термин рациональность. К самоочевидному "понимать себя", сформулированному Десмодом в теме, которую (без разрешения, кстати  ) Вы сделали моей.

А давайте в семантику поиграем. Можем, смогу Вам помочь объяснять суть врагам и неофитам.
Слово "рациональный" имеет в русском языке два довольно хорошо различимых значения. (В Вики п.3 - почти то же, что п.1, но с другим типом субъекта, 4 и 5 - производные от спецтерминов).
Вы явно настаиваете на 2 значении, правда? А большинство (ну, например, я) приходит на форум воспевать или хаять первое.
Типичная коннотативная аберрация в терминах тех курсов, которые слушал я.
Прежде всего, давайте научимся быстро отличать значения. Для этого, как нас учили, следует найти отличительный атрибут. (Чисто байесианский приемчик, кстати). Думаю, в данном случае можно так сделать. Рациональный в 1-м значении - неисчисляемое понятие, оно не допускает сравнительной степени. Или рациональный - или иррациональный, третьего не дано. А вот ко второму значению сравнительную степень применить вполне можно: "более рациональный". Вы лучше понимаете смысл, который вкладываете - вам и решать, подходит ли такой тест для снятия аберрации.
Теперь давайте подумаем, откуда она взялась. Выскажу такую гипотезу: прежде всего, из-за Юдковски, которые постоянно смешивает инструментальную рациональность, которая в вашем изложении выглядит чисто по п.2, с эпистемологической, которой, увы, по п. 2 не бывает. Хуже того, он периодически приплетает еще и 4 значение, что у меня вызывает только ухмылки. Во всяком случае, у меня сложилось четкое ощущение (возможно, из-за перевода) что данная аберрация прежде всего в голове Юдковски, а уже оттуда ползет на форум и всюду. Посмотрите, ну как я должен по контексту этого форума понимать термин, если исключить ваши комменты? Все упорно противопоставляют рациональное и иррациональное, очень редко и в размытом контексте возникают сравнительные степени.
Как-то так.

[Muyyd]

Надеюсь, Аларик не попадется и не станет обсуждать рациональность в рамках определений поп культуры, а  останется в рамках максимизации ожидаемой полезности (инструментальной рациональности - как достигать целей наиболее эффективно) и  байесовского вывода (эпистемической рациональности - как наиболее точно сводить свою модель реальности с наблюдаемыми свидетельствами), как нормативных моделей.

Обе нормы, как видно - количественные, т.е. можно быть более или менее рациональным.

Стоит признать, однако, что, лишь на основании переведенных статей, такого понимания рациональности не получить.

[anagor1]

Как по мне, задумываясь о том, благодаря чему получаешь кайф, можно получать его больше и эффективнее. И я как-то даже не задумывался о том, что у кого-то может быть по-другому.

Бывает по-разному. Скажу так: в спонтанности решений часто есть свой кайф.
Мне кажется, здесь вот в чем фича. Включение рационального мышления воспринимается (эмпатируется другими и рефлексируется мной) как некая неискренность. Испортить таким образом отношения с девушкой - сполпинка. Ну, не с каждой, наверное, но обычно женщины очень эмпативны, Вы и не поймете, с чего вдруг она раздраженно развернулась на каблуках и... В некоторых случаях и с собой надо быть искренним, иначе потеряешь кайф. К сожалению, рационально (в 1 смысле) отличить эти ситуации на практике не получается, голимая эвристика или что похуже.

Именно благодаря как-то встроенной в нас функции полезности мы принимаем решения. Мы оцениваем, к каким возможным мирам приведут наши действия и смотрим, что для нас более предпочтительнее. Естественно, это верно только для тех решений, которые мы принимаем осознанно.

А это довольно редкий класс решений.

В ситуациях, где осознанного выбора нет, никакой рациональности быть не может, да и то, с оговоркой, что можно себя натренировать на некоторые ситуации, чтобы в них даже неосознанно делать выбор, который сочтён более оптимальным.

Не согласен. Оговорка весомее тезиса. Рациональность во 2-м смысле (=оптимальность) как раз чаще проявляется эвристически. Называется "здравый смысл". Тут дело вот в чем. Это длинный отдельный разговор, но ум и рациональность - не синонимы. Для ума нужно прежде всего хорошее образование. А оно состоит не только в развитии Системы 2, но прежде всего именно в развитии системы 1. Если это хорошее образование. В технических вузах физике учат плохо как раз потому, что тренируют только знания. Но для настоящего физика критически важно неощутимое такое понятие "физический смысл". Я не могу объяснить, что это такое. Чисто эвристическое понятие. Первые два года на физфаке студенты изучают то, что им не пригодится в работе. Зачем? А затем, что их учат правильно думать. Им тренируют эвристику. Мне повезло еще и со школой: "константиновская система" так и называется "эвристическое обучение" - это когда тебя учат думать, а не просто знать правила и формулы. И большая наука, вопреки мнению Юдковски, делается не рациональными рассуждениями, а почти голой эвристикой. Потому что она заключается не в рассуждениях, а в выборе гипотез. Отбрасывать сотни которых рационально - ну... не бывает хороших ученых с плохим (т.е. неэвристическим) образованием.

...если мы сводим всё к удовольствиям

Вы знаете, я сейчас сделаю наглое заявление. Тот тренинг, про которые Вы рассказывали в "моей" теме, мне кажется, не был доведен до конца, а был прерван на самом интересном, устраивающем ведущего месте. Наш тренинг на каузальную аберрацию (я уже применял этот термин, это именно она) шел иначе. Девушка-аспирантка, которая его вела, обладала какими-то уникальными манипулятивными способностями. Она просто выворачивала нас наизнанку.  (Половина группы сбежала уже после второго занятия). Так вот, процесс прописывания целей (Зачем вы это делаете?-Чтобы спасти мир!- А зачем вам спасать мир?-Чтобы все были счастливы?-А зачем это вам?...) вскоре наталкивался на жуткое сопротивление и тупеж испытуемых. Потому что в нас императивно зашиты некие тезы типа "альтруизм-хорошо, эгоизм - плохо", а по мере вскрытия целей неминуемо обнаружится, что в конце каждой (каждой!!) цепочки оказывается эгоистичное "для собственного кайфа". Испытуемые сопротивлялись тому, чтобы признаться в этом, до последнего. Девушка ломала защиту жесточайшим образом. Доходило до истерик: "Вы что же думаете, я полный и законченный эгоист, да? так получается??!" - "Ну вы же сами видите, вот вы всё написали и сами себе это доказали". Катарсис, да. Жуткий! Но это была только первая часть тренинга! Помню чей-то ехидный вопрос: "Это что же, по вашему получается, что Матросов броситлся на амбразуру из эгоистических побуждений, для собственного кайфа?" На что был ответ: "Нет, это у вас так получается".
И затем нам объяснили, что в этом вот глубоком внутреннем эгоизме ничего "плохого" нет, не надо его стесняться. Что самое-самое глубинное "я" действительно не видит ничего, кроме себя же. Но человек соприкасается с миром не этим глубинным я. Судят о нем по делам, а не по сверхглубоким мотивам. Что энергетика всякого мотива - да, эгоистична. Но модальность его связана с целым рядом других аспектов сознания. (С категорическим императивом, например - хотя это отсебятина). И социальное поведение связано именно с такой модальностью. ТО есть, каузальную цепочку "Я хочу, чтобы ближнему было хорошо" -"Зачем" - "Потому что мне это в кайф" можно оборвать раньше - там, где заканчивается внешняя модальность мотива - та часть, которая направлена вовне себя. И что в т.н. "пограничных ситуациях" (как с Матросовым, или вообще перед лицом смерти) императив нередко "перехватывает управление", и человек совершает нечто совершенно иррациональное и неэгоистичное. (Есть учение о пограничных ситуациях - это то ли Ясперс, то ли Хайдеггер.) И что именно на этой границе модальности лежит осмысливающее жизнь начало. Голый гедонизм не осмыслит жизнь. А вот забота о ближнем - вполне.
Вот такой был тренинг. Наверное, все же другой. Нас учили не бояться эгоизма, но отслеживать (рефлексировать) свои желания максимально искренне, избегать самообманов (аберраций), привносимых "наносными" принципами. "У вас есть свои внутренние принципы. Найдите их!" Вроде бы это похоже на "поймите свои цели", но все же, имхо, чуть глубже.

[Alaric]

Разъясняю свою позицию.

Лично я слово "рациональный" использую исключительно в определении Юдковского. В данной теме использовался вариант "инструментальная рациональность".

Рациональное поведение для меня - это поведение, позволяющее достигать поставленных самим же собой перед собой целей. Фраза " Это намёк на то, что суперпрогнозисты могут быть недостаточно рациональны, и сами того не понимая придумывать "успешные" объяснения своему детскому поведению." для меня означает, что у суперпрогнозистов, возможно, есть какие-то цели, которые они могли бы достигать более успешно, если бы вели себя по-другому. Я готов это допустить, если мне хотя бы набросают какие-то варианты, что это могут быть за цели, и какие у нас основания так считать.

kuuff, прошу прощения, но я не понимаю, в каком смысле используете слово "рациональный" и "иррациональный" вы. Разъясните, пожалуйста. Вы можете переписать, скажем, предложение: "Есть вещи, которые функция полезности и рациональность построенная на ней помечают как иррациональные, но они мне не кажутся иррациональными." не используя слова "рациональное" и "иррациональное"?

anagor1
У меня была мысль написать, мол, хилые у вас были какие-то студенты на тренинге, но потом я вспомнил, что дело было ещё в СССР, а тогда было несколько другое отношение к слову "эгоист" Я сам себя совершенно не стесняясь считал "жутким и законченным эгоистом, который делает всё исключительно для собственного кайфа" где-то с конца школы и по конец прошлого года А вот в конце прошлого года мне эту прекрасную мыслительную конструкцию поломали, с помощью уже упомянутого выше мыслительного эксперимента с командой врачей с веществами. Потому что мой ответ на этот вопрос был "нет, я бы на это не согласился". И после этого я был вынужден признать, что ответ "я - эгоист" - это просто не ответ. И если мы не определяем счастье через чистую физиологию, то это не цель, а индикатор движения к цели. После этого мне, правда, пришлось выкопать вопрос о смысле жизни, который, как мне казалось, где-то в районе конца школы я успешно закопал, но это другая история

Не согласен. Оговорка весомее тезиса.

Нет, потому что выбор всё равно происходит - когда ты принимаешь решение тренировать такие навыки.
И могу сообщить, что тому же CFAR'у прекрасно известно, что тренировать надо именно Систему 1, и достаточно много места в блогах американских представителей LessWrong'а занимает вопрос тренировки рациональных привычек. Я вообще последнее время думаю, что стоило бы сосредоточиться на переводе статей именно на эту тему, чтобы люди лучше представляли, что такое "прикладная рациональность" и как именно она "прикладывается" и к чему, но всё руки не доходят.

[anagor1]

Любопытно, но, пожалуй, можно сформулировать тезис, по которому в данной теме есть консенсус: "Подборка переведенных на р.я. материалов по РМ малорепрезентативна."

К ожалению, времени разводить длинные антимонии больше нет. Я давно не получал столько кайфа от инет-коммуникаций, большое вам спасибо, господа; но увы, кайф всё же не единственная цель... ну или, точнее, есть и другие виды кайфа.  

[Alaric]

Люди, я понимаю, что тема несколько отошла от первоначальной, но теории Княжны, по-моему, вообще не имеют никакого отношения к обсуждаемому. Удалено.

[kuuff]

kuuff, прошу прощения, но я не понимаю, в каком смысле используете слово "рациональный" и "иррациональный" вы. Разъясните, пожалуйста. Вы можете переписать, скажем, предложение: "Есть вещи, которые функция полезности и рациональность построенная на ней помечают как иррациональные, но они мне не кажутся иррациональными." не используя слова "рациональное" и "иррациональное"?

Могу перефразировать. Есть решения, которые я принимаю в жизни, и которые я буду принимать в жизни и в дальнейшем, которые я не могу объявить рациональными. Я не могу эти решения объяснить "эффективностью", "логичностью", "байесовскостью", "рациональностью" или любым другим словом. Более того, я сомневаюсь, что если "эффективность", "логичность", "рациональность" скажут что принимаемые мною решения неправильны, то я изменю своё поведение.
Функция полезности призвана промоделировать человеческую мотивацию, но человеческая мотивация сложнее. И проблема в том, что если она где-то и противоречива, то эти противоречия иногда неустранимы. По-крайней мере нет очевидного способа устранить эти противоречия. Как человек переживает боль? Канеман об этом писал по-моему. Если боль изменялась функцией f(x), которая возрастала при x возраставшем от t₀ до t₁, и была равна нулю при всех остальных x'ах, то человек воспринимал это как более неприятное переживание, нежели f'(x), которая на промежутке от t₀ до t₁ совпадала с f(x), а на промежутке от t₁ до t₂ плавно убывала. Какой вывод из этого нужно делать? Что f'(x) лучше чем f(x), или что f(x) лучше чем f'(x)? Что я должен предпочесть, столкнувшись с выбором?
Я не знаю. Рациональный подход, скорее всего, будет подразумевать сравнение значений определённых интегралов f(x)dx, и соответственно надо выбирать тот, где значение меньше, то есть первый вариант, который субъективно воспринимается как более болезненный. Но мне не кажется это очевидным. А если мы попробуем положиться здесь на человеческую оценку, то мы придём к тому, что функция полезности будет содержать противоречия. То есть, если мы пойдём таким путём, то нам придётся признать, что функция полезности -- ущербная абстракция.

Добавлено 04 Августа 2016, 11:50:
А, и я подумал, есть ещё один пример, в котором рациональность с функцией полезности, на мой взгляд фейлится в ноль.
Этот пример: цена моей жизни. Я постоянно позволяю себе рисковать этой самой жизнью. С небольшими шансами умереть, но всё же постоянно позволяю. Используя функцию полезности мы можем сопоставить жизнь и деньги. В моём случае придётся делать это косвенно, скажем оценивая тот риск, на который я готов и не готов идти ради развлечений, сравнивая ценность жизни и получаемое удовольствие, а затем можно сравнить получаемое удовольствие с деньгами, которые я готов потратить на соответствующее количество удовольствий. Либо, можно рассмотреть не меня, а человека который зарабатывает на жизнь риском для жизни, и прикинуть как он должен рассуждать. Не важно как именно, но функция полезности подразумевает, что я должен иметь возможность выбрать некую стоимость своей жизни -- X, и потом всегда непротиворечиво следовать ей.

Но если мне предложат X+1р. за самоубийство, должен ли я соглашаться? Нет, наверное, потому что умерев я не смогу воспользоваться деньгами. То есть, если вероятность умереть в игре равна 1, нельзя просто взять формулу p(умереть)*(вознаграждение за смерть)-p(выжить)*X и принимать решение основываясь на знаке этой формулы, так? Но когда вероятность умереть равна нулю или близка к нулю, то можно. Так? А если вероятность близка к 1? Или она близка к 1/2? Когда можно тупо применять формулу, а когда нельзя? Можно ли написать другую формулу, которая будет более общей и которая покроет все эти варианты?

Я отмечу, на всякий случай, что вариант приравнять X бесконечности -- тоже не выход, потому что в таком варианте мы запретим себе какой-либо риск вообще. Мы вообще потеряем возможность принимать решения, потому что любое принятие решений для нас превратится в дилемму выбора между одной минус бесконечностью ожидаемой полезности и другой минус бесконечности ожидаемой полезности.

И такое с рациональными рассуждениями случается постоянно. На регулярной основе приходится рационализируя тот или иной исход выходить за рамки абстракции, и начинать рассуждать в терминах исходной ситуации. Что ставит под вопрос всю эту рациональность, потому что нет единого способа рассуждений, а выбор конкретного способа рассуждений производится человеческим разумом, по не совсем понятным алгоритмам.

[Alaric]

Могу перефразировать. Есть решения, которые я принимаю в жизни, и которые я буду принимать в жизни и в дальнейшем, которые я не могу объявить рациональными. Я не могу эти решения объяснить "эффективностью", "логичностью", "байесовскостью", "рациональностью" или любым другим словом.

Ещё одно использование слова "рациональными". Вы не можете объявить эти решения какими именно?
У вас есть какие-то важные для вас основания, за счёт которых вы принимаете именно эти решения? Важные для вас, не для каких-то сторонних людей или какого-нибудь научного метода? Есть ли у вас хоть какая-то цель (не важно, насколько другой человек сочтёт её оправданной или насколько она с вашей точки зрения соответствует "критериям правильности цели" не важно какой концепции), которую вы преследуете принимая именно те решения, которые принимаете? Если есть, можете ли вы теоретически задуматься, что этой цели (мы опять же не задумываемся о её "правильности") можно было бы достигать иным путём?

Более того, я сомневаюсь, что если "эффективность", "логичность", "рациональность" скажут что принимаемые мною решения неправильны, то я изменю своё поведение.

Эффективность достижения своих собственных целей оцениваете лично вы. Не я. Не Юдковский. Не какой-то мифический дух рационализма. Только вы. Можете ли вы сказать, что вы сами искренне считаете какие-то свои действия неэффективными, но продолжаете их повторять? Можете ли вы сказать, что умышленно предпринимаете действия, от которых лично вам с вашей точки зрения становится хуже именно в той перспективе, которая для вас наиболее важна в момент принятия решения?

Рациональный подход, скорее всего, будет подразумевать сравнение значений определённых интегралов f(x)dx, и соответственно надо выбирать тот, где значение меньше, то есть первый вариант, который субъективно воспринимается как более болезненный.

Почему он будет это подразумевать? Какую цель мы решим, если мы примем такой подход? Почему вы считаете цель снижения субъективного ощущения боли "нерациональной"? (Если не считаете, прошу прощения, но в этом случае я не понимаю, почему вы это написали.)
Даже если мы оторвёмся от "нашего субъективного" (я не считаю это необходимым, если что). Предположим, мы - врачи, и нам зачем-то очень нужно вылечить некоего человека. Для этого нужно, чтобы он прошёл через сто болезненных процедур. Мы не можем его заставлять ходить на процедуры, он каждый раз принимает решение добровольно. Мы точно уверены, что второй вариант для него субъективно менее болезненен. Предположим, что он не грозит осложнениями для его здоровья из-за больших шансов болевого шока или чего-то ещё. Какой нам вариант следует предпочесть: первый или второй?
Попытки оторваться от субъективных оценок (не важно, себя или других людей) приведёт к тому, что наши решения будут вообще оторваны от реальности. Такая "рациональность" как раз никому не нужна, ибо в ней нет никакого смысла.

А, и я подумал, есть ещё один пример, в котором рациональность с функцией полезности, на мой взгляд фейлится в ноль.
Этот пример: цена моей жизни. Я постоянно позволяю себе рисковать этой самой жизнью. С небольшими шансами умереть, но всё же постоянно позволяю. Используя функцию полезности мы можем сопоставить жизнь и деньги. В моём случае придётся делать это косвенно, скажем оценивая тот риск, на который я готов и не готов идти ради развлечений, сравнивая ценность жизни и получаемое удовольствие, а затем можно сравнить получаемое удовольствие с деньгами, которые я готов потратить на соответствующее количество удовольствий. Либо, можно рассмотреть не меня, а человека который зарабатывает на жизнь риском для жизни, и прикинуть как он должен рассуждать. Не важно как именно, но функция полезности подразумевает, что я должен иметь возможность выбрать некую стоимость своей жизни -- X, и потом всегда непротиворечиво следовать ей.

Ничего подобного функция полезности не подразумевает.
Есть вероятные гипотетические исходы. Есть исход А, когда мы рискнули, остались живы, получили деньги. Есть исход Б, когда мы рискнули и умерли. И есть исход В, когда мы не рискнули, не получили деньги и по уши огребли последствия от того, что мы эти деньги не получили. При этом, насколько я представляю, существует огромное количество людей, которые вполне в состоянии вообразить ситуацию, когда даже исход Б предпочтительнее исхода В. И ещё большее количество людей, для которых матожидание исходов А и Б (исходя из вероятности риска) предпочтительнее исхода В.
Функция полезности совершенно не подразумевает, что есть какая-то фиксированная стоимость жизни. (Могут существовать люди, у которых функция полезности именно такая, но я сильно сомневаюсь, что таких много.)

Что ставит под вопрос всю эту рациональность, потому что нет единого способа рассуждений, а выбор конкретного способа рассуждений производится человеческим разумом, по не совсем понятным алгоритмам.

С моей точки зрения, если бы был какой-то единый очевидный способ рассуждений, рациональность не была бы вообще нужна никому и не было бы ни этого форума, ни этой дискуссии Все бы пользовались этим единым способом рассуждений и всё.
"Рациональность" для меня - это именно принятие решений в условиях неопределённости. Это, в том числе, попытка учесть субъективные мотивы - как свои, так и чужие. И так далее.

[kuuff]

Ещё одно использование слова "рациональными". Вы не можете объявить эти решения какими именно?

Я перечислил там дальше в кавычках возможные замены для слова "рациональные". Вы можете подставить любую из них, или все сразу.

Эффективность достижения своих собственных целей оцениваете лично вы.

Да, я. Но зачем мне рациональность тогда? Зачем мне функция полезности, если я лично оцениваю эффективность своих действий?

Даже если мы оторвёмся от "нашего субъективного" (я не считаю это необходимым, если что). Предположим, мы - врачи, и нам зачем-то очень нужно вылечить некоего человека. Для этого нужно, чтобы он прошёл через сто болезненных процедур. Мы не можем его заставлять ходить на процедуры, он каждый раз принимает решение добровольно. Мы точно уверены, что второй вариант для него субъективно менее болезненен. Предположим, что он не грозит осложнениями для его здоровья из-за больших шансов болевого шока или чего-то ещё. Какой нам вариант следует предпочесть: первый или второй?

Вы конкретизируете ситуацию так, чтобы она стала бы разрешимой. Это упрощение задачи. Вы хотите сказать, что она неразрешима без конкретизации? Что в абстрактном виде она не может иметь единственного решения?

Есть вероятные гипотетические исходы. Есть исход А, когда мы рискнули, остались живы, получили деньги. Есть исход Б, когда мы рискнули и умерли. И есть исход В, когда мы не рискнули, не получили деньги и по уши огребли последствия от того, что мы эти деньги не получили. При этом, насколько я представляю, существует огромное количество людей, которые вполне в состоянии вообразить ситуацию, когда даже исход Б предпочтительнее исхода В.

Это для них будет связано не с размером вознаграждения трупу, а с другими соображениями, которые будут иметь самостоятельную ценность, которая либо не будет сводиться к деньгам, либо будет но безотносительно ценности жизни данной тушки.
Я нарисовал вполне конкретную ситуацию: вознаграждение трупу за то, что он стал трупом. На это никто в здравом уме не пойдёт. Осложняющие ситуацию нюансы, типа возможности для наследников унаследовать вознаграждение, могут изменить смысл ситуации, могут изменить рациональность выбора смерти. Или, скажем, если эти деньги будут утилизированы вместе с трупом, то человеку может быть важно, что кто-то, чтобы выплатить вознаграждение, лишится этих денег, и ради этого наш герой станет героем. Но, вы обратите внимание, чтобы объяснить поведение человека в данной ситуации, мы начинаем привлекать иные рассуждения, те которые мы не привлекаем, когда оцениваем игру, с вероятностью умереть 0.05%.
Это ad hoc построения. В просторечии "костыли". То есть построения, призванные залатать дыру в теории. Такие построения ставят всю теорию под знак вопроса.
Я постоянно спотыкаюсь о такие ad hoc построения при попытках рационально проанализировать ту или иную ситуацию, и у меня складывается впечатление, что нужно бесконечное количество кослытей для того, чтобы рациональность работала.
И встаёт невыносимо интересный вопрос: откуда я знаю, когда рациональности нужны ad hoc рассуждения? И если я лучше рациональности знаю, когда нужны ad hoc рассуждения, то может быть я рациональнее самой рациональности? А если я рациональнее рациональности, то зачем мне нужна рациональность?

Функция полезности совершенно не подразумевает, что есть какая-то фиксированная стоимость жизни. (Могут существовать люди, у которых функция полезности именно такая, но я сильно сомневаюсь, что таких много.)
С моей точки зрения, если бы был какой-то единый очевидный способ рассуждений, рациональность не была бы вообще нужна никому и не было бы ни этого форума, ни этой дискуссии Все бы пользовались этим единым способом рассуждений и всё.

Да. В этом и есть цель рациональности -- найти наилучший способ рассуждений, которым будут пользоваться все. В отдалённой перспективе с полной потерей индивидуальности. Я не знаю, будет ли это плохо или хорошо -- я вижу и плюсы, и минусы, но в данном контексте ведь речь не об этом.
При этом "плавающая стоимость жизни" -- это противоречие же, разве нет? В ГПиМРМ есть эти рассуждения, с объяснением как можно оценить стоимость жизни снизу и сверху, и почему важно, чтобы эти оценки были бы согласованы. Если же вы о том, что стоимость жизни плавно меняется со временем, то как это увязать с тем, что "если я знаю как я буду думать в будущем, то мне лучше уже сейчас думать именно так"? Если я знаю, что в будущем цена моей жизни возрастёт, то лучше уже сейчас считать поднять ценник. И наоборот.

"Рациональность" для меня - это именно принятие решений в условиях неопределённости. Это, в том числе, попытка учесть субъективные мотивы - как свои, так и чужие. И так далее.

Что ставит вопрос на том, что такое рациональность. Чем рациональность отличается от иррациональности.
Тут на форуме где-то сохранилась наверное бесконечная дискуссия с logic'ом о том, что такое рациональность. Я не поднимал ту дискуссию с тех пор, и даже не перечитывал её, хотя я знаю, что моя точки зрения с тех пор изменилась. Я больше не верю в то, что сказать "рациональность -- это эффективность" достаточно для определения рациональности. Потому что это просто способ спрятать сложность проблемы под ковёр. Таинственный ответ на таинственный вопрос. Что такое эффективность? Если я возьму произвольную функцию отображающую множество всевозможных решений, которые может принять агент, на отрезок [0,1], и назову эту функцию определением эффективности решения, можно ли после этого будет поставить знак равенства между этой функцией и рациональностью? Ну, если мы будем принимать решения так, чтобы максимизировать эту функцию, будет ли наше поведение рациональным?
И если ваш ответ "нет", то всплывает очевидный следующий вопрос: какой должна быть эта функция, чтобы ею можно было бы определить эффективность или рациональность? Юдковский что-то там говорит про функцию полезности, но я не верю в то, что на ней можно построить рациональность, которая устроит меня. В том смысле, что я не вижу ни одной непротиворечивой функции полезности, которой я бы мог доверить те решения, которые принимаю я.

[Alaric]

Вы конкретизируете ситуацию так, чтобы она стала бы разрешимой. Это упрощение задачи. Вы хотите сказать, что она неразрешима без конкретизации?

Да, конечно.
На эту тему есть даже текст Юдковского, который, по-моему, является одним из наиболее цитируемым на этом форуме: http://lesswrong.ru/w/Табуируй_свои_слова
Любая абстрактная ситуация не имеет смысла, пока мы не определили, какую конкретную задачу мы решаем. Нельзя решить, пользоваться методом А или методом Б, если непонятно, чего мы хотим достичь.

Зачем мне функция полезности, если я лично оцениваю эффективность своих действий?

С моей точки зрения, это почти одно и то же Функция полезности - это собственная оценка возможных ситуаций. Эффективность - это твоя личная оценка, оказался ты в более выгодной ситуации или в менее выгодной.
Мне затруднительно ответить на вопрос "зачем мне А, если у меня есть Б", если для меня Б - это следствие наличия А.
Если вопрос ставится "зачем мне пользоваться такой терминологией", то ответ, может быть, чтобы попытаться найти общий язык. Но если это не помогает, можно подумать о другой терминологии.
Просто на данный момент я до сих пор не убеждён, что между нашими позициями есть отличия, которые не сводятся к семантике, в смысле, к тому, что мы по-разному понимаем слово "рациональность" и вытекающие из него.

Это ad hoc построения. В просторечии "костыли". То есть построения, призванные залатать дыру в теории. Такие построения ставят всю теорию под знак вопроса.

Простите, я не очень понимаю, где вы видите теорию и в чём она для вас заключается.
Я по мотивам этой темы и ещё пары параллельно идущих, могу сформулировать свою "теорию" следующим образом.
"Инструментальная рациональность" в том смысле, каком она понимается Юдковским и основным ядром LW, - это совокупность переносимых (универсальных, применимых к самым разным областям) методов решать задачи. Задачи, которые она может решать (обнаружение невозможности решения тоже считается решением), должны обладать следующими свойствами:
1. У агента есть убеждение, что вероятность разрешения задачи посредством его собственных действий значимо выше нуля. (Значимость определяется субъективно, если чужие действия вызываются его собственными - это тоже "посредством его собственных действий".)
2. Агент может прогнозировать, какое действие или изменение в окружающем мире приблизит его к решению задачи, а какое - отдалит.
3. Постфактум агент может определять, приблизился он к цели или отдалился.

Чёткость формулировки задачи, объективность критериев и прочие подобные вещи очень сильно помогают, но не являются необходимыми условиями. Более того, я сильно подозреваю, что большинство реальных задач начинаются с того, что человек смотрит на ситуацию, у него появляется чувство "Но так же нельзя!" или что-нибудь ещё более матерное, и реальной задачей является избавление от этого чувства.

В этом и есть цель рациональности -- найти наилучший способ рассуждений, которым будут пользоваться все.

У рациональности нет целей, она не является агентом. У вас может быть цель - придумать такую рациональность, т.е. такой способ рассуждений, что... А может не быть такой цели, это от вас зависит.

При этом "плавающая стоимость жизни" -- это противоречие же, разве нет? В ГПиМРМ есть эти рассуждения, с объяснением как можно оценить стоимость жизни снизу и сверху, и почему важно, чтобы эти оценки были бы согласованы. Если же вы о том, что стоимость жизни плавно меняется со временем, то как это увязать с тем, что "если я знаю как я буду думать в будущем, то мне лучше уже сейчас думать именно так"? Если я знаю, что в будущем цена моей жизни возрастёт, то лучше уже сейчас считать поднять ценник. И наоборот.Что ставит вопрос на том, что такое рациональность. Чем рациональность отличается от иррациональности.

В ГПиМРМ не доказано, что у кого-то получилось сделать так, что эти оценки были бы согласованы Я вообще не уверен, о каком фрагменте идёт речь и "подтверждены ли соответствующие слова Поттера научными трудами", см. дисклеймеры к ГПиМРМ.
Но в целом я опять же не вижу, почему это "ставит вопрос на том, что такое рациональность".

Что такое эффективность? Если я возьму произвольную функцию отображающую множество всевозможных решений, которые может принять агент, на отрезок [0,1], и назову эту функцию определением эффективности решения, можно ли после этого будет поставить знак равенства между этой функцией и рациональностью? Ну, если мы будем принимать решения так, чтобы максимизировать эту функцию, будет ли наше поведение рациональным?
И если ваш ответ "нет", то всплывает очевидный следующий вопрос: какой должна быть эта функция, чтобы ею можно было бы определить эффективность или рациональность? Юдковский что-то там говорит про функцию полезности, но я не верю в то, что на ней можно построить рациональность, которая устроит меня. В том смысле, что я не вижу ни одной непротиворечивой функции полезности, которой я бы мог доверить те решения, которые принимаю я.

Функция определения эффективности решения и функция полезности агента - это одно и то же. Ответ: "да".
Если пользоваться моим определением функции полезности, вы заявляете, что вы не знаете, как вашу интуитивную личную функцию полезности можно записать в полном и явном виде так, чтобы ваша интуиция не протестовала против записанного. И в этом случае я могу сказать, что у всех та же самая фигня Практически уверен, что исключений тут нет. Я полагаю, что это недостижимо в рамках нашего биологического вида, и надо работать с этой данностью. Однако, мы можем как-то записывать "кусочки" нашей функции полезности и с этим работать.