Умение объяснять как "режим провала"

[Alaric]

Вы конкретизируете ситуацию так, чтобы она стала бы разрешимой. Это упрощение задачи. Вы хотите сказать, что она неразрешима без конкретизации?

Да, конечно.
На эту тему есть даже текст Юдковского, который, по-моему, является одним из наиболее цитируемым на этом форуме: http://lesswrong.ru/w/Табуируй_свои_слова
Любая абстрактная ситуация не имеет смысла, пока мы не определили, какую конкретную задачу мы решаем. Нельзя решить, пользоваться методом А или методом Б, если непонятно, чего мы хотим достичь.

Зачем мне функция полезности, если я лично оцениваю эффективность своих действий?

С моей точки зрения, это почти одно и то же Функция полезности - это собственная оценка возможных ситуаций. Эффективность - это твоя личная оценка, оказался ты в более выгодной ситуации или в менее выгодной.
Мне затруднительно ответить на вопрос "зачем мне А, если у меня есть Б", если для меня Б - это следствие наличия А.
Если вопрос ставится "зачем мне пользоваться такой терминологией", то ответ, может быть, чтобы попытаться найти общий язык. Но если это не помогает, можно подумать о другой терминологии.
Просто на данный момент я до сих пор не убеждён, что между нашими позициями есть отличия, которые не сводятся к семантике, в смысле, к тому, что мы по-разному понимаем слово "рациональность" и вытекающие из него.

Это ad hoc построения. В просторечии "костыли". То есть построения, призванные залатать дыру в теории. Такие построения ставят всю теорию под знак вопроса.

Простите, я не очень понимаю, где вы видите теорию и в чём она для вас заключается.
Я по мотивам этой темы и ещё пары параллельно идущих, могу сформулировать свою "теорию" следующим образом.
"Инструментальная рациональность" в том смысле, каком она понимается Юдковским и основным ядром LW, - это совокупность переносимых (универсальных, применимых к самым разным областям) методов решать задачи. Задачи, которые она может решать (обнаружение невозможности решения тоже считается решением), должны обладать следующими свойствами:
1. У агента есть убеждение, что вероятность разрешения задачи посредством его собственных действий значимо выше нуля. (Значимость определяется субъективно, если чужие действия вызываются его собственными - это тоже "посредством его собственных действий".)
2. Агент может прогнозировать, какое действие или изменение в окружающем мире приблизит его к решению задачи, а какое - отдалит.
3. Постфактум агент может определять, приблизился он к цели или отдалился.

Чёткость формулировки задачи, объективность критериев и прочие подобные вещи очень сильно помогают, но не являются необходимыми условиями. Более того, я сильно подозреваю, что большинство реальных задач начинаются с того, что человек смотрит на ситуацию, у него появляется чувство "Но так же нельзя!" или что-нибудь ещё более матерное, и реальной задачей является избавление от этого чувства.

В этом и есть цель рациональности -- найти наилучший способ рассуждений, которым будут пользоваться все.

У рациональности нет целей, она не является агентом. У вас может быть цель - придумать такую рациональность, т.е. такой способ рассуждений, что... А может не быть такой цели, это от вас зависит.

При этом "плавающая стоимость жизни" -- это противоречие же, разве нет? В ГПиМРМ есть эти рассуждения, с объяснением как можно оценить стоимость жизни снизу и сверху, и почему важно, чтобы эти оценки были бы согласованы. Если же вы о том, что стоимость жизни плавно меняется со временем, то как это увязать с тем, что "если я знаю как я буду думать в будущем, то мне лучше уже сейчас думать именно так"? Если я знаю, что в будущем цена моей жизни возрастёт, то лучше уже сейчас считать поднять ценник. И наоборот.Что ставит вопрос на том, что такое рациональность. Чем рациональность отличается от иррациональности.

В ГПиМРМ не доказано, что у кого-то получилось сделать так, что эти оценки были бы согласованы Я вообще не уверен, о каком фрагменте идёт речь и "подтверждены ли соответствующие слова Поттера научными трудами", см. дисклеймеры к ГПиМРМ.
Но в целом я опять же не вижу, почему это "ставит вопрос на том, что такое рациональность".

Что такое эффективность? Если я возьму произвольную функцию отображающую множество всевозможных решений, которые может принять агент, на отрезок [0,1], и назову эту функцию определением эффективности решения, можно ли после этого будет поставить знак равенства между этой функцией и рациональностью? Ну, если мы будем принимать решения так, чтобы максимизировать эту функцию, будет ли наше поведение рациональным?
И если ваш ответ "нет", то всплывает очевидный следующий вопрос: какой должна быть эта функция, чтобы ею можно было бы определить эффективность или рациональность? Юдковский что-то там говорит про функцию полезности, но я не верю в то, что на ней можно построить рациональность, которая устроит меня. В том смысле, что я не вижу ни одной непротиворечивой функции полезности, которой я бы мог доверить те решения, которые принимаю я.

Функция определения эффективности решения и функция полезности агента - это одно и то же. Ответ: "да".
Если пользоваться моим определением функции полезности, вы заявляете, что вы не знаете, как вашу интуитивную личную функцию полезности можно записать в полном и явном виде так, чтобы ваша интуиция не протестовала против записанного. И в этом случае я могу сказать, что у всех та же самая фигня Практически уверен, что исключений тут нет. Я полагаю, что это недостижимо в рамках нашего биологического вида, и надо работать с этой данностью. Однако, мы можем как-то записывать "кусочки" нашей функции полезности и с этим работать.

[kuuff]

Да, конечно.
На эту тему есть даже текст Юдковского, который, по-моему, является одним из наиболее цитируемым на этом форуме: http://lesswrong.ru/w/Табуируй_свои_слова
Любая абстрактная ситуация не имеет смысла, пока мы не определили, какую конкретную задачу мы решаем. Нельзя решить, пользоваться методом А или методом Б, если непонятно, чего мы хотим достичь.

С другой стороны, если мы умеем решать только конкретные задачи, то это значит, что мы не понимаем как мы их решаем. Это значит, что у нас нет никакой общей системы. Если мы говорим о том, что всё принятие решений можно уложить в функцию полезности, то значит в функцию полезности можно уложить тот класс конкретных задач, который определяется моей абстрактной задачей. То есть каждую из задач, которую можно получить посредством конкретизации абстрактной задачи, можно решить посредством функции полезности. При помощи одной, единой функции полезности. Мы можем привести эту функцию? Или хотя бы неконструктивно показать, что существует непротиворечивая функция полезности, которая справится с данным классом задач?

Простите, я не очень понимаю, где вы видите теорию и в чём она для вас заключается.

Рациональность, упирающая в максимизацию какой-то там функции полезности.

У рациональности нет целей, она не является агентом. У вас может быть цель - придумать такую рациональность, т.е. такой способ рассуждений, что... А может не быть такой цели, это от вас зависит.

Это жонглирование словами. Но если вам нравится, то давайте я перефразирую: если работа над улучшением методов рационального мышления, над повсеместным внедрением этих методов будет продолжаться достаточно долго, то это приведёт к потере личной индивидуальности. Все будут принимать решения одинаковым, наиболее эффективным методом. Даже если потеря индивидуальности не является ничьей целью, она всё равно будет достигнута. Так же как и появление интеллекта согласно теории эволюции не являлось ничьей целью, и тем не менее высшие приматы и в особенности человек доэволюционировали до интеллекта, и, что примечательно, некоторые птицы тоже, несмотря на то, что эволюционно пути птиц и приматов разошлись очень давно, последний общий предок был пресмыкающимся с двукамерным сердцем, которое затем независимо эволюционировало в четырёхкамерное и у птиц, и у млекопитающих. И интеллект они получили независимо. Это всё не было целью эволюции, но это, видимо, было неизбежным следствием.
Так и унификация мышления может быть и не является целью рациональности, но она будет следствием рациональности. Как только мы объявляем какие-то критерии рациональности мышления, так сразу мы делим все способы мышления на более и менее рациональные. Например на те, которые более эффективны и те, которые менее эффективны. И если подумать, то как-то так выходит, что это автоматом приведёт к тому, что в конечном итоге останется только один, самый-самый рациональный способ мышления.

Если пользоваться моим определением функции полезности, вы заявляете, что вы не знаете, как вашу интуитивную личную функцию полезности можно записать в полном и явном виде так, чтобы ваша интуиция не протестовала против записанного. И в этом случае я могу сказать, что у всех та же самая фигня Практически уверен, что исключений тут нет. Я полагаю, что это недостижимо в рамках нашего биологического вида, и надо работать с этой данностью. Однако, мы можем как-то записывать "кусочки" нашей функции полезности и с этим работать.

Нет, всё чуточку сложнее.
Я уверен, что нельзя взять произвольную функцию полезности и построить на ней рационального агента. В том смысле, что если мы сейчас с вами постараемся, то мы сможем придумать такую "функцию полезности", которая будет определять иррационального агента. Ну, навскидку, если этот агент, стремясь к максимизации выигрыша в любой игре всегда просле проигрышного кона идёт ва-банк, и это определяется его функцией полезности, то вряд ли мы сможем считать его рациональным. Не любая функция полезности может быть основой рационального поведения. И я не уверен что моя функция полезности попадает в множество тех функций полезности, которые могут быть основной рационального поведения. Я вижу иногда несоответствия, я вижу противоречивость своего поведения, и тем не менее я продолжаю вести себя противоречиво. И считаю это правильным.
Год назад, я рассуждал примерно как вы. Если я не могу построить точную модель своего мышления, с тем чтобы по этой модели доказать её внутреннюю непротиворечивость, то это происходит только потому, что у меня недостаточно вычислительных мощностей, или по схожим причинам. Сегодня же я сомневаюсь в самой возможности построить непротиворечивую модель своего мышления, которая при этом будет базироваться на функции полезности. Хуже того, я сомневаюсь в том, что если мне укажут в противоречия, то я откажусь от них, а не начну придумывать более сложную теорию рациональности, с точки зрений которой моё поведение будет рациональным.

[Alaric]

А вот теперь у меня уже складывается впечатление, будто вы говорите о решении какой-то очень глобальной задачи, решать которую я никому не предлагал, и вообще даже не очень задумывался, что её можно решать

Нет, "у нас" нет никакой общей системы.
Нет, "мы" не говорим, что всё принятие решений можно уложить в функцию полезности, и я не очень уверен, что вы используете слова "функция полезности" в том же смысле, что и я.
О какой-то единой для всех функции полезности я не говорил вообще никогда.

Но если вам нравится, то давайте я перефразирую: если работа над улучшением методов рационального мышления, над повсеместным внедрением этих методов будет продолжаться достаточно долго, то это приведёт к потере личной индивидуальности. Все будут принимать решения одинаковым, наиболее эффективным методом.

Не очевидно в силу разницы целей в первую очередь. Кроме того, я могу придумать ещё множество событий, которые могут произойти до того, как это произойдёт, и после которых этот вопрос станет не важным. А кто-нибудь ещё мог бы задать вопрос: а действительно ли важна личная индивидуальность?
И главное: если это по-настоящему неизбежно, то к чему это обсуждать? А если это плохо и это можно предотвратить, значит, есть какой-то оптимальный путь, как это предотвратить. Какими методами следует искать этот путь?
Но для меня этот вопрос не важен. Я могу в будущем придумать множество страшилок, которые с моей точки зрения будут выглядеть даже более реалистичными и достижимыми гораздо раньше.

Я уверен, что нельзя взять произвольную функцию полезности и построить на ней рационального агента.

Не любая функция полезности может быть основой рационального поведения. И я не уверен что моя функция полезности попадает в множество тех функций полезности, которые могут быть основной рационального поведения. Я вижу иногда несоответствия, я вижу противоречивость своего поведения, и тем не менее я продолжаю вести себя противоречиво. И считаю это правильным.

Вы опять используете слова "рациональный" всуе.
Если я спрошу "попадает ли ваша функция полезности в множество тех функций полезности, которые могут быть основой правильного поведения", какой будет ответ?
Понимаете, я не вижу никаких оснований считать "рациональным" то, что моя интуиция, после того, как я всерьёз подумал над вопросом пять минут, считает "неправильным". Совершенно не важно, что приписывают логика, байесианство и всё такое прочее, если меня результат не устраивает на интуитивном уровне, значит, решение уже не оптимально для меня, потому что жить с ним именно мне, а не логике и байесианству Но я считаю такую ситуацию следствием не проблем логики и байесианства, а следствием того, что я недостаточно учёл, что для лично меня важно, а что - нет. А вы, складывается впечатление, придумали себе какую-то более великую рациональность, которая может предписать вам делать то, что вы считаете неправильным. Я не знаю, где вы её взяли, но почему бы вам не вернуть её на то самое место и там не оставить?

Наша функция полезности большей части находится у нас не в доступе, мы не можем её произвольно менять. А идеальных рациональных агентов на человеческой основе не существует и не факт, что они возможны (и вообще не очень понятно, что это такое). Инструментальная рациональность нужна для того, чтобы наслаждаться жизнью, исходя из того, что считает наслаждением наша интуитивная функция полезности Если у кого-то она приводит к другим последствиям, то, есть подозрение, он делает что-то не так.

[LswAgnostic]

Все будут принимать решения одинаковым, наиболее эффективным методом. Даже если потеря индивидуальности не является ничьей целью, она всё равно будет достигнута.

Принятие решения - определяется способом принятия решения и достигаемыми целями. Достигаемые цели задаются терминальными ценностями. Терминальные ценности выбираются субъективно.
Унификация способов принятия решений не уничтожает индивидуальность. Индивидуальность остается индивидуальной из-за субъективного выбора терминальных ценностей.

Не любая функция полезности может быть основой рационального поведения.

Любая. Под любую функцию полезности можно подложить терминальные ценности такие, чтобы она стала рациональной.

Ну, навскидку, если этот агент, стремясь к максимизации выигрыша в любой игре всегда просле проигрышного кона идёт ва-банк, и это определяется его функцией полезности, то вряд ли мы сможем считать его рациональным.

Такой человек не является рациональным, исходя из терминальных ценностей - максимизировать денежный выигрыш.
Такой человек является рациональным, исходя из терминальных ценностей - максимизировать чувство предвкушения, которое возникает от ва-банк ставок.

[kuuff]

А вот теперь у меня уже складывается впечатление, будто вы говорите о решении какой-то очень глобальной задачи, решать которую я никому не предлагал, и вообще даже не очень задумывался, что её можно решать

Нет, "у нас" нет никакой общей системы.
Нет, "мы" не говорим, что всё принятие решений можно уложить в функцию полезности, и я не очень уверен, что вы используете слова "функция полезности" в том же смысле, что и я.
О какой-то единой для всех функции полезности я не говорил вообще никогда.

Я не говорил о единой для всех, я говорил единой для меня. Если в каждой новой ситуации я пользуюсь новой функцией полезности, то зачем нам вообще нужна такая абстракция как "функция полезности"?

Не очевидно в силу разницы целей в первую очередь. Кроме того, я могу придумать ещё множество событий, которые могут произойти до того, как это произойдёт, и после которых этот вопрос станет не важным. А кто-нибудь ещё мог бы задать вопрос: а действительно ли важна личная индивидуальность?
И главное: если это по-настоящему неизбежно, то к чему это обсуждать? А если это плохо и это можно предотвратить, значит, есть какой-то оптимальный путь, как это предотвратить. Какими методами следует искать этот путь?
Но для меня этот вопрос не важен. Я могу в будущем придумать множество страшилок, которые с моей точки зрения будут выглядеть даже более реалистичными и достижимыми гораздо раньше.

Я говорил выше, что я не знаю, хорошо ли это или плохо. И говорил, что это не важно в рамках данного разговора. Я говорил лишь о том, что рациональность унифицирует мышление и результаты мышления. И даже если это хорошо, всё равно это так.

Вы опять используете слова "рациональный" всуе.
Если я спрошу "попадает ли ваша функция полезности в множество тех функций полезности, которые могут быть основой правильного поведения", какой будет ответ?

Давайте так... Главное в любой теории -- это не то, что она разрешает, а то, что она запрещает. Если существует рациональное поведение, то существует иррациональное. Если существует рациональный агент, то существует и иррациональный. Что по вашему -- иррациональный агент? Каким образом агент должен принимать решения, чтобы вы сочли его решения иррациональными? Существует ли на земле хоть один человек, чьё поведение можно назвать иррациональным? Ведь каждый человек так или иначе следует из своего понимания полезности, он следует своей собственной функции полезности. И если это значит, что все они рациональны, то какой смысл заниматься распространением рациональности: она и так уже распространена везде.

Понимаете, я не вижу никаких оснований считать "рациональным" то, что моя интуиция, после того, как я всерьёз подумал над вопросом пять минут, считает "неправильным". Совершенно не важно, что приписывают логика, байесианство и всё такое прочее, если меня результат не устраивает на интуитивном уровне, значит, решение уже не оптимально для меня, потому что жить с ним именно мне, а не логике и байесианству Но я считаю такую ситуацию следствием не проблем логики и байесианства, а следствием того, что я недостаточно учёл, что для лично меня важно, а что - нет.

Теперь то же самое, что и в предыдущем запросе, но применительно к вам. Если вы поступаете таким образом, то на основании каких умозаключений вы делаете вывод о том, что вы рациональны? Ведь рассуждая таким образом, вы можете обосновать совершенно любой ваш поступок.

А вы, складывается впечатление, придумали себе какую-то более великую рациональность, которая может предписать вам делать то, что вы считаете неправильным. Я не знаю, где вы её взяли, но почему бы вам не вернуть её на то самое место и там не оставить?

Если рациональность не может предписать мне делать то, что я считаю неправильным, то мне не нужна такая рациональность, я обрежу её бритвой Оккама. Ну, вот на самом деле, она будет бесполезной, если она ничего не может добавить к моему процессу принятия решений. Другое дело, что иногда я поступаю так, как я бы не поступил, если бы не рациональность, а иногда -- нет.

Наша функция полезности большей части находится у нас не в доступе, мы не можем её произвольно менять. А идеальных рациональных агентов на человеческой основе не существует и не факт, что они возможны (и вообще не очень понятно, что это такое). Инструментальная рациональность нужна для того, чтобы наслаждаться жизнью, исходя из того, что считает наслаждением наша интуитивная функция полезности Если у кого-то она приводит к другим последствиям, то, есть подозрение, он делает что-то не так.

Наслаждение жизнью самопротиворечиво. Я упоминал выше про эксперименты с ощущением боли. С другими ощущениями, в т.ч. и приятными, я подозреваю дела обстоят примерно так же. И в реальности совершенно неясно что именно надо максимизировать. Текущий уровень удовольствия? Или память о прошлых удовольствиях? Или что?

Принятие решения - определяется способом принятия решения и достигаемыми целями. Достигаемые цели задаются терминальными ценностями. Терминальные ценности выбираются субъективно.
Унификация способов принятия решений не уничтожает индивидуальность. Индивидуальность остается индивидуальной из-за субъективного выбора терминальных ценностей.

Терминальные цели мы подбираем из окружения. Терминальные цели заразны, в том смысле что они могут передаваться не только от предка к потомку, но и горизонтальный перенос вполне возможен. Я неоднократно замечал за собой, что я подцепляю из окружения новые для себя терминальные ценности. Если вы присмотритесь, то вы увидите и у себя то же самое.
Рациональность должна способствовать тому, чтобы устранять противоречия между терминальными ценностями, вплоть до того, что избавляться от некоторых. Например, я так выдавливал из себя гомофобию. Была терминальная ценность, теперь её нет. Только ради того, чтобы набор терминальных ценностей был бы менее противоречивым.
Все эти процессы так или иначе сойдутся к единому набору ценностей для всех. Ну, в теории. На практике этого не случиться никогда, времени не хватит, потому что какой-нибудь другой процесс, не учтённый вы этих построениях, порушит сходимость.

Любая. Под любую функцию полезности можно подложить терминальные ценности такие, чтобы она стала рациональной.

Такой человек не является рациональным, исходя из терминальных ценностей - максимизировать денежный выигрыш.
Такой человек является рациональным, исходя из терминальных ценностей - максимизировать чувство предвкушения, которое возникает от ва-банк ставок.

Значит любой человек является рациональным. Вуаля. Сей форум можно закрывать, под победный рёв фанфар. Конечная цель достигнута. Все люди стали рациональными.

[LswAgnostic]

Все эти процессы так или иначе сойдутся к единому набору ценностей для всех.

Почему сойдется? Одному нравится коллекционировать бабочек, другому нравится играть в Доту.

Значит любой человек является рациональным. Вуаля. Сей форум можно закрывать, под победный рёв фанфар. Конечная цель достигнута. Все люди стали рациональными.

Да, можно считать, что каждый человек является рациональным. В современной психологии используется похожий подход: "каждый человек в каждый момент времени поступает наилучшим для себя способом".

При таком подходе точка рассмотрения переходит с "являюсь ли я рациональным" на "нравятся ли мне (удобны ли для меня) мои текущие терминальные ценности на основе которых я поступаю"?

[Alaric]

Если вы поступаете таким образом, то на основании каких умозаключений вы делаете вывод о том, что вы рациональны? Ведь рассуждая таким образом, вы можете обосновать совершенно любой ваш поступок.

Я (гипотетически) делаю такой вывод, исходя из полученного результата. Если раньше меня результат не устраивал, а сейчас - устраивает, то я рационален.
Да, человек, самая главная цель которого заключается в том, чтобы считать себя рациональным, просто объявит себя рациональным и всё. Но лично я буду понимать, что, даже если я просто так возьму и объявлю себя рациональным, то в моей жизни останутся какие-то нерешённые задачи, и это объявление ничуть не продвинет меня к их решению. Я не смогу обосновать любой свой поступок, потому что я буду понимать, что некоторые поступки меня отдаляют от моих целей. Для моей функции полезности параметр "считать себя рациональным" имеет довольно низкий приоритет.
Да, если человек в состоянии убедить себя, что его нынешнее положение и есть самое лучшее из всего, что можно представить, то рациональность его не сможет сдвинуть с места. Это, собственно, и есть человек с полным отсутствием амбиций. Но мне сложно представить такого человека.

Что касается другого человека, то да, нам невозможно точно определить, рационален ли он, потому что в его функцию полезности мы заглянуть не можем. Однако, всё же мы в состоянии делать различные предположения, исходя как из человеческой природы, так и из деклараций этого человека относительно его целей или его действий. Конечно, мы можем ошибаться. А кому сейчас легко? Но мы можем делать предположения о том, рационален ли он, исходя из наших предположений относительно его целей.

Ведь каждый человек так или иначе следует из своего понимания полезности, он следует своей собственной функции полезности.

Это верно только в сиюсекундной перспективе. А вот дальше начинаются проблемы.
Например, огромная часть прокрастинирующих, судя по всему, искренне жалеет о том, что она прокрастинирует. Т.е. мир, где они тратят время, потраченное на прокрастинацию, на что-то другое, для них более предпочтителен. Но они не могут его достичь.
Другой вариант - человек может хотеть чего-то достичь, но может даже не представлять, каким инструментарием для этого надо овладеть. Что этот инструментарий вообще существует. Или может не иметь привычки им пользоваться.

Если рациональность не может предписать мне делать то, что я считаю неправильным, то мне не нужна такая рациональность, я обрежу её бритвой Оккама. Ну, вот на самом деле, она будет бесполезной, если она ничего не может добавить к моему процессу принятия решений.

Я не понял, как из первого следует второе.
Например, один из рациональных приёмов призывает расширять пространство возможных вариантов. Грубо говоря, часто люди зацикливаются на вопросах вида "купить машину" или "не купить машину", т.е. выбирают всего из двух вариантов, хотя на самом деле вариантов действия гораздо больше. Если человек сам не догадывается о том, что можно рассмотреть больше вариантов, значит ли это, что он сочтёт неправильным их рассматривать? Если он не сочтёт это неправильным, значит ли, что подсказка этой идеи ничего не добавила к его процессу принятия решений?

[kuuff]

Да, если человек в состоянии убедить себя, что его нынешнее положение и есть самое лучшее из всего, что можно представить, то рациональность его не сможет сдвинуть с места. Это, собственно, и есть человек с полным отсутствием амбиций. Но мне сложно представить такого человека.

Хех. Посмотрите на меня. Я ещё в школе открыл замечательный способ удовлетворения своих "хотелок": надо расхотеть, и проблема будет снята. Не, ну реально, это самый простой способ решения проблем: надо просто смириться с тем, что есть. Принять реальность такой, какая она есть, найти в ней положительные стороны и наслаждаться ею. Требует некоторых навыков, но зато позволяет минимумом усилий получить максимум результата. Это и есть истинная рациональность. Рациональность камня, которому плевать на всё. Не так ли?
И если так, то значит ли это, что вы сейчас забросите всё и займётесь выработкой в себе навыков, необходимых для того, чтобы исповедовать пофигистское мировоззрение камня?

Это верно только в сиюсекундной перспективе. А вот дальше начинаются проблемы.
Например, огромная часть прокрастинирующих, судя по всему, искренне жалеет о том, что она прокрастинирует. Т.е. мир, где они тратят время, потраченное на прокрастинацию, на что-то другое, для них более предпочтителен. Но они не могут его достичь.

И что?
Я не хочу курить, но я курю. Почему это происходит? А потому что лишь часть меня не хочет курить, а другая часть хочет. Иногда одна из них сильнее, иногда другая. Иногда они обе говорят в моей голове одновременно, но какая-нибудь всегда побеждает.
Я не хочу прокрастинировать, но я прокрастинирую. Почему это происходит? А потому что лишь часть меня не хочет прокрастинировать, а другая хочет.
Это такая хитрая "функция полезности". Так работают человеческие мозги. И если не накладывать на функцию полезности никаких ограничений, то тогда вполне можно описать прокрастинирующего человека этой самой функцией полезности. Он окажется "рациональным" агентом. Да? Или всё же нет?
Мой ответ -- нет. Если человек имеет такие противоречия в функции полезности, то он иррационален. Функция полезности должна быть непротиворечивой. Я не могу быть гуманистом и одновременно гомофобом. От чего-то одного надо отказаться, потому что без ad hoc костылей не удастся обосновать гомофобию поверх гуманизма. ad hoc костыли -- это плохо, бритва Оккама так и тянется их обрезать. Именно устранение противоречий в функции полезности позволяет решать подобные проблемы. И это часть прикладной рациональности. Если в функции полезности бардак, то зачем заморачиваться на всё остальное? Если за рулём автомобиля обдолбанный шизофреник, то зачем заморачиваться тюнингом аэродинамики?

Другой вариант - человек может хотеть чего-то достичь, но может даже не представлять, каким инструментарием для этого надо овладеть. Что этот инструментарий вообще существует. Или может не иметь привычки им пользоваться.

Ну это, само по себе, не делает его иррациональным. Незнание неизбежно, мы все чего-нибудь не знаем. И поэтому рациональность должна давать способ бороться с этим, а не объявлять незнание иррациональным.

Я не понял, как из первого следует второе.
Например, один из рациональных приёмов призывает расширять пространство возможных вариантов. Грубо говоря, часто люди зацикливаются на вопросах вида "купить машину" или "не купить машину", т.е. выбирают всего из двух вариантов, хотя на самом деле вариантов действия гораздо больше. Если человек сам не догадывается о том, что можно рассмотреть больше вариантов, значит ли это, что он сочтёт неправильным их рассматривать? Если он не сочтёт это неправильным, значит ли, что подсказка этой идеи ничего не добавила к его процессу принятия решений?

Если вы зачем-то ограничиваете рациональность столь узко, то, думаю, надо прекращать эту дискуссию.
То, о чём вы говорите, для меня -- это самый базовый уровень рациональности. Это как умение ходить, для путешественника, предолевающего самые непроходимые дебри. И при всём при том, что я признаю важность этого уровня, и признаю необходимость тренировок "умения ходить", мне это неинтересно само по себе.

Чтобы процесс мышления приводил бы к эффективным решениям проблем, надо организовать процесс мышления. И мало просто потренировать дивергентные способности, или там научиться варьировать ширину критерия эквивалентности, или ещё взять какую-нибудь психологическую характеристику процесса мышления и потренировать её. Мало. Надо убедиться, что достигая одной цели, мы не хороним другую. Или, по-крайней мере, если хороним, то мы должны знать об этом, и это должно быть нашим сознательным выбором. Над такой организацией процесса мышления человечество работало очень давно. Древние греки придумали логику -- формальные правила логического вывода. Которые дали способ проверить соответствие вывода исходным посылкам. Затем куча другого народа поработало над методами мышления. Всякие там схоласты, оккамы, декарты, попперы -- тысячи их. Теорема Байеса помноженная на достижения информатики позволяет разговаривать о том же на новом уровне. Не просто проверить свои умозаключения по принципу "логично/не логично", а проверить их на соответствие гораздо более широкому спектру критериев рациональности.

И это замечательно! Это просто превосходно! Было бы. Если бы все выглядящие здравыми умозаключения укладывались бы в какую-нибудь модель рациональности. Но они не укладываются. И я не знаю как вы можете просто пройти мимо и сказать: ну и чёрт с ним. Если ваши умозаключения не укладываются в модель рациональности, значит они приводят к неэффективным решениям. Потому что модель рациональности строилась с целью максимизации эффективности. Или может быть ваши умозаключения эффективны, но тогда рациональность -- это ущербный критерий эффективности. Одно из двух, третьего быть не может. Запрещено той самой логикой, которую придумали древние греки. Авторство закона об исключённом третьем за Аристотелем.

Так вот: либо наше мышление ущербно, либо ущербна рациональность... Вопрос: что делать? Менять наше мышление, чтобы оно было бы менее ущербным? Или менять рациональность, чтобы она была бы менее ущербной? И в любом случае моментом встанет следующий вопрос: как менять?

И вот эти вопросы действительно интересны. А вся эта мышиная возня с развитием тех или иных интеллектуальных способностей... Я вышел из того возраста, когда это было реально интересно. Сегодня мне может быть интересно как эти интеллектуальные способности можно развивать в ребёнке или в ИИ. Когда же речь идёт о моих, то у меня это в виде практически свёрнутого навыка: я что-то сделал, получил результат, оценил результат, оценил процесс приведший к результату, нашёл во всём этом то, что не нравится, провёл анализ на предмет того, что и как можно было бы исправить посредством изменения мышления (т.е. как должна была бы думать моя голова, чтобы если бы я вернул её в прошлое, она бы справилась с задачей лучше). Я постоянно этим занимаюсь. Ещё со школы. В школе есть уроки математики, и если на этих уроках реально заниматься математикой, то анализ процесса мышления, который привёл (или не привёл) к тому или иному результату, становится обыденностью. Я в школе, да и потом в вузе усваивал теоремы и всякие доказательства посредством поиска ответа на вопрос: как должна работать моя голова, чтобы быть способной доказывать такие теоремы, а ещё лучше придумывать их. Я это к тому, что я знаю людей, которые заучивали теоремы -- и формулировки, и доказательства, -- и такие люди к концу школы окончательно сливались и ничего из себя не представляли на уроках математики.

[Alaric]

Я ещё в школе открыл замечательный способ удовлетворения своих "хотелок": надо расхотеть, и проблема будет снята. Не, ну реально, это самый простой способ решения проблем: надо просто смириться с тем, что есть. Принять реальность такой, какая она есть, найти в ней положительные стороны и наслаждаться ею. Требует некоторых навыков, но зато позволяет минимумом усилий получить максимум результата.

И что? Сколько лет вам это помогало? Почему решили отказаться?
Я тоже открыл этот способ (тоже в школе). Более того, на мой взгляд, я с ним управляюсь лучше, чем подавляющая часть окружающих. Но мне его недостаточно. На мой взгляд, количество людей, которым его было бы достаточно, столь мизерно, что им можно пренебречь.

Я не хочу курить, но я курю. Почему это происходит? А потому что лишь часть меня не хочет курить, а другая часть хочет. Иногда одна из них сильнее, иногда другая. Иногда они обе говорят в моей голове одновременно, но какая-нибудь всегда побеждает.
Я не хочу прокрастинировать, но я прокрастинирую. Почему это происходит? А потому что лишь часть меня не хочет прокрастинировать, а другая хочет.

Для меня это конфликт краткосрочных и долгосрочных перспектив. Возможно, у вас части в голове функционируют как-то по-другому, но, поскольку я не в состоянии заглянуть к вам в голову, я, видимо, приду к выводу, что я не в состоянии объяснить вам, что я хочу сказать, и у меня кончились стимулы предпринимать попытки. Я считаю, что проблема надуманная, потому что либо человеку проблема мешает жить настолько, что он хочет её решить, либо нет. Я могу попробовать подсказать методы решения в первом варианте, если человек их не знает, но не собираюсь заниматься мотивацией во втором варианте.

Что касается всего остального, то я (и думаю, не только я) с нетерпением будем ждать, когда вы поделитесь с нами методами новой, более продвинутой рациональности. Мне не слишком интересны вопросы, которые интересны вам, потому что я не знаю, что мне с ними делать. Всё, что я хотел сказать в этой теме, я сказал. Прошу прощения, если что-то осталось непонятным.

[kuuff]

И что? Сколько лет вам это помогало? Почему решили отказаться?

Потому что наблюдая за тем, как моя голова мыслит, я понял, что это всё самообман. Ну, в том смысле, что мне лишь кажется, что все мои желания удовлетворены. Я понял, что если делать все логические выводы из тех посылок, которые есть, то я упрусь в противоречия. И единственный способ устранить противоречия -- поиметь хоть какие-то амбиции. Ну, точнее это не избавляет совсем от противоречий, но так всё же лучше.

Я тоже открыл этот способ (тоже в школе). Более того, на мой взгляд, я с ним управляюсь лучше, чем подавляющая часть окружающих. Но мне его недостаточно. На мой взгляд, количество людей, которым его было бы достаточно, столь мизерно, что им можно пренебречь.

Да, все этим способом пользуются. Не все настолько упёртые идиоты типа меня, не всем требуется идти до конца и доводить идею до абсурда, для того чтобы понять тупиковость такого способа.

Для меня это конфликт краткосрочных и долгосрочных перспектив. Возможно, у вас части в голове функционируют как-то по-другому...

Нет, не у меня по другому, а вы упрощаете то, как работает ваша голова. Человеческий мозг не делится на зоны по принципу долгосрочности. Если один кусок нейросети говорит, что решение X удачно, а другой говорит, что оно неудачно, то это может быть связано с тем, что они оценивают решение с точки зрения периодов времени разной протяжённости. А может быть связано с чем-то иным. В "Психологии Искусства" Выготский писал о том, что любое искусство основывается на том, чтобы голова воспринимала одно и то же произведение противоречиво. Если автору удастся это сделать, то его произведение будет произведением искусства, если нет -- то это будет просто графоманство, или что-нибудь ещё, в зависимости от специализации автора. Если вам интересно, то проще всего найти примеры в юморе. Насчёт сортирного юмора, типа насрать в тапки соседу, я не скажу, но если это юмор уровнем повыше, то в нём смех является реакцией на противоречивость заложенную в шутку. Например, в анекдотах про Штирлица это достигается тем, что большую часть анекдота строится некий сетап, который выворачивается наизнанку и приобретает совершенно иной смысл в свете финальной фразы.
Например, сетап: Штирлиц упал с балкона, но чудом успел зацепиться за карниз. А затем следующей фразой рисуем несколько другую картинку того же самого: на следующий день чудо распухло и мешало ходить. В первом предложении "чудо" означает что-то типа "повезло", во-втором, "чудо" -- это МПХ, и следовательно не повезло.
На самом деле очень ярко это проявляется на перцептивном уровне: если ночью в темноте на пути в туалет я вижу кошку, удивляюсь откуда она -- её ведь на дачу увезли, и внезапно понимаю, что я вижу тапок, а не кошку -- это очень похоже по ощущениям.
Но эта идея Выготского на самом деле имеет большой потенциал к обобщению. Если вы просто подумаете о том, что в подсознании могут возникать противоречия, которые вы как-то чувствуете, но может быть не знаете причин. В случае с анектодами причины как правило на виду, но в более сложных случаях это может быть не так. У Выготского приводит в качестве отличных примеров басни Крылова. Противоречия в подсознании... Противоречия в голове возникают по очень разным причинам. Иногда потому что одну и ту же фразу можно понять разными способами. Иногда потому, что одну и ту же ситуацию можно понять разными способами, и разные способы ведут к разным выводам, и к принятию разных решений. А иногда потому, что внезапно выясняется, что разные нейросетки отвечающие за разные вещи, на самом деле отвечают за одно и то же, но сильно противоречащими методами. Например. Человек мнит себя гуманистом и ратует за то, что негры -- недочеловеки и должны быть рабами. Но каждый раз когда он сталкивается со свидетельством того, что негр -- тоже человек, он ощущает лёгкое чувство странности -- это проявляет себя противоречие: нейросетка оценивающая права негров конфликтует с нейросеткой оценивающей права людей. Человек может привыкнуть к этому чувству странности и прекратить замечать его. И он будет комфортно жить с противоречием в своей голове. Либо он может искать в себе чувство странности, натренировать видеть его, "я замечаю, что я озадачен", и прочие поговорки, и тогда он заметит проблему сознательно. Если он будет достаточно тренирован в рациональности, он признает существование проблемы. И тогда он сможет сознательно собирать свидетельства в пользу всех гипотез, которые будет иметь смысл рассматривать. И тогда он сможет со временем исправить своё мировоззрение и устранить из него противоречие.

И, кстати, прямой практический вывод из вышесказанного, вывод в стиле вашего понимания рациональности: полезно интересоваться искусством, читать книжки, разглядывать картины, слушать музыку, посещать театры. Это помогает тренировать свою чувствительность к чувству странности, которое порождается противоречием где-то в подсознании. Каждый раз, когда смотришь на картину, или обдумываешь прочитанную книгу, и думаешь "какая-то фигня... что-то тут не так...", с последующими поисками, и находками авторского замысла -- это та самая деятельность, которая начинается с фразы "я замечаю, что я озадачен", и которая ведёт к инсайтам. Чем чаще мы ловим такие инсайты -- тем крепче закрепляется такая модель поведения, тем увереннее мозги хватаются за чувство странности в любой ситуации.

Что касается всего остального, то я (и думаю, не только я) с нетерпением будем ждать, когда вы поделитесь с нами методами новой, более продвинутой рациональности. Мне не слишком интересны вопросы, которые интересны вам, потому что я не знаю, что мне с ними делать.

RTFY! В смысле Read The Fucking Yudkowsky
То есть, если без шуток: у него довольно много написано на эту тему. На тему того как, зачем и почему надо заботиться о непротиворечивости своего мировоззрения. Это не совсем о том, как заботиться о непротиворечивости функции полезности, но очень близко, местами эти задачи пересекаются.
Да, есть вещи в мировоззрении, которые приходится принимать как данные. Да, при этом может быть не удастся устранить все противоречия. Но как минимум, это позволит знать где эти самые противоречия находятся и откуда они лезут.

[anagor1]

Kuuff, каждому возрасту - свои ценности. Это не стариковский снобизм, а простая констатация факта, что: а) эвристика с годами прокачивается, и РМ становится уже не особо нужным; б) мировоззренческие противоречия не разрешаются, поначалу к ним как бы привыкаешь, признаешь их данность, а затем они либо приводят по законам диалектики к качественно новому пониманию, либо тускнеют, становясь неактуальными по мере приближения небытия. (См. "негативная диалектика" Ж.-П.Сартра.) Покуда вы празднуете свои дни рождения, радуясь тому, сколько прошло - у вас еще есть потребность в разрешении противоречий. Но когда вы понимаете, что важно не сколько прошло, а сколько осталось... 
Противоречия в функции полезности - совершенно нормальное явление; если оно осознаны - они не портят жизнь. Аристотелева логика, на которой зиждется в том числе и рациональность, не отражает полноценно устройство субъективного бытия. Сознание не логично, а диалектично, и именно "Феноменология духа" послужила мыслительной основой для новой науки, включая ОТО и КМ. Но диалектическое мироощущение не может быть принято человеком сразу. Покуда эвристика не прокачана - человек старается быть логичным и верит, что это эффективно - и это действительно эффективно для него, если он верит. Вон, сын у меня ужасающе рационален, еще бы: матшкола, ВМК. Ну ничего, я спокойно жду, пока он всерьез влюбится. После этого количество тем, по которым мы сможем прийти к... не согласию, конечно, но к взаимопониманию - сразу вырастет.

Что касается "более продвинутой" методики [продвинутой куда?], то могу предложить модель аберраций, которая лично мне удобнее, чем модель когнитивных искажений.
Вкратце: шесть основных аберраций восприятия:
Эвристические (был другой термин, уже не помню, типа "иррациональные", но не так):
- рефлексивная (искажения в самоощущении, которые полезно осознать, чтобы они не давили, например, происходят из диалектики трансцедентальной нравственности и рациональной морали);
- атрибутивная (искажения в восприятии других; понимается шире, чем ФОА, в глубине своей связана с трудностями в признании за другими "прав субъекта");
- эйдетическая (или "абстрагирования" - опять же, не помню термина, но суть - это искажения в восприятии вещного мира, связанные с его неминуемым "упрощающим моделированием": мир слишком сложен и разнообразен для нас, сознание старается его упростить, отмоделировать, всегда в той или иной степени ошибаясь; типичный пример - всякие "парадоксальные" задачи, являющиеся крайне упрошенными моделями субъективного бытия).
Дикурсивные (как бы "рациональные", связанные с восприятием вербализованной информации):
- нарративная (мы всегда воспринимаем чужой дискурс, обременяя его своими ценностями, из-за чего испытываем эмоции "не там" и фактически непредсказуемо для автора искажаем дискурс - отсюда, например, непримиримая разница в оценке беллетристики; отсюда разница в чувстве юмора и смех за кадром в юмористических передачах);
- семантическая (обычный текст не есть последовательность строгих суждений, даже в самом научном или юридическом тексте есть пропуски элементов логики суждений, метафоры, образы, и т.п. - заполняя лакуны, мы можем вложить иной смысл, или не можем заполнить их, как, например, в слишком сложной научной статье, и наша интерпретация (осмысление) дискурса может оказаться искаженной или неполной);
- коннотативная (слова ни в одном языке не имеют точного смысла, здесь есть как бы свой "принцип неопределенности": абсолютно точное соответствие лексемы и семантемы достигается лишь в бесконечном контексте, а если контекст невелик - я наверняка воспринимаю термин чужого дискурса не совсем так; в твиттерном формате вообще невозможно всерьез общаться; многие дискуссии  на этом форуме обязаны своим "содержанием" именно данной аберрации).
 

[kuuff]

Противоречия в функции полезности - совершенно нормальное явление; если оно осознаны - они не портят жизнь. Аристотелева логика, на которой зиждется в том числе и рациональность, не отражает полноценно устройство субъективного бытия. Сознание не логично, а диалектично, и именно "Феноменология духа" послужила мыслительной основой для новой науки, включая ОТО и КМ. Но диалектическое мироощущение не может быть принято человеком сразу. Покуда эвристика не прокачана - человек старается быть логичным и верит, что это эффективно - и это действительно эффективно для него, если он верит. Вон, сын у меня ужасающе рационален, еще бы: матшкола, ВМК. Ну ничего, я спокойно жду, пока он всерьез влюбится. После этого количество тем, по которым мы сможем прийти к... не согласию, конечно, но к взаимопониманию - сразу вырастет.

Мне не нравятся подобные рассуждения. Они для меня выглядят пораженчеством. И слово "диалектика" оставляет именно такой привкус, потому что каждый раз, когда меня начинают убеждать, что "противоречия неизбежны, смирись", каждый раз звучит слово "диалектика". Я не понимаю, что оно значит, но устойчивая ассоциация с проявлениями когнитивного диссонанса имеет место: противоречия носят инструментальный характер, и если из противоречия не вытекает какой-то непротиворечивой полезности, то это противоречие необходимо устранить. Если мы ведём доказательство от противного, то мы не вносим в нашу стройную математику противоречия -- нет, мы отталкиваемся от него, чтобы расширить наше знание о непротиворечивой истине. Вероятно, можно найти и другие применения противоречиям. Но если наши терминальные ценности противоречивы и функция полезности не снимает этих противоречий, а отражает их в поведение, то всё наше мировоззрение -- говно. Это надо признать, и заняться исправлением. А не заводить эту волынку: говно неизбежно, смирись, со временем привыкнешь. В том то и дело, что я знаю, что можно привыкнуть. Можно привыкнуть верить в ложь и не замечать противоречий, к которым это приводит. Феномен понимания чего-то может быть достигнут привычкой. И это совершенно неконструктивный способ, который позволяет воспринимать чёрное белым.

Вокруг функций полезности возникает множество прелюбопытнейших вопросов. И отсутствие формальных правил рассуждения об этих функциях и об их составляющих, приводит к тому, что нет никаких правил, каждое рассуждение уникально, ведётся по своим собственным правилам. И признание такого положения дел нормальным, по-моему, пораженчество.

[anagor1]

"Противоречие рассматривалось в учении Гегеля как движущий принцип всякого развития и как центральный пункт всей его философии. Он противопоставил формальной логике Аристотеля свою диалектическую логику. Подвергнув критике точку зрения, что противоречия являются логической ошибкой и свойственны только ограниченному мышлению, он показал их всеобщий и объективный характер: «Нет предмета, в котором нельзя было бы найти противоречия, то есть противоположных определений, так как не противоречащий себе предмет есть чистое отвлечение рассудка, насильственно удерживающего одну из двух определенностей и старающегося затемнить и устранить сознание другой определенности, содержащейся в первой».
(Википедия)
То, что слово "диалектика" ваши знакомые употребляют в качестве затычки - ну... я тут ничем не могу помочь. Слов типа "смирись"я у себя не припомню. Зачем же так меня передергивать? Я честно изучал диалектику в универе, я даже честно пытался прочесть Гегеля, я (о боже! вот ведь делать нечего было!) штудировал "негативную диалектику" Сартра... и в некий момент понял, что научное (системное) мышление действительно устроено диалектически, а не линейно-логически.
Мое сознание - такая же точно арена единства и борьбы противоположностей, как и окружающий мир. Они... "объективны"-то и не скажешь на этом форуме, хотя вот именно объективны по отношению к моему эго. Противоречия - основа развития, если у вас в голове всё находится в полном согласии - значит, вы мертвы, ну или в полнейшем тупике развития. Меня из-за этого тошнило от дианетики. (Еще можно почитать Ф.Херберта "Муравейник Хеллстрема".) Как раз говно лишено противоречий, а живой человек - нет, именно потому, что живет, учится, развивается, растет как личность.

Ну да, я, наверное, не совсем понимаю, что такое ваша "функция полезности". Какой-то это вообще странный термин, убогий какой-то, куцый. Это у робота, наверное, есть функция полезности, а я - живой человек. В каких-то своих проекциях - как потребитель товара или информации, как игрок на бирже (если бы я там играл), даже как руководитель организации - да, я приобретаю такие функции. Но общей для всего моего бытия функции - нет. Зря я полез в чужую терминологию, извините.

Противоречия эксперимента и теории развивают науку. Противоречия личных убеждений и личной практики развивают личность.
А ценностные противоречия экзистенции и эссенции развивают самоосознание. Я ощущаю их, например, как диссонанс между желаемым и должным, между нравственным и моральным, между внутренней потребностью и внешней обязанностью. Между рациональностью и эвристикой, в конце концов. Эти противоречия имманентны моей психике. Их отсутствие - это дебилизм (болезнь такая, делающая человека вечно счастливым). Но я не хочу быть дебилом. И я не понимаю, как их "логически разрешить" - это звучит для меня как бред. Я лишь стараюсь их осознать, отрефлексировать, отследить с помощью Стороннего Наблюдателя. И включить в картину мира как движущую ее данность. Чтобы мир был как бы не застывшей фотографией, а кинофильмом. Люди, мир которых застыл в неизменной и непрогрешимой правоте - страшные люди. Или больные, но все равно страшные.

Если внимательно присмотреться, инструментальный рационализм - чем он мне и импонирует - занимается почти тем же самым, просто называя это другими словами - ну там типа "когнитивные искажения". Не совсем тем же, как я начинаю понимать, но все равно вот именно отысканием, осознанием противоречий. И только в самой наивной, самой вульгарной версии рационализма эти противоречия можно эдак р-р-раз - и разрешить - ну там, чтением ГПиМРМ, статей Юдковски или даже двухнедельным тренингом.

[kuuff]

Ну да, я, наверное, не совсем понимаю, что такое ваша "функция полезности". Какой-то это вообще странный термин, убогий какой-то, куцый. Это у робота, наверное, есть функция полезности, а я - живой человек.

Это вы к чему? К тому что любые формальные модели человека будут убогими и куцыми по сравнению с человеком? Или к тому, что конкретно функция полезности слабовата?
По-моему слабовата, в неё не уложить человеческую мотивацию, да. Но то что формальными моделями нельзя описывать человека -- это не так, я верю, что со временем человек будет смотреться убогим и куцым на фоне ИИ, работающего по вполне формальным правилам.
И да, такого рода заявления я понимаю как "стоп-сигнал", как "смирись с ущербностью наших моделей".

Противоречия эксперимента и теории развивают науку. Противоречия личных убеждений и личной практики развивают личность.

Это работа с противоречиями, a la "доказательство от противного". Это не противоречия в мировоззрении.

А ценностные противоречия экзистенции и эссенции развивают самоосознание. Я ощущаю их, например, как диссонанс между желаемым и должным, между нравственным и моральным, между внутренней потребностью и внешней обязанностью. Между рациональностью и эвристикой, в конце концов. Эти противоречия имманентны моей психике. Их отсутствие - это дебилизм (болезнь такая, делающая человека вечно счастливым). Но я не хочу быть дебилом. И я не понимаю, как их "логически разрешить" - это звучит для меня как бред. Я лишь стараюсь их осознать, отрефлексировать, отследить с помощью Стороннего Наблюдателя.

Но вы ведь постоянно разрешаете эти противоречия? Между потребностями и обязанностями, например. Как вы их решаете? Подкидывая монету? Или может у вас есть какая-то система? Эта система вся такая противоречивая из себя, или может всё-таки она подчиняется законам логики? Или не законам логики, а законам какой-то другой формальной системы?

Один из способов построить функцию полезности -- взять взвешенную сумму отдельных элементарных фукций полезности, каждая из которых оценивает какой-то один аспект ситуации. В качестве примера таких аспектов мы можем взять "удовлетворение внутренней потребности" и "выполнение внешнего обязательства". Хотя отдельные аспекты при этом могут "противоречить" друг другу, функция полезности их "мирит". ИИ будет максимизировать именно взвешенную сумму, а не отдельные аспекты.
Я намеренно взял выше "противоречие" аспектов в кавычки, потому что оно будет именно противоречием только тогда, когда мы построем на них функцию полезности так, что она будет приводить к противоречивым решениям. Ну, например, при ставках 2:3 отказываться от игры в "угадай орёл или решка", а при ставках 3:2 идти ва-банк. Или увольнять администратора за то, что тот потратил миллион баксов на новое оборудование для больницы, а не на спасение жизни девочки. Противоречия функции полезности проявляются в принимаемых решениях, а не в том, что она взвешивает на весах полезности противоположные решения.
Но при этом, если просто смотреть на принимаемые решения, то этого будет недостаточно, чтобы показать противоречивость. Как-то надо увязывать одно с другим, но я, честно говоря, запутался и не соображу как это сделать.

[anagor1]

Но вы ведь постоянно разрешаете эти противоречия? Между потребностями и обязанностями, например. Как вы их решаете?

Как-то так... гармонизирую их, что ли? Главное - осознать, учуять. Логика идет оккамовым лесом, нужен лишь Сторонний Наблюдатель. А дальше можно постараться превратить выполнение обязанности в потребность...
Но мне, если честно, надоело. Я не психотерапевт, я не понимаю ваших проблем со слов. Если посидеть распить чилийского Карменере - может, что-то пойму, а так - нет.
Так что лучше ударю-ка я пентоном по постмодерну и разгильдяйству.
Ой ты гой еси, призрак опера!
Человечеству несу свет не я -
На худой конец моего пера
Чушь лишь просится несусветная.
А вокруг - натуры ученые,
Всё понятно им, где добро, где зло:
Слева белое, справа черное,
Позади обман, впереди облом.
И они взаправду готовы, да,
За святую веру горой стоять!
И причиной тому, и поводом -
Безразмерный срач, а не просто ямб.
Слово спелое - хрень опасная,
Мир один на всех, не резиновый.
Слева белые, справа красные,
И герои все как один, увы,
Смело в бой идут. Ну а хули им
Сомневаться-то? Почему же я
Тут один, в маете, под пулями,
И без правды, и без оружия?
Всё они, противоположности,
Чьи разжать я тщусь, как дурак, тиски!
Их единство — логики ложный стиль,
Но в борьбе их крепнет дух практики,
Их естественное наследие -
Пуль движенье необратимое,
Их божественная трагедия
В том, что правды - несовместимые.
Что ж за гад такой, не страшась толпы,
Бытие в уме на ничто деля,
Диалектикой расшатал столпы
Чистых помыслов Аристотеля?
Что ты гой еси, что еврей еси -
Не читай на досуге Гегеля!
И не верь его гнусной ереси,
А умильный весь, словно гей, гуляй -
И, гуляючи, не заметишь, как,
Неприкаянный по всем признакам,
Надрывается злой поэтишка,
Что стишки свои пишет призракам.
Но мои ль потуги убогие,
Черта ли фантазии лысого,
Духа ли феноменология -
Что написано, то написано.
Пусть нет чувства во мне прекрасного -
Видно, нудный я человек такой,
Выпью белого, выпью красного...
Да и хрен бы с ней, с диалектикой.