Умение объяснять как "режим провала"

Автор Тема: Умение объяснять как "режим провала"  (Прочитано 28592 раз)

Alaric

  • Старожил
  • *****
  • Сообщений: 1 744
  • +175/-17
    • Просмотр профиля
    • Мой ЖЖ
Решил вынести сюда ответ на сообщение в дискуссии про ГМО

Принципы существования корпораций предложенные мною вы отмели по причине того, что вы не видите никаких доступных инструментальных выводов из них. Кстати это очень интересная позиция для троллинга.
С моей точки зрения, очень частый "режим провала" многих участников LеssWrong'а (во всяком случае российского), а также многих людей, считающих (как правило, вполне обосновано) себя интеллектуалами - это умение всё объяснять. Умение грамотно разложить по полочкам, почему всё идёт именно так, как идёт. Ну и облить элегантным презрением всех тех, кто этого не понимает. (На всякий случай скажу, что я не выделяю самого себя из этого же ряда).

"Режимом провала" я это называю потому, что на практике, как правило, пользы от этого никакой нет. Наше умение объяснять, почему всё идёт именно так, как идёт, ничуть не помогает нам предсказать, что будет завтра или через год. И уж тем более оно не даёт нам возможности что-то взять и изменить - более того, мы успешно можем найти огромное количество объяснений, почему мы ничего и никогда не изменим. В итоге мир изменит кто-нибудь другой.

Канеман в своей книге упоминает исследование Филиппа Тетлока, который много лет просил политических экспертов делать прогнозы и в в итоге обнаружил, что даже генератор случайных чисел справился бы с прогнозами лучше. Но они прекрасно могли объяснить, почему они дают такой прогноз, и не менее прекрасно могли объяснить, почему он не сбылся. Возникает вопрос: чем мы лучше тех самых экспертов? Нам, в отличие от них, за умение объяснять даже денег не платят.

Можно, конечно, сказать, что пока мы лишь учимся эпистемологической рациональности, а когда научимся, мы её возьмём, применим и все ещё позавидуют. И вообще, перед тем, как что-то менять, надо сначала понять как. Но возникает естественный вопрос: а когда придёт это понимание? Есть какая-то надежда, что это произойдёт раньше, чем "слишком поздно" или "никогда"?

Собственно, примерно поэтому я последнее время пытался в дискуссиях спрашивать о практической пользе, фальсифицирующих утверждениях и прочих подобных вещах. Но, увы, я сам слишком легко втягиваюсь в режим "в интернете кто-то не прав", поэтому результат... очень мягко говоря, "не очень".

Однако, с моей точки зрения, если мы не научимся делать каких-то практических выводов из наших дискуссий, все эти дискуссии будут совершенно бессмысленны. (И, кстати, я замечаю, что люди, которые что-то делают - переводят тексты, скажем, или организовывают встречи - на форуме пишут всё меньше и меньше. Что тоже наталкивает на печальные мысли.)

kuuff

  • Старожил
  • *****
  • Сообщений: 2 133
  • +220/-52
    • Просмотр профиля
Я понять не могу, как мне на это реагировать. Доказывать, что моё неприятие корпораций имеет практические последствия? Рассказывать о том, что я не пользуюсь вендовсом со времён XP, да и с XP я знаком лишь потому, что был вынужден по работе её использовать десять лет тому назад? Или о том, как я, собравшись что-либо приобрести, выискиваю такие варианты, которые менее всего играют на руку БОЛЬШИМ корпорациям и по возможности работают в пользу мелких предприятий, а ещё лучше в пользу местных -- тех которые с точки зрения административного деления нашей родины как можно ближе ко мне располагаются? Что по-возможности я закупаюсь в мелких магазинчиках, и вообще все услуги стараюсь брать опять же в мелких компаниях, избегая сетевых супермаркетов/магазинов/оптик/парикмахерских/...? Что я сменил провайдера интернета, когда тот, услугами которого я пользовался десять лет, приблизился к статусу монополиста в моём регионе?
Это вас убедит в том, что эпистемиология служит инструментальным целям? Или, поскольку принимаемые мною решения не приводят к заметным экономическим эффектам масштаба страны, то вы сделаете вывод, что моя эпистемиология бессмысленна? А если бессмысленна, то что вы предлагаете? Прекратить обсуждения того, что корпорации зло лишь потому, что мы не можем придумать, что с этим делать?

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: Alaric
Если мы не научимся делать каких-то практических выводов из наших дискуссий.
Выводы делаются, причём постоянно. Конечно, их никто не фиксирует, но это проблема используемого нами формата и её можно было бы избежать, если бы кто-то действительно хотел её решить. Ценность этих выводов - вопрос субъективный, да и цели участников вовсе не обязаны совпадать. Я бы не стал проходиться по выводам и объяснениям бритвой практичной ценности по той причине, что это лишает обсуждение смысла и отбрасывает полученные в нём результаты. Если вы можете построить фальсифицируемую теорию - это прекрасно направление развитие мысли, но если нет, то это ещё не повод автоматически отбрасывать всё то, к чему пришли участники. С этим тоже можно работать, особенно, когда нет ничего больше.

Alaric

  • Старожил
  • *****
  • Сообщений: 1 744
  • +175/-17
    • Просмотр профиля
    • Мой ЖЖ
kuuff
1. На самом деле, об этом вопросе я размышлял задолго до вчерашнего дня, и просто так получилось, что вчерашняя-позавчерашняя дискуссия стала "последней каплей" для создания этой темы. Не считайте, что стартовое сообщение обращено исключительно лично к вам.
2. Я считаю, что любой человек вправе иметь любые терминальные ценности, в смысле, если кто-то хочет посвятить свою жизнь, в частности, борьбе с корпорациями, это его личное дело. Однако же, никто не обязан разделять чужие терминальные ценности, более того, обнаружение некоторых терминальных ценностей у другого человека вполне может быть поводом относиться к нему... ну, скажем, с осторожностью.
Я признаю, что вы убедили меня, что ваши убеждения по поводу корпораций влияют на ваши действия. И да, я признаю, что это некоторое свидетельство в пользу этих убеждений. Я не буду в рамках этой темы оценивать, насколько сильное это свидетельство.

Skywrath
Цитировать
Выводы делаются, причём постоянно.
Практические? А можно примеров?

Alaric

  • Старожил
  • *****
  • Сообщений: 1 744
  • +175/-17
    • Просмотр профиля
    • Мой ЖЖ
Я, наверное, неправильно выразился.
Меня интересуют примеры "Благодаря тому, что я читал/писал на форуме, я теперь поступаю вот так, а если бы я его не читал, то делал бы по-другому." (Лучше бы, конечно, чтобы читателям было очевидно, что "по-другому" было бы хуже, но в принципе и без того сойдёт.)

Про Slack-чат и любую другую деятельность нынешнего российского LessWrong-сообщества я скажу следующее. Сейчас в российском сообществе что-то делают настолько мало народу, что любое "действие" может стать "стандартом" для сообщества. Вам не нравятся те "стандарты", которые получаются? Делайте сами. Организовывайте других, чтобы они сделали. Нужно сделать ещё очень многое. Да, извините, я понимаю, что это очень грубо. Но других слов у меня про это нет.

Более подробное обсуждение Slack-чата лучше вести в соответствующей теме, но оно будет заведомо бессмысленным. Что-либо изменить сейчас в этом плане можно, лишь создав свой альтернативный чат и организовав там активность привлекательную для критической массы людей.

a_konst

  • Ветеран
  • ****
  • Сообщений: 399
  • +97/-15
    • Просмотр профиля
Простите, а что такое "режим провала"?
догадываться по контексту не хочется (можно нафантазировать лишнего), а поиск на lesswrong.ru ничего не дал.

Alaric

  • Старожил
  • *****
  • Сообщений: 1 744
  • +175/-17
    • Просмотр профиля
    • Мой ЖЖ
Простите, а что такое "режим провала"?
Скорее всего, в данном контексте, не слишком удачно применённое мной словосочетание :)
Означает некоторое состояние, в котором человек занимается какой-то деятельностью, но эта деятельность не приводит к достижению каких-либо целей. Да, некорректно "умение" называть "режимом провала", "режим провала" - это эксплуатация этого умения.

Quilfe

  • Ветеран
  • ****
  • Сообщений: 282
  • +51/-7
    • Просмотр профиля
C другой стороны, у людей вообще (не рационалистов) есть склонность сразу думать, что делать, а не собирать больше информации, редко возникает чувство, что сама модель, как что-то происходит, неполна, и нужно еще провести чисто эпистемическую работу. Возможно, чрезмерное зависание на эпистемическом слое у условных рационалистов - гиперреакция.

a_konst

  • Ветеран
  • ****
  • Сообщений: 399
  • +97/-15
    • Просмотр профиля
Мне кажется, то, что имел ввиду Alaric как "режим провала" - имитация информационной работы при отсутствии каких-то конструктивных действий и результатов - может иногда объясняться нерешительностью и склонностью сомневаться, откладывая неприятные для себя решения. Об этом думал Гарри, размышляя над фразой как раз "hesitation is easy, rarely useful" (как-то так, по памяти).

Alaric

  • Старожил
  • *****
  • Сообщений: 1 744
  • +175/-17
    • Просмотр профиля
    • Мой ЖЖ
Вопрос о том, кто же виноват в slack-чате и почему, переехал в отдельную тему.

В силу невозможности делить сообщения в соседнюю тему улетело сообщение kuuff'а, в котором он писал следующее:


Цитировать
Я, наверное, неправильно выразился.
Меня интересуют примеры "Благодаря тому, что я читал/писал на форуме, я теперь поступаю вот так, а если бы я его не читал, то делал бы по-другому." (Лучше бы, конечно, чтобы читателям было очевидно, что "по-другому" было бы хуже, но в принципе и без того сойдёт.)
Я изменил своё мнение о ГМО. И теперь я не учитываю критерий ГМО/не-ГМО при выборе товара в магазине. Это сойдёт за пример?

kuuff

  • Старожил
  • *****
  • Сообщений: 2 133
  • +220/-52
    • Просмотр профиля
На самом деле, умение объявлять умение объяснять режимом провала -- это может быть само по себе режим провала. ;)

Я несколько дней наблюдаю топик, в котором был задан вопрос о том, как форум изменил моё поведение. И вижу я там молчание. Вообще молчание, нет даже одной какой-нибудь робкой попытки сказать, что форум что-либо изменил. Почему так происходит? За кого-то ещё я не могу говорить, но за себя -- вполне. И мой ответ на на поставленный в топике вопрос, будет отсутствием ответа: я не могу ответить, поскольку у меня недостаточно данных.

Проблему с поиском ответа я могу продемонстрировать уравнением: пускай мы знаем, что x1+x2+...+xn=3.1456. Вопрос: как повлиял xk на наблюдаемый результат? А мы не можем ответить, потому что данных недостаточно.

Если я десять лет эпизодически предпринимал попытки бросить курить и, в конечном итоге бросил, причём идея для последней попытки была мною рождена в процессе написания комментария на форуме lesswrong, то (вопрос) повлиял ли форум lesswrong, на то, что я бросил курить? Если бы я не сидел на форуме -- родил бы я эту идею? Или может быть я бросил бы курить и без той идеи? Я не знаю ответа на эти вопросы. Мне кажется, что если рациональность и повлияла на то, что я бросил, то скорее эмоциональным путём, через растущее противоречие: что за хня такая творится, когда имея рациональное решение не курить, я вставляю в зубы сигарету и прикуриваю. Само по себе противоречие решило проблему курения, а не какие-то рациональные техники и, возможно, даже не та идея о том, что и как происходит в моей голове, когда я закуриваю. Хотя тогда -- да, тогда мне казалось, что именно общение на форуме, и именно рациональные рассуждения привели к успеху в отказе от курения. (Кстати я сейчас думаю, и начинаю предполагать, что это может такое когнитивное искажение, которое приводит к тому, что я объясняю изменения своей личности действиями своей личности, а не внешних причин.)

Нам приходится иногда строить объяснительные конструкции, которые непроверяемы эмпирически. При этом формально они могут быть фальсифицируемыми, но реально непроверяемыми. Как, например, моё объяснение тому, как и почему я бросил курить. Как, например, моё решение пойти получать в/о -- я не могу в точности ответить, что и в какой мере повлияло на принятие этого решения. Да, я взвешивал плюсы и минусы, выбирал куда пойти учиться, но всё это было уже после того, как я принял решение. Была вероятность, что я, взвешивая плюсы и минусы, откажусь от решения, но для того, чтобы начать взвешивать, надо было серьёзно озаботиться идеей. Что привело к тому, что я серьёзно озаботился идеей? Моя увлечённость рациональностью и вопросами познания, или общение на форуме, или может то, что мне родители в детстве вколотили в голову, что я просто обязан получить в/о? Я не знаю ответа на этот вопрос.

Моё видение социума, экономики, в том числе и на самом глобальном уровне -- оно тоже непроверяемо. Потому что оно объясняет то, что есть сейчас, оно даёт возможность делать какие-то предсказания, но реально их проверить не удастся.
Во-первых, потому что невозможно поставить эксперимент: мы не можем взять и поварьировать какой-то параметр x, чтобы посмотреть, что будет при x=x0, а что будет при x=x1. Для этого, особенно если речь идёт о глобальных политических/экономических процессах, надо уметь создавать альтернативные Вселенные, которые в целом будут клонами нашей, но с небольшими и очень точно дозированными модификациями. А если мы не умеем, то мы можем только наблюдать. А наблюдение, как метод научного познания, ущербно в корне, потому что в лучшем случае оно позволит вскрыть корреляции между параметрами, но причинно-следственную связь -- никогда. Исследователь должен проявлять активность, для того, чтобы выявлять причинно-следственную связь. (Если по-честному, то есть ещё квазиэксперименты, но с ними свои проблемы)
Во-вторых, потому что в мире нет чистых ситуаций. Нет абсолютной монополии. Нет хорошей чистой поэтапной экономики, где сырьё перерабатывается в промежуточный продукт, уходит на следующий этап, где опять как-то перерабатывается, и так этап за этапом, пока не дойдёт до потребителя. То есть та модель, которую я нарисовал где-то в каком-то из топиков (я уже запутался в каком именно), заведомо -- сферический конь в вакууме, мы можем только предполагать, будет ли она работать или нет. Хуже того, у нас не может быть двух одинаковых ситуаций, скажем двух одинаковых групп людей, и как раз поэтому квазиэксперимент тоже не спасает.
В-третьих, даже доминирующие модели экономики/социологии обладают теми же недостатками, что и мои измышления. Но с ними забавнее выходит, потому что будучи доминирующими моделями они влияют на реальность и изменяют её, и таким образом они подстраиваются под реальность, а реальность под них. Но всё настолько забавно, что мы даже не можем проверить, будет ли этот процесс сходиться к какой-то точке или нет.
В-четвёртых, если физические законы стабильны, то законы социума меняются со временем. В смысле не юридические (хотя и они тоже), а общие закономерности развития социума. И не только потому, что более сложные правила возникают, но и потому, что человек становится иным. Содержимое черепа меняется, и изменяются не только знания лежащие там, но и способы видеть мир и думать о нём.

И, конечно же, очень-очень плохо то, что мы не всегда можем построить теорию, которая была бы научным знанием, в смысле удовлетворения всяким разным критериям научности. Потому что задним числом объяснять мы все горазды. Мы можем объяснить всё что угодно, но предсказывать будущее гораздо сложнее. И объяснительные конструкции не очень помогают объяснять будущее в силу своей малой достоверности и в силу того, что как правило они игнорируют множество факторов.

Так вот. Такая ситуация. И у нас есть выбор: либо отказаться от построения такого рода объяснительных конструкций, пойдя наперекор принципам научного познания, либо всё же строить эти конструкции. И я выбираю, как вы вероятно уже догадались, построение этих конструкций. Дело в том, что объяснительные конструкции позволяют видеть. Если у познающего агента нет каких-то априорных ожиданий о том, что он хочет увидеть, то он не увидит ничего. Если у учёного нет теории, которую он хочет подтвердить или опровергнуть, то он не сможет поставить осмысленного эксперимента. А если он поставит хоть какой-нибудь эксперимент, то он не увидит даже самого важного. Тут мне очень нравится пример с исследователями электричества, которые не замечали того, что статическое электричество работает ограниченное время, что бумажки прилипшие к эбонитовой палочке через некоторое время самопроизвольно спадают с неё. Это было ключевым фактом для объяснения статического электричества, но учёные этого не заметили, они не описывали это в отчётах о своих экспериментах. И только когда появилось объяснение...
Очень важно иметь какую-то "теорию", и неверная теория лучше отсутствия теории. Объяснительная конструкция лучше, чем неупорядоченный набор фактов. Потому что некоторые факты не будут существовать, если не будет этой объяснительной конструкции. Теоретически, вообще никакие факты не будут существовать, если не будет объяснительной конструкции, но практически это не совсем так, потому что даже если у нас нет никаких объяснительных конструкций для социума, мы всё же можем коллекционировать факты об отдельных людях. Но для того, чтобы записать факт вооружённого столкновения между двумя группами, нам уже понадобиться термин "вооружённое столкновение", а значит у нас уже должны быть какие-то зачатки теории, стоящей за социумом.


Alaric

  • Старожил
  • *****
  • Сообщений: 1 744
  • +175/-17
    • Просмотр профиля
    • Мой ЖЖ
kuuff
Цитировать
Нам приходится иногда строить объяснительные конструкции, которые непроверяемы эмпирически. При этом формально они могут быть фальсифицируемыми, но реально непроверяемыми.
Моя основная претензия относится к этому фрагменту. Зачем нам строить теорию, которая не проверяема эмпирически? Допустим, мы её построили. Почему нам с ней лучше, чем без неё?
Убеждения должны окупаться предсказаниями. Если теория не позволяет в принципе нам сделать никаких проверяемых предсказаний, зачем она нам?

Цитировать
Как, например, моё объяснение тому, как и почему я бросил курить. Как, например, моё решение пойти получать в/о -- я не могу в точности ответить, что и в какой мере повлияло на принятие этого решения.
А почему это важно? (Дисклеймер: этот вопрос ни в коем случае не попытка заявить, что это не важно. Это вопрос, на который я действительно не вижу ответа.)

Цитировать
Если я десять лет эпизодически предпринимал попытки бросить курить и, в конечном итоге бросил, причём идея для последней попытки была мною рождена в процессе написания комментария на форуме lesswrong, то (вопрос) повлиял ли форум lesswrong, на то, что я бросил курить? Если бы я не сидел на форуме -- родил бы я эту идею? Или может быть я бросил бы курить и без той идеи?
Впрочем, здесь я могу сказать, что если человек десять лет не мог бросить курить, но видит очевидную связь между посещением форума и тем, что он бросил курить, то, как мне представляется, более вероятно, что форум всё-таки повлиял.

(На самом деле, в обозримом будущем можно даже начать проверять подобные гипотезы, включая, например, в опросники LW вопрос о том, курили ли вы до прихода на LW и бросили ли вы курить после? И соответственно, сравнивать процент бросивших со средним по популяции. Дальше рекламировать LW как лучшее средство бросить курить :)) )

Короче говоря, я не против построения теорий. Я против построения теорий, которые непонятно как проверять, и для которых идеи проверки в принципе не приходят в голову. Потому что, на самом деле, построение теорий тоже требует времени и ресурсов. И, возможно, стоит потратить это время эффективней.

kuuff

  • Старожил
  • *****
  • Сообщений: 2 133
  • +220/-52
    • Просмотр профиля
kuuffМоя основная претензия относится к этому фрагменту. Зачем нам строить теорию, которая не проверяема эмпирически? Допустим, мы её построили. Почему нам с ней лучше, чем без неё?
Убеждения должны окупаться предсказаниями. Если теория не позволяет в принципе нам сделать никаких проверяемых предсказаний, зачем она нам?
1. Мы видим через призму теории. Если у нас нет теории, мы не видим.
2. Мы помним то, что логически связано, просто множество фактов запомнить резко сложнее. Теория, даже неверная, служит связкой.

Если у нас нет теории о том, что корпорация -- это зло, то мы будем видеть факты свидетельствующие в пользу того, что корпорации -- это зло, мы будем видеть факты свидетельствующие в пользу того, что корпорации -- это добро, но мы не будем замечать этих фактов. Они будут отсеиваться на ранних этапах обработки как случайный шум. То есть, даже мысли не возникнет о том, что эти факты можно как-то предсказывать. Если же мы имеем теорию о том, что корпорации -- это зло, но получаем свидетельства и тому, и другому, то что происходит? Мы начинаем думать о том, что корпорация оказывается добром в каких-то исключительных случаях, и надо бы обозначить границы этих случаев, а для этого мы начинаем обращать пристальное внимание на все такие случаи. Мы создадим объяснительную конструкцию, которая будет объяснять почему это любая корпорация оказывается плохой, и почему она всё же делает что-то хорошее. Эта объяснительная конструкция породит большее количество наблюдений, большее количество фактов, которые мы выделим из реальности, наблюдая за ней.

И, кстати, это касается и вас тоже: исповедуете ли вы теорию, или не исповедуете, но пройдя через накал спора о полезности корпораций, вы будете замечать все те факты, которые подтверждают вашу точку зрения в споре. Практика прикладной рациональности поможет вам замечать также те факты, которые противоречат вашей точке зрения.

А почему это важно? (Дисклеймер: этот вопрос ни в коем случае не попытка заявить, что это не важно. Это вопрос, на который я действительно не вижу ответа.)
А важно это потому, что... ну, во-первых, вы где-то тут на форуме задали вопрос, зачем посетители форума посещают форум, и изменил ли форум что-нибудь в их жизни. Я честно попытался ответить, и честно признал, что не знаю. Во-вторых, я наблюдаю за собой, и строю теории о себе для того, чтобы иметь возможность лучше управлять собой. И даже если построенные мною теории будут обладать нулевой предсказательной силой, в процессе их построения я проведу множество наблюдений, соберу гору фактов, и обдумаю их со всех сторон. Собирая их то так, то эдак. Когда придёт время принимать какое-либо решение относительно себя, я буду лучше понимать происходящее.

Впрочем, здесь я могу сказать, что если человек десять лет не мог бросить курить, но видит очевидную связь между посещением форума и тем, что он бросил курить, то, как мне представляется, более вероятно, что форум всё-таки повлиял.
(На самом деле, в обозримом будущем можно даже начать проверять подобные гипотезы, включая, например, в опросники LW вопрос о том, курили ли вы до прихода на LW и бросили ли вы курить после? И соответственно, сравнивать процент бросивших со средним по популяции. Дальше рекламировать LW как лучшее средство бросить курить :)) )
Эта связь может быть только во времени. В данной ситуации нельзя говорить о причинно-следственной связи. Во-первых, (в моём случае), потому что единичный случай, во-вторых, потому что даже если бы случаев было много, то это корреляция, а не причинно-следственная связь. Да и я сильно сомневаюсь, что мой случай удастся обобщить. Я вообще склонен скорее разделять точку зрения, что методики избавления от наркотической зависимости не важны, потому что бросит человек или не бросит зависит от того, насколько он сам готов бросить. Сама методика же скорее работает как повод, не было бы её, нашёлся бы другой повод. Во-всяком случае, если я возьму случайного курильщика и изложу ему в подробностях свой опыт бросания, то я буду ожидать не более 5% вероятности успеха в течение года. Но даже это я проверить не могу, потому что я не знаю как взять случайного курильщика и начать ему промывать мозги своим опытом так, чтобы он не воспринял бы это в штыки, как попытку учить его, как ему надо жить.

Короче говоря, я не против построения теорий. Я против построения теорий, которые непонятно как проверять, и для которых идеи проверки в принципе не приходят в голову. Потому что, на самом деле, построение теорий тоже требует времени и ресурсов. И, возможно, стоит потратить это время эффективней.
Построение теорий -- это единственный метод познания. Точнее нет, есть ещё имплицитное научение, когда человеку дают поиграть в простенькую игрушку управления фабрикой, в которой запрятана неочевидная зависимость между количеством работников на фабрике и объёмом произведённой продукции, человек через несколько десятков проб начинает успешно управлять, но сам не знает как у него это получается. И объяснить эту неочевидную зависимость он не может. У него вообще идей нет. Это ведь тоже познание, своего рода, но...

У меня в голове идея о том, что корпорации -- зло, появилась из наблюдений за корпорациями. Но она не висящая в воздухе идея, а часть большой конструкции, которая включает в себя все мои познания о социуме, экономике, политике... Всё что я знаю о том, как функционирует государство, как оно должно функционировать в теории, и как получается на практике -- это всё там. Как функционирует коммерческая организация, как она должна функционировать в теории, и как она функционирует на практике. Как работают системы копирайтов и патентов, в теории и на практике. Как работает "невидимая рука рынка" в теории и на практике. Вся эта конструкция -- часть моего мировоззрения, и в неё укладываются все факты, с которыми я сталкиваюсь. Эта же конструкция позволяет мне видеть факты, вычленять их из информационного шума, и даже целенаправленно искать факты.

И да, вся эта большая конструкция серьёзно порушится, ежели вдруг выяснится, что корпорация -- это хорошо. Порушится не только та часть, которая про корпорации говорит, но вероятно вообще всё. Скажем, если оценивать разнообразные модели управления -- централизованную, иерархическую с делегацией широкого спектра свободы принятия решений на перефирию, децентрализованную -- то у меня есть вполне определённое понимание, когда и для чего лучше применять ту или иную модель. И ежели мы скажем, что корпорация -- это добро, то мне придётся пересматривать все модели управления, с тем чтобы заново сформулировать правила, говорящие о том, что хорошо, а что плохо.
Я боюсь увести разговор в сторону, но я мог бы здесь попытаться сравнить эти разные модели управления, разбирая примеры и выводы из примеров. Суть не в моделях управления, суть в том, что в моей голове любая проблема имеет ещё одну грань: модель управления. Таких граней множество. И эти грани существуют только благодаря тому, что у меня есть в голове какие-то "теории", которые заявляют существование важных закономерностей.
Да, это резко усложняет процесс мышления. Но это повышает точность результата мышления, потому что я могу посмотреть на проблему с большего количества точек зрения. Потому что эти точки зрения созданы в моей голове, а созданы они потому, что у меня была теория, позволявшая коллекционировать факты, которые легли в фундаменты этих точек зрения.

Я искренне верю, что экономическая теория Адама Смита -- туфта. Но и тем не менее я смотрю через неё как через призму на реальность. Я искренне верю, что психологическая теория Фрейда -- туфта, но и тем не менее я смотрю сквозь неё на поведение людей. С корпорациями же -- я не вижу почему бы моей теории не быть истинной. В том смысле, что я не могу показать, что она не верна. Что делает взгляд через неё более значимым, но и только.
То, что рассказывает Юдковский, об окупаемости убеждений, выборе теории -- это хорошо конечно, но это не работает в действительно сложных случаях. Это работает в физике, потому что Вселенная устроена на удивление просто. Но это не работает, когда мы начинаем говорить о психологии, социологии, политологии, экономике и прочих науках, которые исследуют реально сложные явления. Потому что в этой сфере есть выбор: либо жить без теории, либо исповедовать неверную теорию. Хотя есть ещё третья альтернатива: исповедовать много неверных теорий. Проблема в том, что нет ни одной верной теории, про любую теорию либо доказано, что она неверна, либо не доказано, но она нефальсифицируема.

anagor1

  • Постоялец
  • ***
  • Сообщений: 113
  • +46/-50
    • Просмотр профиля
Возникает вопрос: чем мы лучше тех самых экспертов? Нам, в отличие от них, за умение объяснять даже денег не платят.
Возможно, именно этим и лучше. Наши мотивы разнообразнее.

Я считаю, что любой человек вправе иметь любые терминальные ценности, в смысле, если кто-то хочет посвятить свою жизнь, в частности, борьбе с корпорациями, это его личное дело. Однако же, никто не обязан разделять чужие терминальные ценности, более того, обнаружение некоторых терминальных ценностей у другого человека вполне может быть поводом относиться к нему... ну, скажем, с осторожностью.
У человека - может. Потому что базовые термины влияют на поведение. От человека, искренне желающего "спасти Россию" и точно знающего, как это сделать, лучше держаться подальше. Для виртуального форумного персонажа - нет, потому что всё поведение сводится к производству дискурса, основанного на этих ценностях. Оно не опасно. Наоборот, интересно (и это мощный мотив взамен денег) само выявление этих ценностей. Оно помогает внутреннему (экзистенциальному) пониманию, что "кроме меня есть другие" - и тоже в конечном счете влияет на поведение.

Мне кажется, что вопрос, прозвучавший в данной теме, не следует сводить к некоей конкретной практической пользе типа "заработать больше денег". Способность делать более точные предсказания - не единственная ценность в жизни. Боюсь, никогда нельзя будет установить прямой связи "прочитал форум - пошел и сделал". Но косвенное влияние есть всегда, потому что мои поступки, и даже поступки самого завзятого рационалиста, определяются не только существующими в голове стройно сформулированными теориями, но и всей сложнейшей системой моих отношений к различным феноменам моего бытия, на 99% неосознанных.

Поэтому вопрос "о пользе", во первых, следует развернуть в субъективную плоскость "о пользе для меня", во-вторых, переформулировать примерно так: "А зачем я трачу время, мой самый ценный и возобновляемый ресурс, на чтение и тем более на написание каких-то комментариев?" Ответы будут разные. kuuff, по сути, свой ответ ниже выразил. Попробую кратко объяснить и за себя, поскольку, конечно же, не раз задумывался.
1. Графоманская мотивация. Я люблю писать. Вот люблю, и всё тут. Я получаю эстетическое удовольствие, когда мне удается связно выразить вербально какое-то ощущение. Это любовь необорима и оказывает совершенно явное влияние на мою судьбу.
2. Гносеологическая-1. Надо мной всегда смеялись: "Он думает языком". Полагаю, это не только про меня. Формулируя некую концепция словами - лучше ее понимаешь. Именно для этого, например, нужны бизнес-планы: написав десятки и прочитав сотни которых, я ни разу не видел, чтобы БП был в точности выполнен. Но когда менеджер пишет БП, он лучше осознает, что и зачем он делает, и это повышает его эффективность. Так вот, выражая свое отношение словами, я лучше его осознаю именно в прикладном плане. Безусловно, есть риск выплеснуть вместе с водой неявных ощущений ребенка сути. Но... впрочем, не на рациональном форуме это обосновывать.
3. Психологическая. У человека есть потребность в общении. Даже в таком суррогатном. Она не сводится к новым знаниям, уточнению гипотез и т.п. И не сводится к чесанию ЧСВ (что, конечно, тоже всегда важно). Это трудно объяснить, но если я чувствую тягу к форумному общению, значит, это нужно чему-то внутри меня. Я повышаю свой душевный комфорт, испытываю позитивные эмоции, подавляю хотя бы на время экзистенциальную тоску. Конечно, эта тоска подавляется куда эффективнее, когда есть тот, "с кем не надо напрягать язык, а просто быть рядом и чувствовать, что жив", но не всем ТАК повезло в жизни. Кому повезло - вряд ли сидит на форумах.
Ну, грубо. Кроме чисто смыслового восприятия комментов kuuff, у меня от их чтения появляется чувство вроде "нет, всё же еще не весь мир сошел с ума", ну или "и меня вылечат!" В итоге я постоянно ловлю себя на том, что провоцирую эти комменты...   :)
4. Гносеологическая-2 Читая форум, осознавая и анализируя реакцию других на твои слова - ты познаешь мир. (См. выше про терминальные ценности.) Может, это иное, эвристическое познание. Но все равно познание. А есть люди, для которых всякое познание - в кайф.


Alaric

  • Старожил
  • *****
  • Сообщений: 1 744
  • +175/-17
    • Просмотр профиля
    • Мой ЖЖ
Раз пошла такая пьянка, я напишу, почему я создаю такие темы.

Некоторое время назад меня всерьёз начал волновать вопрос, не является ли время, потраченное лично мной на этом форуме, потраченным бессмысленно. Новые знания, которые я получаю во время гугленья для дискуссий, для меня, по-моему, достаточно бесполезны. Количество отрицательных эмоций от чтения сообщений некоторых граждан достаточно велико. Есть наблюдение, что те люди, которые, с моей точки зрения, всерьёз занимаются распространением рациональности (что для меня на данный момент важно), с этого форума уходят. На встречах вживую, когда новичкам объясняют, где можно найти рационалистов в рунете, этот форум описывают как "очень странное место", и я осознаю, что мне нечего на это возразить.

Если сравнивать этот форум с другими "рациональными активностями" (slack-чатом и встречами вживую), то, как мне представляется, в тех случаях я могу нащупать гораздо больше хоть какой-то пользы для себя.

Если задать вопрос, почему же я до сих пор не ушёл, то я могу нащупать два ответа:

а) Прокрастинация. Жать кнопочки на форуме проще, чем заниматься чем-то полезным.
б) Беспокойство о том, что какие-нибудь сторонние люди будут судить о рациональности и Lesswrong'е на примере этого форума, и потому для распространения рациональности следует пытаться сделать этот форум лучше. Но здесь я с каждым днём всё больше сомневаюсь и в важности этого фактора, и в своих способностях что-либо с ним сделать.

Поэтому в какой-то степени эти темы и сообщения были написаны в надежде сфальсифицировать свою гипотезу, в смысле, в надежде, что кто-то мне накидает возможной пользы, но то ли у меня работает эффект подтверждения, то ли что-то ещё, в общем, всерьёз они моего мнения пока не поменяли.

 =======
Теперь к вопросу построения теорий.

Я соглашусь, что любая теория либо неверна, либо нефальсифицируема. Однако, на мой взгляд, это "лирика", в смысле, информация, которая нам ничем не помогает. Есть теории, которые помогают решать задачи, и есть теории, которые не помогают. У любого из нас в жизни есть проблемы, которые нам бы хотелось решить. Любая теория, которая якобы помогает решать задачу, вполне фальсифицируема - задача либо в итоге решена, либо нет.

С моей точки зрения, теория, которая всё объясняет, может быть вредна по следующим причинам:
1. Она может прекрасно объяснить, почему твоя задача решения не имеет, и ты будешь в это верить, хотя это не так.
2. Любая теория, в которую ты веришь, вызывает эффект подтверждения. Идеальных рационалистов не существует, мы все этому эффекту подвержены.

Цитировать
Я вообще склонен скорее разделять точку зрения, что методики избавления от наркотической зависимости не важны, потому что бросит человек или не бросит зависит от того, насколько он сам готов бросить.
Поэтому, насколько я представляю, существующие методики как раз работают с настроем человека. Причём это всё фальсифицируемо, можно посчитать процент бросивших людей, которые пользовались методикой и сравнить со средним по популяции или с процентом бросивших среди пользовавшихся другой методикой.
И, по-моему, это иллюстрация п.1.

kuuff

  • Старожил
  • *****
  • Сообщений: 2 133
  • +220/-52
    • Просмотр профиля
Re: Умение объяснять как "режим провала"
« Ответ #15 : 01 Августа 2016, 03:19 »
  • (+)1
  • (−)0
  • Есть наблюдение, что те люди, которые, с моей точки зрения, всерьёз занимаются распространением рациональности (что для меня на данный момент важно), с этого форума уходят. На встречах вживую, когда новичкам объясняют, где можно найти рационалистов в рунете, этот форум описывают как "очень странное место", и я осознаю, что мне нечего на это возразить.
    Это же комплимент! ;)
    Шутка.

    Если сравнивать этот форум с другими "рациональными активностями" (slack-чатом и встречами вживую), то, как мне представляется, в тех случаях я могу нащупать гораздо больше хоть какой-то пользы для себя.

    Если задать вопрос, почему же я до сих пор не ушёл, то я могу нащупать два ответа:

    а) Прокрастинация. Жать кнопочки на форуме проще, чем заниматься чем-то полезным.
    б) Беспокойство о том, что какие-нибудь сторонние люди будут судить о рациональности и Lesswrong'е на примере этого форума, и потому для распространения рациональности следует пытаться сделать этот форум лучше. Но здесь я с каждым днём всё больше сомневаюсь и в важности этого фактора, и в своих способностях что-либо с ним сделать.

    Поэтому в какой-то степени эти темы и сообщения были написаны в надежде сфальсифицировать свою гипотезу, в смысле, в надежде, что кто-то мне накидает возможной пользы, но то ли у меня работает эффект подтверждения, то ли что-то ещё, в общем, всерьёз они моего мнения пока не поменяли.
    Я сочувствую ваши проблемам. Я тоже как-то пытался подвинуть некий форум и сделать его лучше, но в результате всё что у меня получилось -- это форумная война модераторов, когда мы друг-друга молотили банхаммерами. Было весело, но эффект оказался минимальным. Так что, я не знаю, что вам посоветовать.
    Но со своей стороны, я думаю, что в течение полугода-года я уйду отсюда и перестану делать это место более странным, чем оно могло бы быть без меня. У меня нет твёрдой уверенности, но наблюдая за трендами... мне слишком сложно объясняться здесь, и может быть это потому, что я перехожу на Тёмную Сторону. Я даже подумываю о том, чтобы заказать себе иррациональные нашивки. Рациональность, по-крайней мере в изложении Юдковского, штука хорошая, но не для познания.

    Я соглашусь, что любая теория либо неверна, либо нефальсифицируема. Однако, на мой взгляд, это "лирика", в смысле, информация, которая нам ничем не помогает. Есть теории, которые помогают решать задачи, и есть теории, которые не помогают. У любого из нас в жизни есть проблемы, которые нам бы хотелось решить. Любая теория, которая якобы помогает решать задачу, вполне фальсифицируема - задача либо в итоге решена, либо нет.
    Тут вы упрощаете. Сильно упрощаете, так же как и Юдковский. Это упрощение может быть хорошо для попыток построения ИИ, но если мы говорим о программном обеспечении, которое будет работать не на ЦПУ, а на ЦНС, то это уже излишнее упрощение.
    Во-первых, теория может быть неверна, это может быть доказано, но она всё равно может использоваться. Просто потому, что у нас нет достаточно универсальной верной теории. Теория может быть нефальсифицируема, но всё равно использоваться, потому что у нас нет другой теории или все которые есть нефальсифицируемы. И если мы говорим о "теории всего", которая объясняет взаимосвязи в нашем обществе, то она будет нефальсифицируемой, потому что мы не можем поставить эксперимент на нашем обществе. Мы не можем клонировать человечество, и в одном убить всех младенцев, а в другом оставить всё как есть, с тем чтобы посмотреть действительно ли первое приводит к появлению мессии. А если мы, не клонируя человечество, просто убьём всех младенцев, то появление мессии нам ничего не докажет. Непоявление мессии будет значимым свидетельством (если конечно наша теория предсказывает его появление), но это опять лишь только в умозрительном эксперименте. В реальности, если есть теория появления, а мессия не появился, то его создаст какая-нибудь из заинтересованных сторон. Таким образом, появление мессии, согласно такой теории, будет априорно оцениваться в 0.999999.
    Прочувствуйте это: если у нас есть сложная система, на которой мы не можем поставить эксперимент, мы можем только наблюдать за ней (даже не факт что мы можем воздействовать на неё сколь-нибудь заметно), то мы не сможем иметь теорию, которая будет фальсифицируемой. То есть, мы будем стоять перед выбором: либо не иметь теории вовсе, либо иметь нефальсифицируемую.
    То есть, чисто теоретически, можно предположить, что есть создать исследовательскую организацию, то она что-нибудь там фальсифицирует или верифицирует, но вы знаете такую организацию, которая бы провела исследование и ответила бы на вопрос: корпорации -- это зло или нет?

    С моей точки зрения, теория, которая всё объясняет, может быть вредна по следующим причинам:
    1. Она может прекрасно объяснить, почему твоя задача решения не имеет, и ты будешь в это верить, хотя это не так.
    2. Любая теория, в которую ты веришь, вызывает эффект подтверждения. Идеальных рационалистов не существует, мы все этому эффекту подвержены.
    Да, это печально. Но альтернативой будет отсутствие теории.
    Кроме того нефальсифицируемая теория, и теория которая объясняет всё -- это разные вещи. Что ещё любопытнее: человек, как объясняющее устройство -- это объект из совершенно иного класса, это не теория. Человек может менять теории, находящиеся в его голове. И меняя теории, он сможет объяснять всё. Да, это вещь на которую научный метод смотрит криво. Да, и с точки зрения психологии, это может завести в дебри. Но так получится. Если моя теория не предсказывала непоявление мессии, но он не появился после избиения младенцев, то я проведу хотя бы подобие исследования, хотя бы погуглю, я подумаю, я найду объяснение, и изменю свою "теорию всего" так, чтобы она включала это объяснение. Может быть я справлюсь с этим за десять минут, может за пять лет, но по истечении этого промежутка времени я опять буду гордым носителем нефальсифицируемой теории.
    Поэтому, насколько я представляю, существующие методики как раз работают с настроем человека. Причём это всё фальсифицируемо, можно посчитать процент бросивших людей, которые пользовались методикой и сравнить со средним по популяции или с процентом бросивших среди пользовавшихся другой методикой.
    И, по-моему, это иллюстрация п.1.
    Нет. Это иллюстрация тому, что мои теории могут объяснить всё. Если я сейчас пойду и найду исследование, показывающее, что существуют методики со 100% успеха, то я скажу, что те методики не имеют ничего общего с тем, как на меня влиял форум. Если я найду исследование, которое покажет, что все методики имеют процент успеха на уровне статистической погрешности, то это никак не поможет мне оценить влияние форума. Если я найду исследование, которое расскажет о методиках с 50% успеха, то... Это всё равно ничего не изменит в моей голове. Так зачем я буду тратить время на поиски информации?

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #16 : 01 Августа 2016, 03:34 »
  • (+)0
  • (−)0
  • если у нас есть сложная система, на которой мы не можем поставить эксперимент, мы можем только наблюдать за ней (даже не факт что мы можем воздействовать на неё сколь-нибудь заметно), то мы не сможем иметь теорию, которая будет фальсифицируемой.

    Почему?

    ps
    Есть, например, солнце. Сложная система. Доступная для наблюдений, и недоступная для экспериментов.
    И есть фальсифицируемая теория: "Каждое утро солнце появляется из-за горизонта".

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #17 : 01 Августа 2016, 04:21 »
  • (+)0
  • (−)0
  • Почему?

    ps
    Есть, например, солнце. Сложная система. Доступная для наблюдений, и недоступная для экспериментов.
    И есть фальсифицируемая теория: "Каждое утро солнце появляется из-за горизонта".
    Я не совсем понимаю, что именно вы имеете в виду, поэтому я дам два ответа, на два разных "имеете".
    1. Солнце не сложная система, а большая система. Объяснить как работает Солнце и Солнечная Система можно школьнику. Я классе в восьмом-девятом читал обо всех этих термоядерных реакциях, как они протекают, как они стартуют и чем всё это заканчивается. Это довольно простая теория, которую можно изложить так, чтобы девятиклассник понял. И если Солнце ведёт себя в согласии с ней, то надо полагать, что Солнце довольно простая система.

    2. Надо различать фальсифицируемость теоретическую и практическую. Если наблюдать за человечеством десятки тысяч лет, то наверное можно фальсифицировать большинство теорий и придумать какую-нибудь одну рабочую. Которая тоже будет фальсифицируемой, но на временных промежутках в десятки/сотни тысяч лет. Но для нас, здесь и сейчас, всё это -- не "фальсифицируемость", а схоластика. Кстати, я не оставлял здесь ссылки на статью о связи между P!=NP и квантовой природе Вселенной? Я не понял о чём она, но там применяется схожее положение: если мы никоим образом не можем решить уравнения Шрёдингера для квантовой системы макроскопического объекта, то все эти уравнения -- нефальсифицируемые пустые абстракции".
    Цитировать
    That leads Bolotin to ask a perfectly reasonable question. What if there is no way to solve Schrödinger’s equation for macroscopic systems in a reasonable period of time? “If it were so, then quantum theoretical constructions like “a quantum state of a macroscopic object” or “the wave function of the universe” would be nothing more than nontestable empty abstractions,” he says.

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #18 : 01 Августа 2016, 10:40 »
  • (+)0
  • (−)0
  • kuuff, Вы написали прекрасное эссе, но не стоит бросаться из крайности в крайность. РМ очень полезно, в том числе и для познания мира! И его надо продвигать, и Юдковски делает это... как умеет и понимает. "Не стреляйте в пианиста".
    Единственно, что вредно - делать из РМ фетиш, потому что в этом случае оно само превращается в шаблон мышления (что, видимо, отчасти и произошло с Юдковски, но я могу его оправдать: как кто-то сказал, "чтобы зритель поверил, актер, играющий Отелло, должен в некий момент искренне хотеть задушить Дездемону, но лишь в самый последний мент разжать руки").
    Реальная человеческая жизнь гораздо сложнее игры на бирже, и конец света никогда не является в ней сколь-нибудь важной проблемой. На знать о типичных искажениях эвристического восприятия и уметь их отслеживать у себя - крайне полезно! Для познания в самом широком, а не только научном смысле, в том числе.


    PS Мы не можем решить уравнение Шредингера для макросистемы (и, кстати, рассчитать Боинг в кварках) не потому, что это пустые абстракции. Нужно просто преодолеть вульгарный материализм, принять Копенгагеновскую интерпретацию, отнести вопрос "почему мы получаем результаты экспериментов, согласующиеся с абстракциями, возникшими у нас  в голове", к философским и оставить его философам, а самим обратиться к фактам: квантовая теория подтверждена практикой столько раз, что у нас есть достаточно оснований полагать ее рабочей гипотезой вне зависимости от того, как эта карта соотносится с территорией. Будьте настоящим байесианцем, забудьте про территорию! Вот карта, и вы уже сто лет как в пути - а она почти не врет. Что вам еще нужно?

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #19 : 01 Августа 2016, 15:51 »
  • (+)0
  • (−)0
  • Прочувствуйте это: если у нас есть сложная система, на которой мы не можем поставить эксперимент, мы можем только наблюдать за ней (даже не факт что мы можем воздействовать на неё сколь-нибудь заметно), то мы не сможем иметь теорию, которая будет фальсифицируемой.
    Ну вот возьмём уже многократно упомянутого на этом форуме Скотта Александера.
    Он завёл в какой-то момент следующую практику. Каждый год он делает большое количество (около сотни) разных прогнозов (в основном на политическую тему). С простановкой вероятностей. По итогам года он смотрит, что сбылось, а что не сбылось. Понятно, что если человек сделал 10 прогнозов с вероятностью 70%, то количество сбывшихся среди них должно примерно стремиться к семи. Таким образом Александер калибрует свои представления о реальности, о том, что в ней может случиться, а что нет. По-моему, это достаточно близко к построению фальсифицируемой теории, хотя теория не выражена явно.
    Также можно вспомнить уже упомянутый на этом форуме проект Суперпредсказателей. То же самое - люди как-то научились делать предсказания поведения сложных систем, т.е. их теории являются вполне фальсифицируемыми.

    Да, если мы говорим о предсказании строго одного события, то тут действительно невозможно построить фальсифицируемую теорию. Однако же, в мире чаще востребованы теории, которые предсказывают что бы то ни было снова и снова. И здесь мы можем калибровать свои ожидания, даже в случае вероятностного характера происходящего. Если прогноз погоды говорит, что с вероятностью 90% пойдёт дождь, и из 100 дней, про которые он так говорил, дождь шёл, скажем, в 89, то, наверное, это хороший прогноз погоды и им можно пользоваться дальше. А если в 50 - то, скорее всего, не очень. Хотя вопрос "пойдёт ли дождь в конкретный день в конкретном месте" - это предсказание единичного события, на которое мы практически не можем повлиять, можем лишь наблюдать.

    Цитировать
    Рациональность, по-крайней мере в изложении Юдковского, штука хорошая, но не для познания.
    У меня в результате бесед с одним человеком (не вами) на этом форуме о слове "познание" вообще чуть негативное мнение не сложилось :) Шутка.

    Я понимаю, что такое любопытство и желание понять, как оно тут всё устроено. Однако, как отличить, понял ты или нет? У меня в жизни были случаи, когда я читал книжку или слушал лекцию, мне казалось, что мне всё понятно, потом я начинал решать задачу и осознавал, что я вообще не понимаю, что мне делать. Из чего делал вывод, что мне, на самом деле, далеко не всё понятно.

    Или другой пример, не сочтите за обесценивание. В наше время есть относительно много людей, которые изучают гороскопы или работу с картами Таро, или ещё что-то в этом духе. Я знаком с некоторыми, и могу сказать, что далеко не все такие люди - шарлатаны, в смысле, многие вполне верят, что они занимаются чем-то по настоящему работающим и полезным. (Замечу, что если гороскопы или карты Таро реально работали бы, смысла их изучать было бы более чем.) Эти люди вполне могут верить, что они по-настоящему занимаются познанием, читают книги, ходят на обучение к более продвинутым специалистам... И возникает вопрос: мы можем сказать, что они занимаются ерундой, и что лучше бы они потратили время на что-то более полезное? С моей точки зрения, да, поскольку никакого результата их познания нет и не предвидится. Но как можно оценить деятельность астрологов и тарологов с позиции "любая теория либо неверна, либо нефальсифицируема"?

    Короче говоря, с моей точки зрения, любое познание имеет смысл либо в случае, если ты сам что-то делаешь в области познаваемого (и твои результаты можно оценить хоть как-то), либо если ты по крайней мере можешь делать предсказания.

    И есть ещё смежный вопрос. А как вообще определять: а что именно познавать? Вот на форуме есть спор о корпорациях, но нет, скажем, спора о брачных обычаях тушканчиков Монголии. Мне логично могут возразить, что никому здесь вообще совершенно не нужны брачные обычаи тушканчиков Монголии. Однако же, это означает, что человек как-то определяет, что ему на самом деле нужно, а что нет. Но как он это делает? Как он может определить, насколько разумно он сделал выбор, что именно познавать? Может, он его сделал под влиянием среды или ради сохранения статус-кво или?..

    С моей точки зрения, рациональность - это умение делать выбор осознанно. Ради достижения своих целей. По-моему, В познании это актуально точно так же, как и в любых других областях.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #20 : 02 Августа 2016, 10:34 »
  • (+)2
  • (−)0
  • У меня в результате бесед с одним человеком (не вами) на этом форуме о слове "познание" вообще чуть негативное мнение не сложилось :) Шутка.
    :)
    Любопытно, но когда вы это сказали, я понял что год назад я был примерно в такой ситуации, и пытаясь понять человека, который вещал мне умные вещи, пытаясь взглянуть на ситуацию с его точки зрения, я забарывал в себе протест, растущий в ответ на его слова, что вся наука движима чистым и непрактичным любопытством. Тогда я решил, что он не совсем прав, и всё-таки за любопытством учёных, совершивших фундаментальные прорывы, был какой-то практический интерес, который и порождал это любопытство -- может быть очень мутный, неконкретный, но был.
    Сегодня же, я вдруг оказался агитатором точки зрения того человека, и я убеждён, что если у такого учёного и был какой-то мутный, неконкретный практический интерес, то он скорее был рационализацией, способом оправдать своё непрактичное любопытство в глаза других. Увы, как дела обстояли в реальности, мы вряд ли узнаем. И спросить некого -- человек, который рассказывал это мне -- уважаемый учёный, но он не совершал фундаментальных прорывов в науке, поэтому не факт, что его можно считать экспертом в этих вопросах и полагаться на его мнение.
    Но это присказка была, она как бы и ни к чему, просто я внезапно для себя понял, что я сменил сторону.


    Одно из развлечений учёных -- гонять крыс по лабиринтам. Развлекаясь подобным образом, Толмен задался вопросом: является ли память лабиринтов у крыс механической, типа сколько надо шагов сделать, прежде чем повернуть налево, или может быть крысы считают ответвления, выбирая третье слева, или, всё же, у них есть некое пространственное представление лабиринта. Он выяснил, что всё-таки у крыс есть некое представление об изученном лабиринте, которое по уровню абстракции выше механистических, которое как-то включает в себя пространственные характеристики лабиринта, и позволяет крысам ориентироваться в тех ситуациях, когда лабиринт изменяется, из него пропадают коридоры, в нём появляются новые. Способность крыс к ориентированию не удаётся объяснить простыми моделями, бихевиоризм в пролёте.

    Я этот пример привожу для того, чтобы у меня была метафора: можно использовать матстатистику на очень конкретных признаках -- мускульных напряжениях, можно подключать к этому зрение, распознавание образов и использовать статистику на более сложных данных, с тем, чтобы ориентироваться лучше, а можно строить в голове трёхмерную модель лабиринта, и ориентироваться по ней. Последнее -- самое сложное, особенно если мы не знаем, что такое трёхмерное пространство, и всё что у нас есть -- это ощущения от органов чувств. И подход суперпрогнозистов, подход ориентированный на практику, не сможет сделать такое открытие как "трёхмерное пространство". Точнее он сможет -- крысы-то смогли этому научиться, -- но не потому, что суперпрогнозисты что-то понимают в процессе познания, а потому что их нервная система так построена. И это, на мой взгляд, позорище: познавать мир и не осознавать как именно он познаётся, оставлять процесс познания эволюционно доставшимся нам механизмам, не пытаясь его улучшить сознательно.

    Я тут читал книжку, в которой разбиралась история психологических исследований интеллекта, в частности вся эта тестология, начиная с Бине, и заканчивая современными когнитивными стилями. Когда я читал описания того, как после Бине возникла куча методик измерения интеллекта, и появились исследования, которые проводили факторный анализ этих исследований и выделяли разные факторы интеллекта и пытались их как-то осмысленно назвать, мне казалось это круто. G-фактор. Двухфакторная модель интеллекта. ... Но выяснилось, что всё это туфта, и все эти факторы что-то там предсказывают конечно, но что именно никто так и не понял. Высокий iq у школьника повышал вероятность того, что тот будет успешен в умственном труде, но -- парадоксально -- те кто имел iq 145+ не имели никаких реальных выдающихся интеллектуальных достижений. Выдающиеся достижения -- это удел более низких уровней iq. И исправить такие косяки в тестологии не удалось.
    Когда же я начал читать про когнитивные стили, про то, что измерять надо не результат работы интеллекта, а процессуальные характеристики, увидел список из 20 этих характеристик-стилей, и к ним тесты, которые будут их мерять -- я уже смеялся. Казалось бы умные люди, а второй раз полезли на те же грабли. Пытаются построить модель интеллекта посредством факторного анализа. Собственно, так и вышло: все эти когнитивные стили позволили взглянуть на интеллект чуть иначе, но принципиальных никаких прорывов не случилось. Потому что для прорыва нужна "когнитивная карта" территории более высокого уровня чем та, которую может дать факторный анализ.
    Познание невозможно без уже готовой модели реальности. В случае с интеллектом, надо рисовать модель, и разрабатывать методики измерения для наполнения этой модели начальными данными, с тем чтобы проверить, что модель будет давать те же интеллектуальные продукты, что и изучаемый человек. Надо создать модель, которая позволит формально выводить процесс решения той или иной задачи, в том виде в котором он появится в голове у человека. Формально выводить, а не воссоздавать описание процесса решения глядя на данные интроспекции, то есть наблюдая за тем, как наша голова решает именно эту задачу.

    Я спорить готов, что все эти суперпредсказатели имеют в голове некую модель реальности, причём нефальсифицируемую, в том смысле, что ежели они попробуют записать на бумаге эту модель, то у тех кто будет читать их опус, возникнут тысячи вопросов типа "почему так, а не эдак". И сотня успешных предсказаний на основании этой модели не будет сколь-нибудь убедительным свидетельством, потому что модель будет нести в себе сотни и тысячи бит информации, а успешные предсказания дадут меньше. Но их модели носят фатальный недостаток, с точки зрения познания: они не пытаются выскрыть фундаментальные механизмы, лежащие в основе явления, они хватают лишь низковисящие результаты. Так же как и психологи, которые исследовали интеллект посредством тестологии -- они пытались заменить модель интеллекта, статистической моделью корреляций. Это попытка схватить низковисящий результат. Поттер, кстати, умеет поступать только так и не иначе -- тут на форуме была ссылка на блог учёного-физика, который возмущался тем, что Поттер (точнее Гарриэзер) имеет наглость именовать себя учёным. Вот именно поэтому, потому что Поттер ориентируется исключительно на низковисящие результаты, в нём не видно любопытства исследователя, который готов задавать рандомные вопросы Вселенной, не только те, которые могут привести к практической пользе, но так же и те, для которых пользы не видно. Задавать вопросы не для профита, а потому что есть вопросы без ответа. Или даже задавать вопросы к которым есть ответ, только для того, чтобы ещё раз полюбоваться на этот ответ. Представьте себе лабиринт погружённый во тьму. Учёный будет исследовать лабиринт целиком, в то время как суперпредсказатель будет искать выход. Суперпредсказатель быстрее найдёт выход, но учёный создаст карту, следуя которой из лабиринта сможет выйти кто угодно, причём кратчашим путём.

    Но возвращясь к моделям, которые есть в голову у суперпредсказателей... Если суперпредсказатель сталкивается с какой-то реальной ситуации и хочет сделать прогноз, что он делает в первую очередь? Он строит математическую модель ситуации, он формулирует её в терминах теории вероятности, чтобы её можно было бы решить как задачку на теорию вероятности. Так ведь? Так. Но вся рациональность и всё байесианство не описывают как построить математическую модель реальной ситуации. Невозможно взять и формализовать эти правила. Можно написать "десять правил построителя матмодели", но эти десять правил будут полезны только тому, кто уже умеет составлять матмодели. Для того, чтобы построить математическую модель реальности, надо в голове иметь какую-то модель реальности, на основании которой можно будет построить математическую. Не имея этой модели, и применяя матметоды навскидку можно создать тестологию, которая будет предсказывать "что-то", но что именно -- никто не будет знать. Это "что-то" тем не менее можно использовать как свидетельства для суперпредсказаний. Но эти суперпредсказания ничего не имеют общего с ответом на вопрос: как найти среди школоты будущих эйнштейнов и как их обучать, чтобы они устроили бы нам технологическую сингулярность. Всё на что годны эти суперпредсказатели -- это делать суперпредсказания в тех областях, где учёным пока не удалось создать сколь-нибудь внятную модель реальности. Потому что суперпредсказатели заменяют внятную модель невнятной, и вся фишка байесианства в том, чтобы связать точные математические методы с невнятной и неформализуемой моделью.

    Это было по-поводу суперпредсказателей. А теперь обо всём остальном. Чтение вашего текста складывает в голове ощущение, что вы судите о других людях делая множество допущений о том, какое у них должно быть мировоззрение. Ну, например, что они должны стремится к успешности в том смысле, в котором её понимает Том Риддл из ГПиМРМ. Многим это не надо, многие вполне удовлетворятся меньшим -- например, интересной работой, красивой женой и умненькими детьми. Критерии успешности Тома Риддла, все эти его "амбиции" -- это хорошо конечно, но наш мир был бы гораздо более жестоким местом, если бы все в нём обладали бы этими "амбициями". Если бы, хотя бы, каждый десятый обладал бы -- это уже было бы катастрофой.
    Вообще одно из офигенных изобретений социума -- это разделение труда. И оно рационально, даже если поведение отдельных членов выглядит на первый взгляд нерационально. Если муравей висит на стене муравейника, раздувшись от накопленных в зобике углеводов, потеряв способность передвигаться из-за этого -- это рациональное поведение? Иррациональное, если в отрыве от социума, но внутри социума очень полезное: другие муравьи используют этих как ёмкости для хранения углеводов, куда можно сложить избытки, а при необходимости взять.
    В нашем обществе то же самое: познанием будут заниматься учёные, которые будут обладать определённым складом ума для этого, и для которых познание является не инструментальной целью, для достижения других, а самостоятельным интересом. А суперпредсказаниями будут заниматься те, кому познание само по себе неинтересно, которым интересно достигать каких-то очень практических целей -- зарабатывать миллионы долларов, или выделяться из толпы блеском ума.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #21 : 02 Августа 2016, 13:18 »
  • (+)0
  • (−)0
  • Я начну с конца, потому что это самое важное.
    Чтение вашего текста складывает в голове ощущение, что вы судите о других людях делая множество допущений о том, какое у них должно быть мировоззрение. Ну, например, что они должны стремится к успешности в том смысле, в котором её понимает Том Риддл из ГПиМРМ. Многим это не надо, многие вполне удовлетворятся меньшим -- например, интересной работой, красивой женой и умненькими детьми.
    Здесь вы совершенно промахнулись. Я понимаю успешность не в том смысле, в котором её понимает Том Риддл. Я как раз понимаю её вполне в бытовом смысле. Если мы посмотрим на реальных людей, то мы обнаружим, что далеко не каждый считает свою работу интересной, детей - умными и даже жену - красивой. Т.е. даже тех меньших целей люди не достигают. Я вполне понимаю, что человек может удовлетвориться меньшей целью. Даже достичь этой меньшей цели - это успешность. Однако, реально у многих людей нет даже этой успешности. И, как мне представляется, рациональность тут тоже вполне может помочь. (Более того, на данный момент я гораздо лучше понимаю, как применять рациональность к бытовому облегчению своей жизни, чем к чему-то глобальному.)

    Я вполне понимаю, что один человек может поставить задачу "найти выход из лабиринта для себя", а другой - поставить задачу "найти общий алгоритм выхода из лабиринта для кого угодно". Но в обоих случаях человек успешен, если он свою задачу решил (ну или хотя бы достиг каких-то полезных промежуточных результатов), и не успешен, если он не добился ничего. Если человек потратил годы на решение какой-то очень амбициозной задачи и не добился ничего... То, может быть, ему всё-таки стоило заниматься чем-то другим?

    Я вполне понимаю удовлетворение собственного любопытства как цель и ничуть не собираюсь осуждать людей, у которых есть такая цель. Но я считаю, что если у человека нет критериев, как он отличает ситуацию, что он цели достиг, от ситуации, что он цели не достиг, и нет критериев того, что он вообще движется к цели, а не от неё, то с огромной вероятностью этот человек цели не достигнет. И не важно, что это за цель - построить модель общества или захватить мир.

    А суперпредсказатели были просто примером того, что можно строить теории (пусть и локальные) и делать предсказания на крупных системах, где нельзя ставить эксперименты, а можно только наблюдать.

    И почти оффтопом.
    Цитировать
    Когда я читал описания того, как после Бине возникла куча методик измерения интеллекта, и появились исследования, которые проводили факторный анализ этих исследований и выделяли разные факторы интеллекта и пытались их как-то осмысленно назвать, мне казалось это круто. G-фактор. Двухфакторная модель интеллекта. ... Но выяснилось, что всё это туфта, и все эти факторы что-то там предсказывают конечно, но что именно никто так и не понял.
    Когда я читал Становича "Что не измеряют тесты способностей" (книгу 2009-го года), у меня сложилось впечатление, что автор вполне точно понимает, что именно измеряют тесты на интеллект, и какие у него плюсы и минусы. Более того, у автора в книге стоят ссылки на соответствующие научные статьи. Т.е. при том, что весь смысл книги заключается в том, что люди совершенно зря так много обращают внимания на IQ-тесты, автор считает, что у них вполне есть предсказательная способность.

    Насколько я понял, общий смысл в том, что интеллект, в смысле то, что измеряют IQ-тесты, грубо говоря, - это рабочая память и умение с ней обращаться. Но никак не умение вовремя применить это умение. Фактически, Станович утверждает, что если давать людям разные тесты на когнитивные искажения, то практически никакой разницы между людьми с высоким IQ и с низким. Но если людям давать эти тесты и специально указывать им обращать внимания на соответствующие когнитивные искажения, то люди с высоким IQ справляются лучше.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #22 : 02 Августа 2016, 14:02 »
  • (+)0
  • (−)0
  • Я начну с конца, потому что это самое важное.Здесь вы совершенно промахнулись. Я понимаю успешность не в том смысле, в котором её понимает Том Риддл. Я как раз понимаю её вполне в бытовом смысле. Если мы посмотрим на реальных людей, то мы обнаружим, что далеко не каждый считает свою работу интересной, детей - умными и даже жену - красивой. Т.е. даже тех меньших целей люди не достигают. Я вполне понимаю, что человек может удовлетвориться меньшей целью. Даже достичь этой меньшей цели - это успешность. Однако, реально у многих людей нет даже этой успешности. И, как мне представляется, рациональность тут тоже вполне может помочь. (Более того, на данный момент я гораздо лучше понимаю, как применять рациональность к бытовому облегчению своей жизни, чем к чему-то глобальному.)
    Дело не в этом. Дело в том, что у Тома Риддла нет верхней планки амбиций, и поэтому его не устроит ничто. У обычного человека эта верхняя планка есть, и поэтому он способен остановиться. Но при этом его всё равно не устроит ничто. И первостепенную важность для вас должно играть то, что обычный человек способен остановиться, а не то, насколько "рациональны" причины его остановки. Рациональное поведение муравьёв движимо сильно нерациональными причинами -- в его основе очень простые механизмы, муравей не думает о том, какую пользу он принесёт муравейнику, если будет висеть на стенки накачанный раствором глюкозы как шарик, муравей не может этого осознать. Но -- о чудо, -- тем не менее его поведение оказывается очень полезным для муравейника, и, в общем-то, для него тоже.

    Придумайте как можно оставаться рациональным, удовлетворив все свои амбиции, тогда будет о чём говорить. Это было бы очень-очень интересно. Может ли человек быть рациональным, если все его потребности удовлетворены, и всё что ему осталось -- это проводить время в своё удовольствие? И эта "рациональность" может быть совместима с человеческой психологией? Я почти уверен в том, что нельзя. Человеку нужны проблемы, чтобы быть счастливым. Если у него нет в жизни проблем, то он их создаст искусственно. С женой поругается, например.

    Я вполне понимаю, что один человек может поставить задачу "найти выход из лабиринта для себя", а другой - поставить задачу "найти общий алгоритм выхода из лабиринта для кого угодно". Но в обоих случаях человек успешен, если он свою задачу решил (ну или хотя бы достиг каких-то полезных промежуточных результатов), и не успешен, если он не добился ничего. Если человек потратил годы на решение какой-то очень амбициозной задачи и не добился ничего... То, может быть, ему всё-таки стоило заниматься чем-то другим?
    Почему? Если ему доставляет удовольстве процесс, то почему бы ему не длить его до бесконечности? Если это противоречит рациональности, то может нафиг эту рациональность? Что я теперь должен отказаться от поездок на велосипеде? Зачем ехать круг в 100км для того, чтобы приехать домой, я ведь уже дома.
    Нет, бывают случаи, когда надо остановиться. Бывает, что человек продолжает заниматься чем-то, не потому, что ему нравится, а потому что ему страшно подумать о том, чтобы остановиться. Ему проще длить умеренно неприятный процесс, чем пойти на большие неприятности. И в таких случаях рациональность нужна. А вот для того, чтобы ездить на велосипеде она вредна.
    Я вполне понимаю удовлетворение собственного любопытства как цель и ничуть не собираюсь осуждать людей, у которых есть такая цель. Но я считаю, что если у человека нет критериев, как он отличает ситуацию, что он цели достиг, от ситуации, что он цели не достиг, и нет критериев того, что он вообще движется к цели, а не от неё, то с огромной вероятностью этот человек цели не достигнет. И не важно, что это за цель - построить модель общества или захватить мир.
    А у человека есть критерии, когда он достиг цели. Но они не всегда сводятся к научным. Мендель например, открыв свой закон и проверив его на горохе, был уверен, что он достиг цели. Настолько уверен, что он фальсифицировал результаты контрольных опытов на ястребинке, он исказил результаты так, чтобы они подтверждали его закон. Современная биология, говорит что он примерно ноль вероятности получить те результаты, которые он получил, потому что то наследуемое свойство, которое Мендель изучал на ястребинке, не подчинялось его закону.
    Гелиоцентрическую систему Коперника приняли потому что она красивая, а не потому что она была лучше птомлеевской. Птомлеевская была точнее. Это уже потом, когда круглые орбиты заменили эллиптическими, когда Кеплер рассказал как это сделать, вот после этого система Коперника стала лучше.
    Многие учёные, в т.ч. физики, математики, оценивают в любом решении проблемы некую элегантность или красоту или ещё что-нибудь, что они не могут объяснить, но тем не менее они полагают это очень важным. Найдя одно решение они могут продолжать искать другое, потому что первое было некрасивым. Как, знаете, в эксперименте, когда мелких детей сажали на стул, запрещали слезать со стула, и смотрели как они будут доставать миску с конфетами. Мелкие дети брали палку, которая лежала на столе рядом, и доставали при помощи палки. А ребёнок постарше не взял палку, начал оглядываться. Когда его спросили, почему он не взял палку, тот ответил в стиле "палкой любой дурак сможет". Вот и учёные подчастую поступают так.
    Да это приводит к тому, что Юдковский наезжает на науку, которая не может признать, что многомировая интерпретация лучше копенгагенской. Может он и прав -- я не знаю, я не физик. Но он не прав в своих претензиях на знание некоего общего принципа выбора интерпретаций: индукция соломонова -- это хорошо, но сработала бы эта индукция в случае Менделя? А если бы эта индукция была бы принципом работы человеческого мозга, стал бы Коперник искать гелиоцентрическую систему, при наличии птомлеевской? Я не знаю ответы на эти вопросы, Юдковский либо знает, либо думает что знает, либо просто не задумывался о них. Впрочем, я не дочитал, From AI to Zombies, может там дальше где-нибудь есть ответ.
    А суперпредсказатели были просто примером того, что можно строить теории (пусть и локальные) и делать предсказания на крупных системах, где нельзя ставить эксперименты, а можно только наблюдать.
    А я рассказывал почему их теории нельзя считать нефальсифицируемыми. Ну точнее так: если мои построения вы считаете нефальсифицируемыми, то с необходимостью вам придётся считать и их построения нефальсифицируемыми. Потому что они построены на одних и тех же принципах, одними и теми же методами. Только они чуть больше уделяют внимания предсказаниям: меня устраивает качественное совпадение сценариев, и при этом я не пытаюсь внести в процесс выдвижения предсказаний/учёт данных никакого формализма.

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #23 : 02 Августа 2016, 15:30 »
  • (+)0
  • (−)0
  • Да это приводит к тому, что Юдковский наезжает на науку, которая не может признать, что многомировая интерпретация лучше копенгагенской. Может он и прав -- я не знаю, я не физик.
    Я физик. Я в свое время чуть не свихнулся, пытаясь интерпретировать КМ. И пришел к копенгагену. В этом отчетливо проявляются наши с Юдковски разногласия. А еще они проявляются в том, что я не считаю копенгагеновскую интерпретацию лучше эверетттовской. Они просто разные, они не противоречат друг другу на уровне опыта. Но лишь отражают разницу мировоззорений. Единственный аргумент, который я мог бы прямо высказать Юдковски - это принцип Оккама. Многомирность - это лишняя сущность. Эвереттовская идея, имхо, красива лишь на взгляд обывателя... или математика, программиста. А в той парадигме, которую прививает физика, она... как-то неестественна. Поэтому большинство физиков (но лишь большинство, а не все) придерживается копенгагеновской трактовки.

    Что касается прочего... имхо, Вам пора писать серьезное эссе. Потому что Вы своими комментариями лишаете меня мотивации дописать своё. Где я как раз пытаюсь простыми словами объяснить, что есть две байесианских интерпретации вероятности: картезианская (Юдковский) и феноменологическая (например, я:) ) Они разные философски, они соответствуют двум разным интерпретациям КМ, разным выводам о РМ, они приводят к разному отношению к эвристике, к этике и много к чему еще. Я все равно допишу, хотя бы частично. Потому что когда я прочел ГП и разобрался с байесианской трактовкой в целом, я услышал ее именно феноменологически. И понял, что это моя трактовка, что я давно ее "искал", и затем...  был несказанно огорчен, читая статьи Юдковски.
    Вы идете примерно к тому же, но совершенно с другой стороны. Это жутко интересно! Напишите эссе!!

    PS И еще раз советую прочесть Иванова "Как понимать квантовую механику", я давал ссылку. Даже не вникая в математику. Хотя бы то, что помечено ф и фф. Этого будет достаточно, чтобы понять, что никакого корпускулярно-волнового дуализма нет, что Боинг не просчитывается в кварках, что... что наука - это гораздо, гораздо больше, чем рациональность.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #24 : 02 Августа 2016, 16:26 »
  • (+)0
  • (−)0
  • У обычного человека эта верхняя планка есть, и поэтому он способен остановиться. Но при этом его всё равно не устроит ничто.
    Я считаю, что это противоречащие утверждения. Если человека не устраивает его текущая ситуация, значит, у него есть какие-то амбиции. То, что он не может их сформулировать и/или удовлетворить, ни о чём не говорит. В конце концов, куча людей живут в жутких условиях и считают, что у них всё нормально, и только потом, если им почему-то везёт и они из своих условий вырываются, они ужасаются, как они раньше считали нормальным то, что считали.
    Нет амбиций - это человек вообще не может придумать, что могло бы в его жизни улучшиться. А если человек придумать может, но просто уверен, что это нереалистично и поэтому заявляет, что он этого не так уж и хочет, то это "зелен виноград". Я считаю, что если человека всё устраивает, он не ругается с женой.

    Цитировать
    Почему? Если ему доставляет удовольстве процесс, то почему бы ему не длить его до бесконечности? Если это противоречит рациональности, то может нафиг эту рациональность?
    Это разные цели. Есть цель "решить задачу". Есть цель "получить удовольствие". Они могут совмещаться. Они могут не совмещаться. Они могут совмещаться с разными приоритетом. Они могут совмещаться с ещё кучей других целей. Но это разные цели и у них разные критерии достижения.
    Представим учёного, который приступает к важной для него задаче. И представим, что к нему приходит оракул, доказывает, что он оракул и говорит: "Я знаю, что ты ничего не добьёшься. Задачу ты не решишь, никто твои результаты использовать не будет, и вообще, через полгода после того, как ты бросишь, эта задача потеряет актуальность. Но удовольствие ты получать будешь. Я даже сотру тебе память о нашем разговоре, чтобы знание о бесперспективности твоей работы тебе не мешало. Оставлю память лишь о том, что ты выбрал. Итак, ты всё-таки будешь заниматься этой задачей?"
    Я уверен, что большинство учёных откажется. А тот, кто согласится... ну, значит, для него цель "решить задачу" на самом деле не цель.

    Цитировать
    Что я теперь должен отказаться от поездок на велосипеде? Зачем ехать круг в 100км для того, чтобы приехать домой, я ведь уже дома.
    Это зависит от того, какая у вас цель. Человек может ездить на велосипеде, чтобы попасть из точки А в точку Б. Человек может ездить на велосипеде, чтобы поддерживать физическую форму. Человек может ездить на велосипеде за компанию с кем-то, потому что ему доставляет удовольствие общение. Человек может ездить на велосипеде просто потому, что ему доставляет удовольствие это занятие на каком-то физиологическом уровне, который не контролируется "сознанием". Все эти цели (и, подозреваю, это далеко не исчерпывающий возможный список) совершенно разные. Все эти цели можно достигать и какими-то иными путями. Но для этого надо понять, а какие именно из них для вас важны, а какие - не очень.

    Рациональность не утверждает, что какая-то цель сама по себе лучше или хуже других (на самом деле, тут со мной некоторые не согласятся, но основная часть LW, как я понимаю, всё-таки считает именно так). Нельзя назвать человека нерациональным, который ездит на велосипеде просто потому, что ему нравится ездить на велосипеде, и не достигает при этом никаких других целей. Однако же, человек может вполне задаться вопросом: а может быть, от мотоцикла (или наоборот, от самоката) удовольствия будет больше? Если ему так уж нужно это удовольствие?

    Проблема в том, что я не уверен, что для человека всё упирается в чистое физиологическое удовольствие. Если человеку, которому нравится езда на велосипеде, сказать: "Давай мы на тебя наденем костюм виртуальной реальности и ты будешь испытывать ровно те же ощущения", он согласится? Если болельщику футбольной команды сказать, давай мы тебе сделаем укол, и ты испытаешь ровно те же ощущения, которые испытываешь, когда твоя команда забивает гол, он согласится? Предположим, человек получает возможность накопить достаточно крупную сумму денег, чтобы нанять очень квалифицированную команду врачей, которые разработают работающий курс введения веществ, от которых он будет постоянно чувствовать себя счастливым. Многие ли согласятся?

    Цитировать
    А я рассказывал почему их теории нельзя считать нефальсифицируемыми. Ну точнее так: если мои построения вы считаете нефальсифицируемыми, то с необходимостью вам придётся считать и их построения нефальсифицируемыми. Потому что они построены на одних и тех же принципах, одними и теми же методами.
    Прошу прощения, не понял. Расшифруйте, пожалуйста.

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #25 : 02 Августа 2016, 16:59 »
  • (+)0
  • (−)0
  • kuuff, извините, я отвечу Аларику.
    Аларик, Вы расширили предмет, из за чего получилась дискуссия о термине "цель". Если цель не противопоставлять процессу, а полагать, что "удовольствие от процесса  - тоже цель", вопрос снимается. Но первоначально-то речь шла о более узком предмете - о цели научного познания. Переформулировав суждение Kuuffa: для большинства ученых целью их деятельности является не познание истины, а получение удовольствия от самого процесса познания. Подтверждаю, это действительно так. Конечно, красивые слова о постижении истины умеют произносить многие. Но поговорив с человеком за рюмкой чая, Вы поймете, что плевать ему на истину на самом деле. "Люблю ли детей - не знаю. Но сам процесс!" Cognitio ergo sum.
    И Вы вопреки Оккаму вводите новое понятие "успешен":  "...человек успешен, если он свою задачу решил (ну или хотя бы достиг каких-то полезных промежуточных результатов), и не успешен, если он не добился ничего". Но "успешен" - это внешняя характеристика. Представьте себе: успех может не являться целью! И результат может не являться целью.

    Ну и на скрытый наезд отвечу так. Да, был неточен или даже неправ. Нет более настоящих или менее настоящих целей. Но у каждого есть своя система ценностей, и в ее рамках одни цели важнее других. Собственно, приоритеты целей в расширенном Вами понимании этого слова и есть "система ценностей".

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #26 : 02 Августа 2016, 17:22 »
  • (+)0
  • (−)0
  • И Вы вопреки Оккаму вводите новое понятие "успешен":  "...человек успешен, если он свою задачу решил (ну или хотя бы достиг каких-то полезных промежуточных результатов), и не успешен, если он не добился ничего". Но "успешен" - это внешняя характеристика. Представьте себе: успех может не являться целью! И результат может не являться целью.
    Нет, я под успехом подразумевал не это. Вот представьте, есть учёный, который получает удовольствие от процесса, но ему наплевать на цель. Но он получает удовольствие только от процесса исследования. А в придачу к исследованиям, ему надо ещё заполнять кучу бумажек на гранты, на получение реактивов, общаться с начальством, которое требует результатов, ещё заниматься какой-то ерундой, и вот это всё никакого удовольствия не доставляет, а скорее наоборот.
    И тут ему таки надо сделать какой-нибудь выбор, например, ему предлагают перейти в другую лабораторию. Исходя из чего ему следует делать этот выбор?
    И под "успехом" в моей терминологии тут подразумевается следующее: Есть гипотетический мир, где учёный поменял место работы, есть гипотетический мир, где он остался. Есть гипотетическое получаемое суммарное удовольствие в первом случае и во втором. Если по результатам выбора получаемое суммарное удовольствие из возможных максимально, значит, это был успешный выбор. Если нет - значит, не успешный. Нет никакого внешнего успеха, есть только внутренний, исходя из собственных же целей.

    Ну и, конечно, это был лишь пример, а на самом деле человек делает выбор почти постоянно, а не только в таких важных вехах.

    Цитировать
    Ну и на скрытый наезд отвечу так.
    Вообще-то вас я тут даже не собирался подразумевать :) Просто почему-то некоторые люди (я даже не знаю, включать вас в эту группу или нет) думают, что рациональность может относиться только к чему-то "строго объективному" и строго проверяемому. И это довольно частая ошибка и у меня сложилось впечатление, что kuuff тоже близок к тому, чтобы наступить на эти грабли.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #27 : 02 Августа 2016, 17:34 »
  • (+)0
  • (−)0
  • Я считаю, что это противоречащие утверждения. Если человека не устраивает его текущая ситуация, значит, у него есть какие-то амбиции. То, что он не может их сформулировать и/или удовлетворить, ни о чём не говорит. В конце концов, куча людей живут в жутких условиях и считают, что у них всё нормально, и только потом, если им почему-то везёт и они из своих условий вырываются, они ужасаются, как они раньше считали нормальным то, что считали.
    Да, и что? Вы к тому, что это иррационально? Да, наверное. Ну и что?

    Нет амбиций - это человек вообще не может придумать, что могло бы в его жизни улучшиться. А если человек придумать может, но просто уверен, что это нереалистично и поэтому заявляет, что он этого не так уж и хочет, то это "зелен виноград". Я считаю, что если человека всё устраивает, он не ругается с женой.
    Ругается. В том-то и дело.
    Это разные цели. Есть цель "решить задачу". Есть цель "получить удовольствие". Они могут совмещаться. Они могут не совмещаться. Они могут совмещаться с разными приоритетом. Они могут совмещаться с ещё кучей других целей. Но это разные цели и у них разные критерии достижения.
    А если у меня задача -- получить максимум удовольствия? Или так нельзя и это нерационально? Но тогда я не хочу рациональности.
    Представим учёного, который приступает к важной для него задаче. И представим, что к нему приходит оракул, доказывает, что он оракул и говорит: "Я знаю, что ты ничего не добьёшься. Задачу ты не решишь, никто твои результаты использовать не будет, и вообще, через полгода после того, как ты бросишь, эта задача потеряет актуальность. Но удовольствие ты получать будешь. Я даже сотру тебе память о нашем разговоре, чтобы знание о бесперспективности твоей работы тебе не мешало. Оставлю память лишь о том, что ты выбрал. Итак, ты всё-таки будешь заниматься этой задачей?"
    Я уверен, что большинство учёных откажется. А тот, кто согласится... ну, значит, для него цель "решить задачу" на самом деле не цель.
    Я бы сказал, что не согласится никто. Даже те, для кого "решить задачу" не является целью. Потому что оракул просто испортит весь кайф.
    Хотя... Я неоднократно пытался написать программы, про которые я знал, что не смогу написать, и никто не может их написать. Я их писал только для того, чтобы узнать, почему я не смогу написать такую программу. Просто потому, что у меня не было достаточно чёткого понимания того, в чём собственно проблема. Это считается за пример того, что мне важнее процесс, а не результат? Или в данном случае всё же какой-то результат был, и поэтому появление оракула было невозможным?
    Это зависит от того, какая у вас цель. Человек может ездить на велосипеде, чтобы попасть из точки А в точку Б. Человек может ездить на велосипеде, чтобы поддерживать физическую форму. Человек может ездить на велосипеде за компанию с кем-то, потому что ему доставляет удовольствие общение. Человек может ездить на велосипеде просто потому, что ему доставляет удовольствие это занятие на каком-то физиологическом уровне, который не контролируется "сознанием". Все эти цели (и, подозреваю, это далеко не исчерпывающий возможный список) совершенно разные. Все эти цели можно достигать и какими-то иными путями. Но для этого надо понять, а какие именно из них для вас важны, а какие - не очень.
    Нет. Я теряю половину кайфа от езды на велосипеде, если я начинаю думать об этом рационально. Если я включаю психотерапевта, и начинаю разбирать вопросы "почему мне нравится ездить на велосипеде", то я просто теряю способ получать удовольствие, не получая взамен никакого другого способа. Я научился не думать об этом, чистой воды двоемыслие по Оруэллу. И поэтому ваши попытки испортить мне кайф, вынудив меня подумать об этом, повалились. Попробуйте какой-нибудь другой способ.

    Проблема в том, что я не уверен, что для человека всё упирается в чистое физиологическое удовольствие. Если человеку, которому нравится езда на велосипеде, сказать: "Давай мы на тебя наденем костюм виртуальной реальности и ты будешь испытывать ровно те же ощущения", он согласится? Если болельщику футбольной команды сказать, давай мы тебе сделаем укол, и ты испытаешь ровно те же ощущения, которые испытываешь, когда твоя команда забивает гол, он согласится? Предположим, человек получает возможность накопить достаточно крупную сумму денег, чтобы нанять очень квалифицированную команду врачей, которые разработают работающий курс введения веществ, от которых он будет постоянно чувствовать себя счастливым. Многие ли согласятся?
    Я не знаю, согласятся ли многие, но если я буду мыслить рационально, то я соглашусь. Поэтому я не мыслю рационально о том, как получать удовольствие.

    Я не знаю способа рационально рассуждать о получении удовольствия и не заканчивать выводом, что экзогенные эндорфины -- это самый рациональный способ получать удовольствие. Поэтому я не рассуждаю рационально о получении удовольствия. Я считаю, что это просто за границами применимости рациональности, и поэтому любой рациональный вывод будет потенциально ошибочным. На самом деле и нерациональный тоже, тут дело в том, что рациональные выводы в данном случае не имеют иммунитета истинности, так же как и все остальные.
    Если мне хочется ехать на велосипеде, то я поеду на велосипеде. И если к чему я и буду применять рациональность, так не к тому "ехать ли на велосипеде", а к вопросам типа какой велосипед купить, или как застраховать себя от ситуации "велосипед сломался в лесу в тридцати километрах от ближайшего населённого пункта", или что делать с тем, что ноги работают три с небольшим часа, после чего прекращают и никакие усилия воли, никакое превозмогание не помогают.

    Прошу прощения, не понял. Расшифруйте, пожалуйста.
    Ну вы говорите, что умение объяснять -- это режим провала. Все эти суперпредсказатели тоже умеют объяснять, если бы они не умели, они бы не смогли сочинять матмодели для тех процессов, исходы которых они предсказывают. И их модели содержат в себе гораздо больше бит информации, чем количество информации, которое они получают в качестве подтверждения на сбывшихся прогнозах. Ровно то же самое, что и в моём случае. Только они ради повышения точности прогнозов работают над своей моделью более формально. Им, интересно, за это денег платят, или они занимаются этим чисто ради удовольствия делать прогнозы? Или они делают ради удовольствия, а деньги получают для того, чтобы когда им зададут вопрос "зачем тебе это надо", не приходилось бы выставлять вопрошающего из лаборатории, так как это делал Фарадей?
    Кстати, а задавая такие вопросы вам, я не рискую испортить вам кайф от процесса стремления к рациональности?

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #28 : 02 Августа 2016, 17:51 »
  • (+)1
  • (−)0
  • Если я включаю психотерапевта, и начинаю разбирать вопросы "почему мне нравится ездить на велосипеде", то я просто теряю способ получать удовольствие, не получая взамен никакого другого способа. Я научился не думать об этом, чистой воды двоемыслие по Оруэллу. И поэтому ваши попытки испортить мне кайф, вынудив меня подумать об этом, повалились.

    [Режим психотерапевта]
    Так не должно быть. Если ощущение удовольствия пропадает при размышлении об удовольствии, то высоки шансы наличия запрета на получение удовольствие. Некая часть внутри человека запрещает получать удовольствие от деятельности, целью которой является только получение удовольствия. Стоит этот запрет найти и переформулировать в более конструктивную форму.
    [/Режим психотерапевта]

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #29 : 02 Августа 2016, 18:31 »
  • (+)0
  • (−)0
  • [Режим психотерапевта]
    Так не должно быть. Если ощущение удовольствия пропадает при размышлении об удовольствии, то высоки шансы наличия запрета на получение удовольствие. Некая часть внутри человека запрещает получать удовольствие от деятельности, целью которой является только получение удовольствия. Стоит этот запрет найти и переформулировать в более конструктивную форму.
    [/Режим психотерапевта]
    Это режим психоаналитика, а не режим психотерапевта. Вы только про эдипов комплекс забыли упомянуть, а во всём остальном -- неплохое подражание.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #30 : 02 Августа 2016, 18:33 »
  • (+)0
  • (−)0
  • Это режим психоаналитика, а не режим психотерапевта.

    В чем отличие?

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #31 : 02 Августа 2016, 19:14 »
  • (+)0
  • (−)0
  • В чем отличие?
    Мне проще сказать в чём сходство. В поверхностности и категоричности.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #32 : 02 Августа 2016, 19:16 »
  • (+)0
  • (−)0
  • Кстати, а задавая такие вопросы вам, я не рискую испортить вам кайф от процесса стремления к рациональности?
    Я полагаю, что это маловероятно. Дело в том, что я через эти вопросы уже прошёл зимой, и даже пример с группой врачей с веществами я придумал не сам, его применили против меня (кстати, успешно, в смысле у меня из-за этого поменялась точка зрения). Но у меня и ответ другой был, и стартовые условия другие :) Боязни поломать себе весь кайф от чего-то, задумываясь о том, а благодаря чему я этот кайф получаю, у меня не было ни до, ни после и сейчас, по-моему, тоже ничего не поменялось. Как по мне, задумываясь о том, благодаря чему получаешь кайф, можно получать его больше и эффективнее. И я как-то даже не задумывался о том, что у кого-то может быть по-другому.

    Попробую зайти с другой стороны. На LW любят такое понятие, которое называется "функция полезности". Оно определяется на множестве всех возможных миров и для любых двух миров говорит, какой мир более предпочтителен. Считается, что функция полезности у человека может быть вообще любой, в смысле, наличие какой-то "странной" с чьей-то точки зрения функции полезности ещё не говорит о том, что человек не является рационалистом. Единственное ограничение - она не должна быть противоречивой. Если получается, что мир А предпочтительнее Б, Б предпочтительнее В, а В предпочтительнее А, то что-то тут не так.

    Но, грубо говоря, нельзя назвать нерациональным человека за то, что у него, скажем, мир, где он ездит на "Запорожце", предпочтительнее, чем мир, где он ездит на "Бентли". Или, что у него слишком малый приоритет стоит у мира, где ему группа квалифицированных врачей вводят вещества для удовольствия. Или наоборот, у этого мира слишком большой приоритет. Функция полезности - это иной способ описать наши ценности, а ценности могут быть любыми, в этом нет ничего иррационального (повторюсь, некоторые тут со мной не согласятся).

    Именно благодаря как-то встроенной в нас функции полезности мы принимаем решения. Мы оцениваем, к каким возможным мирам приведут наши действия и смотрим, что для нас более предпочтительнее. Естественно, это верно только для тех решений, которые мы принимаем осознанно.

    И, соответственно, смысл инструментальной рациональности - это достижение более оптимальных возможных миров с точки зрения собственной функции полезности. Именно это я в предыдущих сообщениях называл "успехом". Поэтому я считаю, что в любых ситуациях, когда человек делает осознанный выбор, он может применять рациональность. Рациональность сводится к моделированию, к какому из возможных миров приведут его действия или их отсутствие.
    В ситуациях, где осознанного выбора нет, никакой рациональности быть не может, да и то, с оговоркой, что можно себя натренировать на некоторые ситуации, чтобы в них даже неосознанно делать выбор, который сочтён более оптимальным.

    Поэтому для меня заявление "вопрос о том, ехать на велосипеде или не ехать, нельзя в моём случае решать рационально" эквивалентно тому, что этот вопрос нужно решать, например, броском монетки. Или ожидая мистического озарения. Или ещё что-нибудь в таком духе. Если этот вопрос решается осознанно, значит, он решается из каких-то соображений. Значит, есть какие-то предпочтения. Они могут быть объективные или субъективные, это не важно, важно то, что по каким-то причинам (тоже не важно каким), человек чувствует, что для него есть какая-то разница, поедет он на велосипеде или нет. Если у него в функции полезности мир, где он едет на велосипеде, приоритетней мира, где он на нём не едет (при любых прочих условиях) не может быть рациональным не ехать. Но в реальности так не бывает :)

    Другое дело, что функция полезности у нас не лежит в открытом доступе, и иногда мы сами не понимаем, что мы больше хотим, или ошибаемся в этом вопросе. Но, как мне представляется, рациональность вполне позволяет и исследовать собственную функцию полезности.

    Так понятней?

    Цитировать
    Им, интересно, за это денег платят, или они занимаются этим чисто ради удовольствия делать прогнозы? Или они делают ради удовольствия, а деньги получают для того, чтобы когда им зададут вопрос "зачем тебе это надо", не приходилось бы выставлять вопрошающего из лаборатории, так как это делал Фарадей?
    Это намёк, мол, суперпредсказатели в итоге занимаются своим делом для удовольствия, участники форума тут болтают ради удовольствия, так в чём разница? На этот вопрос я даже могу ответить. Если я приду к выводу, что участникам форума совершенно не нужно ради удовольствия строить фальсифицируемые гипотезы, им нет никакой надобности проверять свои теории, то это повлечёт вывод, что мне с такими людьми общаться не интересно. Ну, в общем-то у меня и так пара человек в игноре уже. И я могу в какой-то момент таки придумать концепт правил и действий по их поддержанию, который будет направлен на сокращение таких людей на форуме и попробовать его реализовать :)

    Т.е. да, я не могу заявить, что форумчане ведут себя нерационально ведя себя так, как ведут, если в их функции полезности так вести себя более оптимально, чем так себя не вести. Но тут есть разные неучтённые последствия. Например, Yuu сочтёт, что этот форум ничуть не служит делу распространения рациональности и закроет его. (Это была абсолютно гипотетическая конструкция, мне абсолютно ничего неизвестно о настоящих планах и намерениях Yuu на этот счёт, и я прошу прощения, если это предположение его вдруг чем-то обидит.) Насколько предпочтителен этот исход для форумчан, для которых вроде как оптимально болтать на этом форуме, я, естественно, ничего сказать не могу.

    Да, я понимаю, что последний фрагмент смотрится как-то совершенно по-дурацки, но если мы сводим всё к удовольствиям, и внезапно обнаруживаем, что любое отступление от предпринимаемых действий уменьшает количество удовольствия, то конфликт интересов неизбежен. К счастью, в реальном мире обычно бывает не так.

    Да, я вынужден признать, что ключевая разница между суперпредсказателями и обитателями форума, которые строят нефальсифицируемые теории и не желают переходить к фальсифицируемым, сводится к тому, что первое поведение мне кажется более достойным поощрения, чем второе. Возможно, я смогу это как-то обосновать, но тут проблема, что вывод уже написан заранее.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #33 : 02 Августа 2016, 20:28 »
  • (+)0
  • (−)0
  • Другое дело, что функция полезности у нас не лежит в открытом доступе, и иногда мы сами не понимаем, что мы больше хотим, или ошибаемся в этом вопросе. Но, как мне представляется, рациональность вполне позволяет и исследовать собственную функцию полезности.
    Вы ставите знак равенства между функцией полезности и таким психическим процессом как мотивация? А вы не думали о том, что функция полезности нужна рационалистам для того, чтобы управлять этим психическим процессом?
    Функция полезности -- это абстракция. И этой абстракцией описать поведение человека не удастся. Реальный процесс человеческой мотивации гораздо сложнее, чем просто функция полезности. Можно пытаться впихнуть поведение человека в эту абстракцию, можно пытаться вести себя так, будто эта абстракция работает. К чему собственно прикладная рациональность и подталкивает своих адептов. И да, это будет делать поведение более рациональным. Но на достаточно большом промежутке времени даже поведение рационалиста нельзя будет описать при помощи функции полезности, потому что как вы сами сказали, рационалист будет эту свою функцию менять со временем, отражая те изменения, которые претерпевает его личность.
    Плюс мне не очень нравится сама идея. Есть вещи, которые функция полезности и рациональность построенная на ней помечают как иррациональные, но они мне не кажутся иррациональными. И отчасти такое несоответствие возникает как раз из-за замены человеческой мотивации функцией полезности.

    Знаете, я тут узнал такой замечательный факт, что во время родов организм женщины залит окситоцином, что приводит к тому, что память у женщины работает хуже, из-за чего женщина не запоминает насколько же неприятно рожать, с ней не случается посттравматического стрессового расстройства, и, в конечном итоге, не возникает такой модели поведения как избегание родов в будущем. Несмотря на то, что ей было очень больно и неприятно, женщина потом с удовольствием рассказывает каждому, кто не успел сбежать, как она рожала, смакуя все детали, явно получая удовольствие от воспоминания. Хотя если бы её память во время родов работала бы в нормальном режиме, она бы может быть и рассказывала, но морщась от воображаемой боли, замолкая периодически, потому что воспроизведение памяти воспроизводило бы и болевые ощущения тоже.
    И я вот о чём думаю, а стоит ли соглашаться на болезненную хирургическую операцию, в течение которой вместо наркоза будет применятся окситоцин? Ну или ещё проще, если операцию сделают без наркоза, а потом сотрут память Обливейтом. Причём без каких-либо последствий для психики. Ну да, тут ситуация осложняется тем, что если есть выбор, наверное стоит выбрать всё же традиционный наркоз, если нет, то куда ж я денусь с подводной лодки, но... А если предположить, что операция с окситоцином/Обливейтом дешевле, то насколько она должна быть дешевле, чтобы было бы рациональным согласиться? Или если вспомнить, что традиционный наркоз гораздо вреднее для организма, чем окситоцин. Можно ли эту ситуацию осмысленно моделировать на базе функции полезности, или тут придётся придумывать другую абстракцию?

    Это намёк, мол, суперпредсказатели в итоге занимаются своим делом для удовольствия, участники форума тут болтают ради удовольствия, так в чём разница?
    Нет. Это намёк на то, что суперпрогнозисты могут быть недостаточно рациональны, и сами того не понимая придумывать "успешные" объяснения своему детскому поведению. Причём, даже не для того намёк, чтобы выставить суперпрогнозистов иррационалистами, а чтобы дать ещё один повод подумать о том, как строится мотивация человека. Как, например, учёный может заниматься бесперспективными исследованиями.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #34 : 02 Августа 2016, 21:40 »
  • (+)0
  • (−)0
  • Мне проще сказать в чём сходство. В поверхностности и категоричности.

    Сходство кого с кем?

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #35 : 02 Августа 2016, 22:00 »
  • (+)0
  • (−)0
  • И под "успехом" в моей терминологии тут подразумевается следующее: Есть гипотетический мир, где учёный поменял место работы, есть гипотетический мир, где он остался. Есть гипотетическое получаемое суммарное удовольствие в первом случае и во втором. Если по результатам выбора получаемое суммарное удовольствие из возможных максимально, значит, это был успешный выбор. Если нет - значит, не успешный. Нет никакого внешнего успеха, есть только внутренний, исходя из собственных же целей.
    И смотрите, к чему мы придем, так вот расширяя и расширяя термин рациональность. К самоочевидному "понимать себя", сформулированному Десмодом в теме, которую (без разрешения, кстати  >:() Вы сделали моей.

    А давайте в семантику поиграем. Можем, смогу Вам помочь объяснять суть врагам и неофитам. ;)
    Слово "рациональный" имеет в русском языке два довольно хорошо различимых значения. (В Вики п.3 - почти то же, что п.1, но с другим типом субъекта, 4 и 5 - производные от спецтерминов).
    Вы явно настаиваете на 2 значении, правда? А большинство (ну, например, я) приходит на форум воспевать или хаять первое.
    Типичная коннотативная аберрация в терминах тех курсов, которые слушал я.
    Прежде всего, давайте научимся быстро отличать значения. Для этого, как нас учили, следует найти отличительный атрибут. (Чисто байесианский приемчик, кстати). Думаю, в данном случае можно так сделать. Рациональный в 1-м значении - неисчисляемое понятие, оно не допускает сравнительной степени. Или рациональный - или иррациональный, третьего не дано. А вот ко второму значению сравнительную степень применить вполне можно: "более рациональный". Вы лучше понимаете смысл, который вкладываете - вам и решать, подходит ли такой тест для снятия аберрации.
    Теперь давайте подумаем, откуда она взялась. Выскажу такую гипотезу: прежде всего, из-за Юдковски, которые постоянно смешивает инструментальную рациональность, которая в вашем изложении выглядит чисто по п.2, с эпистемологической, которой, увы, по п. 2 не бывает. Хуже того, он периодически приплетает еще и 4 значение, что у меня вызывает только ухмылки. Во всяком случае, у меня сложилось четкое ощущение (возможно, из-за перевода) что данная аберрация прежде всего в голове Юдковски, а уже оттуда ползет на форум и всюду. Посмотрите, ну как я должен по контексту этого форума понимать термин, если исключить ваши комменты? Все упорно противопоставляют рациональное и иррациональное, очень редко и в размытом контексте возникают сравнительные степени.
    Как-то так.




    Muyyd

    • Ветеран
    • ****
    • Сообщений: 756
    • +45/-1
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #36 : 02 Августа 2016, 22:57 »
  • (+)0
  • (−)0
  • Надеюсь, Аларик не попадется и не станет обсуждать рациональность в рамках определений поп культуры, а  останется в рамках максимизации ожидаемой полезности (инструментальной рациональности - как достигать целей наиболее эффективно) и  байесовского вывода (эпистемической рациональности - как наиболее точно сводить свою модель реальности с наблюдаемыми свидетельствами), как нормативных моделей.

    Обе нормы, как видно - количественные, т.е. можно быть более или менее рациональным.

    Стоит признать, однако, что, лишь на основании переведенных статей, такого понимания рациональности не получить.

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #37 : 02 Августа 2016, 23:34 »
  • (+)2
  • (−)0
  • Как по мне, задумываясь о том, благодаря чему получаешь кайф, можно получать его больше и эффективнее. И я как-то даже не задумывался о том, что у кого-то может быть по-другому.
    Бывает по-разному. Скажу так: в спонтанности решений часто есть свой кайф.
    Мне кажется, здесь вот в чем фича. Включение рационального мышления воспринимается (эмпатируется другими и рефлексируется мной) как некая неискренность. Испортить таким образом отношения с девушкой - сполпинка. Ну, не с каждой, наверное, но обычно женщины очень эмпативны, Вы и не поймете, с чего вдруг она раздраженно развернулась на каблуках и... В некоторых случаях и с собой надо быть искренним, иначе потеряешь кайф. К сожалению, рационально (в 1 смысле) отличить эти ситуации на практике не получается, голимая эвристика или что похуже.
    Именно благодаря как-то встроенной в нас функции полезности мы принимаем решения. Мы оцениваем, к каким возможным мирам приведут наши действия и смотрим, что для нас более предпочтительнее. Естественно, это верно только для тех решений, которые мы принимаем осознанно.
    А это довольно редкий класс решений.
    В ситуациях, где осознанного выбора нет, никакой рациональности быть не может, да и то, с оговоркой, что можно себя натренировать на некоторые ситуации, чтобы в них даже неосознанно делать выбор, который сочтён более оптимальным.
    Не согласен. Оговорка весомее тезиса. Рациональность во 2-м смысле (=оптимальность) как раз чаще проявляется эвристически. Называется "здравый смысл". Тут дело вот в чем. Это длинный отдельный разговор, но ум и рациональность - не синонимы. Для ума нужно прежде всего хорошее образование. А оно состоит не только в развитии Системы 2, но прежде всего именно в развитии системы 1. Если это хорошее образование. В технических вузах физике учат плохо как раз потому, что тренируют только знания. Но для настоящего физика критически важно неощутимое такое понятие "физический смысл". Я не могу объяснить, что это такое. Чисто эвристическое понятие. Первые два года на физфаке студенты изучают то, что им не пригодится в работе. Зачем? А затем, что их учат правильно думать. Им тренируют эвристику. Мне повезло еще и со школой: "константиновская система" так и называется "эвристическое обучение" - это когда тебя учат думать, а не просто знать правила и формулы. И большая наука, вопреки мнению Юдковски, делается не рациональными рассуждениями, а почти голой эвристикой. Потому что она заключается не в рассуждениях, а в выборе гипотез. Отбрасывать сотни которых рационально - ну... не бывает хороших ученых с плохим (т.е. неэвристическим) образованием.
    ...если мы сводим всё к удовольствиям
    Вы знаете, я сейчас сделаю наглое заявление. Тот тренинг, про которые Вы рассказывали в "моей" теме, мне кажется, не был доведен до конца, а был прерван на самом интересном, устраивающем ведущего месте. Наш тренинг на каузальную аберрацию (я уже применял этот термин, это именно она) шел иначе. Девушка-аспирантка, которая его вела, обладала какими-то уникальными манипулятивными способностями. Она просто выворачивала нас наизнанку.  (Половина группы сбежала уже после второго занятия). Так вот, процесс прописывания целей (Зачем вы это делаете?-Чтобы спасти мир!- А зачем вам спасать мир?-Чтобы все были счастливы?-А зачем это вам?...) вскоре наталкивался на жуткое сопротивление и тупеж испытуемых. Потому что в нас императивно зашиты некие тезы типа "альтруизм-хорошо, эгоизм - плохо", а по мере вскрытия целей неминуемо обнаружится, что в конце каждой (каждой!!) цепочки оказывается эгоистичное "для собственного кайфа". Испытуемые сопротивлялись тому, чтобы признаться в этом, до последнего. Девушка ломала защиту жесточайшим образом. Доходило до истерик: "Вы что же думаете, я полный и законченный эгоист, да? так получается??!" - "Ну вы же сами видите, вот вы всё написали и сами себе это доказали". Катарсис, да. Жуткий! Но это была только первая часть тренинга! Помню чей-то ехидный вопрос: "Это что же, по вашему получается, что Матросов броситлся на амбразуру из эгоистических побуждений, для собственного кайфа?" На что был ответ: "Нет, это у вас так получается".
    И затем нам объяснили, что в этом вот глубоком внутреннем эгоизме ничего "плохого" нет, не надо его стесняться. Что самое-самое глубинное "я" действительно не видит ничего, кроме себя же. Но человек соприкасается с миром не этим глубинным я. Судят о нем по делам, а не по сверхглубоким мотивам. Что энергетика всякого мотива - да, эгоистична. Но модальность его связана с целым рядом других аспектов сознания. (С категорическим императивом, например - хотя это отсебятина). И социальное поведение связано именно с такой модальностью. ТО есть, каузальную цепочку "Я хочу, чтобы ближнему было хорошо" -"Зачем" - "Потому что мне это в кайф" можно оборвать раньше - там, где заканчивается внешняя модальность мотива - та часть, которая направлена вовне себя. И что в т.н. "пограничных ситуациях" (как с Матросовым, или вообще перед лицом смерти) императив нередко "перехватывает управление", и человек совершает нечто совершенно иррациональное и неэгоистичное. (Есть учение о пограничных ситуациях - это то ли Ясперс, то ли Хайдеггер.) И что именно на этой границе модальности лежит осмысливающее жизнь начало. Голый гедонизм не осмыслит жизнь. А вот забота о ближнем - вполне.
    Вот такой был тренинг. Наверное, все же другой. Нас учили не бояться эгоизма, но отслеживать (рефлексировать) свои желания максимально искренне, избегать самообманов (аберраций), привносимых "наносными" принципами. "У вас есть свои внутренние принципы. Найдите их!" Вроде бы это похоже на "поймите свои цели", но все же, имхо, чуть глубже.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #38 : 03 Августа 2016, 01:47 »
  • (+)0
  • (−)0
  • Разъясняю свою позицию.

    Лично я слово "рациональный" использую исключительно в определении Юдковского. В данной теме использовался вариант "инструментальная рациональность".

    Рациональное поведение для меня - это поведение, позволяющее достигать поставленных самим же собой перед собой целей. Фраза " Это намёк на то, что суперпрогнозисты могут быть недостаточно рациональны, и сами того не понимая придумывать "успешные" объяснения своему детскому поведению." для меня означает, что у суперпрогнозистов, возможно, есть какие-то цели, которые они могли бы достигать более успешно, если бы вели себя по-другому. Я готов это допустить, если мне хотя бы набросают какие-то варианты, что это могут быть за цели, и какие у нас основания так считать.

    kuuff, прошу прощения, но я не понимаю, в каком смысле используете слово "рациональный" и "иррациональный" вы. Разъясните, пожалуйста. Вы можете переписать, скажем, предложение: "Есть вещи, которые функция полезности и рациональность построенная на ней помечают как иррациональные, но они мне не кажутся иррациональными." не используя слова "рациональное" и "иррациональное"?

    anagor1
    У меня была мысль написать, мол, хилые у вас были какие-то студенты на тренинге, но потом я вспомнил, что дело было ещё в СССР, а тогда было несколько другое отношение к слову "эгоист" :) Я сам себя совершенно не стесняясь считал "жутким и законченным эгоистом, который делает всё исключительно для собственного кайфа" где-то с конца школы и по конец прошлого года :) А вот в конце прошлого года мне эту прекрасную мыслительную конструкцию поломали, с помощью уже упомянутого выше мыслительного эксперимента с командой врачей с веществами. Потому что мой ответ на этот вопрос был "нет, я бы на это не согласился". И после этого я был вынужден признать, что ответ "я - эгоист" - это просто не ответ. И если мы не определяем счастье через чистую физиологию, то это не цель, а индикатор движения к цели. После этого мне, правда, пришлось выкопать вопрос о смысле жизни, который, как мне казалось, где-то в районе конца школы я успешно закопал, но это другая история :)

    Цитировать
    Не согласен. Оговорка весомее тезиса.
    Нет, потому что выбор всё равно происходит - когда ты принимаешь решение тренировать такие навыки.
    И могу сообщить, что тому же CFAR'у прекрасно известно, что тренировать надо именно Систему 1, и достаточно много места в блогах американских представителей LessWrong'а занимает вопрос тренировки рациональных привычек. Я вообще последнее время думаю, что стоило бы сосредоточиться на переводе статей именно на эту тему, чтобы люди лучше представляли, что такое "прикладная рациональность" и как именно она "прикладывается" и к чему, но всё руки не доходят.

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #39 : 03 Августа 2016, 11:04 »
  • (+)0
  • (−)0
  • Любопытно, но, пожалуй, можно сформулировать тезис, по которому в данной теме есть консенсус: "Подборка переведенных на р.я. материалов по РМ малорепрезентативна."

    К ожалению, времени разводить длинные антимонии больше нет. Я давно не получал столько кайфа от инет-коммуникаций, большое вам спасибо, господа; но увы, кайф всё же не единственная цель... ну или, точнее, есть и другие виды кайфа. ;) 

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #40 : 04 Августа 2016, 01:38 »
  • (+)0
  • (−)0
  • Люди, я понимаю, что тема несколько отошла от первоначальной, но теории Княжны, по-моему, вообще не имеют никакого отношения к обсуждаемому. Удалено.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как \"режим провала\"
    « Ответ #41 : 04 Августа 2016, 11:22 »
  • (+)0
  • (−)0
  • kuuff, прошу прощения, но я не понимаю, в каком смысле используете слово "рациональный" и "иррациональный" вы. Разъясните, пожалуйста. Вы можете переписать, скажем, предложение: "Есть вещи, которые функция полезности и рациональность построенная на ней помечают как иррациональные, но они мне не кажутся иррациональными." не используя слова "рациональное" и "иррациональное"?
    Могу перефразировать. Есть решения, которые я принимаю в жизни, и которые я буду принимать в жизни и в дальнейшем, которые я не могу объявить рациональными. Я не могу эти решения объяснить "эффективностью", "логичностью", "байесовскостью", "рациональностью" или любым другим словом. Более того, я сомневаюсь, что если "эффективность", "логичность", "рациональность" скажут что принимаемые мною решения неправильны, то я изменю своё поведение.
    Функция полезности призвана промоделировать человеческую мотивацию, но человеческая мотивация сложнее. И проблема в том, что если она где-то и противоречива, то эти противоречия иногда неустранимы. По-крайней мере нет очевидного способа устранить эти противоречия. Как человек переживает боль? Канеман об этом писал по-моему. Если боль изменялась функцией f(x), которая возрастала при x возраставшем от t0 до t1, и была равна нулю при всех остальных x'ах, то человек воспринимал это как более неприятное переживание, нежели f'(x), которая на промежутке от t0 до t1 совпадала с f(x), а на промежутке от t1 до t2 плавно убывала. Какой вывод из этого нужно делать? Что f'(x) лучше чем f(x), или что f(x) лучше чем f'(x)? Что я должен предпочесть, столкнувшись с выбором?
    Я не знаю. Рациональный подход, скорее всего, будет подразумевать сравнение значений определённых интегралов f(x)dx, и соответственно надо выбирать тот, где значение меньше, то есть первый вариант, который субъективно воспринимается как более болезненный. Но мне не кажется это очевидным. А если мы попробуем положиться здесь на человеческую оценку, то мы придём к тому, что функция полезности будет содержать противоречия. То есть, если мы пойдём таким путём, то нам придётся признать, что функция полезности -- ущербная абстракция.

    Добавлено 04 Августа 2016, 11:50:
    А, и я подумал, есть ещё один пример, в котором рациональность с функцией полезности, на мой взгляд фейлится в ноль.
    Этот пример: цена моей жизни. Я постоянно позволяю себе рисковать этой самой жизнью. С небольшими шансами умереть, но всё же постоянно позволяю. Используя функцию полезности мы можем сопоставить жизнь и деньги. В моём случае придётся делать это косвенно, скажем оценивая тот риск, на который я готов и не готов идти ради развлечений, сравнивая ценность жизни и получаемое удовольствие, а затем можно сравнить получаемое удовольствие с деньгами, которые я готов потратить на соответствующее количество удовольствий. Либо, можно рассмотреть не меня, а человека который зарабатывает на жизнь риском для жизни, и прикинуть как он должен рассуждать. Не важно как именно, но функция полезности подразумевает, что я должен иметь возможность выбрать некую стоимость своей жизни -- X, и потом всегда непротиворечиво следовать ей.

    Но если мне предложат X+1р. за самоубийство, должен ли я соглашаться? Нет, наверное, потому что умерев я не смогу воспользоваться деньгами. То есть, если вероятность умереть в игре равна 1, нельзя просто взять формулу p(умереть)*(вознаграждение за смерть)-p(выжить)*X и принимать решение основываясь на знаке этой формулы, так? Но когда вероятность умереть равна нулю или близка к нулю, то можно. Так? А если вероятность близка к 1? Или она близка к 1/2? Когда можно тупо применять формулу, а когда нельзя? Можно ли написать другую формулу, которая будет более общей и которая покроет все эти варианты?

    Я отмечу, на всякий случай, что вариант приравнять X бесконечности -- тоже не выход, потому что в таком варианте мы запретим себе какой-либо риск вообще. Мы вообще потеряем возможность принимать решения, потому что любое принятие решений для нас превратится в дилемму выбора между одной минус бесконечностью ожидаемой полезности и другой минус бесконечности ожидаемой полезности.

    И такое с рациональными рассуждениями случается постоянно. На регулярной основе приходится рационализируя тот или иной исход выходить за рамки абстракции, и начинать рассуждать в терминах исходной ситуации. Что ставит под вопрос всю эту рациональность, потому что нет единого способа рассуждений, а выбор конкретного способа рассуждений производится человеческим разумом, по не совсем понятным алгоритмам.
    « Последнее редактирование: 04 Августа 2016, 11:50 от kuuff »

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как \"режим провала\"
    « Ответ #42 : 04 Августа 2016, 12:43 »
  • (+)1
  • (−)0
  • Могу перефразировать. Есть решения, которые я принимаю в жизни, и которые я буду принимать в жизни и в дальнейшем, которые я не могу объявить рациональными. Я не могу эти решения объяснить "эффективностью", "логичностью", "байесовскостью", "рациональностью" или любым другим словом.
    Ещё одно использование слова "рациональными". Вы не можете объявить эти решения какими именно?
    У вас есть какие-то важные для вас основания, за счёт которых вы принимаете именно эти решения? Важные для вас, не для каких-то сторонних людей или какого-нибудь научного метода? Есть ли у вас хоть какая-то цель (не важно, насколько другой человек сочтёт её оправданной или насколько она с вашей точки зрения соответствует "критериям правильности цели" не важно какой концепции), которую вы преследуете принимая именно те решения, которые принимаете? Если есть, можете ли вы теоретически задуматься, что этой цели (мы опять же не задумываемся о её "правильности") можно было бы достигать иным путём?

    Цитировать
    Более того, я сомневаюсь, что если "эффективность", "логичность", "рациональность" скажут что принимаемые мною решения неправильны, то я изменю своё поведение.
    Эффективность достижения своих собственных целей оцениваете лично вы. Не я. Не Юдковский. Не какой-то мифический дух рационализма. Только вы. Можете ли вы сказать, что вы сами искренне считаете какие-то свои действия неэффективными, но продолжаете их повторять? Можете ли вы сказать, что умышленно предпринимаете действия, от которых лично вам с вашей точки зрения становится хуже именно в той перспективе, которая для вас наиболее важна в момент принятия решения?

    Цитировать
    Рациональный подход, скорее всего, будет подразумевать сравнение значений определённых интегралов f(x)dx, и соответственно надо выбирать тот, где значение меньше, то есть первый вариант, который субъективно воспринимается как более болезненный.
    Почему он будет это подразумевать? Какую цель мы решим, если мы примем такой подход? Почему вы считаете цель снижения субъективного ощущения боли "нерациональной"? (Если не считаете, прошу прощения, но в этом случае я не понимаю, почему вы это написали.)
    Даже если мы оторвёмся от "нашего субъективного" (я не считаю это необходимым, если что). Предположим, мы - врачи, и нам зачем-то очень нужно вылечить некоего человека. Для этого нужно, чтобы он прошёл через сто болезненных процедур. Мы не можем его заставлять ходить на процедуры, он каждый раз принимает решение добровольно. Мы точно уверены, что второй вариант для него субъективно менее болезненен. Предположим, что он не грозит осложнениями для его здоровья из-за больших шансов болевого шока или чего-то ещё. Какой нам вариант следует предпочесть: первый или второй?
    Попытки оторваться от субъективных оценок (не важно, себя или других людей) приведёт к тому, что наши решения будут вообще оторваны от реальности. Такая "рациональность" как раз никому не нужна, ибо в ней нет никакого смысла.

    Цитировать
    А, и я подумал, есть ещё один пример, в котором рациональность с функцией полезности, на мой взгляд фейлится в ноль.
    Этот пример: цена моей жизни. Я постоянно позволяю себе рисковать этой самой жизнью. С небольшими шансами умереть, но всё же постоянно позволяю. Используя функцию полезности мы можем сопоставить жизнь и деньги. В моём случае придётся делать это косвенно, скажем оценивая тот риск, на который я готов и не готов идти ради развлечений, сравнивая ценность жизни и получаемое удовольствие, а затем можно сравнить получаемое удовольствие с деньгами, которые я готов потратить на соответствующее количество удовольствий. Либо, можно рассмотреть не меня, а человека который зарабатывает на жизнь риском для жизни, и прикинуть как он должен рассуждать. Не важно как именно, но функция полезности подразумевает, что я должен иметь возможность выбрать некую стоимость своей жизни -- X, и потом всегда непротиворечиво следовать ей.
    Ничего подобного функция полезности не подразумевает.
    Есть вероятные гипотетические исходы. Есть исход А, когда мы рискнули, остались живы, получили деньги. Есть исход Б, когда мы рискнули и умерли. И есть исход В, когда мы не рискнули, не получили деньги и по уши огребли последствия от того, что мы эти деньги не получили. При этом, насколько я представляю, существует огромное количество людей, которые вполне в состоянии вообразить ситуацию, когда даже исход Б предпочтительнее исхода В. И ещё большее количество людей, для которых матожидание исходов А и Б (исходя из вероятности риска) предпочтительнее исхода В.
    Функция полезности совершенно не подразумевает, что есть какая-то фиксированная стоимость жизни. (Могут существовать люди, у которых функция полезности именно такая, но я сильно сомневаюсь, что таких много.)

    Цитировать
    Что ставит под вопрос всю эту рациональность, потому что нет единого способа рассуждений, а выбор конкретного способа рассуждений производится человеческим разумом, по не совсем понятным алгоритмам.
    С моей точки зрения, если бы был какой-то единый очевидный способ рассуждений, рациональность не была бы вообще нужна никому и не было бы ни этого форума, ни этой дискуссии :) Все бы пользовались этим единым способом рассуждений и всё.
    "Рациональность" для меня - это именно принятие решений в условиях неопределённости. Это, в том числе, попытка учесть субъективные мотивы - как свои, так и чужие. И так далее.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как \"режим провала\"
    « Ответ #43 : 04 Августа 2016, 14:09 »
  • (+)0
  • (−)0
  • Ещё одно использование слова "рациональными". Вы не можете объявить эти решения какими именно?
    Я перечислил там дальше в кавычках возможные замены для слова "рациональные". Вы можете подставить любую из них, или все сразу.
    Эффективность достижения своих собственных целей оцениваете лично вы.
    Да, я. Но зачем мне рациональность тогда? Зачем мне функция полезности, если я лично оцениваю эффективность своих действий?
    Даже если мы оторвёмся от "нашего субъективного" (я не считаю это необходимым, если что). Предположим, мы - врачи, и нам зачем-то очень нужно вылечить некоего человека. Для этого нужно, чтобы он прошёл через сто болезненных процедур. Мы не можем его заставлять ходить на процедуры, он каждый раз принимает решение добровольно. Мы точно уверены, что второй вариант для него субъективно менее болезненен. Предположим, что он не грозит осложнениями для его здоровья из-за больших шансов болевого шока или чего-то ещё. Какой нам вариант следует предпочесть: первый или второй?
    Вы конкретизируете ситуацию так, чтобы она стала бы разрешимой. Это упрощение задачи. Вы хотите сказать, что она неразрешима без конкретизации? Что в абстрактном виде она не может иметь единственного решения?
    Есть вероятные гипотетические исходы. Есть исход А, когда мы рискнули, остались живы, получили деньги. Есть исход Б, когда мы рискнули и умерли. И есть исход В, когда мы не рискнули, не получили деньги и по уши огребли последствия от того, что мы эти деньги не получили. При этом, насколько я представляю, существует огромное количество людей, которые вполне в состоянии вообразить ситуацию, когда даже исход Б предпочтительнее исхода В.
    Это для них будет связано не с размером вознаграждения трупу, а с другими соображениями, которые будут иметь самостоятельную ценность, которая либо не будет сводиться к деньгам, либо будет но безотносительно ценности жизни данной тушки.
    Я нарисовал вполне конкретную ситуацию: вознаграждение трупу за то, что он стал трупом. На это никто в здравом уме не пойдёт. Осложняющие ситуацию нюансы, типа возможности для наследников унаследовать вознаграждение, могут изменить смысл ситуации, могут изменить рациональность выбора смерти. Или, скажем, если эти деньги будут утилизированы вместе с трупом, то человеку может быть важно, что кто-то, чтобы выплатить вознаграждение, лишится этих денег, и ради этого наш герой станет героем. Но, вы обратите внимание, чтобы объяснить поведение человека в данной ситуации, мы начинаем привлекать иные рассуждения, те которые мы не привлекаем, когда оцениваем игру, с вероятностью умереть 0.05%.
    Это ad hoc построения. В просторечии "костыли". То есть построения, призванные залатать дыру в теории. Такие построения ставят всю теорию под знак вопроса.
    Я постоянно спотыкаюсь о такие ad hoc построения при попытках рационально проанализировать ту или иную ситуацию, и у меня складывается впечатление, что нужно бесконечное количество кослытей для того, чтобы рациональность работала.
    И встаёт невыносимо интересный вопрос: откуда я знаю, когда рациональности нужны ad hoc рассуждения? И если я лучше рациональности знаю, когда нужны ad hoc рассуждения, то может быть я рациональнее самой рациональности? А если я рациональнее рациональности, то зачем мне нужна рациональность?

    Функция полезности совершенно не подразумевает, что есть какая-то фиксированная стоимость жизни. (Могут существовать люди, у которых функция полезности именно такая, но я сильно сомневаюсь, что таких много.)
    С моей точки зрения, если бы был какой-то единый очевидный способ рассуждений, рациональность не была бы вообще нужна никому и не было бы ни этого форума, ни этой дискуссии :) Все бы пользовались этим единым способом рассуждений и всё.
    Да. В этом и есть цель рациональности -- найти наилучший способ рассуждений, которым будут пользоваться все. В отдалённой перспективе с полной потерей индивидуальности. Я не знаю, будет ли это плохо или хорошо -- я вижу и плюсы, и минусы, но в данном контексте ведь речь не об этом.
    При этом "плавающая стоимость жизни" -- это противоречие же, разве нет? В ГПиМРМ есть эти рассуждения, с объяснением как можно оценить стоимость жизни снизу и сверху, и почему важно, чтобы эти оценки были бы согласованы. Если же вы о том, что стоимость жизни плавно меняется со временем, то как это увязать с тем, что "если я знаю как я буду думать в будущем, то мне лучше уже сейчас думать именно так"? Если я знаю, что в будущем цена моей жизни возрастёт, то лучше уже сейчас считать поднять ценник. И наоборот.
    "Рациональность" для меня - это именно принятие решений в условиях неопределённости. Это, в том числе, попытка учесть субъективные мотивы - как свои, так и чужие. И так далее.
    Что ставит вопрос на том, что такое рациональность. Чем рациональность отличается от иррациональности.
    Тут на форуме где-то сохранилась наверное бесконечная дискуссия с logic'ом о том, что такое рациональность. Я не поднимал ту дискуссию с тех пор, и даже не перечитывал её, хотя я знаю, что моя точки зрения с тех пор изменилась. Я больше не верю в то, что сказать "рациональность -- это эффективность" достаточно для определения рациональности. Потому что это просто способ спрятать сложность проблемы под ковёр. Таинственный ответ на таинственный вопрос. Что такое эффективность? Если я возьму произвольную функцию отображающую множество всевозможных решений, которые может принять агент, на отрезок [0,1], и назову эту функцию определением эффективности решения, можно ли после этого будет поставить знак равенства между этой функцией и рациональностью? Ну, если мы будем принимать решения так, чтобы максимизировать эту функцию, будет ли наше поведение рациональным?
    И если ваш ответ "нет", то всплывает очевидный следующий вопрос: какой должна быть эта функция, чтобы ею можно было бы определить эффективность или рациональность? Юдковский что-то там говорит про функцию полезности, но я не верю в то, что на ней можно построить рациональность, которая устроит меня. В том смысле, что я не вижу ни одной непротиворечивой функции полезности, которой я бы мог доверить те решения, которые принимаю я.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как \"режим провала\"
    « Ответ #44 : 04 Августа 2016, 15:23 »
  • (+)0
  • (−)0
  • Вы конкретизируете ситуацию так, чтобы она стала бы разрешимой. Это упрощение задачи. Вы хотите сказать, что она неразрешима без конкретизации?
    Да, конечно.
    На эту тему есть даже текст Юдковского, который, по-моему, является одним из наиболее цитируемым на этом форуме: http://lesswrong.ru/w/Табуируй_свои_слова
    Любая абстрактная ситуация не имеет смысла, пока мы не определили, какую конкретную задачу мы решаем. Нельзя решить, пользоваться методом А или методом Б, если непонятно, чего мы хотим достичь.

    Цитировать
    Зачем мне функция полезности, если я лично оцениваю эффективность своих действий?
    С моей точки зрения, это почти одно и то же :) Функция полезности - это собственная оценка возможных ситуаций. Эффективность - это твоя личная оценка, оказался ты в более выгодной ситуации или в менее выгодной.
    Мне затруднительно ответить на вопрос "зачем мне А, если у меня есть Б", если для меня Б - это следствие наличия А.
    Если вопрос ставится "зачем мне пользоваться такой терминологией", то ответ, может быть, чтобы попытаться найти общий язык. Но если это не помогает, можно подумать о другой терминологии.
    Просто на данный момент я до сих пор не убеждён, что между нашими позициями есть отличия, которые не сводятся к семантике, в смысле, к тому, что мы по-разному понимаем слово "рациональность" и вытекающие из него.

    Цитировать
    Это ad hoc построения. В просторечии "костыли". То есть построения, призванные залатать дыру в теории. Такие построения ставят всю теорию под знак вопроса.
    Простите, я не очень понимаю, где вы видите теорию и в чём она для вас заключается.
    Я по мотивам этой темы и ещё пары параллельно идущих, могу сформулировать свою "теорию" следующим образом.
    "Инструментальная рациональность" в том смысле, каком она понимается Юдковским и основным ядром LW, - это совокупность переносимых (универсальных, применимых к самым разным областям) методов решать задачи. Задачи, которые она может решать (обнаружение невозможности решения тоже считается решением), должны обладать следующими свойствами:
    1. У агента есть убеждение, что вероятность разрешения задачи посредством его собственных действий значимо выше нуля. (Значимость определяется субъективно, если чужие действия вызываются его собственными - это тоже "посредством его собственных действий".)
    2. Агент может прогнозировать, какое действие или изменение в окружающем мире приблизит его к решению задачи, а какое - отдалит.
    3. Постфактум агент может определять, приблизился он к цели или отдалился.

    Чёткость формулировки задачи, объективность критериев и прочие подобные вещи очень сильно помогают, но не являются необходимыми условиями. Более того, я сильно подозреваю, что большинство реальных задач начинаются с того, что человек смотрит на ситуацию, у него появляется чувство "Но так же нельзя!" или что-нибудь ещё более матерное, и реальной задачей является избавление от этого чувства.

    Цитировать
    В этом и есть цель рациональности -- найти наилучший способ рассуждений, которым будут пользоваться все.
    У рациональности нет целей, она не является агентом. У вас может быть цель - придумать такую рациональность, т.е. такой способ рассуждений, что... А может не быть такой цели, это от вас зависит.

    Цитировать
    При этом "плавающая стоимость жизни" -- это противоречие же, разве нет? В ГПиМРМ есть эти рассуждения, с объяснением как можно оценить стоимость жизни снизу и сверху, и почему важно, чтобы эти оценки были бы согласованы. Если же вы о том, что стоимость жизни плавно меняется со временем, то как это увязать с тем, что "если я знаю как я буду думать в будущем, то мне лучше уже сейчас думать именно так"? Если я знаю, что в будущем цена моей жизни возрастёт, то лучше уже сейчас считать поднять ценник. И наоборот.Что ставит вопрос на том, что такое рациональность. Чем рациональность отличается от иррациональности.
    В ГПиМРМ не доказано, что у кого-то получилось сделать так, что эти оценки были бы согласованы :) Я вообще не уверен, о каком фрагменте идёт речь и "подтверждены ли соответствующие слова Поттера научными трудами", см. дисклеймеры к ГПиМРМ.
    Но в целом я опять же не вижу, почему это "ставит вопрос на том, что такое рациональность".

    Цитировать
    Что такое эффективность? Если я возьму произвольную функцию отображающую множество всевозможных решений, которые может принять агент, на отрезок [0,1], и назову эту функцию определением эффективности решения, можно ли после этого будет поставить знак равенства между этой функцией и рациональностью? Ну, если мы будем принимать решения так, чтобы максимизировать эту функцию, будет ли наше поведение рациональным?
    И если ваш ответ "нет", то всплывает очевидный следующий вопрос: какой должна быть эта функция, чтобы ею можно было бы определить эффективность или рациональность? Юдковский что-то там говорит про функцию полезности, но я не верю в то, что на ней можно построить рациональность, которая устроит меня. В том смысле, что я не вижу ни одной непротиворечивой функции полезности, которой я бы мог доверить те решения, которые принимаю я.
    Функция определения эффективности решения и функция полезности агента - это одно и то же. Ответ: "да".
    Если пользоваться моим определением функции полезности, вы заявляете, что вы не знаете, как вашу интуитивную личную функцию полезности можно записать в полном и явном виде так, чтобы ваша интуиция не протестовала против записанного. И в этом случае я могу сказать, что у всех та же самая фигня :) Практически уверен, что исключений тут нет. Я полагаю, что это недостижимо в рамках нашего биологического вида, и надо работать с этой данностью. Однако, мы можем как-то записывать "кусочки" нашей функции полезности и с этим работать.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как \"режим провала\"
    « Ответ #45 : 04 Августа 2016, 16:33 »
  • (+)0
  • (−)0
  • Да, конечно.
    На эту тему есть даже текст Юдковского, который, по-моему, является одним из наиболее цитируемым на этом форуме: http://lesswrong.ru/w/Табуируй_свои_слова
    Любая абстрактная ситуация не имеет смысла, пока мы не определили, какую конкретную задачу мы решаем. Нельзя решить, пользоваться методом А или методом Б, если непонятно, чего мы хотим достичь.
    С другой стороны, если мы умеем решать только конкретные задачи, то это значит, что мы не понимаем как мы их решаем. Это значит, что у нас нет никакой общей системы. Если мы говорим о том, что всё принятие решений можно уложить в функцию полезности, то значит в функцию полезности можно уложить тот класс конкретных задач, который определяется моей абстрактной задачей. То есть каждую из задач, которую можно получить посредством конкретизации абстрактной задачи, можно решить посредством функции полезности. При помощи одной, единой функции полезности. Мы можем привести эту функцию? Или хотя бы неконструктивно показать, что существует непротиворечивая функция полезности, которая справится с данным классом задач?
    Простите, я не очень понимаю, где вы видите теорию и в чём она для вас заключается.
    Рациональность, упирающая в максимизацию какой-то там функции полезности.
    У рациональности нет целей, она не является агентом. У вас может быть цель - придумать такую рациональность, т.е. такой способ рассуждений, что... А может не быть такой цели, это от вас зависит.
    Это жонглирование словами. Но если вам нравится, то давайте я перефразирую: если работа над улучшением методов рационального мышления, над повсеместным внедрением этих методов будет продолжаться достаточно долго, то это приведёт к потере личной индивидуальности. Все будут принимать решения одинаковым, наиболее эффективным методом. Даже если потеря индивидуальности не является ничьей целью, она всё равно будет достигнута. Так же как и появление интеллекта согласно теории эволюции не являлось ничьей целью, и тем не менее высшие приматы и в особенности человек доэволюционировали до интеллекта, и, что примечательно, некоторые птицы тоже, несмотря на то, что эволюционно пути птиц и приматов разошлись очень давно, последний общий предок был пресмыкающимся с двукамерным сердцем, которое затем независимо эволюционировало в четырёхкамерное и у птиц, и у млекопитающих. И интеллект они получили независимо. Это всё не было целью эволюции, но это, видимо, было неизбежным следствием.
    Так и унификация мышления может быть и не является целью рациональности, но она будет следствием рациональности. Как только мы объявляем какие-то критерии рациональности мышления, так сразу мы делим все способы мышления на более и менее рациональные. Например на те, которые более эффективны и те, которые менее эффективны. И если подумать, то как-то так выходит, что это автоматом приведёт к тому, что в конечном итоге останется только один, самый-самый рациональный способ мышления.
    Если пользоваться моим определением функции полезности, вы заявляете, что вы не знаете, как вашу интуитивную личную функцию полезности можно записать в полном и явном виде так, чтобы ваша интуиция не протестовала против записанного. И в этом случае я могу сказать, что у всех та же самая фигня :) Практически уверен, что исключений тут нет. Я полагаю, что это недостижимо в рамках нашего биологического вида, и надо работать с этой данностью. Однако, мы можем как-то записывать "кусочки" нашей функции полезности и с этим работать.
    Нет, всё чуточку сложнее.
    Я уверен, что нельзя взять произвольную функцию полезности и построить на ней рационального агента. В том смысле, что если мы сейчас с вами постараемся, то мы сможем придумать такую "функцию полезности", которая будет определять иррационального агента. Ну, навскидку, если этот агент, стремясь к максимизации выигрыша в любой игре всегда просле проигрышного кона идёт ва-банк, и это определяется его функцией полезности, то вряд ли мы сможем считать его рациональным. Не любая функция полезности может быть основой рационального поведения. И я не уверен что моя функция полезности попадает в множество тех функций полезности, которые могут быть основной рационального поведения. Я вижу иногда несоответствия, я вижу противоречивость своего поведения, и тем не менее я продолжаю вести себя противоречиво. И считаю это правильным.
    Год назад, я рассуждал примерно как вы. Если я не могу построить точную модель своего мышления, с тем чтобы по этой модели доказать её внутреннюю непротиворечивость, то это происходит только потому, что у меня недостаточно вычислительных мощностей, или по схожим причинам. Сегодня же я сомневаюсь в самой возможности построить непротиворечивую модель своего мышления, которая при этом будет базироваться на функции полезности. Хуже того, я сомневаюсь в том, что если мне укажут в противоречия, то я откажусь от них, а не начну придумывать более сложную теорию рациональности, с точки зрений которой моё поведение будет рациональным.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #46 : 04 Августа 2016, 17:07 »
  • (+)0
  • (−)0
  • А вот теперь у меня уже складывается впечатление, будто вы говорите о решении какой-то очень глобальной задачи, решать которую я никому не предлагал, и вообще даже не очень задумывался, что её можно решать :)

    Нет, "у нас" нет никакой общей системы.
    Нет, "мы" не говорим, что всё принятие решений можно уложить в функцию полезности, и я не очень уверен, что вы используете слова "функция полезности" в том же смысле, что и я.
    О какой-то единой для всех функции полезности я не говорил вообще никогда.

    Цитировать
    Но если вам нравится, то давайте я перефразирую: если работа над улучшением методов рационального мышления, над повсеместным внедрением этих методов будет продолжаться достаточно долго, то это приведёт к потере личной индивидуальности. Все будут принимать решения одинаковым, наиболее эффективным методом.
    Не очевидно в силу разницы целей в первую очередь. Кроме того, я могу придумать ещё множество событий, которые могут произойти до того, как это произойдёт, и после которых этот вопрос станет не важным. А кто-нибудь ещё мог бы задать вопрос: а действительно ли важна личная индивидуальность? :)
    И главное: если это по-настоящему неизбежно, то к чему это обсуждать? А если это плохо и это можно предотвратить, значит, есть какой-то оптимальный путь, как это предотвратить. Какими методами следует искать этот путь?
    Но для меня этот вопрос не важен. Я могу в будущем придумать множество страшилок, которые с моей точки зрения будут выглядеть даже более реалистичными и достижимыми гораздо раньше.

    Цитировать
    Я уверен, что нельзя взять произвольную функцию полезности и построить на ней рационального агента.
    Цитировать
    Не любая функция полезности может быть основой рационального поведения. И я не уверен что моя функция полезности попадает в множество тех функций полезности, которые могут быть основной рационального поведения. Я вижу иногда несоответствия, я вижу противоречивость своего поведения, и тем не менее я продолжаю вести себя противоречиво. И считаю это правильным.
    Вы опять используете слова "рациональный" всуе.
    Если я спрошу "попадает ли ваша функция полезности в множество тех функций полезности, которые могут быть основой правильного поведения", какой будет ответ?
    Понимаете, я не вижу никаких оснований считать "рациональным" то, что моя интуиция, после того, как я всерьёз подумал над вопросом пять минут, считает "неправильным". Совершенно не важно, что приписывают логика, байесианство и всё такое прочее, если меня результат не устраивает на интуитивном уровне, значит, решение уже не оптимально для меня, потому что жить с ним именно мне, а не логике и байесианству :) Но я считаю такую ситуацию следствием не проблем логики и байесианства, а следствием того, что я недостаточно учёл, что для лично меня важно, а что - нет. А вы, складывается впечатление, придумали себе какую-то более великую рациональность, которая может предписать вам делать то, что вы считаете неправильным. Я не знаю, где вы её взяли, но почему бы вам не вернуть её на то самое место и там не оставить?

    Наша функция полезности большей части находится у нас не в доступе, мы не можем её произвольно менять. А идеальных рациональных агентов на человеческой основе не существует и не факт, что они возможны (и вообще не очень понятно, что это такое). Инструментальная рациональность нужна для того, чтобы наслаждаться жизнью, исходя из того, что считает наслаждением наша интуитивная функция полезности :) Если у кого-то она приводит к другим последствиям, то, есть подозрение, он делает что-то не так.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Умение объяснять как \"режим провала\"
    « Ответ #47 : 04 Августа 2016, 17:08 »
  • (+)0
  • (−)0
  • Цитировать
    Все будут принимать решения одинаковым, наиболее эффективным методом. Даже если потеря индивидуальности не является ничьей целью, она всё равно будет достигнута.

    Принятие решения - определяется способом принятия решения и достигаемыми целями. Достигаемые цели задаются терминальными ценностями. Терминальные ценности выбираются субъективно.
    Унификация способов принятия решений не уничтожает индивидуальность. Индивидуальность остается индивидуальной из-за субъективного выбора терминальных ценностей.

    Не любая функция полезности может быть основой рационального поведения.

    Любая. Под любую функцию полезности можно подложить терминальные ценности такие, чтобы она стала рациональной.

    Цитировать
    Ну, навскидку, если этот агент, стремясь к максимизации выигрыша в любой игре всегда просле проигрышного кона идёт ва-банк, и это определяется его функцией полезности, то вряд ли мы сможем считать его рациональным.

    Такой человек не является рациональным, исходя из терминальных ценностей - максимизировать денежный выигрыш.
    Такой человек является рациональным, исходя из терминальных ценностей - максимизировать чувство предвкушения, которое возникает от ва-банк ставок.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #48 : 04 Августа 2016, 18:30 »
  • (+)0
  • (−)0
  • А вот теперь у меня уже складывается впечатление, будто вы говорите о решении какой-то очень глобальной задачи, решать которую я никому не предлагал, и вообще даже не очень задумывался, что её можно решать :)

    Нет, "у нас" нет никакой общей системы.
    Нет, "мы" не говорим, что всё принятие решений можно уложить в функцию полезности, и я не очень уверен, что вы используете слова "функция полезности" в том же смысле, что и я.
    О какой-то единой для всех функции полезности я не говорил вообще никогда.
    Я не говорил о единой для всех, я говорил единой для меня. Если в каждой новой ситуации я пользуюсь новой функцией полезности, то зачем нам вообще нужна такая абстракция как "функция полезности"?
    Не очевидно в силу разницы целей в первую очередь. Кроме того, я могу придумать ещё множество событий, которые могут произойти до того, как это произойдёт, и после которых этот вопрос станет не важным. А кто-нибудь ещё мог бы задать вопрос: а действительно ли важна личная индивидуальность? :)
    И главное: если это по-настоящему неизбежно, то к чему это обсуждать? А если это плохо и это можно предотвратить, значит, есть какой-то оптимальный путь, как это предотвратить. Какими методами следует искать этот путь?
    Но для меня этот вопрос не важен. Я могу в будущем придумать множество страшилок, которые с моей точки зрения будут выглядеть даже более реалистичными и достижимыми гораздо раньше.
    Я говорил выше, что я не знаю, хорошо ли это или плохо. И говорил, что это не важно в рамках данного разговора. Я говорил лишь о том, что рациональность унифицирует мышление и результаты мышления. И даже если это хорошо, всё равно это так.
    Вы опять используете слова "рациональный" всуе.
    Если я спрошу "попадает ли ваша функция полезности в множество тех функций полезности, которые могут быть основой правильного поведения", какой будет ответ?
    Давайте так... Главное в любой теории -- это не то, что она разрешает, а то, что она запрещает. Если существует рациональное поведение, то существует иррациональное. Если существует рациональный агент, то существует и иррациональный. Что по вашему -- иррациональный агент? Каким образом агент должен принимать решения, чтобы вы сочли его решения иррациональными? Существует ли на земле хоть один человек, чьё поведение можно назвать иррациональным? Ведь каждый человек так или иначе следует из своего понимания полезности, он следует своей собственной функции полезности. И если это значит, что все они рациональны, то какой смысл заниматься распространением рациональности: она и так уже распространена везде.

    Понимаете, я не вижу никаких оснований считать "рациональным" то, что моя интуиция, после того, как я всерьёз подумал над вопросом пять минут, считает "неправильным". Совершенно не важно, что приписывают логика, байесианство и всё такое прочее, если меня результат не устраивает на интуитивном уровне, значит, решение уже не оптимально для меня, потому что жить с ним именно мне, а не логике и байесианству :) Но я считаю такую ситуацию следствием не проблем логики и байесианства, а следствием того, что я недостаточно учёл, что для лично меня важно, а что - нет.
    Теперь то же самое, что и в предыдущем запросе, но применительно к вам. Если вы поступаете таким образом, то на основании каких умозаключений вы делаете вывод о том, что вы рациональны? Ведь рассуждая таким образом, вы можете обосновать совершенно любой ваш поступок.

    А вы, складывается впечатление, придумали себе какую-то более великую рациональность, которая может предписать вам делать то, что вы считаете неправильным. Я не знаю, где вы её взяли, но почему бы вам не вернуть её на то самое место и там не оставить?
    Если рациональность не может предписать мне делать то, что я считаю неправильным, то мне не нужна такая рациональность, я обрежу её бритвой Оккама. Ну, вот на самом деле, она будет бесполезной, если она ничего не может добавить к моему процессу принятия решений. Другое дело, что иногда я поступаю так, как я бы не поступил, если бы не рациональность, а иногда -- нет.

    Наша функция полезности большей части находится у нас не в доступе, мы не можем её произвольно менять. А идеальных рациональных агентов на человеческой основе не существует и не факт, что они возможны (и вообще не очень понятно, что это такое). Инструментальная рациональность нужна для того, чтобы наслаждаться жизнью, исходя из того, что считает наслаждением наша интуитивная функция полезности :) Если у кого-то она приводит к другим последствиям, то, есть подозрение, он делает что-то не так.
    Наслаждение жизнью самопротиворечиво. Я упоминал выше про эксперименты с ощущением боли. С другими ощущениями, в т.ч. и приятными, я подозреваю дела обстоят примерно так же. И в реальности совершенно неясно что именно надо максимизировать. Текущий уровень удовольствия? Или память о прошлых удовольствиях? Или что?

    Принятие решения - определяется способом принятия решения и достигаемыми целями. Достигаемые цели задаются терминальными ценностями. Терминальные ценности выбираются субъективно.
    Унификация способов принятия решений не уничтожает индивидуальность. Индивидуальность остается индивидуальной из-за субъективного выбора терминальных ценностей.
    Терминальные цели мы подбираем из окружения. Терминальные цели заразны, в том смысле что они могут передаваться не только от предка к потомку, но и горизонтальный перенос вполне возможен. Я неоднократно замечал за собой, что я подцепляю из окружения новые для себя терминальные ценности. Если вы присмотритесь, то вы увидите и у себя то же самое.
    Рациональность должна способствовать тому, чтобы устранять противоречия между терминальными ценностями, вплоть до того, что избавляться от некоторых. Например, я так выдавливал из себя гомофобию. Была терминальная ценность, теперь её нет. Только ради того, чтобы набор терминальных ценностей был бы менее противоречивым.
    Все эти процессы так или иначе сойдутся к единому набору ценностей для всех. Ну, в теории. На практике этого не случиться никогда, времени не хватит, потому что какой-нибудь другой процесс, не учтённый вы этих построениях, порушит сходимость.


    Любая. Под любую функцию полезности можно подложить терминальные ценности такие, чтобы она стала рациональной.

    Такой человек не является рациональным, исходя из терминальных ценностей - максимизировать денежный выигрыш.
    Такой человек является рациональным, исходя из терминальных ценностей - максимизировать чувство предвкушения, которое возникает от ва-банк ставок.
    Значит любой человек является рациональным. Вуаля. Сей форум можно закрывать, под победный рёв фанфар. Конечная цель достигнута. Все люди стали рациональными.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #49 : 04 Августа 2016, 19:32 »
  • (+)0
  • (−)0
  • Все эти процессы так или иначе сойдутся к единому набору ценностей для всех.

    Почему сойдется? Одному нравится коллекционировать бабочек, другому нравится играть в Доту.

    Цитировать
    Значит любой человек является рациональным. Вуаля. Сей форум можно закрывать, под победный рёв фанфар. Конечная цель достигнута. Все люди стали рациональными.

    Да, можно считать, что каждый человек является рациональным. В современной психологии используется похожий подход: "каждый человек в каждый момент времени поступает наилучшим для себя способом".

    При таком подходе точка рассмотрения переходит с "являюсь ли я рациональным" на "нравятся ли мне (удобны ли для меня) мои текущие терминальные ценности на основе которых я поступаю"?

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #50 : 04 Августа 2016, 19:56 »
  • (+)0
  • (−)0
  • Если вы поступаете таким образом, то на основании каких умозаключений вы делаете вывод о том, что вы рациональны? Ведь рассуждая таким образом, вы можете обосновать совершенно любой ваш поступок.
    Я (гипотетически) делаю такой вывод, исходя из полученного результата. Если раньше меня результат не устраивал, а сейчас - устраивает, то я рационален.
    Да, человек, самая главная цель которого заключается в том, чтобы считать себя рациональным, просто объявит себя рациональным и всё. Но лично я буду понимать, что, даже если я просто так возьму и объявлю себя рациональным, то в моей жизни останутся какие-то нерешённые задачи, и это объявление ничуть не продвинет меня к их решению. Я не смогу обосновать любой свой поступок, потому что я буду понимать, что некоторые поступки меня отдаляют от моих целей. Для моей функции полезности параметр "считать себя рациональным" имеет довольно низкий приоритет.
    Да, если человек в состоянии убедить себя, что его нынешнее положение и есть самое лучшее из всего, что можно представить, то рациональность его не сможет сдвинуть с места. Это, собственно, и есть человек с полным отсутствием амбиций. Но мне сложно представить такого человека.

    Что касается другого человека, то да, нам невозможно точно определить, рационален ли он, потому что в его функцию полезности мы заглянуть не можем. Однако, всё же мы в состоянии делать различные предположения, исходя как из человеческой природы, так и из деклараций этого человека относительно его целей или его действий. Конечно, мы можем ошибаться. А кому сейчас легко? Но мы можем делать предположения о том, рационален ли он, исходя из наших предположений относительно его целей.

    Цитировать
    Ведь каждый человек так или иначе следует из своего понимания полезности, он следует своей собственной функции полезности.
    Это верно только в сиюсекундной перспективе. А вот дальше начинаются проблемы.
    Например, огромная часть прокрастинирующих, судя по всему, искренне жалеет о том, что она прокрастинирует. Т.е. мир, где они тратят время, потраченное на прокрастинацию, на что-то другое, для них более предпочтителен. Но они не могут его достичь.
    Другой вариант - человек может хотеть чего-то достичь, но может даже не представлять, каким инструментарием для этого надо овладеть. Что этот инструментарий вообще существует. Или может не иметь привычки им пользоваться.

    Цитировать
    Если рациональность не может предписать мне делать то, что я считаю неправильным, то мне не нужна такая рациональность, я обрежу её бритвой Оккама. Ну, вот на самом деле, она будет бесполезной, если она ничего не может добавить к моему процессу принятия решений.
    Я не понял, как из первого следует второе.
    Например, один из рациональных приёмов призывает расширять пространство возможных вариантов. Грубо говоря, часто люди зацикливаются на вопросах вида "купить машину" или "не купить машину", т.е. выбирают всего из двух вариантов, хотя на самом деле вариантов действия гораздо больше. Если человек сам не догадывается о том, что можно рассмотреть больше вариантов, значит ли это, что он сочтёт неправильным их рассматривать? Если он не сочтёт это неправильным, значит ли, что подсказка этой идеи ничего не добавила к его процессу принятия решений?

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #51 : 08 Августа 2016, 20:38 »
  • (+)0
  • (−)0
  • Да, если человек в состоянии убедить себя, что его нынешнее положение и есть самое лучшее из всего, что можно представить, то рациональность его не сможет сдвинуть с места. Это, собственно, и есть человек с полным отсутствием амбиций. Но мне сложно представить такого человека.
    Хех. Посмотрите на меня. Я ещё в школе открыл замечательный способ удовлетворения своих "хотелок": надо расхотеть, и проблема будет снята. Не, ну реально, это самый простой способ решения проблем: надо просто смириться с тем, что есть. Принять реальность такой, какая она есть, найти в ней положительные стороны и наслаждаться ею. Требует некоторых навыков, но зато позволяет минимумом усилий получить максимум результата. Это и есть истинная рациональность. Рациональность камня, которому плевать на всё. Не так ли?
    И если так, то значит ли это, что вы сейчас забросите всё и займётесь выработкой в себе навыков, необходимых для того, чтобы исповедовать пофигистское мировоззрение камня?
    Это верно только в сиюсекундной перспективе. А вот дальше начинаются проблемы.
    Например, огромная часть прокрастинирующих, судя по всему, искренне жалеет о том, что она прокрастинирует. Т.е. мир, где они тратят время, потраченное на прокрастинацию, на что-то другое, для них более предпочтителен. Но они не могут его достичь.
    И что?
    Я не хочу курить, но я курю. Почему это происходит? А потому что лишь часть меня не хочет курить, а другая часть хочет. Иногда одна из них сильнее, иногда другая. Иногда они обе говорят в моей голове одновременно, но какая-нибудь всегда побеждает.
    Я не хочу прокрастинировать, но я прокрастинирую. Почему это происходит? А потому что лишь часть меня не хочет прокрастинировать, а другая хочет.
    Это такая хитрая "функция полезности". Так работают человеческие мозги. И если не накладывать на функцию полезности никаких ограничений, то тогда вполне можно описать прокрастинирующего человека этой самой функцией полезности. Он окажется "рациональным" агентом. Да? Или всё же нет?
    Мой ответ -- нет. Если человек имеет такие противоречия в функции полезности, то он иррационален. Функция полезности должна быть непротиворечивой. Я не могу быть гуманистом и одновременно гомофобом. От чего-то одного надо отказаться, потому что без ad hoc костылей не удастся обосновать гомофобию поверх гуманизма. ad hoc костыли -- это плохо, бритва Оккама так и тянется их обрезать. Именно устранение противоречий в функции полезности позволяет решать подобные проблемы. И это часть прикладной рациональности. Если в функции полезности бардак, то зачем заморачиваться на всё остальное? Если за рулём автомобиля обдолбанный шизофреник, то зачем заморачиваться тюнингом аэродинамики?
    Другой вариант - человек может хотеть чего-то достичь, но может даже не представлять, каким инструментарием для этого надо овладеть. Что этот инструментарий вообще существует. Или может не иметь привычки им пользоваться.
    Ну это, само по себе, не делает его иррациональным. Незнание неизбежно, мы все чего-нибудь не знаем. И поэтому рациональность должна давать способ бороться с этим, а не объявлять незнание иррациональным.
    Я не понял, как из первого следует второе.
    Например, один из рациональных приёмов призывает расширять пространство возможных вариантов. Грубо говоря, часто люди зацикливаются на вопросах вида "купить машину" или "не купить машину", т.е. выбирают всего из двух вариантов, хотя на самом деле вариантов действия гораздо больше. Если человек сам не догадывается о том, что можно рассмотреть больше вариантов, значит ли это, что он сочтёт неправильным их рассматривать? Если он не сочтёт это неправильным, значит ли, что подсказка этой идеи ничего не добавила к его процессу принятия решений?
    Если вы зачем-то ограничиваете рациональность столь узко, то, думаю, надо прекращать эту дискуссию.
    То, о чём вы говорите, для меня -- это самый базовый уровень рациональности. Это как умение ходить, для путешественника, предолевающего самые непроходимые дебри. И при всём при том, что я признаю важность этого уровня, и признаю необходимость тренировок "умения ходить", мне это неинтересно само по себе.

    Чтобы процесс мышления приводил бы к эффективным решениям проблем, надо организовать процесс мышления. И мало просто потренировать дивергентные способности, или там научиться варьировать ширину критерия эквивалентности, или ещё взять какую-нибудь психологическую характеристику процесса мышления и потренировать её. Мало. Надо убедиться, что достигая одной цели, мы не хороним другую. Или, по-крайней мере, если хороним, то мы должны знать об этом, и это должно быть нашим сознательным выбором. Над такой организацией процесса мышления человечество работало очень давно. Древние греки придумали логику -- формальные правила логического вывода. Которые дали способ проверить соответствие вывода исходным посылкам. Затем куча другого народа поработало над методами мышления. Всякие там схоласты, оккамы, декарты, попперы -- тысячи их. Теорема Байеса помноженная на достижения информатики позволяет разговаривать о том же на новом уровне. Не просто проверить свои умозаключения по принципу "логично/не логично", а проверить их на соответствие гораздо более широкому спектру критериев рациональности.

    И это замечательно! Это просто превосходно! Было бы. Если бы все выглядящие здравыми умозаключения укладывались бы в какую-нибудь модель рациональности. Но они не укладываются. И я не знаю как вы можете просто пройти мимо и сказать: ну и чёрт с ним. Если ваши умозаключения не укладываются в модель рациональности, значит они приводят к неэффективным решениям. Потому что модель рациональности строилась с целью максимизации эффективности. Или может быть ваши умозаключения эффективны, но тогда рациональность -- это ущербный критерий эффективности. Одно из двух, третьего быть не может. Запрещено той самой логикой, которую придумали древние греки. Авторство закона об исключённом третьем за Аристотелем.

    Так вот: либо наше мышление ущербно, либо ущербна рациональность... Вопрос: что делать? Менять наше мышление, чтобы оно было бы менее ущербным? Или менять рациональность, чтобы она была бы менее ущербной? И в любом случае моментом встанет следующий вопрос: как менять?

    И вот эти вопросы действительно интересны. А вся эта мышиная возня с развитием тех или иных интеллектуальных способностей... Я вышел из того возраста, когда это было реально интересно. Сегодня мне может быть интересно как эти интеллектуальные способности можно развивать в ребёнке или в ИИ. Когда же речь идёт о моих, то у меня это в виде практически свёрнутого навыка: я что-то сделал, получил результат, оценил результат, оценил процесс приведший к результату, нашёл во всём этом то, что не нравится, провёл анализ на предмет того, что и как можно было бы исправить посредством изменения мышления (т.е. как должна была бы думать моя голова, чтобы если бы я вернул её в прошлое, она бы справилась с задачей лучше). Я постоянно этим занимаюсь. Ещё со школы. В школе есть уроки математики, и если на этих уроках реально заниматься математикой, то анализ процесса мышления, который привёл (или не привёл) к тому или иному результату, становится обыденностью. Я в школе, да и потом в вузе усваивал теоремы и всякие доказательства посредством поиска ответа на вопрос: как должна работать моя голова, чтобы быть способной доказывать такие теоремы, а ещё лучше придумывать их. Я это к тому, что я знаю людей, которые заучивали теоремы -- и формулировки, и доказательства, -- и такие люди к концу школы окончательно сливались и ничего из себя не представляли на уроках математики.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Умение объяснять как "режим провала"
    « Ответ #52 : 08 Августа 2016, 22:43 »
  • (+)0
  • (−)0
  • Цитировать
    Я ещё в школе открыл замечательный способ удовлетворения своих "хотелок": надо расхотеть, и проблема будет снята. Не, ну реально, это самый простой способ решения проблем: надо просто смириться с тем, что есть. Принять реальность такой, какая она есть, найти в ней положительные стороны и наслаждаться ею. Требует некоторых навыков, но зато позволяет минимумом усилий получить максимум результата.
    И что? Сколько лет вам это помогало? Почему решили отказаться?
    Я тоже открыл этот способ (тоже в школе). Более того, на мой взгляд, я с ним управляюсь лучше, чем подавляющая часть окружающих. Но мне его недостаточно. На мой взгляд, количество людей, которым его было бы достаточно, столь мизерно, что им можно пренебречь.

    Цитировать
    Я не хочу курить, но я курю. Почему это происходит? А потому что лишь часть меня не хочет курить, а другая часть хочет. Иногда одна из них сильнее, иногда другая. Иногда они обе говорят в моей голове одновременно, но какая-нибудь всегда побеждает.
    Я не хочу прокрастинировать, но я прокрастинирую. Почему это происходит? А потому что лишь часть меня не хочет прокрастинировать, а другая хочет.
    Для меня это конфликт краткосрочных и долгосрочных перспектив. Возможно, у вас части в голове функционируют как-то по-другому, но, поскольку я не в состоянии заглянуть к вам в голову, я, видимо, приду к выводу, что я не в состоянии объяснить вам, что я хочу сказать, и у меня кончились стимулы предпринимать попытки. Я считаю, что проблема надуманная, потому что либо человеку проблема мешает жить настолько, что он хочет её решить, либо нет. Я могу попробовать подсказать методы решения в первом варианте, если человек их не знает, но не собираюсь заниматься мотивацией во втором варианте.

    Что касается всего остального, то я (и думаю, не только я) с нетерпением будем ждать, когда вы поделитесь с нами методами новой, более продвинутой рациональности. Мне не слишком интересны вопросы, которые интересны вам, потому что я не знаю, что мне с ними делать. Всё, что я хотел сказать в этой теме, я сказал. Прошу прощения, если что-то осталось непонятным.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #53 : 09 Августа 2016, 00:43 »
  • (+)0
  • (−)0
  • И что? Сколько лет вам это помогало? Почему решили отказаться?
    Потому что наблюдая за тем, как моя голова мыслит, я понял, что это всё самообман. Ну, в том смысле, что мне лишь кажется, что все мои желания удовлетворены. Я понял, что если делать все логические выводы из тех посылок, которые есть, то я упрусь в противоречия. И единственный способ устранить противоречия -- поиметь хоть какие-то амбиции. Ну, точнее это не избавляет совсем от противоречий, но так всё же лучше.
    Я тоже открыл этот способ (тоже в школе). Более того, на мой взгляд, я с ним управляюсь лучше, чем подавляющая часть окружающих. Но мне его недостаточно. На мой взгляд, количество людей, которым его было бы достаточно, столь мизерно, что им можно пренебречь.
    Да, все этим способом пользуются. Не все настолько упёртые идиоты типа меня, не всем требуется идти до конца и доводить идею до абсурда, для того чтобы понять тупиковость такого способа.
    Для меня это конфликт краткосрочных и долгосрочных перспектив. Возможно, у вас части в голове функционируют как-то по-другому...
    Нет, не у меня по другому, а вы упрощаете то, как работает ваша голова. Человеческий мозг не делится на зоны по принципу долгосрочности. Если один кусок нейросети говорит, что решение X удачно, а другой говорит, что оно неудачно, то это может быть связано с тем, что они оценивают решение с точки зрения периодов времени разной протяжённости. А может быть связано с чем-то иным. В "Психологии Искусства" Выготский писал о том, что любое искусство основывается на том, чтобы голова воспринимала одно и то же произведение противоречиво. Если автору удастся это сделать, то его произведение будет произведением искусства, если нет -- то это будет просто графоманство, или что-нибудь ещё, в зависимости от специализации автора. Если вам интересно, то проще всего найти примеры в юморе. Насчёт сортирного юмора, типа насрать в тапки соседу, я не скажу, но если это юмор уровнем повыше, то в нём смех является реакцией на противоречивость заложенную в шутку. Например, в анекдотах про Штирлица это достигается тем, что большую часть анекдота строится некий сетап, который выворачивается наизнанку и приобретает совершенно иной смысл в свете финальной фразы.
    Например, сетап: Штирлиц упал с балкона, но чудом успел зацепиться за карниз. А затем следующей фразой рисуем несколько другую картинку того же самого: на следующий день чудо распухло и мешало ходить. В первом предложении "чудо" означает что-то типа "повезло", во-втором, "чудо" -- это МПХ, и следовательно не повезло.
    На самом деле очень ярко это проявляется на перцептивном уровне: если ночью в темноте на пути в туалет я вижу кошку, удивляюсь откуда она -- её ведь на дачу увезли, и внезапно понимаю, что я вижу тапок, а не кошку -- это очень похоже по ощущениям.
    Но эта идея Выготского на самом деле имеет большой потенциал к обобщению. Если вы просто подумаете о том, что в подсознании могут возникать противоречия, которые вы как-то чувствуете, но может быть не знаете причин. В случае с анектодами причины как правило на виду, но в более сложных случаях это может быть не так. У Выготского приводит в качестве отличных примеров басни Крылова. Противоречия в подсознании... Противоречия в голове возникают по очень разным причинам. Иногда потому что одну и ту же фразу можно понять разными способами. Иногда потому, что одну и ту же ситуацию можно понять разными способами, и разные способы ведут к разным выводам, и к принятию разных решений. А иногда потому, что внезапно выясняется, что разные нейросетки отвечающие за разные вещи, на самом деле отвечают за одно и то же, но сильно противоречащими методами. Например. Человек мнит себя гуманистом и ратует за то, что негры -- недочеловеки и должны быть рабами. Но каждый раз когда он сталкивается со свидетельством того, что негр -- тоже человек, он ощущает лёгкое чувство странности -- это проявляет себя противоречие: нейросетка оценивающая права негров конфликтует с нейросеткой оценивающей права людей. Человек может привыкнуть к этому чувству странности и прекратить замечать его. И он будет комфортно жить с противоречием в своей голове. Либо он может искать в себе чувство странности, натренировать видеть его, "я замечаю, что я озадачен", и прочие поговорки, и тогда он заметит проблему сознательно. Если он будет достаточно тренирован в рациональности, он признает существование проблемы. И тогда он сможет сознательно собирать свидетельства в пользу всех гипотез, которые будет иметь смысл рассматривать. И тогда он сможет со временем исправить своё мировоззрение и устранить из него противоречие.

    И, кстати, прямой практический вывод из вышесказанного, вывод в стиле вашего понимания рациональности: полезно интересоваться искусством, читать книжки, разглядывать картины, слушать музыку, посещать театры. Это помогает тренировать свою чувствительность к чувству странности, которое порождается противоречием где-то в подсознании. Каждый раз, когда смотришь на картину, или обдумываешь прочитанную книгу, и думаешь "какая-то фигня... что-то тут не так...", с последующими поисками, и находками авторского замысла -- это та самая деятельность, которая начинается с фразы "я замечаю, что я озадачен", и которая ведёт к инсайтам. Чем чаще мы ловим такие инсайты -- тем крепче закрепляется такая модель поведения, тем увереннее мозги хватаются за чувство странности в любой ситуации.
    Что касается всего остального, то я (и думаю, не только я) с нетерпением будем ждать, когда вы поделитесь с нами методами новой, более продвинутой рациональности. Мне не слишком интересны вопросы, которые интересны вам, потому что я не знаю, что мне с ними делать.
    RTFY! В смысле Read The Fucking Yudkowsky :)
    То есть, если без шуток: у него довольно много написано на эту тему. На тему того как, зачем и почему надо заботиться о непротиворечивости своего мировоззрения. Это не совсем о том, как заботиться о непротиворечивости функции полезности, но очень близко, местами эти задачи пересекаются.
    Да, есть вещи в мировоззрении, которые приходится принимать как данные. Да, при этом может быть не удастся устранить все противоречия. Но как минимум, это позволит знать где эти самые противоречия находятся и откуда они лезут.

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #54 : 09 Августа 2016, 12:03 »
  • (+)0
  • (−)1
  • Kuuff, каждому возрасту - свои ценности. Это не стариковский снобизм, а простая констатация факта, что: а) эвристика с годами прокачивается, и РМ становится уже не особо нужным; б) мировоззренческие противоречия не разрешаются, поначалу к ним как бы привыкаешь, признаешь их данность, а затем они либо приводят по законам диалектики к качественно новому пониманию, либо тускнеют, становясь неактуальными по мере приближения небытия. (См. "негативная диалектика" Ж.-П.Сартра.) Покуда вы празднуете свои дни рождения, радуясь тому, сколько прошло - у вас еще есть потребность в разрешении противоречий. Но когда вы понимаете, что важно не сколько прошло, а сколько осталось... 
    Противоречия в функции полезности - совершенно нормальное явление; если оно осознаны - они не портят жизнь. Аристотелева логика, на которой зиждется в том числе и рациональность, не отражает полноценно устройство субъективного бытия. Сознание не логично, а диалектично, и именно "Феноменология духа" послужила мыслительной основой для новой науки, включая ОТО и КМ. Но диалектическое мироощущение не может быть принято человеком сразу. Покуда эвристика не прокачана - человек старается быть логичным и верит, что это эффективно - и это действительно эффективно для него, если он верит. Вон, сын у меня ужасающе рационален, еще бы: матшкола, ВМК. Ну ничего, я спокойно жду, пока он всерьез влюбится. После этого количество тем, по которым мы сможем прийти к... не согласию, конечно, но к взаимопониманию - сразу вырастет.

    Что касается "более продвинутой" методики [продвинутой куда?], то могу предложить модель аберраций, которая лично мне удобнее, чем модель когнитивных искажений.
    Вкратце: шесть основных аберраций восприятия:
    Эвристические (был другой термин, уже не помню, типа "иррациональные", но не так):
    - рефлексивная (искажения в самоощущении, которые полезно осознать, чтобы они не давили, например, происходят из диалектики трансцедентальной нравственности и рациональной морали);
    - атрибутивная (искажения в восприятии других; понимается шире, чем ФОА, в глубине своей связана с трудностями в признании за другими "прав субъекта");
    - эйдетическая (или "абстрагирования" - опять же, не помню термина, но суть - это искажения в восприятии вещного мира, связанные с его неминуемым "упрощающим моделированием": мир слишком сложен и разнообразен для нас, сознание старается его упростить, отмоделировать, всегда в той или иной степени ошибаясь; типичный пример - всякие "парадоксальные" задачи, являющиеся крайне упрошенными моделями субъективного бытия).
    Дикурсивные (как бы "рациональные", связанные с восприятием вербализованной информации):
    - нарративная (мы всегда воспринимаем чужой дискурс, обременяя его своими ценностями, из-за чего испытываем эмоции "не там" и фактически непредсказуемо для автора искажаем дискурс - отсюда, например, непримиримая разница в оценке беллетристики; отсюда разница в чувстве юмора и смех за кадром в юмористических передачах);
    - семантическая (обычный текст не есть последовательность строгих суждений, даже в самом научном или юридическом тексте есть пропуски элементов логики суждений, метафоры, образы, и т.п. - заполняя лакуны, мы можем вложить иной смысл, или не можем заполнить их, как, например, в слишком сложной научной статье, и наша интерпретация (осмысление) дискурса может оказаться искаженной или неполной);
    - коннотативная (слова ни в одном языке не имеют точного смысла, здесь есть как бы свой "принцип неопределенности": абсолютно точное соответствие лексемы и семантемы достигается лишь в бесконечном контексте, а если контекст невелик - я наверняка воспринимаю термин чужого дискурса не совсем так; в твиттерном формате вообще невозможно всерьез общаться; многие дискуссии  на этом форуме обязаны своим "содержанием" именно данной аберрации).
     

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #55 : 10 Августа 2016, 14:14 »
  • (+)1
  • (−)0
  • Противоречия в функции полезности - совершенно нормальное явление; если оно осознаны - они не портят жизнь. Аристотелева логика, на которой зиждется в том числе и рациональность, не отражает полноценно устройство субъективного бытия. Сознание не логично, а диалектично, и именно "Феноменология духа" послужила мыслительной основой для новой науки, включая ОТО и КМ. Но диалектическое мироощущение не может быть принято человеком сразу. Покуда эвристика не прокачана - человек старается быть логичным и верит, что это эффективно - и это действительно эффективно для него, если он верит. Вон, сын у меня ужасающе рационален, еще бы: матшкола, ВМК. Ну ничего, я спокойно жду, пока он всерьез влюбится. После этого количество тем, по которым мы сможем прийти к... не согласию, конечно, но к взаимопониманию - сразу вырастет.
    Мне не нравятся подобные рассуждения. Они для меня выглядят пораженчеством. И слово "диалектика" оставляет именно такой привкус, потому что каждый раз, когда меня начинают убеждать, что "противоречия неизбежны, смирись", каждый раз звучит слово "диалектика". Я не понимаю, что оно значит, но устойчивая ассоциация с проявлениями когнитивного диссонанса имеет место: противоречия носят инструментальный характер, и если из противоречия не вытекает какой-то непротиворечивой полезности, то это противоречие необходимо устранить. Если мы ведём доказательство от противного, то мы не вносим в нашу стройную математику противоречия -- нет, мы отталкиваемся от него, чтобы расширить наше знание о непротиворечивой истине. Вероятно, можно найти и другие применения противоречиям. Но если наши терминальные ценности противоречивы и функция полезности не снимает этих противоречий, а отражает их в поведение, то всё наше мировоззрение -- говно. Это надо признать, и заняться исправлением. А не заводить эту волынку: говно неизбежно, смирись, со временем привыкнешь. В том то и дело, что я знаю, что можно привыкнуть. Можно привыкнуть верить в ложь и не замечать противоречий, к которым это приводит. Феномен понимания чего-то может быть достигнут привычкой. И это совершенно неконструктивный способ, который позволяет воспринимать чёрное белым.

    Вокруг функций полезности возникает множество прелюбопытнейших вопросов. И отсутствие формальных правил рассуждения об этих функциях и об их составляющих, приводит к тому, что нет никаких правил, каждое рассуждение уникально, ведётся по своим собственным правилам. И признание такого положения дел нормальным, по-моему, пораженчество.

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #56 : 10 Августа 2016, 18:48 »
  • (+)0
  • (−)1
  • "Противоречие рассматривалось в учении Гегеля как движущий принцип всякого развития и как центральный пункт всей его философии. Он противопоставил формальной логике Аристотеля свою диалектическую логику. Подвергнув критике точку зрения, что противоречия являются логической ошибкой и свойственны только ограниченному мышлению, он показал их всеобщий и объективный характер: «Нет предмета, в котором нельзя было бы найти противоречия, то есть противоположных определений, так как не противоречащий себе предмет есть чистое отвлечение рассудка, насильственно удерживающего одну из двух определенностей и старающегося затемнить и устранить сознание другой определенности, содержащейся в первой».
    (Википедия)
    То, что слово "диалектика" ваши знакомые употребляют в качестве затычки - ну... я тут ничем не могу помочь. Слов типа "смирись"я у себя не припомню. Зачем же так меня передергивать? Я честно изучал диалектику в универе, я даже честно пытался прочесть Гегеля, я (о боже! вот ведь делать нечего было!) штудировал "негативную диалектику" Сартра... и в некий момент понял, что научное (системное) мышление действительно устроено диалектически, а не линейно-логически.
    Мое сознание - такая же точно арена единства и борьбы противоположностей, как и окружающий мир. Они... "объективны"-то и не скажешь на этом форуме, хотя вот именно объективны по отношению к моему эго. Противоречия - основа развития, если у вас в голове всё находится в полном согласии - значит, вы мертвы, ну или в полнейшем тупике развития. Меня из-за этого тошнило от дианетики. (Еще можно почитать Ф.Херберта "Муравейник Хеллстрема".) Как раз говно лишено противоречий, а живой человек - нет, именно потому, что живет, учится, развивается, растет как личность.

    Ну да, я, наверное, не совсем понимаю, что такое ваша "функция полезности". Какой-то это вообще странный термин, убогий какой-то, куцый. Это у робота, наверное, есть функция полезности, а я - живой человек. В каких-то своих проекциях - как потребитель товара или информации, как игрок на бирже (если бы я там играл), даже как руководитель организации - да, я приобретаю такие функции. Но общей для всего моего бытия функции - нет. Зря я полез в чужую терминологию, извините.

    Противоречия эксперимента и теории развивают науку. Противоречия личных убеждений и личной практики развивают личность.
    А ценностные противоречия экзистенции и эссенции развивают самоосознание. Я ощущаю их, например, как диссонанс между желаемым и должным, между нравственным и моральным, между внутренней потребностью и внешней обязанностью. Между рациональностью и эвристикой, в конце концов. Эти противоречия имманентны моей психике. Их отсутствие - это дебилизм (болезнь такая, делающая человека вечно счастливым). Но я не хочу быть дебилом. И я не понимаю, как их "логически разрешить" - это звучит для меня как бред. Я лишь стараюсь их осознать, отрефлексировать, отследить с помощью Стороннего Наблюдателя. И включить в картину мира как движущую ее данность. Чтобы мир был как бы не застывшей фотографией, а кинофильмом. Люди, мир которых застыл в неизменной и непрогрешимой правоте - страшные люди. Или больные, но все равно страшные.

    Если внимательно присмотреться, инструментальный рационализм - чем он мне и импонирует - занимается почти тем же самым, просто называя это другими словами - ну там типа "когнитивные искажения". Не совсем тем же, как я начинаю понимать, но все равно вот именно отысканием, осознанием противоречий. И только в самой наивной, самой вульгарной версии рационализма эти противоречия можно эдак р-р-раз - и разрешить - ну там, чтением ГПиМРМ, статей Юдковски или даже двухнедельным тренингом.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #57 : 10 Августа 2016, 22:46 »
  • (+)0
  • (−)0
  • Ну да, я, наверное, не совсем понимаю, что такое ваша "функция полезности". Какой-то это вообще странный термин, убогий какой-то, куцый. Это у робота, наверное, есть функция полезности, а я - живой человек.
    Это вы к чему? К тому что любые формальные модели человека будут убогими и куцыми по сравнению с человеком? Или к тому, что конкретно функция полезности слабовата?
    По-моему слабовата, в неё не уложить человеческую мотивацию, да. Но то что формальными моделями нельзя описывать человека -- это не так, я верю, что со временем человек будет смотреться убогим и куцым на фоне ИИ, работающего по вполне формальным правилам.
    И да, такого рода заявления я понимаю как "стоп-сигнал", как "смирись с ущербностью наших моделей".
    Противоречия эксперимента и теории развивают науку. Противоречия личных убеждений и личной практики развивают личность.
    Это работа с противоречиями, a la "доказательство от противного". Это не противоречия в мировоззрении.
    А ценностные противоречия экзистенции и эссенции развивают самоосознание. Я ощущаю их, например, как диссонанс между желаемым и должным, между нравственным и моральным, между внутренней потребностью и внешней обязанностью. Между рациональностью и эвристикой, в конце концов. Эти противоречия имманентны моей психике. Их отсутствие - это дебилизм (болезнь такая, делающая человека вечно счастливым). Но я не хочу быть дебилом. И я не понимаю, как их "логически разрешить" - это звучит для меня как бред. Я лишь стараюсь их осознать, отрефлексировать, отследить с помощью Стороннего Наблюдателя.
    Но вы ведь постоянно разрешаете эти противоречия? Между потребностями и обязанностями, например. Как вы их решаете? Подкидывая монету? Или может у вас есть какая-то система? Эта система вся такая противоречивая из себя, или может всё-таки она подчиняется законам логики? Или не законам логики, а законам какой-то другой формальной системы?

    Один из способов построить функцию полезности -- взять взвешенную сумму отдельных элементарных фукций полезности, каждая из которых оценивает какой-то один аспект ситуации. В качестве примера таких аспектов мы можем взять "удовлетворение внутренней потребности" и "выполнение внешнего обязательства". Хотя отдельные аспекты при этом могут "противоречить" друг другу, функция полезности их "мирит". ИИ будет максимизировать именно взвешенную сумму, а не отдельные аспекты.
    Я намеренно взял выше "противоречие" аспектов в кавычки, потому что оно будет именно противоречием только тогда, когда мы построем на них функцию полезности так, что она будет приводить к противоречивым решениям. Ну, например, при ставках 2:3 отказываться от игры в "угадай орёл или решка", а при ставках 3:2 идти ва-банк. Или увольнять администратора за то, что тот потратил миллион баксов на новое оборудование для больницы, а не на спасение жизни девочки. Противоречия функции полезности проявляются в принимаемых решениях, а не в том, что она взвешивает на весах полезности противоположные решения.
    Но при этом, если просто смотреть на принимаемые решения, то этого будет недостаточно, чтобы показать противоречивость. Как-то надо увязывать одно с другим, но я, честно говоря, запутался и не соображу как это сделать.

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #58 : 11 Августа 2016, 10:36 »
  • (+)0
  • (−)1
  • Но вы ведь постоянно разрешаете эти противоречия? Между потребностями и обязанностями, например. Как вы их решаете?
    Как-то так... гармонизирую их, что ли? Главное - осознать, учуять. Логика идет оккамовым лесом, нужен лишь Сторонний Наблюдатель. А дальше можно постараться превратить выполнение обязанности в потребность...
    Но мне, если честно, надоело. Я не психотерапевт, я не понимаю ваших проблем со слов. Если посидеть распить чилийского Карменере - может, что-то пойму, а так - нет.
    Так что лучше ударю-ка я пентоном по постмодерну и разгильдяйству.
    Ой ты гой еси, призрак опера!
    Человечеству несу свет не я -
    На худой конец моего пера
    Чушь лишь просится несусветная.
    А вокруг - натуры ученые,
    Всё понятно им, где добро, где зло:
    Слева белое, справа черное,
    Позади обман, впереди облом.
    И они взаправду готовы, да,
    За святую веру горой стоять!
    И причиной тому, и поводом -
    Безразмерный срач, а не просто ямб.
    Слово спелое - хрень опасная,
    Мир один на всех, не резиновый.
    Слева белые, справа красные,
    И герои все как один, увы,
    Смело в бой идут. Ну а хули им
    Сомневаться-то? Почему же я
    Тут один, в маете, под пулями,
    И без правды, и без оружия?
    Всё они, противоположности,
    Чьи разжать я тщусь, как дурак, тиски!
    Их единство — логики ложный стиль,
    Но в борьбе их крепнет дух практики,
    Их естественное наследие -
    Пуль движенье необратимое,
    Их божественная трагедия
    В том, что правды - несовместимые.
    Что ж за гад такой, не страшась толпы,
    Бытие в уме на ничто деля,
    Диалектикой расшатал столпы
    Чистых помыслов Аристотеля?
    Что ты гой еси, что еврей еси -
    Не читай на досуге Гегеля!
    И не верь его гнусной ереси,
    А умильный весь, словно гей, гуляй -
    И, гуляючи, не заметишь, как,
    Неприкаянный по всем признакам,
    Надрывается злой поэтишка,
    Что стишки свои пишет призракам.
    Но мои ль потуги убогие,
    Черта ли фантазии лысого,
    Духа ли феноменология -
    Что написано, то написано.
    Пусть нет чувства во мне прекрасного -
    Видно, нудный я человек такой,
    Выпью белого, выпью красного...
    Да и хрен бы с ней, с диалектикой.

    nar

    • Ветеран
    • ****
    • Сообщений: 312
    • +26/-27
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #59 : 11 Августа 2016, 10:45 »
  • (+)1
  • (−)0
  • Это вы к чему? К тому что любые формальные модели человека будут убогими и куцыми по сравнению с человеком? Или к тому, что конкретно функция полезности слабовата?
    Кстати, интересная мысль и, по-моему, правильная. А функция полезности, как формальная модель, не избегает данной участи. Более того, сама попытка измерить и заформализовать человека уже чревата "потерей информации" (это как известный квантовый принцип - измерение разрушает измеряемое состояние).

    anagor1

    • Постоялец
    • ***
    • Сообщений: 113
    • +46/-50
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #60 : 11 Августа 2016, 12:39 »
  • (+)0
  • (−)0
  • Кстати, интересная мысль и, по-моему, правильная. А функция полезности, как формальная модель, не избегает данной участи. Более того, сама попытка измерить и заформализовать человека уже чревата "потерей информации" (это как известный квантовый принцип - измерение разрушает измеряемое состояние).
    Подпишусь с одной поправкой: не "разрушает", а "необратимо изменяет".

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    Re: Умение объяснять как "режим провала"
    « Ответ #61 : 01 Февраля 2017, 09:47 »
  • (+)0
  • (−)0
  • для распространения рациональности следует пытаться сделать этот форум лучше. Но здесь я с каждым днём всё больше сомневаюсь и в важности этого фактора, и в своих способностях что-либо с ним сделать.
    Я даже не дочитала тему, и пока цитировала забыла ответ :)  но сомневаться точно не нужно. Вернее сомнения это нормально, иначе Вас можно было бы характеризовать любыми другими словами, но только не рационалист. Тут в целом кладезь знаний, в соо, не на форуме, множество материала из первоисточников. Но для поиска нужно пройти квест, а для распространения это плохо.  Форум- не цель. Цель- меньше особ "не включающих мозг" в округах.
    Мне сложно судить как там у вас в реале, мы в очень разных обществах живем. Меня раздражает форумная пассивность, посмотрела в вк и на фб все так же ровно.  По опыту, обезличенное общение не продуктивно. На моей местности большинство активных групп с форумов и жж перекочавали в фб, в контакте почему то не приживаются. Я пару сотен человек знаю лично, у многих есть фидбек, знаю что могу доверять их мнению, потаму, что они скорее не в интернете сидят, а обращаются к словарям, к вооз,  постоянно совершенствуют знания. При том авторитетность остается относительным критерием, если свои знания, или предположения, или действия человек не может подтвердить доступными ссылками врядли кто то прислушается.

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    способ удовлетворения своих "хотелок": надо расхотеть, и проблема будет снята.
    этот способ (тоже в школе). Более того, на мой взгляд, я с ним управляюсь лучше, чем подавляющая часть окружающих.
    Это не способ- это прокрастинация возведенная в степень "себя не знания".

    Взаправду расхотеть желаемого возможно лишь в одном случае, если неожиданно(случайно) свежее приобретение окажеться лучше изначально желаемого. Все. Иных способов я не вижу. Иначе то 'расхоченое' желание раз от разу будет всплывать в сознании, царапать душу сомнениями, и вопросами о необходимости счастья.

    Неужели "Королеву бензоколонки" не помните: "не я-мечте, а мечта-мне". Героиня даже о своем желании(мнимом) в причинно следственном порядке отзывается: "Какая девушка не мечтает танцевать да еще в балете на льду?!..". Каждый глагол выступает как отдельная цель. По итогу сюжета выяснилось, что танцевать она может где угодно, а свою значимость(звездность) сможет ощутить на должности проектировщика, а не только фигуристки.
    Тот же сюжет из жизни. Мой знакомый очень желал черный пояс по киокушинкай. До желаемого черного ему осталось преодолеть четыре шага, примерно пять лет тренировок. Но оказалось, что чем дальше, тем больше усилий это желание отнимало, и соответственно времени. Отсутствие оного и побудило расставить приоритеты. Заставило определится, а именно ли цвет пояса определит его уровень счастья. Т.е. действительно ли первичное желание можно считать целью, ради которой нужно повышать свою агентность. Оказалось, ему достаточно спортзала, и красивого отражения в зеркале.

    Вижу желаемое→нахожу пути достижения→получаю желаемое

    Вижу желаемое→нахожу пути достижения→не получаю→проверяю верно ли выбраны пути→исправляю→получаю

    В какой момент вы решаете, что необходимо расхотеть? Почему начинаете объяснять причины? Главное, мне не понятно причины чего — желания, или не соответствия, или не прогнозированного результата? Терминальные ценности включены в цепочку рассуждений о желании, каким образом?

    Принять(смириться) реальность такой какая она есть, все равно что расписаться в собственном безволии.