Натянутость неудачи Гарри, главы 88-89

[kuuff]

kuuff, да, всё правильно: мы оцениваем поведение Гарри, а не реальность. Но критерием оценки всё равно является лишь реальный опыт, а не соответствие мыслей, которые привели к данному опыту, каким-либо спецификациям.

Если, например, нужно принять важное решение, и моё решение оказалось неправильным - значит, мой способ принятия решений неправилен.
И наоборот: если решение оказалось правильным - это повод мысленно отметить те структуры сознания, что пришли к нему, дополнительным "баллом Квиррелла"   Это не означает, что именно так, в похожих случаях, теперь нужно поступать всегда - но это повод обратить внимание на то, что принесло успех.

Вы сильно всё упрощаете подгоняя решение под ответ.
Допустим, кто-то кидает монету и ставит 2:1 на то, что выпадет орёл. Допустим также, что мы знаем что монета честно падает с вероятностью 50% орлом. Я принимаю ставку и ставлю 10k рублей. Выпадает орёл, я проигрываю. Значит я совершил ошибку?
Нет. Я не совершил ошибку: я действовал рационально на основании тех данных, которые у меня были. Рациональность не даёт гарантий что я выиграю в каждом конкретном случае, она гарантирует, что если я буду играть достаточно долго, то мой выигрыш будет больше, чем у нерационального игрока.
Рассуждая тем образом, которым рассуждаете вы, мы придём к тому, что любой промах Гарри -- это натянутая неудача, потому что Гарри рационален и должен выигрывать всегда.
Но, Гарри, во-первых, не рационален. Он учится быть рациональным, к концу книги ему это удаётся гораздо лучше чем в начале, но он тоже человек и поэтому он не является реализацией во плоти всех измышлений Юдковского о том, какой должна быть рациональность. Во-вторых, рациональность не даёт гарантий выигрыша в отдельно взятом случае.
Неправильный образ действий может привести к выигрышу, правильный к проигрышу. При этом, эти способы действий -- тоже часть реальности. Да, рациональность как таковая -- это теория. Но рациональность как свойство образа мысли и действий конкретного человека -- это уже свойство реальности. Если бы это было не так, то рациональный Юдковский не стал бы разговаривать о рациональности.

[vkv]

не ради правды, а ради истины не могу не отметить, что рациональным выбором будет не играть, в предположении что 10к для вас заметная сумма.
Хотя конечно легко представить себе ситуацию, где в котором любой выбор будет означать равнозначную потерю.

[Alexey_F]

kuuff, нет, я просто не хотел расписывать стену текста с кучей цитат
Да, всё правильно. Но в жизни, чаще всего, нет таких "чистых" задач, т.е. существует такой выбор, при котором все исходы ситуации - "выигрышные". То, что мы не знаем о нём - свидетельство нашего несовершенства, а не повод искать себе оправдания, не повод не изменять себя.

Кроме того, на оценку решения влияют все обстоятельства: если упомянутые 10k рублей были всеми доступными деньгами, и завтра будет нечего кушать - то вообще не стоило заключать пари, а если это незначительная мелочь на фоне стоимости сегодняшнего обеда - то главной ценностью становится не выигрыш, а удовольствие от игры, например. (Пока печатал, vkv как раз об этом и упомянул.)

Скорее, я всё усложняю

Если я проиграл - значит, что-то было сделано неправильно. Что привело к этому, что могло помешать или помочь, и что изменить в себе, чтобы принимать решения лучше?

Если я выиграл - значит, что-было сделано правильно. Что привело к этому, что могло помешать или помочь, и что изменить в себе, чтобы принимать решения лучше?

[Панда]

Alexey_F, про мышей - это мы тут в соседней ветке обсуждали, там были высказывания в таком духе, что раз Гарри не достиг своей цели (изучить магию, стать всемогущим и всех спасти), то он напрасно мучил летучих мышей, живодер. А мол ученые-то достигают целей, полезных для человечества, значит, они не живодеры, им можно.
http://lesswrong.ru/forum/index.php/topic,504.msg12217.html#msg12217
Просто темы перекликаются. Да тут почти все темы время от времени перекликаются

[kuuff]

kuuff, нет, я просто не хотел расписывать стену текста с кучей цитат
Да, всё правильно. Но в жизни, чаще всего, нет таких "чистых" задач, т.е. существует такой выбор, при котором все исходы ситуации - "выигрышные". То, что мы не знаем о нём - свидетельство нашего несовершенства, а не повод искать себе оправдания, не повод не изменять себя.

Даже в случае монеты предопределено то, какой стороной она упадёт -- только наше несовершенство мешает нам это знать до того, как монета упала. Вероятность существует в голове, и она неотъемлимая часть нашей головы. Точка.

Кроме того, на оценку решения влияют все обстоятельства: если упомянутые 10k рублей были всеми доступными деньгами, и завтра будет нечего кушать - то вообще не стоило заключать пари, а если это незначительная мелочь на фоне стоимости сегодняшнего обеда - то главной ценностью становится не выигрыш, а удовольствие от игры, например.

Вас понесло в какие-то дебри. Смотрите на лес, а не на кусты и деревья из которых он составлен. Я достаточно рационален, чтобы оценивать все риски, в том числе и риски проигрыша. И если речь идёт о том, что я играю на 10k рублей, значит для меня это допустимая потеря.
А если вы к тому, что для Поттера потеря Гермионы была недопустима, так у него выбора не было -- играть или нет. А это значит, что продолжая натягивать мою аналогию глубже на случай Поттера, вы выходите за рамки применимости аналогии. Вам нарисовать аналогию более близкую?

Давайте нарисую. Я купил билет в Сочи, сел в поезд и еду туда. Мой сосед по купе, достаёт колоду карт и предлагает сыграть с ним и его друзьями в преферанс. Я подозреваю, что они -- команда профессиональных шулеров и отказываюсь. Он достаёт пистолет, направляет на меня и говорит: играй. Окей, я играю. Зная все их шулерские приёмы, отлично играя в преферанс, считая все карты, я быстро учусь различать карты по рубашкам, иногда даже умудряюсь передёргивать -- короче сопротивляюсь проигрышу как могу. Но их трое и они в сговоре, поэтому несмотря на некоторые свои успехи, я всё же проигрываюсь до трусов. И? Нам эта аналогия чем-то поможет?

Если я проиграл - значит, что-то было сделано неправильно. Что привело к этому, что могло помешать или помочь, и что изменить в себе, чтобы принимать решения лучше?

Ну? Продолжайте. Я проиграл 10k рублей ставя их против 20k рублей, с шансами выиграть 50%. Какие выводы для себя я должен сделать?

Если я выиграл - значит, что-было сделано правильно. Что привело к этому, что могло помешать или помочь, и что изменить в себе, чтобы принимать решения лучше?

Ну? Продолжайте. Я поспорил с прохожим на 10k, что я разряжу себе в голову весь барабан его револьвера. Я взял револьвер из рук прохожего, приставил к голове и шесть раз нажал на курок. Шесть осечек. Я выиграл 10k. Какие выводы я должен сделать?

[Alexey_F]

kuuff, я лишь упомянул только близкие к крайним точки шкалы оценки допустимости потерь.

В нарисованной более близкой аналогии - ситуация кардинально меняется после момента "он достаёт пистолет". До этого, для итогового состояния ещё имело достаточно большое значение, какие навыки игры в преферанс имеются, после - нет. Ставки и правила игры поменялись.

Продолжаю:
Проигрыш 10k рублей с вероятностью выиграть 50% - как я и говорил, это слишком "чистая" ситуация для реального мира. Такое бывает только, например, в казино, да и то, в сферическом в вакууме случае, если мы в чудо-вселенной, где они играют честно.
Выводы по поводу самого пари зависят от нашего отношения к этой потере, а вот уточнить правильность оценки вероятности монеты мы не можем, т.к. не хватает данных.

Выигрыш 10k рублей в результате пари на стрельбу в голову - если последовательные шесть осечек револьвера ранее воспринимались, как что-то невозможное - признать возможность. Можно ещё проверить револьвер на работоспособность и заряжен ли он, например.

Не хочу закапываться в крючкотворстве. Я сознательно не смотрю на "лес", потому что в реальности никакого "леса" нет. "Лес" - это обобщения, иллюзии разума в попытках справиться с потоком информации о мире, оптимизировать его обработку. Мозг сам "срезает углы", в этом ему особо помогать не надо "Стремись делать хорошо, плохо само получится."

Если, например, мы можем взять с собой оружие (и владеем соотв. навыками обращения с ним, само собой), которое позволило бы выйти из описанной ситуации с преферансом с меньшими потерями, и не взяли его с собой, предполагая, что подобная ситуация невозможна, что она точно не случится с нами, то мы совершили ошибку, принимая такое решение. Если же никаких вариантов превентивного решения проблемы подобным способом не было - надо "расширять охват" включённых в анализ параметров ситуации. Стоит ли возить с собой ценности поездом, если они были утеряны так? Какие более безопасные варианты транспорта мы знаем? Надо ли было вообще ехать в Сочи?
Можно предложить миллионы разных формулировок разных вопросов, но идея, я надеюсь, понятна.

После текста выше моё "не хочу закапываться в крючкотворстве" может показаться забавным, не правда ли? 
Пытаюсь совместить противоположности, почти как "тезис - антитезис - синтез" - не смотреть на "лес", но помнить о нём.

Если же возвратиться к событиям фанфика, то факт провала мероприятий по защите Гермионы свидетельствует о том, что защита была недостаточно совершенной. А это значит, что и те, кто принимал решения, воплощённые в исполнении этой защиты - недостаточно совершенны.

Лично я пока всё-таки не уверен, есть ли "натянутость" в этом месте сюжета. Может быть, нам всё логично объяснят, а может быть, волею автора, у Гарри внезапно "упал уровень паранойи в крови", а может, так вообще вышло случайно и ни один из планов ни одного из персонажей не сработал.

В отличие от Гарри, который, если можно так выразиться, играет в рамках кажущегося ему приемлемым жанра, мы (читатели ГПиМРМ) знаем, что он на самом деле является персонажем книги, а это значит, что воля и цели автора в любом случае важнее.
Поэтому я и писал ранее про то, что именно книгу будут оценивать по сюжету, а не отдельных её героев, и если ты хочешь мотивировать читателей на изучение рациональности, то можно позволять герою ошибаться в "мелочах", но не в одном из главных квестов.

Более прямо про решения Гарри - люди не оценят, если ты будешь говорить: "да, у меня не вышло, но посмотрите, какие правильные мысли меня вели!"
И "люди" здесь - это читатели, а не окружающие его по сюжету персонажи и речь не про абсолютно всех читателей, конечно, а про большинство.

В данном случае я оцениваю ГПиМРМ именно как одно из средств популяризации науки и рациональности - т.е. с точки зрения одной из главных причин, для чего Э.Ю. вообще начал писать этот фанфик.

[kuuff]

Продолжаю:
Проигрыш 10k рублей с вероятностью выиграть 50% - как я и говорил, это слишком "чистая" ситуация для реального мира. Такое бывает только, например, в казино, да и то, в сферическом в вакууме случае, если мы в чудо-вселенной, где они играют честно.

А если не в казино? Если я с друзьями играю в карты дома? В покер или преферанс. И при текущем раскладе мои шансы выиграть 50%, а ставки такие, какие правилами определяются.

Выводы по поводу самого пари зависят от нашего отношения к этой потере, а вот уточнить правильность оценки вероятности монеты мы не можем, т.к. не хватает данных.

Я взял монету, потому что для неё принято полагать, что вероятность фиксирована. Не нравится монета -- другой пример, карты с друзьями. Моё отношение к потере -- вы опять пытаетесь заблудиться в трёх деревьях. Я намеренно упрощаю ситуацию и свожу к деньгам, чтобы не заниматься выведением какой-то условной единицы полезности, и таким образом сводить ситуацию к теории игр. Вместо этого я беру деньги, как существующий и всем понятный пример единицы полезности. Но вы всё равно тонете в болоте несущественных подробностей.

Выигрыш 10k рублей в результате пари на стрельбу в голову - если последовательные шесть осечек револьвера ранее воспринимались, как что-то невозможное - признать возможность. Можно ещё проверить револьвер на работоспособность и заряжен ли он, например.

Так вопрос в том: стоит ли повторять или нет? Стоит ли при следующей возможности, поступать именно так?

Не хочу закапываться в крючкотворстве. Я сознательно не смотрю на "лес", потому что в реальности никакого "леса" нет. "Лес" - это обобщения, иллюзии разума в попытках справиться с потоком информации о мире, оптимизировать его обработку. Мозг сам "срезает углы", в этом ему особо помогать не надо "Стремись делать хорошо, плохо само получится."

Если вы не будете использовать обобщения, то вы не сможете делать сколько-нибудь общих выводов. Это самоочевидный факт. Вы вообще не сможете никаких выводов делать, которые можно было бы использовать многократно. То есть это ваше дело -- как хотите так и поступайте, но я это к тому, что если вы полагаете, что все рассуждения бесполезны, то наш разговор бессмысленен.
Мозг срезает углы -- и это хорошо. Это позволяет существенно экономить процессорные мощности. Математика -- это тоже способ срезать углы: когда мне нужно знать как связаны катеты прямоугольного треугольника с гипотенузой, я просто пользуюсь формулой a²+b²=c², а не начинаю рисовать пифагоровы штаны на существующем чертеже и выводить эту зависимость. Надо уметь срезать углы, иначе вы никогда не придёте к цели. Я не собираюсь доказывать это утверждение, это я оставлю вам, хотите проверьте -- ваше дело. Но я очень рекомендую вам поверить мне на слово -- это, как мне кажется, в ваших же интересах.

После текста выше моё "не хочу закапываться в крючкотворстве" может показаться забавным, не правда ли? 
Пытаюсь совместить противоположности, почти как "тезис - антитезис - синтез" - не смотреть на "лес", но помнить о нём.

При этом вы не можете сделать ни одного вывода, которого не смог бы сделать пятилетний ребёнок. Да и эти выводы вы можете делать лишь потому, что недостаточно последовательны на вашем пути отрицания обобщений. Стоит ли оно того?

Если же возвратиться к событиям фанфика, то факт провала мероприятий по защите Гермионы свидетельствует о том, что защита была недостаточно совершенной. А это значит, что и те, кто принимал решения, воплощённые в исполнении этой защиты - недостаточно совершенны.

Несомненно, КО в восторге, аплодирует стоя.

Лично я пока всё-таки не уверен, есть ли "натянутость" в этом месте сюжета. Может быть, нам всё логично объяснят, а может быть, волею автора, у Гарри внезапно "упал уровень паранойи в крови", а может, так вообще вышло случайно и ни один из планов ни одного из персонажей не сработал.

Угу. И ничего-то на этом пути мы не выковыряем. Попробуйте дать определение "натянутости" и попробуйте выработать формальные правила сравнения натянутости двух произвольных сюжетов. Если вы попробуете это сделать, то вы увидите, что вы сами не понимаете, что вы имеете в виду, когда говорите о натянутости сюжета.

В отличие от Гарри, который, если можно так выразиться, играет в рамках кажущегося ему приемлемым жанра, мы (читатели ГПиМРМ) знаем, что он на самом деле является персонажем книги, а это значит, что воля и цели автора в любом случае важнее.
Поэтому я и писал ранее про то, что именно книгу будут оценивать по сюжету, а не отдельных её героев, и если ты хочешь мотивировать читателей на изучение рациональности, то можно позволять герою ошибаться в "мелочах", но не в одном из главных квестов.

Это совершенно необоснованный вывод. Если сделать предположение, что Юдковский показал рациональное поведение Поттера, которое привело к гибели Гермионы, то этот вывод всё равно останется необоснованным.
Что вы вообще знаете о том, как надо мотивировать людей? Вот вы сейчас спорите здесь о рациональности, и именно в топике про главы 88-89. То есть вас, де факто, эти главы мотивировали. И при этом вы рассуждаете о том, что они демотивируют.

Более прямо про решения Гарри - люди не оценят, если ты будешь говорить: "да, у меня не вышло, но посмотрите, какие правильные мысли меня вели!"

Никто, кроме вас, не говорил о том, что мысли Гарри были правильными. Более того, я уже упоминал это -- в тексте озвучен десяток ошибок, совершённых Поттером. Я говорил что-то похожее, но немного иное: Гарри показал себя очень хорошо. А это немного другое -- если я плотно потрачу года три на велосипедные тренировки, после чего выйду против олимпийских чемпионов, то я могу показать себя хорошо, но победить не смогу. Это мотивирует? Или демотивирует? Или вы к тому, что Юдковский должен был врать, и рисовать картинку, в которой занимающийся по превосходящей методике велосипедист, за два года поднимается с нуля до победы на Тур-де-Франс?

[Alexey_F]

kuuff, спасибо, не думал о том, что проблема ожидания коротких понятийных расстояний встанет передо мной настолько красиво и тонко
Я вдруг осознал, что, похоже, мы говорим почти об одном и том же, но настолько разными способами, что, чем заполонять тему кучей текста в попытках синхронизировать определения и интерпретации, мне проще сказать: да, всё правильно, я понял, о чём речь.