Вики LessWrong.ru - Вклад участника [ru]

Replacing Guilt

2025-11-04T16:29:52Z

Tookser:

'''''Replacing Guilt''''' — цепочка, написанная [[Нейт Соарес|Нейтом Соаресом]], посвящённая чувству вины и альтруизму.

== Содержание ==
Эта цепочка состоит из 46 (в другом варианте — 37) эссе.

Она содержит практические рекомендации и советы по работе с чувством вины (guilt) (в контексте [[Эффективный альтруизм|Эффективного альтруизма]]).

=== Части цепочки (кроме вступления и related)<ref>По [https://replacingguilt.com/toc/ replacingguilt.com/toc/]</ref> ===
* Part One: '''Fighting for Something''' — о целеполагании и целях.
* Part Two: '''Drop your obligations''' — о проблеме, вызванной словом «должен», использование которого часто не приводит к должным результатам, и о решении проблемы.
* Part Three: '''No wasted motion''' — о лени/прокрастинации/иных отсутствиях деятельности, провалах и как к ним относиться.
* Part Four: '''Half monkey, half god''' — о том, кто такие «люди», и что они могут/не могут.
* Part Five: '''The dark world''' — об отношении к страданиям в мире.
* Part Six: '''Fire within''' — завершающая часть.

== Перевод ==
Цепочка не переводилась на русский язык целиком. Отдельные эссе [https://lesswrong.ru/w/Статьи_Нейта_Соареса переведены здесь].

== Ссылки ==
* [https://mindingourway.com/guilt/ Ссылка на Цепочку на mindingourway.com (англ.), 46 эссе]
* [https://replacingguilt.com/toc/ Ссылка на Цепочку на replacingguilt.com (англ.), другой вариант, 37 эссе]

== Примечания ==

Replacing Guilt

2025-11-04T16:29:31Z

Tookser: викификация

'''Replacing Guilt''' — цепочка, написанная [[Нейт Соарес|Нейтом Соаресом]], посвящённая чувству вины и альтруизму.

== Содержание ==
Эта цепочка состоит из 46 (в другом варианте — 37) эссе.

Она содержит практические рекомендации и советы по работе с чувством вины (guilt) (в контексте [[Эффективный альтруизм|Эффективного альтруизма]]).

=== Части цепочки (кроме вступления и related)<ref>По [https://replacingguilt.com/toc/ replacingguilt.com/toc/]</ref> ===
* Part One: '''Fighting for Something''' — о целеполагании и целях.
* Part Two: '''Drop your obligations''' — о проблеме, вызванной словом «должен», использование которого часто не приводит к должным результатам, и о решении проблемы.
* Part Three: '''No wasted motion''' — о лени/прокрастинации/иных отсутствиях деятельности, провалах и как к ним относиться.
* Part Four: '''Half monkey, half god''' — о том, кто такие «люди», и что они могут/не могут.
* Part Five: '''The dark world''' — об отношении к страданиям в мире.
* Part Six: '''Fire within''' — завершающая часть.

== Перевод ==
Цепочка не переводилась на русский язык целиком. Отдельные эссе [https://lesswrong.ru/w/Статьи_Нейта_Соареса переведены здесь].

== Ссылки ==
* [https://mindingourway.com/guilt/ Ссылка на Цепочку на mindingourway.com (англ.), 46 эссе]
* [https://replacingguilt.com/toc/ Ссылка на Цепочку на replacingguilt.com (англ.), другой вариант, 37 эссе]

== Примечания ==

Replacing Guilt

2025-11-04T16:29:15Z

Tookser:

'''Replacing Guilt''' — цепочка, написанная [[Нейт Соарес|Нейтом Соаресом]], посвящённая чувству вины и альтруизму.

== Содержание ==
Эта цепочка состоит из 46 (в другом варианте — 37) эссе.

Она содержит практические рекомендации и советы по работе с чувством вины (guilt) (в контексте [Эффективный альтруизм|Эффективного альтруизма]).

=== Части цепочки (кроме вступления и related)<ref>По [https://replacingguilt.com/toc/ replacingguilt.com/toc/]</ref> ===
* Part One: '''Fighting for Something''' — о целеполагании и целях.
* Part Two: '''Drop your obligations''' — о проблеме, вызванной словом «должен», использование которого часто не приводит к должным результатам, и о решении проблемы.
* Part Three: '''No wasted motion''' — о лени/прокрастинации/иных отсутствиях деятельности, провалах и как к ним относиться.
* Part Four: '''Half monkey, half god''' — о том, кто такие «люди», и что они могут/не могут.
* Part Five: '''The dark world''' — об отношении к страданиям в мире.
* Part Six: '''Fire within''' — завершающая часть.

== Перевод ==
Цепочка не переводилась на русский язык целиком. Отдельные эссе [https://lesswrong.ru/w/Статьи_Нейта_Соареса переведены здесь].

== Ссылки ==
* [https://mindingourway.com/guilt/ Ссылка на Цепочку на mindingourway.com (англ.), 46 эссе]
* [https://replacingguilt.com/toc/ Ссылка на Цепочку на replacingguilt.com (англ.), другой вариант, 37 эссе]

== Примечания ==

Replacing Guilt

2025-11-04T16:28:52Z

Tookser: форматирование

'''Replacing Guilt''' — цепочка, написанная [[Нейт Соарес|Нейтом Соаресом]], посвящённая чувству вины и альтруизму.

== Содержание ==
Эта цепочка состоит из 46 (в другом варианте — 37) эссе.

Она содержит практические рекомендации и советы по работе с чувством вины (guilt) (в контексте Эффективного альтруизма).

=== Части цепочки (кроме вступления и related)<ref>По [https://replacingguilt.com/toc/ replacingguilt.com/toc/]</ref> ===
* Part One: '''Fighting for Something''' — о целеполагании и целях.
* Part Two: '''Drop your obligations''' — о проблеме, вызванной словом «должен», использование которого часто не приводит к должным результатам, и о решении проблемы.
* Part Three: '''No wasted motion''' — о лени/прокрастинации/иных отсутствиях деятельности, провалах и как к ним относиться.
* Part Four: '''Half monkey, half god''' — о том, кто такие «люди», и что они могут/не могут.
* Part Five: '''The dark world''' — об отношении к страданиям в мире.
* Part Six: '''Fire within''' — завершающая часть.

== Перевод ==
Цепочка не переводилась на русский язык целиком. Отдельные эссе [https://lesswrong.ru/w/Статьи_Нейта_Соареса переведены здесь].

== Ссылки ==
* [https://mindingourway.com/guilt/ Ссылка на Цепочку на mindingourway.com (англ.), 46 эссе]
* [https://replacingguilt.com/toc/ Ссылка на Цепочку на replacingguilt.com (англ.), другой вариант, 37 эссе]

== Примечания ==

Участник:Tookser

2025-11-04T16:25:31Z

Tookser:

* Москва. Имею некоторый опыт в ру-вики.
* [https://tookser.github.io Личный сайт tookser.github.io]

Участник:Tookser

2025-11-04T16:25:08Z

Tookser:

* Москва. Имею некоторый опыт в ру-вики.
* [tookser.github.io Личный сайт]

Обсуждение:Гарри Поттер и методы рационального мышления

2025-11-04T16:24:27Z

Tookser:

Нашел интересную вещь. В одной из сцен в поезде упоминаются шесть ароматов кварков. При этом действие происходит в 1991 году, когда истинный кварк еще не был открыт, но уже предсказан. Это намек или просто ляп?

* На всякий случай отвечу. На tvtropes упоминается вроде, что часть открытий из поведенческой психологии, упоминаемые Гарри, были сделаны позднее 1991 года. [[Участник:Tookser|Tookser]] ([[Обсуждение участника:Tookser|обсуждение]]) 16:24, 4 ноября 2025 (UTC)

Обсуждение:Гарри Поттер и методы рационального мышления

2025-11-04T16:24:04Z

Tookser:

Нашел интересную вещь. В одной из сцен в поезде упоминаются шесть ароматов кварков. При этом действие происходит в 1991 году, когда истинный кварк еще не был открыт, но уже предсказан. Это намек или просто ляп?

* На всякий случай отвечу. На tvtropes упоминается вроде, что часть открытий из поведенческой психологии были сделаны позднее 1991 года.

Replacing Guilt

2025-11-04T16:20:13Z

Tookser: создал страницу, если что правьте, возможно позже дополню

'''Replacing Guilt''' — цепочка, написанная [[Нейт Соарес|Нейтом Соаресом]], посвящённая чувству вины и альтруизму.

== Содержание ==
Эта цепочка состоит из 46 (в другом варианте — 37) эссе.

Она содержит практические рекомендации и советы по работе с чувством вины (guilt) (в контексте Эффективного альтруизма).

=== Части цепочки (кроме вступления и related)<ref>По [https://replacingguilt.com/toc/ replacingguilt.com/toc/]</ref> ===
* Part One: Fighting for Something — о целеполагании и целях.
* Part Two: Drop your obligations — о проблеме, вызванной словом «должен», использование которого часто не приводит к должным результатам, и о решении проблемы.
* Part Three: No wasted motion — о лени/прокрастинации/иных отсутствиях деятельности, провалах и как к ним относиться.
* Part Four: Half monkey, half god — о том, кто такие «люди», и что они могут/не могут.
* Part Five: The dark world — об отношении к страданиям в мире.
* Part Six: Fire within — завершающая часть.

== Перевод ==
Цепочка не переводилась на русский язык целиком. Отдельные эссе [https://lesswrong.ru/w/Статьи_Нейта_Соареса переведены здесь].

== Ссылки ==
* [https://mindingourway.com/guilt/ Ссылка на Цепочку на mindingourway.com (англ.), 46 эссе]
* [https://replacingguilt.com/toc/ Ссылка на Цепочку на replacingguilt.com (англ.), другой вариант, 37 эссе]

== Примечания ==

Нейт Соарес

2025-11-04T15:50:46Z

Tookser:

Текущий исполнительный директор [[MIRI]].

Автор блога [http://mindingourway.com/ Minding our way].

Присоединился к [[MIRI]] в 2014 в качестве научного сотрудника, быстро заслужив репутацию за свои стратегические инсайты и высокую продуктивность. Нэйт — автор многих технических текстов MIRI, включая обзорные документы «Agent Foundations for Aligning Superintelligence with Human Interests» (2014) и AAAI «Corrigibility» (2015). Ведёт блог [http://mindingourway.com/ Minding our way].

* [http://so8r.es Личный сайт: so8r.es]
* [http://lesswrong.com/user/So8res/ Профиль Соареса на lesswrong.com]
* [[lwru:Статьи Нейта Соареса|Переводы статей Соареса с Minding our way]]
* [[Replacing Guilt|Цепочка эссе Replacing Guilt]]

[[Категория:Люди]]

Рацфик

2023-11-05T08:43:03Z

Tookser: Перенаправление на Рациональное творчество

#перенаправление [[Рациональное творчество]]

Рациональное творчество

2023-11-05T04:13:03Z

Tookser: /* Произведения, переведённые на русский язык */ добавил Дружбу это оптимум

{{DraftPage}}
'''Рациональное творчество''' (англ. ''Rational fiction'') — популярный на [[LessWrong]] вид художественной литературы. В первую очередь отличается разумностью мотивации персонажей (никто не делает глупостей только из-за того, что этого требует сюжет). Зачастую пропагандирует идеи рациональности и трансгуманизма.

== Произведения, переведённые на русский язык ==
* [[Элиезер Юдковский]], [[Гарри Поттер и методы рационального мышления]]
* [[Элиезер Юдковский]], [http://samlib.ru/i/ibatullin_r_u/3worldscollide.shtml Тройной контакт] (Eliezer S. Yudkowsky, [http://lesswrong.com/lw/y4/three_worlds_collide_08/ Three Worlds Collide])
* Alicorn, цикл [http://fanfics.me/serie1090 Luminosity] — «Рациональные Сумерки» ([http://luminous.elcenia.com/story.shtml оригинал]). На русский переведена первая часть — «Сияние разума», вторая — «Сияние истины» — в процессе.
* John C McCrae, [http://fanfics.me/fic68682 Червь] ([https://parahumans.wordpress.com Worm]). Перевод закончен.
* Benedict_SC, [http://fanfics.me/fic110210 Кордицепс, или Больно все умные] ([http://archiveofourown.org/works/6178036/chapters/14154868 CORDYCEPS: Too clever for their own good])
* Sarsapariller, [https://fanfics.me/fic143899 Супружество и монстры: эсхатологический роман] ([https://archiveofourown.org/works/18738010/ Marriage And Monsters - An Eschatological Romance]). Перевод в процессе.
* nobody103, [https://fanfics.me/fic95001 Мать Учения] ([https://www.fictionpress.com/s/2961893/1/Mother-of-Learning Mother of Learning]). Перевод закончен.
* Iceman, [https://ponyfiction.org/story/2603/ Дружба это оптимум] ([https://www.fimfiction.net/user/16334/Iceman/stories Friendship is Optimal]). Перевод окончен.

== Не переведённое на русский ==
* Alexander Wales, [http://www.alexanderwales.com/darkWizardNaNo2016.html The Dark Wizard Of Donkerk]

== Ссылки ==
* [http://rationalfiction.io/story/rational-fiction Большая статья про рациональное творчество на английском]
* [http://rationalreads.com/ Rational Reads]
* [https://tvtropes.org/pmwiki/pmwiki.php/Main/RationalFic Статья про рациональное творчество на TV Tropes со множеством примеров]
* [[lwru:Сокращенное руководство по умным персонажам|Краткое руководство по умным персонажам]] Элиезера Юдковского

Участник:Tookser

2023-11-05T04:07:15Z

Tookser: Новая страница: «Москва. Имею некоторый опыт в ру-вики.»

Москва. Имею некоторый опыт в ру-вики.

Дилемма заключенного

2023-11-05T03:46:33Z

Tookser: /* Классическая дилемма заключенного */ добавил матрицу игры

'''Дилемма заключенного''' — проблема из теории игр, демонстрирующая, что два [[агент]]а могут отказываться от кооперации, даже если это в их интересах. Является одной из базовых теоретико-игровых ситуаций, существует в различных вариациях и расширениях, имеет много приложений в реальных ситуациях.

== Классическая дилемма заключенного ==

{| class="wikitable" style="text-align:center; float:right; margin-left:0.8em; clear:right;"
|+ Матрица исходной игры
|-
! !! Заключённый Б молчит !! Заключённый Б предаёт
|-
! Заключённый А молчит
| 0.5/0.5|| 10/0
|-
! Заключённый А предаёт
| 0/10 || 2/2
|}

Классическая формулировка такова:

Двое преступников — А и Б — попались примерно в одно и то же время на сходных преступлениях. Есть основания полагать, что они действовали по сговору, и полиция, изолировав их друг от друга, предлагает им одну и ту же сделку: если один свидетельствует против другого, а тот хранит молчание, то первый освобождается за помощь следствию, а второй получает максимальный срок лишения свободы (10 лет). Если оба молчат, их деяние проходит по более лёгкой статье, и каждый из них приговаривается к полугоду тюрьмы. Если оба свидетельствуют друг против друга, они получают минимальный срок (по 2 года). Каждый заключённый выбирает, молчать или свидетельствовать против другого. Однако ни один из них не знает точно, что сделает другой. Что произойдёт?

Предполагая, что каждый игрок заботится только о собственном благополучии, для первого игрока рейтинг предпочитетельности исходов будет такой (где C — Cooperate, Сотрудничать, D — Defect, Предать): DC (0 лет), CC (0.5 лет), DD (2 года), CD (10 лет).

Наилучшим суммарным (Парето-оптимальным) результатом является вариант CC; однако поскольку для каждого из агентов стратегия «предать» строго доминирует (дает больший выигрыш независимо от хода оппонента) над стратегией «сотрудничать», то обычно они приходят к (равновесному по Нэшу) исходу DD.

Другая формулировка дилеммы заключенного с аналогичными выводами: «Некий меценат предлагает двум соседям (каждому независимо от другого) выбор: взять один миллион долларов самому или передать два миллиона долларов другому».

== Способы разрешения классической дилеммы заключенного ==

Если между двумя агентами существует [[общее знание]] о том, что они достаточно похожи друг на друга (настолько, что придут к одинаковым выводам и выберут одинаковую стратегию), то есть реализуется либо исход CC, либо DD, но не CD и не DC, то делая выбор между миром, в котором оба выбрали кооперацию, и миром, в котором оба выбрали предательство, они оба предпочтут сделать ход C.

Если существуют внешние стимулы (например, когда за предательство следует наказание от внешнего арбитра или репутационные издержки), то фактически матрица выплат меняется (помимо основных выплат/штрафов добавляются дополнительные), и агенты могут предпочесть кооперацию.

== Повторяющаяся дилемма заключенного ==
В реальной жизни люди обычно взаимодействуют друг с другом в ситациях, похожих на дилемму заключенного, неоднократно. В силу этого игрок после «предательства» оппонента может столкнуться с местью во время следующего раунда или репутационными издержками. Подобные обстоятельства моделируются в т. н. «повторяющейся дилемме заключенного».

В этой разновидности игра проводится не однократно, а достаточно много раз подряд между одной и той же парой игроков, с одними и теми же правилами в каждом раунде. Игроки обладают памятью о прошлых ходах своего оппонента и могут менять свою стратегию на основе истории прошлых раундов.

В соревнованиях компьютерных программ наилучший результат часто показывает стратегия Tit-for-tat («Око за око»), имеющая следующий простой алгоритм: «Сотрудничать в первом раунде; в N+1 раунде делать тот же ход, что делал оппонент в N раунде (поощрять за предыдущее сотрудничество, наказывать за предыдущее предательство)».

Чтобы набирать большое количество баллов в соревнованиях, стратегия обычно должна обладать следующими качествами:

* ''Добрая'' (не предавать до тех пор, пока оппонент не предал вас);
* ''Мстительная'' (время от времени предавать оппонента после предательства с его стороны, чтобы оппонент не мог эксплуатировать вас);
* ''Прощающая'' (с некоторой вероятностью не предавать оппонента в ответ на предательство с его стороны: в ситуациях ошибки «палец дрогнул, нажал D вместо C», зашумленного канала «нажал C, но оппоненту показалось, что было нажато D» или прощупывания оппонента «нажму D — а вдруг его можно эксплуатировать?» игроки могут войти в цикл постоянного взаимного предательства; желательно иметь возможность вернуться к циклу взаимной кооперации после наказания за предательство);
* ''Независтливая'' (максимизировать свой собственный счет, а не пытаться всеми силами обойти счет оппонентов).

== Дилемма заключенного с доступом к исходному коду ==
В повторяющейся дилемме заключенного агент может получить косвенные данные о стратегии оппонента по его прошлым ходам. Развитие этой идеи — возможность получить полную информацию о стратегии оппонента через анализ его полного исходного кода. В соответствующем гипотетическом турнире компьютерных программ все они играют друг с другом попарно по одному разу, и каждой на вход дается исходный код оппонента.

Программу, которая всегда сотрудничает, называют '''CooperateBot'''; программу, которая всегда предает, называют '''DefectBot'''.

Основное качество, которым должна обладать хорошая программа — не быть эксплуатируемой (то есть предотвращать ситуации, когда она сотрудничает с оппонентом, который предает ее). Большинство описанных ниже программ обладают этим качеством.

=== CliqueBot ===
Такая программа сравнивает исходный код оппонента со своим собственным (задача получения программой собственного кода известна как quine и всегда технически разрешима). Если код обеих программ совпадает, то CliqueBot сотрудничает со своим оппонентом, иначе — предает.

Подобная стратегия чувствительна к малейшим различиям в исходном коде, в том числе нефункциональным. Программы, написанные на разных языках программирования, не будут считаться идентичными; даже отличия в названиях переменных мешают двум вариациям CliqueBot сотрудничать друг с другом.

=== FairBot ===
Алгоритм работы FairBot следующий: попытаться доказать, что оппонент (про которого известно, что он получит на вход исходный код FairBot) будет сотрудничать с ним; если это удалось, то сотрудничать; иначе — предать.

Реализация такого алгоритма через прямую эмуляцию нецелесообразна, так как в случае игры FairBot1 против FairBot2 первый вначале запустит эмуляцию второго, который запустит эмуляцию первого, который запустит эмуляцию второго и т. п. В подобной ситуации одна из программ рано или поздно исчерпает стек/память, не сумев доказать, что оппонент будет сотрудничать, и предаст его. Другая программа (которая исчерпает ресурсы позже) сможет это показать в своей эмуляции, и в ответ тоже предаст.

Однако, если FairBot реализован через математический анализ кода оппонента, то с помощью [[Теорема Лёба|теоремы Лёба]] можно доказать, что два таких алгоритма будут сотрудничать друг с другом даже при наличии различий в структуре своего кода (в отличие от CliqueBot).

=== OptimisticBot ===
Вариация предыдущей программы, которая предает только если смогла доказать, что оппонент будет ее предавать, а в противном случае сотрудничает, также сотрудничает со своими аналогами.

Однако, если друг с другом играют OptimisticBot и FairBot, то ни один из них не сможет выполнить ветку «если удалось доказать» (по теореме Гёделя даже некоторые истинные факты не являются доказуемыми). В результате первый будет сотрудничать, а второй предаст, то есть случится ровно то, что они оба пытались проверить через доказательство, но не смогли.

Т.о., OptimisticBot не является неэкспуатируемым.

=== PrudentBot ===
FairBot имеет недостаток, состоящий в том, что он сотрудничает с CooperateBot, хотя мог бы эксплуатировать его и предавать, получая дополнительные очки (это может звучать этически сомнительно, но в ряде случаев является полностью морально оправданно).

Этого недостатка лишен PrudentBot, который пытается доказать, что его оппонент, во-первых, кооперирует с самим PrudentBot, во-вторых, предает DefectBot; если удается доказать оба этих факта, то сотрудничает с ним, иначе предает.

PrudentBot сотрудничает как со своими разновидностями, так и с FairBot, и при этом предает CooperateBot.

== Статьи по теме ==
* [https://intelligence.org/files/ProgramEquilibrium.pdf Program Equilibrium in the Prisoner’s Dilemma via Lob’s Theorem] — статья [[MIRI]] о дилемме заключенного с доступом к исходному коду

== См. также ==
* [[Молох]]
* [[Охота на оленя]]

[[Категория:Понятия]]
[[Категория:Теория игр]]