Темы

1

Обсуждение книги / hpmor.com всё?

« : 17 Октября 2019, 22:46 »

Зашел тут на hpmor.com, а там вместо книги:

Site Not Found
Well, this is awkward. The site you're looking for is not here.

Что случилось, кто знает? Автор забыл проплатить хостинг?

PS И тут мне вспомнилась 64 глава:

Вы собирались лечь спать ещё пять часов назад, но до сих пор читаете? Может быть, вам стоит всё-таки немного поспать? Этот фик здесь будет и завтра… если, конечно, не случится что-то плохое, и на следующее утро вы не обнаружите по этому адресу лишь ошибку 404, и всё, что вам останется — это тускнеющие воспоминания и вечные сожаления, что вы не продержались подольше и не продолжили читать, пока у вас была такая возможность… Но подумайте, насколько это вероятно?

2

Сообщество рационалистов / Плохой поисковый движок

« : 10 Ноября 2018, 16:38 »

Поисковый движок lesswrong.ru не умеет в морфологию и словоформы. Время от времени, когда хочу найти нужную статью, но не помню название, бывает сложно через него пробиться.

К примеру, сравните результаты:
https://lesswrong.ru/search/node/бабочка
https://lesswrong.ru/search/node/бабочке

А еще не обрабатывает опечатки:
https://lesswrong.ru/search/node/бабачка

Я не знаю, как именно это тут реализовано, но, может, стоит сделать что-то вроде поиска по триграммам?

3

Общение / О двойном учете свидетельств или не думай о поражении?

« : 22 Декабря 2017, 23:45 »

Читал я недавно книгу "Призрачный ученик".

// Далее СПОЙЛЕР этой книги:

Обычная фантастика, не имеющая отношения к рациональности. Если в общих чертах, главный герой решает для себя дилемму. Через несколько дней на его мир нападет король демонов. Защититься можно двумя способами:
1. Провести смертельный для одного человека (родственника ГГ) ритуал, который, как считается, гарантированно защитит мир.
2. Сразиться с демоном самому. Шансы, что ГГ победит, считаются крайне малыми, но даже так, ценой кучи жертв мир скорее всего может одержать победу.

Он пошел советоваться со своим учителем, и вот что тот ему сказал:

- Выбери уже для себя, кто для тебя важнее — Ичиро или миллиарды незнакомых тебе людей. И еще одно — если ты заранее сдаешься, ты заранее проигрываешь. Имей в виду шанс поражения и не обращай на него внимания. Это важно только при выборе пути, но если ты свой выбор сделал… - замолчал он ненадолго. - Ты идешь только побеждать. А теперь иди, - махнул он рукой. - Это твой Выбор. Свой я сделал давным давно.

Там есть замут с некой "волей", обладающей ею игнорирует физические законы, но меня интересует не это. Верна ли мысль учителя ГГ для нашего мира? О том, что следует считать шансы до принятия решения, но если принял его - после нужно действовать так, будто есть лишь один исход - победа?

// Конец СПОЙЛЕРА

Для проверки этого я создал небольшую симуляцию. Правила такие:

1. Играем десять тысяч раундов.
2. В каждом раунде тебя спросят "да" или "нет"?
3. Вероятность выпадения "да" 70%.
4. Вероятность выпадения "нет" 30%.
5. Если твой ответ и ответ системы совпадут - тебе начислят один балл.
6. Если ответы не совпадут - с тебя снимают балл.

Есть три стратегии:
1. Всегда говорить "да".
2. В 70% случаев говорить "да", в 30% - "нет".
3. Всегда говорить "нет".

Вопрос зрительному залу: как думаете, какая из стратегий принесет больше баллов? А какая - меньше всего?

Код на javascript, запустить и проверить свою догадку можно в консоли браузера или в терминале:
https://gist.github.com/Kroid/4952ac8605a81d492e5a1199a6930948

4

Сообщество рационалистов / Программа обучения рациональности

« : 22 Марта 2017, 22:56 »

У человечества есть большой опыт обучения таким штукам как математика, физика, химия. Меньший опыт обучения программированию - отрасль относительно молодая, но уже для разных направлений имеются проверенные способы взять случайного человека и дотянуть до определенного уровня.

Пробовали ли создать некую "программу" (методичку, список тем) для овладения навыком рационального мышления? Есть цепочки, но они больше похожи на некие доп. материалы, а не на основной курс.

Если брать стандартный школьный учебник (практически по любому предмету), он состоит из разделов, в каждом разделе несколько тем, каждая тема состоит из теории, пары десятков задач и правильных ответов на них. В дополнение к этому существуют задачники, в которых есть по нескольку тысяч упражнений и ответов на них.

Для каждого предмета подготовлена теория и практика в песочнице. В рациональности теорию худо-бедно могут заменить цепочки (на самом деле нет, как мне кажется), а песочницы с практикой нет совсем. В итоге большинство людей читают Гарри Поттера, читают цепочки лессвронга, смотрят в википедии на формулу Байеса. И всё. Некоторые из них еще пообщаются на форуме. Тех, кто после этого пытаются сделать что-то самостоятельно, придумывают для себя какие-то практические задачи, можно по пальцам пересчитать; если выражать в процентах относительно изначально заинтересовавшихся - где-то на уровне погрешности вычислений. С другой стороны, для той же математики или программирования этот процент намного больше, возможно, на порядки.

Даже в русскоязычном сообществе я далеко не первый (и не десятый), который задумался об этом, что уж говорить о глобальном. Кто-нибудь пробовал структурировать знания? Что-нибудь получилось? Может, на англоязычных ресурсах уже давно всё придумали, а я об этом не знаю? Если да - заделитесь ссылками.


Из интересных штук есть https://arbital.com/, например, про теорему Байеса: https://arbital.com/p/bayes_rule/, жаль только на английском всё.

5

Общение / О пользе любезности, общин и цивилизации

« : 17 Мая 2016, 17:37 »

Но смотрите: я — pro-choice-атеист (pro-choice — позиция, поддерживающая легальность абортов — прим. пер.). Когда я жил в Ирландии, одним из моих друзей была pro-life-христианка (pro-life — соответственно, позиция, поддерживающая криминализацию абортов). Я считал, что она несёт ответственность за ненужные страдания миллионов женщин. Она считала, что я несу ответственность за убийства миллионов младенцев. И всё же она пригласила меня к себе на ужин, не отравляя пищу. И я поел, и поблагодарил её, и отправил ей милую открытку, а не разбил весь её фарфор.
Пожалуйста, постарайтесь оценить это по достоинству. Каждый раз, когда республиканец и демократ разделяют трапезу, происходит чудо. Это равновесие не менее полезно, чем цивилизация или либерализм, но оно было создано без всякого государства.

Вот интересный пример.
Автор восторженно пишет об этом, как о чуде, но я в этом вижу другое - ни ему, ни его соседке на самом деле не слишком важны эти "pro-choice" и "pro-life". Это больше похоже на боление за футбольную команду: на матче могут и подраться, а в остальном - нормально общаются.

Ссылки на обсуждаемую статью:
Оригинал
Перевод

6

Обсуждение книги / Проклятие на должности профессора защиты в каноне

« : 14 Декабря 2015, 01:12 »

Довольно часто в каноне и в фике упоминается слово "проклятие", которое Волди оставил на должности защиты в Хогвартсе. Однако за все 7 книг я не видел ничего сверхъестественного. Каждый раз очередная мутная личность бралась за обучение учеников, а под конец по вполне немистическим причинам увольнялась/убивалась. Похоже на череду неудач, нежели на действие заклинания.

7

Рациональность / Рациональность, религия и реальные действия

« : 09 Сентября 2015, 23:59 »

Есть уже тема "рациональность и религия" на 32 страницы, но я создал новую, потому что хочу задать вопрос под немного другим углом. Среди нас на форуме есть те, кто придерживается какой-либо религии, кто отрицает любую религию, кто придумал что-то свое, кто считает невозможным узнать наверняка, etc.

Что мне хочется узнать - а как ваше мировоззрение влияет на ваши решения? Влияет ли оно вообще? Есть ли разница в поступках между, например, атеистом и агностиком, которая обуславливается именно взглядом на религию?

Я так подозреваю, что существует лишь 2 группы людей, которые различаются поступками - крайне религиозные и все остальные. Все виды *теистов - по сути просто забавляются, придумывая себе мировоззрения, но их поступки и способы принятия решений не отличаются между собой (ну, разумеется, не считая вопросов, касающегося мировоззрения).

И еще я подозреваю, что даже среди условно-религиозных людей поведение большинства не отличается от поведения *теистов, не считая молитвы перед едой и празднования пасхи.

И тогда возникает вопрос - если эти убеждения никак на нас не влияет, то оно нам вообще надо? В смысле, верю я во что-то или не верю, но 2+2=4, и я буду поступать так, как если бы 2+2=4.

8

Рациональность / Элиезер и парадокс Ньюкома

« : 09 Января 2014, 19:19 »

В своих статьях Элиезер пишет о парадоксе Ньюкома, противопоставляя рациональное решение традиционному. Я бы хотел поговорить об этом.

Описание в википедии:

Парадокс предполагает мысленный эксперимент, игру с двумя участниками — предсказателем (который может безошибочно предсказывать будущее) и собственно игроком.

Предсказатель ставит перед игроком две коробки — открытую и закрытую. В открытой коробке находится тысяча долларов, в закрытой — либо миллион долларов, либо ничего. Игрок может взять себе или только закрытую коробку, или обе коробки вместе. Содержимое коробки зависит от предсказателя:
Если он предскажет, что игрок выберет обе коробки, то закрытая коробка будет пустой
Если предсказывается, что игрок выберет закрытую коробку, то коробка будет содержать миллион долларов.
Какую коробку следует выбрать игроку, чтобы получить наибольшую сумму? Ему известны все условия игры, известно, что содержимое коробки зависит от предсказаний; единственное, что ему неизвестно, — это какое именно из двух предсказаний сделано.

Элиезер в двух разных статьях описывает немного отличающиеся способности предсказывать будущее:

Omega has been correct on each of 100 observed occasions so far - everyone who took both boxes has found box B empty and received only a thousand dollars; everyone who took only box B has found B containing a million dollars.
---
До сих пор Омега оказывался прав на каждом из ста наблюдаемых случаев: каждый, кто брал оба ящика, находил ящик Б пустым и получал только тысячу долларов; каждый, кто брал только ящик Б, обнаруживал в нём миллион.

Omega has played this game many times before, and has been right 99 times out of 100.
---
Омега играл в эту игру много раз и предсказывает правильно 99 раз из 100.

Сам Элиезер предлагает всегда брать ящик Б, даже если предсказатель может ошибаться 1 раз из 100 (спишем эту ошибку на статистическую погрешность).


На той же странице википедии очень лаконично написаны 3 способа рассуждений:

С одной стороны, если считать, что предсказатель может ошибаться, то независимо от того, какое предсказание сделал предсказатель, выгоднее выбрать обе коробки. При этом можно руководствоваться следующими соображениями: если был предсказан первый вариант, то игрок получит либо тысячу долларов, либо ничего. Если же было сделано второе предсказание, то игрок фактически выбирает между 1000000$ и 1001000$. Поэтому выбирая всегда обе коробки игрок получит больше денег.

С другой стороны, если считать, что сделав выбор, игрок повлияет на предсказание (которое будет безошибочным), то таких результатов как 0$ и 1001000$ (расхождений в предсказании и выборе игрока) не может получиться в принципе. Поэтому игрок может получить либо тысячу (если он выберет обе коробки, то вторая будет пустой), либо миллион (если выберет только закрытую).

Наконец, если считать, что предсказатель уже безошибочно предсказал будущее, то игроку не о чем беспокоиться: выбор уже сделан за него и до него, он лишь механически исполняет неизбежное.

Всё это сводится к такому вопросу: может ли игрок повлиять на предсказание?
1. Если не может - само мироздание заставит взять ту коробку, которую предсказал Омега. Как такое возможно?
3. Если может - лучше выбрать Б.

Есть ли у нас свидетельства того, что выбор игрока влияет на предсказание? Как вообще будущее может влиять на прошлое?

Я озадачен. Что-то не так. Вспоминается история с нагретой тарелкой:

— Мне кажется, — наконец, заговорил Гарри, — что мы смотрим на это под неверным углом. Однажды я слышал историю, как ученики пришли на урок физики, и учительница показала им большую металлическую тарелку, стоявшую у огня. По её просьбе ученики потрогали тарелку и обнаружили, что ближайшая к огню сторона холоднее, чем дальняя. Учительница попросила их письменно ответить на вопрос, как такое возможно. Некоторые ученики написали «потому что металл проводит тепло», кто-то — «это произошло из-за воздушных потоков», и никто не сказал «по-моему, это совершенно невозможно». А на самом деле учительница просто повернула тарелку, перед тем как ученики вошли в класс.

Предсказание на самом деле появляется уже после выбора. Например, коробка Б на самом деле с потайным дном и перемещающимся механизмом. Или Омега наблюдает из кустов за игроком и вручную абракадабрит деньги в коробки.

Вот почему надо всегда выбирать ящик Б. Ошибка не в традиционной системе принятия решений, а в неверной интерпретации получаемых данных.

А вы что думаете?