Просмотр сообщений - Muyyd

Просмотр сообщений

В этом разделе можно просмотреть все сообщения, сделанные этим пользователем.


Сообщения - Muyyd

Страницы: 1 2 [3] 4 5 ... 14
31
Сам я настолько пронизан байесовской эпистемологией, что она является метауровнем. Даже если что-либо окажется полезней, то фраза "метод Х более полезен, чам байесовская рациональность" слишком уж подозрительна похожа на "метод Х назначает большую вероятность наблюдениям У, чем байесовская вероятность". Так что даже если и появится метод более действенный, процесс выбора будет напоминать сильней процесс байесовского вывода, чем каких-либо еще выводов.
Ключевой вопрос рациональности "почему я знаю то, что я знаю? Почему я верю в то, во что я верю?"
Это, разумеется, light версия. Чтобы, читатель, услышав ее, подумал: "действительно, почему же?", вместо "а это, блин, что значит?", если бы Юдковский (в статьях или в МРМ, устами Гарри) формулировал фундаментальный вопрос рациональности в его истинной (вербальной, истинная форма - теорема Байеса) форме: "Какого соотношение априорных шансов среди конкурирующих гипотез к апостерироным, с учетом отношений правдоподобия?"

Путь LessWrong пронизан идеей, что самое важное это байесовская вероятность. На чем основана эта вера/знание?тих задач появляется байесовская вероятность? Как она помогает?
Насколько я знаю, не было эпической коммуникации, в ходе которой Святой Лапласс передал Человечеству Байесовскую Мудрость. Каким-то образом теорема Байеса проникла в когнитивную науку.
Цитировать
Принятие решений в неопределенности: Правила и предубеждения
С момента привлечения Эдвардсом и eгo коллегами идей Байеса в психологическое исследование, психологам впервые предложили целостную и четко сформулированную модель оптимального поведения в условиях неопределенности, с которой можно было сравнить принятие решений человеком. Соответствие принятия решений нормативным моделям стало одной из главных парадигм исследования в области суждения в условиях неопределенности.
И на этом мои познания исторической части заканчиваются.

Так уж получилось, что относительно одних утверждений мы чувствуем большую уверенность, чем относительно других. Просыпаясь утром, я еще на знаю будет ли дождь и не могу уверенно выбрать какой из вариантов скорее всего произойдет. Но, увидев тучи, мои ожидания меняются: уверенность в том, что будет дождь увеличится, а уверенность в том, что будет сухо - снизится (в идеале, разумеется, в реальности убеждения не всегда так легко меняются).

Нормой для определения действия, которое скорее всего, в сравнении с другими действиями, позволит достичь результата (дойти до пункта Х, сохранив сухость) стала байесовская система принятия решений, а именно максимизация ожидаемой полезности. Мы должны делать те действия, от которых ожидаем больше пользы для достижения желаемого результата.
Однако, необходимым условием так же является определение того, какие же из возможных результатов самые вероятные. И, какие действия являются самыми полезными (какие из разных результатов назначают наибольшую вероятность каким действиям (свидетельствам)).

Ключевой вопрос управления: "Почему я знаю/верю, что предлагаемый вариант дает лучший результат?". Почему внимание к байесовской вероятности даёт лучший результат?
Ознакомившись с некоторой литературой по рациональности, я начал задаваться вопросом: "почему наиболее вменяемые решения и правдоподобно звучащие варианты имеют байесовскую структуру, а ошибки часто оказываются результатом пренебрежения распределнием априорных вероятностей среди возможных гипотез и игнорированием вероятности, назначаемой свидетельству конкурирующими гипотезами?".

Есть [PDF]Интуитивное объяснение теоремы Байеса на русском, есть A Technical Explanation of Technical Explanation на английском. Но нет компактного сравнения разных систем репрезентации эмпирических убеждений (вроде "у большинства людей два зрячих глаза" (есть ведь и одноглазые, правда, их мы ожидаем встретить с меньшей уверенностью), а не "две молекулы водорода и молекула кислорода, при затрате энергии N образут молекулу воды H2O"). Я не встречал сравнения силлогизмов Аристотеля с байесовской эпистемологией. Загляните в
Decision Making and Rationality in the Modern World (Fundamentals in Cognition) 1st Edition
и в
A Critical Introduction to Formal Epistemology (Bloomsbury Critical Introductions to Contemporary Epistemology)
. Я пока не владею материалом, чтобы хотябы на десятке страниц изложить кратко почему же стоит использовать теорема Байеса для репрезентации частных убеждений в сравнении с силлогистикой, логикой первого порядка, кванторами.
Та же можно посмотреть: Highly Advanced Epistemology 101 for Beginners

Если вы хотите написать бестселлер, то ваше ожидание того,что ваша книга будет раскуплена может быть равно ожиданию запыления на полках. Ваше ожидание разных состояний реальности (раскуплена, пылиться) измениться в зависимости от того, о чем и как будет эта книга (см. байесовское свидетельство).

32
У вас удивительно (в хорошем смысле этого слова) вменяемая реакция на мои комменты. Не подскажите, на какие ресурсы (книги или статьи) стоит обратить внимание в первую очередь тому, кто заинтересовался ТРИЗ? А так же на те, что вы сочли наиболее полезными для себя.

33
Так самая таинственная книга: Rationality: From AI to Zombies. Статьи Юдковского, собранные в книгу, основным преимуществом которой является порядок (отличный от того, в котором они публиковались в сети) расположения статей.

34
Вы правы, я не прочел эти 400 статей и кучу книг (от силы статей 40 и ГПиМРМ), я знаком достаточно поверхностно с методами, которые применяются, и сейчас нахожусь в процессе изучения. Но, как я считаю, этого достаточно, чтобы сделать некоторые выводы. Вы можете меня опровергнуть, но сказать "да ты не прочел все 400+ статей" не является опровержением, КМК.
Недостаточно.

Думаю, следует мне уточнить, что я рассказал про 400+ статей не для того, чтобы "задавить авторитетом". Год назад я тоже был на отметке "(от силы статей 40 и ГПиМРМ)". И вот, за исключением раскрытия параллелей между рациональностью и боевым единоборством, я все рассказал бы иначе (не то чтобы все совсем неправильно, но все же). Процесс, когда я сяду и сведу то, что о чем писал Юдковский в стройную систему (о которой я смогу внятно говорить), еще впереди. Сейчас я могу лишь попытаться передать трудновербализируемое понимание рациональности, как стройный набор причинных (в физическом смысле) алгоритмов для увеличения эффективности предсказательной силы когнитивной-системы-человеческого-мозга (примерно так я думаю о рациональности сейчас), в противовес набору классных ad hoc инструментов (как я думал год назад).

Наверняка вы уже имеете опыт освоения чего-либо, потраченных десятков часов работы. Множеств озарений: от приятных "ах, так вот как оно работает" до не слишком "здорово, что я ни с кем не делился своими идиотскими идеями". Смоделируйте разговор с самим собой - до этих "десятков часов" (вы-прошлый) и после (вы-настоящий).  Достаточно ли будет информации у того, кто "только начал", для ведения разговора на уровне того, кто "уже продолжает"? Только честно.

Обратите внимание на выделенную мной часть статьи одного из рационалистов (Скотта Александра).
Еще одна интересная вещь состоит в том, что чтобы использовать методику типа ТРИЗ для решения задач, не нужно читать такой объем спец.литературы. Это методика, которую в первом приближении может применять каждый и получать какие-то результаты.
В силу определенных математико-философских соображений это кажется мне подозрительным (если предположить, что под "какими-то результатами" вы имеете ввиду "хорошие результаты", которые "каждый" не смог бы получить (или получил бы, затратив больше времени) без ТРИЗА; а это, как я уже писал - трудно проверить).

У меня есть понимание принципов работы ТРИЗ в плане решения задач, и я могу кратко эти принципы изложить, можете ли Вы изложить то же самое для рациональности, чтобы понял обычный человек?
Теперь уже я выскажу то, что подозрительно прозвучит для вас - я к таким разговорам не готов (см. раньше про "процесс", который "еще впереди) - и это основная причина; извините, что являюсь причиной траты вашего времени на мои "размусоливания про рациональность". Кроме того, я не знаю как обойти подгонку решения под ответ, в тех случаях, когда он известен, мотивированное продолжение и мотивированную остановку. В целом, Юдковский рассматривал вопрос верификации рациональных навыков в статьях: "3 Levels of Rationality Verification" и "Schools Proliferating Without Evidence" и это трудные задачи. Может, если вы втянетесь в рациональность, ТРИЗ поможет вам их решить, но я настоятельно советую прочесть указанные мной статьи.

Если Вы знакомы с рациональностью и не согласны с моими выводами, то мы можем это обсуждать, разве нет?
Можем, но это будет крайне неэффективно, потому что вы ничерта не знаете про рациональность и я ничерта не знаю про ТРИЗ; с учетом ваших 40 статей, вы знаете больше чем ничерта :)

35
Сложилась интересная ситуация, где вы ничерта не знаете про рациональность и я ничерта не знаю про ТРИЗ :) Разве что (думаю, крайне маловероятно) вы ознакомились си\или вы в целом хорошо знакомы с дисциплинами из которых собираются методы рационального мышления, и вы видите, что "рациональность это не про решение задач".

И я заметил, что я мог бы тоже самое сказать про рациональность, что вы сказали про ТРИЗ (и сказал).

Обсуждения на таком уровне абстракции "рациональность это не про решение задач" лишь порождают обмен пустыми фразами, тогда как обсуждения конкретных примеров требует от обоих участников некоторого уровня знакомства с материалами (в случае если разбираются учебные задачи и\или реальные эксперименты) и\или непосредственного владения методами, что, в свою очередь, трудно проверить.

Сначала я хотел попросить вас показать, как ТРИЗ проявляется на практике, но потом понял, что увижу (скорее всего) решение учебных задач (выдуманных, чтобы их можно было решить с помощью ТРИЗ, такое и с рациональностью частенько происходит), и\или post hoc разбор жизненной ситуации, решение которой могло бы быть как результатом владения ТРИЗ (или рациональностью) решающим, так и тем, что у него есть мозг, который неплохо и сам справляется с пониманием причинно-следственных связей (ТРИЗ и рациональность придуманы в двадцатом веке, сравните жителей 19 века с макаками и будет видно, как отличается работа человеческого мозга от мозга других существ).

P.S. Интересно, что будет, если скрестить рациональность и ТРИЗ?

36

А можете конкретнее пояснить?

Рациональность - великолепнейшая система для решения технических задач, но чтобы ее правильно применять, мышление нужно перестроить. А чтобы применять ее в решении задач нетехнических, нужны некоторые поправки, а большинство применяет ее прямо так, как есть, исходя из этого часто получается "не работать", хотя если брать сам системный подход, то великолепная штука получается. Я просто занимался этим сколько-то времени.


37
Мне было интересно просматривать следующие темы. Прежде чем просматривать их, поучаствуйте в опросе (если вы вообще собираетесь).
The Most Important Thing You Learned
The Most Frequently Useful Thing
That You'd Tell All Your Friends

38
К концу года, небось, уже все лигилименты в замке знали, что за трюки Гарри использует.

39
Если задаваться вопросом "почему Юдковский написал учеников такими?", то ответ (как и писал Кроид) приходи почти сразу. Тем более, что у Юдковского есть статья " If You Demand Magic, Magic Won't Help .
Цитировать

In one of the standard fantasy plots, a protagonist from our Earth, a sympathetic character with lousy grades or a crushing mortgage but still a good heart, suddenly finds themselves in a world where magic operates in place of science.  The protagonist often goes on to practice magic, and become in due course a (superpowerful) sorcerer.

Now here's the question—and yes, it is a little unkind, but I think it needs to be asked:  Presumably most readers of these novels see themselves in the protagonist's shoes, fantasizing about their own acquisition of sorcery.  Wishing for magic.  And, barring improbable demographics, most readers of these novels are not scientists.

Born into a world of science, they did not become scientists.  What makes them think that, in a world of magic, they would act any differently?

If they don't have the scientific attitude, that nothing is "mere"—the capacity to be interested in merely real things—how will magic help them?  If they actually had magic, it would be merely real, and lose the charm of unattainability.  They might be excited at first, but (like the lottery winners who, six months later, aren't nearly as happy as they expected to be), the excitement would soon wear off.  Probably as soon as they had to actually study spells.


Еще один важный момент, который, как я думаю, повлиял на модели персонажей. Это разница между тремя видами оптимизирующих процессов:
1. Процесс с огромным множеством не осознаваемых целей (тысяча осколков желаний)  и несколькими осознаваемыми (обычный человек). Который по-умолчанию хочет сохранить телесную целостность, например, и, поэтому, умирает, будучи прикованным к батарее. Это человек, движимый желаниями.
2. Процесс, который ясней видит множество своих целей и благодаря этому может эффективней устранять противоречия между ними, выбирая каким следовать. Например, он может отгрызть себе большой палец, чтобы вытащить руку. Это консеквенциалист, движимый целями.
3. Процесс с несколькими целями. Например ИИ, которому задали критерий действия в виде улыбающихся лиц (потому что создатели полагали, что он будет делать то, что будет способствовать тому, что люди будут радоваться), и который выбирает те действий, которые способствуют увеличению "улыбающихся лиц". В данном случае - перерабатывает материю (людей, деревья, землю) в изображения "улыбающихся лиц" нано размера.
Юдковский описал разных персонажей так (Волдеморт и Дамблдор - в большей степени, Гарри - в меньшей), чтобы читатель, продолжив изучение рациональности по статьям Юдковского дальше, смог легче уловить понятие  "оптимизирующего процесса". Он (процесс) "совершает" действия, которые, на его взгляд, будут способствовать сужению возможного будущего (т.е. до совершения действия А, он ожидает, что могут произойти события Х, или Y, или Z; но он совершает действие А в надежде на то, что после этого скорее всего произойдет Х). Эволюция, по Юдковскому, так же является оптимизирующим процессом. И вот, шагом между оптимизирующим процессом и обычным человеком является движимый целями консеквенциалист (Волдеморт и Дамблдор - в большей степени, Гарри - в меньшей; но во время финального испытания Гарри "убрал" часть своих целей, перестал пытаться спасти всех; решил спасти меньшее количество людей - куча обезглавленных пожирателей, как результат).
К сожалению, я, возможно, пропустил несколько необходимых шагов, которые надо описать, чтобы было ясней видно, почему обычным ученикам интересней бездельничать, болтать с друзьями и гонять на метлах... Но, если кратко, то магия для них - обыденность. Будешь стараться - станешь, в лучшем случае, как Макгонагалл или как аврор. Как и обычные люди, не стремящиеся к совершенствованию своих физических и интеллектуальных возможностей, обычные маги не стремятся стать "Дамблдорами".

Эта картинка в большей степени относится к модели поведения обычных людей (меня в том числе, ведь мне не очень-то хочется рассказывать то, что я узнал из 400+ статей Юдковского, из которых многие относятся к обсуждаемой тут теме; ведь очевидно, что для того, кто не читал эти горы статей, такие важные понятия, как "оптимизирующий процесс" или "тысяча осколков желаний" или "максимизация функции полезности" не будут ту же объясняющую силу, как для тех, кто читал).

40
Я знаю, что речь про русскую версию, но на английском аудиокнига (с разными голосами) закончена.

41
Как говорится "Don't be born with a stupid prior". Или с хорошей априорной, в данном случае. С учетом того, что Aesma не написал загодя свою линию рассуждений, где он выявил оставленные (намеренно и ненамеренно) автором зацепки, то это заявление (сразу догадался) тут никого не впечатлит, сама же возможность того, что человеку с определенным представлением будет достаточно знать о несовместимости "магий", чтобы догадаться о квиррелморте, совсем не удивительна.
Ведь в  пространстве архитектур разумного можно обнаружить разумы с самыми разными априорными.

42
Может дело в том, что, например, Юдковский говорит, что эмпатия - про понимание, а вот про сопереживание - симпатия. Вполне возможно, что в литературе, на которую ориентируется kuuff, эмпатия - именно понимание.

43
А что именно вы хотели бы услышать из уст "авторитетов"?
Что-то вроде: "от людей с "дефицитом эмпатии", проявляющемся в поведении как А, Б, В, можно с большей уверенностью ожидать слова и поведение вроде "    — Значит, этот лорд Джагсон — Пожиратель смерти? — тихо сказал он. — Отлично. Значит, его жизнь уже куплена и оплачена, и я могу сделать с ним всё, что угодно, не испытывая этических проблем...", чем от людей с отсутствием такого дефицита".
Или наоборот. Или вообще зависимости нет.
Как показывает опыт, Юдковский не дает нам полной информации о мире: что Гарри знает о пожирателях, чего не знаем мы? Что они делали на этой войне, кроме того, что Юдковский прямо описал (вроде снятой кожи)? Когда он симулировал Гарри, какой информацией обладал Гарри?
На этом этапе стоит прекратить экстраполировать поведение выдуманных Юдковским персонажей на реальных людей и обратно. Однако, точки моего ощущения "правильности", Гарри ничего неправильного не сказал, когда произнес обсуждаемую нами фразу.
Не обязательно, к убийцу или вору.
Я ведь не сказал "только к убийце".

44
Какая наука?
Такая, которая может компетентно вызказаться про "дефицит эмпатии". Какая-нибудь современная психология (раньше я сказал бы что тут нужна нейронаука, но, в действительности, никакая современная психология от знаний нейронауки не свободна).

Значит, Дамблдор ненормальный? Ведь ему, по его же словам, никогда бы и в голову не пришло уничтожать Дом Джагсона только потому, что сам Джагсон – бывший Пожиратель. "Креатив" Гарри явно шокировал главу Ордена Феникса.
У Дамблдора - профессиональная деформация.

45
Не знаю что наука говорит по этому поводу, но как по мне, так это реакция нормального человека, когда у него отключается сопереживание убийце (подразумевается, что Гарри знает, какое вступительное испытание сдают при вступлении в Пожиратели; и что его сдают в мире МРМ), которого убивают, лжецу, которого обманывают, вора, у которого крадут.

Страницы: 1 2 [3] 4 5 ... 14