Просмотр сообщений - Alaric

Просмотр сообщений

В этом разделе можно просмотреть все сообщения, сделанные этим пользователем.


Сообщения - Alaric

Страницы: 1 2 3 [4] 5 6 ... 76
46
Насколько я помню, гражданин Юдковский (из-за которого мы тут вместе собрались), учит нас, что любые убеждения должны окупаться предсказаниями. Если мы рассмотрим убеждение "эффективный альтруизм - это плохо" (в силу указанных выше причин), к каким предсказаниям это нас приведёт?

Ожидаем ли мы, что в ближайшее десятилетие из-за распространения эффективного альтруизма увеличится количество учёных, "выгоревших" из-за того, что они трудятся по вечерам, а не возятся с котятами?
Ожидаем ли мы, что в африканских странах будет расти количество людей, отказывающихся иметь дело с организациями эффективных альтруистов, потому что они, мол, нас не уважают? (Точнее, что количество таких людей будет расти сильнее, чем количество людей, с радостью принимающих помощь?)
Ожидаем ли мы, что в группах, где малярийные сетки раздают, смертность будет не меньше, чем в группах, которые можно использовать как контрольные?
Появятся ли комиссии эффективных альтруистов по правильному использованию малярийных сеток в ближайшее десятилетие? Какие санкции они будут накладывать, если появятся?

Если кому-то кажется, что мои вопросы представляют из себя соломенное чучело, то я прошу прощения и предлагаю сформулировать свои предсказания. Увы, я не вижу смысла обмениваться аргументами, которые не основываются на ожиданиях. Что мы ожидаем увидеть, если некто будет делать Х?

Цитировать
Кроме того, это не «спасение жизни» данного конкретного человека, а только «спасение от смерти от малярии». Наличие сетки никак не помешает умереть тому же самому ребенку от пневмонии, например.
Здесь я вижу то, что мне представляется очень серьёзной ошибкой, влияющей на понимание.
Как проводятся исследования такого рода? Есть группа испытуемых, есть контрольная группа. Т.е. мы берём одну деревню, в которой сетки раздают, и другую деревню, в которой сетки не раздают. А потом сравниваем, какая смертность первой и какая смертность во второй. И сравниваем. При этом, от пневмонии могут умирать как в первой деревне, так и во второй (у нас нет никаких причин предполагать, что сетки как-то меняют этот фактор). (На том же сайте GiveWell есть ссылки на соответствующие исследования). Поэтому заявление, что наличие сетки не помешает тому же самому ребёнку помереть от пневмонии - некорректно. Исследования, благодаря которым получилось число 7500 долларов за жизнь, уже подразумевают (я это предполагаю, я не проверял цепочку целиком, если кто-то её целиком проанализирует и выложит разбор, мне будет интересно), что это как раз стоимость того, чтобы обеспечить разницу в уменьшении смертности на одного человека между первой и второй деревней. При том, что все остальные причины смертности никуда не деваются.

И сравнение со стоимостью операции тут не совсем корректно. Если некая операция стоит 7500 долларов, то мы можем говорить, что при этом 7500 долларов спасают одну жизнь только в одном случае: если абсолютно все прооперированные гарантировано выживают, а абсолютно все непрооперированные (из тех, кому это показано) гарантировано помирают (за наперёд заданный промежуток времени). Поскольку это условие никак выполняться не может (хотя бы из-за первой части), то стоимость спасения жизни с помощью операции всегда больше, чем стоимость операции. Потому что стоимость спасения жизни должна учитывать и все те случаи, когда операция почему-то не помогла (в том числе и потому что ребёнок через месяц заболел пневмонией и умер).

Возможно, тут есть проблема в слове "конкретного". Да, иногда получается, что некоего конкретного человека можно спасти и дешевле. Но возникает проблема. Предположим, мы хотим создать организацию, которая спасает множество жизней. Или некий человек считает, что он может сделать для мира больше, чем он делает сейчас, и хочет это сделать. И в этот момент у нас нет никаких конкретных людей. Да, мы можем их начать искать. Но от того, где именно мы их будем искать, зависит от того, насколько много мы сделаем. И в связи с этим возникает вопрос: Видите ли вы способы, которые указывают, куда именно нужно прилагать усилия, лучше, чем статистика?

Цитировать
Должны ли люди помогать бедным? Ну, вообще-то... нет. Вот. Я это сказала. Люди не должны помогать бедным. Люди могут помогать бедным. Если хотят. И здорово, если они хотят. Но они не должны. И никто не вправе говорить им, что они должны. Потому что в рамках нравственно-этических категорий понятие «долга» неправомерно распространять на третьих лиц.
Должны ли люди принимать во внимание нравственно-этические категории, о которых им рассказывают третьи лица? В смысле, мне интересно, должны ли (в вашем понимании этого слова) люди хоть что-нибудь, и если да, то по какому принципу нам следует (изначально я хотел написать вместо "нам следует""мы должны", впрочем, я не уверен, что тут есть серьёзная разница) отличать ситуации, где люди что-то должны, от ситуаций, где люди ничего не должны? Где основание, которое позволяет нам говорить, что "люди не должны помогать бедным" - это утверждение истинное, а утверждение "люди вправе говорить другим людям, что они должны помогать бедным" - ложное? Как мы можем проверить, что первое утверждение действительно истинно, а второе действительно ложно? Или фальсифицировать эту гипотезу?

47
Перечитав тот кусочек, и я хочу придраться интереснее, но я не уверен. Что делает Волдеморт? Он повышает ставки. Причём преимущественно со своей стороны. На кону теперь немного другие вещи и немного иной значимости. Волдеморт произносит тот монолог для того, чтобы после повышения ставок Поттер не забыл бы о жизнях детей и всём прочем. Чтобы на фоне новых ставок Волдеморта Поттер не потерял бы способность различать свои интересы, которые стоят на кону.
Тут что-то не сходится, по-моему. О жизнях детей Волдеморт говорит непосредственно в предыдущем предложении. (Причём это первое упоминание заложников вообще.) Воскрешение Грейнджер вообще будет упомянуто только потом. Что Поттер тут мог успеть забыть?

48
Придира, спасибо.

Однако по пункту "Мальчик, теперь ты осознаёшь, каковы ставки?" я не понял, чем то, что написали вы, по смыслу отличается от того, что написано у нас.

49
Новый перевод в цепочке "Как люди понимают слова": Аргумент к традиционному пониманию.

50
grek
Это просто ещё одна авторская поздняя правка, которую мы не заметили.
Раньше это предложение выглядело так: "And when I had just graduated, I was going out with this boy, Vernon Dursley, he was fat and he was the only boy who would talk to me in college." Возможно, Юдковский в какой-то момент вспомнил, что, во-первых, Петуния училась в Англии, а не в Штатах, во-вторых, что она старше Лили.

Исправим.
Чёрт, мне казалось, что я все поздние правки выловил.

51
Если вас это не затруднит, скажите, пожалуйста, на каком уровне вы не согласны с соответствием этой системы рационализму и консеквенциализму:
На уровне принципа превентивных действий (т.е. вы считаете несоответствующими рационализму и консеквенциализму, в частности, превентивные аборты и превентивные удары)
На уровне применения превентивных действий к работе органов правопорядка
На уровне конкретно какой-то сферы работы органов правопорядка
На ещё каком-то уровне
В данный момент я предполагаю у вас ошибку на уровне неправильных оценок вероятностей.
Предположим, некая программа говорит нам, что вероятность того, что этот человек совершит тяжкое преступление в ближайший год - X%. Какого X, с вашей точки зрения, будет достаточно, чтобы с ним что-то делать превентивно?
При этом учтите, что если у вас есть некая группа, для членов которой эта вероятность равна 50%, это означает, что из 1000 членов этой группы 500 за год совершают тяжкие преступления. Вы можете вообразить себе такую группу? Можете ли вы вообразить хотя бы группу, в которой из 1000 членов 100 человек в год совершают тяжкие преступления?

Это я к тому, что если вдруг внезапно общество будет наблюдать группу, в которой из 1000 человек 990 в год совершают тяжкие преступления, то никаких проблем с одобрением "превентивно хватать" членов этой группы в этом обществе почти наверняка не будет. Однако же, крайне сомнительно, что вы сможете такую группу выделить по каким-то заранее оговоренным критериям.

52
Консеквенциализм -- это столетия рассуждений в таком ключе, это широко устоявшийся способ, это методологическая и методическая основа самого процесса научного познания.
Простите, но, по-моему, вы говорите о чём-то другом, не о том, о чём говорили до этого все остальные.
Консеквенциализм - это этическая система. Противопоставляется (в некоторых пределах) деонтологической этике и этики добродетелей.
Статья о консеквенциализме в википедии
"ЧаВо о консеквенциализме" Скотта Александера

То, о чём вы пишете, похоже на описание различных теорий принятия решений: есть причинно-следственная теория принятия решений (Causal decision theory), есть теория принятия решений на основе свидетельств (Evidential decision theory - прошу прощения, я могу путать русскую терминологию). Есть любимая Юдковским вневременная теория принятия решений (Timeless decision theory). Есть ещё некоторые.

Подробно и на английском можно почитать, например, в англоязычной LW-вики.

53
Новый перевод в цепочке "Как люди понимают слова": Ощути смысл.

54
Пример (умозрительный) предсказания на простой ситуации: предположим,  в рассматриваемом обществе есть некоторая статистическки особо преступная группа, допустим, это какие-то культисты. Мы обладаем информацией, что после того, как они наслушаются/начитаются/насмотрятся конкретного достаточно специфичного контента своего культа с призывами к насилию к определённой группе лиц, проведут молитвенный ритуал в нестандартное время, придут в сильно возбуждённое состояние и выйдут на улицу, они в большинстве случаев совершают противоправные деяния, а если возьмут с собой оружие (которое в этой стране разрешено) - то тяжкие насильственные преступления.
А вы тем людям, которые, по вашим рассказам, негодуют против ваших идей, конкретно этот пример приводили?

Собственно, как отметил sergeyr, этот пример работает в нашем мире без всякого оракула. Есть группы, которые более склонны к совершению разных преступлений - например, всяческая организованная преступность, есть группы, которые склонны устраивать всяческие беспорядки - например, футбольные фанаты. И, по-моему, граждане обычно не возражают против идеи, чтобы правоохранительные органы искали в таких средах информантов (или внедряли их сами), и на основании данных от информантов ловили с поличным или (в случае футбольных фанатов) предпринимали меры, которые сами по себе помешают возникновению беспорядков. Более того, в той же Великобритании футбольного фаната могут приговорить к такому наказанию как обязательное присутствие в полицейском участке на время определённых матчей (чтобы гарантированно предотвратить его участие в новых беспорядках). И это опять же не вызывает массовых негодований.

И в связи с этим я вижу два варианта: Либо коммуникация между вами и вашими собеседниками идёт как-то неправильно и собеседник представляет совершенно не то, что вы пытаетесь ему донести (и мне сложно исключать этот вариант, вы сами пишете, что здесь многие прочитали в ваших словах не то, что вы хотели донести), либо на самом деле ваша модель отличается чем-то ещё.

55
Skywrath
Я бы сказал, что вопросы начинаются гораздо раньше :) Примерно с того места, каким образом мы одновременно и предсказываем будущее и его меняем. В смысле, как оракул может что-то предсказать в условиях, когда мы постоянно меняем свои действия в зависимости от его предсказаний? Ведь даже если мы скажем, что оракул предсказывает что-то по принципу "так было бы, если бы не было оракула", на будущее могут активно влиять результаты наших действий, вызванных другими его предсказаниями.

Пример: Оракул предсказывает, что Вася через 10 лет попытается кого-то ограбить на улице и в процессе убьёт. Однако же, Вася вступит на кривую дорожку под влиянием своего друга Пети, который ограбит кого-то через год. Если оракул предсказывает действия Пети, и Петю сажают, Вася не попадает в плохую компанию и сам преступником не становится. Должны мы превентивно ограничивать права Васи?

А если немного пофантазировать, то можно придумать и какой-нибудь пример, когда преступление случилось наоборот из-за того, что мы кого-то превентивно ограничили в правах.

Я считаю, что вся сложность "работы с будущим" многократно пережёвана в многочисленной фантастике и серьёзно копать в эту сторону не стоит, потому что почти наверняка не получится ничего, кроме путаницы :) Исходный вопрос темы, с моей точки зрения, можно обсуждать только как "сферический в вакууме" :)

56
outcasty
С моей точки зрения, у вас не получилось не связываться с этикой. Консеквенциализм - это этическая система. Смысл консеквенциализма - указать правило, которое будет говорить, как следует поступать.

И ещё один важный момент. Чтобы пользоваться консеквенциализмом, у нас должен быть принцип, согласно которому мы сравниваем исходы и определяем, какой исход лучше, а какой хуже. Грубо говоря, мы можем придумать консеквенциализм, который будет утверждать, что лучше тот исход, при котором на Земле будет больше скрепок, однако же, скорее всего подавляющее большинство не захочет пользоваться таким консеквенциализмом как этической системой. Насколько я понимаю, никакая этическая система не будет работать, если она радикально расходится с интуитивным представлением людей об этике. Люди просто её не примут как этическую систему.

Если вы рассуждаете, что мир, в котором на основании предсказаний оракула людей будут поражать в правах, лучше мира, где этого не делается, вы уже рассуждаете об этике. Само по себе это суждение - это суждение о ценностях. Даже если вы обоснуете, что в первом мире некий параметр больше, чем во втором, возникнет вопрос: а почему вы решили, что именно этот параметр нужно максимизировать?

Ну и даже если вы сходитесь с собеседником в вопросе ценностей (что, как я понимаю, само по себе вам кажется достаточно редкой ситуацией), вы можете расходиться с ним в оценках, действительно ли реализация вашей идеи приведёт к увеличению обсуждаемого параметра.

57
С моей точки зрения, ситуация обстоит так.
То, что вы думаете, то, что вы написали, то, как вас поняли, и то, как это понимание выразили - это четыре разных вещи, которые, в общем случае, очень плохо связаны между собой. Чем короче вы выразили свою мысль, тем сильнее эти четыре вещи отличаются. Я полагаю, что нетривиальность идеи тоже усиливает разрывы в пониманиях.

Когда вы пишете о том, что если придумать систему, которая будет предсказывать действия преступников, и за счёт неё ущемлять права, то у вас в голове получается одна картина. А у вашего собеседника, который вас слышит/читает - совершенно другая. Например, вы можете несколько раз подчеркнуть, что вы обсуждаете систему, которая совершенно надёжна, но собеседник не понимает, как такая система может быть "совершенно надёжна" и поэтому в его картине этого пункта нет в принципе, зато есть ущемление прав. Которому придаётся по каким-то причинам гораздо больший вес, чем это кажется необходимым вам. Да, непонимание может быть связано с когнитивными искажениями, например, даже если вы выразите надёжность своего оракула в числах, то, скорее всего, эти числа будут восприняты не так, как вы ожидаете - см. исследования Канемана на тему того, как люди вообще воспринимают выигрыши, проигрыши и вероятности выигрышей и проигрышей (в научно-популярной форме есть в "Думай медленно, решай быстро"). Но главное, повторюсь, это различие в картине мира. (К тому же, я полагаю, что вероятность того, что непонимание происходит только из-за того, что ровно у одной стороны есть когнитивное искажение, примерно равна нулю :) )

Более того, если вы каким-то образом убедите собеседника перейти на вашу картину мира, спор закончится моментально и, подозреваю, никакой пользы из этого никто из вас не извлечёт (если вы такую пользу видите, напишите, пожалуйста). Такие споры могут быть полезны, чтобы отточить собственную аргументацию или упорядочить собственную картину мира (замечу, что упорядочить тут совершенно не является синонимом "приблизить свою карту к реальности" - в результате подобного "упорядочивания" человек запросто может наоборот укрепиться в своих заблуждениях). Инструкторы CFAR рекомендуют использовать такие споры для лучшего понимания карты собеседника и, таким образом, для расширения собственной карты (но, как показывает практика, следовать упомянутым по ссылке рекомендациям довольно сложно :) ).

Вы можете рассказать, для чего вы тратите время, чтобы узнать ответ на поставленный вопрос? Почему для вас это важно?

PS Я совершенно не модератор и меня можно не принимать в расчёт, но я предположу, что, возможно, для рассуждений о том, как вообще рационально себя вести, стоит накапливать большие массивы знаний или нет, и так далее, лучше создать отдельную тему.

58
Вот замечание про "я" мне действительно кажется важным. Но я пока не очень понимаю, как это реализовать, чтобы не было корявостей.

59
Гарри не возражает против того, чтобы Дамблдор спрашивал у него совета на основе предпосылки, что он - темное зеркало Волдеморта, он *уже* соглашается отвечать. Только вот ответа у него нет, потому что сам он себя таким зеркалом не воспринимает, и совершенно не желает таковым быть.
С моей точки зрения, Гарри мешает возражать только то, что он внезапно для себя столкнулся с обстоятельством, что его возражения не понимают и не принимают. Всего три своих реплики назад он удивляется: "Я что, должен каким-то волшебным образом понимать Тёмного Лорда просто потому, что я герой, или как?"

60
Речь тут не о том, как о тебе судят, а благодаря чьему влиянию ты становишься тем, кто есть. В переводе, Глубокий и Мудрый ответ звучит несколько нипричемно к вопросу, но в действительности это не так.
Я считаю, что тут ложное противопоставление.
Посмотрите на контекст. На что Гарри даёт такой ответ? Гарри так отвечает на заявления Дамблдора о том, что Гарри якобы должен понимать Волдеморта хорошо, поскольку тот - его враг. Т.е., с точки зрения Гарри, Дамблдор как раз судит о нём по его врагу.

Я согласен с тем, что, возможно, здесь как-то можно передать смысл лучше, однако же ваше предложение, по-моему, как раз не имеет отношения к контексту. Гарри здесь не рассуждает о своём будущем жизненном пути, Гарри пытается объяснить, что нельзя рассуждать о том, на что он способен, а на что нет, исходя из того, кто его враг.

Просто тут получилось несколько многозначное define, за счёт которого Дамблдор съехал с темы. Возможно, конечно, есть способы передать его лучше.

Страницы: 1 2 3 [4] 5 6 ... 76