Как вы сами заметили, "само по себе это вполне правильно". И, по-моему, это вообще достаточно важный для рационалиста навык - умение понимать, когда дополнительное уточнение карты уже перестаёт приносить выгоду.
Вот. Вот это я в первую очередь хотел напомнить, потому что выше в дискуссии оно как-то выпало.
И во вторую очередь:
Насколько я понимаю, вы пишете о случае, когда за уточнение карты человек платит своими ресурсами, а риски при этом перекладывает на других.
Наоборот - плату и риски кладет на других, а результатами пользуется сам.
Но здесь возникает вопрос: насколько долго такая ситуация сможет продолжаться? Если действительно всем будет очевидно, что так делать можно, то общество начнёт массово терять ресурсы (и будет их терять тем сильнее, чем большему количеству людей будет очевидно, что так делать можно). Но, поскольку общество состоит из людей, то ресурсы в итоге будут терять конкретные люди, и, как я полагаю, они будут уже хотеть что-то с этим сделать. Даже в ваших примерах про неосторожных водителей и химиков-технологов плата за неосторожность достаточно велика (в большинстве случаев причинение смерти по неосторожности - это тюремное заключение всё-таки). И кроме того, общество уже изо всех сил старается минимизировать вероятность причинения этой самой смерти по неосторожности. Например, если водитель не нарушает скоростной режим, вероятность смерти для пешехода не слишком высока, и общество изо всех сил навязывает тот самый скоростной режим.
Тут есть три момента:
1. Какой бы очевидной ни была ситуация и какими бы рациональными ни были индивиды - воронка Трагедии общин никуда от этого не девается. Хуже того, она из-за этой ясности и рациональности становится только неизбежней, именно потому что все ясно понимают свои выгоды. Вывести из Трагедии общин способна только альтруистическая _мотивация_ у значимого количества игроков. Еще раз подчеркну: это не вопрос рациональности, это вопрос мотивации, базового целеполагания, терминальных ценностей.
2. На деле человечество не действует, как уже полвека выяснено, ни как множество рациональных игроков, ни как множество игроков, ясно понимающих ситуацию. Даже среди интеллектуалов стоит ожидать более-менее ясного понимания того или иного _аспекта_ окружающей реальности, в зависимости от области интересов индивида. От большинства населения стоит ожидать ясного понимания только тех явлений, по которым у данного конкретного индивида есть постоянная сильная обратная связь (грубо говоря: индивид правильно понимает динамику перемещения ложки от тарелки ко рту, потому что стоит ему допустить в этом действии ошибку - и последствия получаются быстрыми и неприятными; вне областей такого рода большинство населения "понимает" что-либо только по принципу сломанных часов, которые могут при некоторых условиях показать правильное время). При этом дело не в недостатке интеллекта (т.е. интеллектуальных возможностей для осознания), а в недостатке мотивации же, _желания_ понимать. В частности именно поэтому я выше настаивал на том, чтобы помнить про пределы полезности уточнения карты. Смотрите: что _дает_ обычному человеку понимание того, что мы сейчас обсуждаем? Что изменится к лучшему в его жизни, если он начнет это понимать? Да ничего. Что-то дать это понимание может только человеку, который: вариант а) просто любит улучшать карту, имеет такую терминальную ценность; или, вариант б) способен вложить в исправление ситуации такую крупную долю общих ресурсов, что ему от улучшения ситуации в общем котле вернется больше, чем он вложил, даже если больше туда никто ничего для решения проблемы не вложит. Остальным понимание таких проблем только увеличит стресс, испортит жизнь опасениями. Рациональное поведение при этом заключается в том, чтобы _не признавать_ проблему (которую всё равно не может разрешить), жить в своё удовольствие в иллюзиях.
3. И еще раз возвращаюсь к динамике. Вот почему я с нее начинал? Потому что без этого никак. Как только мы от нее, динамики, отошли - так приходится возвращать. Смотрите - Вы говорите сейчас о всяческих правилах техники безопасности, в широчайшем смысле (т.е. от собственно ПТБ в прямом смысле - и до правовых норм, которые есть просто техника безопасности для социального взаимодействия). Вопрос: когда и кем они были созданы? Ответ: в основе своей - давно, людьми совсем другой эпохи, другого склада, воспитанными в совсем другой ситуации - во времена, когда люди всё еще платили за свои ошибки главным образом самостоятельно и страшно, потому что еще не было ресурсов, чтобы всех подстраховывать. А как _меняется_ ситуация? Какие _изменения_ претерпевают _сейчас_ правовые системы? Кто и каким образом меняет сейчас законодательство? Какие изменения вносятся в технологические правила безопасности? То, что вижу я - вызывает оторопь и лёгкое омерзение. Может быть я предвзят, может моё восприятие искажено моей асоциальностью и крушением личных надежд, я допускаю и такое. Но всё-таки не думаю. На мой взгляд, и в социальных взаимодействиях, и в технологических - нормы уже несколько десятилетий как ухудшаются всё возрастающим темпом. И эти наблюдения согласуются с теми умозрительными вроде бы рассуждениями, которые я выше привёл. Инерция мышления некоторое время держала социумы в пристойном состоянии, но сейчас началось активное и ускоряющееся разложение, причём в социумах всех типов господствующих идеологий (т.е. это не какое-то там бредовое "гниение капитализма" или, наоборот, "коммунистическая гниль" - нет, это просто разложение популяции в технологической цивилизации).
Я всё это пишу к тому, что всё-таки есть пределы того, насколько риски можно переносить на других, и далеко не очевидно, что эти пределы будут расширяться, а не сужаться.
Это, конечно, не очевидно. Если бы это было очевидно - я бы об этом читал, а не писал.
Сужение же, на мой взгляд, может произойти двумя путями:
1. Коллапс. Дойдя до некоторой критической точки, технологическая цивилизация просто начинает разрушаться и человечество возвращается - очевидно, навсегда - в раннеиндустриальную эпоху (ограничиваемую по энергетике - темпом роста лесов, по черной металлургии - темпом накопления болотных руд, по численности - уцелевшей пахотной площадью при отсутствии минеральных удобрений). Это совершенно естественное решение парадокса Ферми, поэтому мне этот исход кажется наиболее вероятным.
2. Централизация контроля. Прежде чем процесс разложения и разрушения становится необратитмым - кто-то или что-то берет большую часть ресурсов под единоличный контроль и прекращает этот разврат насильно. Наилучший вариант - дружественный (и довольно агрессивный) ИИ. Ну да, это фантастика. Но варианты с захватом власти толковым человеком... это уже даже не фантастика, это фэнтези. Ну т.е. я допускаю некую ничтожную вероятность того, что, например, в генералитете США сохранится достаточно компетентных и ответственных людей, чтобы такую попытку предпринять, но у них же традиции требуют противоположного...
И как мы можем искать ответы на эти вопросы?
Мы?
Я не знаю как вы можете это делать. Я не думаю, что существует социальная группа, которая может эту задачу удовлетворительно решить. Единственная моя надежда - на тот же дружественный ИИ, да и то это надежда не столько в отношении когнитивного решения, сколько... эммм... дисциплинарного. Т.е. мне кажется, что даже сильный ИИ не сможет научить людей справляться с когнитивными искажениями - он сможет только растить новых людей, менее склонных к когнитивным искажениям. Обычное дело с нейронными сетями.
Я на данный момент не вижу, каким образом освоение рациональных навыков в том виде, в каком я их понимаю (а я под этим понимаю что-то вроде описанного в списке рациональных навыков от CFAR или что-то вроде того, что описывает Джулия Галеф), может привести к тому, что человек обнаружит, что "он впустую потратил на это последние годы своей молодости". Да, я не могу показать картину впечатляющих успехов рационалистов, однако же, картины впечатляющих провалов (под провалом я понимаю осознание человека: "Ах, зачем я тратил время на эту рациональность") мне тоже неизвестны. Возможно, конечно, это тоже вызвано малым временем существования сообщества.
Я ожидаю, что _очень_ малая доля людей даже среди рационалистов будет способна признать бесплодность какой-либо своей увлеченной деятельности.
Юдковски, мне кажется, способен. Без гарантий, но он определенно небезнадежен.
Из остальных... ну, может 1-2%. И это, конечно, займет у подавляющего большинства очень много времени.
Это, правда, в моих глазах нисколько не обесценивает всю эту деятельность, поскольку для меня она самоценна - мне _интересно_ разбираться в глюках и исправлять их, это моя страсть, и соответственно, занятие этим - рационально для меня просто как прямое приобретение терминальной ценности, даже если никаких _иных_ результатов это не даст. Мы все умрём, ня, но так хоть умрём с достоинством, насколько это возможно.
Вообще, с моей точки зрения, если какая-то стратегия оптимального поведения существует и её принципиально возможно найти, обладая человеческими ресурсами, то "рационалист" её найдёт с большей вероятностью, чем "не-рационалист". Тут, безусловно, есть проблема, что стратегия, выгодная одному индивидууму, может оказаться вредна для всего общества, и мы попадём в ловушку Молоха. Эта проблема, теоретически, может решаться увеличением дальности планирования.
Захватом/передачей контроля она решается без всякого увеличения дальности планирования, а увеличением дальности планирования без снижения числа игроков до минимума - не решается вообще. Просто по математике.
Однако же, если мы отправляем в мусор всё, что не является свидетельством такого уровня, то у нас очень большие проблемы - по огромному количеству вопросов таких свидетельств не получить.
Ну, возможна ещё ситуация, когда успехи и их причины настолько мощны и очевидны, что в двойном слепом надобности нет.
Скажем, никто же (из тех, кто в здравом уме) не ставит под сомнение, что научный метод принёс человечеству колоссальное могущество, хотя никакого слепого контроля не было.
Аналогично, вполне возможно что начиная с какого-то этапа LW-сообщество начнет демонстрировать такие явные успехи, что отрицать эффективность его методик будет невозможно.
Ну, чтобы зафиксировать условия для пари: например, мне хватит, если доля лауреатов нобелевских премий среди LWшников вдвое превысит долю LWшников среди докторов наук и публичных деятелей, при условии достаточной мощности статистики (т.е. число нобелевских премий среди LWшников должно дойти до, я бы сказал, 7).
Я вопрос задам: В Калифорнии есть тренинги по рациональности, стоимость которых 4 тысячи долларов за 4 дня (впрочем, в эту цену входит ещё какое-то количество консультаций после). Какими свидетельствами должен обладать средний представитель американского среднего класса, пошедший на этот тренинг, чтобы вы посчитали его поведение разумным? Т.е. будете ли вы считать его поведение неразумным, если у него нет свидетельств уровня двойного слепого плацебо-контролируемого исследования? (Предположим, что мы отметаем мотивации вроде: он готов потратить 4 тысячи долларов, чтобы пойти просто развлечься.) Если вы считаете, что какие-то дополнительные условия могут делать его поведение разумным, несмотря на недостаточные, с вашей точки зрения, свидетельства, набросайте, пожалуйста, сколько-нибудь примеров.
Простите, понятия не имею. Мне очень плохо знаком американский средний класс, я едва-едва знаю что предлагают эти тренинги, а всеобщая мода на вот это безлично-универсальное повышение успешности мне вообще кажется типичным гало-эффектом.
Вскользь замечу, что в первую очередь методика LW привлекает большое количество "гиков", что, с интеллектом, возможно, коррелирует, а вот с амбициозно-успешностью, обычно, всё-таки нет
Совершенно верно - именно поэтому я и разделил утверждения в цитированном Вами фрагменте на две части именно таким образом, что пары "интеллект - LW" и "успешность - амбициозность-энергичность" остались _разделены_. Упомянутые Вами курсы - это объединение этих множеств, но сами факторы друг от друга скорее независимы, именно так.
