Мы плавно уползаем в оффтоп, но я, тем не менее, попробую здесь объясниться. Самый главный урок для себя, который я вынес из ГПиМРМ -- это то, что я не умею обращать внимание на странности. Я читал ГПиМРМ года два, пока он ещё не был дописан. Я многократно перечитывал, много думал и обсуждал здесь. И как же я потом посыпал голову пеплом, когда задним числом я выяснял, что я в какой-то момент держал разгадку в руках, смотрел на неё, думал "какая-то фигня", после чего находил повод вышвырнуть эту "фигню" в окно, спустить в унитаз, и сделать вид, что её не было.
Потом я поступил в ВУЗ и начал общаться с действующими учёными, и они меня ещё раз ткнули носом в то, что я, сталкиваясь со странностью, имею совершенно неверный алгоритм работы с ними. Первым делом я начинаю обтёсывать эту странность, чтобы впихнуть её в своё мировоззрение. Пускай кривенько, но впихнуть. Но учёный должен действовать иначе: он должен
искать странности, он должен культивировать их и создавать им все условия, чтобы они цвели и пахли. Только так он сможет найти что-то новое, что изменит его мировоззрение и научные устои. И "не любое изменение -- это улучшение, но любое улучшение -- изменение".
При этом Юдковский неоднократно писал об исследовании, которое показало, что чем сложнее проблема, с которой столкнулся человек, тем быстрее он начинает предлагать решения для этой проблемы.
Так вот. Я работал и продолжаю работать над тем, чтобы не просто видеть странности, но ещё и не вышвыривать их в окно. Это на удивление сложно, но я кажется знаю теперь как. Я может как-нибудь поделюсь опытом, но не прямо сейчас. Сейчас же, текущая ситуация в этом треде мне видится так: есть
странная задача, которая вызывает то самое чувство странности, чувство парадоксальности, и есть люди, которые первым делом кидаются объяснять, почему парадокса нет. Не думать о том, откуда парадокс взялся (отмечу: в треде нет объяснения, тому как в голове идёт обработка информации, и почему эта обработка порождает чувство странности/парадоксальности), а моментально его решить.
Не нужно переоценивать статистику и тервер. Это не универсальный ключик, который открывает все замки. Их ответы очень часто - как те самые пророчества из греческих мифов: что-то верное, но в общем бесполезное. Если есть возможность получить ответ используя другой метод кроме статистического анализа ( а в приведенных вами примерах так и есть ) , то нужно так и сделать - чаще всего этот метод даст лучший результат. Статистический анализ хорошо использовать для определенных, вполне конкретных задач, либо можно использовать там где никаких других методов просто нет.
Древние греки ломали головы над логическими парадоксами, типа лжеца-критянина, утверждающего, что все критяне -- лжецы. После древних греков этим занимались и другие люди. Парадокс брадобрея -- это относительно современное продолжение того, чем занимались древние греки. Как вы думаете, они занимались всякой фигнёй, и было бы лучше, если бы они свой интеллект применили к чему-нибудь ещё? Или, всё же, создание современной логики стоило тех ресурсов, которое человечество в это вложило?
Матстатистика же -- это не просто "способ для определённых, вполне конкретных задач", вы что?! Окститесь! Матстатистика -- это единственный формализованный способ делать выводы на основании эмпирических данных. Тут следовало бы нарисовать два десятка восклицательных знаков. И шрифт ещё побольше выбрать. Матстатистика -- это единственное, что связывает карту с территорией. Точнее, помимо статистики есть ещё человеческие мозги, которые неплохо так справляются с задачами категоризации/классификации, и при этом способны делать "статистические" выводы, хотя и по не очень эффективным формулам. Но единственным
формализованным методом связать карту с территорией является матстатистика.
И сейчас мы имеем парадокс порождённый вероятностным рассуждением, и вы его просто спускаете в унитаз?! Это как если бы древние греки имея свою несовершенную логику выкидывали бы в окно все парадоксы, которые она порождала. Мы бы до сих пор продолжали бы пользоваться их несовершенной логикой. Я этого не хочу. И я не хочу, чтобы мой набор инструментов ограничивался бы ущербным байесианством и ущербной частотной матстатистикой, которые могут внезапно выдать парадоксальный ответ к задаче, и я буду избегать ошибки не потому, что следую правилам байесианства, а потому что я заметил парадокс, и нашёл рационализацию, которая позволила мне этот парадокс обойти. Мне нужны такие формальные правила решения задач познания, следуя которым я не буду получать парадоксов, а если и получу, то буду верить результатам применения формальных правил, а не своей ущербной интуиции.
Поясню свою мысль на примере. Если вы познакомились на вечеринке с человеком, то очень глупо использовать статистику для вычисления его характера. Скажем, искать статистические данные о чертах характера людях данной национальности, профессии и т.п. Какой-то ответ вы получите, но сугубо вероятностный и малоточный. Значительно более перспективный подход - это наладить общение с ним, или получить информацию от его знакомых.
1. Все ответы которые я могу получить -- вероятностны. Потому что все они так или иначе опираются на вероятностные суждения, на суждения выносимые на основании статистики. Потому что больше опереть наше мировоззрение не на что, только статистика.
2. Глупо ли в данной ситуации использовать статистику или нет -- это последний из вопросов, который меня интересует. Меня интересует другой вопрос: возможно ли в данной ситуации использовать матстатистику, чтобы получить ответ, который будет точнее, чем ответ извлечённый из генератора случайных чисел? Если в данной ситуации, может быть, существует другой метод, который проще и точнее, то в какой-то иной ситуации, я теми же методами получу гораздо более удачный ответ. Глупо использовать общую теорию относительности, для того чтобы рассчитывать траекторию полёта артиллерийского снаряда. Глупо потому что точность результата от этого вырастет незначительно, а вот усилий к вычислениям придётся приложить гораздо больше. Но так ли глупо обсчитывать траекторию снаряда через ОТО в процессе изучения ОТО? В процессе создания ОТО?
В случае с леммингами и финансовыми пирамидами то же самое - рассуждения в приведенном вами ключе выглядят очень не к месту, значительно лучше и точнее исследовать данную конкретную пирамиду какими либо другими методами кроме статистических.
Если вы будете поступать таким образом, то вы никогда не сможете решить исходный парадокс. Все ваши "решения" так и останутся на уровне
"ни теория вероятности, ни матстатистика такие проблемы не решают".
Естественно что я высасываю из пальца искусственные проблемы. Естественно, что я их довожу до абсурда, чтобы
вам всем было проще понять, что я имею в виду, какую именно задачу я пытаюсь решать. Но вы начинаете протестовать против абсурда. Это примерно как взять дилемму заключённого, и сказать, что она абсурдна: в реальной ситуации можно найти способ обменяться информацией с коллегой -- перестукиваться, подкупить полицейских, задействовать адвоката... Дилемма заключённого намеренно доведена до абсурда, чтобы ничто не отвлекало бы от сути. Так и я довожу условия задач до абсурда, чтобы ничто не отвлекало бы от сути.
Понятно, что в реальной ситуации у меня будут ещё и другие источники информации, которые я тоже буду учитывать. Но я хочу уметь учитывать
все источники информации. Я хочу извлекать
МАКСИМУМ информации из наличного сенсорного входа.
Если вы не можете довериться просто рассуждениям и вам обязательно нужен авторитет, подкрепляющий их, то я могу это устроить. Во-первых, сказочка:
из трёх кусочков, она даёт общее впечатление. Во-вторых глава
Mere Reality из From AI to Zombies, или, если более конкретно, то самая мякотка в последнем разделе "T. Science and Rationality", который содержит два из трёх кусочка сказки, и объясняет почему наука проигрывает рациональности и по строгости своих рассуждений и по скорости обработки информации.
Не стоит использовать матстатистику о прошлом для принятия критичных решений о будущем.
Талеб. Черный лебедь.
Использовать стоит полную модель будущего.
А на основании чего вы будете строить полную модель будущего?
А Талеб действительно сказал ту фразу об отказе от применения матстатистики для принятия критичных решений? Мне очень рекомендовали его книгу, и я собирался её прочитать при случае, но если он говорит такие глупости, то наверное не стоит тратить время.
Возможны 4 варианта будущего:
- Жить как все. Леммингов мало. Срок жизни - 10. Качество жизни - 10. Вероятность(леммингов мало) - 75%.
- Уйти в отшельничество. Леммингов мало. Срок жизни - 9. Качество жизни - 5. Вероятность(леммингов мало) - 75%.
- Жить как все. Перенаселенность леммингов. Срок жизни - 1. Качество жизни - 10. Вероятность(перенаселенность) - 25%.
- Уйти в отшельничество. Перенаселенность леммингов. Срок жизни - 8. Качество жизни - 3. Вероятность(перенаселенность) - 25%
Эти взятые с потолка числа вы приводите тут для того, чтобы обратить моё внимание на
- Нет! Я имею в виду, почему Вы сказали "шестьдесят четыре", а не "семьдесят три", например?
- Если бы я сказал "семьдесят три". Вы задали бы мне тот же вопрос!
Окей. Я уже достаточно совершил телодвижений, обращая внимание на эту цитату, или может мне следует сделать что-то ещё? Поднять правую руку?
Какую функцию полезности максимизируем принятием решения?
Я не знаю в точности функции полезности, которая позволяет леммингу судить о том, что хорошо, а что плохо. Давайте я обозначу её буковкой f. А максимизировать надо, естественно, сумму по всем возможным исходам R
i, интегралов f(R
i(t))*P(R
i) dt, по t от текущего момента до бесконечности. Где P(R
i) -- это вероятность исхода R
i, R
i(t) -- это "исход", как функция отображающая время в пространство всевозможных состояний вселенной.
Впрочем, если вы найдёте способ как-то упростить задачу, чтобы формулы стали проще или чтобы вам было бы проще объяснять решение (но без утраты смысла задачи), то не стесняйтесь, упрощайте. Я только "за".
