Мне вспомнилась еще одна причина, по которой Юдковский освещает редукционизм так, как он это делает. Он занимается вопросами ИИ, т.е. редукцией "разумности" до "неразумных" компонентов. Т.е. он больше уделяет внимания принципиальной возможности редукции сразу до неразумных кварков, а не уровням организации.
На мой взгляд, цепочка "редукционизм" о другом. Она чисто к когнитивным искажениям. Не к исследованию, ни к созданию новых уровней организации материи, а к чистой и незамутнённой когниции.
Если мы глянем на примеры применения редукционизма, которые приводит Юдковский, то это примеры где наши эвристики либо неверно выбирают уровень организации материи, на котором следует анализировать проблему, либо они применяют какую-то абстракцию за рамками применимости этой абстракции.
Про абстракцию -- я просто не знаю как это лучше назвать, но можно глянуть на пример с проецированием разума и сексуальностью девушки. Наша голова постоянно проецирует -- это у неё такой способ работать. Это своего рода абстракция. И это вполне рабочая абстракция, она в большинстве ситуаций отлично справляется со своими задачами. Но вот в ситуации, когда девушка и рептилоид оказались рядом в воображении художника, эта абстракция привела к появлению лулзов. Потому что художник применил абстракцию за рамками её применимости, в ситуации в которой её нельзя было применять.
И все ситуации, на которых Юдковский демонстрирует силу редукционизма -- это такого рода ситуации, в которых "интуитивный" способ отражать мир приводит к искажению этого отражения. И редукционизм в его изложении, не более чем способ одолеть эти когнитивные искажения. В изложении Юдковского -- это не способ исследования реальности, не способ описания реальности, это способ понять ряд эвристик, которые могут приводить к ошибкам, с тем чтобы когда эвристики приводят к ошибкам, читатель бы увидел и ошибку, и место совершения ошибки, и способ исправления ошибки. Редукционизм в изложении Юдковского -- способ думать о проблеме, который в большинстве ситуаций не нужен и непрактичен, но в некоторых специальных ситуациях оказывается лучше привычного и практичного способа думать.
