Главное > Рациональность
Деструктивный редукционизм
kuuff:
Редукционизм -- довольно острый инструмент, которым недолго и порезаться. Это инструмент, которым надо владеть, но также это инструмент, чьё предназначение надо очень хорошо понимать, и принимать решение об извлечении или неизвлечении редукционизма из ножен чётко отдавая себе отчёт в том, какие цели мы преследуем редукционизмом. Редукционизм легко можно использовать для того, чтобы закрыть проблему, спрятать её с глаз долой под ковёр. Чтобы дать мозгам возможность схалявить, не думать, не напрягаться, найти пускай бесполезный ответ на вопрос, зато исчерпывающий.
Можно говорить об уровнях организации знаний, например, квантовая механика находится на самом низком уровне, на ней можно построить термодинамику, на термодинамике можно построить химию, физиологию, поверх этого можно построить психологию. Это всё разные уровни организации знаний. Когда мы сталкиваемся с проблемой, она обычно уже сформулирована на каком-то из уровней. Например, человек идёт по пустыне и видит оазис. И он ставит вопрос: откуда здесь оазис. Он пытается решать проблему на уровне, который находится где-то в районе географии, потому что этот уровень напрашивается для его мозгов. Но проблема на этом уровне не разрешима, потому что реально в том месте нет никакого оазиса, на самом деле человек видит мираж. В такой ситуации нам необходим редукционизм для того, чтобы взять проблему, редуцировать её последовательно, раз за разом, вплоть до квантовой механики, посмотреть на последовательность проделанных редукций и выбрать нужный уровень на котором лучше иметь дело с проблемой. Оазис редуцируется до "почему оттуда летят ЭМ-волны, которые на сетчатке создают проекцию оазиса"? И на этот вопрос уже возможно дать ответ в терминах вопроса. В отличие от вопроса "откуда там оазис": на такой вопрос можно ответить лишь выходя за рамки вопроса, и начиная с "нет там никакого оазиса, ...", хотя вопрос не подразумевает возможности несуществовать для оазиса.
Но это всё неплохо расписано у Юдковского, и об этом лучше почитать у него. А что у него не очень хорошо расписано -- это деструктивный редукционизм. Например, есть вечный спор о наличии свободы воли у человека. Мы можем редуцировать эту проблему и показать, что нет никакой свободы воли. Значит ли это, что нет никакой свободы воли? Или это значит, что мы просто отмахнулись от проблемы, не желая с ней связываться, но и не желая и признаваться себе, что мы не можем справиться с проблемой?
Или та же радуга: если Ньютон объяснил радугу, значит ли это, что радуга не существует? Может быть и не существует, но дело в том, что наша психика, видя радугу, всё равно работает с ней как с существующей радугой. Мы можем оттормозить эту работу, одеть поверх неё более продвинутое понимание радуги, но выключить работу психики, которая приводит к восприятию радуги как "реально существующего объекта" мы не сможем. (Для этого нам придётся произвести хирургическое вмешательство и повредить зрительную кору мозга в достаточной мере, чтобы она была бы не в состоянии по картинке с сетчаке строить образ восприятия.) То есть радуга существует как неустранимый феномен нашей психики. Другое дело, что не ясно, зачем нам может понадобиться понимание этого факта в случае с радугой: мы можем, глядя на радугу, продолжать делать вид, что радуги нет, и что мы видим, что радуги нет. Это ни на что не влияет, поэтому можно сколько угодно.
В случае со свободой воли происходит то же самое, но с одним нюансом: уже далеко не очевидно, что отказ от понятия свободы воли безобиден, и не помешает нам познавать реальность и дальше. Отказываясь от свободы воли, заявляя что она не существует, мы запрещаем себе думать о поведении человека определённым образом. Мы ограничиваем себя. И это может явиться тем, что помешает нам вывести общие законы поведения человека. Если вышвырнуть в окно этот философский спор о существовании или несуществовании свободы воли, и просто подумать о том, что а) на каком уровне организации знаний возникло понятие свобода воли; б) что это понятие значит на том уровне, на котором оно возникло; то мы сможем найти вполне определённые ответы на эти вопросы. На самом бытовом уровне, на уровне психологии, социологии возникает понятие "свобода воли". Определить это понятие строго математически мы затруднимся, скорее всего, но в общем, это как-то связано с нашей невозможностью предсказать поведение себя и других людей. Мы, пытаясь заглянуть в будущее, моделируем своё поведение, поведение других людей, и мы вынуждены учитывать такой фактор как "свобода воли" -- наша и других людей -- моделируя будущий процесс принятия решения, мы вынуждены закладывать в него такую неопределённую силу как "свобода воли", действие которой может оказаться критичным.
Вот, что такое свобода воли на уровне психологии. Можно сколько угодно размахивать руками, редуцировать эту свободу воли до кварков, заявлять что раз нету свободы воли у кварка, значит и у человека её нет. Но де факто мы всё равно используем "свободу воли" постоянно, каждый раз когда пытаемся моделировать своё или чужое поведение с целью предсказаний. Разница лишь в том, стыдимся ли мы при этом называть понятие словами "свобода воли" и поэтому либо не называем его никак, либо называем более общими словами типа "неопределённость", или не стыдимся и называем эту неопределённость специально изобретённым для неё именем.
Юдковский об этом пишет немного, но мне кажется, он излишне увлечён иллюзией того, что после успешно проведённой редукции мир становится проще. Ну или наши представления о мире становятся проще. Они, может быть, становятся проще, но не всегда они становятся лучше. Юдковский приводит пример механистической термодинамики, которая утверждает, что тепло -- это движение. И да, это отличный пример. Если мы редуцируем тепло, то получим движение атомов и молекул. И давление -- это тоже движение атомов и молекул. Но это не повод отказываться от понятия "тепло". По-моему, для человека, который постоянно работает с теплом, факт "тепло -- это движение" является не более чем любопытным фактом, на который можно подивиться немного, после чего забыть и идти дальше. Потому что человек всё равно будет работать с теплом как с теплом, а не как с движением, несмотря на то, что тепло -- это одно из проявлений движения. Мы можем стыдиться называть тепло теплом, и называть его движением, но лучше нам от этого нее станет.
Редукционизм может быть опасен, если он применяется бездумно. Но для него напрашивается простые правила техники безопасности: нельзя из редуцируемости чего-либо делать вывод о том, что это что-то не существует*. Нельзя отвергать существование проблемы просто потому, что эта проблема была успешно редуцирована. Редукция может быть инструментом, позволяющим отвергнуть существование проблемы, но она не может быть единственным инструментом, которым проблема отвергается. Любая редукция должна проводится с чётким осознанием того, зачем она проводится.
*) Насчёт существования и несуществования -- тут могут быть непонятности. В реальности не существует ничего, кроме реальности. Там на самом деле нет ничего. Точнее, что-нибудь там может быть и есть, но всё что мы видим или когда-либо увидим в реальности всегда будет проекцией нашего ума. Абсолютно всё. Мы говорим "кварки, реальность соткана из кварков" -- а вот ничего подобного, кварки -- это изобретение человеческого разума. Мы говорим "пространство минковского" -- а вот лол вам, а не пространство минковского: пространство минковского было придумано головой минковского. То есть, с одной стороны не существует ничего. Но это оголтелый редукционизм, не признающий никакой техники безопасности. Но с другой стороны -- если я рассуждаю о реальности, то я её представляю каким-то образом, как совокупность проекций моего ума. Эти проекции чему-то соответствуют, и я считаю себя в полном праве утверждать, что это что-то существует. Общаясь с человеком я полагаю его существующим, не пытаясь редуцировать его до тучи кварков взаимодействующих друг с другом. Мне удобно считать его существующим, для успешного решения вполне себе практических задач, и я считаю его существующим. То есть, я редуцирую его до тучи кварков (на всякий случай: мало-ли он не туча кварков, а галлюцинация), но общаюсь не с тучей кварков, а с человеком.
Muyyd:
Эту тему надо назвать "недопонятый редукционизм"
Цитирую ваш перевод:
--- Цитировать ---Я думаю, что когда физики говорят: «На фундаментальном уровне радуги не существует», — антиредукционисты слышат: «Радуги не существует».
--- Конец цитаты ---
--- Цитировать ---Когда наука говорит: «Тигры — не элементарные частицы, они сделаны из кварков», — антиредукционист слышит это, как отрицание типа такого: «Мы заглянули в ваш гараж и не нашли там никакого дракона, только пустой воздух».
--- Конец цитаты ---
И я думаю, что "mere" стоит переводить как "всего лишь", а не как "в сущности" (If reductionism is correct, then even your belief in reductionism is just the mere result of the motion of molecules—why should I listen to anything you say?).
Ожидаете ли вы таких слов, от человека, который "разобъясняет" (это, как пониманию, по-вашему делает Юдковский) свободу воли?
--- Цитировать --- Not for the Sake of Happiness (Alone)
I value freedom: When I'm deciding where to steer the future, I take into account not only the subjective states that people end up in, but also whether they got there as a result of their own efforts. The presence or absence of an external puppet master can affect my valuation of an otherwise fixed outcome. Even if people wouldn't know they were being manipulated, it would matter to my judgment of how well humanity had done with its future. This is an important ethical issue, if you're dealing with agents powerful enough to helpfully tweak people's futures without their knowledge.
So my values are not strictly reducible to happiness: There are properties I value about the future that aren't reducible to activation levels in anyone's pleasure center; properties that are not strictly reducible to subjective states even in principle.
Which means that my decision system has a lot of terminal values, none of them strictly reducible to anything else. Art, science, love, lust, freedom, friendship...
And I'm okay with that. I value a life complicated enough to be challenging and aesthetic - not just the feeling that life is complicated, but the actual complications - so turning into a pleasure center in a vat doesn't appeal to me. It would be a waste of humanity's potential, which I value actually fulfilling, not just having the feeling that it was fulfilled.
--- Конец цитаты ---
--- Цитировать --- Fake Utility Functions
If there’s a superintelligence that wants everything for us that we want for ourselves, except the human values relating to controlling your own life and achieving your own goals, that’s one of the oldest dystopias in the book. (Jack Williamson’s “With Folded Hands . . .,” in this case.)
--- Конец цитаты ---
Добавлено [time]19 Декабрь 2015, 14:48[/time]:
Однако, должен признать, что я пока не готов и сам к вменяемому разговору о редукционизме и свободе воли. Но пока мне кажется, что возмущение "отсутствием" свободы воли вызвано скорее заблуждением проецирования разума, точнее говоря, в работе его подвида "заблуждение сжатия", где распределение полезностей (Utility)социальной свободы
--- Цитировать ---{определяю свои действия сам: 1, выполняю приказы других: 0}
--- Конец цитаты ---
сжимается в одно понятие "свободы" вместе с еще чем-то (вроде подчинения Физике: вроде бы не я собой командую, а Физика (сволочь) мной). Есть даже техника "разархивирования" (currying), которую я не очень понимаю.
deep_blue_hexagon:
Достойно добавления на главную( в самодостаточные материалы). Как насчёт этого? Всё-таки оригинальный Lesswrong коллективный блог. Так русский Lesswrong - лишь переводы+общение или что-то большее?
kuuff:
--- Цитата: Muyyd от 19 Декабря 2015, 14:41 ---Эту тему надо назвать "недопонятый редукционизм"
--- Конец цитаты ---
Её можно было бы назвать и так. Но меня интересовало конкретное неверное применение редукционизма. Юдковский защищает редукционизм, при этом недостаточно, на мой взгляд, уделяя внимания критике редукционизма, или, если хотите, отдельных редукционистов. Юдковский делит весь мир на "хороших" редукционистов, и "плохих" антиредукционистов. Я же говорю о третьем классе личностей -- о "плохих" редукционистах.
--- Цитата: Muyyd от 19 Декабря 2015, 14:41 ---Ожидаете ли вы таких слов, от человека, который "разобъясняет" (это, как пониманию, по-вашему делает Юдковский) свободу воли?
--- Конец цитаты ---
Если выкинуть из рассмотрения то, что Юдковский думает на этот счёт, и обратить внимание на то, что следовало бы исправить в его изложении -- это как раз то, что я сделал выше: я указал на каком уровне познания свобода воли существует, и что она из себя представляет там. Дать чёткую картинку: в КМ нет свободы воли, в термодинамике нет свободы воли, в физиологии -- хз, а в психологии она есть. Я не знаю, видит ли эту картинку Юдковский, но мне это, если честно, не очень интересно. Я вижу эту картинку, и мне было удобно чтобы её увидели другие, чтобы объяснить, почему редукция байесовской вероятности на уровень КМ может быть не самой удачной идеей. Я объяснил эту картинку. И да, я не увидел этой картинки у Юдковского. Вы правы, там можно увидеть намёки на то, что в голове у Юдковского есть такая картинка. Но я пролистал его "редукционизм", в надежде найти там то, что я хотел сказать здесь, и не нашёл. Поэтому я сказал от себя.
--- Цитата: Muyyd от 19 Декабря 2015, 14:41 ---Но пока мне кажется, что возмущение "отсутствием" свободы воли вызвано скорее заблуждением проецирования разума, точнее говоря, в работе его подвида "заблуждение сжатия", где распределение полезностей (Utility)социальной свободы
--- Конец цитаты ---
У меня нет возмущения свободой воли или её отсутствием. Я просто заявляю, что существует класс явлений, которые можно обозначит словами "свобода воли". Более того, мне лично удобно иметь это обозначение для данного класса явлений. Ну, например, можно выделить класс явлений, которые можно обозначить словами "легковой автомобиль". Можно не обозначать этот класс явлений специальным названием, а можно обозначить. Вопрос обозначать или не обозначать -- это чисто конвенциальное решение, которое принимается исключительно с целью удобства.
И я при этом соглашусь с тем, что "свобода воли" -- это проецирование разума. Уж не знаю, заблуждение это или нет, но "легковой автомобиль" -- это тоже проецирование разума. Реальность ничего не знает про легковые автомобили, это человек чисто конвенциально выделяет некий класс явлений и называет их легковыми автомобилями, проецируя таким образом на реальность свой разум.
Кстати другой пример конвенциального решения: что является планетой. Несколько лет назад был прелюбопытнейший скандал, когда астрономы сочинили формальное определение планеты, и Плутон перестал быть планетой. Какая разница, казалось бы? Но этот скандал показал насколько всё же понятие "планета" условно, и что это понятие (впрочем как и любое другое понятие) существует исключительно в голове у человека, и когда человек показывает пальцем на светящуюся на небе точку и говорит "планета" -- этот человек проецирует свой разум на реальность.
Артси:
--- Цитата: kuuff от 19 Декабря 2015, 19:08 ---И я при этом соглашусь с тем, что "свобода воли" -- это проецирование разума.
--- Конец цитаты ---
Шестерёнки Мироздания повернулись так, что вы решили: свобода воли -- это проецирование разума.
;)
Навигация
Перейти к полной версии