Форум LessWrong.ru

Главное => Рациональность => Тема начата: kuuff от 19 Декабрь 2015, 13:52

Название: Деструктивный редукционизм
Отправлено: kuuff от 19 Декабрь 2015, 13:52
Редукционизм -- довольно острый инструмент, которым недолго и порезаться. Это инструмент, которым надо владеть, но также это инструмент, чьё предназначение надо очень хорошо понимать, и принимать решение об извлечении или неизвлечении редукционизма из ножен чётко отдавая себе отчёт в том, какие цели мы преследуем редукционизмом. Редукционизм легко можно использовать для того, чтобы закрыть проблему, спрятать её с глаз долой под ковёр. Чтобы дать мозгам возможность схалявить, не думать, не напрягаться, найти пускай бесполезный ответ на вопрос, зато исчерпывающий.

Можно говорить об уровнях организации знаний, например, квантовая механика находится на самом низком уровне, на ней можно построить термодинамику, на термодинамике можно построить химию, физиологию, поверх этого можно построить психологию. Это всё разные уровни организации знаний. Когда мы сталкиваемся с проблемой, она обычно уже сформулирована на каком-то из уровней. Например, человек идёт по пустыне и видит оазис. И он ставит вопрос: откуда здесь оазис. Он пытается решать проблему на уровне, который находится где-то в районе географии, потому что этот уровень напрашивается для его мозгов. Но проблема на этом уровне не разрешима, потому что реально в том месте нет никакого оазиса, на самом деле человек видит мираж. В такой ситуации нам необходим редукционизм для того, чтобы взять проблему, редуцировать её последовательно, раз за разом, вплоть до квантовой механики, посмотреть на последовательность проделанных редукций и выбрать нужный уровень на котором лучше иметь дело с проблемой. Оазис редуцируется до "почему оттуда летят ЭМ-волны, которые на сетчатке создают проекцию оазиса"? И на этот вопрос уже возможно дать ответ в терминах вопроса. В отличие от вопроса "откуда там оазис": на такой вопрос можно ответить лишь выходя за рамки вопроса, и начиная с "нет там никакого оазиса, ...", хотя вопрос не подразумевает возможности несуществовать для оазиса.

Но это всё неплохо расписано у Юдковского, и об этом лучше почитать у него. А что у него не очень хорошо расписано -- это деструктивный редукционизм. Например, есть вечный спор о наличии свободы воли у человека. Мы можем редуцировать эту проблему и показать, что нет никакой свободы воли. Значит ли это, что нет никакой свободы воли? Или это значит, что мы просто отмахнулись от проблемы, не желая с ней связываться, но и не желая и признаваться себе, что мы не можем справиться с проблемой?
Или та же радуга: если Ньютон объяснил радугу, значит ли это, что радуга не существует? Может быть и не существует, но дело в том, что наша психика, видя радугу, всё равно работает с ней как с существующей радугой. Мы можем оттормозить эту работу, одеть поверх неё более продвинутое понимание радуги, но выключить работу психики, которая приводит к восприятию радуги как "реально существующего объекта" мы не сможем. (Для этого нам придётся произвести хирургическое вмешательство и повредить зрительную кору мозга в достаточной мере, чтобы она была бы не в состоянии по картинке с сетчаке строить образ восприятия.) То есть радуга существует как неустранимый феномен нашей психики. Другое дело, что не ясно, зачем нам может понадобиться понимание этого факта в случае с радугой: мы можем, глядя на радугу, продолжать делать вид, что радуги нет, и что мы видим, что радуги нет. Это ни на что не влияет, поэтому можно сколько угодно.
В случае со свободой воли происходит то же самое, но с одним нюансом: уже далеко не очевидно, что отказ от понятия свободы воли безобиден, и не помешает нам познавать реальность и дальше. Отказываясь от свободы воли, заявляя что она не существует, мы запрещаем себе думать о поведении человека определённым образом. Мы ограничиваем себя. И это может явиться тем, что помешает нам вывести общие законы поведения человека. Если вышвырнуть в окно этот философский спор о существовании или несуществовании свободы воли, и просто подумать о том, что а) на каком уровне организации знаний возникло понятие свобода воли; б) что это понятие значит на том уровне, на котором оно возникло; то мы сможем найти вполне определённые ответы на эти вопросы. На самом бытовом уровне, на уровне психологии, социологии возникает понятие "свобода воли". Определить это понятие строго математически мы затруднимся, скорее всего, но в общем, это как-то связано с нашей невозможностью предсказать поведение себя и других людей. Мы, пытаясь заглянуть в будущее, моделируем своё поведение, поведение других людей, и мы вынуждены учитывать такой фактор как "свобода воли" -- наша и других людей -- моделируя будущий процесс принятия решения, мы вынуждены закладывать в него такую неопределённую силу как "свобода воли", действие которой может оказаться критичным.
Вот, что такое свобода воли на уровне психологии. Можно сколько угодно размахивать руками, редуцировать эту свободу воли до кварков, заявлять что раз нету свободы воли у кварка, значит и у человека её нет. Но де факто мы всё равно используем "свободу воли" постоянно, каждый раз когда пытаемся моделировать своё или чужое поведение с целью предсказаний. Разница лишь в том, стыдимся ли мы при этом называть понятие словами "свобода воли" и поэтому либо не называем его никак, либо называем более общими словами типа "неопределённость", или не стыдимся и называем эту неопределённость специально изобретённым для неё именем.
Юдковский об этом пишет немного, но мне кажется, он излишне увлечён иллюзией того, что после успешно проведённой редукции мир становится проще. Ну или наши представления о мире становятся проще. Они, может быть, становятся проще, но не всегда они становятся лучше. Юдковский приводит пример механистической термодинамики, которая утверждает, что тепло -- это движение. И да, это отличный пример. Если мы редуцируем тепло, то получим движение атомов и молекул. И давление -- это тоже движение атомов и молекул. Но это не повод отказываться от понятия "тепло". По-моему, для человека, который постоянно работает с теплом, факт "тепло -- это движение" является не более чем любопытным фактом, на который можно подивиться немного, после чего забыть и идти дальше. Потому что человек всё равно будет работать с теплом как с теплом, а не как с движением, несмотря на то, что тепло -- это одно из проявлений движения. Мы можем стыдиться называть тепло теплом, и называть его движением, но лучше нам от этого нее станет.

Редукционизм может быть опасен, если он применяется бездумно. Но для него напрашивается простые правила техники безопасности: нельзя из редуцируемости чего-либо делать вывод о том, что это что-то не существует*. Нельзя отвергать существование проблемы просто потому, что эта проблема была успешно редуцирована. Редукция может быть инструментом, позволяющим отвергнуть существование проблемы, но она не может быть единственным инструментом, которым проблема отвергается. Любая редукция должна проводится с чётким осознанием того, зачем она проводится.

*) Насчёт существования и несуществования -- тут могут быть непонятности. В реальности не существует ничего, кроме реальности. Там на самом деле нет ничего. Точнее, что-нибудь там может быть и есть, но всё что мы видим или когда-либо увидим в реальности всегда будет проекцией нашего ума. Абсолютно всё. Мы говорим "кварки, реальность соткана из кварков" -- а вот ничего подобного, кварки -- это изобретение человеческого разума. Мы говорим "пространство минковского" -- а вот лол вам, а не пространство минковского: пространство минковского было придумано головой минковского. То есть, с одной стороны не существует ничего. Но это оголтелый редукционизм, не признающий никакой техники безопасности. Но с другой стороны -- если я рассуждаю о реальности, то я её представляю каким-то образом, как совокупность проекций моего ума. Эти проекции чему-то соответствуют, и я считаю себя в полном праве утверждать, что это что-то существует. Общаясь с человеком я полагаю его существующим, не пытаясь редуцировать его до тучи кварков взаимодействующих друг с другом. Мне удобно считать его существующим, для успешного решения вполне себе практических задач, и я считаю его существующим. То есть, я редуцирую его до тучи кварков (на всякий случай: мало-ли он не туча кварков, а галлюцинация), но общаюсь не с тучей кварков, а с человеком.
Название: Re: Деструктивный редукционизм
Отправлено: Muyyd от 19 Декабрь 2015, 14:41
Эту тему надо назвать "недопонятый редукционизм"
Цитирую ваш перевод:
Цитировать
Я думаю, что когда физики говорят: «На фундаментальном уровне радуги не существует», — антиредукционисты слышат: «Радуги не существует».
Цитировать
Когда наука говорит: «Тигры — не элементарные частицы, они сделаны из кварков», — антиредукционист слышит это, как отрицание типа такого: «Мы заглянули в ваш гараж и не нашли там никакого дракона, только пустой воздух».
И я думаю, что "mere" стоит переводить как "всего лишь", а не как "в сущности" (If reductionism is correct, then even your belief in reductionism is just the mere result of the motion of molecules—why should I listen to anything you say?).
Ожидаете ли вы таких слов, от человека, который "разобъясняет" (это, как пониманию, по-вашему делает Юдковский) свободу воли?
Цитировать
Not for the Sake of Happiness (Alone)  (http://lesswrong.com/lw/lb/not_for_the_sake_of_happiness_alone/)
I value freedom:  When I'm deciding where to steer the future, I take into account not only the subjective states that people end up in, but also whether they got there as a result of their own efforts.  The presence or absence of an external puppet master can affect my valuation of an otherwise fixed outcome.  Even if people wouldn't know they were being manipulated, it would matter to my judgment of how well humanity had done with its future.  This is an important ethical issue, if you're dealing with agents powerful enough to helpfully tweak people's futures without their knowledge.

So my values are not strictly reducible to happiness:  There are properties I value about the future that aren't reducible to activation levels in anyone's pleasure center; properties that are not strictly reducible to subjective states even in principle.

Which means that my decision system has a lot of terminal values, none of them strictly reducible to anything else.  Art, science, love, lust, freedom, friendship...

And I'm okay with that.  I value a life complicated enough to be challenging and aesthetic - not just the feeling that life is complicated, but the actual complications - so turning into a pleasure center in a vat doesn't appeal to me.  It would be a waste of humanity's potential, which I value actually fulfilling, not just having the feeling that it was fulfilled.
Цитировать
Fake Utility Functions  (http://lesswrong.com/lw/lq/fake_utility_functions/)
If there’s a superintelligence that wants everything for us that we want for ourselves, except the human values relating to controlling your own life and achieving your own goals, that’s one of the oldest dystopias in the book. (Jack Williamson’s “With Folded Hands . . .,” in this case.)

Добавлено [time]19 Декабрь 2015, 14:48[/time]:
Однако, должен признать, что я пока не готов и сам к вменяемому разговору о редукционизме и свободе воли (http://lesswrong.com/lw/r0/thou_art_physics/). Но пока мне кажется, что возмущение "отсутствием" свободы воли вызвано скорее заблуждением проецирования разума, точнее говоря, в работе его подвида "заблуждение сжатия" (http://lesswrong.com/lw/nw/fallacies_of_compression/), где распределение  полезностей (Utility) (http://lesswrong.com/lw/l4/terminal_values_and_instrumental_values/)социальной свободы
Цитировать
{определяю свои действия сам: 1, выполняю приказы других: 0}
сжимается в одно понятие "свободы" вместе с еще чем-то (вроде подчинения Физике: вроде бы не я собой командую, а Физика (сволочь) мной). Есть даже техника "разархивирования" (currying (http://lesswrong.com/lw/ro/2place_and_1place_words/)), которую я не очень понимаю.
Название: Re: Деструктивный редукционизм
Отправлено: deep_blue_hexagon от 19 Декабрь 2015, 15:38
Достойно добавления на главную( в самодостаточные материалы). Как насчёт этого? Всё-таки оригинальный Lesswrong коллективный блог. Так русский Lesswrong - лишь переводы+общение или что-то большее?
Название: Re: Деструктивный редукционизм
Отправлено: kuuff от 19 Декабрь 2015, 19:08
Эту тему надо назвать "недопонятый редукционизм"
Её можно было бы назвать и так. Но меня интересовало конкретное неверное применение редукционизма. Юдковский защищает редукционизм, при этом недостаточно, на мой взгляд, уделяя внимания критике редукционизма, или, если хотите, отдельных редукционистов. Юдковский делит весь мир на "хороших" редукционистов, и "плохих" антиредукционистов. Я же говорю о третьем классе личностей -- о "плохих" редукционистах.

Ожидаете ли вы таких слов, от человека, который "разобъясняет" (это, как пониманию, по-вашему делает Юдковский) свободу воли?
Если выкинуть из рассмотрения то, что Юдковский думает на этот счёт, и обратить внимание на то, что следовало бы исправить в его изложении -- это как раз то, что я сделал выше: я указал на каком уровне познания свобода воли существует, и что она из себя представляет там. Дать чёткую картинку: в КМ нет свободы воли, в термодинамике нет свободы воли, в физиологии -- хз, а в психологии она есть. Я не знаю, видит ли эту картинку Юдковский, но мне это, если честно, не очень интересно. Я вижу эту картинку, и мне было удобно чтобы её увидели другие, чтобы объяснить, почему редукция байесовской вероятности на уровень КМ может быть не самой удачной идеей. Я объяснил эту картинку. И да, я не увидел этой картинки у Юдковского. Вы правы, там можно увидеть намёки на то, что в голове у Юдковского есть такая картинка. Но я пролистал его "редукционизм", в надежде найти там то, что я хотел сказать здесь, и не нашёл. Поэтому я сказал от себя.

Но пока мне кажется, что возмущение "отсутствием" свободы воли вызвано скорее заблуждением проецирования разума, точнее говоря, в работе его подвида "заблуждение сжатия", где распределение  полезностей (Utility)социальной свободы
У меня нет возмущения свободой воли или её отсутствием. Я просто заявляю, что существует класс явлений, которые можно обозначит словами "свобода воли". Более того, мне лично удобно иметь это обозначение для данного класса явлений. Ну, например, можно выделить класс явлений, которые можно обозначить словами "легковой автомобиль". Можно не обозначать этот класс явлений специальным названием, а можно обозначить. Вопрос обозначать или не обозначать -- это чисто конвенциальное решение, которое принимается исключительно с целью удобства.
И я при этом соглашусь с тем, что "свобода воли" -- это проецирование разума. Уж не знаю, заблуждение это или нет, но "легковой автомобиль" -- это тоже проецирование разума. Реальность ничего не знает про легковые автомобили, это человек чисто конвенциально выделяет некий класс явлений и называет их легковыми автомобилями, проецируя таким образом на реальность свой разум.
Кстати другой пример конвенциального решения: что является планетой. Несколько лет назад был прелюбопытнейший скандал, когда астрономы сочинили формальное определение планеты, и Плутон перестал быть планетой. Какая разница, казалось бы? Но этот скандал показал насколько всё же понятие "планета" условно, и что это понятие (впрочем как и любое другое понятие) существует исключительно в голове у человека, и когда человек показывает пальцем на светящуюся на небе точку и говорит "планета" -- этот человек проецирует свой разум на реальность.
Название: Re: Деструктивный редукционизм
Отправлено: Артси от 26 Декабрь 2015, 22:59
И я при этом соглашусь с тем, что "свобода воли" -- это проецирование разума.

Шестерёнки Мироздания повернулись так, что вы решили: свобода воли -- это проецирование разума.
 ;)
Название: Re: Деструктивный редукционизм
Отправлено: Muyyd от 27 Декабрь 2015, 11:48
Из разбора (http://lesswrong.ru/w/Объяснение_против_Разобъяснения) Юдковским творчества Китса и его анти-редукционизма или точнее говоря, непонятого редукционизма, и моего личного опыта, напрашивается интересный вывод: человек настолько является редукционистом, насколько он пониманиет цепочки причин и следствий, управляющие событиями.
Если мы посмотрим, как наши предки избавлялись от необходимости и желания думать о "духах реки" для понимания ее весенних разливов и другого поведения, по мере накопления гидрологических знаний и опыта манипуляций с реками, например, для получения электричества, то можно сделать вывод о том, как появляется интуиция, стоящая за редукционизмом. А именно, он является не следствием философского постулирования, а следствием понимания причинно-следственных связей и манипуляций с реальностью на основе этого понимания (или знания о таких манипуляциях). Так что не стоит думать, что человек может быть редукционистом, не изучав настоящую науку, не читав учебники,не изучав как это работает на практике.
Мы далеки от понимания "сознания" на том же уровне, что и понимаем реки, но за последние 70 лет произошел немалый прогресс в этой области. Но разрыв между знаниями утекшими в поп культуру и тем, что знают ученые огромен. Это я знаю даже на основании тех крох  (http://brainsciencepodcast.com/), которые мне перепали.
Название: Re: Деструктивный редукционизм
Отправлено: Skywrath от 27 Декабрь 2015, 13:15
Цитировать
Человек настолько является редукционистом, насколько он понимает цепочки причин и следствий.
Логично, да. Хотя, на практике, многие цепочки причин и следствий даже определены быть не могут. Хотя на них обычно и ссылаются. Так, что редукция оказывается несколько бесполезной. Например, редуцировать сознание до нейронов - всё равно, что пытаться рассчитывать термодинамику газа по скоростям отдельных молекул и психомеханика проиграет даже обычной психологии, как более эффективному способу влияния на сознание. Подобные проблемы, как минимум, означают сильную редуцируемость одних областей и относительно слабую других и следовательно ограниченность редукционизма.
Название: Re: Деструктивный редукционизм
Отправлено: Muyyd от 27 Декабрь 2015, 14:04
Например, редуцировать сознание до нейронов - всё равно, что пытаться рассчитывать термодинамику газа по скоростям отдельных молекул и психомеханика проиграет даже обычной психологии, как более эффективному способу влияния на сознание.
А именно, он является не следствием философского постулирования, а следствием понимания причинно-следственных связей и манипуляций с реальностью на основе этого понимания (или знания о таких манипуляциях).
Мы не моделируем полет самолета по атомам, но это не значит, что законы их взаимодействия перестают влиять на полет.
Сомневаюсь, что какой-либо разговор успокоит вас так, как это сделают современные препараты (учитывайте не только те, что выпускаются на рынок для терапии "обычных" людей, но и для лечения особо тяжелых случаев в спец. клиниках). Как бы, сюрприз. Нам необязательно редуцировать сознание сразу до кварков, чтобы получить больше знаний о причинно-следственных связях; редуцировав до хотя бы до молекул химических соединений мы получили огромное влияние на множество функций мозга. Так же, уже не помню чисел, но возможности записи деятельности отдельных групп (сотен а то и нескольких сотен) нейронов растут. Рано говорить: "Нейронов слишком много, чтобы мы могли понять, как отдельные группы создают разные явления".
На этом этапе следует прекратить философский разговор об ограниченности редукционизма, в силу того, что он может быть продолжен исключительно в сторону знаний современной науки о мозге и возможностях влияния на то, что мы привыкли называть сознательной деятельностью или функциями высшей нервной системы, а именно, какие эффекты можно получить,
Еще раз повторю, понимание силы и бессилия редукционизма напрямую зависит от ваших знаний в этой области. Ни за собой, ни за вами, я не заметил по комментам на форуме особых знаний в областях нейронауки.
З.Ы.
Цитировать
Никто еще не строил квантовую модель капли воды, никто и не может построить. Вода является фундаментально непредсказуемой динамической системой. Мы не знает по-настоящему почему река разливается или не разливается.
Поэтому нам надо приносить жертвы Богам Реки. Выбор пал на вашу жену\дочь\мать\сына\подругу\друга. Вот предоставите кварковую модель капли воды, тогда мы и поговорим про причинно-следственные связи, дамбы и плотины, а пока тащите жертву. Ее еще предстоит заживо сжечь, дабы очистить от скверны.
Название: Re: Деструктивный редукционизм
Отправлено: Quilfe от 27 Декабрь 2015, 14:19
Тут, мне кажется, есть определенная разница между тем, чтобы редуцировать некую задачу и в том, чтобы полностью что-то промоделировать. Молекулярно-кинетическая теория для газа полностью редуцирует термодинамику к движению молекул, объясняя в терминах механики Ньютона, что такое температура, тепловая энергия, энтропия и прочее (разумеется, она не учитывает ряд эффектов и является приближением, но речь не об этом). Когда я знаю МКТ и могу с помощью ее уравнений расписать все термодинамические процессы, я уже редуцировал тепло, и мне не нужно буквально предсказывать поведение всех молекул до одной аки демон Лапласа. Вопрос в знании правил, а не в числе молекул. Молекул очень много, но набор правил короткий.

С нейронами же в этом отношении возникает путаница. И правил, и нейронов всё еще много, заметно больше, чем мы сейчас можем обсчитать, но правил существенно меньше. И редукцией было бы движение в сторону того, чтобы понять правила, начиная с того, какие области мозга что делают, как они связаны между собой и т. д. (я не могу поставить дальнейшие вопросы, для этого уже требуется знать состояние современной нейронауки). Редукция будет завершена не тогда, когды мы сможем окинуть взглядом каждый нейрон, а когда у нас будет модель, в которой не будет необходимости учитывать отдельные нейроны, как в случае с теплом нет необходимости учитывать отдельные молекулы (вероятно, эта модель будет существенно менее детерминистичной, чем МКТ, в силу того, что за бортом останется заметная часть неопределенности, впрочем, пока такой модели нет, сложно сказать насколько). Впрочем, и до этого всё еще очень далеко. Но вопрос не в числе нейронов как таковом.
Название: Re: Деструктивный редукционизм
Отправлено: kuuff от 27 Декабрь 2015, 17:08
На этом этапе следует прекратить философский разговор об ограниченности редукционизма, в силу того, что он может быть продолжен исключительно в сторону знаний современной науки о мозге и возможностях влияния на то, что мы привыкли называть сознательной деятельностью или функциями высшей нервной системы, а именно, какие эффекты можно получить,
  • Втыкая электроды (стимулируя) разные области мозга
  • Вводя разную химию
  • Удаляя хирургически разные области мозга
Еще раз повторю, понимание силы и бессилия редукционизма напрямую зависит от ваших знаний в этой области. Ни за собой, ни за вами, я не заметил по комментам на форуме особых знаний в областях нейронауки.
На самом деле, я начал совершенно не философский разговор. Насчёт о том об ограниченности ли я говорю или нет -- это спорный вопрос: может быть я говорю о границах применимости, и тогда да, об ограниченности.

Но речь о том, что редукционизм подчастую применяют неверно. Вот вы рассказываете о редукции психологии в нейронауки, но как вы полагаете возможен разгвор в терминах нейронаук о, допустим, памяти? Вот есть у человека память, мы хотим разработать такие воспитательно-педагогические методики, чтобы у последующих поколений память была бы резко лучше чем у нас. И представьте себе такую методику -- книжку для педагога. В каких терминах будет написана та книжка, и в каких терминах будет мыслить педагог? В терминах нейронов? Или в каких-то других, наприме, в терминах "образ", "ассоциация" и тп.? Я думаю, что второе. Но чтобы получить второе, учёный должен сидеть, ломать голову над нейронами, и пытаться выполнить "антиредукционный" шаг, от нейронов к образу и ассоциации.
Так же, как кто-то сочинял термодинамку, выполняя "антиредукционный шаг" от ньютоновской механики к давлению и температуре.
А теперь представьте такого учёного, ломающего голову над "антиредукционным шагом", к которому приходит упёртый редукционист, и заявляет: "ты занимаешься фигнёй, образы редуцируются до нейронов, а давление до движений атомов, зачем ты плодишь ненужные сущности?" Как вы полагаете, учёный сразу даст в лицо, или сначала предложит выйти из помещений своим ходом?

Вот помимо биологических нейронов вовсю используются нейроны математические. Об этих нейронах известно вообще всё. Но внезапно оказывается, что построить на этих нейронах нейросеть, которая будет выполнять определённые задачи -- не так просто. Более того, если мы попытаемся построить на ней ИИ, то в процессе проектирования этой сети, мы вдруг начнём говорить о памяти, об образах, об ассоциациях -- короче о вещах, которые совсем-совсем не похожи на нейроны. Мы будем делать "антиредукционный" шаг, потому что без него нам просто не справится с задачей. И если когда мы опустимся в глубины фрустрации к нам вдруг заявится редукционист, чтобы рассказать нам о том, что мы совершенно зря усложняем задачу, придумывая столько названий (память, образ, ассоциация) для одних и тех же процессах в нейросетях, то вряд ли это вызовет радость у нас.

И именно такое поведение редукционистов я и назвал деструктивным редукционизмом. Редукционизм может быть эпистемиологическим, то есть такой редукционизм, когда мы говорим о радуге в терминах радуги, помня при этом, что радуга редуцируется до капель воды и преломления света. Или он может быть деструктивным, когда мы запрещаем себе говорить о радуге в терминах радуги, требуя разговора в терминах гидродинамики и оптики. Не "о! смотри радуга", а "о! если ты направишь взор в ту сторону, то на твоей сетчатке любопытным образом спроецируется свет от Солнца, преломлённый и многократно отражённый в каплях воды".

Проблема деструктивного редукционизма в том, что иногда он просто идёт в сторону противоположную той, в которую идут учёные-теоретики. Иногда он берёт и уводит задачу с того уровня, на котором она может быть решена, на более низкие уровни, где она не может быть решена. "Не может" в смысле чисто практической возможности: мы не можем промоделировать каплю воды оперируя отдельными молекулами, потому что у нас недостаточно вычислительных мощностей, но мы легко можем взять аксиомы гидродинамики о жидкости (нерастяжимость, непрерывность, бла-бла-бла), написать дифуры, получить матмодель и промоделировать таким образом.

С нейронами же в этом отношении возникает путаница. И правил, и нейронов всё еще много, заметно больше, чем мы сейчас можем обсчитать, но правил существенно меньше. И редукцией было бы движение в сторону того, чтобы понять правила, начиная с того, какие области мозга что делают, как они связаны между собой и т. д. (я не могу поставить дальнейшие вопросы, для этого уже требуется знать состояние современной нейронауки). Редукция будет завершена не тогда, когды мы сможем окинуть взглядом каждый нейрон, а когда у нас будет модель, в которой не будет необходимости учитывать отдельные нейроны, как в случае с теплом нет необходимости учитывать отдельные молекулы (вероятно, эта модель будет существенно менее детерминистичной, чем МКТ, в силу того, что за бортом останется заметная часть неопределенности, впрочем, пока такой модели нет, сложно сказать насколько). Впрочем, и до этого всё еще очень далеко. Но вопрос не в числе нейронов как таковом.
Да, я тоже так думаю. Но с одной поправкой: я бы сказал, не "редукция будет завершена", а "антиредукция будет завершена". И когда она будет завершена, можно будет сколько угодно редуцировать полученную модель до нейронов или даже до кварков. А что смешнее, ту модель уже сейчас можно редуцировать до кварков, даже несмотря на то, что она ещё не построена.
А деструктивным редукционизмом будут разговоры о том, что учёные даром хлеб свой проедают, пытаясь объяснить какими-то мутными словами то, что просто и понятно моделируется на нейронах.
Название: Re: Деструктивный редукционизм
Отправлено: garlic от 28 Декабрь 2015, 00:47
Как я уже отмечал (http://lesswrong.ru/forum/index.php/topic,303.msg19467.html#msg19467), следует отличать редукцию (один из инструментов анализа) от редукционизма (методологического принципа, абсолютизирующего вышеупомянутый инструмент). Сама по себе редукция не является деструктивной, все зависит от способа ее использования. Вот если мы объявим редукцию "единственно верным" инструментом, который применим абсолютно во всех случаях, то получим гарантированно деструктивный редукционизм.

Редукционистский подход в науке был чрезвычайно популярен в 19-м веке (под названием позитивизма). Однако в 20-м веке его сильно потеснил системный подход, постулирующий неизбежность скачкообразных качественных изменений при переходе на следующий уровень структурного усложнения материи. Система, представляющая совокупность элементов и обладающая свойствами, которых нет ни у одного из этих элементов по отдельности – принципиально антиредукционистский объект. Такой системой является, например, атом (состоящий из элементарных частиц), молекула (состоящая из атомов), биологическая ткань, живой организм, биологический вид, человеческое сознание.

На мой взгляд, совершенно бессмысленно спорить, какой из двух подходов – редукционистский или системный – более "правильный". Каждый из них уместен в каких-то определенных условиях и неприемлем в других. И проблема любого исследователя, в частности, заключается в том, чтобы выявить эти условия в данном конкретном случае.
Название: Re: Деструктивный редукционизм
Отправлено: Muyyd от 28 Декабрь 2015, 03:19
Вот вы рассказываете о редукции психологии в нейронауки, но как вы полагаете возможен разгвор в терминах нейронаук о, допустим, памяти?
Я утверждаю что нет смысла говорить о ограниченности редукционизма в нейронауке, не зная этой самой нейронауки. Серьезно, вы хоть учебник читали? Я - нет. А ведь они есть (http://www.amazon.com/gp/product/0878936971?ref_=cm_lmf_tit_5). Есть даже книги о том, как используется математика (http://www.amazon.com/Neuroscience-Mathematical-Primer-Alwyn-Scott/dp/0387954031). Я уже даже не помню, что нейронаука про память говорит, что-то там про синтез белка...
Вот для того, чтобы знать, на сколько надо редуцировать каплю воды, чтобы описать ее поведение, вам надо было читать учебную литературу в свое время, или вы как-то иначе (http://lesswrong.com/lw/o5/the_second_law_of_thermodynamics_and_engines_of/) до этой информации добрались?
Мне нечего сказать про деструктивный редукционизм в нейронауке и про анти-рудукцию именно потому, что я даже учебника не читал  (http://lesswrong.com/lw/ow/the_beauty_of_settled_science/). 
Название: Re: Деструктивный редукционизм
Отправлено: kuuff от 28 Декабрь 2015, 04:58
Я утверждаю что нет смысла говорить о ограниченности редукционизма в нейронауке, не зная этой самой нейронауки. Серьезно, вы хоть учебник читали? Я - нет. А ведь они есть.
Возьмите этот учебник. Редуцируйте нейроны до кварков. И попробуйте изложить учебник в терминах кварков. Расскажите потом как вам это удалось. И тогда я поверю вам, что редукция применённая к нейронауке не может быть деструктивной.
Я не читал учебник нейронауки. Но я читал книжки про нейронные сети. В смысле про математическую абстракцию, а не про биологические нейроны. Биологические я сейчас изучаю ;).
Так вот, я моделировал нейросети дома на компьютере. Я реализовал back propagation алгоритм, отладил его и обучал нейросетки всяких разных топологий выполнять простенькие и бессмысленные задачи, типа определять попадает ли точка в круг, или квадрат/треугольник. Или может ли нейросетка провести категоризацию на этих данных или на этих. А что будет, если она научится категоризировать, а потом я изменю характер данных? Сможет она переучится, и как она это сделает? Она "забудет" предыдущие свои навыки категоризации? Или что? И я вам совершенно определённо говорю: начиная с некоторого уровня усложнения этих сетей, дальнейший разговор уже ведётся не в терминах нейронов, а в более сложных терминах. Вы это могли заметить даже здесь, когда я употребил слова "категоризирует", "забудет" по отношению к нейросети: уже здесь пошла "антиредукция", я начал наращивать уровень абстракции, уходя от весовых коэффициентов синапсов и уровня активации нейронов к понятиям, которые уже больше похожи на понятия психологии, чем на понятия физиологии.
Есть даже книги о том, как используется математика.
А математика, вы думаете, не может быть средством выполнения "антиредукционного" шага? Термодинамика, между прочим, строится из ньютоновской механики математикой. Математика вообще, по-моему, скорее антиредукционна, чем редукционна. Если вы заглянете в любую математическую теорию, то увидите, что она начинается с простых каких-то сущностей, из которых затем собираются сложные, и после этого начинается основное веселье -- манипуляции этими сложными сущностями, в терминах этих сложных сущностей.
Гляньте на теорию групп. Которая собирает разные примеры множеств с определёнными свойствами, называет их группами, и начинает изучать свойства абстрактной группы. То есть, она строит понятие уровнем выше исходных множеств. Оно абстрактнее их. А потом приходит ещё более абстрактная теория категорий, для которой теория групп оказывается одним из возможных применений. Теория категорий, которая само понятие "множество" заменяет словом "категория", потому что категория -- это более общее понятие, чем множество. Теория категорий, которая доказывает многие теоремы различных других математических теорий абстрагировавшись от тех теорий.
Между прочим та самая теория категорий (http://www.amazon.com/Categorizing-Cognition-Conceptual-Foundations-Psychology/dp/0262028077), которая сегодня начинает появляться в статьях когнитивных психологов исследователей, которые описывают как работает мозг.
(https://pp.vk.me/c409628/v409628419/9584/CIk78LNiy-U.jpg)
Математика строит, а не разбирает. Редукционизм в математике -- это нонсенс.
Я утверждаю что нет смысла говорить о ограниченности редукционизма в нейронауке, не зная этой самой нейронауки.
А я утверждаю, что можно говорить об ограниченности совершенно любой науки, не только нейро, даже не зная её. И к абсолютно любой науке X рано или поздно приложится некая "над-наука" Y, которую можно будет редуцировать до X, и которая будет позволять решать задачи, с которыми X не справится.
Психологи будут аплодировать стоя, когда нейробиологи смогут редуцировать психологию до физиологии. Но когда овации отгремят, психологи вернутся к своей теории категорий, а нейробиологи продолжат ковыряться со своими нейронами. Потому что если они попытаются подняться выше, то они прекратят быть нейробиологами и станут психологами.
Название: Re: Деструктивный редукционизм
Отправлено: Muyyd от 28 Декабрь 2015, 14:52
Возьмите этот учебник. Редуцируйте нейроны до кварков. И попробуйте изложить учебник в терминах кварков. Расскажите потом как вам это удалось. И тогда я поверю вам, что редукция применённая к нейронауке не может быть деструктивной.
Это и есть пример "плохого" редукционизма. И вместо "анти-редукции" стоит вернуть "уровни организации". И я все еще не понимаю с чем вы спорите. Да, все редуцируется до взаимодействия кварков. Да, это очень-очень трудно посчитать. Но вместо того, чтобы оставновиться в рудукции до того уровня, на котором мы может получать новую информацию, вы предлагаете редуцировать дальше и последующее усложнение вычислений выдаете за "деструктивный редукционизм". Основной месседж редукционизма - ментальные процессы редуцируемы до не ментальных. Сознание до кварков и дальше (если дальше что-либо есть). Вместе с последствиями (http://lesswrong.com/lw/tv/excluding_the_supernatural/)
ОТ вашего сообщений у меня такое же чувство, как и от восклицаний "как мы можем использовать индукцию, если для оправдания ее работы мы используем индукцию?". Мы будем использовать все, что работает, производя вычисления на том уровне организации, на котором удобней, и точней результаты. Не забывайте, какую власть над реальностью получили люди, редуцировав воду (понимание механизмов) до H2O и редуцировав прочие "элементы".

Сомневаюсь, что какой-либо разговор успокоит вас так, как это сделают современные препараты (учитывайте не только те, что выпускаются на рынок для терапии "обычных" людей, но и для лечения особо тяжелых случаев в спец. клиниках). Как бы, сюрприз. Нам необязательно редуцировать сознание сразу до кварков, чтобы получить больше знаний о причинно-следственных связях; редуцировав до хотя бы до молекул химических соединений мы получили огромное влияние на множество функций мозга. Так же, уже не помню чисел, но возможности записи деятельности отдельных групп (сотен а то и нескольких сотен) нейронов растут. Рано говорить: "Нейронов слишком много, чтобы мы могли понять, как отдельные группы создают разные явления".
Название: Re: Деструктивный редукционизм
Отправлено: kuuff от 28 Декабрь 2015, 15:42
место "анти-редукции" стоит вернуть "уровни организации".
Это вам кажется. А мне в данной дискуссии кажется более уместным "анти-редукционизм", потому что он подчёркивает противопоставление "антиредукционного" построения новых и новых уровней организации материи, редукционному разбору этих уровней на кирпичики. Это два противоположных направления мысли. И именно этот оттенок смысла в построении уровней организации мне интересен, и именно его я подчёркиваю.
Да, это очень-очень трудно посчитать. Но вместо того, чтобы оставновиться в рудукции до того уровня, на котором мы может получать новую информацию, вы предлагаете редуцировать дальше и последующее усложнение вычислений выдаете за "деструктивный редукционизм".
Да. В общем именно так. Именно это я проделываю, и именно последующее усложнение вычислений я называю деструктивным редукционизмом. И мне непонятно, что вам в этом непонятно.
Название: Re: Деструктивный редукционизм
Отправлено: Skywrath от 28 Декабрь 2015, 20:07
Цитата: Muyyd
Сомневаюсь, что какой-либо разговор успокоит вас так, как это сделают современные препараты.
Сомневаюсь, что вы сможете получить больше знаний, наглотавшись таблеток, чем от беседы с преподавателем. Ирония в том, что аргументы такого плана работают в обе стороны. На некоторые функции мозга можно повлиять ударами молотка по голове, тогда как другие требуют более тонкого подхода и заранее неизвестно, насколько редуцируема произвольная функция. :D
Название: Re: Деструктивный редукционизм
Отправлено: Muyyd от 29 Декабрь 2015, 03:06
А я утверждаю, что можно говорить об ограниченности совершенно любой науки, не только нейро, даже не зная её. И к абсолютно любой науке X рано или поздно приложится некая "над-наука" Y, которую можно будет редуцировать до X, и которая будет позволять решать задачи, с которыми X не справится.
Такие рассуждения не помогут понять, на каких уровнях организации рассматривать разные явления, если не специальных знаний. Насколько я помню, они разнятся от работы машинерии внутри отдельных клеток до работы отделов мозга. Поэтому рассматривать только нейроны в качестве уровня организации... Серьезно, неужели все нейрофизиологи только нейронами и занимаются?
Сомневаюсь, что вы сможете получить больше знаний, наглотавшись таблеток, чем от беседы с преподавателем. Ирония в том, что аргументы такого плана работают в обе стороны. На некоторые функции мозга можно повлиять ударами молотка по голове, тогда как другие требуют более тонкого подхода и заранее неизвестно, насколько редуцируема произвольная функция. :D
Я уже забыл  почти все (http://brainsciencepodcast.com/), но у меня сложилось впечатление, что сознание (возвращаясь к утверждению что редуцировать сознание до нейронов - всё равно, что пытаться рассчитывать термодинамику газа по скоростям отдельных молекул и психомеханика проиграет даже обычной психологии, как более эффективному способу влияния на сознание.), подобно тому, как звук деархивируется (http://lesswrong.com/lw/nw/fallacies_of_compression/) на  слуховые переживания и звуковые колебания (http://lesswrong.ru/w/Споры_об_определениях), тоже разделяют на отдельные функции и исследуют уже их.
Да. В общем именно так. Именно это я проделываю, и именно последующее усложнение вычислений я называю деструктивным редукционизмом. И мне непонятно, что вам в этом непонятно.
Теперь понятней. Мне вспомнилась еще одна причина, по которой Юдковский освещает редукционизм так, как он это делает. Он занимается вопросами ИИ, т.е. редукцией "разумности" до "неразумных" компонентов. Т.е. он больше уделяет внимания принципиальной возможности редукции сразу до неразумных кварков, а не уровням организации.
Название: Re: Деструктивный редукционизм
Отправлено: kuuff от 29 Декабрь 2015, 23:18
Мне вспомнилась еще одна причина, по которой Юдковский освещает редукционизм так, как он это делает. Он занимается вопросами ИИ, т.е. редукцией "разумности" до "неразумных" компонентов. Т.е. он больше уделяет внимания принципиальной возможности редукции сразу до неразумных кварков, а не уровням организации.
На мой взгляд, цепочка "редукционизм" о другом. Она чисто к когнитивным искажениям. Не к исследованию, ни к созданию новых уровней организации материи, а к чистой и незамутнённой когниции.
Если мы глянем на примеры применения редукционизма, которые приводит Юдковский, то это примеры где наши эвристики либо неверно выбирают уровень организации материи, на котором следует анализировать проблему, либо они применяют какую-то абстракцию за рамками применимости этой абстракции.
Про абстракцию -- я просто не знаю как это лучше назвать, но можно глянуть на пример с проецированием разума и сексуальностью девушки. Наша голова постоянно проецирует -- это у неё такой способ работать. Это своего рода абстракция. И это вполне рабочая абстракция, она в большинстве ситуаций отлично справляется со своими задачами. Но вот в ситуации, когда девушка и рептилоид оказались рядом в воображении художника, эта абстракция привела к появлению лулзов. Потому что художник применил абстракцию за рамками её применимости, в ситуации в которой её нельзя было применять.
И все ситуации, на которых Юдковский демонстрирует силу редукционизма -- это такого рода ситуации, в которых "интуитивный" способ отражать мир приводит к искажению этого отражения. И редукционизм в его изложении, не более чем способ одолеть эти когнитивные искажения. В изложении Юдковского -- это не способ исследования реальности, не способ описания реальности, это способ понять ряд эвристик, которые могут приводить к ошибкам, с тем чтобы когда эвристики приводят к ошибкам, читатель бы увидел и ошибку, и место совершения ошибки, и способ исправления ошибки. Редукционизм в изложении Юдковского -- способ думать о проблеме, который в большинстве ситуаций не нужен и непрактичен, но в некоторых специальных ситуациях оказывается лучше привычного и практичного способа думать.