Просмотр сообщений
В этом разделе можно просмотреть все сообщения, сделанные этим пользователем.
Этические проблемы не волнуют нашего консеквенциалиста, ведь все подобные волнения относятся к эмоциональной сфере, которая в данном случае так и не получила должного развития.Наоборот, выглядит это как вариант решения некоторых этических проблем.
Бритва Оккама оказывается ложной когда исключает из рассуждения факторы, которые определяют результат рассуждения. Фактор может исключаться не намеренно, а в результате дефекта восприятия.Да, нет ничего удивительного, что фильтрация свидетельств и другие ошибки применения ни к чему хорошему не приводит. Неужели есть метод, правильность применения которого и выдаваемые результаты не зависят друг от друга? Т.е. как криво бы его не применяли, он всегда бы "оказывался не ложным, а истинным"?
Lex parsimoniae: Entia non sunt multiplicanda praeter necessitatem.формализуется в штуки, подобные байесовской интерпретации индукции Соломонова
“The law of parsimony: Entities should not be multiplied beyond necessity.”
Принцип бережливости: не множь сущности сверх необходимого
Solomonoff induction assigns a prior probability to each possible computer program, with the entire distribution, over every possible computer program, summing to no more than 1. This can be accomplished using a binary code where no valid computer program is a prefix of any other valid computer program (“prefix-free code”), e.g. because it contains a stop code. Then the prior probability of any program P is simply 2−L(P ) where L(P ) is the length of P in bits.Так вот, когда мы имеем дело с такими формализациями, туманные предостережения вроде "Бритва Оккама оказывается ложной когда исключает из рассуждения факторы, которые определяют результат рассуждения. Фактор может исключаться не намеренно, а в результате дефекта восприятия." теряются из-за своей туманности на фоне точности формулировок современных формализаций бритвы Оккама.
The program P itself can be a program that takes in a (possibly zero-length) string of bits and outputs the conditional probability that the next bit will be 1; this makes P a probability distribution over all binary sequences. This version of Solomonoff induction, for any string, gives us a mixture of posterior probabilities dominated by the shortest programs that most precisely predict the string. Summing over this mixture gives us a prediction for the next bit.
The upshot is that it takes more Bayesian evidence—more successful predictions, or more precise predictions—to justify more complex hypotheses. But it can be done; the burden of prior improbability is not infinite.
Индукция Соломонова назначает априорные вероятности для каждой возможной программы, так что распределение вероятностей по всем программам не больше единицы. Это можно получить, используя бинарный код, при условии, что никакая валидная программа не является префиксом для другой валидной программы, например, потому что содержит остановку кода. Тогда каждая априорная вероятность вычисляется по формуле 2−L(P ), где L(P ) - длинна программы Р в битах.
Программой Р может быть программа (возможно даже с нулевой длинной), которая, в ответ на ввод последовательности битов, выдает условную вероятность того, что следующий бит будет равен единице; что делает Р распределением вероятностей относительно всех бинарных цепочек. Эта версия индукции Соломонова дает, для каждой цепочки, совокупность апостериорных вероятностей, где доминирует наиболее короткие программы, которые наиболее точно предсказывают следующий биты в цепочке. Просуммировав совокупность, мы получаем предсказание следующего бита.
Плюс этого в том, что потребуется больше байесовских свидетельств - предсказания должны быть успешней или\и точней, чтобы оправдывать более сложные гипотезы. Но это возможно. Бремя априорных вероятностей не бесконечно.
А я утверждаю, что можно говорить об ограниченности совершенно любой науки, не только нейро, даже не зная её. И к абсолютно любой науке X рано или поздно приложится некая "над-наука" Y, которую можно будет редуцировать до X, и которая будет позволять решать задачи, с которыми X не справится.Такие рассуждения не помогут понять, на каких уровнях организации рассматривать разные явления, если не специальных знаний. Насколько я помню, они разнятся от работы машинерии внутри отдельных клеток до работы отделов мозга. Поэтому рассматривать только нейроны в качестве уровня организации... Серьезно, неужели все нейрофизиологи только нейронами и занимаются?
Сомневаюсь, что вы сможете получить больше знаний, наглотавшись таблеток, чем от беседы с преподавателем. Ирония в том, что аргументы такого плана работают в обе стороны. На некоторые функции мозга можно повлиять ударами молотка по голове, тогда как другие требуют более тонкого подхода и заранее неизвестно, насколько редуцируема произвольная функция.Я уже забыл почти все, но у меня сложилось впечатление, что сознание (возвращаясь к утверждению что редуцировать сознание до нейронов - всё равно, что пытаться рассчитывать термодинамику газа по скоростям отдельных молекул и психомеханика проиграет даже обычной психологии, как более эффективному способу влияния на сознание.), подобно тому, как звук деархивируется на слуховые переживания и звуковые колебания, тоже разделяют на отдельные функции и исследуют уже их.
Да. В общем именно так. Именно это я проделываю, и именно последующее усложнение вычислений я называю деструктивным редукционизмом. И мне непонятно, что вам в этом непонятно.Теперь понятней. Мне вспомнилась еще одна причина, по которой Юдковский освещает редукционизм так, как он это делает. Он занимается вопросами ИИ, т.е. редукцией "разумности" до "неразумных" компонентов. Т.е. он больше уделяет внимания принципиальной возможности редукции сразу до неразумных кварков, а не уровням организации.
Возьмите этот учебник. Редуцируйте нейроны до кварков. И попробуйте изложить учебник в терминах кварков. Расскажите потом как вам это удалось. И тогда я поверю вам, что редукция применённая к нейронауке не может быть деструктивной.Это и есть пример "плохого" редукционизма. И вместо "анти-редукции" стоит вернуть "уровни организации". И я все еще не понимаю с чем вы спорите. Да, все редуцируется до взаимодействия кварков. Да, это очень-очень трудно посчитать. Но вместо того, чтобы оставновиться в рудукции до того уровня, на котором мы может получать новую информацию, вы предлагаете редуцировать дальше и последующее усложнение вычислений выдаете за "деструктивный редукционизм". Основной месседж редукционизма - ментальные процессы редуцируемы до не ментальных. Сознание до кварков и дальше (если дальше что-либо есть). Вместе с последствиями
Вот вы рассказываете о редукции психологии в нейронауки, но как вы полагаете возможен разгвор в терминах нейронаук о, допустим, памяти?Я утверждаю что нет смысла говорить о ограниченности редукционизма в нейронауке, не зная этой самой нейронауки. Серьезно, вы хоть учебник читали? Я - нет. А ведь они есть. Есть даже книги о том, как используется математика. Я уже даже не помню, что нейронаука про память говорит, что-то там про синтез белка...
Например, редуцировать сознание до нейронов - всё равно, что пытаться рассчитывать термодинамику газа по скоростям отдельных молекул и психомеханика проиграет даже обычной психологии, как более эффективному способу влияния на сознание.
А именно, он является не следствием философского постулирования, а следствием понимания причинно-следственных связей и манипуляций с реальностью на основе этого понимания (или знания о таких манипуляциях).Мы не моделируем полет самолета по атомам, но это не значит, что законы их взаимодействия перестают влиять на полет.
Никто еще не строил квантовую модель капли воды, никто и не может построить. Вода является фундаментально непредсказуемой динамической системой. Мы не знает по-настоящему почему река разливается или не разливается.
Поэтому нам надо приносить жертвы Богам Реки. Выбор пал на вашу жену\дочь\мать\сына\подругу\друга. Вот предоставите кварковую модель капли воды, тогда мы и поговорим про причинно-следственные связи, дамбы и плотины, а пока тащите жертву. Ее еще предстоит заживо сжечь, дабы очистить от скверны.
Я думаю, что когда физики говорят: «На фундаментальном уровне радуги не существует», — антиредукционисты слышат: «Радуги не существует».
Когда наука говорит: «Тигры — не элементарные частицы, они сделаны из кварков», — антиредукционист слышит это, как отрицание типа такого: «Мы заглянули в ваш гараж и не нашли там никакого дракона, только пустой воздух».И я думаю, что "mere" стоит переводить как "всего лишь", а не как "в сущности" (If reductionism is correct, then even your belief in reductionism is just the mere result of the motion of molecules—why should I listen to anything you say?).
Not for the Sake of Happiness (Alone)
I value freedom: When I'm deciding where to steer the future, I take into account not only the subjective states that people end up in, but also whether they got there as a result of their own efforts. The presence or absence of an external puppet master can affect my valuation of an otherwise fixed outcome. Even if people wouldn't know they were being manipulated, it would matter to my judgment of how well humanity had done with its future. This is an important ethical issue, if you're dealing with agents powerful enough to helpfully tweak people's futures without their knowledge.
So my values are not strictly reducible to happiness: There are properties I value about the future that aren't reducible to activation levels in anyone's pleasure center; properties that are not strictly reducible to subjective states even in principle.
Which means that my decision system has a lot of terminal values, none of them strictly reducible to anything else. Art, science, love, lust, freedom, friendship...
And I'm okay with that. I value a life complicated enough to be challenging and aesthetic - not just the feeling that life is complicated, but the actual complications - so turning into a pleasure center in a vat doesn't appeal to me. It would be a waste of humanity's potential, which I value actually fulfilling, not just having the feeling that it was fulfilled.
Fake Utility Functions
If there’s a superintelligence that wants everything for us that we want for ourselves, except the human values relating to controlling your own life and achieving your own goals, that’s one of the oldest dystopias in the book. (Jack Williamson’s “With Folded Hands . . .,” in this case.)
{определяю свои действия сам: 1, выполняю приказы других: 0}сжимается в одно понятие "свободы" вместе с еще чем-то (вроде подчинения Физике: вроде бы не я собой командую, а Физика (сволочь) мной). Есть даже техника "разархивирования" (currying), которую я не очень понимаю.
На самом деле это не говорит ничего о существовании Бога, это говорит только о том, что идею о его существовании невозможно (бесполезно) использовать для описания окружающей реальности. Также как вводить релятивистские поправки на падение кирпича с пятиэтажки бесполезно: неравномерность толчка будет вносить большую погрешность и релятивистские поправки не уменьшат размер ошибки.Я забыл упомянуть, что байесовская интерпретация индукции Соломонова является формализацией бритвы Оккама. Так что она говорит нам, что гипотеза с участием Бога является более сложной и нет ничего, что оправдывало бы такую сложность. Некоторые называют в шутку индукцию Соломонова - световым мечом Соломонова (Solomonoff's lightsaber).
Достаточно просто написать программу, перечисляющую все программы и она предоставит все возможные и невозможные взаимодействия со всем, что можно формализовать, если не представить.Какие выходные данные у этой программы?
Бог, являясь эффективно всемогущим - не создаёт условных вероятностей, так что теорема Байеса эффективно бесполезна и в лучшем случае подтверждает, что Бог не отвечает на ваши молитвыТеорема Байеса может больше, чем анализировать причинно-следственную связь, описываемую условными вероятностями. Она можете еще и измерять сложность и выявлять (вкупе с машинным обучением - формализацией бритвы Оккама - индукцией Соломонова) ошибочность интуитивного понимания сложности человеческим мозгом, прячущим сложность коноцептов за простыми словами и своей сложной архитектурой.
Несколько кварков - то, что получилось вследствии некоего события, послужившего возникновению вселенной, Большого Взрыва. Бог - причина этого события (возможно, не непосредственная причина, но самая базовая).Это еще один пример нижней строчки. Наше невежество не является свидетельством, как бы не старались креоционисты. Прежде чем сознательно рассматривать гипотезу о
Не знаю, выглядит крайне спекулятивно. Интуитивно, понятно, что Бог может всё записывается в три слова. По какой логике, его программа вдруг оказывается больше, чем у нескольких кварков?Только потому что ваш мозг скрывает от вас сложность этих трех слов: процессы, помогающие нам понять поведение другого разумного агента (единственные разумные агенты, поведение которых нам надо было моделировать в течении дооооолгого времени - другие homo) протекают вне сознательного уровня восприятия. Как вы и сказали - воспринимаются интуитивно. Только потому что в языке есть короткое слово для концепта, не означает, что сам концепт простой . Написав программу, описывающую гипотезу Бога, надо будет описать еще и выходные данные, которые воплощают предсказания этой гипотезы. Или вместо программы, можно попробовать описать Бога пришельцам, которые Бога так и не изобрели.Их поведение гораздо более специфичное.
