Сообщения

106

Рациональность / Re: Рефлексия логического мышления

« : 15 Июня 2016, 19:29 »

И я не совсем понимаю, что вы хотите от меня, когда просите меня редуцировать "эмерджентность".

Например, начать с малого и задать критерий: когда свойство является эмерджентным, а когда - нет.

Сравните "кисть эмерджится из ладони и пальцев" и "кисть состоит из ладони и пальцев".

Бессмысленное утверждение.  Во-первых - в утверждении нет свойства, во-вторых - нет эмерджентности.

Или возьмём такой термодинамический макропараметр как давление, которое эмерджится из соударения молекул со стенками сосуда. Сравните с "давление возникает благодаря соударению молекул со стенками сосуда".

Утверждение "давление эмерджится.." бессмысленно. Ничто не может "эмерджиться". Эмерджентность - оно про другое.
Давление - да, эмерджентное свойство. Его можно описать, как "давление - есть соударение молекул со стенками сосуда". Но нельзя ввести формальное определение давления.
"Давление - соударение молекул" не является определением. Например, есть "давление плазмы", "давление фотонов", "давление в черной дыре". В этих явлениях нет молекул, но есть давление.

Один из критериев эмерджености: можно описать, но нельзя дать определение.

В чём разница? В том что слово "эмерджится" не говорит каким образом связаны элементы с объектом, слово "эмерджится" просто постулирует наличие связи.

Имхо, скорее наоборот. Эмерджентность постулирует, что отсутствует формальная связь. Нет никакой формальной связи между песчинками и кучей. Но в тоже время, если к песчинке одной за другой прибавлять по песчинке, то в определенный момент появляется куча.
Нет никакой формальной связи между молекулами и огнем. Нет формальной связи между молекулами и давлением.

Я вижу эту связь между транзисторами и lesswrong.ru как некий гомоморфизм из возможных состояний "мира транзисторов" в возможные состояния lesswrong.ru. И, что более важно, я могу этот гомоморфизм формализовать.

Совершаете ту же самую ошибку, что совершали в 1950-ые. Нет, не можете.
При попытке формализовать произойдет столкновение с множеством явлений, не поддающихся формализации. Эмерджентные свойства, комбинаторный взрыв, Leaky absctration - это лишь малая часть "подводных камней" на пути формализации.

Изучив матан, я создал у себя в голове метамодель, я могу подставить в неё дифуру огня и увидеть посредством представливания нечто изоморфное огню. Называя это "нечто" огнём, и играясь с ним в представлении, то есть умозрительно, я могу отпочковать от своей метамодели более конкретную модель огня. Я могу связать с этой моделью свойства известные мне через органы чувств: горячий, газообразный, движущийся... Я создам понятие "огонь", которое будет плюс-минус изоморфно понятию "огонь" у обычного человека.

Огонь и ржавчина - это одно и тоже? Они описываются одним и тем же диффуром.

Я могу пойти дальше и, используя свои познания в физике, промоделировать ЭМИ от огня, выделить видимую часть спектра и представить её. Или нарисовать и посмотреть. А если я подключу вычислительные мощности современного десктопа... То я смогу написать программку, и увидеть "огонь", хотя никакого огня и нет рядом.

Напомню исходное утверждение: есть возможность описать связи понятия "огонь" с другими понятиями "жарко", "ярко" и т.д., но нельзя дать определение понятию "огонь".

Вы видите разницу между "определить" и "описать"?

И да. Понятие и символ -- это разные вещи. Символ -- это способ обозначить понятие. Но понятие может существовать и без символа, а символ без понятия.

Да, понятие может не иметь вербализированного символа.
Нет, понятие не может не иметь кодирующего символа. Понятие всегда имеет кодирующий символ, которым оно кодируется внутри вычислителя. Это может определенное байтовое знание, определенная конфигурация нейронов и т.д. - но оно есть.

Понятийное мышление человека неотделимо от речи, речь даёт те самые символы, на оперировании которыми и строится логика.

Логика строится на понятиях, на кодирующих символах, а не на речевых символах.
Начальное логическое мышление у младенца есть с первых месяцев, а речь появляется в год-три.

107

Рациональность / Re: Рефлексия логического мышления

« : 14 Июня 2016, 17:43 »

До тех же пор, пока понятие -- это определённое состояние нейронной сети (или определённый класс таких состояний), логика может играть лишь вспомогательную роль.

Чем обосновывается это утверждение?
Конкретное состояние нейронов - это конкретный символ. Логика отлично работает с символами.

В принципе, работу этой подсистемы можно описать созданием некоей гиперповерхности в объектном пространстве, которая ограничивает тот класс объектов, который соответствует понятию.

Формирование понятий - это выделение областей на гиперплоскости. Понятие "собака" - это область на плоскости "вид".
Понятие "Большая" - это область на плоскости "размер". Понятие "Размер" - это область на плоскости характеристик.
Понятие "характеристики" - это область на плоскости соотношения частей и целого.

Эта подсистема на входе может брать вообще всё состояние мозга, и она имеет некие ограничения по сложности той гиперповерхности.

Напрямую не может. Напрямую - эта подсистема берет N состояний с предыдущего уровня. Берет на вход N других понятий/символов/состояний.

Смотрите, у человека в голове есть некая подсистема, которая имплицитно создаёт понятия.

В целом совсем согласен. Но как из этого следует, что тоже самое не может делать не очень большой алгоритм на компьютере?

Никак оно не редуцируется. Если свойство можно явно редуцировать, то его не будут называть эмерджентным.

Вы сейчас говорите о примерах эмерджентных свойств. Огонь, двигатель, радио и т.д. - да, не редуцируется. Невозможно найти эти свойства в элементах, из которых состоят огонь, двигатель, радио.
Я спрашивал про другое, про мета-уровень. Как редуцируется само понятие "эмерджентность"?

Если вы сейчас напишете дифуры, объясняющие как возникает "огонь", то вам не потребуется слово "эмерджентность".

Это не так.

Следует ли из данного утверждения,  что слепому можно объяснить что такое "цвет" с помощью диффуров?

Представь человека, инопланетянина и т.д., который ни разу не встречал огонь. Чем ему поможет диффур для понимания, что такое огонь?

Диффур описывает распространение огня и т.д., но не само понятие огонь.

Представьте себе, что вы пытаетесь объяснить огонь тому кто никогда не видел огня. Как вам в этом поможет слово "эмерджентность"?

Понятие "Эмерджентность" помогает передать знание о том, что речь идет о новой характеристике/свойстве, которое не выражается с помощью других явлений/понятий.
Утверждение "X - эмерджентное свойство" говорит о том, что не стоит искать это свойство через декомпозицию на составные элементы.

"Огонь - эмерджентное свойство" - говорит о том, что не стоит искать огонь среди веществ.
"Мышление - эмерджентное свойство" говорит о том, что не стоит искать мышление среди нейронов. 
"Куча - эмерждентное свойство" говорит о том, что не стоит искать кучу среди песчинок.

"X - эмерджентное свойство" утверждает, что нет способа описать X. Есть способ описать взаимодействие X с другими понятиями. Есть способ описать необходимые и достаточные условия для появления X. Есть способ описать критерии для опознавания X. Но нет способа описать само X.

Мне, допустим, далеко не очевидно как можно взять и водрузить алгоритмы формального исчисления на некий категоризатор, чтобы алгоритмы формального исчисления пользовались бы категориями категоризатора, и при этом ещё вмешивались бы в категоризацию и даже управляли бы ею.

В чем видится сложность? Чем не подходит технологии по соединению произвольных алгоритмов?

Так же как мы хихикаем над профессором из середины XX века, который выдал студенту курсовую на тему "компьютерное зрение".

Теперь понятно в чем была ошибка. Был недоучет "комбинаторного взрыва".
Допустим есть способ обойти комбинаторный взрыв. В чем видится следующее препятствие?

108

Рациональность / Re: Рефлексия логического мышления

« : 14 Июня 2016, 12:41 »

Нет. Сегодняшние нейронные сети не могут создавать понятия уровня человека. Во-первых, вероятно, потому что никому пока ещё не удавалось просимулировать работу десятков миллиардов нейронов с триллионами синапсов в течение десяти лет (примерно столько требуется человеку, чтобы выйти на понятийное мышление), во-вторых, человеческая нейросетка в голове -- это не просто 86 миллиардов нейронов соединённых случайным образом, а гораздо более продуманная штука.

Выше используется подход сакрализации (анти-редукционизм). Вместо того, чтобы процесс выделения понятий описать через простую редукцию, он описывается как сакральный сложный "магический" процесс.

Если затабуизировать "мозг - это продуманная штука", "человеческая нейросетка - это не просто" и т.д., то что из себя представляет процесс выделения понятий? Что на входе? Что на выходе?

В голове у человека? Нет.

Идет перескакивание между процессами "выделения понятий" и "оперирование понятиями".
Да, выделение понятий - это не логический процесс. Это результат работы нейронной сети, как алгоритма категоризации.
Но оперирование понятиями - это логический процесс.

Она классифицировала себя как человека, а не как гориллу. И я уверен, что она даже не замечала того, что с точки зрения классификации ей место среди горилл.

С понятиями стоит быть очень аккуратными. Одно и тоже слово часто кодирует десятки понятий.
Например, если человек - это тот, кто живет в доме. Использует посуду и т.д. , то Коко - человек. И она корректно выделила и использует это понятие.
Если понятие "человек" приравнивается к "homo sapiens", то да, тогда неверно утверждение "Коко -  homo sapiens".

Заметь, что рассуждения о корректности использования понятия "человек", используют логический аппарат. Это подтверждает утверждение: выделение понятий - процесс стихийный (псевдослучайный результат алгоритма категоризации), оперирование понятиями - логический формальный процесс.

Оно получается в результате того, что человек не понимает, откуда и как оно получается. Говорить слово "магия" как-то не принято, поэтому человек говорит "эмерджентное свойство".

Так что такое "эмерджентное свойство"? Как оно редуцируется?

Если мы перечислим все те инструменты, при помощи которых человек исследует мир, и находит новые технические решения, то можно будет сказать, что их достаточно для создания AI. Можно даже поступить ещё проще, можно сказать, что у человека есть мозг, и этого уже достаточно для создания AI, надо просто поработать этим мозгом.

Для получения "эмерджентного свойства" необходимо выделить достаточные условия появления "эмерджентности". Например, для появления эмерджентного свойства "огонь" достаточно восстановителя, окислителя, тепла или искры.
Для эмерджентного свойства "мышление" достаточно алгоритмов категоризации и алгоритмов формального исчисления.

109

Рациональность / Re: Рефлексия логического мышления

« : 14 Июня 2016, 02:36 »

А для этого придётся создать довольно сложную модель мира, как часть этого AI. А...

Необходимо создать механизм формирования новых понятий. Но, стоп.. такой класс алгоритм уже известен - алгоритмы категоризации/кластеризации. Особенно хорошо эти алгоритмы выполняют современные нейронные сети, которых не было 50 лет назад.

Ну да, а для этого придётся разговаривать уже в терминах понятий, причём понятие будет чем-то в стиле того, что есть в голове у человека, а это непросто.

Оперирование понятиями делается на основе логического и математического исчисления? Или на основе чего-то другого?

И я не могу это доказать. Это просто моя убеждённость: интеллект слишком сложная система, чтобы её можно было бы создать тупо комбинируя.

Знакомы с понятием "эмерджентное свойство"? Оно получается в результате комбинирования? Или в результате чего-то другого?

Надо действовать более целенаправленно

Знакомы с ТРИЗ? Алгоритм Дейкстры? Алгоритмы информированного поиска? Градиентный спуск?
Под целенаправленным вы понимаете то, что делают указанные концепции? Или что-то другое? Что?

110

Рациональность / Re: Рефлексия логического мышления

« : 12 Июня 2016, 04:02 »

Применение "-" к натуральными числам -- это либо натуральное число, либо логическая ошибка.

Предельный переход  делается следующим образом:
допустим, что "2 - 5" ("a - b", где a <= b) в некотором другом контексте(вне контекста натуральных чисел) конструирует некий объект. Проверим свойства этого объекта на непротиворечивость, найдем границы непротиворечивости, зафиксируем обозначение объекта.

Вы хотите пруфов на то, что ответ неизвестен науке?

Да, хочу пруфов в контексте исходной темы "знание, понимание, мышление".

ps
Предложенный пример о нейромедиаторе из другой темы. Из темы устройства частного биологического вычислителя.

111

Рациональность / Re: Рефлексия логического мышления

« : 12 Июня 2016, 02:32 »

Вы можете привести реалистичный пример такому предельному переходу?

Сначала была единица. И был плюс.
Натуральные числа - применение "+" к 1.
"-" - обратная операция к "+".
0 и отрицательные числа - применение "-" к натуральным числам.
"*" - многократное применение "+"
"/" - обратная операция к "*"
рациональные дроби - применение "/" к целым числам
степень - многократное применение "*"
корень - обратная операция к степени
иррациональные числа - применение корня к рациональным числам
бесконечность - применение "/" к 0
и т.д.

"а это современной науке неизвестно

Имхо, не стоит приравнивать "неизвестно конкретному человеку из науки"  и "неизвестно современной науке".

ps
Любопытство - это важно.

112

Общение / Re: Медитация

« : 11 Июня 2016, 15:03 »

По медитации советую следующую научно-популярную литературу
     -  К.Макгонигал. "Сила воли. Как развить и укрепить"
     - Денни Пенман, Видьямала Берч "Осознанная медитация. Практическое пособие по снятию боли и стресса"
     - Ойген Херригель "Дзен в искусстве стрельбы из лука"
     - М. Чиксентмихайи "Поток: Психология оптимального переживания"

Смежная научно-популярная литература по взаимодействию сознания(система 2), подсознания(система 1) и мозга
     - Н. Дойдж "Пластичность мозга"
     - Д. Амен "Измените свой мозг - изменится и жизнь!"
     - Л. Деркс, Я. Холландер "Сущность НЛП. Ключи к личностному развитию"

113

Рациональность / Re: Рефлексия логического мышления

« : 10 Июня 2016, 20:00 »

Какая из этих логик была выведена как логическое следствие из логики древних греков?

Новое - создается, находится или достраивается как предельный переход, а не является следствием.

Ах никакая не может? А зачем тогда вы приводите эти бесполезнейшие программы, которые ничего не могут создать?

Некорректный переход с "не может быстро непрерывно целенаправлено себя развивать" к "ничего не могут создать"

М-м-м... Чем это отличается от того, что говорили адепты AI в середине XX века? Ну, там, символьные вычисления, бла-бла-бла... Я навскидку не вижу ничего нового.

Ничем. Основные концепции мышления уже все давно выделены. Дело за малым. Скомбинировать идеи в цельный продукт.

114

Рациональность / Re: Рефлексия логического мышления

« : 10 Июня 2016, 14:45 »

Где же, где же программная реализация всего этого, которая смогла улучшать сама себя и стать супер-интеллектом? Ну или хотя бы чем-то стать смогла. Где?

https://en.wikipedia.org/wiki/Logic_Theorist
https://en.wikipedia.org/wiki/Coq
https://en.wikipedia.org/wiki/HOL_Light
https://en.wikipedia.org/wiki/Watson_(computer)

Логика не может улучшать сама себя. Даже если эту логику снабдить всеми теми алгоритмами, которые вы упоминали.

Формальные алгоритмы могут улучшать сами себя.
Простой пример алгоритмов, создающих знание - перебор. Полный или случайный. Требует экспонециальных вычислений, но умеет создавать новое знание.

Она имеет встроенные ограничения, которые одолеть не в состоянии. Она работает на множестве значений {истина, ложь}, и она не сможет расширить это множество ещё одним значением

Это самая простая логика, известная еще древним грекам. С тех пор прошло 2тыс лет.

Есть много других логик.
Fuzzy logic - логика над нечеткими множествами
Many-valued logic - логика над много-значными значениями
https://en.wikipedia.org/wiki/Higher-order_logic - логика над множествами множеств
Теория категорий - логика над произвольными объектами
Лямбда-исчисление - логика над функциями

Есть ровно один способ избегать этой ошибки: надо сесть и написать алгоритм обработки информации. Если вы можете его написать, то тогда можно полагать, что у вас есть более-менее полное понимание происходящего.

Умею писать программы, которые самостоятельно обучаются решать произвольные задачи уровня шашек. Считаю, что это служит подтверждением моего понимания, что такое знание, мышление, понимание. И как они образуются.
А как по вашему? Является ли это достаточным подтверждением понимания понимания?

Добавлено 10 Июня 2016, 14:47:
Пример частной логики над "Убежден", "Знает" и "Желает".

Формальная теория убеждений

Начнем с изучения связей между агентами и ‘‘мыслимыми объектами’’, таких как Believes (Убежден), Knows (Знает) и Wants (Желает). Отношения такого рода называются "пропозициональными позициями" (propositional attitude), поскольку они описывают позицию, которую может занять агент по отношению к некоторому высказыванию. Предположим, что Лойс в чем-то убеждена, т.е. Believes(Lois,x). Какого рода объектом является x? Очевидно, что x не может быть логическим высказыванием. Если утверждение, что Супермен летает (Flies(Superman)) — логическое высказывание, то нельзя составить выражение Believes(Lois,Flies(Superman)), поскольку параметрами предикатов могут быть только термы (а не высказывания). Но если Flies функция, то Flies(Superman) становится подходящим кандидатом на использование в качестве мыслимого объекта, а Believes может быть отношением между агентом и пропозициональным флюентным термом. Преобразование высказывания в объект называется "овеществлением" (reification).

По-видимому, такой подход позволяет достичь желаемого — появления у агента способности рассуждать об убеждениях агентов. Но, к сожалению, при использовании этого подхода возникает определенная проблема: если киноактер Кент Кларк и его герой Супермен — это одно и то же (т.е. Clark=Superman), то полет Кларка и полет Супермена — одна и та же категория событий, т.е. Flies(Clark)=Flies(Superman). По-этому мы обязаны сделать такой вывод: если Лойс уверена в том, что Супермен может летать, она должны быть также уверена в том, что Кларк может летать, даже если она не уверена в том, что Кларк — Супермен, как показано ниже.
(Superman = Clark) |=
  (Believes(Lois,Flies(Superman)) ⇔ Believes(Lois,Flies(Clark)))
В определенном смысле такое утверждение недалеко от истины: Лойс убеждена в том, что есть некое лицо, которому некогда присвоили имя Кларк, и что это лицо может летать. Но есть еще один смысл, в котором приведенное выше высказывание является ложным: если Лойс задать вопрос: ‘‘Может ли Кларк летать?’’, она, безусловно, ответит отрицательно. Овеществленные объекты и события вполне приемлемы для использования в первом смысле толкования предиката Believes, но во втором толковании необходимо овеществлять описания этих объектов и событий таким образом, чтобы Clark и Superman могли иметь разные описания (даже не смотря на то, что оба эти имени относятся к одному и тому же объекту).

Формально свойство высказывания, позволяющее свободно подставлять любой терм вместо равного терма, называется "ссылочной прозрачностью" (referential transparency). В логике первого порядка свойством ссылочной прозрачности обладает каждое отношение. Но нам было бы желательно иметь возможность определять Believes (и другие пропозициональные позиции) как отношения, второй параметр которых является ссылочно "непрозрачным" (opaque), т.е. таким, чтобы без изменения смысла нельзя было бы подставить равный терм вместо второго параметра.

Существуют два способа достижения этой цели. Первый из них состоит в использовании другой формы логики, называемой "модальной логикой" (modal logic), в которой такие пропозициональные позиции, как Believes и Knows, становятся "модальными операторами", обладающими свойством ссылочной непрозрачности. Этот подход рассматривается в разделе с историческими заметками. Второй подход, который будет применяться в данной главе, состоит в эффективном обеспечении непрозрачности в рамках ссылочно прозрачного языка с использованием
"синтаксической теории" мыслимых объектов. Это означает, что мыслимые объекты представляются константами "строками". Результатом становится грубая модель базы знаний агента, которая представлена как состоящая из строк, соответствующих высказываниям, в истинности которых убежден агент. Строка — это сложный терм,
обозначающий список символов, поэтому событие Flies(Clark) может быть представлено в виде списка символов [F,l,i,e,s,(,C,l,a,r,k,)], которые мы будем сокращенно записывать в виде строки, заключенной в кавычки, "Flies(Clark)".

Эта синтаксическая теория включает "аксиому об уникальности строк", в которой утверждается, что строки являются идентичными тогда и только тогда, когда они состоят из идентичных символов в одинаковой последовательности. Таким образом, даже если Clark=Superman, мы все равно имеем "Clark"≠"Superman".
Теперь достаточно лишь предусмотреть синтаксис, семантику и теорию доказательства для языка представления строк, точно так же, как это было сделано в главе 7. Различие состоит в том, что необходимо определить все эти компоненты в логике первого порядка. Начнем с определения Den (сокращение от denotatum — денотат, или обозначаемое) как функции, которая отображает некоторую строку на обозначаемый ею объект, и Name как функции, которая отображает объект на строку, представляющую собой имя константы, обозначающей этот объект. Например, денотатом строки "Clark" и строки "Superman" является объект, на который ссылается константный символ ManOfSteel (Человек из стали), а именем этого объекта в базе знаний может быть "Superman", "Clark" или какая-то другая константа, например "X11":
Den("Clark") = ManOfSteel ∧ Den("Superman") = ManOfSteel
Name(ManOfSteel) = "X11"

Следующий этап состоит в том, чтобы определить правила логического вывода для логических агентов. Например, может потребоваться сформулировать утверждение, что любой логический агент способен использовать правило отделения: если он уверен в истинности высказываний p и p ⇒ q, то он будет также уверен в истинности q. Первая попытка записать эту аксиому может состоять в следующем:
LogicalAgent(a) ∧ Believes(a,p) ∧ Believes(a,"p ⇒ q") ⇒ Believes(a,q)

Но эта попытка неудачна, поскольку строка "p ⇒ q" содержит буквы 'p' и 'q', но не имеет ничего общего со строками, являющимися значениями переменных p и q. Правильная формулировка состоит в следующем:
LogicalAgent(a) ∧ Believes(a,p) ∧ Believes(a,Concat(p,"⇒",q)) ⇒ Believes(a,q)
где Concat — функция на строках, которая соединяет (конкатенирует) свои параметры. Мы будем сокращенно записывать операцию Concat(p,"⇒",q) с помощью подчеркивания, как "p ⇒ q". Это означает, что вхождение x в строке должно быть "взятым без кавычек", или раскавыченным, т.е. мы должны подставить строковое значение переменной x. В языке Lisp такая операция выполняется с помощью оператора ‘‘запятая/обратная кавычка’’, а в языке Perl для этого используется интерполяция $-переменной.

После введения других правил логического вывода, кроме правила отделения, мы получим возможность отвечать на вопросы в такой форме: ‘‘Если дано, что логический агент знает такие-то предпосылки, может ли он прийти к такому-то заключению?’’ Кроме этих обычных правил логического вывода, требуются определенные правила, характерные для рассуждений об убеждениях. Например, следующее правило утверждает, что если логический агент в чем-то уверен, то он уверен, что он в этом уверен:
LogicalAgent(a) ∧ Believes(a,p) ⇒ Believes(a,"Believes(Name(a),p)")

Теперь, согласно нашим аксиомам, любой агент может безошибочно вывести любое следствие из своих убеждений. Такое свойство агента называется "логическим всеведением" (logical omniscience). Было сделано много попыток определить спецификации ограниченных рациональных агентов, которые способны выполнять ограниченное количество логических выводов за ограниченное время. Ни одна из этих попыток не оказалась полностью успешной, но описанные выше формулировки позволяют получить в высшей степени обоснованный ряд предсказаний о возможностях ограниченных агентов.

Искусственный интеллект: современный подход (AIMA-2) Стюарт Рассел, Питер Норвиг

115

Рациональность / Re: Рефлексия логического мышления

« : 10 Июня 2016, 11:36 »

Ни логика же, ни рациональность не содержат в себе рефлексивного уровня, который бы объяснял как надо менять логику или рациональность. В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы.

Если логику брать широко, как произвольные формальные исчисления, то в формальных исчислениях - есть критерии неправильности, рефлексия и пути улучшения.
Критерии неправильности - внутренние противоречия.
Рефлексия - исчисление исчисления. Исчисление правил вывода, используемых для получения выводов. Изменение правил вывода так, чтобы они давали меньше противоречий в процессе применения.
Правила изменения исчисления - перебор, ввод новой переменной, поиск в ширину, поиск в глубину, тренировка упрощенной эвристики, градиентный спуск, переход на мета-уровень и т.д.

Обращаю внимание, что психика человека использует похожие инструменты для рефлексии.

Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево.

Необходимость усилия появляется из-за наличия противоречия: "для результата стоит убить старушку" и "убивать людей нехорошо". Стоит убрать противоречие  (например, переносом старушки из класса людей в класс неизбежных потерь) и психика легче адаптируется к решению.

как бы так избежать потери баллов на идиотских ошибках,

Внутреннее противоречие: "могу не делать эти ошибки" и "делаю эти ошибки".

и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка.

Тренировка эвристичного правила.

116

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 09 Июня 2016, 12:07 »

Какой результат, практически применимый, ожидаете от разрешения данного парадокса?

117

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 08 Июня 2016, 17:05 »

Так высоковероятное оно или низковероятное?

Неизвестно. Но оно - или одно, или другое. Рассмотрев оба варианта по отдельности, можно сделать вывод для целого.

118

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 08 Июня 2016, 16:29 »

Обратите внимание, парадокс сохраняется в вашем ответе. Ведь матстатистика говорит о том, что как раз более вероятно родиться непосредственно перед doomsday, нежели задолго до него. Но вы говорите об этом как о маловероятном событии. Так маловероятное или высоковероятное?

Если событие высоковероятное, то doomsday - завтра и парадокса - нет.
Если оно маловероятное, то doomsday - не завтра и парадокс разрешается ответом "С кем-то маловероятное событие обязано было случиться".



Добавлено 08 Июня 2016, 16:35:
Советую поразмышлять над парадоксом "неожиданной казни". Он частично похож на парадокс Doomsday argument.

Однажды в воскресенье начальник тюрьмы вызвал преступника, приговорённого к казни, и сообщил ему:
Вас казнят на следующей неделе в полдень.
День казни станет для вас сюрпризом, вы узнаете о нём, только когда палач в полдень войдёт к вам в камеру.

Начальник тюрьмы был честнейшим человеком и никогда не врал.

Заключённый подумал над его словами и улыбнулся: «В воскресенье меня казнить не могут! Ведь тогда уже в субботу вечером я буду знать об этом. А, по словам начальника, я не буду знать день своей казни. Следовательно, последний возможный день моей казни — суббота. Но если меня не казнят в пятницу, то я буду заранее знать, что меня казнят в субботу, значит, и её можно исключить». Последовательно исключив пятницу, четверг, среду, вторник и понедельник, преступник пришёл к выводу, что начальник не сможет его казнить, выполнив все свои слова.

На следующей неделе палач постучал в его дверь в полдень в среду — это было для него полной неожиданностью. Всё, что начальник тюрьмы сказал, осуществилось. Где недостаток в рассуждении заключённого?

https://ru.wikipedia.org/wiki/%D0%9F%D0%B0%D1%80%D0%B0%D0%B4%D0%BE%D0%BA%D1%81_%D0%BD%D0%B5%D0%BE%D0%B6%D0%B8%D0%B4%D0%B0%D0%BD%D0%BD%D0%BE%D0%B9_%D0%BA%D0%B0%D0%B7%D0%BD%D0%B8

119

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 08 Июня 2016, 16:00 »

Если без абстракций, то суть парадокса в вопросе "Почему маловероятное событие выпало именно нам?". "Почему именно мы живем в это время?".

Ответ - "В данном случае событие обязано было кому-то выпасть. "
И кому бы оно не выпало, то в любом случае у тех, с кем случилось - остается вопрос "Почему случилось это именно с нами?".

120

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 08 Июня 2016, 13:45 »

Утверждаемые мной тезисы:
  - для прогноза будущего стоит использовать следующую цепочку: мат. статистика => полная модель реальности => прогноз будущего.
  - для прогноза будущего не стоит использовать цепочку: мат. статистика => прогноз будущего.