Главное > Рациональность
Рефлексия логического мышления
kuuff:
--- Цитата: nadeys от 10 Июня 2016, 09:40 ---kuuffКакая-то у вас странная картина разума. Вот есть мозг - доставшийся мне эволюционный субстрат который мыслит как попало. Вот есть "байесианская надстройка" - логические правила которые я внедряю в субстрат чтобы привести его в квадратно-гнездовое состояние. И всё. Больше у меня в голове ничего нет. У меня нет души. У меня нет никаких волшебных тонких оболочек. У меня нет какого-то выделенного отдела мозга который специально отвечал бы за логическое мышление. У меня даже нет единого центра отвечающего за сознание. И тем более у меня нет никаких третьих сущностей которых я мог бы(или они меня) рекурсивно проверять на когнитивные ошибки.
--- Конец цитаты ---
"Душа" -- это устаревшее название для "психики". Его прекратили использовать, чтобы религиозные люди не возмущались тому, что учёные говорят о "душе". Если вас, тем не менее, смущает использование слова "душа", давайте мы будем использовать слово "психика", от этого наша речь станет умнее. Кстати на западе учёные точно так же поступили с psyche, они теперь избегают говорить не только "soul", но и "psyche", они теперь говорят "mind", чтобы никто не заподозрил бы их в эзотерике. Самое смешное что они продолжают при этом именоваться psychologist'ами, они не переименовали психологию в майндоведение.
Впрочем, я отвлёкся. Психика ли или душа -- без разницы, это некая сущность, которая включает в себя и "байесианскую" надстройку, и "эволюционный субстрат". Вы зря пытаетесь выделить в психике часть, под названием "душа". Вы вваливаетесь таким образом в рекурсию.
--- Цитата: nadeys от 10 Июня 2016, 09:40 ---Если я думаю, то я думаю сразу всей головой не разделяя рациональные и нерациональные доли мозга. Если я ошибаюсь, то единственная доступная мне возможность понять что я вообще ошибся - свериться с внешними/наученными критериями ошибочности.
--- Конец цитаты ---
Да ладно. Вы просто плохо смотрели на то, как вы принимаете решения.
Если вы взяв на вооружение логику не рефлексируете процесс логического мышления, то вы перестали быть человеком. Поскольку это не так, поскольку вы всё ещё человек, то вы рефлексируете процесс логического мышления, и всегда готовы вмешаться и исправить ситуацию. Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево. Вы можете рассуждать сколько угодно о том, что логика непогрешима, но результат применения логики зависит от входных данных, которые вы в неё засунули, и от непогрешимости вашего логического вывода. Входные данные подбираете вы, непогрешимость зависит от вас. Принять ли результат логического вывода сразу, или долго перепроверять -- тоже зависит от вас. Как после этого вы можете утверждать, что принимаемые вами решения не имеют систематического bias'а, создаваемого некоей надстройкой над уровнем логического мышления?
Я год назад писал ЕГЭ по математике, и в процессе подготовки у меня встала проблема: как бы так избежать потери баллов на идиотских ошибках, типа "перепутал + с -" -- вёл алгебраические преобразования выражения, и переписывая перепутал. Я немного потренировался решать задачи и искать ошибки в решениях, и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка. Эта оценка работала имплицитно, и я не могу в точности сказать как она вычислялась, но могу предположить, что она зависела от того, насколько сложные преобразования я проводил, насколько я нагружал в процессе кратковременную память под хранение промежуточных результатов, насколько я был сосредоточен в процессе и тд. Я научился сознательно оценивать интенсивность этого чувства, и на основании этого принимать решение о том, сколько усилий надо приложить для поиска и исправления ошибок. То есть, некая сущность внутри моей психики, которую я называю словом "я", применяла математические навыки для того, чтобы решить задачу, после чего пользовалась возможностями "эволюционного субстрата", чтобы оценить вероятность ошибки, и на основании этого принимала решение о том, что делать дальше.
--- Цитата: nadeys от 10 Июня 2016, 09:40 ---И тут вы берёте и заявляете что у вас в голове существует механизм позволяющий получать истинные суждения не опираясь на факты и на основании этого даёте себе право отрицать логику. Мне прям аж завидно)
--- Конец цитаты ---
Завидуйте молча. ;)
Логика, рациональность и вся прочая лабуда отличаются от человеческой психики тем, что человеческая психика может создать логику, она может улучшить логику, она может создать рациональность, формализовать рациональность, переосмыслить рациональность и изменить её, и изменять её систематически, с тем чтобы она становилась всё лучше и лучше. Ни логика же, ни рациональность не содержат в себе рефлексивного уровня, который бы объяснял как надо менять логику или рациональность. В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы. В байесианстве нет правил, которые бы объясняли как можно изменить теорему байеса, если она вдруг перестанет работать. Но человеческая психики это может. И поэтому, я всегда помню, и вам рекомендую помнить, что логика и рациональность -- это инструменты. И помня это, подумайте о том, кто же держит в руках эти инструменты?
LswAgnostic:
--- Цитата: kuuff от 10 Июня 2016, 10:59 ---Ни логика же, ни рациональность не содержат в себе рефлексивного уровня, который бы объяснял как надо менять логику или рациональность. В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы.
--- Конец цитаты ---
Если логику брать широко, как произвольные формальные исчисления, то в формальных исчислениях - есть критерии неправильности, рефлексия и пути улучшения.
Критерии неправильности - внутренние противоречия.
Рефлексия - исчисление исчисления. Исчисление правил вывода, используемых для получения выводов. Изменение правил вывода так, чтобы они давали меньше противоречий в процессе применения.
Правила изменения исчисления - перебор, ввод новой переменной, поиск в ширину, поиск в глубину, тренировка упрощенной эвристики, градиентный спуск, переход на мета-уровень и т.д.
Обращаю внимание, что психика человека использует похожие инструменты для рефлексии.
--- Цитировать --- Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево.
--- Конец цитаты ---
Необходимость усилия появляется из-за наличия противоречия: "для результата стоит убить старушку" и "убивать людей нехорошо". Стоит убрать противоречие (например, переносом старушки из класса людей в класс неизбежных потерь) и психика легче адаптируется к решению.
--- Цитировать --- как бы так избежать потери баллов на идиотских ошибках,
--- Конец цитаты ---
Внутреннее противоречие: "могу не делать эти ошибки" и "делаю эти ошибки".
--- Цитировать --- и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка.
--- Конец цитаты ---
Тренировка эвристичного правила.
kuuff:
--- Цитата: LswAgnostic от 10 Июня 2016, 11:36 ---Если логику брать широко, как произвольные формальные исчисления, то в формальных исчислениях - есть критерии неправильности, рефлексия и пути улучшения.
Критерии неправильности - внутренние противоречия.
Рефлексия - исчисление исчисления. Исчисление правил вывода, используемых для получения выводов. Изменение правил вывода так, чтобы они давали меньше противоречий в процессе применения.
Правила изменения исчисления - перебор, ввод новой переменной, поиск в ширину, поиск в глубину, тренировка упрощенной эвристики, градиентный спуск, переход на мета-уровень и т.д.
--- Конец цитаты ---
А исчисление исчислений исчислений?
Где же, где же программная реализация всего этого, которая смогла улучшать сама себя и стать супер-интеллектом? Ну или хотя бы чем-то стать смогла. Где?
Логика не может улучшать сама себя. Даже если эту логику снабдить всеми теми алгоритмами, которые вы упоминали. Потому что логика не может изменить сама себя. Она имеет встроенные ограничения, которые одолеть не в состоянии. Она работает на множестве значений {истина, ложь}, и она не сможет расширить это множество ещё одним значением, если только человек не вмешается и не внесёт в логику либо это значение, либо специальный алгоритм расширяющий множество логических значений одним дополнительным. Бруснецовская троичная логика никак не следовала и не выткала из аристотелевской двоичной. Байесианство, заменяющее булевское множество на интервал (0, 1) никак не вытекает из логики и не является её следствием. Вот если этот интервал "закрыть", добавив туда значения 0 и 1, то тогда логика станет частным случае байесианства. Но если интервал оставить как есть, то логика является "предельным" случаем байесианства. И логическим путём от логики уйти в байесианство было невозможно. Байесианство было создано не логикой, а теми же креативным цепями головного мозга человека, которые когда-то создали логику.
И я заверяю вас, что байесианство, так же как и логика, бесплодно, оно не сможет родить себе наследника, потребуется вмешательство всё тех же креативных цепей человеческого мозга.
--- Цитата: LswAgnostic от 10 Июня 2016, 11:36 ---Обращаю внимание, что психика человека использует похожие инструменты для рефлексии.Необходимость усилия появляется из-за наличия противоречия: "для результата стоит убить старушку" и "убивать людей нехорошо". Стоит убрать противоречие (например, переносом старушки из класса людей в класс неизбежных потерь) и психика легче адаптируется к решению.
--- Конец цитаты ---
Да. Но это противоречие возникает вне логики. На уровне эвристик, которые вполне могут быть имплицитными. Здесь, конкретно в данном случае, эвристика эксплицитная, она выразима словами, и поэтому её можно рассматривать как логическое правило и, таким образом, как часть логики. Но далеко не все эвристики эксплицитны, я бы даже сказал, что они чаще имплицитны.
--- Цитата: LswAgnostic от 10 Июня 2016, 11:36 ---Внутреннее противоречие: "могу не делать эти ошибки" и "делаю эти ошибки".
--- Конец цитаты ---
Нету там никакого противоречия. Противоречие возникает тогда, когда вы задним числом пытаетесь объяснить происходящее логикой. И тут ключевым является то, что "задним числом". До того как я нашёл ошибку в решении задачи, этой ошибки нет в моей голове. Нет ошибки, нет противоречия.
А если вы всё же об общей ситуации, о "могу не делать эти ошибки" и "делаю эти ошибки", для меня это не является противоречием. Я не знаю почему, может потому что моя "логика" круче вашей, и она более широкий класс утверждений считает непротиворечивыми, а может потому, что я вообще мыслю об этих ситуациях вне логики. А может потому, что моя модель реальности более дифференцирована, и я выделяю в себе "я", которое является ещё одним блоком обработки информации, и поэтому, выходит, что один блоки делает ошибки, а другой оценивает его способность не делать ошибки, и это разные блоки, хотя вы всё это вместе называете словом "я".
--- Цитата: LswAgnostic от 10 Июня 2016, 11:36 ---Тренировка эвристичного правила.
--- Конец цитаты ---
Отличное название вы придумали тому, что я описал. Но придумывание новых знаков, символов и терминов не отвечает на вопрос: кто или что пользуется как инструментом тем, чему вы нашли название? Логика? Или другое эвристическое правило?
Кто во мне сделал наблюдение, выявил это чувство из всех остальных чувств, связал его с вероятностью ошибки как некоей байесианской абстракцией, и затем разработал план по развитию этого чувства, как эвристического правила, и методики использования вероятности ошибки в алгоритме решения задачи. Кто проделал все эти операции? А кто потом, занимаясь интроспекцией, выявлял все эти шаги обработки информации, которые привели к усложнению алгоритма решения задачи, и обдумывая эти шаги, усложнял алгоритм тренировки мозга к новым задачам?
Мне кажется, что вы следом за nadeys делаете ту же самую ошибку: не замечая какой-то обработки информации происходящей в вашем мозгу (например потому, что она происходит без участия сознания), вы предполагаете, что это обработки нет и результат обработки берётся, как бы, ниоткуда. Вообще, это довольно распространённая ошибка -- на заре AI, полагали что задачи компьютерного зрения можно решить за пару лет. OpenCV появилась лет через пятьдесят после того. Есть ровно один способ избегать этой ошибки: надо сесть и написать алгоритм обработки информации. Если вы можете его написать, то тогда можно полагать, что у вас есть более-менее полное понимание происходящего. Если же у вас нет готового алгоритма, есть только список технологий, который настолько внушительно выглядит, что в голову не вмещается как же так он не сможет решить задачу, то это значит, что ваши рассуждения укладываются в лжередукционизм, и, очень вероятно, вы упускаете что-то очень существенное.
LswAgnostic:
--- Цитата: kuuff от 10 Июня 2016, 13:38 ---Где же, где же программная реализация всего этого, которая смогла улучшать сама себя и стать супер-интеллектом? Ну или хотя бы чем-то стать смогла. Где?
--- Конец цитаты ---
https://en.wikipedia.org/wiki/Logic_Theorist
https://en.wikipedia.org/wiki/Coq
https://en.wikipedia.org/wiki/HOL_Light
https://en.wikipedia.org/wiki/Watson_(computer)
--- Цитата: kuuff от 10 Июня 2016, 13:38 ---Логика не может улучшать сама себя. Даже если эту логику снабдить всеми теми алгоритмами, которые вы упоминали.
--- Конец цитаты ---
Формальные алгоритмы могут улучшать сами себя.
Простой пример алгоритмов, создающих знание - перебор. Полный или случайный. Требует экспонециальных вычислений, но умеет создавать новое знание.
--- Цитата: kuuff от 10 Июня 2016, 13:38 ---Она имеет встроенные ограничения, которые одолеть не в состоянии. Она работает на множестве значений {истина, ложь}, и она не сможет расширить это множество ещё одним значением
--- Конец цитаты ---
Это самая простая логика, известная еще древним грекам. С тех пор прошло 2тыс лет.
Есть много других логик.
Fuzzy logic - логика над нечеткими множествами
Many-valued logic - логика над много-значными значениями
https://en.wikipedia.org/wiki/Higher-order_logic - логика над множествами множеств
Теория категорий - логика над произвольными объектами
Лямбда-исчисление - логика над функциями
--- Цитата: kuuff от 10 Июня 2016, 13:38 ---Есть ровно один способ избегать этой ошибки: надо сесть и написать алгоритм обработки информации. Если вы можете его написать, то тогда можно полагать, что у вас есть более-менее полное понимание происходящего.
--- Конец цитаты ---
Умею писать программы, которые самостоятельно обучаются решать произвольные задачи уровня шашек. Считаю, что это служит подтверждением моего понимания, что такое знание, мышление, понимание. И как они образуются.
А как по вашему? Является ли это достаточным подтверждением понимания понимания?
Добавлено 10 Июня 2016, 14:47:
Пример частной логики над "Убежден", "Знает" и "Желает".
--- Цитировать ---Формальная теория убеждений
Начнем с изучения связей между агентами и ‘‘мыслимыми объектами’’, таких как Believes (Убежден), Knows (Знает) и Wants (Желает). Отношения такого рода называются "пропозициональными позициями" (propositional attitude), поскольку они описывают позицию, которую может занять агент по отношению к некоторому высказыванию. Предположим, что Лойс в чем-то убеждена, т.е. Believes(Lois,x). Какого рода объектом является x? Очевидно, что x не может быть логическим высказыванием. Если утверждение, что Супермен летает (Flies(Superman)) — логическое высказывание, то нельзя составить выражение Believes(Lois,Flies(Superman)), поскольку параметрами предикатов могут быть только термы (а не высказывания). Но если Flies функция, то Flies(Superman) становится подходящим кандидатом на использование в качестве мыслимого объекта, а Believes может быть отношением между агентом и пропозициональным флюентным термом. Преобразование высказывания в объект называется "овеществлением" (reification).
По-видимому, такой подход позволяет достичь желаемого — появления у агента способности рассуждать об убеждениях агентов. Но, к сожалению, при использовании этого подхода возникает определенная проблема: если киноактер Кент Кларк и его герой Супермен — это одно и то же (т.е. Clark=Superman), то полет Кларка и полет Супермена — одна и та же категория событий, т.е. Flies(Clark)=Flies(Superman). По-этому мы обязаны сделать такой вывод: если Лойс уверена в том, что Супермен может летать, она должны быть также уверена в том, что Кларк может летать, даже если она не уверена в том, что Кларк — Супермен, как показано ниже.
(Superman = Clark) |=
(Believes(Lois,Flies(Superman)) ⇔ Believes(Lois,Flies(Clark)))
В определенном смысле такое утверждение недалеко от истины: Лойс убеждена в том, что есть некое лицо, которому некогда присвоили имя Кларк, и что это лицо может летать. Но есть еще один смысл, в котором приведенное выше высказывание является ложным: если Лойс задать вопрос: ‘‘Может ли Кларк летать?’’, она, безусловно, ответит отрицательно. Овеществленные объекты и события вполне приемлемы для использования в первом смысле толкования предиката Believes, но во втором толковании необходимо овеществлять описания этих объектов и событий таким образом, чтобы Clark и Superman могли иметь разные описания (даже не смотря на то, что оба эти имени относятся к одному и тому же объекту).
Формально свойство высказывания, позволяющее свободно подставлять любой терм вместо равного терма, называется "ссылочной прозрачностью" (referential transparency). В логике первого порядка свойством ссылочной прозрачности обладает каждое отношение. Но нам было бы желательно иметь возможность определять Believes (и другие пропозициональные позиции) как отношения, второй параметр которых является ссылочно "непрозрачным" (opaque), т.е. таким, чтобы без изменения смысла нельзя было бы подставить равный терм вместо второго параметра.
Существуют два способа достижения этой цели. Первый из них состоит в использовании другой формы логики, называемой "модальной логикой" (modal logic), в которой такие пропозициональные позиции, как Believes и Knows, становятся "модальными операторами", обладающими свойством ссылочной непрозрачности. Этот подход рассматривается в разделе с историческими заметками. Второй подход, который будет применяться в данной главе, состоит в эффективном обеспечении непрозрачности в рамках ссылочно прозрачного языка с использованием
"синтаксической теории" мыслимых объектов. Это означает, что мыслимые объекты представляются константами "строками". Результатом становится грубая модель базы знаний агента, которая представлена как состоящая из строк, соответствующих высказываниям, в истинности которых убежден агент. Строка — это сложный терм,
обозначающий список символов, поэтому событие Flies(Clark) может быть представлено в виде списка символов [F,l,i,e,s,(,C,l,a,r,k,)], которые мы будем сокращенно записывать в виде строки, заключенной в кавычки, "Flies(Clark)".
Эта синтаксическая теория включает "аксиому об уникальности строк", в которой утверждается, что строки являются идентичными тогда и только тогда, когда они состоят из идентичных символов в одинаковой последовательности. Таким образом, даже если Clark=Superman, мы все равно имеем "Clark"≠"Superman".
Теперь достаточно лишь предусмотреть синтаксис, семантику и теорию доказательства для языка представления строк, точно так же, как это было сделано в главе 7. Различие состоит в том, что необходимо определить все эти компоненты в логике первого порядка. Начнем с определения Den (сокращение от denotatum — денотат, или обозначаемое) как функции, которая отображает некоторую строку на обозначаемый ею объект, и Name как функции, которая отображает объект на строку, представляющую собой имя константы, обозначающей этот объект. Например, денотатом строки "Clark" и строки "Superman" является объект, на который ссылается константный символ ManOfSteel (Человек из стали), а именем этого объекта в базе знаний может быть "Superman", "Clark" или какая-то другая константа, например "X11":
Den("Clark") = ManOfSteel ∧ Den("Superman") = ManOfSteel
Name(ManOfSteel) = "X11"
Следующий этап состоит в том, чтобы определить правила логического вывода для логических агентов. Например, может потребоваться сформулировать утверждение, что любой логический агент способен использовать правило отделения: если он уверен в истинности высказываний p и p ⇒ q, то он будет также уверен в истинности q. Первая попытка записать эту аксиому может состоять в следующем:
LogicalAgent(a) ∧ Believes(a,p) ∧ Believes(a,"p ⇒ q") ⇒ Believes(a,q)
Но эта попытка неудачна, поскольку строка "p ⇒ q" содержит буквы 'p' и 'q', но не имеет ничего общего со строками, являющимися значениями переменных p и q. Правильная формулировка состоит в следующем:
LogicalAgent(a) ∧ Believes(a,p) ∧ Believes(a,Concat(p,"⇒",q)) ⇒ Believes(a,q)
где Concat — функция на строках, которая соединяет (конкатенирует) свои параметры. Мы будем сокращенно записывать операцию Concat(p,"⇒",q) с помощью подчеркивания, как "p ⇒ q". Это означает, что вхождение x в строке должно быть "взятым без кавычек", или раскавыченным, т.е. мы должны подставить строковое значение переменной x. В языке Lisp такая операция выполняется с помощью оператора ‘‘запятая/обратная кавычка’’, а в языке Perl для этого используется интерполяция $-переменной.
После введения других правил логического вывода, кроме правила отделения, мы получим возможность отвечать на вопросы в такой форме: ‘‘Если дано, что логический агент знает такие-то предпосылки, может ли он прийти к такому-то заключению?’’ Кроме этих обычных правил логического вывода, требуются определенные правила, характерные для рассуждений об убеждениях. Например, следующее правило утверждает, что если логический агент в чем-то уверен, то он уверен, что он в этом уверен:
LogicalAgent(a) ∧ Believes(a,p) ⇒ Believes(a,"Believes(Name(a),p)")
Теперь, согласно нашим аксиомам, любой агент может безошибочно вывести любое следствие из своих убеждений. Такое свойство агента называется "логическим всеведением" (logical omniscience). Было сделано много попыток определить спецификации ограниченных рациональных агентов, которые способны выполнять ограниченное количество логических выводов за ограниченное время. Ни одна из этих попыток не оказалась полностью успешной, но описанные выше формулировки позволяют получить в высшей степени обоснованный ряд предсказаний о возможностях ограниченных агентов.
--- Конец цитаты ---
Искусственный интеллект: современный подход (AIMA-2) Стюарт Рассел, Питер Норвиг
kuuff:
--- Цитата: LswAgnostic от 10 Июня 2016, 14:45 ---https://en.wikipedia.org/wiki/Logic_Theorist
https://en.wikipedia.org/wiki/Coq
https://en.wikipedia.org/wiki/HOL_Light
https://en.wikipedia.org/wiki/Watson_(computer)
--- Конец цитаты ---
--- Цитата: LswAgnostic от 10 Июня 2016, 14:45 ---Это самая простая логика, известная еще древним грекам. С тех пор прошло 2тыс лет.
Есть много других логик.
Fuzzy logic - логика над нечеткими множествами
Many-valued logic - логика над много-значными значениями
https://en.wikipedia.org/wiki/Higher-order_logic - логика над множествами множеств
Теория категорий - логика над произвольными объектами
Лямбда-исчисление - логика над функциями
--- Конец цитаты ---
Какая из этих логик была выведена как логическое следствие из логики древних греков? Какая-нибудь из тех программ, которые вы упомянули, может изменить себя так, чтобы можно было бы говорить, что программа перешла с одной логики на другую? Что она изобрела новую логику и перешла на неё?
Ах никакая не может? А зачем тогда вы приводите эти бесполезнейшие программы, которые ничего не могут создать?
--- Цитата: LswAgnostic от 10 Июня 2016, 14:45 ---Формальные алгоритмы могут улучшать сами себя.
Простой пример алгоритмов, создающих знание - перебор. Полный или случайный. Требует экспонециальных вычислений, но умеет создавать новое знание.
--- Конец цитаты ---
--- Цитата: LswAgnostic от 10 Июня 2016, 14:45 ---Умею писать программы, которые самостоятельно обучаются решать произвольные задачи уровня шашек. Считаю, что это служит подтверждением моего понимания, что такое знание, мышление, понимание. И как они образуются.
А как по вашему? Является ли это достаточным подтверждением понимания понимания?
--- Конец цитаты ---
Нет, конечно же.
--- Цитата: LswAgnostic от 10 Июня 2016, 14:45 ---Пример частной логики над "Убежден", "Знает" и "Желает".Искусственный интеллект: современный подход (AIMA-2) Стюарт Рассел, Питер Норвиг
--- Конец цитаты ---
М-м-м... Чем это отличается от того, что говорили адепты AI в середине XX века? Ну, там, символьные вычисления, бла-бла-бла... Я навскидку не вижу ничего нового.
Навигация
Перейти к полной версии