Рефлексия логического мышления

Автор Тема: Рефлексия логического мышления  (Прочитано 36053 раз)

kuuff

  • Старожил
  • *****
  • Сообщений: 2 133
  • +220/-52
    • Просмотр профиля
kuuffКакая-то у вас странная картина разума. Вот есть мозг - доставшийся мне эволюционный субстрат который мыслит как попало. Вот есть "байесианская надстройка" - логические правила которые я внедряю в субстрат чтобы привести его в квадратно-гнездовое состояние. И всё. Больше у меня в голове ничего нет. У меня нет души. У меня нет никаких волшебных тонких оболочек. У меня нет какого-то выделенного отдела мозга который специально отвечал бы за логическое мышление. У меня даже нет единого центра отвечающего за сознание. И тем более у меня нет никаких третьих сущностей которых я мог бы(или они меня) рекурсивно проверять на когнитивные ошибки.
"Душа" -- это устаревшее название для "психики". Его прекратили использовать, чтобы религиозные люди не возмущались тому, что учёные говорят о "душе". Если вас, тем не менее, смущает использование слова "душа", давайте мы будем использовать слово "психика", от этого наша речь станет умнее. Кстати на западе учёные точно так же поступили с psyche, они теперь избегают говорить не только "soul", но и "psyche", они теперь говорят "mind", чтобы никто не заподозрил бы их в эзотерике. Самое смешное что они продолжают при этом именоваться psychologist'ами, они не переименовали психологию в майндоведение.

Впрочем, я отвлёкся. Психика ли или душа -- без разницы, это некая сущность, которая включает в себя и "байесианскую" надстройку, и "эволюционный субстрат". Вы зря пытаетесь выделить в психике часть, под названием "душа". Вы вваливаетесь таким образом в рекурсию.

Если я думаю, то я думаю сразу всей головой не разделяя рациональные и нерациональные доли мозга. Если я ошибаюсь, то единственная доступная мне возможность понять что я вообще ошибся - свериться с внешними/наученными критериями ошибочности.
Да ладно. Вы просто плохо смотрели на то, как вы принимаете решения.

Если вы взяв на вооружение логику не рефлексируете процесс логического мышления, то вы перестали быть человеком. Поскольку это не так, поскольку вы всё ещё человек, то вы рефлексируете процесс логического мышления, и всегда готовы вмешаться и исправить ситуацию. Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево. Вы можете рассуждать сколько угодно о том, что логика непогрешима, но результат применения логики зависит от входных данных, которые вы в неё засунули, и от непогрешимости вашего логического вывода. Входные данные подбираете вы, непогрешимость зависит от вас. Принять ли результат логического вывода сразу, или долго перепроверять -- тоже зависит от вас. Как после этого вы можете утверждать, что принимаемые вами решения не имеют систематического bias'а, создаваемого некоей надстройкой над уровнем логического мышления?

Я год назад писал ЕГЭ по математике, и в процессе подготовки у меня встала проблема: как бы так избежать потери баллов на идиотских ошибках, типа "перепутал + с -" -- вёл алгебраические преобразования выражения, и переписывая перепутал. Я немного потренировался решать задачи и искать ошибки в решениях, и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка. Эта оценка работала имплицитно, и я не могу в точности сказать как она вычислялась, но могу предположить, что она зависела от того, насколько сложные преобразования я проводил, насколько я нагружал в процессе кратковременную память под хранение промежуточных результатов, насколько я был сосредоточен в процессе и тд. Я научился сознательно оценивать интенсивность этого чувства, и на основании этого принимать решение о том, сколько усилий надо приложить для поиска и исправления ошибок. То есть, некая сущность внутри моей психики, которую я называю словом "я", применяла математические навыки для того, чтобы решить задачу, после чего пользовалась возможностями "эволюционного субстрата", чтобы оценить вероятность ошибки, и на основании этого принимала решение о том, что делать дальше.

И тут вы берёте и заявляете что у вас в голове существует механизм позволяющий получать истинные суждения не опираясь на факты и на основании этого даёте себе право отрицать логику. Мне прям аж завидно)
Завидуйте молча. ;)

Логика, рациональность и вся прочая лабуда отличаются от человеческой психики тем, что человеческая психика может создать логику, она может улучшить логику, она может создать рациональность, формализовать рациональность, переосмыслить рациональность и изменить её, и изменять её систематически, с тем чтобы она становилась всё лучше и лучше. Ни логика же, ни рациональность не содержат в себе рефлексивного уровня, который бы объяснял как надо менять логику или рациональность. В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы. В байесианстве нет правил, которые бы объясняли как можно изменить теорему байеса, если она вдруг перестанет работать. Но человеческая психики это может. И поэтому, я всегда помню, и вам рекомендую помнить, что логика и рациональность -- это инструменты. И помня это, подумайте о том, кто же держит в руках эти инструменты?

LswAgnostic

  • Ветеран
  • ****
  • Сообщений: 313
  • +29/-12
    • Просмотр профиля
Re: Рефлексия логического мышления
« Ответ #1 : 10 Июнь 2016, 11:36 »
  • (+)0
  • (−)0
  • Ни логика же, ни рациональность не содержат в себе рефлексивного уровня, который бы объяснял как надо менять логику или рациональность. В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы.

    Если логику брать широко, как произвольные формальные исчисления, то в формальных исчислениях - есть критерии неправильности, рефлексия и пути улучшения.
    Критерии неправильности - внутренние противоречия.
    Рефлексия - исчисление исчисления. Исчисление правил вывода, используемых для получения выводов. Изменение правил вывода так, чтобы они давали меньше противоречий в процессе применения.
    Правила изменения исчисления - перебор, ввод новой переменной, поиск в ширину, поиск в глубину, тренировка упрощенной эвристики, градиентный спуск, переход на мета-уровень и т.д.

    Обращаю внимание, что психика человека использует похожие инструменты для рефлексии.
    Цитировать
    Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево.
    Необходимость усилия появляется из-за наличия противоречия: "для результата стоит убить старушку" и "убивать людей нехорошо". Стоит убрать противоречие  (например, переносом старушки из класса людей в класс неизбежных потерь) и психика легче адаптируется к решению.

    Цитировать
    как бы так избежать потери баллов на идиотских ошибках,
    Внутреннее противоречие: "могу не делать эти ошибки" и "делаю эти ошибки".

    Цитировать
    и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка.

    Тренировка эвристичного правила.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #2 : 10 Июнь 2016, 13:38 »
  • (+)0
  • (−)0
  • Если логику брать широко, как произвольные формальные исчисления, то в формальных исчислениях - есть критерии неправильности, рефлексия и пути улучшения.
    Критерии неправильности - внутренние противоречия.
    Рефлексия - исчисление исчисления. Исчисление правил вывода, используемых для получения выводов. Изменение правил вывода так, чтобы они давали меньше противоречий в процессе применения.
    Правила изменения исчисления - перебор, ввод новой переменной, поиск в ширину, поиск в глубину, тренировка упрощенной эвристики, градиентный спуск, переход на мета-уровень и т.д.
    А исчисление исчислений исчислений?
    Где же, где же программная реализация всего этого, которая смогла улучшать сама себя и стать супер-интеллектом? Ну или хотя бы чем-то стать смогла. Где?
    Логика не может улучшать сама себя. Даже если эту логику снабдить всеми теми алгоритмами, которые вы упоминали. Потому что логика не может изменить сама себя. Она имеет встроенные ограничения, которые одолеть не в состоянии. Она работает на множестве значений {истина, ложь}, и она не сможет расширить это множество ещё одним значением, если только человек не вмешается и не внесёт в логику либо это значение, либо специальный алгоритм расширяющий множество логических значений одним дополнительным. Бруснецовская троичная логика никак не следовала и не выткала из аристотелевской двоичной. Байесианство, заменяющее булевское множество на интервал (0, 1) никак не вытекает из логики и не является её следствием. Вот если этот интервал "закрыть", добавив туда значения 0 и 1, то тогда логика станет частным случае байесианства. Но если интервал оставить как есть, то логика является "предельным" случаем байесианства. И логическим путём от логики уйти в байесианство было невозможно. Байесианство было создано не логикой, а теми же креативным цепями головного мозга человека, которые когда-то создали логику.
    И я заверяю вас, что байесианство, так же как и логика, бесплодно, оно не сможет родить себе наследника, потребуется вмешательство всё тех же креативных цепей человеческого мозга.
    Обращаю внимание, что психика человека использует похожие инструменты для рефлексии.Необходимость усилия появляется из-за наличия противоречия: "для результата стоит убить старушку" и "убивать людей нехорошо". Стоит убрать противоречие  (например, переносом старушки из класса людей в класс неизбежных потерь) и психика легче адаптируется к решению.
    Да. Но это противоречие возникает вне логики. На уровне эвристик, которые вполне могут быть имплицитными. Здесь, конкретно в данном случае, эвристика эксплицитная, она выразима словами, и поэтому её можно рассматривать как логическое правило и, таким образом, как часть логики. Но далеко не все эвристики эксплицитны, я бы даже сказал, что они чаще имплицитны.

    Внутреннее противоречие: "могу не делать эти ошибки" и "делаю эти ошибки".
    Нету там никакого противоречия. Противоречие возникает тогда, когда вы задним числом пытаетесь объяснить происходящее логикой. И тут ключевым является то, что "задним числом". До того как я нашёл ошибку в решении задачи, этой ошибки нет в моей голове. Нет ошибки, нет противоречия.
    А если вы всё же об общей ситуации, о "могу не делать эти ошибки" и "делаю эти ошибки", для меня это не является противоречием. Я не знаю почему, может потому что моя "логика" круче вашей, и она более широкий класс утверждений считает непротиворечивыми, а может потому, что я вообще мыслю об этих ситуациях вне логики. А может потому, что моя модель реальности более дифференцирована, и я выделяю в себе "я", которое является ещё одним блоком обработки информации, и поэтому, выходит, что один блоки делает ошибки, а другой оценивает его способность не делать ошибки, и это разные блоки, хотя вы всё это вместе называете словом "я".
    Тренировка эвристичного правила.
    Отличное название вы придумали тому, что я описал. Но придумывание новых знаков, символов и терминов не отвечает на вопрос: кто или что пользуется как инструментом тем, чему вы нашли название? Логика? Или другое эвристическое правило?
    Кто во мне сделал наблюдение, выявил это чувство из всех остальных чувств, связал его с вероятностью ошибки как некоей байесианской абстракцией, и затем разработал план по развитию этого чувства, как эвристического правила, и методики использования вероятности ошибки в алгоритме решения задачи. Кто проделал все эти операции? А кто потом, занимаясь интроспекцией, выявлял все эти шаги обработки информации, которые привели к усложнению алгоритма решения задачи, и обдумывая эти шаги, усложнял алгоритм тренировки мозга к новым задачам?
    Мне кажется, что вы следом за nadeys делаете ту же самую ошибку: не замечая какой-то обработки информации происходящей в вашем мозгу (например потому, что она происходит без участия сознания), вы предполагаете, что это обработки нет и результат обработки берётся, как бы, ниоткуда. Вообще, это довольно распространённая ошибка -- на заре AI, полагали что задачи компьютерного зрения можно решить за пару лет. OpenCV появилась лет через пятьдесят после того. Есть ровно один способ избегать этой ошибки: надо сесть и написать алгоритм обработки информации. Если вы можете его написать, то тогда можно полагать, что у вас есть более-менее полное понимание происходящего. Если же у вас нет готового алгоритма, есть только список технологий, который настолько внушительно выглядит, что в голову не вмещается как же так он не сможет решить задачу, то это значит, что ваши рассуждения укладываются в лжередукционизм, и, очень вероятно, вы упускаете что-то очень существенное.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #3 : 10 Июнь 2016, 14:45 »
  • (+)0
  • (−)0
  • Где же, где же программная реализация всего этого, которая смогла улучшать сама себя и стать супер-интеллектом? Ну или хотя бы чем-то стать смогла. Где?
    https://en.wikipedia.org/wiki/Logic_Theorist
    https://en.wikipedia.org/wiki/Coq
    https://en.wikipedia.org/wiki/HOL_Light
    https://en.wikipedia.org/wiki/Watson_(computer)

    Логика не может улучшать сама себя. Даже если эту логику снабдить всеми теми алгоритмами, которые вы упоминали.

    Формальные алгоритмы могут улучшать сами себя.
    Простой пример алгоритмов, создающих знание - перебор. Полный или случайный. Требует экспонециальных вычислений, но умеет создавать новое знание.

    Она имеет встроенные ограничения, которые одолеть не в состоянии. Она работает на множестве значений {истина, ложь}, и она не сможет расширить это множество ещё одним значением

    Это самая простая логика, известная еще древним грекам. С тех пор прошло 2тыс лет.

    Есть много других логик.
    Fuzzy logic - логика над нечеткими множествами
    Many-valued logic - логика над много-значными значениями
    https://en.wikipedia.org/wiki/Higher-order_logic - логика над множествами множеств
    Теория категорий - логика над произвольными объектами
    Лямбда-исчисление - логика над функциями



    Есть ровно один способ избегать этой ошибки: надо сесть и написать алгоритм обработки информации. Если вы можете его написать, то тогда можно полагать, что у вас есть более-менее полное понимание происходящего.

    Умею писать программы, которые самостоятельно обучаются решать произвольные задачи уровня шашек. Считаю, что это служит подтверждением моего понимания, что такое знание, мышление, понимание. И как они образуются.
    А как по вашему? Является ли это достаточным подтверждением понимания понимания?

    Добавлено 10 Июнь 2016, 14:47:
    Пример частной логики над "Убежден", "Знает" и "Желает".
    Цитировать
    Формальная теория убеждений

    Начнем с изучения связей между агентами и ‘‘мыслимыми объектами’’, таких как Believes (Убежден), Knows (Знает) и Wants (Желает). Отношения такого рода называются "пропозициональными позициями" (propositional attitude), поскольку они описывают позицию, которую может занять агент по отношению к некоторому высказыванию. Предположим, что Лойс в чем-то убеждена, т.е. Believes(Lois,x). Какого рода объектом является x? Очевидно, что x не может быть логическим высказыванием. Если утверждение, что Супермен летает (Flies(Superman)) — логическое высказывание, то нельзя составить выражение Believes(Lois,Flies(Superman)), поскольку параметрами предикатов могут быть только термы (а не высказывания). Но если Flies функция, то Flies(Superman) становится подходящим кандидатом на использование в качестве мыслимого объекта, а Believes может быть отношением между агентом и пропозициональным флюентным термом. Преобразование высказывания в объект называется "овеществлением" (reification).

    По-видимому, такой подход позволяет достичь желаемого — появления у агента способности рассуждать об убеждениях агентов. Но, к сожалению, при использовании этого подхода возникает определенная проблема: если киноактер Кент Кларк и его герой Супермен — это одно и то же (т.е. Clark=Superman), то полет Кларка и полет Супермена — одна и та же категория событий, т.е. Flies(Clark)=Flies(Superman). По-этому мы обязаны сделать такой вывод: если Лойс уверена в том, что Супермен может летать, она должны быть также уверена в том, что Кларк может летать, даже если она не уверена в том, что Кларк — Супермен, как показано ниже.
    (Superman = Clark) |=
      (Believes(Lois,Flies(Superman)) ⇔ Believes(Lois,Flies(Clark)))
    В определенном смысле такое утверждение недалеко от истины: Лойс убеждена в том, что есть некое лицо, которому некогда присвоили имя Кларк, и что это лицо может летать. Но есть еще один смысл, в котором приведенное выше высказывание является ложным: если Лойс задать вопрос: ‘‘Может ли Кларк летать?’’, она, безусловно, ответит отрицательно. Овеществленные объекты и события вполне приемлемы для использования в первом смысле толкования предиката Believes, но во втором толковании необходимо овеществлять описания этих объектов и событий таким образом, чтобы Clark и Superman могли иметь разные описания (даже не смотря на то, что оба эти имени относятся к одному и тому же объекту).

    Формально свойство высказывания, позволяющее свободно подставлять любой терм вместо равного терма, называется "ссылочной прозрачностью" (referential transparency). В логике первого порядка свойством ссылочной прозрачности обладает каждое отношение. Но нам было бы желательно иметь возможность определять Believes (и другие пропозициональные позиции) как отношения, второй параметр которых является ссылочно "непрозрачным" (opaque), т.е. таким, чтобы без изменения смысла нельзя было бы подставить равный терм вместо второго параметра.

    Существуют два способа достижения этой цели. Первый из них состоит в использовании другой формы логики, называемой "модальной логикой" (modal logic), в которой такие пропозициональные позиции, как Believes и Knows, становятся "модальными операторами", обладающими свойством ссылочной непрозрачности. Этот подход рассматривается в разделе с историческими заметками. Второй подход, который будет применяться в данной главе, состоит в эффективном обеспечении непрозрачности в рамках ссылочно прозрачного языка с использованием
    "синтаксической теории" мыслимых объектов. Это означает, что мыслимые объекты представляются константами "строками". Результатом становится грубая модель базы знаний агента, которая представлена как состоящая из строк, соответствующих высказываниям, в истинности которых убежден агент. Строка — это сложный терм,
    обозначающий список символов, поэтому событие Flies(Clark) может быть представлено в виде списка символов [F,l,i,e,s,(,C,l,a,r,k,)], которые мы будем сокращенно записывать в виде строки, заключенной в кавычки, "Flies(Clark)".

    Эта синтаксическая теория включает "аксиому об уникальности строк", в которой утверждается, что строки являются идентичными тогда и только тогда, когда они состоят из идентичных символов в одинаковой последовательности. Таким образом, даже если Clark=Superman, мы все равно имеем "Clark"≠"Superman".
    Теперь достаточно лишь предусмотреть синтаксис, семантику и теорию доказательства для языка представления строк, точно так же, как это было сделано в главе 7. Различие состоит в том, что необходимо определить все эти компоненты в логике первого порядка. Начнем с определения Den (сокращение от denotatum — денотат, или обозначаемое) как функции, которая отображает некоторую строку на обозначаемый ею объект, и Name как функции, которая отображает объект на строку, представляющую собой имя константы, обозначающей этот объект. Например, денотатом строки "Clark" и строки "Superman" является объект, на который ссылается константный символ ManOfSteel (Человек из стали), а именем этого объекта в базе знаний может быть "Superman", "Clark" или какая-то другая константа, например "X11":
    Den("Clark") = ManOfSteel ∧ Den("Superman") = ManOfSteel
    Name(ManOfSteel) = "X11"

    Следующий этап состоит в том, чтобы определить правила логического вывода для логических агентов. Например, может потребоваться сформулировать утверждение, что любой логический агент способен использовать правило отделения: если он уверен в истинности высказываний p и p ⇒ q, то он будет также уверен в истинности q. Первая попытка записать эту аксиому может состоять в следующем:
    LogicalAgent(a) ∧ Believes(a,p) ∧ Believes(a,"p ⇒ q") ⇒ Believes(a,q)

    Но эта попытка неудачна, поскольку строка "p ⇒ q" содержит буквы 'p' и 'q', но не имеет ничего общего со строками, являющимися значениями переменных p и q. Правильная формулировка состоит в следующем:
    LogicalAgent(a) ∧ Believes(a,p) ∧ Believes(a,Concat(p,"⇒",q)) ⇒ Believes(a,q)
    где Concat — функция на строках, которая соединяет (конкатенирует) свои параметры. Мы будем сокращенно записывать операцию Concat(p,"⇒",q) с помощью подчеркивания, как "p ⇒ q". Это означает, что вхождение x в строке должно быть "взятым без кавычек", или раскавыченным, т.е. мы должны подставить строковое значение переменной x. В языке Lisp такая операция выполняется с помощью оператора ‘‘запятая/обратная кавычка’’, а в языке Perl для этого используется интерполяция $-переменной.

    После введения других правил логического вывода, кроме правила отделения, мы получим возможность отвечать на вопросы в такой форме: ‘‘Если дано, что логический агент знает такие-то предпосылки, может ли он прийти к такому-то заключению?’’ Кроме этих обычных правил логического вывода, требуются определенные правила, характерные для рассуждений об убеждениях. Например, следующее правило утверждает, что если логический агент в чем-то уверен, то он уверен, что он в этом уверен:
    LogicalAgent(a) ∧ Believes(a,p) ⇒ Believes(a,"Believes(Name(a),p)")

    Теперь, согласно нашим аксиомам, любой агент может безошибочно вывести любое следствие из своих убеждений. Такое свойство агента называется "логическим всеведением" (logical omniscience). Было сделано много попыток определить спецификации ограниченных рациональных агентов, которые способны выполнять ограниченное количество логических выводов за ограниченное время. Ни одна из этих попыток не оказалась полностью успешной, но описанные выше формулировки позволяют получить в высшей степени обоснованный ряд предсказаний о возможностях ограниченных агентов.
    Искусственный интеллект: современный подход (AIMA-2) Стюарт Рассел, Питер Норвиг

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #4 : 10 Июнь 2016, 19:51 »
  • (+)0
  • (−)0
  • https://en.wikipedia.org/wiki/Logic_Theorist
    https://en.wikipedia.org/wiki/Coq
    https://en.wikipedia.org/wiki/HOL_Light
    https://en.wikipedia.org/wiki/Watson_(computer)
    Это самая простая логика, известная еще древним грекам. С тех пор прошло 2тыс лет.

    Есть много других логик.
    Fuzzy logic - логика над нечеткими множествами
    Many-valued logic - логика над много-значными значениями
    https://en.wikipedia.org/wiki/Higher-order_logic - логика над множествами множеств
    Теория категорий - логика над произвольными объектами
    Лямбда-исчисление - логика над функциями
    Какая из этих логик была выведена как логическое следствие из логики древних греков? Какая-нибудь из тех программ, которые вы упомянули, может изменить себя так, чтобы можно было бы говорить, что программа перешла с одной логики на другую? Что она изобрела новую логику и перешла на неё?

    Ах никакая не может? А зачем тогда вы приводите эти бесполезнейшие программы, которые ничего не могут создать?

    Формальные алгоритмы могут улучшать сами себя.
    Простой пример алгоритмов, создающих знание - перебор. Полный или случайный. Требует экспонециальных вычислений, но умеет создавать новое знание.
    Умею писать программы, которые самостоятельно обучаются решать произвольные задачи уровня шашек. Считаю, что это служит подтверждением моего понимания, что такое знание, мышление, понимание. И как они образуются.
    А как по вашему? Является ли это достаточным подтверждением понимания понимания?
    Нет, конечно же.

    Пример частной логики над "Убежден", "Знает" и "Желает".Искусственный интеллект: современный подход (AIMA-2) Стюарт Рассел, Питер Норвиг
    М-м-м... Чем это отличается от того, что говорили адепты AI в середине XX века? Ну, там, символьные вычисления, бла-бла-бла... Я навскидку не вижу ничего нового.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #5 : 10 Июнь 2016, 20:00 »
  • (+)0
  • (−)0
  • Какая из этих логик была выведена как логическое следствие из логики древних греков?

    Новое - создается, находится или достраивается как предельный переход, а не является следствием.

    Ах никакая не может? А зачем тогда вы приводите эти бесполезнейшие программы, которые ничего не могут создать?

    Некорректный переход с "не может быстро непрерывно целенаправлено себя развивать" к "ничего не могут создать"

    Цитировать
    М-м-м... Чем это отличается от того, что говорили адепты AI в середине XX века? Ну, там, символьные вычисления, бла-бла-бла... Я навскидку не вижу ничего нового.

    Ничем. Основные концепции мышления уже все давно выделены. Дело за малым. Скомбинировать идеи в цельный продукт.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #6 : 12 Июнь 2016, 01:31 »
  • (+)0
  • (−)0
  • Новое - создается, находится или достраивается как предельный переход, а не является следствием.
    Вы можете привести реалистичный пример такому предельному переходу? Я не прошу именно в виде программного кода, но хоть что-нибудь. Я не вижу как этот предельный переход может быть логичным. И поэтому я не могу понять, может ли этот предельный переход применяться для развития основополагающих принципов этого самого предельного перехода, или не может.

    Некорректный переход с "не может быстро непрерывно целенаправлено себя развивать" к "ничего не могут создать"
    Если мыслящий агент не может целенаправленно себя развивать, то в долгосрочной перспективе он сольёт гонку интеллектуального развития человеку.

    Ключевое отличие меня от программы в том, что я могу развиваться. Вот смотрите, взять например такую задачу, как сжатие данных. Мы можем взять любой охрененно современный и крутой алгоритм сжатия данных, и увидеть, что в этот алгоритм заложена некая модель входного потока, которую алгоритм изменить не может. Он может наполнить эту модель данными собранными из входного потока, эта модель подстроится, таким образом, под данный поток. Но вся эта подстройка будет производиться в жёстко заданных границах, определяемых этой моделью.

    Изменить модель может только человек. Изучить опыт применения h264, провести дополнительные исследования тысяч часов видео и породить h265 может человек, но не машина. Машины обширно применяются в процессе исследований, но они не могут развивать кодек самостоятельно. И уж тем более кодек не может развивать сам себя.

    Я верю в то, что сегодня теоретически известны методы исправить эту ситуацию. Но эти теоретические методы сами по себе эвристичны -- они будут основываться на матстатистике, которая вся подпёрта костылями эвристик, или предположений, которые с математической точки зрения взяты "с потолка". Впрочем, опытным путём установлено, что они работают. Как правило. И я верю в то, что они теоретически могут справиться с задачей. Но эти методы -- они вне логики. Логикой их обосновать невозможно. Потому что матстатистика, если копнуть поглубже, упирается в веру, что "здесь можно предположить, что распределение нашей случайной величины -- нормально".

    Ничем. Основные концепции мышления уже все давно выделены. Дело за малым. Скомбинировать идеи в цельный продукт.
    А это яркая демонстрация лжередукции. Основные концепции мышления были известны ещё Платону. Основные концепции физиологии упоминал Демокрит: он говорил о том, что всё создано из атомов, оставалось лишь создать список разных типов атомов, классифицировать соединения этих атомов, и объяснить про двойную мембрану из фосфолипидов и про гены из нуклеиновых кислот. Ну и всякие мелочи, типа РНК, рибосомы, микротрубочки, трансферазы, киназы, трансмембранные белки, нейромедиаторы, бла-бла-бла... И этим до сих пор, кстати, занимаются и... Я как минимум трижды, слушая лекции современных учёных, и задавая им вопросы, нечаянно выходил на ответ типа "а это современной науке неизвестно, есть статья прошлого года, которая вроде как свидетельствует в пользу того, что... но это всё вилами по воде писано".

    "Основные концепции" -- это философское и ни к чему не обязывающее балабольство. Это не редукция. И это очень опасная вещь, потому что она работает как затычка для любопытства.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #7 : 12 Июнь 2016, 02:32 »
  • (+)0
  • (−)0
  • Вы можете привести реалистичный пример такому предельному переходу?

    Сначала была единица. И был плюс.
    Натуральные числа - применение "+" к 1.
    "-" - обратная операция к "+".
    0 и отрицательные числа - применение "-" к натуральным числам.
    "*" - многократное применение "+"
    "/" - обратная операция к "*"
    рациональные дроби - применение "/" к целым числам
    степень - многократное применение "*"
    корень - обратная операция к степени
    иррациональные числа - применение корня к рациональным числам
    бесконечность - применение "/" к 0
    и т.д.

    Цитировать
    "а это современной науке неизвестно
    Имхо, не стоит приравнивать "неизвестно конкретному человеку из науки"  и "неизвестно современной науке".

    ps
    Любопытство - это важно.
    « Последнее редактирование: 12 Июнь 2016, 02:56 от LswAgnostic »

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #8 : 12 Июнь 2016, 03:12 »
  • (+)0
  • (−)0
  • Сначала была единица. И был плюс.
    Натуральные числа - применение "+" к 1.
    "-" - обратная операция к "+".
    0 и отрицательные числа - применение "-" к натуральным числам.
    Применение "-" к натуральными числам -- это либо натуральное число, либо логическая ошибка.
    "-" определена как операция обратная к "+". Но если нам известно что a+b=c, при этом c = 2, а b = 5, то не существует такого числа a, такого что a+b=c.
    Таким образом логически выйти за пределы натуральных чисел нельзя. Чтобы выйти за пределы натуральных чисел, надо проанализировать множество решений различных арифметических задач в натуральных числах, обратить внимание на то, что очень часто приходится высчитывать предикат "<" и в зависимости от результата применять различные но очень похожие ветви алгоритма (этот шаг невозможен для структуры, которая не умеет решать задачи и не умеет категоризировать). Затем надо проанализировать разницу между ветвями алгоритма, и вот тогда можно будет догадаться до унарного минуса. При этом я затрудняюсь вот так вот взять и формализовать "догадку": каким свойством должна обладать наша структура, чтобы породить такую догадку?

    И я отмечу, если вы предложите некий логический принцип, который породит отрицательные числа, то проверьте, что этот принцип породит в аналогичной ситуации с делением:
    "/" определена как операция обратная к "*", но не существует такого a, что a*0=1.

    Кстати, а можно ли таким образом породить кватернионы?

    Имхо, не стоит приравнивать "неизвестно конкретному человеку из науки"  и "неизвестно современной науке".
    Скажите, это вы уже включили режим троллинга, или чем вы сейчас занимаетесь? Для меня это ваше заявление выглядит провокацией, потому что вы не можете не знать, что наука знает не всё. И даже если я и совершил ошибку, которую вы назвали, то это не изменит ничего по сути.

    Но если всё же, это не провокация ухода в оффтопичные дебри, то что? Вы хотите пруфов на то, что ответ неизвестен науке?
    Смотрите, есть такая штука как нейромедиатор -- это вещество которое вбрасывается в синаптическую щель из пресинапса и воздействует на рецепторы на постсинаптической мембране. Оно просто связывается с этими рецепторами. Это вещество ещё называют агонистом. Результатом такой связи может быть открытый ионный канал, через который в постсинапс ломанутся иончики Na+, произойдёт деполяризация мембраны и с постинапса стартанёт потенциал действия, то есть спайк побежит.
    Эти спайки могут пробегать через синапс десятками в секунду. И вот интересный вопрос: а как интересно молекулу нейромедиатора снимают с рецептора? Что должно случиться? Какой-то дополнительный химический агент вмешивается? Или может когда мембрана деполяризуется, то трансмембранный белок, частью которого является рецептор, меняет конформацию и лиганд отваливается от рецептора обратно в синаптическую щель, где уже включилась какая-то программа утилизации нейромедиатора? Собственно о том, как нейромедиаторы утилизируются, в общем известно довольно много -- они могут при помощи пиноцитоза, захватываться пресинапсом; они могут разрушаться при помощи ферментов; они могут всасываться глией, которая затем их либо метаболизирует, либо передаёт соседним нейронам. Но как и почему нейромедиатор отделяется от рецептора?
    Вот вам вопрос. sci-hub вам в помощь.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #9 : 12 Июнь 2016, 04:02 »
  • (+)0
  • (−)0
  • Применение "-" к натуральными числам -- это либо натуральное число, либо логическая ошибка.

    Предельный переход  делается следующим образом:
    допустим, что "2 - 5" ("a - b", где a <= b) в некотором другом контексте(вне контекста натуральных чисел) конструирует некий объект. Проверим свойства этого объекта на непротиворечивость, найдем границы непротиворечивости, зафиксируем обозначение объекта.

    Цитировать
    Вы хотите пруфов на то, что ответ неизвестен науке?

    Да, хочу пруфов в контексте исходной темы "знание, понимание, мышление".

    ps
    Предложенный пример о нейромедиаторе из другой темы. Из темы устройства частного биологического вычислителя.

    nadeys

    • Старожил
    • *****
    • Сообщений: 1 028
    • +48/-52
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #10 : 13 Июнь 2016, 20:51 »
  • (+)0
  • (−)1
  • Не понимаю 90% вышенаписанного. :(
    Цитировать
    Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево.
    Не могу представить такую ситуацию.

    Если логика подскажет мне что убийство старушки это полезное деяние которое принесёт мне/обществу выгоду, то я возьму топор и убью старушку.
    Если логика подскажет мне что совершение убийства означает высокий риск уголовного преследования и высокий риск психических проблем, то я не буду убивать старушку.

    Явление "опровергать свою собственную логику" я могу представить не более чем "воевать против собственной руки". Т.е. Юдковский в вымышленной книжке конечно же красиво описал как Гарри боролся с внутренним слизеринцем, но ИРЛ очевидно же что это была не борьба логикиVSпсихики, а просто визуализация процесса работы самой логики. Так называемый "голос совести" - это не какое-то отдельное явление вашей психики, а та же самая логика.

    Цитировать
    В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы.
    Вообще-то такое правило - есть:
    Если мы придерживаемся Х и мы до сих пор живы, то Х это верная или просто неопасная аксиома.
    Если погибший индивид придерживался Y, то Y с высокой вероятностью опасно или бесполезно.


    За два миллиона лет постоянной конкурентной борьбы в человеческой ноосфере методом жесточайшего естественного отбора остались по большей части только верные аксиомы. Эти верные аксиомы и являют собой базис того что мы называем "здравым смыслом".

    valergrad

    • Ветеран
    • ****
    • Сообщений: 487
    • +143/-21
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #11 : 14 Июнь 2016, 00:27 »
  • (+)1
  • (−)0
  • За два миллиона лет постоянной конкурентной борьбы в человеческой ноосфере методом жесточайшего естественного отбора остались по большей части только верные аксиомы. Эти верные аксиомы и являют собой базис того что мы называем "здравым смыслом".

    Не соглашусь.
    Если мы рассмотрим спектр представлений среднего деревенского жителя в 16-м веке , то даже по современным меркам ошибочным будет большинство его представлений. А еще через какое-то время этот процент еще уменьшится ( когда что-то что нам сейчас кажется истинным, перестанет таким быть).

    Возьмем к примеру народные приметы. Упала ложка - придет женщина, вилка - мужчина. Это весьма распространенная примета, которая ничего общего, очевидно, не имеет с реальностью. Как она распространилась? Кто ее придумывал? А разные ритуалы - типа проводов зимы и т.п. и еще кучи ритуалов, которые были призваны привлечь хороший урожай. 90% из них, разумеется, ничего не привлекали.

    Вы скажете, что это неопасный ритуал, просто бесполезный?
    Хорошо, возьмем племя форе с их ритуальным каннибализмом. Это крайне опасный ритуал, который чуть не убил всю народность из-за болезни куру. Собственно и  какая-нибудь другая болезнь могла убить их племя через этот ритуал давным давно. При этом, тысячелетиями им могло везти, а потом раз - и внезапно все племя погибает. Оказывается, "так делали наши отцы и деды" не всегда безопасная стратегия в нашем сложном мире.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #12 : 14 Июнь 2016, 01:34 »
  • (+)0
  • (−)0
  • Да, хочу пруфов в контексте исходной темы "знание, понимание, мышление".
    Я думаю, что пруфов не будет.

    Моя убеждённость базируется на том, что я не вижу разницы между тем как мы оцениваем задачу создания AI и тем как её оценивали 50 лет назад. 50 лет назад всё выглядело так, будто AI появится уже вот-вот, надо только немного покомбинировать. И сегодня это выглядит так же. Хотя если сегодня оглядываться на путь пройденный за 50 лет, то становится ясно, что 50 лет тому назад учёные и инженеры ошибались. И я подозреваю, что лет через пятьдесят учёные и инженеры глянут на то, что было сегодня, и точно так же сочтут, что мы ошибаемся, полагая что "осталось лишь покомбинировать".

    AI сегодня справляются с узкими классами задач и... Вот смотрите, компьютеры порвали людей в шахматы, в го, но смогли ли эти крутанские программы привнести что-то в теорию шахмат? Или может они смогли рассказать как им удалось обыграть человека? Может они могут дать советы гроссмейстерам о том, как они могут улучшить свою игру? Нет конечно же, эти компьютеры не владеют речью и всё что они могут -- играть в шахматы или го. А если мы попытаемся представить себе AI, который сам будет справляться с новыми для него и для человечества задачами, рефлексируя то как он это делает и излагая человеку, то я уверен, что такой AI создать тупо комбинируя не удастся. Придётся создавать более крупные кубики, которые можно комбинировать между собой, то есть выходить на более высокий уровень абстракций. Чтобы AI решал задачи актуальные для человека, этот AI должен функционировать примерно на том же понятийном уровне, что и человек. А для этого придётся создать довольно сложную модель мира, как часть этого AI. А... Ну да, а для этого придётся разговаривать уже в терминах понятий, причём понятие будет чем-то в стиле того, что есть в голове у человека, а это непросто.

    И я не могу это доказать. Это просто моя убеждённость: интеллект слишком сложная система, чтобы её можно было бы создать тупо комбинируя. Надо действовать более целенаправленно, а для этого нужно что-то большее, чем идея комбинирования.

    Явление "опровергать свою собственную логику" я могу представить не более чем "воевать против собственной руки".
    Да? То есть, вам никогда не приходилось ошибаться, и казалось бы логическим путём приходить к неверным выводам? Если так, то вам можно только позавидовать.

    Вообще-то такое правило - есть:
    Если мы придерживаемся Х и мы до сих пор живы, то Х это верная или просто неопасная аксиома.
    Если погибший индивид придерживался Y, то Y с высокой вероятностью опасно или бесполезно.
    Ну, во-первых, в логике нет такого правила. Вы можете взять учебник логики и проверить.
    То что вы излагаете, это скорее некое экзистенциальное правило, эдакая аксиома для построения мировоззрения. И мне оно не нравится как аксиома. Я считаю, что мировоззрение должно быть построено так, чтобы иметь возможность усомниться и отказаться от такого правила, если это будет полезно.

    За два миллиона лет постоянной конкурентной борьбы в человеческой ноосфере методом жесточайшего естественного отбора остались по большей части только верные аксиомы. Эти верные аксиомы и являют собой базис того что мы называем "здравым смыслом".
    Вы не читали Канемана? Почитайте, это психолог, который получил нобелевскую премию по экономике, потому что он показал, что люди тысячелетиями совершали одни и те же ошибки. И даже современные экономисты с высшим образованием и многолетним стажем работы совершали всё те же самые ошибки.
    Не любое изменение -- это улучшение, но любое улучшение -- изменение. Чтобы улучшать надо изменять, а чтобы изменять надо сомневаться в эффективности того, что есть. Не придумывая себе отговорок.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #13 : 14 Июнь 2016, 02:36 »
  • (+)0
  • (−)0
  • А для этого придётся создать довольно сложную модель мира, как часть этого AI. А...

    Необходимо создать механизм формирования новых понятий. Но, стоп.. такой класс алгоритм уже известен - алгоритмы категоризации/кластеризации. Особенно хорошо эти алгоритмы выполняют современные нейронные сети, которых не было 50 лет назад.

    Ну да, а для этого придётся разговаривать уже в терминах понятий, причём понятие будет чем-то в стиле того, что есть в голове у человека, а это непросто.

    Оперирование понятиями делается на основе логического и математического исчисления? Или на основе чего-то другого?

    И я не могу это доказать. Это просто моя убеждённость: интеллект слишком сложная система, чтобы её можно было бы создать тупо комбинируя.
    Знакомы с понятием "эмерджентное свойство"? Оно получается в результате комбинирования? Или в результате чего-то другого?

    Надо действовать более целенаправленно

    Знакомы с ТРИЗ? Алгоритм Дейкстры? Алгоритмы информированного поиска? Градиентный спуск?
    Под целенаправленным вы понимаете то, что делают указанные концепции? Или что-то другое? Что?

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Рефлексия логического мышления
    « Ответ #14 : 14 Июнь 2016, 10:45 »
  • (+)0
  • (−)0
  • Необходимо создать механизм формирования новых понятий. Но, стоп.. такой класс алгоритм уже известен - алгоритмы категоризации/кластеризации. Особенно хорошо эти алгоритмы выполняют современные нейронные сети, которых не было 50 лет назад.
    Нет. Сегодняшние нейронные сети не могут создавать понятия уровня человека. Во-первых, вероятно, потому что никому пока ещё не удавалось просимулировать работу десятков миллиардов нейронов с триллионами синапсов в течение десяти лет (примерно столько требуется человеку, чтобы выйти на понятийное мышление), во-вторых, человеческая нейросетка в голове -- это не просто 86 миллиардов нейронов соединённых случайным образом, а гораздо более продуманная штука.
    Мало того, эта гораздо более продуманная штука должна лет десять находится в довольно специфических условиях и заниматься обучением, которое отчасти запрограммировано в культуре людей, отчасти в нервной системе ребёнка.
    Оперирование понятиями делается на основе логического и математического исчисления? Или на основе чего-то другого?
    В голове у человека? Нет. Человек к этому стремится, но его понятия слишком сложны и, подчастую, имплицитны. Поэтому для того, чтобы навести порядок в некоторой области знаний, требуется куча учёных, которые будут сидеть, вылизвать определения, формулировки годами, а то и десятилетиями.
    Это знаете, как с гориллой Коко, которая выросла среди людей и считала себя человеком. Она классифицировала себя как человека, а не как гориллу. И я уверен, что она даже не замечала того, что с точки зрения классификации ей место среди горилл. Так вот, человеческое понятие вполне может содержать костыли такого уровня. И чтобы общаться с AI надо либо AI научить работать со всеми этими костылями, либо человека научить работать без всех этих костылей. И оба направления возможных действий подразумевают десятилетия работы.
    Знакомы с понятием "эмерджентное свойство"? Оно получается в результате комбинирования? Или в результате чего-то другого?
    Оно получается в результате того, что человек не понимает, откуда и как оно получается. Говорить слово "магия" как-то не принято, поэтому человек говорит "эмерджентное свойство". Если что-то непонятное обозначить хитрым словом, оно не перестанет от этого быть непонятным. И уж тем более оно не начнёт существовать просто потому, что мы придумали ему название.

    Знакомы с ТРИЗ? Алгоритм Дейкстры? Алгоритмы информированного поиска? Градиентный спуск?
    Под целенаправленным вы понимаете то, что делают указанные концепции? Или что-то другое? Что?
    Это примерно как "эмерджентность". Если мы перечислим все те инструменты, при помощи которых человек исследует мир, и находит новые технические решения, то можно будет сказать, что их достаточно для создания AI. Можно даже поступить ещё проще, можно сказать, что у человека есть мозг, и этого уже достаточно для создания AI, надо просто поработать этим мозгом.