Форум LessWrong.ru

Главное => Рациональность => Тема начата: kuuff от 10 Июнь 2016, 10:59

Название: Рефлексия логического мышления
Отправлено: kuuff от 10 Июнь 2016, 10:59
kuuffКакая-то у вас странная картина разума. Вот есть мозг - доставшийся мне эволюционный субстрат который мыслит как попало. Вот есть "байесианская надстройка" - логические правила которые я внедряю в субстрат чтобы привести его в квадратно-гнездовое состояние. И всё. Больше у меня в голове ничего нет. У меня нет души. У меня нет никаких волшебных тонких оболочек. У меня нет какого-то выделенного отдела мозга который специально отвечал бы за логическое мышление. У меня даже нет единого центра отвечающего за сознание. И тем более у меня нет никаких третьих сущностей которых я мог бы(или они меня) рекурсивно проверять на когнитивные ошибки.
"Душа" -- это устаревшее название для "психики". Его прекратили использовать, чтобы религиозные люди не возмущались тому, что учёные говорят о "душе". Если вас, тем не менее, смущает использование слова "душа", давайте мы будем использовать слово "психика", от этого наша речь станет умнее. Кстати на западе учёные точно так же поступили с psyche, они теперь избегают говорить не только "soul", но и "psyche", они теперь говорят "mind", чтобы никто не заподозрил бы их в эзотерике. Самое смешное что они продолжают при этом именоваться psychologist'ами, они не переименовали психологию в майндоведение.

Впрочем, я отвлёкся. Психика ли или душа -- без разницы, это некая сущность, которая включает в себя и "байесианскую" надстройку, и "эволюционный субстрат". Вы зря пытаетесь выделить в психике часть, под названием "душа". Вы вваливаетесь таким образом в рекурсию.

Если я думаю, то я думаю сразу всей головой не разделяя рациональные и нерациональные доли мозга. Если я ошибаюсь, то единственная доступная мне возможность понять что я вообще ошибся - свериться с внешними/наученными критериями ошибочности.
Да ладно. Вы просто плохо смотрели на то, как вы принимаете решения.

Если вы взяв на вооружение логику не рефлексируете процесс логического мышления, то вы перестали быть человеком. Поскольку это не так, поскольку вы всё ещё человек, то вы рефлексируете процесс логического мышления, и всегда готовы вмешаться и исправить ситуацию. Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево. Вы можете рассуждать сколько угодно о том, что логика непогрешима, но результат применения логики зависит от входных данных, которые вы в неё засунули, и от непогрешимости вашего логического вывода. Входные данные подбираете вы, непогрешимость зависит от вас. Принять ли результат логического вывода сразу, или долго перепроверять -- тоже зависит от вас. Как после этого вы можете утверждать, что принимаемые вами решения не имеют систематического bias'а, создаваемого некоей надстройкой над уровнем логического мышления?

Я год назад писал ЕГЭ по математике, и в процессе подготовки у меня встала проблема: как бы так избежать потери баллов на идиотских ошибках, типа "перепутал + с -" -- вёл алгебраические преобразования выражения, и переписывая перепутал. Я немного потренировался решать задачи и искать ошибки в решениях, и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка. Эта оценка работала имплицитно, и я не могу в точности сказать как она вычислялась, но могу предположить, что она зависела от того, насколько сложные преобразования я проводил, насколько я нагружал в процессе кратковременную память под хранение промежуточных результатов, насколько я был сосредоточен в процессе и тд. Я научился сознательно оценивать интенсивность этого чувства, и на основании этого принимать решение о том, сколько усилий надо приложить для поиска и исправления ошибок. То есть, некая сущность внутри моей психики, которую я называю словом "я", применяла математические навыки для того, чтобы решить задачу, после чего пользовалась возможностями "эволюционного субстрата", чтобы оценить вероятность ошибки, и на основании этого принимала решение о том, что делать дальше.

И тут вы берёте и заявляете что у вас в голове существует механизм позволяющий получать истинные суждения не опираясь на факты и на основании этого даёте себе право отрицать логику. Мне прям аж завидно)
Завидуйте молча. ;)

Логика, рациональность и вся прочая лабуда отличаются от человеческой психики тем, что человеческая психика может создать логику, она может улучшить логику, она может создать рациональность, формализовать рациональность, переосмыслить рациональность и изменить её, и изменять её систематически, с тем чтобы она становилась всё лучше и лучше. Ни логика же, ни рациональность не содержат в себе рефлексивного уровня, который бы объяснял как надо менять логику или рациональность. В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы. В байесианстве нет правил, которые бы объясняли как можно изменить теорему байеса, если она вдруг перестанет работать. Но человеческая психики это может. И поэтому, я всегда помню, и вам рекомендую помнить, что логика и рациональность -- это инструменты. И помня это, подумайте о том, кто же держит в руках эти инструменты?
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 10 Июнь 2016, 11:36
Ни логика же, ни рациональность не содержат в себе рефлексивного уровня, который бы объяснял как надо менять логику или рациональность. В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы.

Если логику брать широко, как произвольные формальные исчисления, то в формальных исчислениях - есть критерии неправильности, рефлексия и пути улучшения.
Критерии неправильности - внутренние противоречия.
Рефлексия - исчисление исчисления. Исчисление правил вывода, используемых для получения выводов. Изменение правил вывода так, чтобы они давали меньше противоречий в процессе применения.
Правила изменения исчисления - перебор, ввод новой переменной, поиск в ширину, поиск в глубину, тренировка упрощенной эвристики, градиентный спуск, переход на мета-уровень и т.д.

Обращаю внимание, что психика человека использует похожие инструменты для рефлексии.
Цитировать
Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево.
Необходимость усилия появляется из-за наличия противоречия: "для результата стоит убить старушку" и "убивать людей нехорошо". Стоит убрать противоречие  (например, переносом старушки из класса людей в класс неизбежных потерь) и психика легче адаптируется к решению.

Цитировать
как бы так избежать потери баллов на идиотских ошибках,
Внутреннее противоречие: "могу не делать эти ошибки" и "делаю эти ошибки".

Цитировать
и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка.

Тренировка эвристичного правила.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 10 Июнь 2016, 13:38
Если логику брать широко, как произвольные формальные исчисления, то в формальных исчислениях - есть критерии неправильности, рефлексия и пути улучшения.
Критерии неправильности - внутренние противоречия.
Рефлексия - исчисление исчисления. Исчисление правил вывода, используемых для получения выводов. Изменение правил вывода так, чтобы они давали меньше противоречий в процессе применения.
Правила изменения исчисления - перебор, ввод новой переменной, поиск в ширину, поиск в глубину, тренировка упрощенной эвристики, градиентный спуск, переход на мета-уровень и т.д.
А исчисление исчислений исчислений?
Где же, где же программная реализация всего этого, которая смогла улучшать сама себя и стать супер-интеллектом? Ну или хотя бы чем-то стать смогла. Где?
Логика не может улучшать сама себя. Даже если эту логику снабдить всеми теми алгоритмами, которые вы упоминали. Потому что логика не может изменить сама себя. Она имеет встроенные ограничения, которые одолеть не в состоянии. Она работает на множестве значений {истина, ложь}, и она не сможет расширить это множество ещё одним значением, если только человек не вмешается и не внесёт в логику либо это значение, либо специальный алгоритм расширяющий множество логических значений одним дополнительным. Бруснецовская троичная логика никак не следовала и не выткала из аристотелевской двоичной. Байесианство, заменяющее булевское множество на интервал (0, 1) никак не вытекает из логики и не является её следствием. Вот если этот интервал "закрыть", добавив туда значения 0 и 1, то тогда логика станет частным случае байесианства. Но если интервал оставить как есть, то логика является "предельным" случаем байесианства. И логическим путём от логики уйти в байесианство было невозможно. Байесианство было создано не логикой, а теми же креативным цепями головного мозга человека, которые когда-то создали логику.
И я заверяю вас, что байесианство, так же как и логика, бесплодно, оно не сможет родить себе наследника, потребуется вмешательство всё тех же креативных цепей человеческого мозга.
Обращаю внимание, что психика человека использует похожие инструменты для рефлексии.Необходимость усилия появляется из-за наличия противоречия: "для результата стоит убить старушку" и "убивать людей нехорошо". Стоит убрать противоречие  (например, переносом старушки из класса людей в класс неизбежных потерь) и психика легче адаптируется к решению.
Да. Но это противоречие возникает вне логики. На уровне эвристик, которые вполне могут быть имплицитными. Здесь, конкретно в данном случае, эвристика эксплицитная, она выразима словами, и поэтому её можно рассматривать как логическое правило и, таким образом, как часть логики. Но далеко не все эвристики эксплицитны, я бы даже сказал, что они чаще имплицитны.

Внутреннее противоречие: "могу не делать эти ошибки" и "делаю эти ошибки".
Нету там никакого противоречия. Противоречие возникает тогда, когда вы задним числом пытаетесь объяснить происходящее логикой. И тут ключевым является то, что "задним числом". До того как я нашёл ошибку в решении задачи, этой ошибки нет в моей голове. Нет ошибки, нет противоречия.
А если вы всё же об общей ситуации, о "могу не делать эти ошибки" и "делаю эти ошибки", для меня это не является противоречием. Я не знаю почему, может потому что моя "логика" круче вашей, и она более широкий класс утверждений считает непротиворечивыми, а может потому, что я вообще мыслю об этих ситуациях вне логики. А может потому, что моя модель реальности более дифференцирована, и я выделяю в себе "я", которое является ещё одним блоком обработки информации, и поэтому, выходит, что один блоки делает ошибки, а другой оценивает его способность не делать ошибки, и это разные блоки, хотя вы всё это вместе называете словом "я".
Тренировка эвристичного правила.
Отличное название вы придумали тому, что я описал. Но придумывание новых знаков, символов и терминов не отвечает на вопрос: кто или что пользуется как инструментом тем, чему вы нашли название? Логика? Или другое эвристическое правило?
Кто во мне сделал наблюдение, выявил это чувство из всех остальных чувств, связал его с вероятностью ошибки как некоей байесианской абстракцией, и затем разработал план по развитию этого чувства, как эвристического правила, и методики использования вероятности ошибки в алгоритме решения задачи. Кто проделал все эти операции? А кто потом, занимаясь интроспекцией, выявлял все эти шаги обработки информации, которые привели к усложнению алгоритма решения задачи, и обдумывая эти шаги, усложнял алгоритм тренировки мозга к новым задачам?
Мне кажется, что вы следом за nadeys делаете ту же самую ошибку: не замечая какой-то обработки информации происходящей в вашем мозгу (например потому, что она происходит без участия сознания), вы предполагаете, что это обработки нет и результат обработки берётся, как бы, ниоткуда. Вообще, это довольно распространённая ошибка -- на заре AI, полагали что задачи компьютерного зрения можно решить за пару лет. OpenCV появилась лет через пятьдесят после того. Есть ровно один способ избегать этой ошибки: надо сесть и написать алгоритм обработки информации. Если вы можете его написать, то тогда можно полагать, что у вас есть более-менее полное понимание происходящего. Если же у вас нет готового алгоритма, есть только список технологий, который настолько внушительно выглядит, что в голову не вмещается как же так он не сможет решить задачу, то это значит, что ваши рассуждения укладываются в лжередукционизм (http://lesswrong.ru/w/%D0%9B%D0%B6%D0%B5%D1%80%D0%B5%D0%B4%D1%83%D0%BA%D1%86%D0%B8%D0%BE%D0%BD%D0%B8%D0%B7%D0%BC), и, очень вероятно, вы упускаете что-то очень существенное.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 10 Июнь 2016, 14:45
Где же, где же программная реализация всего этого, которая смогла улучшать сама себя и стать супер-интеллектом? Ну или хотя бы чем-то стать смогла. Где?
https://en.wikipedia.org/wiki/Logic_Theorist
https://en.wikipedia.org/wiki/Coq
https://en.wikipedia.org/wiki/HOL_Light
https://en.wikipedia.org/wiki/Watson_(computer)

Логика не может улучшать сама себя. Даже если эту логику снабдить всеми теми алгоритмами, которые вы упоминали.

Формальные алгоритмы могут улучшать сами себя.
Простой пример алгоритмов, создающих знание - перебор. Полный или случайный. Требует экспонециальных вычислений, но умеет создавать новое знание.

Она имеет встроенные ограничения, которые одолеть не в состоянии. Она работает на множестве значений {истина, ложь}, и она не сможет расширить это множество ещё одним значением

Это самая простая логика, известная еще древним грекам. С тех пор прошло 2тыс лет.

Есть много других логик.
Fuzzy logic (https://en.wikipedia.org/wiki/Fuzzy_logic) - логика над нечеткими множествами
Many-valued logic (https://en.wikipedia.org/wiki/Many-valued_logic) - логика над много-значными значениями
https://en.wikipedia.org/wiki/Higher-order_logic (https://en.wikipedia.org/wiki/Higher-order_logic) - логика над множествами множеств
Теория категорий (https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B8%D1%8F_%D0%BA%D0%B0%D1%82%D0%B5%D0%B3%D0%BE%D1%80%D0%B8%D0%B9) - логика над произвольными объектами
Лямбда-исчисление (https://ru.wikipedia.org/wiki/%D0%9B%D1%8F%D0%BC%D0%B1%D0%B4%D0%B0-%D0%B8%D1%81%D1%87%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5) - логика над функциями



Есть ровно один способ избегать этой ошибки: надо сесть и написать алгоритм обработки информации. Если вы можете его написать, то тогда можно полагать, что у вас есть более-менее полное понимание происходящего.

Умею писать программы, которые самостоятельно обучаются решать произвольные задачи уровня шашек. Считаю, что это служит подтверждением моего понимания, что такое знание, мышление, понимание. И как они образуются.
А как по вашему? Является ли это достаточным подтверждением понимания понимания?

Добавлено 10 Июнь 2016, 14:47:
Пример частной логики над "Убежден", "Знает" и "Желает".
Цитировать
Формальная теория убеждений

Начнем с изучения связей между агентами и ‘‘мыслимыми объектами’’, таких как Believes (Убежден), Knows (Знает) и Wants (Желает). Отношения такого рода называются "пропозициональными позициями" (propositional attitude), поскольку они описывают позицию, которую может занять агент по отношению к некоторому высказыванию. Предположим, что Лойс в чем-то убеждена, т.е. Believes(Lois,x). Какого рода объектом является x? Очевидно, что x не может быть логическим высказыванием. Если утверждение, что Супермен летает (Flies(Superman)) — логическое высказывание, то нельзя составить выражение Believes(Lois,Flies(Superman)), поскольку параметрами предикатов могут быть только термы (а не высказывания). Но если Flies функция, то Flies(Superman) становится подходящим кандидатом на использование в качестве мыслимого объекта, а Believes может быть отношением между агентом и пропозициональным флюентным термом. Преобразование высказывания в объект называется "овеществлением" (reification).

По-видимому, такой подход позволяет достичь желаемого — появления у агента способности рассуждать об убеждениях агентов. Но, к сожалению, при использовании этого подхода возникает определенная проблема: если киноактер Кент Кларк и его герой Супермен — это одно и то же (т.е. Clark=Superman), то полет Кларка и полет Супермена — одна и та же категория событий, т.е. Flies(Clark)=Flies(Superman). По-этому мы обязаны сделать такой вывод: если Лойс уверена в том, что Супермен может летать, она должны быть также уверена в том, что Кларк может летать, даже если она не уверена в том, что Кларк — Супермен, как показано ниже.
(Superman = Clark) |=
  (Believes(Lois,Flies(Superman)) ⇔ Believes(Lois,Flies(Clark)))
В определенном смысле такое утверждение недалеко от истины: Лойс убеждена в том, что есть некое лицо, которому некогда присвоили имя Кларк, и что это лицо может летать. Но есть еще один смысл, в котором приведенное выше высказывание является ложным: если Лойс задать вопрос: ‘‘Может ли Кларк летать?’’, она, безусловно, ответит отрицательно. Овеществленные объекты и события вполне приемлемы для использования в первом смысле толкования предиката Believes, но во втором толковании необходимо овеществлять описания этих объектов и событий таким образом, чтобы Clark и Superman могли иметь разные описания (даже не смотря на то, что оба эти имени относятся к одному и тому же объекту).

Формально свойство высказывания, позволяющее свободно подставлять любой терм вместо равного терма, называется "ссылочной прозрачностью" (referential transparency). В логике первого порядка свойством ссылочной прозрачности обладает каждое отношение. Но нам было бы желательно иметь возможность определять Believes (и другие пропозициональные позиции) как отношения, второй параметр которых является ссылочно "непрозрачным" (opaque), т.е. таким, чтобы без изменения смысла нельзя было бы подставить равный терм вместо второго параметра.

Существуют два способа достижения этой цели. Первый из них состоит в использовании другой формы логики, называемой "модальной логикой" (modal logic), в которой такие пропозициональные позиции, как Believes и Knows, становятся "модальными операторами", обладающими свойством ссылочной непрозрачности. Этот подход рассматривается в разделе с историческими заметками. Второй подход, который будет применяться в данной главе, состоит в эффективном обеспечении непрозрачности в рамках ссылочно прозрачного языка с использованием
"синтаксической теории" мыслимых объектов. Это означает, что мыслимые объекты представляются константами "строками". Результатом становится грубая модель базы знаний агента, которая представлена как состоящая из строк, соответствующих высказываниям, в истинности которых убежден агент. Строка — это сложный терм,
обозначающий список символов, поэтому событие Flies(Clark) может быть представлено в виде списка символов [F,l,i,e,s,(,C,l,a,r,k,)], которые мы будем сокращенно записывать в виде строки, заключенной в кавычки, "Flies(Clark)".

Эта синтаксическая теория включает "аксиому об уникальности строк", в которой утверждается, что строки являются идентичными тогда и только тогда, когда они состоят из идентичных символов в одинаковой последовательности. Таким образом, даже если Clark=Superman, мы все равно имеем "Clark"≠"Superman".
Теперь достаточно лишь предусмотреть синтаксис, семантику и теорию доказательства для языка представления строк, точно так же, как это было сделано в главе 7. Различие состоит в том, что необходимо определить все эти компоненты в логике первого порядка. Начнем с определения Den (сокращение от denotatum — денотат, или обозначаемое) как функции, которая отображает некоторую строку на обозначаемый ею объект, и Name как функции, которая отображает объект на строку, представляющую собой имя константы, обозначающей этот объект. Например, денотатом строки "Clark" и строки "Superman" является объект, на который ссылается константный символ ManOfSteel (Человек из стали), а именем этого объекта в базе знаний может быть "Superman", "Clark" или какая-то другая константа, например "X11":
Den("Clark") = ManOfSteel ∧ Den("Superman") = ManOfSteel
Name(ManOfSteel) = "X11"

Следующий этап состоит в том, чтобы определить правила логического вывода для логических агентов. Например, может потребоваться сформулировать утверждение, что любой логический агент способен использовать правило отделения: если он уверен в истинности высказываний p и p ⇒ q, то он будет также уверен в истинности q. Первая попытка записать эту аксиому может состоять в следующем:
LogicalAgent(a) ∧ Believes(a,p) ∧ Believes(a,"p ⇒ q") ⇒ Believes(a,q)

Но эта попытка неудачна, поскольку строка "p ⇒ q" содержит буквы 'p' и 'q', но не имеет ничего общего со строками, являющимися значениями переменных p и q. Правильная формулировка состоит в следующем:
LogicalAgent(a) ∧ Believes(a,p) ∧ Believes(a,Concat(p,"⇒",q)) ⇒ Believes(a,q)
где Concat — функция на строках, которая соединяет (конкатенирует) свои параметры. Мы будем сокращенно записывать операцию Concat(p,"⇒",q) с помощью подчеркивания, как "p ⇒ q". Это означает, что вхождение x в строке должно быть "взятым без кавычек", или раскавыченным, т.е. мы должны подставить строковое значение переменной x. В языке Lisp такая операция выполняется с помощью оператора ‘‘запятая/обратная кавычка’’, а в языке Perl для этого используется интерполяция $-переменной.

После введения других правил логического вывода, кроме правила отделения, мы получим возможность отвечать на вопросы в такой форме: ‘‘Если дано, что логический агент знает такие-то предпосылки, может ли он прийти к такому-то заключению?’’ Кроме этих обычных правил логического вывода, требуются определенные правила, характерные для рассуждений об убеждениях. Например, следующее правило утверждает, что если логический агент в чем-то уверен, то он уверен, что он в этом уверен:
LogicalAgent(a) ∧ Believes(a,p) ⇒ Believes(a,"Believes(Name(a),p)")

Теперь, согласно нашим аксиомам, любой агент может безошибочно вывести любое следствие из своих убеждений. Такое свойство агента называется "логическим всеведением" (logical omniscience). Было сделано много попыток определить спецификации ограниченных рациональных агентов, которые способны выполнять ограниченное количество логических выводов за ограниченное время. Ни одна из этих попыток не оказалась полностью успешной, но описанные выше формулировки позволяют получить в высшей степени обоснованный ряд предсказаний о возможностях ограниченных агентов.
Искусственный интеллект: современный подход (AIMA-2) Стюарт Рассел, Питер Норвиг
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 10 Июнь 2016, 19:51
https://en.wikipedia.org/wiki/Logic_Theorist
https://en.wikipedia.org/wiki/Coq
https://en.wikipedia.org/wiki/HOL_Light
https://en.wikipedia.org/wiki/Watson_(computer)
Это самая простая логика, известная еще древним грекам. С тех пор прошло 2тыс лет.

Есть много других логик.
Fuzzy logic (https://en.wikipedia.org/wiki/Fuzzy_logic) - логика над нечеткими множествами
Many-valued logic (https://en.wikipedia.org/wiki/Many-valued_logic) - логика над много-значными значениями
https://en.wikipedia.org/wiki/Higher-order_logic (https://en.wikipedia.org/wiki/Higher-order_logic) - логика над множествами множеств
Теория категорий (https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B8%D1%8F_%D0%BA%D0%B0%D1%82%D0%B5%D0%B3%D0%BE%D1%80%D0%B8%D0%B9) - логика над произвольными объектами
Лямбда-исчисление (https://ru.wikipedia.org/wiki/%D0%9B%D1%8F%D0%BC%D0%B1%D0%B4%D0%B0-%D0%B8%D1%81%D1%87%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5) - логика над функциями
Какая из этих логик была выведена как логическое следствие из логики древних греков? Какая-нибудь из тех программ, которые вы упомянули, может изменить себя так, чтобы можно было бы говорить, что программа перешла с одной логики на другую? Что она изобрела новую логику и перешла на неё?

Ах никакая не может? А зачем тогда вы приводите эти бесполезнейшие программы, которые ничего не могут создать?

Формальные алгоритмы могут улучшать сами себя.
Простой пример алгоритмов, создающих знание - перебор. Полный или случайный. Требует экспонециальных вычислений, но умеет создавать новое знание.
Умею писать программы, которые самостоятельно обучаются решать произвольные задачи уровня шашек. Считаю, что это служит подтверждением моего понимания, что такое знание, мышление, понимание. И как они образуются.
А как по вашему? Является ли это достаточным подтверждением понимания понимания?
Нет, конечно же.

Пример частной логики над "Убежден", "Знает" и "Желает".Искусственный интеллект: современный подход (AIMA-2) Стюарт Рассел, Питер Норвиг
М-м-м... Чем это отличается от того, что говорили адепты AI в середине XX века? Ну, там, символьные вычисления, бла-бла-бла... Я навскидку не вижу ничего нового.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 10 Июнь 2016, 20:00
Какая из этих логик была выведена как логическое следствие из логики древних греков?

Новое - создается, находится или достраивается как предельный переход, а не является следствием.

Ах никакая не может? А зачем тогда вы приводите эти бесполезнейшие программы, которые ничего не могут создать?

Некорректный переход с "не может быстро непрерывно целенаправлено себя развивать" к "ничего не могут создать"

Цитировать
М-м-м... Чем это отличается от того, что говорили адепты AI в середине XX века? Ну, там, символьные вычисления, бла-бла-бла... Я навскидку не вижу ничего нового.

Ничем. Основные концепции мышления уже все давно выделены. Дело за малым. Скомбинировать идеи в цельный продукт.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 12 Июнь 2016, 01:31
Новое - создается, находится или достраивается как предельный переход, а не является следствием.
Вы можете привести реалистичный пример такому предельному переходу? Я не прошу именно в виде программного кода, но хоть что-нибудь. Я не вижу как этот предельный переход может быть логичным. И поэтому я не могу понять, может ли этот предельный переход применяться для развития основополагающих принципов этого самого предельного перехода, или не может.

Некорректный переход с "не может быстро непрерывно целенаправлено себя развивать" к "ничего не могут создать"
Если мыслящий агент не может целенаправленно себя развивать, то в долгосрочной перспективе он сольёт гонку интеллектуального развития человеку.

Ключевое отличие меня от программы в том, что я могу развиваться. Вот смотрите, взять например такую задачу, как сжатие данных. Мы можем взять любой охрененно современный и крутой алгоритм сжатия данных, и увидеть, что в этот алгоритм заложена некая модель входного потока, которую алгоритм изменить не может. Он может наполнить эту модель данными собранными из входного потока, эта модель подстроится, таким образом, под данный поток. Но вся эта подстройка будет производиться в жёстко заданных границах, определяемых этой моделью.

Изменить модель может только человек. Изучить опыт применения h264, провести дополнительные исследования тысяч часов видео и породить h265 может человек, но не машина. Машины обширно применяются в процессе исследований, но они не могут развивать кодек самостоятельно. И уж тем более кодек не может развивать сам себя.

Я верю в то, что сегодня теоретически известны методы исправить эту ситуацию. Но эти теоретические методы сами по себе эвристичны -- они будут основываться на матстатистике, которая вся подпёрта костылями эвристик, или предположений, которые с математической точки зрения взяты "с потолка". Впрочем, опытным путём установлено, что они работают. Как правило. И я верю в то, что они теоретически могут справиться с задачей. Но эти методы -- они вне логики. Логикой их обосновать невозможно. Потому что матстатистика, если копнуть поглубже, упирается в веру, что "здесь можно предположить, что распределение нашей случайной величины -- нормально".

Ничем. Основные концепции мышления уже все давно выделены. Дело за малым. Скомбинировать идеи в цельный продукт.
А это яркая демонстрация лжередукции. Основные концепции мышления были известны ещё Платону. Основные концепции физиологии упоминал Демокрит: он говорил о том, что всё создано из атомов, оставалось лишь создать список разных типов атомов, классифицировать соединения этих атомов, и объяснить про двойную мембрану из фосфолипидов и про гены из нуклеиновых кислот. Ну и всякие мелочи, типа РНК, рибосомы, микротрубочки, трансферазы, киназы, трансмембранные белки, нейромедиаторы, бла-бла-бла... И этим до сих пор, кстати, занимаются и... Я как минимум трижды, слушая лекции современных учёных, и задавая им вопросы, нечаянно выходил на ответ типа "а это современной науке неизвестно, есть статья прошлого года, которая вроде как свидетельствует в пользу того, что... но это всё вилами по воде писано".

"Основные концепции" -- это философское и ни к чему не обязывающее балабольство. Это не редукция. И это очень опасная вещь, потому что она работает как затычка для любопытства (http://lesswrong.ru/w/%C2%AB%D0%9D%D0%B0%D1%83%D0%BA%D0%B0%C2%BB_%E2%80%94_%D0%B7%D0%B0%D1%82%D1%8B%D1%87%D0%BA%D0%B0_%D0%B4%D0%BB%D1%8F_%D0%BB%D1%8E%D0%B1%D0%BE%D0%BF%D1%8B%D1%82%D1%81%D1%82%D0%B2%D0%B0).
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 12 Июнь 2016, 02:32
Вы можете привести реалистичный пример такому предельному переходу?

Сначала была единица. И был плюс.
Натуральные числа - применение "+" к 1.
"-" - обратная операция к "+".
0 и отрицательные числа - применение "-" к натуральным числам.
"*" - многократное применение "+"
"/" - обратная операция к "*"
рациональные дроби - применение "/" к целым числам
степень - многократное применение "*"
корень - обратная операция к степени
иррациональные числа - применение корня к рациональным числам
бесконечность - применение "/" к 0
и т.д.

Цитировать
"а это современной науке неизвестно
Имхо, не стоит приравнивать "неизвестно конкретному человеку из науки"  и "неизвестно современной науке".

ps
Любопытство - это важно.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 12 Июнь 2016, 03:12
Сначала была единица. И был плюс.
Натуральные числа - применение "+" к 1.
"-" - обратная операция к "+".
0 и отрицательные числа - применение "-" к натуральным числам.
Применение "-" к натуральными числам -- это либо натуральное число, либо логическая ошибка.
"-" определена как операция обратная к "+". Но если нам известно что a+b=c, при этом c = 2, а b = 5, то не существует такого числа a, такого что a+b=c.
Таким образом логически выйти за пределы натуральных чисел нельзя. Чтобы выйти за пределы натуральных чисел, надо проанализировать множество решений различных арифметических задач в натуральных числах, обратить внимание на то, что очень часто приходится высчитывать предикат "<" и в зависимости от результата применять различные но очень похожие ветви алгоритма (этот шаг невозможен для структуры, которая не умеет решать задачи и не умеет категоризировать). Затем надо проанализировать разницу между ветвями алгоритма, и вот тогда можно будет догадаться до унарного минуса. При этом я затрудняюсь вот так вот взять и формализовать "догадку": каким свойством должна обладать наша структура, чтобы породить такую догадку?

И я отмечу, если вы предложите некий логический принцип, который породит отрицательные числа, то проверьте, что этот принцип породит в аналогичной ситуации с делением:
"/" определена как операция обратная к "*", но не существует такого a, что a*0=1.

Кстати, а можно ли таким образом породить кватернионы?

Имхо, не стоит приравнивать "неизвестно конкретному человеку из науки"  и "неизвестно современной науке".
Скажите, это вы уже включили режим троллинга, или чем вы сейчас занимаетесь? Для меня это ваше заявление выглядит провокацией, потому что вы не можете не знать, что наука знает не всё. И даже если я и совершил ошибку, которую вы назвали, то это не изменит ничего по сути.

Но если всё же, это не провокация ухода в оффтопичные дебри, то что? Вы хотите пруфов на то, что ответ неизвестен науке?
Смотрите, есть такая штука как нейромедиатор -- это вещество которое вбрасывается в синаптическую щель из пресинапса и воздействует на рецепторы на постсинаптической мембране. Оно просто связывается с этими рецепторами. Это вещество ещё называют агонистом. Результатом такой связи может быть открытый ионный канал, через который в постсинапс ломанутся иончики Na+, произойдёт деполяризация мембраны и с постинапса стартанёт потенциал действия, то есть спайк побежит.
Эти спайки могут пробегать через синапс десятками в секунду. И вот интересный вопрос: а как интересно молекулу нейромедиатора снимают с рецептора? Что должно случиться? Какой-то дополнительный химический агент вмешивается? Или может когда мембрана деполяризуется, то трансмембранный белок, частью которого является рецептор, меняет конформацию и лиганд отваливается от рецептора обратно в синаптическую щель, где уже включилась какая-то программа утилизации нейромедиатора? Собственно о том, как нейромедиаторы утилизируются, в общем известно довольно много -- они могут при помощи пиноцитоза, захватываться пресинапсом; они могут разрушаться при помощи ферментов; они могут всасываться глией, которая затем их либо метаболизирует, либо передаёт соседним нейронам. Но как и почему нейромедиатор отделяется от рецептора?
Вот вам вопрос. sci-hub вам в помощь.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 12 Июнь 2016, 04:02
Применение "-" к натуральными числам -- это либо натуральное число, либо логическая ошибка.

Предельный переход  делается следующим образом:
допустим, что "2 - 5" ("a - b", где a <= b) в некотором другом контексте(вне контекста натуральных чисел) конструирует некий объект. Проверим свойства этого объекта на непротиворечивость, найдем границы непротиворечивости, зафиксируем обозначение объекта.

Цитировать
Вы хотите пруфов на то, что ответ неизвестен науке?

Да, хочу пруфов в контексте исходной темы "знание, понимание, мышление".

ps
Предложенный пример о нейромедиаторе из другой темы. Из темы устройства частного биологического вычислителя.
Название: Re: Рефлексия логического мышления
Отправлено: nadeys от 13 Июнь 2016, 20:51
Не понимаю 90% вышенаписанного. :(
Цитировать
Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево.
Не могу представить такую ситуацию.

Если логика подскажет мне что убийство старушки это полезное деяние которое принесёт мне/обществу выгоду, то я возьму топор и убью старушку.
Если логика подскажет мне что совершение убийства означает высокий риск уголовного преследования и высокий риск психических проблем, то я не буду убивать старушку.

Явление "опровергать свою собственную логику" я могу представить не более чем "воевать против собственной руки". Т.е. Юдковский в вымышленной книжке конечно же красиво описал как Гарри боролся с внутренним слизеринцем, но ИРЛ очевидно же что это была не борьба логикиVSпсихики, а просто визуализация процесса работы самой логики. Так называемый "голос совести" - это не какое-то отдельное явление вашей психики, а та же самая логика.

Цитировать
В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы.
Вообще-то такое правило - есть:
Если мы придерживаемся Х и мы до сих пор живы, то Х это верная или просто неопасная аксиома.
Если погибший индивид придерживался Y, то Y с высокой вероятностью опасно или бесполезно.


За два миллиона лет постоянной конкурентной борьбы в человеческой ноосфере методом жесточайшего естественного отбора остались по большей части только верные аксиомы. Эти верные аксиомы и являют собой базис того что мы называем "здравым смыслом".
Название: Re: Рефлексия логического мышления
Отправлено: valergrad от 14 Июнь 2016, 00:27
За два миллиона лет постоянной конкурентной борьбы в человеческой ноосфере методом жесточайшего естественного отбора остались по большей части только верные аксиомы. Эти верные аксиомы и являют собой базис того что мы называем "здравым смыслом".

Не соглашусь.
Если мы рассмотрим спектр представлений среднего деревенского жителя в 16-м веке , то даже по современным меркам ошибочным будет большинство его представлений. А еще через какое-то время этот процент еще уменьшится ( когда что-то что нам сейчас кажется истинным, перестанет таким быть).

Возьмем к примеру народные приметы. Упала ложка - придет женщина, вилка - мужчина. Это весьма распространенная примета, которая ничего общего, очевидно, не имеет с реальностью. Как она распространилась? Кто ее придумывал? А разные ритуалы - типа проводов зимы и т.п. и еще кучи ритуалов, которые были призваны привлечь хороший урожай. 90% из них, разумеется, ничего не привлекали.

Вы скажете, что это неопасный ритуал, просто бесполезный?
Хорошо, возьмем племя форе с их ритуальным каннибализмом. Это крайне опасный ритуал, который чуть не убил всю народность из-за болезни куру. Собственно и  какая-нибудь другая болезнь могла убить их племя через этот ритуал давным давно. При этом, тысячелетиями им могло везти, а потом раз - и внезапно все племя погибает. Оказывается, "так делали наши отцы и деды" не всегда безопасная стратегия в нашем сложном мире.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 14 Июнь 2016, 01:34
Да, хочу пруфов в контексте исходной темы "знание, понимание, мышление".
Я думаю, что пруфов не будет.

Моя убеждённость базируется на том, что я не вижу разницы между тем как мы оцениваем задачу создания AI и тем как её оценивали 50 лет назад. 50 лет назад всё выглядело так, будто AI появится уже вот-вот, надо только немного покомбинировать. И сегодня это выглядит так же. Хотя если сегодня оглядываться на путь пройденный за 50 лет, то становится ясно, что 50 лет тому назад учёные и инженеры ошибались. И я подозреваю, что лет через пятьдесят учёные и инженеры глянут на то, что было сегодня, и точно так же сочтут, что мы ошибаемся, полагая что "осталось лишь покомбинировать".

AI сегодня справляются с узкими классами задач и... Вот смотрите, компьютеры порвали людей в шахматы, в го, но смогли ли эти крутанские программы привнести что-то в теорию шахмат? Или может они смогли рассказать как им удалось обыграть человека? Может они могут дать советы гроссмейстерам о том, как они могут улучшить свою игру? Нет конечно же, эти компьютеры не владеют речью и всё что они могут -- играть в шахматы или го. А если мы попытаемся представить себе AI, который сам будет справляться с новыми для него и для человечества задачами, рефлексируя то как он это делает и излагая человеку, то я уверен, что такой AI создать тупо комбинируя не удастся. Придётся создавать более крупные кубики, которые можно комбинировать между собой, то есть выходить на более высокий уровень абстракций. Чтобы AI решал задачи актуальные для человека, этот AI должен функционировать примерно на том же понятийном уровне, что и человек. А для этого придётся создать довольно сложную модель мира, как часть этого AI. А... Ну да, а для этого придётся разговаривать уже в терминах понятий, причём понятие будет чем-то в стиле того, что есть в голове у человека, а это непросто.

И я не могу это доказать. Это просто моя убеждённость: интеллект слишком сложная система, чтобы её можно было бы создать тупо комбинируя. Надо действовать более целенаправленно, а для этого нужно что-то большее, чем идея комбинирования.

Явление "опровергать свою собственную логику" я могу представить не более чем "воевать против собственной руки".
Да? То есть, вам никогда не приходилось ошибаться, и казалось бы логическим путём приходить к неверным выводам? Если так, то вам можно только позавидовать.

Вообще-то такое правило - есть:
Если мы придерживаемся Х и мы до сих пор живы, то Х это верная или просто неопасная аксиома.
Если погибший индивид придерживался Y, то Y с высокой вероятностью опасно или бесполезно.
Ну, во-первых, в логике нет такого правила. Вы можете взять учебник логики и проверить.
То что вы излагаете, это скорее некое экзистенциальное правило, эдакая аксиома для построения мировоззрения. И мне оно не нравится как аксиома. Я считаю, что мировоззрение должно быть построено так, чтобы иметь возможность усомниться и отказаться от такого правила, если это будет полезно.

За два миллиона лет постоянной конкурентной борьбы в человеческой ноосфере методом жесточайшего естественного отбора остались по большей части только верные аксиомы. Эти верные аксиомы и являют собой базис того что мы называем "здравым смыслом".
Вы не читали Канемана? Почитайте, это психолог, который получил нобелевскую премию по экономике, потому что он показал, что люди тысячелетиями совершали одни и те же ошибки. И даже современные экономисты с высшим образованием и многолетним стажем работы совершали всё те же самые ошибки.
Не любое изменение -- это улучшение, но любое улучшение -- изменение. Чтобы улучшать надо изменять, а чтобы изменять надо сомневаться в эффективности того, что есть. Не придумывая себе отговорок.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 14 Июнь 2016, 02:36
А для этого придётся создать довольно сложную модель мира, как часть этого AI. А...

Необходимо создать механизм формирования новых понятий. Но, стоп.. такой класс алгоритм уже известен - алгоритмы категоризации/кластеризации. Особенно хорошо эти алгоритмы выполняют современные нейронные сети, которых не было 50 лет назад.

Ну да, а для этого придётся разговаривать уже в терминах понятий, причём понятие будет чем-то в стиле того, что есть в голове у человека, а это непросто.

Оперирование понятиями делается на основе логического и математического исчисления? Или на основе чего-то другого?

И я не могу это доказать. Это просто моя убеждённость: интеллект слишком сложная система, чтобы её можно было бы создать тупо комбинируя.
Знакомы с понятием "эмерджентное свойство (https://ru.wikipedia.org/wiki/%D0%AD%D0%BC%D0%B5%D1%80%D0%B4%D0%B6%D0%B5%D0%BD%D1%82%D0%BD%D0%BE%D1%81%D1%82%D1%8C)"? Оно получается в результате комбинирования? Или в результате чего-то другого?

Надо действовать более целенаправленно

Знакомы с ТРИЗ (https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B8%D1%8F_%D1%80%D0%B5%D1%88%D0%B5%D0%BD%D0%B8%D1%8F_%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B5%D1%82%D0%B0%D1%82%D0%B5%D0%BB%D1%8C%D1%81%D0%BA%D0%B8%D1%85_%D0%B7%D0%B0%D0%B4%D0%B0%D1%87)? Алгоритм Дейкстры (https://ru.wikipedia.org/wiki/%D0%90%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC_%D0%94%D0%B5%D0%B9%D0%BA%D1%81%D1%82%D1%80%D1%8B)? Алгоритмы информированного поиска (https://ru.wikipedia.org/wiki/%D0%98%D0%BD%D1%84%D0%BE%D1%80%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%BD%D1%8B%D0%B9_%D0%BC%D0%B5%D1%82%D0%BE%D0%B4_%D0%BF%D0%BE%D0%B8%D1%81%D0%BA%D0%B0#IDAStar)? Градиентный спуск (https://ru.wikipedia.org/wiki/%D0%93%D1%80%D0%B0%D0%B4%D0%B8%D0%B5%D0%BD%D1%82%D0%BD%D1%8B%D0%B9_%D1%81%D0%BF%D1%83%D1%81%D0%BA)?
Под целенаправленным вы понимаете то, что делают указанные концепции? Или что-то другое? Что?
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 14 Июнь 2016, 10:45
Необходимо создать механизм формирования новых понятий. Но, стоп.. такой класс алгоритм уже известен - алгоритмы категоризации/кластеризации. Особенно хорошо эти алгоритмы выполняют современные нейронные сети, которых не было 50 лет назад.
Нет. Сегодняшние нейронные сети не могут создавать понятия уровня человека. Во-первых, вероятно, потому что никому пока ещё не удавалось просимулировать работу десятков миллиардов нейронов с триллионами синапсов в течение десяти лет (примерно столько требуется человеку, чтобы выйти на понятийное мышление), во-вторых, человеческая нейросетка в голове -- это не просто 86 миллиардов нейронов соединённых случайным образом, а гораздо более продуманная штука.
Мало того, эта гораздо более продуманная штука должна лет десять находится в довольно специфических условиях и заниматься обучением, которое отчасти запрограммировано в культуре людей, отчасти в нервной системе ребёнка.
Оперирование понятиями делается на основе логического и математического исчисления? Или на основе чего-то другого?
В голове у человека? Нет. Человек к этому стремится, но его понятия слишком сложны и, подчастую, имплицитны. Поэтому для того, чтобы навести порядок в некоторой области знаний, требуется куча учёных, которые будут сидеть, вылизвать определения, формулировки годами, а то и десятилетиями.
Это знаете, как с гориллой Коко, которая выросла среди людей и считала себя человеком. Она классифицировала себя как человека, а не как гориллу. И я уверен, что она даже не замечала того, что с точки зрения классификации ей место среди горилл. Так вот, человеческое понятие вполне может содержать костыли такого уровня. И чтобы общаться с AI надо либо AI научить работать со всеми этими костылями, либо человека научить работать без всех этих костылей. И оба направления возможных действий подразумевают десятилетия работы.
Знакомы с понятием "эмерджентное свойство (https://ru.wikipedia.org/wiki/%D0%AD%D0%BC%D0%B5%D1%80%D0%B4%D0%B6%D0%B5%D0%BD%D1%82%D0%BD%D0%BE%D1%81%D1%82%D1%8C)"? Оно получается в результате комбинирования? Или в результате чего-то другого?
Оно получается в результате того, что человек не понимает, откуда и как оно получается. Говорить слово "магия" как-то не принято, поэтому человек говорит "эмерджентное свойство". Если что-то непонятное обозначить хитрым словом, оно не перестанет от этого быть непонятным. И уж тем более оно не начнёт существовать просто потому, что мы придумали ему название.

Знакомы с ТРИЗ (https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B8%D1%8F_%D1%80%D0%B5%D1%88%D0%B5%D0%BD%D0%B8%D1%8F_%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B5%D1%82%D0%B0%D1%82%D0%B5%D0%BB%D1%8C%D1%81%D0%BA%D0%B8%D1%85_%D0%B7%D0%B0%D0%B4%D0%B0%D1%87)? Алгоритм Дейкстры (https://ru.wikipedia.org/wiki/%D0%90%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC_%D0%94%D0%B5%D0%B9%D0%BA%D1%81%D1%82%D1%80%D1%8B)? Алгоритмы информированного поиска (https://ru.wikipedia.org/wiki/%D0%98%D0%BD%D1%84%D0%BE%D1%80%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%BD%D1%8B%D0%B9_%D0%BC%D0%B5%D1%82%D0%BE%D0%B4_%D0%BF%D0%BE%D0%B8%D1%81%D0%BA%D0%B0#IDAStar)? Градиентный спуск (https://ru.wikipedia.org/wiki/%D0%93%D1%80%D0%B0%D0%B4%D0%B8%D0%B5%D0%BD%D1%82%D0%BD%D1%8B%D0%B9_%D1%81%D0%BF%D1%83%D1%81%D0%BA)?
Под целенаправленным вы понимаете то, что делают указанные концепции? Или что-то другое? Что?
Это примерно как "эмерджентность". Если мы перечислим все те инструменты, при помощи которых человек исследует мир, и находит новые технические решения, то можно будет сказать, что их достаточно для создания AI. Можно даже поступить ещё проще, можно сказать, что у человека есть мозг, и этого уже достаточно для создания AI, надо просто поработать этим мозгом.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 14 Июнь 2016, 12:41
Нет. Сегодняшние нейронные сети не могут создавать понятия уровня человека. Во-первых, вероятно, потому что никому пока ещё не удавалось просимулировать работу десятков миллиардов нейронов с триллионами синапсов в течение десяти лет (примерно столько требуется человеку, чтобы выйти на понятийное мышление), во-вторых, человеческая нейросетка в голове -- это не просто 86 миллиардов нейронов соединённых случайным образом, а гораздо более продуманная штука.

Выше используется подход сакрализации (анти-редукционизм). Вместо того, чтобы процесс выделения понятий описать через простую редукцию, он описывается как сакральный сложный "магический" процесс.

Если затабуизировать "мозг - это продуманная штука", "человеческая нейросетка - это не просто" и т.д., то что из себя представляет процесс выделения понятий? Что на входе? Что на выходе?

Цитировать
В голове у человека? Нет.

Идет перескакивание между процессами "выделения понятий" и "оперирование понятиями".
Да, выделение понятий - это не логический процесс. Это результат работы нейронной сети, как алгоритма категоризации.
Но оперирование понятиями - это логический процесс.

Цитировать
Она классифицировала себя как человека, а не как гориллу. И я уверен, что она даже не замечала того, что с точки зрения классификации ей место среди горилл.

С понятиями стоит быть очень аккуратными. Одно и тоже слово часто кодирует десятки понятий.
Например, если человек - это тот, кто живет в доме. Использует посуду и т.д. , то Коко - человек. И она корректно выделила и использует это понятие.
Если понятие "человек" приравнивается к "homo sapiens", то да, тогда неверно утверждение "Коко -  homo sapiens".

Заметь, что рассуждения о корректности использования понятия "человек", используют логический аппарат. Это подтверждает утверждение: выделение понятий - процесс стихийный (псевдослучайный результат алгоритма категоризации), оперирование понятиями - логический формальный процесс.

Цитировать
Оно получается в результате того, что человек не понимает, откуда и как оно получается. Говорить слово "магия" как-то не принято, поэтому человек говорит "эмерджентное свойство".

Так что такое "эмерджентное свойство"? Как оно редуцируется?

Цитировать
Если мы перечислим все те инструменты, при помощи которых человек исследует мир, и находит новые технические решения, то можно будет сказать, что их достаточно для создания AI. Можно даже поступить ещё проще, можно сказать, что у человека есть мозг, и этого уже достаточно для создания AI, надо просто поработать этим мозгом.

Для получения "эмерджентного свойства" необходимо выделить достаточные условия появления "эмерджентности". Например, для появления эмерджентного свойства "огонь" достаточно восстановителя, окислителя, тепла или искры.
Для эмерджентного свойства "мышление" достаточно алгоритмов категоризации и алгоритмов формального исчисления.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 14 Июнь 2016, 16:30
Выше используется подход сакрализации (анти-редукционизм). Вместо того, чтобы процесс выделения понятий описать через простую редукцию, он описывается как сакральный сложный "магический" процесс.

Если затабуизировать "мозг - это продуманная штука", "человеческая нейросетка - это не просто" и т.д., то что из себя представляет процесс выделения понятий? Что на входе? Что на выходе?
Это не табу. Это лишь констатация факта. Чтобы создать что-либо подобное, надо редуцировать. Надо расчленять объект на части. Двигаясь сверху вниз, или снизу вверх. Или с обеих сторон навстречу. А не постулировать что "по-любому это можно сделать как-нибудь", "ну, не может быть так, чтобы было не можно".

Идет перескакивание между процессами "выделения понятий" и "оперирование понятиями".
Да, выделение понятий - это не логический процесс. Это результат работы нейронной сети, как алгоритма категоризации.
Но оперирование понятиями - это логический процесс.
Нет. Оперирование понятиями станет полностью логическим процессом лишь тогда, когда понятие станет чётко формализованным. До тех же пор, пока понятие -- это определённое состояние нейронной сети (или определённый класс таких состояний), логика может играть лишь вспомогательную роль.
С понятиями стоит быть очень аккуратными. Одно и тоже слово часто кодирует десятки понятий.
Например, если человек - это тот, кто живет в доме. Использует посуду и т.д. , то Коко - человек. И она корректно выделила и использует это понятие.
Если понятие "человек" приравнивается к "homo sapiens", то да, тогда неверно утверждение "Коко -  homo sapiens".
Дело в том, что сам факт того, что слово может кодировать десятки понятий, вытекает из того, как человеческий мозг в приниципе создаёт понятия. То как он категоризирует.
Смотрите, у человека в голове есть некая подсистема, которая имплицитно создаёт понятия. В принципе, работу этой подсистемы можно описать созданием некоей гиперповерхности в объектном пространстве, которая ограничивает тот класс объектов, который соответствует понятию. Эта подсистема на входе может брать вообще всё состояние мозга, и она имеет некие ограничения по сложности той гиперповерхности. Сложность -- это примерно в смысле колмогоровской сложности, количество бит необходимых для описания этой гиперповерхности.
И этой подсистеме совершенно без разницы какой сложности гиперповерхности выдавать в процессе категоризации (до тех пор, пока эта сложность укладывается в пределы возможностей этой подсистемы). Ей совершенно не важно какие входные данные считать важными, а какие нет. Её интересует лишь эффективность получающейся классификации для решения тех задач, для которых классификация применяется. Для этой подсистемы не сложно включить в класс "людей" одну обезьяну только потому, что та постоянно находится рядом с людьми, потому что она ведёт себя как человек, потому что она строго коррелирована с людьми.
А, и кстати, к демонстрации того, насколько же встроенные и незаметные глазу механизмы могут влиять на сложность того, что творится в голове. Дело в том, что есть такая хрень как импринтинг, и понятие "особь моего вида" формируется в раннем детстве через импринтинг. То есть само понятие видимо является встроенным, животное рождается с ним, но после рождения понятие актуализируется через импринтинг. Половое влечение реализуется через этот импринтинг, и для той гориллы, я предположу, другие гориллы были сексуально непривлекательны.
И такое творится со всеми понятиями, которые формируются через имплицитное обучение. А это абсолютно все базовые понятия, которые человек изучает в детстве. Это большинство понятий, которые есть в голове у человека.

Заметь, что рассуждения о корректности использования понятия "человек", используют логический аппарат. Это подтверждает утверждение: выделение понятий - процесс стихийный (псевдослучайный результат алгоритма категоризации), оперирование понятиями - логический формальный процесс.
Рассуждения о корректности просто сравнивают наше понимание слова "человек" с пониманием Коко. Логика здесь просто способ это сравнение вербализовать.

Так что такое "эмерджентное свойство"? Как оно редуцируется?
Никак оно не редуцируется. Если свойство можно явно редуцировать, то его не будут называть эмерджентным. Вот если редуцировать никому не удаётся, но человек пытается доказать, что тем не менее редуцировать можно, то когда у него кончатся аргументы по существу, он скажет "эмерджентное свойство".

Для получения "эмерджентного свойства" необходимо выделить достаточные условия появления "эмерджентности". Например, для появления эмерджентного свойства "огонь" достаточно восстановителя, окислителя, тепла или искры.
Для эмерджентного свойства "мышление" достаточно алгоритмов категоризации и алгоритмов формального исчисления.
Если вы сейчас напишете дифуры, объясняющие как возникает "огонь", то вам не потребуется слово "эмерджентность". Вы можете заменить дифуры словесным объяснением того, как, что и с чем взаимодействует, но если этого объяснения будет недостаточно для написания дифур, значит, всё же, останутся серьёзные подозрения, что огонь для вас "эмерджентное" свойство, то есть свойство, которое вы не понимаете.
Представьте себе, что вы пытаетесь объяснить огонь тому кто никогда не видел огня. Как вам в этом поможет слово "эмерджентность"? Вы попробуйте на самом деле. И вы поймёте, что сказать "это свойство эмерджентно" -- это примерно то же самое, что на вопрос "почему" ответить "потому что".

Мне, допустим, далеко не очевидно как можно взять и водрузить алгоритмы формального исчисления на некий категоризатор, чтобы алгоритмы формального исчисления пользовались бы категориями категоризатора, и при этом ещё вмешивались бы в категоризацию и даже управляли бы ею. Или чтобы категоризатор для категоризации задействовал бы алгоритмы формального исчисления? Человеческие мозги так делают, и для меня не является очевидно верным утверждение, что если просто выкинуть эту способность и заменить её дополнительными вычислительными мощностями, то из этого выйдет толк.
Не, я не спорю с тем, что "как-нибудь то можно, по-любому, не может быть, чтобы было не можно". Но пока человечество будет выяснять это "как-нибудь" пройдёт пятьдесят лет, и через пятьдесят лет специалисти по созданию AI будут смотреть на наши сегодняшние знания, и хихикать: "они думали, что всё знают, что им осталось чуть-чуть, наивные, лол". Так же как мы хихикаем над профессором из середины XX века, который выдал студенту курсовую на тему "компьютерное зрение".
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 14 Июнь 2016, 17:43
До тех же пор, пока понятие -- это определённое состояние нейронной сети (или определённый класс таких состояний), логика может играть лишь вспомогательную роль.

Чем обосновывается это утверждение?
Конкретное состояние нейронов - это конкретный символ. Логика отлично работает с символами.

В принципе, работу этой подсистемы можно описать созданием некоей гиперповерхности в объектном пространстве, которая ограничивает тот класс объектов, который соответствует понятию.

Формирование понятий - это выделение областей на гиперплоскости. Понятие "собака" - это область на плоскости "вид".
Понятие "Большая" - это область на плоскости "размер". Понятие "Размер" - это область на плоскости характеристик.
Понятие "характеристики" - это область на плоскости соотношения частей и целого.

Эта подсистема на входе может брать вообще всё состояние мозга, и она имеет некие ограничения по сложности той гиперповерхности.

Напрямую не может. Напрямую - эта подсистема берет N состояний с предыдущего уровня. Берет на вход N других понятий/символов/состояний.

Смотрите, у человека в голове есть некая подсистема, которая имплицитно создаёт понятия.

В целом совсем согласен. Но как из этого следует, что тоже самое не может делать не очень большой алгоритм на компьютере?

Цитировать
Никак оно не редуцируется. Если свойство можно явно редуцировать, то его не будут называть эмерджентным.

Вы сейчас говорите о примерах эмерджентных свойств. Огонь, двигатель, радио и т.д. - да, не редуцируется. Невозможно найти эти свойства в элементах, из которых состоят огонь, двигатель, радио.
Я спрашивал про другое, про мета-уровень. Как редуцируется само понятие "эмерджентность"?

Цитировать
Если вы сейчас напишете дифуры, объясняющие как возникает "огонь", то вам не потребуется слово "эмерджентность".

Это не так.

Следует ли из данного утверждения,  что слепому можно объяснить что такое "цвет" с помощью диффуров?

Представь человека, инопланетянина и т.д., который ни разу не встречал огонь. Чем ему поможет диффур для понимания, что такое огонь?

Диффур описывает распространение огня и т.д., но не само понятие огонь.

Цитировать
Представьте себе, что вы пытаетесь объяснить огонь тому кто никогда не видел огня. Как вам в этом поможет слово "эмерджентность"?

Понятие "Эмерджентность" помогает передать знание о том, что речь идет о новой характеристике/свойстве, которое не выражается с помощью других явлений/понятий.
Утверждение "X - эмерджентное свойство" говорит о том, что не стоит искать это свойство через декомпозицию на составные элементы.

"Огонь - эмерджентное свойство" - говорит о том, что не стоит искать огонь среди веществ.
"Мышление - эмерджентное свойство" говорит о том, что не стоит искать мышление среди нейронов. 
"Куча - эмерждентное свойство" говорит о том, что не стоит искать кучу среди песчинок.

"X - эмерджентное свойство" утверждает, что нет способа описать X. Есть способ описать взаимодействие X с другими понятиями. Есть способ описать необходимые и достаточные условия для появления X. Есть способ описать критерии для опознавания X. Но нет способа описать само X.

Цитировать
Мне, допустим, далеко не очевидно как можно взять и водрузить алгоритмы формального исчисления на некий категоризатор, чтобы алгоритмы формального исчисления пользовались бы категориями категоризатора, и при этом ещё вмешивались бы в категоризацию и даже управляли бы ею.

В чем видится сложность? Чем не подходит технологии по соединению произвольных алгоритмов?

Цитировать
Так же как мы хихикаем над профессором из середины XX века, который выдал студенту курсовую на тему "компьютерное зрение".

Теперь понятно в чем была ошибка. Был недоучет "комбинаторного взрыва".
Допустим есть способ обойти комбинаторный взрыв. В чем видится следующее препятствие?
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 15 Июнь 2016, 15:11
Мне кажется, что с эмерджентностью и редукцией мы спорим о смысле слов.

Допустим, у нас есть некие "элементы" (например, таблица Менделеева или, например, логические вентили), мы хотим при помощи этих элементов объяснить какое-то более сложное явление, то возможны такие расклады:
1. явление можно объяснить, но все попытки построить модель этого явления (дифуру, симулятор или ещё что-нибудь) безуспешны, мы конечно же не теряем надежды и продолжаем пытаться
2. построена работоспобная и всех устраивающая модель/симулятор
3. явление невозможно свести к элементам, например, термоядерные реакции не сводятся к таблице Менделеева, или ещё хитрее: если из таблицы Менделеева выкинуть углерод, а потом попытаться из оставшегося смоделировать живую клетку.

Так вот. В случае (2) нет необходимости произность слово "эмерджентность", даже более того оно будет лишним в этом случае, потому что всегда когда мы из элементов строим что-то более сложное, то это что-то более сложное не существует среди элементов и, таким образом, "эмерджится". То есть, если у нас есть модель, то она с вероятностью 1 эмерджентна, поэтому произность "эмерджентная модель" -- это типа "масло масляное". И никто не произност слова "эмерджентность" в ситуациях, когда речь идёт об построенной модели/дифуре, о написанном симуляторе или чём-то подобном.

Если есть возможность отличить случай (3) от (1), то тогда нам ситуация становится неинтересной. Под возможностью отличить, я называю, например, некую модель, которая моделирует живую клетку добавляя в "урезанную таблицу менделеева" недостающих атом углерода. Когда мы увидим такую модель, и редуцируем живую клетку в химию, нам станет ясно что урезанная таблица не решает проблем. И тогда ситуация становится неинтересной и слово "эмерджентность" оказывается ненужным.

Если нет возможности отличить случай (3) от (1), то есть если у нас есть элементы, нам кажется, что из них можно построить модель явления, но нам это никак не удаётся, то вот в этой ситуации люди начинают говорить "эмерджентно". Но в этой ситуации слово "эмерджентно" ничего не объясняет. Оно лишь показывает нам, что тот кто говорит это слово находится либо в (1), либо в (3), сам при этом не знает где именно, но искренне верит, что в (1).

Возвращаясь к (2). Я просто приведу примеров.
Сравните "кисть эмерджится из ладони и пальцев" и "кисть состоит из ладони и пальцев".
Или возьмём такой термодинамический макропараметр как давление, которое эмерджится из соударения молекул со стенками сосуда. Сравните с "давление возникает благодаря соударению молекул со стенками сосуда".
В чём разница? В том что слово "эмерджится" не говорит каким образом связаны элементы с объектом, слово "эмерджится" просто постулирует наличие связи. И я не совсем понимаю, что вы хотите от меня, когда просите меня редуцировать "эмерджентность". Я могу объяснить откуда в голове у человека появляется такое понятие -- это очень общее понятие, обобщающее всевозможные способы построить целое из элементов. Является ли это редукцией? Мне кажется, что нет.

Ну или более сложный пример... Я могу написать десяток стен текста, и объяснить такое явление как "сайт lesswrong.ru" транзисторами. Показать как из транзисторов строятся логические вентили, как из этих вентилей строятся триггеры, сумматоры, декодеры адреса, команд, как строится оперативная память, как строится процессор. И я могу реально взять редактор логических схем и нарисовать там простенький, но тьюринг полный, процессор. Я могу взять пример более реалистичного процессора, разобрать его архитектуру, систему команд, и объяснить как из отдельных команд можно составлять осмысленные программы. Затем я могу объяснить как работают абстракции высокоуровневых языков, как они компилируются или интерпретируются.  Я могу объяснить как при помощи всех этих знаний создаются операционные системы, и в какой собственно средне приходится выполняться прикладным программам, типа браузера или http-сервера. Я могу объяснить в любой степени детализации как браузер взаимодействует с операционной системой, чтобы на экране рисовались бы сайты. Точно так же я могу в любых деталях и подробностях объяснить как работают http-сервер, sql-сервер, как они связываются воедино при помощи php. Ну и если я упустил какие-то вопросы в этом длинном перечислении, то я их тоже могу раскрыть. Я уверен в этом и у меня есть причины для этой уверенности: я излазал весь этот стек ПО сверху-вниз и снизу-вверх, я либо писал код, либо шлялся дебуггером на всех этих уровнях.
И вот это я называю пониманием того, что такое "сайт lesswrong.ru". И на фоне такого понимания у меня не возникает нужды говорить о том, что lesswrong.ru -- это эмерджентное свойство кучки транзисторов. Оно не эмерджентное, оно ведь не возникает из ниоткуда. lesswrong.ru можно описать в терминах транзисторов, о нём можно говорить в терминах транзисторов и состояний транзисторов, и если мы этого не можем делать -- то это свойство нашего мозга, который слишком слаб для того, чтобы реально вращать в голове столь сложную модель lesswrong. Я вижу эту связь между транзисторами и lesswrong.ru как некий гомоморфизм из возможных состояний "мира транзисторов" в возможные состояния lesswrong.ru. И, что более важно, я могу этот гомоморфизм формализовать. Точнее я верю в то, что могу, но, как я выше написал, у меня для этого есть достаточно оснований. И я допускаю, что я не прав, и что-то очень существенное я упускаю -- это маловероятно, но возможно, -- что я серьёзно недооцениваю сложность какой-нибудь части системы.

Формирование понятий - это выделение областей на гиперплоскости. Понятие "собака" - это область на плоскости "вид".
Понятие "Большая" - это область на плоскости "размер". Понятие "Размер" - это область на плоскости характеристик.
Понятие "характеристики" - это область на плоскости соотношения частей и целого.
Нет. Это вам хотелось бы, чтобы было так, потому что когда так -- понимать проще. Это ваша "понятийная" подсистема мыслит таким образом, та, которую вы называете "логикой".
Мозг -- это единый суп из признаков пропущенный через блендер, который не особо-то и парится тем, чтобы из общего пространства признаков выделять подпространство "вид", или подпространство "размер". Реально о таком выделении человек заботится уже на понятийном уровне. До того, как человек попытается дать точное словесное определение понятию, это понятие будет просто безбашенной комбинацией скоррелировавших признаков. Причём эту комбинацию ещё и отрефлексировать не удастся, придётся наблюдать за собой, смотреть какие стимулы классифицируются как "собака" и пытаться выделить существенные признаки общие для всех собак, которые отличают их от не собак.
Это повторная категоризация по признакам, но уже категоризация рефлексирующая сама себя. В процессе такой категоризации можно найти и исправить косяки типа "Коко -- человек". И вот после этого понятие станет подходящим для логики. А до того, как эта рефлексирующая категоризация была проведена, логики будет мало для работы с таким понятием.

Напрямую не может. Напрямую - эта подсистема берет N состояний с предыдущего уровня. Берет на вход N других понятий/символов/состояний.
Может. Обратных связей в мозгу не меньше чем прямых.

Например, я могу построить понятие огонь в своей голове, даже если я никогда не видел огня, но мне хорошо объяснили что такое огонь. Если мы построим модель, то мы можем построить понятие глядя на модель, а не на исходный объект. Мы можем научиться пользоваться этим объектом, играясь с моделью. Мы можем научиться предсказывать появление этого объекта на основании информации от органов чувств.

Изучив матан, я создал у себя в голове метамодель, я могу подставить в неё дифуру огня и увидеть посредством представливания нечто изоморфное огню. Называя это "нечто" огнём, и играясь с ним в представлении, то есть умозрительно, я могу отпочковать от своей метамодели более конкретную модель огня. Я могу связать с этой моделью свойства известные мне через органы чувств: горячий, газообразный, движущийся... Я создам понятие "огонь", которое будет плюс-минус изоморфно понятию "огонь" у обычного человека.

Я могу пойти дальше и, используя свои познания в физике, промоделировать ЭМИ от огня, выделить видимую часть спектра и представить её. Или нарисовать и посмотреть. А если я подключу вычислительные мощности современного десктопа... То я смогу написать программку, и увидеть "огонь", хотя никакого огня и нет рядом.

То есть, понятие может строится снизу-вверх (от ощущений к понятию) или сверху-вниз (от понятия к ощущениям) -- категоризатору без разницы что категоризировать: сенсорный вход, с целью научиться воспринимать внешний мир.
Можно от логического и формального понятия, от эксплицитного понятия двигаться к имплицитному. Можно услышав незнакомое слово прочитать статью в словаре и создать понятие из слов. Не непосредственно из ощущений, а из слов. И этот второй подход, я отмечу, гораздо-гораздо лучше первого. Потому что в результате в категоризаторе меньше всяких случайных косяков, типа "Коко -- человек".

И да. Понятие и символ -- это разные вещи. Символ -- это способ обозначить понятие. Но понятие может существовать и без символа, а символ без понятия. Понятие включает в себя кучу свойств, начиная от неотъемлимых свойств объекта "у кошки четыре ноги", "позади у ней длинный хвост", и заканчивая моим личным отношением к этой кошке "но трогать её, не моги, за её малый рост, малый рост". Всё что я знаю о кошках, всё ассоциированное с кошками -- это всё части понятия "кошка", и когда я слышу слово "кошка", или когда я вижу "кошку", или когда я думаю о кошке, все эти части активируются и либо выпрыгивают в сознание, где я их непосредственно могу ощущать, либо поднимаются из глубин подсознания поближе к границе сознания -- этот эффект когнитивные психологи показывали. Например, можно показать человеку картинку, на которой нарисован "хвост" и посмотреть как быстро человек скажет "хвост". А потом сравнить будет ли он быстрее говорить "хвост", если перед этим ему сказали слово "кошка"? Это эффект якорения.
И этот эффект якорения проявляется благодаря тому как человек работает с понятиями. Ему можно показывать хвост самолёта, и наличие хвоста у кошки, которую он видел 10 секунд назад будет изменять восприятие этого хвоста самолёта. И дело не в том, что слова многозначны, точнее не просто в том, что они многозначны. Понятийное мышление человека неотделимо от речи, речь даёт те самые символы, на оперировании которыми и строится логика. Но проблема в том, что правила комбинирования разных символов определяются понятиями, которые эти символы обозначают. Противоречивость понятий приводит к появлению противоречий на уровне логического оперирования символами. И "признаком первоклассных мозгов является способность держать в голове две взаимоисключающие мысли одновременно, не теряя при этом способности соображать" (c).

В чем видится сложность? Чем не подходит технологии по соединению произвольных алгоритмов?
Talk is cheap. Show me the code. (c) https://lkml.org/lkml/2000/8/25/132

Теперь понятно в чем была ошибка. Был недоучет "комбинаторного взрыва".
Допустим есть способ обойти комбинаторный взрыв. В чем видится следующее препятствие?
Откуда я знаю? Надо обойти комбинаторный взрыв, создать новые знания, они дадут новое понимание того, что такое мышление. И тогда можно будет сформулировать новую проблему.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 15 Июнь 2016, 19:29
Цитировать
И я не совсем понимаю, что вы хотите от меня, когда просите меня редуцировать "эмерджентность".

Например, начать с малого и задать критерий: когда свойство является эмерджентным, а когда - нет.

Сравните "кисть эмерджится из ладони и пальцев" и "кисть состоит из ладони и пальцев".

Бессмысленное утверждение.  Во-первых - в утверждении нет свойства, во-вторых - нет эмерджентности.

Цитировать
Или возьмём такой термодинамический макропараметр как давление, которое эмерджится из соударения молекул со стенками сосуда. Сравните с "давление возникает благодаря соударению молекул со стенками сосуда".

Утверждение "давление эмерджится.." бессмысленно. Ничто не может "эмерджиться". Эмерджентность - оно про другое.
Давление - да, эмерджентное свойство. Его можно описать, как "давление - есть соударение молекул со стенками сосуда". Но нельзя ввести формальное определение давления.
"Давление - соударение молекул" не является определением. Например, есть "давление плазмы", "давление фотонов", "давление в черной дыре". В этих явлениях нет молекул, но есть давление.

Один из критериев эмерджености: можно описать, но нельзя дать определение.

Цитировать
В чём разница? В том что слово "эмерджится" не говорит каким образом связаны элементы с объектом, слово "эмерджится" просто постулирует наличие связи.

Имхо, скорее наоборот. Эмерджентность постулирует, что отсутствует формальная связь. Нет никакой формальной связи между песчинками и кучей. Но в тоже время, если к песчинке одной за другой прибавлять по песчинке, то в определенный момент появляется куча.
Нет никакой формальной связи между молекулами и огнем. Нет формальной связи между молекулами и давлением.


Цитировать
Я вижу эту связь между транзисторами и lesswrong.ru как некий гомоморфизм из возможных состояний "мира транзисторов" в возможные состояния lesswrong.ru. И, что более важно, я могу этот гомоморфизм формализовать.

Совершаете ту же самую ошибку, что совершали в 1950-ые. Нет, не можете.
При попытке формализовать произойдет столкновение с множеством явлений, не поддающихся формализации. Эмерджентные свойства, комбинаторный взрыв, Leaky absctration - это лишь малая часть "подводных камней" на пути формализации.

Цитировать
Изучив матан, я создал у себя в голове метамодель, я могу подставить в неё дифуру огня и увидеть посредством представливания нечто изоморфное огню. Называя это "нечто" огнём, и играясь с ним в представлении, то есть умозрительно, я могу отпочковать от своей метамодели более конкретную модель огня. Я могу связать с этой моделью свойства известные мне через органы чувств: горячий, газообразный, движущийся... Я создам понятие "огонь", которое будет плюс-минус изоморфно понятию "огонь" у обычного человека.

Огонь и ржавчина - это одно и тоже? Они описываются одним и тем же диффуром.

Цитировать
Я могу пойти дальше и, используя свои познания в физике, промоделировать ЭМИ от огня, выделить видимую часть спектра и представить её. Или нарисовать и посмотреть. А если я подключу вычислительные мощности современного десктопа... То я смогу написать программку, и увидеть "огонь", хотя никакого огня и нет рядом.

Напомню исходное утверждение: есть возможность описать связи понятия "огонь" с другими понятиями "жарко", "ярко" и т.д., но нельзя дать определение понятию "огонь".

Вы видите разницу между "определить" и "описать"?

Цитировать
И да. Понятие и символ -- это разные вещи. Символ -- это способ обозначить понятие. Но понятие может существовать и без символа, а символ без понятия.

Да, понятие может не иметь вербализированного символа.
Нет, понятие не может не иметь кодирующего символа. Понятие всегда имеет кодирующий символ, которым оно кодируется внутри вычислителя. Это может определенное байтовое знание, определенная конфигурация нейронов и т.д. - но оно есть.

Цитировать
Понятийное мышление человека неотделимо от речи, речь даёт те самые символы, на оперировании которыми и строится логика.

Логика строится на понятиях, на кодирующих символах, а не на речевых символах.
Начальное логическое мышление у младенца есть с первых месяцев, а речь появляется в год-три.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 16 Июнь 2016, 00:32
Например, начать с малого и задать критерий: когда свойство является эмерджентным, а когда - нет.
Я не вижу в этом глубинного смысла. Это будет разговор о смысле слов. Это будет попытка формализовать понятие. Я тут доказываю, что непросто формализовывать понятие, и вы согласны со мной. Зачем я буду идти на такие сложности, если на мой взгляд понятие эмерджентности бесполезно?
Имхо, скорее наоборот. Эмерджентность постулирует, что отсутствует формальная связь. Нет никакой формальной связи между песчинками и кучей. Но в тоже время, если к песчинке одной за другой прибавлять по песчинке, то в определенный момент появляется куча.
Вы понимаете почему появляется куча? Вы можете сказать, сколько именно песчинок надо, для того, чтобы появилась куча, и почему именно столько надо? Я подозреваю, что нет. А если я объясню вам как, почему и когда возникает куча, если я установлю связь между песчинками и кучей, пропадёт ли эмерджентность от этого?
Один из критериев эмерджености: можно описать, но нельзя дать определение.
Это, кстати, неотъемлимое свойство гуманитарных наук: опираться на понятия, которые можно описать, но невозможно дать им определение. Я не к тому, что это плохо, но просто вот. Кстати.

Вы видите разницу между "определить" и "описать"?
Вижу, но не так как вы. Я даже затрудняюсь описать то, как я это вижу. Но, грубо говоря, между ними нет принципиальной разницы, есть субъективная разница, которая зависит от того, зачем описание/определение используется. Иногда вообще никакого описания не нужно, для того, чтобы использовать понятие -- есть психологические тесты на способность к логическим умозаключениям, в которых конструируются грамматические правильные предложения из несуществующих слов, которые предлагается принять как верные, а затем ответить на вопросы. В других же ситуациях очень точное определение может оказаться неудобным. В общем, эта разница между "определить" и "описать" определяется задачей.

Ни одно явление не имеет чётких границ, которые бы говорили где кончается одно явление и начинается другое. Ну, типа как "белый": он всё равно будет белым, если его сделать чуть темнее, чуть-чуть серым. И чёрный останется чёрным, если его сдвинуть немного в сторону белого. И какую бы границу между чёрным и белым мы не проводили, эта граница окажется сугубо условной и переход через эту границу не будет означать никаких принципиальных изменений.

Можно привести пример с атмосферой Земли: на поверхности Земли есть атмосфера, на высоте 40 тысяч километров -- нет. Если мы глянем на это формально, с точки зрения математики, то можно доказать, что должна существовать точная грань. Но какую бы грань мы не выбрали, она будет сугубо условной, она (грань) не будет отражать никаких физических свойств пространства. Потому что математика, в погоне за строгостью и определённостью, слишком абстрагируется, и в неё, в данном случае, не вмещается человеческое понятие атмосферы.

Можно вспомнить ещё "двугоное существо без перьев", как определение человека. И ощипанного циплёнка, как встречный троллинг со стороны Диогена.

Но ведь я как раз об этом и говорю. Человеческие понятия очень сложны. Чтобы их формализовать нужна долгая и муторная работа учёного. Чтобы работать с ними недостаточно аристотелевой логики. Вообще никакой системы формализаций недостаточно. Чтобы с ними во всех их красе работать формально, нужно работать, работать и ещё раз работать. И пока эта работа не будет проделана, не удастся создать Friendly AI. Потому что пока AI не понимает, как мыслит человек, пока он не сможет промоделировать это мышление достаточно точно, этот AI не сможет понимать речь человека достаточно точно. А это значит, что услышав инструкцию "пускай идёт на все четыре стороны", он возьмёт и отправит человека в четыре стороны одновременно. Или ещё что-нибудь непредсказуемое совершит, причём в самый непредсказуемый момент.

И да, вы правы, это будет непреодолимым препятствием на пути создания в голове у человека, не видевшего огня, такого понятия "огонь", которое будет полностью идентично вашему. При этом вряд ли найдётся пара людей в мире, чьи понятия "огонь" будут абсолютно идентичны. А если мы уберём требование абсолютности, и зададим некую допустимую "погрешность", то вполне возможно дать огню такое описание, которое позволит человеку создать в своей голове понятие "огонь", удовлетворяющее нашему с точностью до заданной погрешности.

Да, понятие может не иметь вербализированного символа.
Нет, понятие не может не иметь кодирующего символа. Понятие всегда имеет кодирующий символ, которым оно кодируется внутри вычислителя. Это может определенное байтовое знание, определенная конфигурация нейронов и т.д. - но оно есть.
Сейчас вы мне кажется путаете мышление и рефлексию мышления. Мышление может пользоваться понятием, даже если оно не имеет символа, но когда мы рефлексируем это мышление, нам уже не обойтись без символа, которым мы будем обозначать то понятие. Точнее не так: я не вижу способа показать, что мышление человека всегда пользуется понятиями через символы. Было бы удобно если бы это было так, и быть может это можно принять как постулат, и построить поверх удачную модель человеческого мышления, но я не уверен ни в чём.
Во-всяком случае компьютер вполне может пользоваться не только ссылками на объекты, но и самими объектами. По-крайней мере в отношении некоторых типов.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 16 Июнь 2016, 02:22
А если я объясню вам как, почему и когда возникает куча, если я установлю связь между песчинками и кучей, пропадёт ли эмерджентность от этого?

Зависит. Смотря в каком виде определена взаимосвязь.

Один из признаков эмерджентности: непересекающие наборы правил логического вывода.
песчинка+песчинка<=>2песчинки
Nпесчинок+песчинка<=>(N+1)песчинок
Nпесчинок-песчинка<=>(N-1)песчинок
куча+песчинка<=>куча
куча-песчинка<=>куча
куча+куча<=>куча
Правила про кучу не сводимы к правилам про песчинки. И наоборот.

Соответственно, можно придумать какой-то способ свести одно с другим, но полученная формализация перестанет соответствовать реальному миру.

Цитировать
Это, кстати, неотъемлимое свойство гуманитарных наук: опираться на понятия, которые можно описать, но невозможно дать им определение. Я не к тому, что это плохо, но просто вот. Кстати.

Напомнило: "99,7% всех людей, умерших от рака, при жизни ели огурцы".

Точные науки также опираются на понятия, для которых отсутствуют определения. Например, "точка" или "бесконечность".

Цитировать
А если мы уберём требование абсолютности, и зададим некую допустимую "погрешность", то вполне возможно дать огню такое описание, которое позволит человеку создать в своей голове понятие "огонь", удовлетворяющее нашему с точностью до заданной погрешности.

Поздравляю! Вы проделали за один день путь, который у науки занял последние 40 лет.

Если убрать требование абсолютности и ввести понятие "погрешность определения", то всякому понятию находится такая формализация, которой достаточно компьютеру(логическому вычислителю), чтобы он восоздал у себя цепочки утверждений, совпадающими с нашими с точностью до заданной погрешности.

Цитировать
Мышление может пользоваться понятием, даже если оно не имеет символа.

Кодирующий символ обязательно есть в этом случае.

Кстати, посмотрите на Symbol (https://developer.mozilla.org/en/docs/Web/JavaScript/Reference/Global_Objects/Symbol) из javascript. Прекрасный пример наличия кодирующего символа при отсутствии вербализационного(коммуникационного) символа.

Цитировать
Во-всяком случае компьютер вполне может пользоваться не только ссылками на объекты, но и самими объектами. По-крайней мере в отношении некоторых типов.
В таком случае, само состояние объекта и является символом.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 16 Июнь 2016, 11:12
Зависит. Смотря в каком виде определена взаимосвязь.

Один из признаков эмерджентности: непересекающие наборы правил логического вывода.
песчинка+песчинка<=>2песчинки
Nпесчинок+песчинка<=>(N+1)песчинок
Nпесчинок-песчинка<=>(N-1)песчинок
куча+песчинка<=>куча
куча-песчинка<=>куча
куча+куча<=>куча
Правила про кучу не сводимы к правилам про песчинки. И наоборот.
Вы не там ищете закономерность. Куча возникает потому, что человеческие мозги не могут моделировать реальность как множество песчинок. Наблюдая за одной песчинкой могут. За двумя тоже могут наблюдать одновременное и параллельно. А вот если песчинок будет десять штук, то уже никак... И вот тут мозги начинают придумывать эвристики. Например, такую эвристику как "куча". Кстати не любой миллион песчинок -- это куча, это ещё может быть пыльная буря. Пыльная буря -- это другая эвристика, которая тоже заменяет миллион песчинок, но при других условиях. А ещё есть в физике такое понятие как "сыпучее тело".

Это всё разные способы моделировать миллион песчинок. Такие "эвристики" резко снижают соответствие карты и территории, но заодно они снижают вычислительную сложность модели. И законы связывающие песчинки и кучу надо искать в ограничениях мозга на вычислительную сложность задачи. Ну и в ограничениях на детализированность ощущений: человек может не иметь возможность увидеть отдельные песчинки, потому что они малы, несутся с большой скоростью или потому, что он смотрит издалека.

Пока вы будете искать в реальности фундаментальные законы кучи, вы не найдёте их, и будете продолжать говорить об эмерджентности. Если же вы не будете исключать из реальности свой мозг, проводящий обработку информации, то вы увидите причинно-следственную связь, вы увидите почему, зачем, когда и как появляется куча. Куча появляется как объект находящийся в голове, причём по причинам которые тоже находятся в голове. Это позволит вам построить редукцию, и эмерджентность станет ненужной.
Соответственно, можно придумать какой-то способ свести одно с другим, но полученная формализация перестанет соответствовать реальному миру.
А куча вообще слабо соответствуют реальному миру. На самом деле и песчинки тоже: каждая песчинка -- это ведь слипшаяся куча молекул.
Точные науки также опираются на понятия, для которых отсутствуют определения. Например, "точка" или "бесконечность".
Да ладно. Точка вообще не требует никаких определений в математике. А бесконечностью обозначается ряд ситуаций, в каждой из которых в отдельности бесконечности даётся точное определение. В терминах епсилон-дельта.
Поздравляю! Вы проделали за один день путь, который у науки занял последние 40 лет.
Ну не надо. Вы недооцениваете меня. Не 40 лет. Наука шла к этому ещё начиная с древних греков.
В таком случае, само состояние объекта и является символом.
А когда и объекта нет, можно состояние Вселенной назвать символом. Всё ради того, чтобы правило "всегда есть символ" было бы нефальсифицируемым. Так?
Что первично для вас, правило "всегда есть символ" или определение символа? Если первое, то тогда совершенно бессмысленным будет разговор о том, что когда-то символов нет, потому что вы всегда спроецируете своё понимание символа на абсолютно любую ситуацию, и то, куда упадёт проекция, назовёте символом. Если же вы движетесь от определения символа, то тогда я вам уже указал ситуацию, когда символа нет.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 16 Июнь 2016, 15:12
Куча возникает потому, что человеческие мозги не могут моделировать реальность как множество песчинок.

Да, не могут. И никто, и ничто не может моделировать реальность на таком уровне точности. Атомов для вычислителя понадобится больше, чем сама вселенная.

Цитировать
Например, такую эвристику как "куча". Кстати не любой миллион песчинок -- это куча, это ещё может быть пыльная буря. Пыльная буря -- это другая эвристика, которая тоже заменяет миллион песчинок, но при других условиях.
Да, куча в спокойствие = куча, куча в движении - бархан, куча в движении в воздухе - песчанная буря.

Цитировать
Это всё разные способы моделировать миллион песчинок. Такие "эвристики" резко снижают соответствие карты и территории, но заодно они снижают вычислительную сложность модели. И законы связывающие песчинки и кучу надо искать в ограничениях мозга на вычислительную сложность задачи. Ну и в ограничениях на детализированность ощущений: человек может не иметь возможность увидеть отдельные песчинки, потому что они малы, несутся с большой скоростью или потому, что он смотрит издалека.

Да, это разные способны моделирования. Да, упрощенные. Да, более доступные для обсчёта.
Всё так. И именно благодаря этому, мозг настолько успешно решает задачи.
Подход называется Ensemble learning (https://en.wikipedia.org/wiki/Ensemble_learning). Считается одним из самых продуктивным на сегодняшний момент.

Цитировать
Пока вы будете искать в реальности фундаментальные законы кучи, вы не найдёте их, и будете продолжать говорить об эмерджентности. Если же вы не будете исключать из реальности свой мозг, проводящий обработку информации, то вы увидите причинно-следственную связь, вы увидите почему, зачем, когда и как появляется куча. Куча появляется как объект находящийся в голове, причём по причинам которые тоже находятся в голове. Это позволит вам построить редукцию, и эмерджентность станет ненужной.

Всё так. Какое решение вы предлагаете на основе этого сделать?

Предлагаете отказаться от использования понятий "куча", "песчанная буря", "океан", "человек" и т.д., а использовать только  понятия "триллионое скопление кварков", "квадраллионное скопление кварков", "миллиардное скопление кварков"? Вы так делаете? Какие успехи? Какие аргументы за то, что это перспективный путь?

Цитировать
Точка вообще не требует никаких определений в математике.

Википедия и математика считает по другому.
Цитировать
То́чка — абстрактный объект в пространстве, не имеющий никаких измеримых характеристик (нульмерный объект).
Евклид определил точку как «объект, не имеющий частей». В современной аксиоматике евклидовой геометрии точка является первичным понятием, задаваемым лишь перечнем его свойств — аксиомами.

Цитировать
Что первично для вас, правило "всегда есть символ" или определение символа? Если первое, то тогда совершенно бессмысленным будет разговор о том, что когда-то символов нет, потому что вы всегда спроецируете своё понимание символа на абсолютно любую ситуацию, и то, куда упадёт проекция, назовёте символом. Если же вы движетесь от определения символа, то тогда я вам уже указал ситуацию, когда символа нет.
Первичен символ. Символ - это произвольное состояние, кодирующее информацию.
"Всегда есть символ" - это краткая запись закона информатики: если есть преобразование информации, то всегда есть символы, кодирующие информацию.
Пример, который может фальсфицировать этот закон: есть информация A, затем отсутствие какого-либо состояния, кодирующего инфорацию A, затем есть вывод на основе информации A.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 16 Июнь 2016, 15:59
Всё так. Какое решение вы предлагаете на основе этого сделать?

Предлагаете отказаться от использования понятий "куча", "песчанная буря", "океан", "человек" и т.д., а использовать только  понятия "триллионое скопление кварков", "квадраллионное скопление кварков", "миллиардное скопление кварков"? Вы так делаете? Какие успехи? Какие аргументы за то, что это перспективный путь?
Нет. Я предлагаю взамен отказаться от понятия эмерджентности.
Википедия и математика считает по другому.
Не читайте википедию. А то вы ещё ненароком начнёте думать, что математика умеет делить на ноль.
"Всегда есть символ" - это краткая запись закона информатики: если есть преобразование информации, то всегда есть символы, кодирующие информацию.
Вы сейчас начинаете путать символы и символы. Символ -- это тоже чисто человеческое понятие, которое имеет много значений.

[upd]
Хотя не. Я не прав. Тут не путаница между различными значениями понятия, а между различными контекстами его использования. На примере lisp'а:
(let* ((sym-1 (intern "первый-символ"))
       (sym-2 sym-1))
  (when (eq sym-1 sym-2)
      (format t "Символы ~a и ~a имеют одно и то же значение: ~a~%" 'sym-1 'sym-2 sym-1))
  (unless (eq 'sym-1 'sym-2)
      (format t "Символы ~a и ~a различны~%" 'sym-1 'sym-2)))
Что на выходе даст:Символы SYM-1 и SYM-2 имеют одно и то же значение первый-символ
Символы SYM-1 и SYM-2 различны
NIL
Одно дело, когда мы работаем с символами как с непосредственными значениями, и другое дело, когда мы работаем со значениями этих символов.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 16 Июнь 2016, 16:14
Нет. Я предлагаю взамен отказаться от понятия эмерджентности.

Редукционизм говорит о том, что эмерджентные понятия стоит перепроверять через редукцию, а не о том, что от эмерджентности или от понятий стоит отказываться.

Цитировать
Не читайте википедию. А то вы ещё ненароком начнёте думать, что математика умеет делить на ноль.

Есть ряд математических исчислений, которые умеют делить на ноль. Вы бы от этом знали, если бы читали википедию ) или математический справочник

В чем опасность чтения википедии? На какие источники информации опираться более эффективно? По каким критериям?

Цитировать
Вы сейчас начинаете путать символы и символы. Символ -- это тоже чисто человеческое понятие, которое имеет много значений.

во-первых, любое знание о мире - это продукт субъекта, познающего мир.
во-вторых, обмен информацией в мире идет внезависимости от наличия/отсутствия субъектов. Обмен информацией подтвержен фундаментальным законам информатики.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 16 Июнь 2016, 16:26
Есть ряд математических исчислений, которые умеют делить на ноль. Вы бы от этом знали, если бы читали википедию ) или математический справочник
И эти исчисления работают не с числами, не так ли? То есть, как бы, там ноль вовсе не ноль, а что-то другое, что обозначено тем же символом, что и ноль из R.

Я там, простите, обновил сообщения, пытаясь выдержать местный заморочный протокол добавления новых сообщений, при отсутствии ответов. Слишком долго сочинял обновление.

Добавлено 16 Июнь 2016, 16:44:
Редукционизм говорит о том, что эмерджентные понятия стоит перепроверять через редукцию, а не о том, что от эмерджентности или от понятий стоит отказываться.
Редукционизм и я -- это разные личности. Мало ли что говорит редукционизм, я за него не отвечаю. Я говорю, что надо отказаться. И мне кажется я сказал в обоснование этого больше, чем было необходимо.

В чем опасность чтения википедии? На какие источники информации опираться более эффективно? По каким критериям?
Ну это совсем оффтоп.

Обмен информацией подтвержен фундаментальным законам информатики.
Не надо говорить мне такие фразы. Они слишком глубоки для меня. Что обмен информацией, что информатика -- это всё те же "кучи", которые человек использует лишь потому, что не в состоянии иметь дело с реальность as is. Что из этого является подтверждением чему -- я не знаю, и как это подтверждение связано с реальностью не знаю тоже. Можно было бы подумать, но давайте так: если в этой фразе заключён какой-то существенный для данного обсуждения смысл, извлеките его оттуда и выскажите как-нибудь попроще.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 16 Июнь 2016, 16:59
И эти исчисления работают не с числами, не так ли? То есть, как бы, там ноль вовсе не ноль, а что-то другое, что обозначено тем же символом, что и ноль из R.

С числами. 0 тот же самый. Рассматривается расширение множества R символом бесконечности.
Projectively extended real line (https://en.wikipedia.org/wiki/Projectively_extended_real_line)

Цитировать
Я там, простите, обновил сообщения, пытаясь выдержать местный заморочный протокол добавления новых сообщений, при отсутствии ответов. Слишком долго сочинял обновление.

Можно так не заморачиваться. Форум сам подклеивает сообщение, если предыдущее своё.

Название: Re: Рефлексия логического мышления
Отправлено: Волхв от 16 Июнь 2016, 17:39
В рамках оффтопа, думаю, не совсем корректно отождествлять его с обычным делением, которое обратно операции умножения, корректнее назвать это "делением". Скорее, "деление на ноль" - это отображение числа на бесконечность, "деление на бесконечность" - отображение числа на ноль. Собственно, потому-то она и "проективная", и "умножать" 0 на бесконечность нельзя и здесь. :)
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 16 Июнь 2016, 18:02
построена работоспобная и всех устраивающая модель/симулятор
Позволю небольшой комментарий.
Современная наука имеет дело с рукотворными объектами, сложность которых уже превысила аналитические возможности человека. Из интервью (http://kommersant.ru/doc/2982428) с ректором Сколковского института науки и технологий: "До сих пор математического объяснения работе нейронных сетей не существует. Грубо говоря, мы не понимаем законов физики, которые задействованы в их работе".
Причем специалистов, умеющих создавать по-настоящему работоспособные нейронные сети (чьи возможности порой превышают человеческие), можно пересчитать по пальцам: "Западные математики между собой называют их шаманами". Деятельность таких ученых граничит с искусством, которое столь же плохо поддается анализу.
Получается, что с одной стороны данная нейронная сеть - работоспособная модель (например, каких-то функций человеческого мозга), а с другой – мы не знаем, как она работает. Но если понять модель ничуть не проще, чем моделируемый объект, то в чем же тогда смысл такой модели?
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 16 Июнь 2016, 20:02
С числами. 0 тот же самый. Рассматривается расширение множества R символом бесконечности.
Projectively extended real line (https://en.wikipedia.org/wiki/Projectively_extended_real_line)
С потерей предиката <.

Можно так не заморачиваться. Форум сам подклеивает сообщение, если предыдущее своё.
Да, я тоже так решил.

Позволю небольшой комментарий.
Современная наука имеет дело с рукотворными объектами, сложность которых уже превысила аналитические возможности человека. Из интервью (http://kommersant.ru/doc/2982428) с ректором Сколковского института науки и технологий: "До сих пор математического объяснения работе нейронных сетей не существует. Грубо говоря, мы не понимаем законов физики, которые задействованы в их работе".
Причем специалистов, умеющих создавать по-настоящему работоспособные нейронные сети (чьи возможности порой превышают человеческие), можно пересчитать по пальцам: "Западные математики между собой называют их шаманами". Деятельность таких ученых граничит с искусством, которое столь же плохо поддается анализу.
Получается, что с одной стороны данная нейронная сеть - работоспособная модель (например, каких-то функций человеческого мозга), а с другой – мы не знаем, как она работает. Но если понять модель ничуть не проще, чем моделируемый объект, то в чем же тогда смысл такой модели?
Да, я согласен. Не всякая модель может служить объяснением. Если мы взяли непонятным образом работающую хрень, скопировали её атом за атомом и получили вторую такую же работающую хрень, то понятнее, что именно происходит нам не станет. Даже если копия будет виртуальной, а не из реальных атомов.

Добавлено 16 Июнь 2016, 20:06:
В рамках оффтопа, думаю, не совсем корректно отождествлять его с обычным делением, которое обратно операции умножения, корректнее назвать это "делением". Скорее, "деление на ноль" - это отображение числа на бесконечность, "деление на бесконечность" - отображение числа на ноль. Собственно, потому-то она и "проективная", и "умножать" 0 на бесконечность нельзя и здесь. :)
Ну это не совсем так. К множеству добавили один абстрактный элемент \infty и немного допределили операции под него. Ничего особенно криминального, это проделывалось многократно и раньше, в процессе движения: натуральные->целые->рациональные->вещественные. Просто с делением на ноль бесплатно не выйдет, не всё расширяется.
Вот на комплексных выходит ничётак, потому что там и без того уже невозможно ввести отношение порядка.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 16 Июнь 2016, 20:52
Скорее, "деление на ноль" - это отображение числа на бесконечность, "деление на бесконечность" - отображение числа на ноль.

Да, для деления на 0 - есть существенное отличие.
Деление на 0 теряет информацию. Для операции деления на ненулевое число всегда есть обратная взаимооднозначная операция: a / b * b = a. Для деления на 0 обратная операция отображает на всю прямую. a / 0 * 0 = NaN
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 16 Июнь 2016, 23:25
Один из критериев эмерджености: можно описать, но нельзя дать определение.
Если под эмерджентным явлением понимать свойства системы, которые не присущи составляющим ее элементам в отдельности, а возникают благодаря объединению этих элементов в некую единую целостность, то в чем же проблема? Эмерджентность - это и есть феномен возникновения у системы новых свойств, которыми не обладают ее элементы. Не случайно синоним эмерджентности - "системный эффект".

Кстати, придумал хороший пример нередуцируемого явления - квалитативные состояния сознания. :)

Если мы взяли непонятным образом работающую хрень, скопировали её атом за атомом и получили вторую такую же работающую хрень, то понятнее, что именно происходит нам не станет.
Моделирование и копирование объекта - совершенно разные вещи.
Моделирование - субъективное отображение окружающего мира в пространство нашего сознания. Поэтому модель какого-либо объекта составляет его умопостигаемую часть, а по построению - упрощенную копию объекта. Собственно, смысл моделирования в том и заключается, что у нас по каким-то причинам не хватает ресурсов для воспроизведения объекта (пусть даже виртуального) во всей его полноте. Но даже упрощенная копия может оказаться слишком сложной для нас. Если же ее упростить еще больше, то потеряются те свойства, которые мы хотим промоделировать, т.е. постичь. Отсюда проистекает колоссальная проблема с изучением очень сложных объектов, наподобие человеческого мозга.
Название: Re: Рефлексия логического мышления
Отправлено: Skywrath от 17 Июнь 2016, 12:14
Цитата: kuuff
Сказать "это свойство эмерджентно" -то же самое, что на вопрос "почему" ответить "потому что".
В этом нет ничего плохого. Это же чисто метафизическая претензия. Что вы станете делать, когда нельзя дать подобный ответ? Строить бесконечную цепь обоснований, что ли? Удачи с этим. Огонь есть, потому что есть дифференциальные и термодинамические уравнения. Почему они есть? Потому, есть законы физики и математики. Почему есть последние? Они просто есть. Рано или поздно вам придётся дать такой ответ, если вы не готовы потратить всю вечность на погружение в глубокую философию на тему того почему реальность вообще существует. Эмерджентность - хороший способ установить имеющиеся границы познания. Мы знаем, что есть некое системное свойство. Почему оно есть? Потому, что есть. По сути, это ничем не хуже редукции - поиска некоторых элементарных оснований. Как вы знаете, базовые элементы - тоже есть, обычно они даже не разбиваются на более базовые. То есть, они просто есть. В этом нет ничего плохого. Конечно можно хоть до бесконечности искать ответы, но признавать, что их сейчас - нет, тоже достаточно важно. Эмерджентность лишь один из способов это сделать. Это не такое сложное понятие. Например, свойства бесконечных множеств - эмерджентны. Просто потому, что вы их никак не выведете из свойств конечных множеств из которых они состоят и даже в аксиоматике, которой описывается стандартная математика, вам придётся признать, что как минимум одно бесконечное множество, так или иначе, возникает эмерджентным образом из конечных. Это ниоткуда не следует, без неких дальнейших обоснований.

Всё это обсуждение эмерджентности не стоит затраченных на него слов. Термин - достаточно легитимный, пусть даже он и не является конструктивных объяснением. Он всего лишь определяет наш контекст и границы, достигнутые нашим познанием.  :D
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 17 Июнь 2016, 12:52
В этом нет ничего плохого. Это же чисто метафизическая претензия. Что вы станете делать, когда нельзя дать подобный ответ? Строить бесконечную цепь обоснований, что ли? Удачи с этим. Огонь есть, потому что есть дифференциальные и термодинамические уравнения. Почему они есть? Потому, есть законы физики и математики. Почему есть последние? Они просто есть. Рано или поздно вам придётся дать такой ответ, если вы не готовы потратить всю вечность на погружение в глубокую философию на тему того почему реальность вообще существует.
Ответ должен быть ответом. Если у нас нет ответа, мы должны сказать "ответа нет", "я не знаю" или ещё что-нибудь честное. Либо, в качестве варианта, во всех словарях написать, что "эмерджентное свойство" это тоже самое, что и никому непонятным способом возникающее свойство.
Есть разница между ответом "потому что" и ответом "не знаю". Второй ответ оставляет вопрос открытым. Первый ответ закрывает вопрос, особенно если это "потому что" замаскировать каким-нибудь умным словом. Первый ответ -- это curiosity stopper. Любопытство иногда приходится останавливать, но такие вещи должны происходить сознательно.
Мы здесь говорили не только об эмерджентности, но так же и о формализации процесса мышления. Так вот очень важно для этой формализации, чтобы ответы типа "да", "нет", "истинно", "ложно", "не знаю" возникали бы тогда и только тогда, когда они уместны. То есть, чтобы они возникали во всех случаях, когда они уместны, и не возникали бы в тех случаях, когда они неуместны. Иначе в голове начинает плодиться бардак. Его можно избежать, если услышав ответ "эмерджентное свойство" подумать о том, что собственно это значит, но всё равно придётся при записи в память изменить ответ и записать "никто не знает на самом деле".

И, кстати, читая Юдковского и закопавшись в его метаэтику, я серьёзно усомнился в том, что для того, чтобы объяснить всё, так уж необходима бесконечная цепочка причин. Это если мы будем ограничиваться матлогикой, то она нам понадобится. Но в реальности матлогика не работает, ну точнее она слишком ущербна. И одно из её ущербнейших ограничений -- это запрет на циклы, логика запрещает рассуждения типа A=>B=>A. Да, если в логике позволить циклы, то можно будет доказать всё, что угодно. Но цикл, циклу рознь, и запрещая циклы вообще логика с водой выплёскивает ребёнка.
В качестве простейшего примера: бритва Оккама верна почему? Потому что она безупречно работала раньше. Почему же мы считаем что она и впредь будет работать? Потому что бритва Оккама говорит, что при прочих равных надо исходить из простейшей модели, модель, в которой бритва Оккама вдруг перестанет работать завтра, сложнее той, в которой бритва Оккама будет работать всегда. Чувствуете цикличность логического рассуждения? Индукция поддерживает бритву Оккама, а бритва Оккама поддерживает индукцию. Логика это запрещает. И да, это не то же самое, что на вопрос "почему работает бритва Оккама" дать ответ "потому что", или "эмерджентно", или "магия". Циклическое рассуждение лучше, потому что оно даёт фальсифицируемое объяснение, и если я увижу, что что-то фундаментальное что работало всегда завтра перестанет работать, то я моментально поставлю под сомнение ещё и индукцию, и бритву Оккама.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 17 Июнь 2016, 13:48
Ответ должен быть ответом. Если у нас нет ответа, мы должны сказать "ответа нет", "я не знаю" или ещё что-нибудь честное. Либо, в качестве варианта, во всех словарях написать, что "эмерджентное свойство" это тоже самое, что и никому непонятным способом возникающее свойство.

"Эмерджентное" не тоже самое, что "не знаю".

Цель - качественное принятие решения.
Ответ "не знаю" не помогает принимать решения. За исключением решения, что есть белое пятно, которое необходимо исследовать.

Деление на эмерджентные и неэмерджентные понятия помогает расчищать понятийный аппарат мышления и избегать иллюзии понимания.

Для неэмерджентных понятий достаточно держать в голове (или в экспертной базе) краткое пояснение.
"одиннадцать" - это превосходная степень от "1".
"восторг" - это превосходная степень от "радости".
"пожар" - это превосходная степень от "огонь".

Такого краткого определения достаточно для принятия решений. Совершенствование принятия решения далее делается за счет измерения превосходности через соотнесение с эталонами. С дальнейшим натаскиванием нейронной сети (компьютерной или в голове) на перевод входных параметров в выходные.

Для эмерджентных понятий необходимо строить десятки редукций. Одиночная редукция создает лишь иллюзию понимания.
"Радость" - это эмоция, когда человек получил желаемое.
"Огонь" - это состояние вещества, описываемая диффуром N.

Такие одиночные редукции для эмерджентных понятий не помогают при принятии решений.

Соответственно:
- если понятие эмерджентное, то необходимо наращивать количество редукций его поясняющих
- если понятие неэмерджентное, то достаточно 1 редукции к базовому понятию, избегая непродуктивной растраты ресурсов
- если про понятие неизвестно "эмерджентное/неэмерджентное", то это необходимо установить, исследуя понятие
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 17 Июнь 2016, 14:11
Давайте мы всё же не будем рассуждать на основании того, что написано в википедии, и будем всё же опираться на реальное использование слова. Не будем придумывать идеальный мир в котором слово используется так, как это будет удобно нам для ведения дискуссии. Реально "эмерджентность" используется как затычка для любопытства. Я видел это в социологии, например.  "Эмерджентное свойство социума". Точка. Как это свойство возникает, почему оно возникает -- а это не волнует никого, все просто искренне верят в то, что оно возникает. Точнее эмерджится.
А в физических статьях я не видел ни эмерджентности, ни неэмерджентности. В них не используются такие термины.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 17 Июнь 2016, 14:23
будем всё же опираться на реальное использование слова.

Какова цель предлагаемого подхода "опираться на реальное использование слов"(здесь реальное - синоним 'бытовое')?

Имхо, если цель качественное понимание реальности, то важно опираться на энциклопедическое толкование слова (в частности на википедию).
Такой подход повышает качество восприятия информации, помогая лучше понимать достоверные источники информации.
Чем более достоверный источник информации: научные статьи, научная литература, научно-популярная литература, учебник, то тем больше они используют энциклопедическое толкование слов.

Цитировать
А в физических статьях я не видел ни эмерджентности, ни неэмерджентности. В них не используются такие термины.

Физика не изучает мышление, понимание, знание, самоорганизацию, управление, принятие решений и т.д.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 17 Июнь 2016, 14:51
Какова цель предлагаемого подхода "опираться на реальное использование слов"(здесь реальное - синоним 'бытовое')?

Имхо, если цель качественное понимание реальности, то важно опираться на энциклопедическое толкование слова (в    частности на википедию).
Такой подход повышает качество восприятия информации, помогая лучше понимать достоверные источники информации.
Ну-ну. Я пока не видел ни одного учёного, кто отзывался бы о википедии как об авторитетном источнике информации. Те кто отзываются, отзываются ровно наоборот, как об источнике информации постоянно вводящем в заблуждение. Который и поправить хотелось бы, да лень связываться с википидорской бюрократией.
И вообще, почему вы считаете хоть какую-то энциклопедию авторитентным источником? Потому что она называется умным словом "энциклопедия" или потому что вы поинтересовались тем, кто писал ту статью, которую вы читаете, и вы доверяете этому человеку?
Чем более достоверный источник информации: научные статьи, научная литература, научно-популярная литература, учебник, то тем больше они используют энциклопедическое толкование слов.
Покажите мне такие научные статьи. Особенно мне интересны использования "неэмерджентности". Ну или эмерджентности, но не в смысле "тут хрен его знает что творится, но какая-то связь есть".
Физика не изучает мышление, понимание, знание, самоорганизацию, управление, принятие решений и т.д.
То есть эмерджентность -- это свойство имеющее отношение только к перечисленному? Из предыдущего разговора у меня не сложилось такого впечатления.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 17 Июнь 2016, 15:32
Те кто отзываются, отзываются ровно наоборот, как об источнике информации постоянно вводящем в заблуждение.

Чаще всего это означает, что на википедии размещены аргументы, которые опровергают точку зрения критика википедии.

Цитировать
Который и поправить хотелось бы, да лень связываться с википидорской бюрократией.

Какова достоверность вывода "на википедии чумовая бюрократия"? Какой вы использовали способ для тестирования этого вывода на соответствии реальности?

Имхо, на википедии нет никакой бюрократии. Для публикации достаточно придерживаться Нейтральной точки зрения (http://www.wikireality.ru/wiki/%D0%9D%D0%A2%D0%97).

Цитировать
И вообще, почему вы считаете хоть какую-то энциклопедию авторитентным источником? Потому что она называется умным словом "энциклопедия" или потому что вы поинтересовались тем, кто писал ту статью, которую вы читаете, и вы доверяете этому человеку?

Использую эвристики:
 - энциклопедии чаще всего строятся на основе ансамбля мнений.
 - википедия строится на принципах, улучшающих продуктивность ансамбля мнений
 - ансамбль мнений чаще дает карту наиболее соответствующую территории
 - википедия дает быстрый переход к редукциям понятий, используя провязывание терминов ссылками
 - редукция понятий один из наиболее продуктивных способов для исследования смысла понятий

Цитировать
Покажите мне такие научные статьи. Особенно мне интересны использования "неэмерджентности". Ну или эмерджентности, но не в смысле "тут хрен его знает что творится, но какая-то связь есть".То есть эмерджентность -- это свойство имеющее отношение только к перечисленному? Из предыдущего разговора у меня не сложилось такого впечатления.

Предлагаю начать отличать использование явление от использование термина. Например, многие люди переживает заболевание носа, но термин "ринит", корректно маркирующее это явление, знают только те, кто специализируется на этом.

Термин "эмерджентность" знают узкие специалисты из кибернетики, те кто специализируется на изучении преобразования информации.

Остальные специалисты используют это явления, не заморачиваясь корректным его называнием. Они будут говорит о появлении нового свойства без использования узкого специализированного термина "эмерджентное свойство".

Например, в физике появление новых свойств изучают:
- исследование диссипативных структур (https://ru.wikipedia.org/wiki/%D0%94%D0%B8%D1%81%D1%81%D0%B8%D0%BF%D0%B0%D1%82%D0%B8%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D0%B0)
- динамический хаос (https://ru.wikipedia.org/wiki/%D0%94%D0%B8%D0%BD%D0%B0%D0%BC%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D1%85%D0%B0%D0%BE%D1%81)
- нелинейная оптика (https://ru.wikipedia.org/wiki/%D0%9D%D0%B5%D0%BB%D0%B8%D0%BD%D0%B5%D0%B9%D0%BD%D0%B0%D1%8F_%D0%BE%D0%BF%D1%82%D0%B8%D0%BA%D0%B0)
Название: Re: Рефлексия логического мышления
Отправлено: Alaric от 17 Июнь 2016, 15:40
Давайте мы всё же не будем рассуждать на основании того, что написано в википедии, и будем всё же опираться на реальное использование слова.
Я прошу прощения, но, по-моему, это спор об определениях.
Есть люди, которые словом "эмерджентность" обозначают какое-то понятие и даже готовы описать, какое именно понятие они им обозначают. Если есть люди, которые этим словом обозначают другое понятие, можно указать на возможные противоречия и уточнить, какой смысл используется здесь. Можно попробовать доказать, что само обозначаемое понятие не существует, самопротиворечиво или что-нибудь в этом духе. Но, как мне представляется, совершенно абсурдно заявлять, мол, вы не имеете право пользоваться таким-то определением слова, потому что оно дано не в авторитетном источнике. Определения имеет право давать каждый, это исключительно вопрос словоупотребления. В данном контексте сам спор о том, стоит ли доверять Википедии или нет, бессмысленен, потому что если оппонент описывает, что он понимает под "эмерджентностью", уже даже не важно, откуда он взял это определение (поскольку тут явно нет конфликта определений).
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 17 Июнь 2016, 15:46
И вообще, почему вы считаете хоть какую-то энциклопедию авторитентным источником?

Кстати, почему вы вместо достоверности источника рассматриваете авторитетность источника?

Имхо, достоверность дает больший вклад в качество карты, чем авторитетность. Аворитет чаще используется для искажения карты.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 17 Июнь 2016, 17:20
Чаще всего это означает, что на википедии размещены аргументы, которые опровергают точку зрения критика википедии.
Вы можете верить во всё, во что вам хочется верить.
Предлагаю начать отличать использование явление от использование термина.
"Явление" никто не использует. Оно просто либо есть, либо нет. И чтобы обозначить это состояние "есть или нет" используется термин. Если мы посмотрим для обозначения чего используется термин, то мы сможем сказать, что этот термин означает.
Когда-то я с гордостью называл себя хакером. Когда слово "хакер" вошло в массовую культуру и стало обозначать то, что я всегда называл "скрипткидди" или "уголовник", я перестал называть себя хакером. Потому что слово изменило значение. Когда-то термином "компьютерный вирус" я называл особого типа программы, которые встраивают свой код в код других программ. Но этот термин попал в лапы хомячья и сегодня он означает вообще любую программу, которая рассматривается пользователем как намеренно вредоносная.
Смысл слова определяется тем, как его используют. У слова нет какого-то "фундаментального" смысла. Энциклопедия не законодатель мод, а ровно наоборот, она лишь описывает тот смысл, который определяется использованием. И энциклопедию можно проверить. Вы верите энциклопедиям безоглядно, я проверяю то, что написано в них.

Термин "эмерджентность" знают узкие специалисты из кибернетики, те кто специализируется на изучении преобразования информации.

Остальные специалисты используют это явления, не заморачиваясь корректным его называнием. Они будут говорит о появлении нового свойства без использования узкого специализированного термина "эмерджентное свойство".

Например, в физике появление новых свойств изучают:
- исследование диссипативных структур (https://ru.wikipedia.org/wiki/%D0%94%D0%B8%D1%81%D1%81%D0%B8%D0%BF%D0%B0%D1%82%D0%B8%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D0%B0)
- динамический хаос (https://ru.wikipedia.org/wiki/%D0%94%D0%B8%D0%BD%D0%B0%D0%BC%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D1%85%D0%B0%D0%BE%D1%81)
- нелинейная оптика (https://ru.wikipedia.org/wiki/%D0%9D%D0%B5%D0%BB%D0%B8%D0%BD%D0%B5%D0%B9%D0%BD%D0%B0%D1%8F_%D0%BE%D0%BF%D1%82%D0%B8%D0%BA%D0%B0)
По вашим ссылкам нет ни одного вхождения слова "эмерджентность".

Я прошу прощения, но, по-моему, это спор об определениях.
Есть люди, которые словом "эмерджентность" обозначают какое-то понятие и даже готовы описать, какое именно понятие они им обозначают. Если есть люди, которые этим словом обозначают другое понятие, можно указать на возможные противоречия и уточнить, какой смысл используется здесь. Можно попробовать доказать, что само обозначаемое понятие не существует, самопротиворечиво или что-нибудь в этом духе. Но, как мне представляется, совершенно абсурдно заявлять, мол, вы не имеете право пользоваться таким-то определением слова, потому что оно дано не в авторитетном источнике. Определения имеет право давать каждый, это исключительно вопрос словоупотребления. В данном контексте сам спор о том, стоит ли доверять Википедии или нет, бессмысленен, потому что если оппонент описывает, что он понимает под "эмерджентностью", уже даже не важно, откуда он взял это определение (поскольку тут явно нет конфликта определений).
Может быть.
Но приведите мне пример реального использования слова "эмерджентность", не в том смысле, о котором говорю я, и я заменю "может быть", на "совершенно верно". Покажите мне хоть одного человека, который разделяет понимание слова "эмердженость" с википедией не для того, чтобы ему было удобнее спорить об эмерджентности, а с какой-нибудь другой целью.
Я не прошу какой-нибудь серьёзной выборки, я прошу один пример. Какую-нибудь захудалую научную статью, которая, например, доказывает неэмерджентность какого-нибудь признака (это идеальный случай). Или доказывает "эмерджентность". Или, хотя бы, постулирует эмерджентность.
Кстати, почему вы вместо достоверности источника рассматриваете авторитетность источника?
Наверное потому что это терминология википедии. Для неё не существует понятия "достоверность", лишь "авторитетность". Мы заговорили о википедии и я переключился на её терминологию.
Но, впрочем, не только поэтому. Ещё и потому, что у меня складывается ощущение, что вы слепо верите в авторитет википедии, не решаясь провести самостоятельное исследование и проверить её слова.
Имхо, достоверность дает больший вклад в качество карты, чем авторитетность. Аворитет чаще используется для искажения карты.
Это применимо к википедии, с её требованиями АИ?
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 17 Июнь 2016, 17:43
В данном контексте сам спор о том, стоит ли доверять Википедии или нет, бессмысленен, потому что если оппонент описывает, что он понимает под "эмерджентностью", уже даже не важно, откуда он взял это определение (поскольку тут явно нет конфликта определений).
Небольшое пояснение.

Термин "эмерджентность" (aka "системный эффект") изначально использовался в теории систем. Разумеется, его использование не возбраняется и за пределами данной дисциплины, но при этом необходимо понимать, что оно имеет смысл лишь в контексте какой-либо конкретной системы. Кроме того, эмерджентным может быть феномен (например, трение, вязкость, эластичность, температура у определенных физических систем или самоорганизация у определенных физических и биологических систем) или конкретное свойство объекта, но никак не понятие (ноумен).

Суть в том, что даже в рамках приводимых в данной дискуссии определений эмерджентности (которые представляют ту или иную разновидность "системного эффекта") выражение "эмерджентное понятие" некорректно. А коль скоро речь в предшествующем обсуждении шла о редукции, я бы предложил все явления разделять на редуцируемые и нередуцируемые. Тогда нужда в каком-то дополнительном термине окончательно исчезнет.

Мы здесь говорили не только об эмерджентности, но так же и о формализации процесса мышления.
Для логического позитивизма когда-то это являлось главной целью - впрочем, так и оставшейся недостигнутой.

Основоположником логического позитивизма считается Л.  Витгенштейн, чей "Логико-философский трактат" (http://filosof.historic.ru/books/item/f00/s00/z0000272/) ставил амбициозную задачу по выработке языка, позволяющего максимально объективно описывать окружающий мир.

Главная идея Витгенштейна была проста, как и все по-настоящему гениальное. Мир состоит не из объектов, а из фактов, представляя весь набор существующих фактов. Сами факты могут быть простыми и сложными, при этом в языке простые факты описываются простыми предложениями. Но если язык - это полное описание всего, что есть в мире (т.е. фактов), то налицо структурное тождество между языком и миром. Условность знаков реального языка такому тождеству отнюдь не препятствует, поскольку речь идет не о внешнем сходстве, а о взаимном соответствии логических структур. Это объясняет, каким образом язык моделирует предметный мир: элементарное предложение логически отображает атомарный факт, а язык в целом - все факты мира.

Язык так же допускает описание возможных фактов. Если удалить все предложения, нарушающие законы логики или не отражающие наблюдаемых фактов, то мы получим искомый "абсолютный язык", описывающий мир как совокупность фактов - конечную предметную действительность в форме логически упорядоченной системы содержаний и связей.

Есть только одна загвоздка, в значительной степени дискредитирующая столь замечательную идею. В любом языке неизбежно найдется элемент, называемый Витгенштейном "мистическим" - структура самого языка. "Мистичность" заключается в том, что понять эту структуру в рамках языковых средств, определяемых самой данной структурой, невозможно в принципе. Если мы попробуем, например, выяснить происхождение лексики русского языка, то нам понадобится исследовать всю семью славянских языков со всеми закономерности их эволюции. Затронув же проблему происхождения общеславянских лексем, мы не обойдемся без знания предшествующей, более обширной языковой группы (скажем, индоевропейской) и т.д. Рано или поздно мы упремся в некий исходный "праязык", от которого произошла наиболее общая рассматриваемая языковая группа. Однако вопрос, откуда же взялся этот "праязык", окончательно выведет нас за границы лингвистики.

Исходя из структурного тожества языка и мира, мы приходим к выводу, что основы (главные смыслы) бытия находится не в мире, но за его пределами, и невыразимы в языке. Это констатирует последняя фраза "Трактата", ради которой тот, по сути, и был написан: "О чем невозможно говорить, о том следует молчать".

(Легко видеть, что Витгенштейн здесь фактически предвосхищает знаменитые теоремы Геделя о неполноте. Впрочем, в юности Гедель был членом не менее знаменитого Венского кружка, где активно обсуждались идеи Витгенштейна.)

Сам Витгенштейн не указал какого-либо приемлемого способа преодоления данного парадокса. Его предложил Б. Рассел, написавший "Введение" к "Трактату", где указал, что идея, невыразимая в рамках заданного языка (например, идея его выразительности), вполне может быть выражена в языке более мощном, включающем заданный язык в качестве своей составной части. Разумеется, и в этом языке имеется собственное "невыразимое" (его собственная структура), и так без конца. Решение проблемы заключается в допущение всей бесконечной иерархии языков, существующей сразу со всеми своими уровнями иерархии. В этом случае "невыразимое" любого языка будет объяснено языком более высокого уровня, причем для всякого языка всегда найдется "объясняющий" его вышестоящий язык.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 17 Июнь 2016, 17:59
Я не прошу какой-нибудь серьёзной выборки, я прошу один пример. Какую-нибудь захудалую научную статью, которая, например, доказывает неэмерджентность какого-нибудь признака (это идеальный случай). Или доказывает "эмерджентность". Или, хотя бы, постулирует эмерджентность.

Данный запрос больше моего интереса в дискуссии.

Мои интересы:
 - обновить и структурировать своё понимание предмета дискуссии
 - взглянуть на предмет дискуссии с еще одной стороны
 - поспособствовать развитию мышления других людей

Рекомендую следующую научно-популярную литературу по системному подходу и эмерджентным свойствам, если не достаточно википедии.
     - О'Коннор Д., Макдермотт И. "Искусство системного мышления (http://flibustahezeous3.onion/b/443261)"
     - Д. Медоуз "Азбука системного мышления (http://flibustahezeous3.onion/b/282360)"
     - Ю. Лапыгин "Системное решение проблем (http://flibustahezeous3.onion/b/372197)"
     - Г. Лоулсон "Путешествие по системному ландшафту (http://flibustahezeous3.onion/b/429744)"


Добавлено 17 Июнь 2016, 19:14:
Вы можете верить во всё, во что вам хочется верить."Явление" никто не использует. Оно просто либо есть, либо нет.

Кладя продукты в холодильник, используется явление замедления реакций при охлаждении и т.д.
Включая кондиционер, используется явление охлаждения при испарении и т.д.
Щелкая выключателем, используется явление движения электронов по проводникам, явление испускания фотонов при высоких температурах и т.д.
Ведя дискуссию на форуме, используются явления распознавание образов, явление отображения цепочек символов в понятийные образы, явления синтаксического и семантического устройства языка, явления построения карты по территории и т.д.

Научные (энциклопедические) термины вводятся для возможности описания происходящих явлений. Ввод терминов обеспечивает возможность описать знание об явлении. Появляется возможность передать знание другому человеку.

При использовании предложенного подхода "использование только 'бытовых' значений терминов' теряется возможность описывать явления. Пропадает возможность коммуникации об явлениях. Теряется способность делать выводы об явлениях.


Цитировать
Когда-то я с гордостью называл себя хакером. Когда слово "хакер" вошло в массовую культуру и стало обозначать то, что я всегда называл "скрипткидди" или "уголовник", я перестал называть себя хакером. Потому что слово изменило значение. Когда-то термином "компьютерный вирус" я называл особого типа программы, которые встраивают свой код в код других программ. Но этот термин попал в лапы хомячья и сегодня он означает вообще любую программу, которая рассматривается пользователем как намеренно вредоносная.

В естественных языках существует такое явление: как расширение использования термина или омонимизация.
В целях удобства запоминания одно и то же слово используется, как для описания частного явления, так и всей категории явлений.
Например, слово "кошка" одновременно используется для обозначения:
- самка вида "кошка домашняя"
- любое животное вида "кошка домашняя"
- любое животное вида "семейство кошачьих"

Со словами "хакер" и "вирус" произошёл такой же процесс. Толкование слова расширилось с частной группы на большую категорию. В тоже время у этих слов остался и исходный смысл.

Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 18 Июнь 2016, 13:47
Небольшое пояснение.

Термин "эмерджентность" (aka "системный эффект") изначально использовался в теории систем. Разумеется, его использование не возбраняется и за пределами данной дисциплины, но при этом необходимо понимать, что оно имеет смысл лишь в контексте какой-либо конкретной системы. Кроме того, эмерджентным может быть феномен (например, трение, вязкость, эластичность, температура у определенных физических систем или самоорганизация у определенных физических и биологических систем) или конкретное свойство объекта, но никак не понятие (ноумен).
Рекомендую следующую научно-популярную литературу по системному подходу и эмерджентным свойствам, если не достаточно википедии.
     - О'Коннор Д., Макдермотт И. "Искусство системного мышления (http://flibustahezeous3.onion/b/443261)"
     - Д. Медоуз "Азбука системного мышления (http://flibustahezeous3.onion/b/282360)"
     - Ю. Лапыгин "Системное решение проблем (http://flibustahezeous3.onion/b/372197)"
     - Г. Лоулсон "Путешествие по системному ландшафту (http://flibustahezeous3.onion/b/429744)"
А вот это (даже если не ходить по ссылкам) объясняет зачем нужно слово "эмерджентность".

Если мы рассмотрим много всяких разных свойств системы, отследим, как эти свойства возникают из сочетания элементов, а потом заходим выполнить индукционный шаг, перейти на более выскокий уровень абстракции и начать рассуждать об общих закономерностях возникновения новых свойств из сочетания элементов, то нам понадобится достаточно абстрактное понятие, которое будет обозначать общий случай возникновения свойств из совокупности элементов. Без такого понятия мы не сможем говорить о закономерностях эмерджа.

Говорить об эмерджентности в любом конкретном случае будет странным, потому что в любом конкретном случае обязательно должна существовать редукция, которая объясняет эмердж свойства, и эта редукция заменяет собой слово "эмердж". Эта редукция порождает более точное (менее абстрактное) слово для обозначения эмерджентности. Скажем, кисть состоит из ладони и пальцев. Кисть может выполнять операции недоступные пальцам и ладони по-отдельности. Эта ситуация -- ситуация демонстрирующая эмерджентные свойства, но для описания этой ситуации вовсе не нужно слово "эмерджентность". Точно также оно не нужно, для описания того, как из движений молекул, подчиняющихся классической механике, возникает новая сущность -- термодинамическая система, -- со всеми её свойствами, которых нет у отдельных молекул, типа давления и температуры. Давление возникает благодаря соударению молекул газа со стенками.
Но если мы хотим рассматривать общие закономерности возникновения новых свойств, закономерности которые проявляют себя и в случае ладони и в случае термодинамической системы, то нам придётся как-то обозначить одним единым словом и "состоит из", и "возникает благодаря соударению...".
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 18 Июнь 2016, 15:09
Говорить об эмерджентности в любом конкретном случае будет странным, потому что в любом конкретном случае обязательно должна существовать редукция, которая объясняет эмердж свойства, и эта редукция заменяет собой слово "эмердж".
Эмерджентные свойства системы уже по определению не редуцируются к свойствам составляющих ее элементов. Но ничто не мешает нам рассматривать систему как отдельный объект и описывать его свойства точно так же, как мы описывали свойства элементов, из которых он состоит. Просто свойства этого объекта будут отличаться от свойств составляющих его элементов. Скажем, огонь (т.е. интенсивный процесс окисления) обладает температурой, а отдельные атомы и молекулы, участвующие в химической реакции окисления - нет. Таким образом, для описания свойств огня, рассматриваемого как самостоятельный объект (процесс), термин "эмерджентный" не нужен.

Повторюсь, что термин "эмерджентный" имеет смысл использовать для анализа системы, свойства которой отличны от свойств составляющих ее элементов. Во всех же остальных случаях его использование, мягко говоря, неуместно. Насколько я понимаю, вы придерживаетесь аналогичной точки зрения.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 18 Июнь 2016, 16:17
Скажем, кисть состоит из ладони и пальцев. Кисть может выполнять операции недоступные пальцам и ладони по-отдельности.

Кисть не является эмерджентным понятием.

Мне нравится ваша идея с "плоскостью". Она удобна для описания явления эмерджентности.

Понятийная плоскость P - это множество термов(понятий) T, операций над термами O и множество выводов(утверждений) V, где V множество выводов из термов T с помощью операций O.
Примеры понятийных плоскостей: поле рациональных числей, геометрия Евклида, механическая система, неорганическая химия, геометрическая оптика и т.д.

Эмерджентное явление - это такое явление, которое конструируется из понятий и операций понятийной плоскости P, но свойства которого не описывают понятийной плоскостью P.

Кисть является эмерджентным в плоскости "механическая система". Понятийный аппарат "механической системы" не способен объяснить возможность кисти дозировать усилие при операциях "взять яйцо" или "взять гирю".
Понятие кисть не является эмерджентным по отношению к понятийным плоскостям "механическая система + управление с обратной связью". Все явления кисти описываются на основе понятийного аппарата этих плоскостей.

Добавлено 18 Июнь 2016, 16:20:
Кроме того, эмерджентным может быть феномен (например, трение, вязкость, эластичность, температура у определенных физических систем или самоорганизация у определенных физических и биологических систем) или конкретное свойство объекта, но никак не понятие (ноумен).

Эмерджентное понятие - понятие(ноумен), называющее явление(феномен) с эмерджентными свойствами
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 18 Июнь 2016, 17:15
Эмерджентное явление - это такое явление, которое конструируется из понятий и операций понятийной плоскости P, но свойства которого не описывают понятийной плоскостью P.
Свойство кисти заключающееся в способности держать стакан обхватом -- это эмерджентное свойство? Ведь пальцы не могут её держать, ладонь тоже не может. Ну или могут, но не так как кисть. Кисть может захватить стакан стоящий на плоской поверхности так, чтобы его можно было бы поднять, просто ладонью или просто пальцами этого сделать не удастся.
Кисть является эмерджентным в плоскости "механическая система". Понятийный аппарат "механической системы" не способен объяснить возможность кисти дозировать усилие при операциях "взять яйцо" или "взять гирю".
Понятие кисть не является эмерджентным по отношению к понятийным плоскостям "механическая система + управление с обратной связью". Все явления кисти описываются на основе понятийного аппарата этих плоскостей.
Вы противоречите сами же себе этим заявлением. Вы же писали, что эмерджентное свойство порождается системой элементов. Если механическая система элементов не может породить кисть с рассматриваемыми нами свойствами, значит эта кисть -- не является эмерджентным свойством механической системы элементов.

Эмерджентные свойства системы уже по определению не редуцируются к свойствам составляющих ее элементов.
Я не видел пока ни одного примера нередуцируемого свойства системы. Пример с кистью как механической системой без системы обратных связей -- это пример когда приписываемое системе свойство не является свойством системы. Если мы возьмём человеческую кисть и обрежем нервные волокна, обеспечивающие обратную связь, то кисть потеряет способность держать яйцо или чашку, то есть она не будет иметь таких свойств.
Но как только мы, выдирая из реальности кусок, выдерем сколь-нибудь цельный кусок, так сразу окажется, что всё редуцируется.

А если я не прав, то прекращайте эти абстрактные рассуждения и давайте уже переходите к примерам. Я жду не дождусь.
Название: Re: Рефлексия логического мышления
Отправлено: Skywrath от 18 Июнь 2016, 17:48
Цитата: kuuff
Я усомнился в том, что для того, чтобы объяснить всё, необходима бесконечная цепочка причин.
В общем-то, кажется довольно очевидным, что конечный цикл не обладает бесконечной объяснительной силой и ясно, что можно требовать новые основания на каждый логический переход и такой стандарт объяснения конечный цикл не сможет пройти, даже если вы разрешаете циклическую логику. Короче говоря, любую тему можно обсуждать хоть целую вечность и это лишь вопрос времени, когда спекуляции на тему - сами становятся отдельной темой, требующей объяснения. То есть, когда мы пытается объяснить всё - процедура, которые делает цепочки объяснений актуально бесконечными появляется в явном виде, а вот когда мы пытается навести порядок и сложить эту бесконечность в цикл - совершенно не ясно, как такой порядок можно навести. Обычно, номинально вводит абсолютную категория типа бога на которую отсылают все проблемы и которая замыкает всё на себе, как чёрная дыра. Но этот вариант хуже, чем строить вавилонскую башню математической логики. Отдельно взятую тематику можно зациклить конструктивным образом. Зацикливать всё, что потребует объяснений, так что бы избежать абсурдной метафизики универсальных объяснений очень сложно. Цикл всегда устанавливает границы и объясняет конечную область дискурса, которая ими ограничена. Подобный подход не работает, если вы пытаетесь взять, объяснить всё сразу и сохранить хоть какую-либо адекватность. Похоже на то, как всю возможную математику нельзя взять и переписать в набор аксиом, хотя аксиоматизация работает в конечной области. Логика, рациональная для одних структур перестаёт справляться со структурой иного типа. Проблема возникает не из-за цикличности, но в цикличности не по месту.

Главный вывод. Вы правы, что использование циклов не представляет собой проблему. С другой стороны, в попытках объяснять актуально бесконечные структуры через конечные категории обычно вводятся абсурдные объяснения которые не могут сохранить адекватность рассуждений. Последние сгущают все объяснения вокруг себя, чтобы сохранить собственную универсальность.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 18 Июнь 2016, 17:51
Свойство кисти заключающееся в способности держать стакан обхватом -- это эмерджентное свойство?

Нет

Цитировать
Ведь пальцы не могут её держать, ладонь тоже не может.

Могут.

Для удержания достаточно по одному пальцу с разных рук. Можете эксперимент сами провести. И поднять двумя указательными пальцами кружку.

Для крепкого удержания достаточно трех пальцев (без контакта с ладонью): большого(1-2 фаланга), указательного(1-2 фаланга) и безымянного(1-2 фаланга).

ps
Может быть вы хотите сделать утверждение, что для четкого удержания предмета в трехмерном пространстве необходимо минимум 4 максимально разнесенных точки контакта.
В этом случае - да, происходит скачёк сложности и появляется эмерджентное свойство.
При оперировании точками контакта с числом менее 4 - нет фиксирования предмета. Оперирование точками контакта от 4 штук делает возможным фиксирование предмета.

Добавлено 18 Июнь 2016, 17:55:
Если механическая система элементов не может породить кисть с рассматриваемыми нами свойствами, значит эта кисть -- не является эмерджентным свойством механической системы элементов.

Да, "механическая система" не может породить "кисть". "Механическая система" + "управление с обратной связью" - породить могут.

Добавлено 18 Июнь 2016, 18:00:
А если я не прав, то прекращайте эти абстрактные рассуждения и давайте уже переходите к примерам. Я жду не дождусь.

Было приведено несколько примеров, но вы их отбросили.
Для продолжения конструктивной дискуссии теперь ваша очередь привести шаблон фальсифицируемого примера, который опровергнет вашу точку зрения.

Какими свойствами должен обладать пример, чтобы вы бы сказали: "О, да! Это не сводится к редукции"?
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 18 Июнь 2016, 18:12
Для удержания достаточно по одному пальцу с разных рук. Можете эксперимент сами провести. И поднять двумя указательными пальцами кружку.
А это уже, простите, словоблудие. Палец не может поднять стакан, но если взять человека с двумя руками, то он может. И никакой эмерджентности. Лол.
Какими свойствами должен обладать пример, чтобы вы бы сказали: "О, да! Это не сводится к редукции"?
Не знаю. Если бы я знал, я бы, наверное, сам его придумал.
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 18 Июнь 2016, 20:30
Я не видел пока ни одного примера нередуцируемого свойства системы..
Я выше привел пример с температурой. Чем он вас не устраивает? Температура - макроскопический параметр, представляющий одну из функций состояния термодинамической системы. Сама возможность описания этого состояния опирается на фундаментальное для классической термодинамики понятие термодинамического равновесия (постулат о возможности его достижения иногда называют "минус первым" началом термодинамики). Из свойств отдельных частиц данное понятие никак не следует.

Знание свойств отдельных элементарных частиц не позволит нам предсказать даже свойства атомов – хотя бы потому, что строение их электронных оболочек подчиняется собственных законам. А поскольку химические свойства элемента определяются его внешней электронной оболочкой, то знание физических свойств элементарных частиц не позволит нам предсказать химические свойства элементов.

Более того, поведение больших групп частиц подчиняется статистическим закономерностям и не может быть сведено к анализу динамических систем (описывающих движение конкретных частиц). Ведь уравнения классической и квантовой динамики обратимы во времени. Следовательно, знание законов движения физических объектов (т.е. знание классической или квантовой механики) не позволит нам обосновать второй закон термодинамики.

Короче говоря, усложнение системы неизбежно ведет и к усложнению законов, ею управляющих. Причем происходит не простое суммирование этих законов, а их качественный скачок. Но сторонники радикального редукционизма такую возможность полностью отвергают.

Эмерджентное понятие - понятие(ноумен), называющее явление(феномен) с эмерджентными свойствами
Понятие "эмерджентный" относится к свойствам системы. Скажем, тот же огонь имеет такие свойства, как яркость, цвет и температуру. Все эти свойства самодостаточны, если мы описываем огонь безотносительно составляющих его элементов, т.е. рассматриваем его как отдельный объект (процесс). Мы можем вообще не знать, из чего он состоит - для описания макроскопических параметров это отнюдь не требуется. Но если мы попытаемся вывести его параметры исходя из одних только свойств элементарных частиц, то нас постигнет неудача. Поэтому мы говорим, что макроскопические свойства данной системы не редуцируются до уровня микроскопических свойств составляющих его элементов. Хотя в общем случае какие-то свойства системы могут совпадать со свойствами составляющих ее элементов. Например, дом, построенный из кирпичей, который также имеет форму параллелепипеда. Однако прочие свойства дома отличаются от свойств отдельного кирпича. Можно ли сказать, что данный дом "эмерджентен" по отношению к кирпичу?
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 18 Июнь 2016, 22:06
Для удержания достаточно по одному пальцу с разных рук. Можете эксперимент сами провести. И поднять двумя указательными пальцами кружку.
Я вот подумал... Может быть вы имеете в виду свойства n пальцев, с точки зрения того, какие системы можно построить из N пальцев? Ну, в смысле: человек не имеющий двух пальцев не смог бы поднять стакан. Но если у него есть два пальца, то при наличии других всяких свойств, типа рук, он будет в состоянии поднять стакан. Так?


Но если мы применим это к вопросу, с которого мы исходно начали, о том, возможно ли создать интеллект тупо комбинируя сегодня известные алгоритмы, то это ваше понимание эмерджентности не даст ответа на тот вопрос. С этим пониманием эмерджентности, заявив "эмерджентно", вы заявили, по сути, что среди известных человечеству алгоритмов существуют необходимые для построения интеллекта. Что на мой взгляд сомнительно. Но что хуже, вы не можете утверждать, что человечеству известны все алгоритмы, которые необходимы для построения интеллекта. То есть, словечко "эмерджентно", всё равно ничего не меняет.

И именно об этом я толкую уже четыре страницы: слово "эмерджентно" ничего не меняет. Если за этим "эмерджентно" нет объяснения, редуцирующего понятие к свойствам его элементов, то это значит лишь то, что мы ещё недостаточно изучили систему и не поняли связь. И в любом случае, когда звучит слово "эмерджентно", можно делать вывод, что мы не знаем как устроена система и не понимаем её внутренних связей. Либо потому что недостаточно её исследовали, либо потому что, занимаясь изучением систем в общем, слишком абстрагировались от свойств конкретных систем.
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 19 Июнь 2016, 00:56
И в любом случае, когда звучит слово "эмерджентно", можно делать вывод, что мы не знаем как устроена система и не понимаем её внутренних связей.
Самый простой из известных мне примеров эмерджентности - два взаимодействующих булыжника, которые способны производить эффекты, невозможные при их отдельном использовании: издавать стуки, высекать искры и т.д. Хотите сказать, что устройство этой системы вам непонятно? :)
Кстати, с точки зрения теории систем источником (или носителем) эмерджентных свойств является структура системы. Причем в случае разных структур у систем, образуемых из одних и тех же элементов, могут быть разные свойства.
Название: Re: Рефлексия логического мышления
Отправлено: Alaric от 19 Июнь 2016, 01:14
Но если мы применим это к вопросу, с которого мы исходно начали, о том, возможно ли создать интеллект тупо комбинируя сегодня известные алгоритмы, то это ваше понимание эмерджентности не даст ответа на тот вопрос. С этим пониманием эмерджентности, заявив "эмерджентно", вы заявили, по сути, что среди известных человечеству алгоритмов существуют необходимые для построения интеллекта. Что на мой взгляд сомнительно. Но что хуже, вы не можете утверждать, что человечеству известны все алгоритмы, которые необходимы для построения интеллекта. То есть, словечко "эмерджентно", всё равно ничего не меняет.
Если возвращаться к этому самому исходному вопросу... (Я не уверен, что я сам не ухожу в оффтоп, если что - сигнализируйте.)
В начале месяца я был на лекции Сергея Маркова (https://www.youtube.com/watch?v=JscFBSFqG3k) - человека, который всерьёз занимается вопросами искусственного интеллекта. И он сказал, что по текущим прогнозам где-нибудь в 30-х годах мы научимся моделировать работу человеческого мозга в реальном времени. По его мнению, сейчас нам мешает лишь отсутствие достаточно быстрых машин, уже идут попытки моделировать отдельные области мозга крыс.
Соответственно, при таком раскладе нам не нужны какие-то дополнительные алгоритмы для построения интеллекта, мы можем просто научиться копировать существующие, если у нас есть соответствующие мощности.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 19 Июнь 2016, 01:59
Самый простой из известных мне примеров эмерджентности - два взаимодействующих булыжника, которые способны производить эффекты, невозможные при их отдельном использовании: издавать стуки, высекать искры и т.д. Хотите сказать, что устройство этой системы вам непонятно? :)
Мне непонятно здесь то же, что и в случае термодинамической температуры: что здесь нередуцируемого.

В начале месяца я был на лекции Сергея Маркова (https://www.youtube.com/watch?v=JscFBSFqG3k) - человека, который всерьёз занимается вопросами искусственного интеллекта. И он сказал, что по текущим прогнозам где-нибудь в 30-х годах мы научимся моделировать работу человеческого мозга в реальном времени. По его мнению, сейчас нам мешает лишь отсутствие достаточно быстрых машин, уже идут попытки моделировать отдельные области мозга крыс.
Соответственно, при таком раскладе нам не нужны какие-то дополнительные алгоритмы для построения интеллекта, мы можем просто научиться копировать существующие, если у нас есть соответствующие мощности.
Я не очень верю таким прогнозам: я не знаю как он считал, что получил 15 лет на создание модели человеческого мозга. Подозреваю как, и поэтому ещё больше не верю.
Кроме того, то что он называет "моделировать" -- это создание электронной копии. Выше desmond указывал, что копия и модель -- это две разные вещи. Они создадут копию, и что, интересно, они с ней будут делать? Сергей Марков об этом не говорил на лекции? Когда увидите его в следующий раз, спросите: неужели они планируют столь неосмотрительный шаг, как запуск такой модели? И их не остановят этические соображения, связанные с тем, что когда-нибудь эту модель придётся выключить, но если модель действительно полностью моделирует человеческий головной мозг, то выключить её -- значит убить человека. На самом деле даже включить её, вероятно, уже неэтично. Представьте: внезапно вы приходите в сознание, в полной сенсорной депривации, и тихо сходите с ума. А всё потому, что какому-то Сергею Маркову приспичило ещё разок включить модель вашего мозга, чтобы подумать -- чего это она через полчаса после включения впадает в эпилептический припадок.
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 19 Июнь 2016, 02:15
Мне непонятно здесь то же, что и в случае термодинамической температуры: что здесь нередуцируемого.
В случае булыжников каждый из них, взятый по отдельности, не способен порождать звуки или искры.
Точно так же частицы, образующие термодинамическую систему, сами обладают лишь кинетической энергией, но не температурой.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 19 Июнь 2016, 02:43
В случае булыжников каждый из них, взятый по отдельности, не способен порождать звуки или искры.
Точно так же частицы, образующие термодинамическую систему, сами обладают лишь кинетической энергией, но не температурой.
Карл, при редукции понятие исчезает. Редуцируется, Карл!
Если я редуцирую радугу, то её не станет, останутся только преломляющиеся лучи света. Если я редуцирую температуру, останется только кинетическая энергия молекул, но не температура. Если я сделаю что-то ещё с радугой или температурой, но так, что они не исчезнут, то это будет не редукция, а что-то совершенно иное.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 19 Июнь 2016, 12:00
Если я редуцирую радугу, то её не станет, останутся только преломляющиеся лучи света.

Смешивается явление и способ получения. Явление радуга и способ получения радуги.

Радуга - это спектр. Цветная полоса с изменением цветности от одного края к другому. Цветность меняется от меньшей длины волны к большей.

ps
Важно различать редуцирование понятия "радуга - это полоса, изменяющейся цветности" от редуцирования явления до способа получения - "радуга - это результат дифракции-интерференции фотонов в неоднородной среде".
При редуцировании понятия - понятие исчезает, потому что это лишь слово, придуманное субъектом.  При редуцировании явления - явление остается, оно лишь рассматривается на более детальном уровне.
Название: Re: Рефлексия логического мышления
Отправлено: Alaric от 19 Июнь 2016, 13:04
Я не очень верю таким прогнозам: я не знаю как он считал, что получил 15 лет на создание модели человеческого мозга. Подозреваю как, и поэтому ещё больше не верю.
Там сказано как. Если вкратце, насколько я понял, оценка просто получается из того, когда у нас оценочно накопятся мощности, достаточные, чтобы промоделировать одновременно столько нейронов, сколько есть в человеческом мозге. Сам нейрон не слишком сложная конструкция.
Цитировать
Кроме того, то что он называет "моделировать" -- это создание электронной копии. Выше desmond указывал, что копия и модель -- это две разные вещи. Они создадут копию, и что, интересно, они с ней будут делать?
А в чём проблема? Если у нас есть некий интеллект, его можно заставить решать задачки. Да, конечно, нет особой пользы от того, чтобы создать копию человека и заставить её решать задачки. Однако, мощности будут расти и дальше, и если мы сможем создать копию человеческого мозга, то после этого, мы сможем создать копию человеческого мозга, которая будет работать также эффективно, но быстрее. Т.е. будет решать те же задачки, что и человек, но быстрее.
(Если что, это мой ответ, а не Маркова.)
Цитировать
Когда увидите его в следующий раз, спросите: неужели они планируют столь неосмотрительный шаг, как запуск такой модели? И их не остановят этические соображения, связанные с тем, что когда-нибудь эту модель придётся выключить, но если модель действительно полностью моделирует человеческий головной мозг, то выключить её -- значит убить человека. На самом деле даже включить её, вероятно, уже неэтично. Представьте: внезапно вы приходите в сознание, в полной сенсорной депривации, и тихо сходите с ума. А всё потому, что какому-то Сергею Маркову приспичило ещё разок включить модель вашего мозга, чтобы подумать -- чего это она через полчаса после включения впадает в эпилептический припадок.
Во-первых, я не так часто общаюсь с Марковым, поэтому если вам интересны какие-то ответы от него, спросите сами, в Сети он присутствует, в приложенной к видео информации контакты есть.
Во-вторых, спор об этике в данном случае, по-моему, упирается в спор о том, что такое сознание, и меня не тянет в нём участвовать. "Выключить её - значит убить человека" к тому же очень напоминает презумпцию типичности (https://vk.com/id1948730?w=page-99973027_50962616).
В-третьих, я подозреваю, что прогресс всё равно не остановить, и кто-нибудь это неизбежно всё равно сделает (причём, почти наверняка этим кем-то будет не Марков, потому что соответствующие мощности почти наверняка раньше появятся не в России), а вопросы этичности (если они действительно есть) нам придётся разбирать когда что-нибудь "рванёт", как это всегда и бывает.
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 19 Июнь 2016, 13:08
Среди системных свойств различают свойства аддитивные, возникающие благодаря простому суммированию свойств частей (масса системы из двух булыжников равна суммарной массе обоих булыжников), суперааддитивные, превышающие сумму свойств частей (собственно эмерджентные свойства: например, способность тех же двух булыжников при соударении порождать звуки и искры), и субаддитивные, которые меньше, чем сумма свойств частей (система из двух булыжников, положенных один на другой, будет менее устойчива, чем один булыжник).

Эмерджентные свойства системы не могут быть объяснены или выражены через свойства отдельно взятых ее частей. Причем эти свойства существуют до тех пор, пока существует система как единая целостность. Сами же ее свойства определяет структура системы. Наиболее наглядный пример, демонстрирующий связь между структурой системы и ее новыми свойствами – радиоэлементы (или логические элементы), соединенные между собой в единую цепь. Меня схему соединения, мы получим цепь с разными электрическими параметрами (или логическими функциями), хотя свойства самих элементов останутся неизменными.

Диалектический закон перехода количества в качество с этой точки зрения эквивалентен качественному скачку свойств системы при ее переходе от одной структуры к другой, когда изменения происходят внутри самой структуры .

Редуцирование с этой точки зрения означает переход на более низкий системный уровень. Так, перейдя с уровня термодинамической системы на уровень образующих ее частиц, мы обнаружим исчезновение всех макроскопических свойств. Сколько бы мы не исследовали эти частицы, мы не найдем у них ни одного из признаков данных свойств. Поскольку сами частицы обладают лишь динамическими характеристиками, а термодинамическая система - статистическими.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 19 Июнь 2016, 14:06
Там сказано как. Если вкратце, насколько я понял, оценка просто получается из того, когда у нас оценочно накопятся мощности, достаточные, чтобы промоделировать одновременно столько нейронов, сколько есть в человеческом мозге.
Да-да. Именно это я и подозревал. Безнадёжно оптимистичный прогноз. Он кстати учитывал наблюдаемое замедление закона Мура или нет?
А в чём проблема? Если у нас есть некий интеллект, его можно заставить решать задачки. Да, конечно, нет особой пользы от того, чтобы создать копию человека и заставить её решать задачки. Однако, мощности будут расти и дальше, и если мы сможем создать копию человеческого мозга, то после этого, мы сможем создать копию человеческого мозга, которая будет работать также эффективно, но быстрее. Т.е. будет решать те же задачки, что и человек, но быстрее.
Он не будет решать. Человек в состоянии сенсорной депривации быстро вваливается в совершенно непродуктивное состояние. Придётся создать этому человеку ещё и сенсорный вход. Причём интерактивный, потому что рефлекторные дуги замыкаются снаружи в рефлекторные кольца. Потому что если человек нахмуривает брови, то он получает в ответ кинестетические ощущения характеризующие гримасу "нахмуренные брови" и эти ощущения существенно меняют состояние психики -- достаточно существенно, чтобы зарегистрировать это экспериментально. Мысля человек проговаривает слова, сигналы уходят к мышцам и возвращаются обратно снимаемые с проприорецепторов, искусственное создание помех в этом процессе существенно замедляет способность человека решать задачи.
Короче, придётся создать не только виртуальный мозг, но ещё и виртуальное тело, а скорее всего ещё и пару десятков кубометров виртуального пространства вокруг этого тела. И симулировать всё это, только для того, чтобы мозги оставались бы в работоспособном состоянии.

Во-вторых, спор об этике в данном случае, по-моему, упирается в спор о том, что такое сознание, и меня не тянет в нём участвовать. "Выключить её - значит убить человека" к тому же очень напоминает презумпцию типичности (https://vk.com/id1948730?w=page-99973027_50962616).
В-третьих, я подозреваю, что прогресс всё равно не остановить, и кто-нибудь это неизбежно всё равно сделает (причём, почти наверняка этим кем-то будет не Марков, потому что соответствующие мощности почти наверняка раньше появятся не в России), а вопросы этичности (если они действительно есть) нам придётся разбирать когда что-нибудь "рванёт", как это всегда и бывает.
То есть, если нет твёрдой уверенности в том, что деяние крайне неэтично, значит можно его совершить? Если кто-нибудь другой обязательно совершит это сомнительное деяние, значит и нам можно? Это довольно шаткая этическая позиция.

Впрочем вопрос об этике на самом деле оффтопичен, но я говорил об этике не с целью обсуждать этику, а как пример потенциального источника проблем, которые не учитывались при расчёте дедлайна 2030 года. Вне зависимости от того, допустимо ли с этической точки зрения создавать рабочую копию человеческого мозга или нет, в любом случае -- это этическая проблема, потому что вопрос не имеет лежащего на поверхности очевидного ответа. А это значит, что найдутся те, кто будет ломать копья в этом споре. А ну-ка, представьте, РПЦ встанет дыбом, хомячки выйдут на улицы и будут требовать прекратить издевательство над бедными виртуальными людьми. "Рукотворный виртуальный ад и учёные -- черти его." Законопроект запрещающий создание копий мозга человека. И далее по тексту...
Речи этих специалистов в ИИ, вообще вызывают в моей памяти высказывание Козьмы Пруткова: "специалист подобен флюсу, потому что он односторонен". Вспоминаются слепцы, исследующие слона методом ощупывания одной части этого слона. Они то ли игнорируют наблюдаемую эмерджентную сложность человеческой психики, то ли полагают что если эта сложность сэмерджится на виртуальных нейронах, то они каким-то чудом получат возможность проектировать искусственные интеллекты под произвольные цели. Ну-ну. На мой взгляд, если добавить пессимистичности в закон Мура, то можно сделать предсказание, что к 2035-2040 году создадут виртуальную копию головного мозга, которая станет не ИИ, а объектом исследования учёных-когнитивистов (это и ИИ, и нейронаука, и психология, и... ну тот шестиугольник Милллера). И вот затем... Мне сложно оценить сколько времени потребуется на исследование столь удобной модели для исследования. Вероятно дохрена, вероятно придётся сначала дождаться развития техники, когда эту модель сможет запустить у себя на десктопе любой молодой учёный, когда над этой моделью начнут работать параллельно тысячи исследователей, и вот после этого... может лет десять? То есть году эдак к 2070?

Добавлено 19 Июнь 2016, 14:52:
Кстати, мне в голову пришёл показательный пример-аналогия: декодирование ДНК. Где-то в районе 2000 года секвенировали генотип человека. Журналисты тогда ещё истерику закатили, мол, все загадки человека решены. Прошло около пятнадцати лет и какие результаты мы наблюдаем? Мы продолжаем узнавать всё больше и больше -- постоянно выясняют функции то одного, то другого гена. Это круто. Но где практический выхлоп?

Технологии секвенирования ДНК охрененно помогли биоинженерии и поэтому ГМО стали обыденностью. Но в ГМО в общем нет чего-то принципиально нового, ГМО делают с 1970-какого-то там года. Да, знание содержимого ДНК и возможность сравнивать ДНК разных людей позволяет выяснить механизмы тех или иных заболеваний. Иногда это приводит к возможности вмешаться в эти механизмы и вылечить болезнь, хотя бы симптоматически. Но исправить кривой ген пока никак.
Может быть учёные теперь могут создать человека в пробирке? Нет. Пока нет. Высшее достижение -- создание бактерии. И даже с модифицированные генетическим алфавитом. Но бактерии. Одноклеточного существа.

И создание копии человеческого мозга я вижу примерно таким же прорывным достижением, как и секвенирование ДНК человека. Круто! Выход на новый уровень! Да, но сам по себе выход на новый уровень даёт лишь возможность для исследователей более эффективно исследовать.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 19 Июнь 2016, 15:47
По его мнению, сейчас нам мешает лишь отсутствие достаточно быстрых машин, уже идут попытки моделировать отдельные области мозга крыс.
Соответственно, при таком раскладе нам не нужны какие-то дополнительные алгоритмы для построения интеллекта, мы можем просто научиться копировать существующие, если у нас есть соответствующие мощности.

Реально научиться моделировать структуру, схожую с мозгом.
В такие сроки, нереально научиться копировать конкретный мозг в виртуальную среду. Особенность мозга, как самообучающейся системы - высокая запутанность и заточенность под эффект окружения.

Цитировать
Соответственно, при таком раскладе нам не нужны какие-то дополнительные алгоритмы для построения интеллекта, мы можем просто научиться копировать существующие, если у нас есть соответствующие мощности.

Малоперспективный путь. Неэффективно, затратно, неуправляемо и т.д.

Программа пишется за год-пять, и имеет минимум побочных эффектов.
Мозг человека необходимо обучать 30 лет без гарантии результата, полученный результат имеет кучу побочных эффектов.

Изменение логики работы программы - день-месяц.
Переобучение мозга человека - год-пять.
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 19 Июнь 2016, 20:25
при редукции понятие исчезает
Все понятия находятся в нашей голове. Исчезнуть из нее они, разумеется, могут (например, при банальном забывании), но лучше все-таки этого не допускать. Ведь без соответствующих понятий мы не в состоянии что-либо осмыслить.

Я выше привел определения, из которых следует однозначный вывод: эмерджентное свойство (феномен, явление) - синоним нередуцируемого. Причем на каждом системном уровне свой набор таких свойств. Можно выделить базовые уровни, обычно именуемые структурными уровнями организации материи. Наиболее фундаментальные уровни характеризуют наиболее значимые качественные "скачки", образуя следующую иерархию:

- физический уровень (характеризует отличие материального от нематериального)
- биологический уровень (характеризует отличие живого от неживого)
- социальный уровень (характеризует отличие разумного от неразумного)

Все эти уровни подразделяются на более мелкие уровни, каждому из которых соответствует определенная область знаний.

Физический уровень:
1. микромир (мир атомов и элементарных частиц)
- уровень элементарных частиц
- уровень атомов

2. макромир (мир устойчивых форм и соразмерных человеку величин)
- уровень молекул
- уровень макротел

3. мегамир (мир космоса)
- планеты и планетные системы
- звезды и звездные системы
- галактика
- метагалактика
- вселенная

Биологический уровень:
- доклеточный уровень (белки и нуклеиновые кислоты)
- клеточный уровень
- многоклеточный организм
- популяция (совокупность особей одного вида)
- биоценоз (совокупность популяций)
- биосфера (совокупность всех живых организмов, включая человека)

Социальный уровень:
- индивид
- семья
- коллектив (социальная группа)
- этнос (народ, нация)
- государство
- цивилизация
- человечество в целом

Каждому из этих уровней также соответствует определенная научная дисциплина (чаще всего не одна). Приведу пример для физического уровня:

1. микромир
- физика элементарных частиц
- атомная физика

2. макромир
- молекулярная физика (множество дисциплин от физики твердого тела и физики полупроводников до физики жидкостей и газов)
- неорганическая химия
- классическая физика

3. мегамир
- релятивистская физика
- астрофизика

Одна из причин, почему практически для каждого уровня необходима своя научная дисциплина, заключается в том, что нередуцируемые свойства нередко принимают характер законов, изучение которых требует совершенно новых представлений и понятий, принципиально отличающихся от имеющихся на других уровнях.

Безнадёжно оптимистичный прогноз.
Проблемы, возникающие при создании ИИ в значительно степени обусловлены тем, что в данном случае происходит переход на новый фундаментальный уровень, отделяющий искусственный разум от естественного. А согласно логике системного подхода, на этом уровне должны существовать свои законы, без знания которых ИИ не построишь.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 19 Июнь 2016, 21:26
А кто-нибудь кроме LswAgnostic и desmod'а может объяснить, что такое нередуцируемое свойство? Их все объяснения для меня выглядят как "бла-бла-бла, следовательно, нередуцирумо!" Откуда у них вдруг вылезает нередуцируемость мне совершенно неясно. Я серьёзно подозреваю, что эта ихняя нередуцируемость не более чем синдром утёнка: они где-то слышали про существование нередуцируемых свойств, и теперь никак не могут отказаться от последствий импринтинга. Но подобное объяснение сильно в стиле бритвы Хэнлона и я, как сторонник антибритвы Хэнлона, очень хочу найти какое-нибудь другое объяснение.
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 19 Июнь 2016, 23:48
Не вижу каких-либо оснований отрицать феномен эмерджентности (https://en.wikipedia.org/wiki/Emergence). Я опираюсь на известные научные факты. Например, дискретность электронных орбиталей в атомах никак не вытекает из свойств свободных электронов. Эта дискретность была обнаружена эмпирическим путем, а для ее обоснования пришлось постулировать новый закон (принцип Паули). Иными словами, данное свойство не редуцируется до уровня элементарных частиц - на атомном уровне действуют свои закономерности.

А вот вы, интересно, почему так убеждены в редуцируемости всего и вся? Какие авторитеты или личные наблюдения убедили вас в истинности такого подхода?
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 20 Июнь 2016, 00:20
А вот вы, интересно, почему так убеждены в редуцируемости всего и вся? Какие авторитеты или личные наблюдения убедили вас в истинности такого подхода?
Я не вижу ничего не редуцируемого. Я не понимаю, как вы, рисуя иерархию знаний, где верхние уровни редуцируются к нижним, заявляете что уровни нередуцируемы. Мне это совершенно неясно.
Название: Re: Рефлексия логического мышления
Отправлено: desmod от 20 Июнь 2016, 00:46
Я же привел выше конкретный пример. На нижнем уровне у нас есть набор элементарных частиц с определенными свойствами. Мы собираем из них систему - атомную структуру, тем самым переходя на более высокий уровень организации материи. И обнаруживаем на этом уровне новые свойства - в частности, дискретность электронных орбиталей. Данное свойство - особенность атомного уровня. Оно присуще только ему, исчезая при переходе на уровень элементарных частиц.

...Все равно ничего не видите? :)
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 20 Июнь 2016, 01:10
Я не вижу ничего не редуцируемого.

Имхо, это следствие того, что используется редукция без последующего конструирования.

Гротескный пример от вашего имени:
 Редуцируется всё. Вот возьмем человека. Человек редуцируется до головы, рук, туловища и ног. Где здесь эмерджентные свойства?

Проверка редукции через конструирование.
Идем в морг. Берем голову, рук, туловище и ноги. Приставляем к друг другу. Человек не получился. При редукции что-то было упущено. Упущенное и есть эмерджентное свойство. В данном случае - жизнь.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 20 Июнь 2016, 01:40
Проверка редукции через конструирование.
Идем в морг. Берем голову, рук, туловище и ноги. Приставляем к друг другу. Человек не получился. При редукции что-то было упущено. Упущенное и есть эмерджентное свойство. В данном случае - жизнь.
То есть, если мы выдерем из реальности некий кусок, выдерем довольно условным образом, упустив из виду, например, что ткани человеческого тела имеют внутреннее состояние, и есть ограниченный класс внутренних состояний совместимых с жизнью. Любая часть тела пролежавшая в морге сутки, уже необратимо перешла в состояние не совместимое с жизнью. При этом мы упускаем из виду наличие крови, которая конечно же вытекла, пока эти части лежали поотдельности. То есть, мы не рассматриваем какие-то свойства элементов.
В живом человеке же нерассмотренные нами свойства элементов порождают такое свойство как жизнь. И это свойство мы называем эмерджентным, для того, чтобы просто пометить, что это свойство не вытекает из свойств нашей модели, потому что модель убога.
Или с другой стороны: мы не понимая как работает человеческая физиология разобрали человека, а потом собрали обратно. Человек от этого необратимо сломался, из чего мы делаем вывод, что жизнь нередуцируема и эмерджентна.

Так ли я понял? Давайте проверим, рассмотрим аналогичный пример, но не с физиологией, а с электроникой. Допустим, я разобрал свой системный блок, потому что шумит. Обесточил, разобрал на отдельные части, вынул батарейку. После чего помыл под душем от пыли. Тщательно просушил. Собрал. Не работает. Значит ли это, что работоспособность системного блока -- нередуцируема и эмерджентна? Или это означает что-нибудь типа того, что я плохо понимаю влияние воды на контакты материнской платы, или может дело в том, что отделять и/или соединять обратно детали надо было в строго определённом порядке? Или наблюдаемое означает и то, и другое одновременно? В смысле верно одновременно и "работоспособность сисблока нередуцируема", и "руки из жопы"?

Или может быть это будет субъективно? В смысле для меня "работоспособность сисблока нередуцируема", а с вашей точки зрения, ситуация описывается фразой "руки из жопы".
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 20 Июнь 2016, 02:37
Значит ли это, что работоспособность системного блока -- нередуцируема и эмерджентна?

Означает, что редукция была неполной и что-то важное было пропущено.

Берем цепь: лампочка, батарейка, провода. Лампочка светится.
Редуцируем до утверждения: свечение лампочки состоит из лампочки, батарейки и проводов.
Проверка редукции через конструирование: берем какую попало лампочку, какую попало батарейку, какие попало провода, как попало составляем рядом - не работает.
Упустили: исправность лампочки, заряженность батарейки, соответствие напряжения лампочки и батарейки, соединение всех элементов в цепь, замкнутость цепи, сопротивление проводов, сопротивление лампочки и батарейки.

Редуцируй, пожалуйста, понятие "замкнутость цепи" для произвольной цепи так, чтобы проверка через конструирование с какими попало условиями обеспечивало работоспособный результат.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 20 Июнь 2016, 08:09
Означает, что редукция была неполной и что-то важное было пропущено.
То есть, нередуцируемость/эмерджентность, это как раз то самое, о чём я говорю с самого начала: было упущено что-то важное, и это упущение было заткнуто словом "эмерджентно", так?
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 20 Июнь 2016, 10:38
То есть, нередуцируемость/эмерджентность, это как раз то самое, о чём я говорю с самого начала: было упущено что-то важное, и это упущение было заткнуто словом "эмерджентно", так?

Эмерджентность означает, что если делать редукцию по всем правилам (в частности, проверяя через обратное конструирование), то окажется, что некоторые явления/понятия не редуциируемы.

Нередуциируемые понятия: "форма", "размер", "ссылка", "разница", "время", "часть", "ценность", "масса", "полнота".

Эмерджентность в узком смысле (по теории систем) - при структурной декомпозиции целого на части. Ни одна из частей не обладает одним из свойств целого. (Для эмерджентных свойств - не существует ни одной структурной декомпозиции такой, чтобы хотя бы одна из частей обладала свойством целого).

Добавлено 20 Июнь 2016, 11:20:
Эмерджентность важна при конструировании. При переходе от пассивного созерцания к принятию решению и активному преобразованию мира. При переходе от описательности(редуцирования) к конструированию(созиданию).

Есть следующие эвристики конструирования.
Из черных частей не сделать белое целое.
Из твердых частей не сделать мягкое целое.
Из глупых элементов не сделать умное целое.
Из неживых элементов не сделать живое целое.
Из теплых объектов не сделать холодное целое.
Из сложных объектов не сделать простую конструкцию.
Из неточного не сделать точного.
Из ненадежных частей не сделать надежной конструкции.

Эвристика означает: при соединении как попало частей с отсутствием свойства X не получится целое с наличием свойства X.

Эмерджентность - при определенном соединении частей без свойства X возможно создать целое со свойством X.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 20 Июнь 2016, 14:29
Эмерджентность означает, что если делать редукцию по всем правилам (в частности, проверяя через обратное конструирование), то окажется, что некоторые явления/понятия не редуциируемы.

Нередуциируемые понятия: "форма", "размер", "ссылка", "разница", "время", "часть", "ценность", "масса", "полнота".
Почему они нередуцируемы? Я могу описать любую конкретную форму в терминах точек. Или это плохо? Тогда я могу достать учебник гештальт-психологии и вынуть оттуда описание закономерностей, по которым человеческие мозги выделяют фигуру на фоне. Я могу, наконец, взять нейронауку и объяснить как происходит обработка информации, и как при этом возникает понятие формы.

Или фишка в том, что "по всем правилам"? Что это за правила, которые запрещают мне редуцировать перечисленные понятия?
Эмерджентность - при определенном соединении частей без свойства X возможно создать целое со свойством X.
Это, по-моему, ровно то же самое, о чём говорю я: эмерджентность -- это общее слово для обозначения всевозможных разных способов создания целого из частей. Исключая из этих способов рекурсивные -- когда объект класса X создаётся из других объектов класса X.
Название: Re: Рефлексия логического мышления
Отправлено: Alaric от 20 Июнь 2016, 14:45
Да-да. Именно это я и подозревал. Безнадёжно оптимистичный прогноз. Он кстати учитывал наблюдаемое замедление закона Мура или нет?
Он его учитывал, но я не помню как. Кажется, там было что-то из серии, мы не можем больше так тесно лепить транзисторы, но мы можем наращивать число ядер. (Но я могу ошибаться, точно не помню.)

Цитировать
...То есть году эдак к 2070?
Гм. Я обращаю ваше внимание на то, что раньше вы вообще сомневались в возможности искусственного интеллекта, а теперь, как в том анекдоте, "уже торгуетесь", в смысле, оцениваете, когда он всё-таки появится.

Ваши возражения, вполне возможно, имеют смысл, но вы сами их явно не считаете непреодолимыми препятствиями.
Что касается вопроса этики, я просто сказал, что я не хочу сейчас этот вопрос обсуждать (можете отдельную тему завести, если хотите), но я считаю, что этический вопрос никак не повлияет на то, сделает кто-нибудь подобный интеллект или нет.

Цитировать
Но исправить кривой ген пока никак.
Я внимательно не копал, но, по-моему, даже в Вики (https://ru.wikipedia.org/wiki/Генотерапия) перечислено несколько случаев "исправления", в том числе, даже на человеке. Англоязычная страница приводит гораздо больше примеров. Я на одной из научно-популярных лекций слышал утверждения, что это вполне уже рабочая процедура. (Естественно, пока нет возможностей поправить все гены во всём организме, но для многих задач это не нужно.)
Впрочем, мы уходим в оффтоп.

Малоперспективный путь. Неэффективно, затратно, неуправляемо и т.д.

Программа пишется за год-пять, и имеет минимум побочных эффектов.
Мозг человека необходимо обучать 30 лет без гарантии результата, полученный результат имеет кучу побочных эффектов.
Я не утверждал, что это самый перспективный путь. Я привёл этот пример, потому что он показывает, что мы в перспективе можем сделать ИИ, даже не изобретая ничего принципиально нового вообще. Да, конечно, если в каких-то областях случатся прорывы, возможно, появятся более простые и изящные решения, и описанное мной решение не будет реализовано.

Кроме того, тут мы ещё упираемся в вопрос: а что такое искусственный интеллект? О чём, собственно, спор? Что именно человек может или не может создать? Решение с копированием в какой-то степени обходит эти вопросы, потому что мало кто заявит, что полноценная копия человеческого мозга, если она будет создана, интеллектом не обладает.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 20 Июнь 2016, 14:56
Почему они нередуцируемы? Я могу описать любую конкретную форму в терминах точек.

Эта редукция вводит другие нередуцируемые понятия "точка", "пространство", "положение в пространстве".

Цитировать
Это, по-моему, ровно то же самое, о чём говорю я: эмерджентность -- это общее слово для обозначения всевозможных разных способов создания целого из частей.  Исключая из этих способов рекурсивные -- когда объект класса X создаётся из других объектов класса X.

Да, в виде неточного определения.

Добавлено 20 Июнь 2016, 15:03:
Кроме того, тут мы ещё упираемся в вопрос: а что такое искусственный интеллект?

Решатель произвольных(имеющих решение при данных ограничениях) новых(неизвестных на момент создания решателя) задач оптимальным или субоптимальным способом.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 20 Июнь 2016, 15:07
Гм. Я обращаю ваше внимание на то, что раньше вы вообще сомневались в возможности искусственного интеллекта, а теперь, как в том анекдоте, "уже торгуетесь", в смысле, оцениваете, когда он всё-таки появится.
Нет. Я ни разу не сомневался. Я сомневался в том, что он магическим образом сэмерджится из закона Мура или из чего-нибудь ещё. И до сих пор сомневаюсь.
Эта редукция вводит другие нередуцируемые понятия "точка", "пространство", "положение в пространстве".
И что с того? Любая редукция потребует введения дополнительных понятий уровнем ниже. Физика так работает уже очень давно. Доковырялась до кварков.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 20 Июнь 2016, 15:10
И что с того? Любая редукция потребует введения дополнительных понятий уровнем ниже.

Для перечисленных понятий редукция зацикливается.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 20 Июнь 2016, 15:24
Для перечисленных понятий редукция зацикливается.
Это для каких? Форма например? Математика определяет евклидово пространство не прибегая к понятию форма. Если вам интересна не математика, а человеческий мозг, то он идёт от таких "понятий" как спайки бегущие от палочек и колбочек. Распознавание границ с резкими градиентами освещённости начинается на нейронах сетчатки, а оканчивается выделение фигуры на фоне уже в зрительной коре.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 20 Июнь 2016, 15:27
Это для каких? Форма например? Математика определяет евклидово пространство не прибегая к понятию форма.

"Форма" или "положение в пространстве" или "пространственные оси".
Редуцируя одно потребуется ввод другое. Редуцируя другое потребуется ввод первого.

ps
Евклидова геометрия имеет 3 нередуцируемых понятия, 3 нередуцируемых отношения и 20 нередуцируемых утверждений

Цитировать
Неопределяемыми понятиями в системе аксиом Гильберта являются: точка, прямая линия, плоскость.
Есть также 3 элементарных отношения:
Лежать между, применимо к точкам;
Содержать, применимо к точкам и прямым, точкам и плоскостям или прямым и плоскостям;
Конгруэнтность (геометрическое равенство), применимо, например, к отрезкам, углам или треугольникам, и обозначается инфиксным символом ≅.


Система из 20 аксиом поделена на 5 групп:
аксиомы принадлежности: планиметрические:
1.Каковы бы ни были две точки A и B, существует прямая a, которой принадлежат эти точки.
2.Каковы бы ни были две различные точки A и B, существует не более одной прямой, которой принадлежат эти точки.
3.Каждой прямой a принадлежат по крайней мере две точки. Существуют по крайней мере три точки, не принадлежащие одной прямой.

стереометрические:
1.Каковы бы ни были три точки A, B и C, не принадлежащие одной прямой, существует плоскость α, которой принадлежат эти три точки. Каждой плоскости принадлежит хотя бы одна точка.
2.Каковы бы ни были три точки A, B и C, не принадлежащие одной прямой, существует не более одной плоскости, которой принадлежат эти три точки.
3.Если две различные точки A и B, принадлежащие прямой a, принадлежат некоторой плоскости α, то каждая точка, принадлежащая прямой a, принадлежит указанной плоскости.
4.Если существует одна точка A, принадлежащая двум плоскостям α и β, то существует по крайней мере ещё одна точка B, принадлежащая обеим этим плоскостям.
5.Существуют по крайней мере четыре точки, не принадлежащие одной плоскости.


аксиомы порядка: линейные:
1.Если точка B прямой а лежит между точками А и С той же прямой, то А, В и С — различные точки указанной прямой, причем В лежит также и между С и А.
2.Каковы бы ни были две различные точки А и С, на определяемой ими прямой существует по крайней мере одна точка В такая, что С лежит между А и В.
3.Среди любых трёх точек, лежащих на одной прямой, существует не более одной точки, лежащей между двумя другими.

Планиметрическая:
1.Аксиома Паша: Пусть A,B,C — три не лежащие на одной прямой точки и a прямая в плоскости (ABC), не проходящая ни через одну из точек A,B,C; если при этом прямая a проходит через точку отрезка AB, то она непременно проходит через точку отрезка AC или точку отрезка BC.


аксиомы конгруэнтности: линейные:
1.Если А и В — две точки на прямой а, А’ — точка на той же прямой или на другой прямой а’, то по данную от точки А’ сторону прямой а’ найдется, и притом только одна, точка В’ такая, что отрезок А’B’ конгруэнтен отрезку АВ. Каждый отрезок АВ конгруэнтен отрезку ВА.
2.Если отрезки А’B’ и А"B" конгруэнтны одному и тому же отрезку АВ, то они конгруэнтны и между собой.
3.Пусть АВ и ВС — два отрезка прямой а, не имеющие общих внутренних точек, А’B’ и B’C’ — два отрезка той же прямой, или другой прямой а’, также не имеющие общих внутренних точек. Тогда если отрезок АВ конгруэнтен отрезку А’B’, а отрезок ВС конгруэнтен отрезку B’C’, то отрезок АС конгруэнтен отрезку А’C’.

планиметрические:
1.Если даны угол ∠ABC и луч B’C', лежащий в плоскости данного угла, тогда существует ровно два луча, также лежащие в плоскости данного угла, B’D и B’E, такие, что ∠DB’C' ≅ ∠ABC и ∠EB’C' ≅ ∠ABC. Следствие. Каждый угол конгруэнтен сам себе.
2.Если для двух треугольников ABC и A’B'C' имеют место конгруэнции: AB≅A’B', AC≅A’C', ∠BAC ≅ ∠B’A'C', то всегда имеют место и конгруэнции: ∠ABC ≅ ∠A’B'C' ∠ACB ≅ ∠A’C'B'.


аксиома параллельности, для которой Гильберт выбрал не евклидовскую формулировку, а эквивалентную ей, но более простую аксиому Прокла: планиметрические
1.Пусть a есть произвольная прямая и A — точка вне её; тогда в плоскости, определяемой точкой А и прямой а, можно провести не более одной прямой, проходящей через A и не пересекающей a.


аксиомы непрерывности линейные
1.Аксиома Архимеда. Если даны отрезок CD и луч AB, то существует число n и n точек A1,…,An на AB таких, что: AjAj+1 ≅ CD, 0 ⩽ j < n   {\displaystyle 0\leqslant j<n}  {\displaystyle 0\leqslant j<n}, A0 совпадает с A, и B лежит между A и An.

1.«Полнота линии». Добавление хотя бы одной дополнительной точки в прямую линию вызовет противоречие с одной из аксиом принадлежности, порядка, первыми двумя аксиомами конгруэнтности или аксиомой Архимеда.


https://ru.wikipedia.org/wiki/%D0%90%D0%BA%D1%81%D0%B8%D0%BE%D0%BC%D0%B0%D1%82%D0%B8%D0%BA%D0%B0_%D0%93%D0%B8%D0%BB%D1%8C%D0%B1%D0%B5%D1%80%D1%82%D0%B0
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 20 Июнь 2016, 16:25
"Форма" или "положение в пространстве" или "пространственные оси".
Редуцируя одно потребуется ввод другое. Редуцируя другое потребуется ввод первого.
То есть, нередуцируемость возникает исключительно на самых низких уровнях, то есть там, где возникает необходимость прибегать к циклическим умозаключениям, типа A=>B=>A, так?

Это если мы начнём редуцировать форму не через точки, а через атомы объекта, которые отражающют фотоны, падающие на сетчатку, то мы редуцируем к атомам, а атомы к кваркам, а кварки у нас повиснут в воздухе, поскольку их ни к чему свести не удастся. Правильно я понимаю?

Все ли случаи нередуцируемости принадлежат к этому классу явлений?
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 20 Июнь 2016, 17:03
То есть, нередуцируемость возникает исключительно на самых низких уровнях, то есть там, где возникает необходимость прибегать к циклическим умозаключениям, типа A=>B=>A, так?

Это если мы начнём редуцировать форму не через точки, а через атомы объекта, которые отражающют фотоны, падающие на сетчатку, то мы редуцируем к атомам, а атомы к кваркам, а кварки у нас повиснут в воздухе, поскольку их ни к чему свести не удастся. Правильно я понимаю?

Да.

Цитировать
Все ли случаи нередуцируемости принадлежат к этому классу явлений?

Еще один крупный класс плохо редуцируемых явлений: переход количества в качество.

Понятия "куча", "живое", "мышление", "понимание", "качество", "оптимальность".
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 21 Июнь 2016, 21:17
Еще один крупный класс плохо редуцируемых явлений: переход количества в качество.

Понятия "куча", "живое", "мышление", "понимание", "качество", "оптимальность".
Проблема этих понятий в том, что разные люди их видят по разному, и что эти понятия не столько свойства внешней реальности, сколько свойства наблюдателя. Если не забывать об этом, то они редуцируются влёт.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 21 Июнь 2016, 21:37
редуцируются влёт.

Через "иллюзию понимания" - да, редуцируются влёт.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 21 Июнь 2016, 21:57
Через "иллюзию понимания" - да, редуцируются влёт.
Через физическую причинно-следственную связь, приведшую к появлению понятия.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 22 Июнь 2016, 02:12
Причинно-следственная связь не задает (не описывает) само явление.

Утверждение "огонь - есть следствие ударения кресала об огниво" не описывает огонь от слова совсем.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 22 Июнь 2016, 02:54
Причинно-следственная связь не задает (не описывает) само явление.
Смотря о какого рода явлении мы говорим. Смотря что мы называем "причинно-следственной связью".
Утверждение "огонь - есть следствие ударения кресала об огниво" не описывает огонь от слова совсем.
Ну... не то чтоб совсем не описывает... отчасти ведь описывает. Но описывает неудовлетворительно -- это бесспорно.

Ваше утверждение имеет отличия от того, что говорю я. Во-первых, вы причинно-следственно объясняете огонь, а не "огонь" (http://lesswrong.ru/w/%D0%A6%D0%B8%D1%82%D0%B0%D1%82%D0%B0_%E2%80%94_%D0%BD%D0%B5_%D1%80%D0%B5%D1%84%D0%B5%D1%80%D0%B5%D0%BD%D1%82)*. Вы объясняете огонь, как физический процесс, упуская из виду, что он обозначается понятием "огонь". "Огонь" -- это какие-то особенности состояния психики того, кто смотрит на огонь. И, на самом-то деле, огонь -- это то, что психика маркирует как "огонь".

Во-вторых, в общем-то ваше высказывание останется формально верным, даже если там заменить огонь на "огонь". Ну с некоторой натяжкой, но останется. Потому что понятие в моей голове является следствием, в частности, и удара кресала об огниво. Но это действительно не удовлетворительная причинно-следственная цепочка, потому что из неё выпали существенные звенья. Понятие "огонь" возникает из наблюдения за огнём, а не из удара кресала по огниву.

Объяснить огонь полностью можно только после того, как мы выясним что такое "огонь". При этом конкретно с огнём мы можем получить неплохие результаты, если пройти этап определения того, что такое "огонь", не формализуя этот этап и не рефлексируя его, или даже пройти этот этап, неосознавая этого этапа. Потому что огонь, в общем, довольно конкретное понятие. (Хотя, я отмечу, если мы представим себе научный трактат об огне, то он обязательно начнётся с главы посвящённой истории понятия "огонь" и филологическому исследованию того, как используется слово огонь.) Но если мы возьмём понятие формы, то это понятие уже неконкретно настолько, что объяснять форму можно только через "форму", а чтобы выяснить, что такое "форма", вероятно, придётся одолеть нейронауку и психологию: понятие формы образуется в голове у человека, отчасти как следствие анатомии нервной системы, отчасти в результате сложного взаимодействия сенсорных систем с моторными. Причём разнообразных систем, например, понятие о расстоянии и глазомер создаются через взаимодействие тактильных, зрительных и кинестетических ощущений. Чтобы научиться пользоваться зрением надо активно смотреть -- двигая глазами и перемещаясь, чтобы смотреть с разных точек зрения, чтобы измерять мускульными усилиями расстояния, -- и активно щупать, то есть своими мускульными усилями двигать орган осязания для ощупывания различных объектов, при возможность надо крутить объект в руках или во рту (язык самый крутой в плане тактильной чувствительности). Всё это взаимодействие анатомии и младенческого обучения создаёт очень сложное понятие формы, настолько сложное, что скорее всего будут безнадёжными любые попытки угадать, что такое форма, просто глядя на разные формы и не думая о том, как проходит процесс обработки зрительной информации.

*) Кстати, если вы не читали ту статью, и/или содержимое той статьи вам не кажется очевидной банальностью, то я очень рекомендую въехать в то, что там написано, а затем сознательно прилагать усилия к тому, чтобы отличать цитаты от референтов. Это различение поначалу будет требовать усилий, но со временем перейдёт в разряд автоматического навыка, который будет применяться непроизвольно и неизбежно всегда. И вот этот навык может существенно снизить количество путаницы в голове.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 22 Июнь 2016, 03:24
Объяснить огонь полностью можно только после того, как мы выясним что такое "огонь". При этом конкретно с огнём мы можем получить неплохие результаты, если пройти этап определения того, что такое "огонь", не формализуя этот этап и не рефлексируя его, или даже пройти этот этап, неосознавая этого этапа. Потому что огонь, в общем, довольно конкретное понятие. (Хотя, я отмечу, если мы представим себе научный трактат об огне, то он обязательно начнётся с главы посвящённой истории понятия "огонь" и филологическому исследованию того, как используется слово огонь.)

Зачем всё это?

"огонь" обозначает часть реальность. Достаточно задать критерий, который выделяет часть реальности обозначаемую словом "огонь".
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 22 Июнь 2016, 11:11
Зачем всё это?

"огонь" обозначает часть реальность. Достаточно задать критерий, который выделяет часть реальности обозначаемую словом "огонь".
Единственный критерий выделяющий огонь из реальности как часть её -- это категоризирующая нейросетка в голове у человека.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 22 Июнь 2016, 14:10
Единственный критерий выделяющий огонь из реальности как часть её -- это категоризирующая нейросетка в голове у человека.

И да, и нет.

Понятие "огонь" выделяется субъектом.
Явление огонь, как часть реальности с отличным поведением от других частей реальности - есть само по себе.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 22 Июнь 2016, 14:44
Явление огонь, как часть реальности с отличным поведением от других частей реальности - есть само по себе.
Что именно вы хотите сказать, когда говорите "есть само по себе"? Что любой интеллект, категоризуя реальность, обязательно выделит огонь отдельной категорией и эта категория будет совпадать с таковой у человека? Мне кажется, что это слишком сильное утверждение. Оно недоказуемо на данном этапе развития математики и вычислительной техники, но я полагаю, что оно, до кучи, ещё и в корне неверно.
Интеллект обладающий способностями к моделированию реальности на несколько порядков выше, чем у человека, и более разнообразными и точными органами чувств, будет говорить о куче не тогда, когда увидит пять камней рядом, а когда увидит 20 камней рядом. При этом 15 камней для него будут именно пятнадцатью камнями, примерно как для нас два камня: это два камня, а не куча, и даже не кучка.
То же самое и с огнём, другое дело, что чтобы огонь стал бы принципиально иным, будет мало поднять на несколько порядков вычислительную мощь интеллекта, нужно будет что-то большее.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 22 Июнь 2016, 15:57
Что именно вы хотите сказать, когда говорите "есть само по себе"?

Есть отличие в поведении реальности. Измеримое отличие.

Цитировать
Что любой интеллект, категоризуя реальность, обязательно выделит огонь отдельной категорией и эта категория будет совпадать с таковой у человека?

Этого я не утверждал.

Я утверждаю, что чем выше отличие в поведении реальности, то тем оптимальнее категоризировать большое отличие как отдельное понятие.
Другими словами, чем более субъект рациональный и чем больше максимизирует функцию полезности, то тем выше вероятность категоризации подобных отличий реальности, как отдельное понятие.

Цитировать
Интеллект обладающий способностями к моделированию реальности на несколько порядков выше, чем у человека, и более разнообразными и точными органами чувств, будет говорить о куче не тогда, когда увидит пять камней рядом, а когда увидит 20 камней рядом. При этом 15 камней для него будут именно пятнадцатью камнями, примерно как для нас два камня: это два камня, а не куча, и даже не кучка.

И для этого интеллекта останется понятие куча, сдвинется лишь граница - с какого количества песчинок начинается понятие куча.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 22 Июнь 2016, 19:57
Есть отличие в поведении реальности. Измеримое отличие.
Отличие от чего? Вы можете представить себе такие законы квантовой механики, которые породят реальность достаточно похожую на нашу, чтобы имело смысл говорить об отсутствии огня в ней?
Или вы предлагаете не меняя законов КМ удалить огонь из реальности чисто умозрительно? Но чтобы удалить его чисто умозрительно, вам придётся воспользоваться своим пониманием огня, вы удалите не какую-то особенную часть реальности, а то, что является праобразом вашего психического образа огня. То есть, действуя таким образом вы будете сравнивать своё понимание огня с отрицанием свого понимания огня. Не реальность с реальностью сравнивать, а одну воображаемую виртуальность с другой воображаемой виртуальностью.
И для этого интеллекта останется понятие куча, сдвинется лишь граница - с какого количества песчинок начинается понятие куча.
Вы уверены, что его понимание "кучи" будет аналогично нашему? Вы не сталкивались с симуляторами механики, которые легко моделируют на современном железе десятки тысяч объектов в замкнутом пространстве, через который продувают воздух? Представьте, что вы легко симулируете это, предсказывая поведение всех объектов одновременно. Представили? А теперь представьте себе, сколь сложным окажется понятие "куча", которым вы сможете оперировать. Оно будет настолько сложным, что сравнивать его с нашей "кучей" будет просто смешно.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 22 Июнь 2016, 20:02
Отличие от чего?

Отличие поведения частиц внутри огня от поведения частиц в других состояниях.

Цитировать
Вы уверены, что его понимание "кучи" будет аналогично нашему?

Утверждалось другое - что всякий рационалист будет отличать понятие "куча"(количество не доступное для его подсчета) от N-частиц (количество доступное для его подсчета).
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 22 Июнь 2016, 22:55
Отличие поведения частиц внутри огня от поведения частиц в других состояниях.
Это рекурсивное определение огня через огонь: огонь отличается от не-огня тем, что частицы огня ведут себя не так, как частицы не-огня.

Утверждалось другое - что всякий рационалист будет отличать понятие "куча"(количество не доступное для его подсчета) от N-частиц (количество доступное для его подсчета).
Но это не значит, что эти понятия будут одинаковыми. http://lesswrong.com/lw/ro/2place_and_1place_words/
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 22 Июнь 2016, 23:53
Цитировать
Это рекурсивное определение огня через огонь: огонь отличается от не-огня тем, что частицы огня ведут себя не так, как частицы не-огня.

Не было никакого определения.
Утверждается, что огонь(низкотемпературная плазма) отличается от других состояний вещества. Или вы с этим не согласны?

ps

Давайте еще раз.

Есть реальность(территория). В реальности есть явления.

Есть субъект и его понятийное пространство(карта). Понятия являются отображением явлений на понятийное пространство.

Чем субъект рациональнее, тем точнее его карта отображает территорию. Чем выше точность карт, тем выше сходство между картами.

pps
Если не представляется с понятиями, то предлагаю разобрать пример с физическими объектами.
Есть планета Земля, на ней есть Эверест.
Чем точнее карта Земли у индивидуумов, то тем выше вероятность обозначения на ней Эвереста.
Да, может отличаться форма карты, проекция геоида на карту, обозначения расстояний, высот, названий, границ объектов и т.д., но Эверест на карте будет.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 23 Июнь 2016, 03:00
Не было никакого определения.
Утверждается, что огонь(низкотемпературная плазма) отличается от других состояний вещества. Или вы с этим не согласны?
Вам не нравится слово "определение"? Давайте я назову это утверждением, тогда мы вместо рекурсии получим тавтологию.
Смотрите: вы каким-то произвольным образом выбрали список свойств, выбрали те состояния вещества, которые обладают этими свойствами, и теперь утверждаете, что выбранные состояния вещества отличаются от других именно этими свойствами. Это тавтология.
Давайте еще раз.
Давайте.

> Есть реальность(территория). В реальности есть явления.
Да. И нет. Я, в действительности, не знаю, что есть в реальности. Всё что я имею -- это субъективный сенсорный вход. Когда я, занимаясь созданием предсказательной модели для сенсорного входа, прихожу к понятию "явление", то это понятие "явление" существует исключительно в моём психическом мире.
В большинстве случаев можно безопасно полагать, что это явление является частью реальности. Но это не всегда безопасно, потому что в действительности явление -- это артефакт, это порождение моей психики.

> Есть субъект и его понятийное пространство(карта). Понятия являются отображением явлений на понятийное пространство.
Тут я не совсем уверен... Смотря что называть понятием. Если в смысле Пиаже -- в смысле понятий, которыми оперирует понятийное мышление -- то тогда да, тогда действительно так: явления, как свойства моей модели сенсорного входа, отображаются на понятийное пространство.

> Чем субъект рациональнее, тем точнее его карта отображает территории.
Да.

> Чем выше точность карт, тем выше сходство между картами.
Не знаю. Мне это совсем не очевидно. Мы сможем видеть поведенческое сходство: два субъекта с картами примерно одной точности будут вести себя схожим образом. Но будут ли при этом совпадать карты... Данные могут иметь множество различных репрезентаций, модель/карта -- это тоже данные, и далеко не факт, что они у всех имеют одни и те же репрезентации. Разные репрезентации могут приводить к тому, что повышение точности карты будет уводить разные карты от сходства. Дело в том, что репрезентация -- это не просто статичный набор бит, это ещё и алгоритмы работы с этим набором бит, и алгоритмы будут разными. Нельзя просто так взять и заменить без последствий хеш-табличку на красно-чёрное дерево, даже если к нашему языку программирования прилагается полиморфная библиотека контейнеров. Например, красно-чёрное дерево, при всех его бонусах, типа независимости от коллизий хеша и отсутствия необходимости периодического пересоздания структуры, будет больше фрагментировать кучу и потребует упорядоченности от множества ключей.

Если мы говорим о людях, которые имеют очень похожим образом устроенные мозги и варятся в одном культурном пространстве, то, скорее всего, у них будут очень похожие репрезентации, это приводит к тому, что мы привыкаем к этим очень похожим репрезентациям, срабатывает история аналогичная описанной в Black Swan: за неимением контрпримеров, мы начинаем считать какие-то свойства репрезентаций фундаментальными, неотъемлимыми свойствами любой репрезентации, а раз так, то скорее это фундаментальное свойство внешней реальности.

Если при этом мы зададим при сравнении такое условие как одинаковая точность карт, то может случиться так, что существует единственный оптимальный способ организовать карту такой точности. Это может быть, и если это так, то при увеличении точности, карты могут начать сходится и становиться всё более и более похожими. Но даже если всё так замечательно, реальность сложнее: вокруг оптимальной карты выбранной точности может быть плато неоптимальных карт. Реальные карты будут попадать в рандомные точки этого плато, и всё же отличаться. Насколько они при этом будут отличаться? Я не вижу способа как-то ограничить сверху масштабы отличий.

Если не представляется с понятиями, то предлагаю разобрать пример с физическими объектами.
Есть планета Земля, на ней есть Эверест.
Чем точнее карта Земли у индивидуумов, то тем выше вероятность обозначения на ней Эвереста.
Да, может отличаться форма карты, проекция геоида на карту, обозначения расстояний, высот, названий, границ объектов и т.д., но Эверест на карте будет.
Нет. Карта может быть точнее, она может указывать положение каждого атома, но Эвереста на этой карте не будет. Ваши мозги разглядывая эту карту увидят на ней эверест, посредством обработки информации, которая специфична для ваших мозгов. Мозги же, которые непринуждённо моделируют солнечную систему в терминах атомов, не будут испытывать необходимости вводить такую эвристику как "Эверест".

Раскладывание камней (http://lesswrong.ru/w/%D0%A0%D0%B0%D1%81%D0%BA%D0%BB%D0%B0%D0%B4%D1%8B%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%BA%D0%B0%D0%BC%D0%BD%D0%B5%D0%B9_%D0%B2_%D0%BF%D1%80%D0%B0%D0%B2%D0%B8%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5_%D0%BA%D1%83%D1%87%D0%B8) и особенно описанный в конце спор мне ужасно напоминает обсуждение в этом топике: любой интеллект будет думать так, как думаем мы, потому что если он думает не так, то он не интеллект, а просто дурак.
Название: Re: Рефлексия логического мышления
Отправлено: Quilfe от 23 Июнь 2016, 13:12
В целом согласен с kuuff'ом, только отмечу, что раскладывание камней - очевидная метафора не карты (убеждений о реальности), а ценностей, или прескриптивных утверждений, которые более независимы друг от друга на пространстве возможных mind designs, для карт всё же есть очевидные причины коррелировать друг с другом. Впрочем, если брать не все возможные mind designs, а, скажем, развившиеся эволюционно или созданные искусственно, то и ценности будут коррелировать - недостаточно, чтобы быть априори "дружественными" по отношению друг к другу, но всё же (см. "Тройной контакт" или http://intelligenceexplosion.com/ru/2012/value-is-complex-and-fragile/)
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 25 Июнь 2016, 16:02
Комплексные явления - третий тип сложно редуцируемых явлений.

"Человек", "одинаковость", "различность", "декомпозиция", "структура" - примеры комплексных явлений.

Вам не нравится слово "определение"? Давайте я назову это утверждением, тогда мы вместо рекурсии получим тавтологию.
Смотрите: вы каким-то произвольным образом выбрали список свойств, выбрали те состояния вещества, которые обладают этими свойствами, и теперь утверждаете, что выбранные состояния вещества отличаются от других именно этими свойствами. Это тавтология.Давайте.

Утверждается следующее:
если взять все возможные свойства и все возможные функции сравнения, то состояние огонь отличается от состояний не-огонь значительнее, чем состояния не-огонь от состояний не-огонь.

ps
Появился оператор сравнения для бесконечных множеств. Отдельная тема для дискуссии: как вводится оператор сравнения для бесконечных множеств и чем это помогает?.

Добавлено 25 Июнь 2016, 16:41:
Нет. Карта может быть точнее, она может указывать положение каждого атома, но Эвереста на этой карте не будет. Ваши мозги разглядывая эту карту увидят на ней эверест, посредством обработки информации, которая специфична для ваших мозгов. Мозги же, которые непринуждённо моделируют солнечную систему в терминах атомов, не будут испытывать необходимости вводить такую эвристику как "Эверест".

We need to go deeper (c)

Что такое карта? Как она строится? По каким принципам?

Карта - это отображение территории на память субъекта.

При этом возникает жесткое противоречие:
1. Размер памяти субъекта много меньше информационного потока о территории.
2. Требуется наиболее точное соответствие карты и территории.

Для разрешения противоречия между ограниченной памятью и точностью отображения используется семейство алгоритмов "сжатие с потерями".

Основа алгоритмов "сжатия с потерями":
1. выбор наиболее различающихся элементов в качестве базиса
2. поиск схожести
3. кодирование схожих через базис

Понятия - это различающие элементы, взятые в качестве базиса.

Следует ожидать сходности понятийного базиса у независимых субъектов, в следствии того, что понятия выбираются на основе функции F(территория), а не по случайной прихоти субъекта.

Между ценностями также следует ожидать высокую корреляции в следствии необходимости согласованности ценностей индивидуума с необходимостью выживания индивидуума и его вида на длительном периоде.

ps
Схожесть ценностей не является панацеей от враждебности. Самые жесткие войны чаще всего между "братственными" структурами в следствии конкуренции за одни и те же ресурсы.

Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 05 Июль 2016, 22:39
Следует ожидать сходности понятийного базиса у независимых субъектов, в следствии того, что понятия выбираются на основе функции F(территория), а не по случайной прихоти субъекта.
Что это за функция F? Вы можете её построить? Вы можете обосновать, что построенная вами функция F будет единственной возможной?

Конечно же нет. Даже если речь будет идти о том, чтобы сжимать входной поток символов, даже в этом случае выбрать F единственно-верным способом не представляется возможным. А если речь идёт о том, чтобы сжимать информацию полученную от различных наборов органов чувств, кроме того сжимать её с разными целями... Вы ведь в курсе, да? Что человеческий мозг сжимает информацию с потерями, он многоуровнево обрабатывает её, и на каждом уровне теряет то, что считает неважным.

Посмотрите у Саймонса: http://www.simonslab.com/videos.html
И ещё с дверью (я не увидел у него на сайте этого лулза, поэтому отдельной ссылкой): https://www.youtube.com/watch?v=FWSxSQsspiQ
Если вы не видели каких-нибудь из этих видяшек, то посмотрите, оцените насколько же ущербно ваше зрение и как мало оно видит из того, что попадает в поле зрения.

Вообще, внимание как некий психический механизм исследуется давно, и были теории ранней селекции, которые говорили о том, что внимание -- это фильтр информации, который срезает ненужную информацию по простым физическим характеристикам, которые выясняются на самых ранних этапах обработки информации (например, тембр голоса -- мужской/женский, громкость, яркость, положение источника звука/света в пространстве, ...). Потом выяснилось что всё не так просто. Запилили теории поздней селекции. Но всё же, видимо, что-то фильтруется рано, что-то поздно... Там ещё всякие найссеры вылезали со своими "схемами", которые предсказывают где надо ждать изменений, и куда надо обратить внимание. Любопытнейшие теории ориентированные на практику, которые дают направление к вопросу, как внимание можно тренировать. Чиксентмихайи, с его состоянием потока. Все эти современные исследования медитации. При "сжатии инфомации мозгом" Потери есть на всех уровнях, причём неосознаваемые ни мною, ни вами.

Человеческие мозги не просто сжимают информацию, они сжимают то, что сочтут важным. А считают важным они то, что их жизнь научит считать важным. И если мы представим себе нечеловека, который развивался до разумности в иных условиях, добывая пищу иным образом, и пользуясь для этого иными органами чувств, то этот нечеловек будет мыслить сильно иначе, чем человек.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 05 Июль 2016, 22:44
то этот нечеловек будет мыслить сильно иначе, чем человек.

Что означает "мыслить совершенно иначе"? Как это редуцируется?
Будет ли другая математика? Логика? Другое представление о законах физики? Химии? Биологии? Кибернетики?
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 05 Июль 2016, 23:23
Что означает "мыслить совершенно иначе"? Как это редуцируется?
Если бы я знал, что значит "мыслить", хотя бы не иначе, а так как я, если бы я мог это редуцировать, то я бы давно создал ИИ. Хотя бы чисто ради смеха. Но "иначе" -- это значит в иных понятиях. Понятийное мышление формируется средой, в которой растёт ребёнок. Оно может не сформироваться, если среда неподходящая. Оно может сформироваться очень по-разному. Оно формируется посредством речи, речь приходит извне в уже готовом виде, и как именно она влияет?... Я не знаю, и этическая комиссия не позволит поставить эксперимент, для изучения влияния искусственно сформированной среды и искусственно созданной речи на развитие ребёнка. Да и не факт, что из этого выйдет что-нибудь демонстрирующее, потому что тот же Хомский говорит о том, что язык -- врождённое явление для человека. Ну, там чуть сложнее всё, но примерно так. То есть может оказаться, что тот способ мышления, который есть у человека тоже намертво прошит в ДНК. А значит никакой эксперимент над человеком не позволит создать действительно инородный разум. Хотя если создать ГМО-человека...
Будет ли другая математика? Логика?
Да, вероятно. Вопрос в том, насколько они будут иными. Я пока не могу понять до конца как именно в голове у человека возникло понятие логики. Может через пару недель я доберусь до Выготского, почитаю что он думал об этом, по-моему, там может быть что-нибудь интересное на эту тему. Это, кстати, вроде именно он полагал, что мышление человека с необходимостью должно быть как минимум двуязычным. В том смысле, что должно быть как минимум две возможные репрезентации для мысли, например образная репрезентация и понятийная/символическая/логическая. И феномен понимания возникает тогда, когда мысль многократно была перекодирована из одного языка на другой и обратно, многократно изменилась от этого перекодирования, и так до тех пор, пока не остался некий инвариант, который не меняется от перекодирования. Какая-то такая глубокая мысль, которая для меня выглядит очень правильной, но пока я вынужден читать всякую другую хню.
Владение математикой связано с развитыми кинестетическими образами. У человека оно связано. А если у нечеловека оно будет связано с какими-нибудь другими образами? Или, скажем, у этого нечеловека будет восемь конечностей, на каждой из них по десять пальцев, развитых не хуже чем указательный палец человека, и... и если воспитываются такие нечеловеки в невесомости в помещениях очень сложной формы, которые простираются во все стороны, а не только по горизонтали, и, таким образом, этот нечеловек будет оперировать гораздо более сложными и богатыми кинестетическими образами -- во что превратится математика для него?
Другое представление о законах физики? Химии? Биологии? Кибернетики?
Вот в плане физики, особенно фундаментальной физики уровня квантмеха, я думаю, они должны сойтись. Вероятно, сходиться они начнут и на уровне химии. Насчёт биологии с кибернетикой -- не знаю.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 05 Июль 2016, 23:33
Цитировать
> логика?

Да, вероятно. Вопрос в том, насколько они будут иными.

"Инопланетная" логика не будет выделять причинно-следственные связи? И операция "если-то" будет другой?
"Инопланетная" логика не будет отличать достаточность от необходимости? И операции "and" и "or" будут другими?
"Инопланетная" логика не будет отличать целое от частей? И кванторы "все" и "некоторый" не будут вводиться?
В чем еще будет отличие?



Владение математикой связано с развитыми кинестетическими образами. У человека оно связано. А если у нечеловека оно будет связано с какими-нибудь другими образами? Или, скажем, у этого нечеловека будет восемь конечностей, на каждой из них по десять пальцев, развитых не хуже чем указательный палец человека, и... и если воспитываются такие нечеловеки в невесомости в помещениях очень сложной формы, которые простираются во все стороны, а не только по горизонтали, и, таким образом, этот нечеловек будет оперировать гораздо более сложными и богатыми кинестетическими образами -- во что превратится математика для него?

В чём будет отличаться математика такого "инопланетянина"? Как редуцируется отличие?
Будет другое множество целых чисел? Будут другие операции над полем рациональных чисел?
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 05 Июль 2016, 23:44
Я не знаю ответов на эти вопросы. Я пытаюсь расширить своё сознание так, чтобы оно бы смогло породить инопланетную логику. Но тут видите какая проблема напрашивается... Человечество несколько тысячелетий оттачивало свою логику, выуживало эту логику из хаоса алогичных рассуждений. Если предположить, что я инопланетянин, который каким-то чудом угадал путь развития человеческой логики, и я пытаюсь пройти этот путь умозрительно, то сколько мне понадобится времени на это? Если мы предположим, что моя инородная логика поможет пройти этот путь, то может быть я справлюсь. А если не поможет, если я окажусь в том же положении, что и древние человеки?
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 06 Июль 2016, 00:51
А если не поможет, если я окажусь в том же положении, что и древние человеки?

Карта "древних людей" сильно не точна.

Исходное утверждение:
"Чем субъект рациональнее, тем точнее его карта отображает территорию. Чем выше точность карт, тем выше сходство между картами."
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 06 Июль 2016, 01:11
Карта "древних людей" сильно не точна.

Исходное утверждение:
"Чем субъект рациональнее, тем точнее его карта отображает территорию. Чем выше точность карт, тем выше сходство между картами."
Но чтобы проверить это утверждение, мы должны взять исходную карту древних людей и, повышая рациональность, отследить что она с неизбежностью будет приближаться к нашей. А для этого придётся пройти весь тот путь, который был пройден этими древними людьми. На что потребуется не 5 тысяч лет, конечно, но я не знаю сколько. Даже если я предполагаю, что я знаю о том, откуда этот путь начинался, я не могу оценить количество времени, которое на это потребуется.
Название: Re: Рефлексия логического мышления
Отправлено: LswAgnostic от 06 Июль 2016, 02:27
На верность утверждения "Чем субъект рациональнее, тем точнее его карта отображает территорию. Чем выше точность карт, тем выше сходство между картами." экстраполируются результаты следующего экперимента:
1. Берутся люди, сильно отличающихся друг от друга
2. Ставится перед ними задача из области, с которой они до этого не сталкивались
3. Отбираются те, кто справился лучше
4. Они описывают свои решения, а так же понятия, которые использовали при формирования решения
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 06 Июль 2016, 13:05
Это не сработает. Потому что задачу поставите вы, а постановка задачи -- это половина решения. Это не сработает, потому что если люди действительно разные, то как минимум один из них не поймёт задачу. Затем, где вы возьмёте достаточное количество испытуемых, чтобы получить статистическую значимость? Ведь если вы возьмёте достаточно новую для них задачу, то 95% окажется не в состоянии её решить. Останется 5%, и вам надо будет набрать, как минимум, 40 человек: 40/0.05 = 800 человек. Наконец, если вы обойдёте все эти проблемы, встанет вопрос о том, какие же выводы из этого делать. Что данная конкретная задача, на основании таких двух разных примерах ментального опыта, решается одинаково? Имеем ли мы право обобщать это? И какое обобщение мы сделаем? Все люди будут решать эту задачу одинаково? Может это следствие генотипа? А если они придумают разные решения -- о чём это будет говорить? О том, что один креативнее другого?
Название: Re: Рефлексия логического мышления
Отправлено: iren_doroshenko от 10 Январь 2017, 08:30
Я год назад писал ЕГЭ по математике, и в процессе подготовки у меня встала проблема: как бы так избежать потери баллов на идиотских ошибках, типа "перепутал + с -" -- вёл алгебраические преобразования выражения, и переписывая перепутал. Я немного потренировался решать задачи и искать ошибки в решениях, и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка. Эта оценка работала имплицитно, и я не могу в точности сказать как она вычислялась, но могу предположить, что она зависела от того, насколько сложные преобразования я проводил, насколько я нагружал в процессе кратковременную память
Интересны хоть какие либо маркеры ощущения идиотских ошибок. Вернее, как их найти в вычислении.
Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 10 Январь 2017, 09:37
Я могу лишь гадать на этот счёт. У меня примерно такое понимание.

Как этому учат в начальной школе? Если мы провели умножение в столбик, и хотим проверить результат, то надо умножить другим способом. То есть, можно проверить уже выполненное умножение одно микродействие за другим, но человек имеет тенденцию повторять единожды совершённые ошибки (иногда он ошибочно принятые решения помнит и воспроизводит лучше, чем правильно принятые, это в экспериментах показывали), что сильно снижает ценность повторных вычислений. Но если попробовать решить другим способом (в случае умножения в столбик, просто изменить порядок чисел, и считать не ab, но ba), причём в идеале другой способ должен быть таким, чтобы вообще никакие микродействия бы не повторялись, то вероятность того, что проявится ошибка (если она была совершена) резко вырастет.
Ну а затем эта способность искать другие способы получить тот же самый результат развивается. По-крайней мере я её развивал целенаправленно в школе, и для того, чтобы проверять свои решения, и для того, чтобы позлить училку, которая считала, что все задачи должны решаться именно тем способом, которым она считает нужным их решать. Ещё и потому, что подчастую одним из способов нахождения ответов на вопросы была интуиция, которая говорила мне, что-то типа "эти углы равны", но интуиция не котируется математикой как достоверный способ поиска ответов, поэтому даже имея ответ, и даже будучи в нём стопроцентов уверенным, я начинал искать другой способ решения.
Так вот, проверки посредством другого способа решения, если они применяются систематически и обязательно, со временем становятся автоматизированным навыком, и даже свёрнутым навыком, в том смысле что я уже не принимаю сознательного решения искать другой способ решения -- оно само ищется, и может быть даже не замечаю как голова ищет этот способ и применяет -- всё это происходит без моего участия.
А дальше моё предположение: когда я решаю сложную задачу во много действий, голова каждое действие либо проверяет, выполняя это действие другим способом, либо не проверяет. И помечает достоверность результатов действий в соответствии с тем, была ли проверка или нет. А я при этом имею некую интегральную оценку достоверности всего решения.

Реально ситуация, я думаю, сложнее. Я бы предположил что голова также имеет доступ к статистике предыдущих фейлов, и для каждого действия имеет априорную оценку вероятности совершить ошибку в этом действии. И эта вероятность учитывается при расчёте достоверности результата.

В случае с ЕГЭ, который я описывал, очень влияла как раз априорная оценка вероятности ошибки: решение задачи слишком простое, чтобы быть правдой, следовательно надо проверить его. Но просто проверки было мало, потому что чувство того, что я где-то ошибся было слишком сильным. Видимо потому что априорная оценка вероятности ошибки вычислялась как что-то очень близкое к 1.
Название: Re: Рефлексия логического мышления
Отправлено: iren_doroshenko от 10 Январь 2017, 10:12
Я могу лишь гадать на этот счёт. У меня примерно такое понимание.
Очень хорошее гадание, с отличным указанием тренировать одновременно различные способы решения.
А в условиях многозадачности, не линейных решений, и именно идиотических ошибок. К примеру, я их просто не вижу в словах, могу проверять свои сочинения, исправить ошибки правописания, но не заметить недостающего оканчания у слова или точки. В итоге, таких ошибок до 30%.

Название: Re: Рефлексия логического мышления
Отправлено: kuuff от 10 Январь 2017, 12:40
С этим парадоксальным образом могут помогать какие-нибудь дурацкие правила, дополнительно усложняющие задачу. Например, Довлатов описывал, что он вылизывая свои тексты, проверял, чтобы в них не было бы ни одной пары предложений, с одинаковой последовательностью первых букв слов. То есть, если взять предложения, извлечь оттуда первые буквы слов, то такая последовательность букв нигде больше не должна встречаться. Я не знаю как он реально справлялся с этой задачей, потому что при самом тупом подходе, вычислительная сложность этой задачи растёт пропорционально квадрату количества предложений, но может он выписывал организовывал такие последовательностей букв лексикографически упорядоченно -- это теоретически может снизить сложность до O(n*log n).

Но Довлатов решал несколько иную задачу: он занимался вылизыванием стиля, а не грамматики, поэтому не суть, как именно он решал свою проблему, суть в самой идее. Можно придумать какую-нибудь постороннюю задачу, которая потребует внимательного чтения текста. В идеале задача должна требовать обращать внимания на те места, где наиболее вероятны ошибки. Пропускаются точки? Значит надо взять и посчитать количество точек. Можно ещё посчитать количество заглавных букв и проверить совпадение. Совпадать они не будут, потому что Имена Собственные, например, пишутся с большой буквы, но можно тогда считая большие буквы иметь несколько счётчиков -- один для первых букв предложения, один для имён собственных, один для аббревиатур и для всех прочих случаев тоже. Для общего случая проблем с правильнописанием я не могу сходу ничего придумать, но, например, если часты проблемы слитно-раздельного написания "не" с разными частями речи, то можно пройтись по тексту, считая сколько раз "не" сочетается с глаголом, сколько раз с прилагательным, сколько с причастием и тд.

С запятыми у меня тоже была проблема, но я её решал несколько иным путём. Так как мне порекомендовала мама -- учитель русского языка. Я сидел делал разборы предложений, подчёркивая там подлежащие, сказуемые и прочие члены предложений. Мама говорит, что их в училище заставляли делать эти разборы до тех пор, пока это не стало автоматическим навыком -- она сходу, не задумываясь, может сказать, какое слово -- какой член предложения. Я до автоматизма не доводил, но своё эссе на русском проверял, выясняя часть речи для каждого слова. Находя все подлежащие, сказуемые, причастные/деепричастные обороты и тд, и тп. Выполняя при этом избыточную работу -- проверяя и те предложения, которые не вызывали у меня сомнений.

Кстати это наводит на мысль и про общее правило для вылизывания правописания: надо пройтись по тексту, слово за словом, выясняя часть речи для этого слова. Для этого придётся внимательно посмотреть на слово, придётся вспомнить эту самую часть речи, а от неё один шаг до всяких разных правил правильнописания, которые могут быть применимы к данному слову. Может быть это поможет. Тут мне сложно судить, потому что у меня в отношении правописания возникают лишь определённого типа ошибки, и поэтому я тренировался именно на них. Например, я на автомате не умею писать "ться/тся" правильно. Я легко могу проверить правильность написания, но забываю это делать. Впрочем, после ЕГЭ по русскому, мне кажется я начал чаще замечать свои попытки написать неправильно, и таким образом исправлять их "на подлёте".

Можно ещё читать слова вслух или проговаривая про себя. Это вынудит двигаться по тексту медленно, при этом концентрируя внимание на текущем слове.