Просмотр сообщений - LswAgnostic

Просмотр сообщений

В этом разделе можно просмотреть все сообщения, сделанные этим пользователем.


Сообщения - LswAgnostic

Страницы: 1 ... 8 9 [10] 11
136
Но, если серьезно, что полезней, чем байесовская эпистемология, для решения такого рода вопросов? И, как я вижу, подавляющее большинство вопросов повседневной жизни таковы.

Полезнее вопросы:
- как принять решение, которое максимизирует последствия на всех возможных вариантах развития будущего?
- какие действия максимизируют желаемые варианты развитие будущего? какие действия минимизируют нежелательные варианты развития будущего?

ps
Будущее - одно. Принятие решений на основе вероятностей оптимально для задач, которые возникают многократно.

137
Будет ли полным описание шахматиста в виде перечисления набора действий, которые он может сделать на основе шахматных правил?

ps
Имхо, описание бога через список возможных действий без описания внутреннего состояния и алгоритма принятия решений настолько же неполно, как описание всемогущего бога через описание "это тот, кто может зажигать звезды".

138
Существует определённая разница между описанием объекта и его конструктивной реализацией.

Конструктивная реализация - это наиболее точное описание объекта.
Зачем необходимо неточное описание? В чем его польза по сравнению с точным описанием объекта? Какие задачи неточное описание решает?

Если достаточно неточного описания, то почему не ограничится описанием "Бог может зажечь звезду"? Зачем описание делается с помощью сложного алгоритма? Где достаточная грань неточности описания?

Важна ли в описании полнота описания? Как обеспечивается полнота описания?

139
Допустим, что бог описывается предложенным ранее алгоритмом.

Такой бог не может всё, потому что не смотря на то, что у него есть все алгоритмы, у него нет алгоритма по выбору из них правильного.

"перечислить все алгоритмы" != "мочь решать все задачи".
мочь решать все задачи = для каждой задачи X из множества всех задач из множества всевозможных алгоритмов мочь выбрать один алгоритм, решающий задачу X.

140
А почему вы считаете, что за ошибки надо платить?

Рациональнее говорить о малом влиянии индивиидуума на реальность и о выборе.
При рациональном рассмотрении рациональный агент имеет малое влияние на реальность. И постоянно делает выбор какую часть своих желаний иметь, а от какой - отказаться.

Текущая концовка больше в духе когнитивного искажения "иллюзия могущества", чем в духе рационального выбора.

Цитировать
Иллюзия контроля/иллюзия могущества — тенденция людей верить, что они могут контролировать или, по крайней мере, влиять на результаты событий, на которые они на самом деле влиять не могут

ps
Согласен, что "всегда присутствует плата за ошибки" и "всегда присутствует расплата за достигаемый результат" являются когнитивными ошибками.

141
Достаточно просто написать программу, перечисляющую все программы и она предоставит все возможные и невозможные взаимодействия со всем, что можно формализовать, если не представить.

С помощью какого алгоритма среди сгенерированных найти ту программу, которая делает ожидаемое действие? Например, эффективно управляет ядерным реактором.
Каким алгоритмом ее отличить от похожих, но с ошибками?

142
И тем не менее, равномерное распределение ожидания (максимальная энтропия, гипотеза невежества, ignorant) предпочтительней "глупой гипотезы" (stupid theory).

Данный расчет базируется на частичном допущении всемогущества. Допускается что мозг человек имеет бесконечные вычислительные ресурсы. Это не так. Вычислительные ресурса мозга - капля в море, по сравнению с вариантами реальности.

У каждого индивидуума каждую секунду происходит выбор:
- за какой частью реальности наблюдать
- какую часть реальности прогнозировать
- какую часть реальности менять

При отсутствии гипотезы все эти выборы делаются хаотически, не приводя к результату.

ps
Плохой план лучше отсутствия всякого плана.

Добавлено 11 Мая 2016, 10:23:
Когда я писал это, я не столько был рациональным агентом, сколько человеком :)
И тем не менее, равномерное распределение ожидания (максимальная энтропия, гипотеза невежества, ignorant) предпочтительней "глупой гипотезы" (stupid theory).

Какова твоя функция полезности в этом случае? Какие действия ее максимизируют?

Предположу, что функция полезности - это создание карты в своей голове, максимально приближенной к территории.
Выдвинутая и озвученная гипотеза помогает заполнять карту:
 - гипотезу X опровергли => карта дополнилась утверждением: на территории T нет X
 - гипотезу X поддержали => карта дополнилась утверждением: на территории T есть X

Выдвижение гипотезы помогает устранять слепые пятна.

ps
Карта - набор утверждений: чем территория является?, чем территория не является?.
Белое пятно = неизвестность = неопределенность - знание рациональное агента о том, что карта не совпадает с территорией
Слепое пятно - незнание рационального агента о том, что карта не совпадает с территорией
Вред - необратимое состояние
Вариация - возможный вариант территории/будущего
Лучший - максимально полезный
Лучшее действие в условиях неопределенности/незнания - выполнение действия, минимизирующего вред с учетом всех вариаций;  максимизация пользы в наиболее вероятных вариациях
Гипотеза - упорядочивание вариаций от наиболее вероятных к менее вероятным

143
На другом примере: если я говорю, что для того, чтобы учиться читать, я сначала должен научиться различать буквы, отличать "а" от "б". Можно ли затабуировать слово "читать" и производные от него и сказать то же самое?

Сформулировать так, как будто это задача для компьютера (для абстрактного вычислительного устройства).
Читать - декодировать последовательность символов-букв в граф высокоуровневых понятийных образов.
Читать - декодировать последовательность символов-букв в последовательность слов.
Декодировать - распознать

Я очень смутно поедставляю, какие вообще специальные навыки могут быть нужны для "атаки" или для "быстрого размена". Я не уверен, что я понимаю, что имеется в виду под словами "выигрыш преимущества". То есть, не то чтоб мне вообще непонятно было бы, о чём именно вы говорили, какой-то смысл я вижу в этом, но, говоря образно, картинка расфокусирована. Вот её надо сфокусировать, навести на резкость.

Начинать удобнее с материального выигрыша, затем переходить к выигрышу позиционному.
Материальный выигрыш - выигрыш пешки, выигрыш фигуры.

Атака - наращивание сил в определенной точке. (Упрощая)Если наших бьет больше, то по итогам размена за нами останется материальный выигрыш.
Быстрый размен - нападение защищенной фигурой на равносильную.

ps
Для эффективного обучения рекомендуется следующий алгоритм.

1. Самостоятельные попытки
2. Формулирование причин-препятствий, мешающих достичь результат
3. Обращение к внешнему опыту, с фокусировкой на поиске способов устранения препятствий, и тестированием корректного выделения причин-препятствий.

144
чтобы о них можно было думать.

Если затабуизировать слова "думать", "размышлять" и производные, то как тогда эта цель будет формулироваться?

145
Увлекательный рассказ о разных стилях научения -- дочка училась легко и непринуждённо, чуть ли не имплицитно, папашка же кряхтел и грыз гранит теории.

Важно учитывать различия в возможностях трансформации Системы 1 у ребенка и у взрослого.
В возрасте ребенка Система 1 способна достраивать сразу несколько уровней нейронной сети.
В возрасте взрослого Система 1 способна достраивать только по одному уровню за раз.

Допустим, для понимания иностранного языка необходимо 6 уровней НС: распознавание звуков, распознавание фонем, распознавание слов, распознавание понятий, распознавание грамматики, распознавание структуры предложений.

При предьявлении ребенку предложений на иностранном языке и получении положительного подкрепления, Система 1 ребенка способна с нуля самостоятельно выстроить 6 уровней НС.
Система 1 взрослого на такое не способна.
Для обучения взрослого необходимо с помощью Системы 2 разбить задачу на подзадачи, одна подзадача на один уровень. Предъявить их последовательно Системе 1, положительно подкрепляя и формируя НС: уровень за уровнем.

И до сих пор я выигрываю на четвёртом уровне сложности примерно в 50% случаев. Что наводит на подозрения, что метод уже не работает.

В вашем случае может сработать отработка конкретных навыков с временным понижением уровня оппонента.
Фокусировка на отработке конкретных навыков "Атака", "Наращивание сил в точке", "Выигрыш преимущества", "Быстрый размен", "Выделение угроз", "Защита от угроз". Понижение уровня помогает удерживать фокусировку, не отвлекаясь на другие моменты игры.
При отработке атакующих навыков игра ведется максимально активно. С фокусировкой на том, чтобы каждый ход увеличивал угрозу для оппонента.
При отработке защитных навыков игра ведется пассивно. С фокусировкой на усиление каждым ходом своей обороны и без реализации своих угроз.

Добавлено 09 Мая 2016, 16:20:
мне тут предпочтительней молчать, чтобы не выглядеть идиотом еще больше, чем сейчас.

Почему "молчание" предпочтительнее, чем "выглядеть идиотом"?

Почему с точки зрения рационального агента стратегия "отсутствие формирования гипотез о неизведанном" дает большую максимизацию пользы, чем стратегия "формирование самостоятельных гипотез, часть из которых окажется позже ошибочной"?
Как формулируется в данном случае "польза"? Каким способом измеряется?

Добавлено 09 Мая 2016, 16:29:
Я тут уже за рамками своей компетентности.

Имхо, это очень хорошее состояние. Оно помогает перейти от навыка "тиражирования готовых знаний" к развитию навыка "создание нового знания". При рациональности важно уметь самостоятельно размышлять. Самостоятельно наблюдать, определять понятия, моделировать, тестировать модели и применять их на практике.  Часть подходов, например, Табуирование, направлено на развитие этих навыков.

146
Советую вам ознакомиться с статьей «Dual-Process Theories of Deductive Reasoning: Facts and Fallacies» или посмотреть видео Частые заблуждения про две системы мышления. Вы делаете специфические утверждения о работе двух систем, и у меня чувство (хоть я и не знаком с этой теорией достаточно чтобы указать конкретно) что с вашими рассуждениями что-то не так.

Спасибо, что поделились своим ощущением и подкрепили его ссылкой.  Помогает мне видеть слепые пятна в своих рассуждениях.

Виды представления знания, упорядоченные по предсказательной силе на единицу вычислительной мощности, требуемой для их использования (лучше - ниже).
- Наблюдения
- Категории и их характеристики
- Модели

В статье «Dual-Process Theories of Deductive Reasoning: Facts and Fallacies» представлено знание об особенностях работы мозга. Знание представлено в виде "категории и их характеристики".

Знание о работе мозга может быть представлено другим способом в виде моделей.

Система 1 - это черный ящик, хардварно реализующий вычисления алгоритмов.
Каждая операция алгоритма представлена в виде хардварного узла. Узлы работают параллельно.
Каждый узел подобен алгоритмической операции "если, то". Узел делает сопоставление с образцом, выбирает соответствующий ответ и передает его на следующий уровень.
Ограниченны способности по вычислению алгоритмов с циклами и рекурсиями (N-итераций цикла/рекурсии увеличивает в N раз количество требуемых узлов).
Программирование Системы 1 подобно программированию ПЛИС, FBD и т.д.

Система 2 - это черный ящик, софтварно реализующий вычисления алгоритмов.
Операция вычисляются последовательно. Есть 5-10 ячеек оперативной памяти.
В качестве операций используются подпрограммы из Системы 1.
Программирование Системы 2 подобно программированию на простых универсальных языках типа Алгол/C.

Данные модели объясняют:
- почему Система 1 не способна перемножить два двухзначных числа и способна распознавать лица
- почему Система 2 не способна перемножить 2 пятизначных числа в уме и способна это сделать при использовании внешней памяти (листка бумаги для записи)

Добавлено 09 Мая 2016, 14:27:
Если я играю в шахматы, не читая учебников, не слушая лекций, разборов партий, не решая задачек. Просто играю в шахматы. Значит ли это что мой уровень игры в шахматы растёт сам по себе? Я ведь не работаю над ним.

В каких-то случаях будет расти, в каких-то - не будет.
Рациональнее исходить из допущения, что не будет расти.

Рациональнее подходить к своему развитию рационально. )
1. Выделить свою зону ближнего развития (как вы ранее упомянули).
2. Построить предположение: реализации каких алгоритмов не хватает вашей Системе 1.
3. Оценить какие из алгоритмов уместнее получить следующими.
4. Переформулить алгоритм в вид доступный для выполнения Системой 1.
5. С помощью Системы 2 целенаправленно натаскать Систему 1 на выполнение недостающего алгоритма.
6. Проверить с помощью реальности предположения из п.2.
7. Начать с начала

Кстати, с тем примером в шахматах, я подозреваю, что "просто играть в шахматы" для меня уже не зона ближайшего развития, и если я хочу развития, мне придётся читать книжки, смотреть обзоры партий на ютубе, искать живых оппонентов с которыми можно не только играть, но и обсуждать игры, и пр...

Обращаю внимание на противоречие в ваших высказываниях.
Ранее высказывался тезис(привожу в свернутой форме) "Что об этом говорить, иди - делай", сейчас высказывается тезис "Для развития буду обсуждать".
Как устраняется это противоречие?

147
мог бы один супер умный байесовский максимизатор функции ожидаемой полезности спросить другого

Согласен с такой переформулировкой. Спасибо за перевод из одного понятийного базиса в другой.

Я ожидаю, что действия, предсказанные более противоречивыми теориями будут скорее приводить к появлению вариантов реальности, располагающихся ниже в иерархии предпочтений, а действия, предсказанные менее противоречивыми теориями - к располагающимся выше, потому что это является следствием привилегированной гипотезы о непротиворечивости территории, т.е. я стремлюсь менять свою карту в сторону большего соответствия территории, в первую очередь, во-вторую - привилегирировать менее противоречивые теории. Exploration and Exploitation, знаешь ли.

Из теоремы Геделя о неполноте следует, что всякая карта будет: или противоречивой, или неполной, но не то и другое - одновременно.

Какой выбор рационального агента дает большую максимальную полезность? Почему?:
- поддерживание и использование неполной и непротиворечивой карты
- поддерживание и использование полной и противоречивой карты

Производительность Системы 2: 1-5 последовательных выводов в секунду.
Производительность Системы 1: 1e6-1e12 параллельных сопоставлений в секунду.
Систему 1 можно натренировать на выделение противоречий.
Система 1 не способна переформулировать модели для устранения противоречий.
Система 2 способна переформулировать модели для устранения противоречий.

Переформулирование модели с целью устранения противоречия является затратной операцией:
- 1e3-1e4 выводов на переформулирование. 1-3 часа загрузки Системы 2 (1-3 часа жизни)
- 1e4-1e6 предъявлений Системой 2 Системе 1 для перекалибровки Системы 1 и приобретение нового навыка. (1-300 часов жизни)

Какой выбор дает большую максимальную полезность на длительном периоде? В каких условиях выгоднее одно, в каких - другое?:
- Устранение противоречий в своей модели раз за разом
- Однократное освоение навыка "оперирование противоречивыми моделями" + Оперирование противоречивыми моделями раз за разом

148
Противоречие же второго типа требует пересмотра теории.

Почему вы знаете, что противоречивость в теории требует её пересмотра?

ps
Цитировать
A paraconsistent logic is a logical system that attempts to deal with contradictions in a discriminating way. Alternatively, paraconsistent logic is the subfield of logic that is concerned with studying and developing paraconsistent (or "inconsistency-tolerant") systems of logic.
Цитировать
Applications

Paraconsistent logic has been applied as a means of managing inconsistency in numerous domains, including:[16]
- Semantics. Paraconsistent logic has been proposed as means of providing a simple and intuitive formal account of truth that does not fall prey to paradoxes such as the Liar. However, such systems must also avoid Curry's paradox, which is much more difficult as it does not essentially involve negation.
- Set theory and the foundations of mathematics (see paraconsistent mathematics). Some believe[who?] that paraconsistent logic has significant ramifications with respect to the significance of Russell's paradox and Gödel's incompleteness theorems[dubious – discuss].
- Epistemology and belief revision. Paraconsistent logic has been proposed as a means of reasoning with and revising inconsistent theories and belief systems.
- Knowledge management and artificial intelligence. Some computer scientists have utilized paraconsistent logic as a means of coping gracefully with inconsistent information.[17]
- Deontic logic and metaethics. Paraconsistent logic has been proposed as a means of dealing with ethical and other normative conflicts.
- Software engineering. Paraconsistent logic has been proposed as a means for dealing with the pervasive inconsistencies among the documentation, use cases, and code of large software systems.[8][9]
- Electronics design routinely uses a four valued logic, with "hi-impedance (z)" and "don't care (x)" playing similar roles to "don't know" and "both true and false" respectively, in addition to True and False. This logic was developed independently of Philosophical logics.


https://en.wikipedia.org/wiki/Paraconsistent_logic



Добавлено 09 Мая 2016, 02:15:
В некотором смысле, исследования моделей не создают новых знаний. Те же математики, рассуждая о некой аксиоматической системе, считают что аксиомы задают множество истинных утверждений. Что оно уже есть, уже задано. То же самое и с любой моделью: она определяет все выводы, даже если мы до них ещё не доковырялись.

Согласен с точки зрения классической математики и не согласен с точки зрения конструктивной математики (интуиционистской логики).

Имхо, конструктивная математика точнее отражает реальность, чем классическая математика.

Конструктивная математика
Интуционизм
Интуционистское исчисление

Добавлено 09 Мая 2016, 02:44:
Произойдёт выход на следующий уровень. Это испытывал каждый, даже испытывал многократно, но не каждый осознавал опыт.

Почему вы знаете, что так происходит всегда? Почему вы верите, что это произойдет в данном случае? Нет ли в этом "ошибки выжившего"?

Имхо, опасно исходить из презумпции, что в Системе 1 желаемый результат достигается сам собой.

Я исхожу из того, что дискуссия с вами помогает мне в интеграции знаний и переводе их в навык. Спасибо вам за конструктивный диалог!


ps
Личная история от того, кто "не выжил":

Цитировать
За это время Форд многое узнал о программировании и базах данных, потратил уйму времени на изучение информатики. И всё это для того, чтобы делать одни и те же вещи, а потом забывать об этом, и делать их снова. Это словно фильм День сурка о фильме День сурка. Он продолжал читать свои письма и понимал, что все двадцать лет говорил о: [..]

Иногда он говорил другим людям, как нужно себя вести, иногда они говорили ему. Само содержание этих споров не сильно изменилось.
https://habrahabr.ru/company/pechkin/blog/282223/

149
Вы систематически демонстрируете неспособность уложить в единую систему разные системы знаний. [..] И если так, то я бы рекомендовал плюнуть на всё и заняться применением всей этой теории на практике.

Неожиданный переход )

Вы систематически демонстрируете неспособность уложить в единую систему разные системы знаний.

Ты это так говоришь, как будто противоречивость в знаниях - это что-то плохое. Почему ты знаешь, что плохо иметь противоречия в знаниях?


А года через два-три, максимум пять, те вопросы, которые вы ставите сейчас, для вас уже не будут вопросами.

Что изменится?

ps
Предлагаю перейти на ты. Удобно?

150

Софизм серого. Статья про то, что убеждения не делятся исключительно на "точно произойдет" (1), может быть да\может быть нет (.5), точно нет (0). В скобках, разумеется, вероятности.
Infinite Certainty В рамках байесовской эпистемологии, в соответствии с законами вероятности принято назначать логическим истинам вероятность 1. В рамках фреймворка "вероятность - мера уверенности" с вероятностями 1 возникают некоторые сложности. Эта статья описывает некоторые из них.


Согласен, что у утверждений есть коэффициент правдоподобия.

Закономерная неуверенность. Статья о том, как при столкновении со случайными событиями люди склонны принимать решения по "случайному" алгоритму, вместо того, чтобы действовать по упорядоченному.
Лотереи: бессмысленная трата надежды. Статья об эффекте уверенности и оценке шанса на примере лотереи. "Но шанс то есть?" - так люди говорят.
Absolute Authority. Про чудовщных размеров разрыв между людьми, привыкшими к уверенности и наукой, утверждения которой часто носят вероятностный характер, как и большая часть человеческого знания.


Согласен, что байесовский коэффициент правдоподобия может показывать лучшие результаты, чем Система 1 людей.
Не согласен, что на сегодняшний момент байесовский коэффициент является лучшей моделью правдоподобия.

0 And 1 Are Not Probabilities . Знаменитое  доказательство Кокса (и разные его расширения и переделки) показывает, что все способы репрезентации неуверенности, подчиняющиеся разумным правилам будут изоморфны друг другу. И если перевести вероятности путем десятичного логарифма в децибелы, то будет видно, что 1 и 0 превращаются в бесконечности, что, в свою очередь требует свидетельство бесконечной силы.

Теорема Кокса говорит о чуть другом. Она говорит о том, что если выбрать удобный для расчетов коэффициент правдоподобия, то для его расчета будут использоваться формулы, схожие с формулой Байеса.
Но "удобный для расчетов" != "дающий лучшие результаты".

Современные представления говорят о том, что лучшие результаты показывают ансамбли. Набор независимых противоречивых между собой моделей. В тоже время Кокс при исследованиях и доказательстве исходил из того, что правдоподобие обязано быть непротиворечивым.

https://en.wikipedia.org/wiki/Ensemble_learning

Страницы: 1 ... 8 9 [10] 11