Главное > Рациональность
Рациональность — культурный феномен?
sergeyr:
--- Цитата: iren_doroshenko от 29 Марта 2017, 08:36 ---sergeyr, вы с первого сообщения показали себя как много знающего человека. Полагаю, вам точно известен некий подход к "рациональности"(как технологии лучших решений), который мало знаком в сообществе. Могли бы поделится своими наблюдениями? Встретили ли упущения в методиках?
--- Конец цитаты ---
Я никаким боком не "много знающий" - напротив, у меня почти клинически плохая память и объем знаний в результате позорно невелик даже для моего формального уровня образования. Какие-то преимущества перед нормальными людьми я имею только в тех немногочисленных случаях, когда пониманию у них мешает не сложность предмета, а его непривычность, контринтуитивность или противоречие желаниям - в этих случаях мне _иногда_ помогают мои психологические черты (субклинического уровня шизоидная акцентуация, интроверсия и, прежде всего, дисфункция психологических защитных механизмов).
Никаких неизвестных этому сообществу подходов к рациональности у меня нет - подход к ней у меня как раз совпадает с мейнстримным в этом сообществе. Всё что я могу - это давать справки относительно некоторых фактических или логических ошибок, всплывающих здесь или имеющих хождение среди рационалистов вообще. Никакой фундаментальной ценности это, как мне кажется, не имеет и иметь не будет, хотя по мелочам может кому-то или чему-то помочь.
Методики LW я не способен даже усвоить, не говоря уже о том, чтобы находить в них ошибки. Это много выше уровня моих способностей.
Gradient:
Насколько я понял, Kuff подозревает, что те методы рациональности, что предлагает LW, не являются наилучшим возможным путём к целям, заявленным на LW (наилучшая практическая эффективность). Главное основание для такого предположения - это то, что методы рационального мышления комбинаторно сложные, и люди просто не в силах попробовать все возможные методы (то есть все последовательности действий) и проверить их на предмет того, хороши ли они как методы рационального мышления. То есть, грубо говоря, у нас есть 1000-мерное пространство, и мы исследовали какой-то небольшой гиперобъём, и самое лучшее, что мы там нашли по части рациональности, мы перенесли на LW. Но есть огромные неисследованные пространства. А ещё есть понимание, что наши теории мышления могут оказаться неполными, и из-за этого мы не провели поиск в какой-то ещё части нашего 1000-мерного пространства, где могут быть методы мышления получше. А генерить новые теории нам тяжело, так как мы находимся в социальной среде, "сужающей" наше мышление.
То есть теориям мы доверяем не вполне, а подход "только практика" требует чересчур большого перебора вариантов.
Эта ситуация похожа на оптимизационную задачу (она же - задача поиска максимума функции). Эта задача состоит из двух частей - в первой мы выбираем точки, а во второй мы рассчитываем функцию. Применительно в рациональности, в первой части мы пытаемся создать новый способ мышления, а во второй - смотрим, насколько эффективен его пользователь.
Так вот. У оптимизационной задачи нет общего решения, которое бы гарантированно приводило в глобальный максимум за вменяемое время. Есть куча методов, которые приводят в какой-то локальный максимум - градиентный спуск, эволюция и прочие. Можно найти несколько локальных максимумов. Но нельзя получить уверенность, что мы нашли самый-самый крутой максимум. Ну, кроме случаев, что мы знаем "исходный код" оптимизируемой функции - но реальность для нас "чёрный ящик", и у нас есть только её аппроксимации (они же - научные теории), а не "исходный код". Поэтому теория оптимизации ничего не предлагает по тому, как найти самую-самую классную рациональность.
Но предлагает, как найти рациональность "лучше нынешней". Для этого надо во-первых, вносить малые изменения в нынешнюю рациональность и смотреть, как изменятся результаты (это требует кучи дорогостоящих экспериментов). Во-вторых, искать людей, чьи действия сильно отличаются от того, что предлагает LW, но которые хорошо справляются с незнакомыми задачами и хорошо работают в условиях, вызывающих когнитивные искажения (в теории оптимизации это звучало бы "найти другие локальные максимумы, пусть даже они похуже нашего"). И у этих "альтернативщиков" пытаться скопировать стратегию, а затем улучшить её малыми изменениями.
Алгоритм типа Q-Learning подошёл бы к этой задаче ещё иначе. Он бы нашёл "альтернативщиков", ну или подготовил бы их сам. Затем составил бы из массива фактов теорию мышления - но, чтобы не быть догматичным, создал бы её с нуля, не зная наших постулатов. Теория была бы устроена так, что из неё бы следовало, куда надо копать, чтобы добиться большей эффективности. И у этой теории были бы типичные проблемы теорий - она была бы не совсем полна, и поэтому упускала бы какие-то выгодные ходы. Этот подход намного быстрее, чем подход оптимизационной теории.
В любом случае, процесс получился бы довольно дорогой по времени. И, скорее всего, требовал бы большого числа людей, которые далеки от LW-рациональности в смысле действий, но близки к ней в смысле результатов. И в любом случае нам нужен какой-нибудь воспроизодимый способ измерить уровень рациональности.
Я не пытаюсь запороть идею. Просто прикидываю, что нужно сделать, чтобы добиться цели "создать новую рациональность, лучше старой".
kuuff:
Ну да, всё примерно так. Но я не уверен, что тут есть много локальных экстремумов примерно одного качества. Просто потому не уверен, что не могу себе представить ничего подобного.
Есть и возражение: маленькие изменения при поиске экстремумов позволяют найти локальный экстремум. Чтобы найти какой-то другой, надо совершать большие изменения. Надо начать заново с системы, которая может быть будет по всем параметрам хуже сегодняшней, но зато градиентный спуск от той точки, может быть приведёт к чему-то лучшему.
--- Цитата: Gradient от 19 Апреля 2018, 10:29 ---В любом случае, процесс получился бы довольно дорогой по времени. И, скорее всего, требовал бы большого числа людей, которые далеки от LW-рациональности в смысле действий, но близки к ней в смысле результатов. И в любом случае нам нужен какой-нибудь воспроизодимый способ измерить уровень рациональности.
--- Конец цитаты ---
С одной стороны да, а с другой не совсем. Сейчас есть компьютеры, которые могут просимулировать если не весь процесс целиком, то какие-то части его, пользуясь упрощёнными моделями. Проблема же как раз в том, что если мы придумаем способ измерения рациональности, то он, я боюсь, определит точку, к которой будет сходиться наша модель.
Единственное что мне приходит в голову -- это создать очень специальные условия, которые будут кардинально отличаться от наших, так чтобы наша рациональность там бы не работала, и дать нашей модели найти там какую-нибудь свою рациональность. А вот затем продолжая обучение, постепенно эти условия менять, сводя к нашим. Тогда получится, что мы будем подходить пускай к тому же экстремуму, но хотя бы с другой стороны, и это может дать совершенно иной результат.
Gradient:
--- Цитировать --- не уверен, что тут есть много локальных экстремумов примерно одного качества
--- Конец цитаты ---
Ну, я тоже не думаю, что ну нас много экстремумов одного качества. Мне видится, что есть экстремумы разного качества, но это не страшно - если скрестить две супермощные системы, узко заточенные под разные условия, есть шанс получить систему, которая довольно хороша в обоих случаях. Конечно, шанс этот невелик... Но мы же готовы к сложному поиску?
Вообще, по моим наблюдениям, у опытных профессионалов часто есть какой-то свой, особый способ мыслить, который очень эффективен в их области, а в других областях он... Бывает хорош, бывает откровенно неудачным, а часто выглядит как относительно безобидное чудачество. Вот эти профессионалы и есть локальные экстремумы =) И я говорю не о специальных знаниях, а о том, что, например, у математиков часто есть привычка формулировать предложения предельно чётким образом, а безопасники более параноидальны, чем средний человек. LW пытается сделать что-то вроде универсального интеллекта, который более-менее хорош одновременно везде, и который может заточиться под одну область без потери эффективности в других.
--- Цитировать ---Надо начать заново с системы, которая может быть будет по всем параметрам хуже сегодняшней, но зато градиентный спуск от той точки, может быть приведёт к чему-то лучшему.
--- Конец цитаты ---
Да, мультистарт - хорошая штука. Если есть ресурсы, можно начинать с многих хороших точек одновременно, и смотреть для каждой, что можно улучшить.
--- Цитировать ---Сейчас есть компьютеры, которые могут просимулировать если не весь процесс целиком, то какие-то части его, пользуясь упрощёнными моделями. Проблема же как раз в том, что если мы придумаем способ измерения рациональности, то он, я боюсь, определит точку, к которой будет сходиться наша модель.
--- Конец цитаты ---
Чтобы вести перебор моделей интеллекта на компьютере, нам нужен такой способ их записи, который потом можно перенести на человека. Ну, либо человек должен будет обучаться, наблюдая, как работает модель. Да, модель будет слишком подстраиваться под тесты, но мы можем сделать огромную обучающую выборку. И ещё огромную выборку тестов, с которой наш ИИ не знаком в процессе обучения. То есть учим на одних данных, тестируем на других. Если он хорошо прошёл тесты - значит, он не просто точно подстроился под обучающую выборку, а реально будет полезен и на других задачах.
Ну а насчёт задач... Можно просто сделать набор из большого числа задач - от повседневных до необычных и хитровывернутых. И оценивать ИИ не по тому, как он прошёл их в среднем, а, скажем, по 5% наихудших задач - так он станет более универсальным.
Это работа надолго, но она ощутимо проще, чем аналогичная работа с людьми.
Да, и по моему опыту, паттерны поведения ИИ не всегда удаётся перенести на человека - например, у меня есть ИИ, который обучается на маленькой стратегической игре. Он хорошо выигрывает, но... Его строи выглядят в стиле "это не может сработать", а потом срабатывает довольно неожиданным образом. В общем, сложновоспроизводимая стратегия. А заглянуть внуть неё околонереально - нейронная сеть же, чёрный ящик.
anagor1:
Рациональность - безусловно, культурный феномен. Потому что она, как и прочие феномены, подгоняет цель под метод. И незачем разводить весь этот мучительный дискурс. Просто "практическая эффективность" - далеко не единственная цель человеческого бытия. А с годами - вообще неважная. "Вечная жизнь" христианства с соответствующими (иррациональными) методами, например, становится для многих перед смертью куда существеннее. Верующий смотрел, смотрит и будет смотреть на рационалиста, доказывающего ему что-то такое глубоко научное, со снисхождением и жалостью, как на человека, чего-то недопонявшего в жизни (но у которого еще есть шанс себя исправить - Бог простит ему даже это опасное заболевание рациональностью).
Унивесального смысла жизни нет. Человек осмысливает свою жизнь сам. Потому что, как совершенно верно отметил ТС, смысл невозможно передать. Передать можно только форму, а содержанием человек наполняет ее всегда своим, собственным экзистенциальным опытом, иначе никак. Человек сам ищет в себе те цели, которые осмыслят его жизнь. Или находит - и живет, или нет, и тогда - суицид или мучения, увы. И эти цели - вовсе не обязательно "практическая эффективность". Более или менее универсальная (потому неточная и уж конечно не рациональная) формулировка - "радость жизни", или "счастье". Ибо если без радости - то зачем вообще все эти эффективности? Если ощущение собственной рациональности приносит человеку радость - ну и ОК. Если нет - на хрена она сдалась? Сидеть на берегу реки и ждать, пока проплывет труп врага - совсем не рациональное поведение. Однако, порой работает, радость приносит.:)
Хотя я сильно сомневаюсь, что сама по себе рациональность способна быть осмысливающим жизнь фактором. Триада Франкла: Долг, Любовь/Вера, Творчество - кажется мне более обоснованной в том числе и личным опытом.
Так что, имхо, ТС ломится в открытую дверь. "Новое общество с перпендикулярным мировоззрением" не надо строить с нуля - их сколько угодно вокруг. Езжайте в Тибет, постарайтесь почувствовать, как и чем живут там люди... Даже само деление на рационалистов и иррационалистов - внутреннее для данной субкультуры, для культивируемой ею Картины мира - вот примерно как деление на верующих и неверующих в религиях. Мир гораздо богаче и в нем гораздо больше культурных феноменов. Причем катится он в сторону, противоположную рациональности. В постиндустриальном обществе иррациональное консъюмеристское поведение будет приносить человеку куда больше радости, чем какая-то там "эффективность". Рационализм останется прибежищем 1-2% людей, увлеченных познанием и созиданием науки, и в этом видящих смысл своего бытия. Однако и для них осмысливающим фактором будет не рациональность мышления, а счастье творчества.
Навигация
Перейти к полной версии