Рациональность — культурный феномен?

Автор Тема: Рациональность — культурный феномен?  (Прочитано 5778 раз)

sergeyr

  • Постоялец
  • ***
  • Сообщений: 100
  • +38/-21
    • Просмотр профиля
Они не независимо изобретали.
Во-первых, они все имеют одни и те же нейроны.
Которые они "изобрели" независимо.
Ну посмотрите на филогенетическое дерево животных. Головоногие относятся к первичноротым, позвоночные - вторичноротые. Они разделились задолго до возникновения нервных клеток.
То, что нейроны в результате оказались _схожи_ (не одними и теми же, а схожими) - это как раз та мысль, на которую я Вас и стараюсь навести.

Там есть куда развиваться от пресмыкающихся, но база уже была заложена общая.
Создается впечатление, что у Вас возникла какая-то странная иллюзия, что головоногие происходят от пресмыкающихся.
Еще раз обращаю внимание, что позвоночные (включая пресмыкающихся, птиц и млекопитающих), насекомые (включая общественных) и моллюски (включающие головоногих) друг другу родственны только на уровне домена: все они животные; более близкого родства между ними нет. И тем не менее, сходство когнитивного поведения потрясающее.

Во-третьих, развитие шло в схожих условиях. Если животному надо выработать стратегию как напиться из реки и не попастся аллигатору
... то головоному и насекомому аллигатор как-то не очень актуален. И если муравьи еще хотя бы тоже живут по большей части на условно двумерной границе сред (хотя для их размерного класса параметры среды _радикально_ отличны), то головоногие и пчелы - еще и живут в более полноценно-трехмерной среде (впрочем, как и китообразные, у которых, тем не менее, поведенческие паттерны тоже вполне привычно выглядят).

Некоторые исследования наводят на мысль о том, что вариабельность может быть очень высокой. Хорошо Темперированный Клавир хорошо темперирован только для тренированного европейской музыкой слуха. Отсутствие такой тренировки делает его бессмысленным набором звуков. Исследователи нашли нетренированные уши и изучили как они реагируют на европейскую музыку.
Это несомненная гипербола выпендрежа ради. В чём элементарно можно убедиться, слушая китайскую традиционную музыку: да, она непривычна и без специального обучения и тренировки её так же тяжело воспринимать, как и европейскую же академическую (без музыкального образования её воспринимают крайне редко, хотя это и бывает - я как раз исключение), но её музыкальность не вызывает сомнений.

Мне зато легко сказать. Я слушаю преподов с биологического ф-та СПбГУ.
Это странно. Я знаю, что в России распространяется среди научных работников некая форма протестных настроений, но на биофаке СПбГУ её встретить в массовом виде не ожидал. Позволю себе не доверять Вашим словам, пока они не подтверждены чем-то весомым.

Можно теперь я в свою очередь вздохну печально?
Упорядоченная теория -- это теория, которая даёт систему дифференциальных уравнений, на основании которых можно делать количественные предсказания.
Всё страньше и страньше.
Даже математики отреагируют на это заявление как на забавный ляп, поскольку дифуры - это только одна, и сейчас далеко не самая важная, часть математики. Алгебраисты (сейчас _неизмеримо_ более идущие нарасхват) и вероятностники-статистики (неизмеримо более близкие к оценке результатов теорий и экспериментов) на это Ваше смелое заявление ответят, в общем, дружным высмеиванием.
Ваш взгляд был еще популярен среди некоторой части околонаучной общественности примерно век-полтора назад, но сейчас это дикий архаизм, знакомый в основном по старой фантастике.

СТЭ на эту роль не тянет совершенно. Отмазки, типа аппеляций к сложности описываемой реальности не канают: мы говорим не про сложность реальности, а про упорядоченность описания этой реальности.
Боюсь, Вы уже совершенно запутались в значениях слов, которые употребляете. Упорядоченность описания никакого отношения не имеет ни к предсказательной способности, ни к дифурам, а СТЭ как раз очень неплохо упорядоченно описывает "свой" аспект реальности. Её предсказательная сила ровно такова, как и ожидается от фундаментальной теории: такой же предсказательной способности ожидали (и получили) от, скажем, теории дрейфа материков в геологии или теории электромагнетизма в физике (которая тоже только в редких, специально подобранных случаях позволяет точно предсказывать реальные события, но зато предоставляет базовые понятия для множества уточняющих смежных теорий и - в комплексе с "соседскими" теориями - прикладных знаний, технологий).

UPD. Попробую вот так еще показать на примере теории электромагнетизма. Ясно, что поведение белковой молекулы или какого-нибудь коллоида определяется практически исключительно электромагнитным взаимодействием и инерцией. И то и другое - очень простые с математической точки зрения штуки, и даже с точки зрения Вашего подхода теория получается прекрасной, дифуры под нее проработаны с самого начала. Но _никому_ до сих пор - ни целым институтам, ни суперкомпьютерам - не удалось применить эту теорию - без уточнений и ограничений со стороны других областей знаний - для уверенного предсказания поведения какого-нибудь белка или коллоида. Пичаль! Никуда не годная теория электромагнетизма. :)

Я лишь отмечу: комплексные числа были примером, иллюстрацией, аналогией. Споря с аналогией вы бьётесь с ветряными мельницами: даже победив, вы не измените направления ветра.
Я именно и пытался Вам показать, что буквально _все_ Ваши аналогии указывали на деле в ровно противоположную сторону от того, что Вы ими хотели показать.
« Последнее редактирование: 28 Март 2017, 11:12 от sergeyr »

kuuff

  • Старожил
  • *****
  • Сообщений: 2 131
  • +220/-52
    • Просмотр профиля
Которые они "изобрели" независимо.
Ну посмотрите на филогенетическое дерево животных. Головоногие относятся к первичноротым, позвоночные - вторичноротые. Они разделились задолго до возникновения нервных клеток.
Уже у гидр есть диффузная нервная система построенная из нейронов, которые по своей биохимии мало чем отличаются от человеческих. Все основные нейромедиаторы, типа ацетилхолина, серотонина и далее по списку там уже там есть.

Это странно. Я знаю, что в России распространяется среди научных работников некая форма протестных настроений, но на биофаке СПбГУ её встретить в массовом виде не ожидал. Позволю себе не доверять Вашим словам, пока они не подтверждены чем-то весомым.
Вы видите протестные настроения там, где их нет. Ну или, если вам так понятнее будет, вы ищете консенсуса и полного согласия там, где его не может быть. Наука развивается, это развитие было бы невозможно, если бы учёные в большинстве своём были бы согласны с текущим положением дел.
Любой учёный, в первую очередь, бунтарь. Даже если он получает конформные результаты и публикует конформные статьи подтверждающие существующую парадигму, то это не значит, что он конформист. Учёный постоянно пытается опровергнуть парадигму, он пытается построить лучшую парадигму. Другое дело, что как правило его гипотезы не подтверждаются, и придумать что-либо лучше текущей парадигмы не удаётся.

Всё страньше и страньше.
Даже математики отреагируют на это заявление как на забавный ляп, поскольку дифуры - это только одна, и сейчас далеко не самая важная, часть математики. Алгебраисты (сейчас _неизмеримо_ более идущие нарасхват) и вероятностники-статистики (неизмеримо более близкие к оценке результатов теорий и экспериментов) на это Ваше смелое заявление ответят, в общем, дружным высмеиванием.
Ваш взгляд был еще популярен среди некоторой части околонаучной общественности примерно век-полтора назад, но сейчас это дикий архаизм, знакомый в основном по старой фантастике.
Давайте попробуем заменить слова "система дифур", словами "математическая модель"? Это сделает объяснение более понятным для вас?

Я именно и пытался Вам показать, что буквально _все_ Ваши аналогии указывали на деле в ровно противоположную сторону от того, что Вы ими хотели показать.
А я пытаюсь донести до вас, что занимаясь этим вы боретесь с ветряными мельницами. Аналогии не являются доказательством, они не предназначены для этого, их задача служить иллюстрацией. В любой иллюстрации можно увидеть любой смысл, который вы захотите увидеть. Если вы целенаправленно будете искать в иллюстрации смысл противоречащий исходному посылу, вы его найдёте. Но единственное чего вы добъётесь в результате: вы не сможете использовать иллюстрацию по назначению. Вы не сможете извлечь из неё тот смысл, который по задумке вы должны были оттуда извлечь. И опровергнуть вы ничего не опровергнете, потому что даже самая удачная иллюстрация ничего не доказывает.
Знаете, я на первом курсе матемеха был несколько возмущён тем, что круги Эйлера которые используются для иллюстрации задачек на множества, не являются способом решения. Вот вы сейчас взяли нарисованные мною "круги Эйлера" и доказываете, что я не тем цветом их нарисовал, и пытаетесь от этого перейти к утверждению, что выводы сделанные мною неверны.
Круги Эйлера не для того, чтобы опровергать, они для того, чтобы понять. Если вы используете их не по назначению, то вы не добьётесь ничего вообще.

sergeyr

  • Постоялец
  • ***
  • Сообщений: 100
  • +38/-21
    • Просмотр профиля
Уже у гидр есть диффузная нервная система построенная из нейронов, которые по своей биохимии мало чем отличаются от человеческих. Все основные нейромедиаторы, типа ацетилхолина, серотонина и далее по списку там уже там есть.
Слово "уже" здесь не совсем корректно: гидры - это не ископаемое, а современный, хотя и достаточно примитивный, род.
Конечно, скорее всего какая-то нервная система была и у аналогичных им существ в то время, когда ничего более продвинутого на Земле и не существовало. Вопрос только в том, _какая_ она была - и как изменилась с тех пор. Т.е. почему так _мало_ изменилась, слабо радиировала, если она и была такой схожей с нашей, и почему изменилась в сторону унификации, если изначально была совсем другой.
И это, собственно, снова же и есть те вопросы, на которые я Вас старался навести.

Вы видите протестные настроения там, где их нет. Ну или, если вам так понятнее будет, вы ищете консенсуса и полного согласия там, где его не может быть.
Эммм... Вы не могли бы выбрать какую-то одну из этих взаимоисключающих гипотез? :)

Наука развивается, это развитие было бы невозможно, если бы учёные в большинстве своём были бы согласны с текущим положением дел.
Любой учёный, в первую очередь, бунтарь. Даже если он получает конформные результаты и публикует конформные статьи подтверждающие существующую парадигму, то это не значит, что он конформист. Учёный постоянно пытается опровергнуть парадигму, он пытается построить лучшую парадигму. Другое дело, что как правило его гипотезы не подтверждаются, и придумать что-либо лучше текущей парадигмы не удаётся.
Видите ли, получение новых результатов как правило - за редкими исключениями - идет не путем _отказа_ от прежних представлений (их подрыва, выхода за их пределы и т.п.), а путем их надстройки-уточнения.
И движущие мотивы науки и технологии полностью этой реальности соответствуют: это не протестные настроения, а любознательность и вообще желание получить позитивный результат. Результативный исследователь живёт не желанием подорвать авторитет предшественников, а желанием _получить новые результаты_. А желание подорвать, опровергнуть, поставить под сомнение и т.п., а также уверенность в своей способности это всё совершить - это нечто сугубо второстепенное для исследователей, и хуже того - это характерный признак фриков, городских сумасшедших. Такие люди обычно не добиваются результатов, невзирая на весь свой нонкорформизм.

Давайте попробуем заменить слова "система дифур", словами "математическая модель"?
Это, конечно, уже несколько лучше. Но мне кажется, что Вам стоит ознакомиться с биографией и результатами Колмогорова (в части его сотрудничества с историками). Это дает возможность намного лучше понять что же именно нужно от математиков представителям других наук, а как будущему психологу - это Вам должно еще и помочь в смысле взаимодействия математики именно с общественными и гуманитарными областями.
Видите ли, матмодель - это фетиш "физиков" (в советском иронично-бытовом смысле этого слова). У результативных исследователей как-то не очень заметно увлечения этой идеей.

вы не сможете использовать иллюстрацию по назначению. Вы не сможете извлечь из неё тот смысл, который по задумке вы должны были оттуда извлечь.
_Кому_ должен? :)
Я, разумеется, прекрасно понял что именно Вы хотели сказать этими иллюстрациями - там особо нечего понимать, мысль очень проста и очень широко распространена среди людей определенного склада.
Однако Вы ведь кроме иллюстраций почти ничего не даете, а меж тем настаиваете на своём с большой настойчивостью. Этот модус операнди соответствует желанию не то чтобы доказать, но _убедить_. Поэтому я и показываю, что Ваши иллюстрации убеждают скорее в обратном (тех убеждают, разумеется, кто реагирует на свойства самих иллюстраций, а не на Вашу степень убежденности в своей правоте или на те протестные мотивации, которые Вы выше описали как якобы движущую силу науки).

Знаете, я на первом курсе матемеха был несколько возмущён тем, что круги Эйлера которые используются для иллюстрации задачек на множества, не являются способом решения. Вот вы сейчас взяли нарисованные мною "круги Эйлера" и доказываете, что я не тем цветом их нарисовал, и пытаетесь от этого перейти к утверждению, что выводы сделанные мною неверны.
Круги Эйлера не для того, чтобы опровергать, они для того, чтобы понять. Если вы используете их не по назначению, то вы не добьётесь ничего вообще.
Эээ... видите ли, круги Эйлера - как и любой иллюстративный материал в _логике_ - используются в том числе и для того, чтобы опровергать. :)

И вот, понимаете, у Вас так всё время (на протяжении этого обсуждения). Вы высказываете _уверенность_ в своей правоте, но всё что Вы расписываете в попытках это своё ощущение передать - содержит ошибки, причём зачастую очень грубые... и не содержит _результатов_. Чего и от кого Вы хотите этим добиться этим методом, и почему именно им?

kuuff

  • Старожил
  • *****
  • Сообщений: 2 131
  • +220/-52
    • Просмотр профиля
И это, собственно, снова же и есть те вопросы, на которые я Вас старался навести.
Потому что эволюция и специализация нейрона была фактически закончена уже к моменту появления кишечнополостных. Дальнейшая эволюция шла за счёт усложнения системы в других местах. При этом, я отмечу, дальнейшая эволюция как по времени так и по порождённому количеству бит сложности была существенно меньше.
Эммм... Вы не могли бы выбрать какую-то одну из этих взаимоисключающих гипотез? :)
Это одна и та же гипотеза, но разными словами высказана. Там ведь дальше всё это объяснено. Это два разных взгляда на одну и ту же ситуацию. И почему вы полагаете, что я должен выбирать? Выберите вы, выберите ту, которая вам больше нравится и с которой вам меньше всего хочется спорить. Тогда нам проще будет договориться о чём-то.
Видите ли, получение новых результатов как правило - за редкими исключениями - идет не путем _отказа_ от прежних представлений (их подрыва, выхода за их пределы и т.п.), а путем их надстройки-уточнения.
И движущие мотивы науки и технологии полностью этой реальности соответствуют: это не протестные настроения, а любознательность и вообще желание получить позитивный результат.
Да-да. Критерий Поппера: фальсифицируй всё фальсифицируемое, а нефальсифицируемое операционализируй до фальсифицируемости и затем тоже фальсифицируй.
Результативный исследователь живёт не желанием подорвать авторитет предшественников, а желанием _получить новые результаты_.
Я вас умоляю, давайте мы будем дифференцировать такие вещи как авторитет учёного, и актуальность его работ. Это ведь совершенно разные вещи.
Я, разумеется, прекрасно понял что именно Вы хотели сказать этими иллюстрациями - там особо нечего понимать, мысль очень проста и очень широко распространена среди людей определенного склада.
Тогда я совсем не понимаю, о чём мы спорим.
Чего и от кого Вы хотите этим добиться этим методом, и почему именно им?
На самом деле уже ничего. Процесс, разворачивание которого вы наблюдали, уже фактически завершился. Он прошёл бесплодно: как-то так вышло, что всё это обсуждение не имело единой темы, и вместо новых мыслей, которые бы возникали из обсасывания старых мыслей, из попыток их подтвердить или опровергнуть, я получал извне какие-то метастазы споров на посторонние темы, которые сами по себе не интересны.
Но, если смотреть на вещи позитивно, я просто ещё раз перебрал этот кусок своего мировоззрения, укрепил связи между элементами и, надо думать, стал лучше понимать то, что я понимаю.

iren_doroshenko

  • Постоялец
  • ***
  • Сообщений: 235
  • +24/-67
    • Просмотр профиля
kuuf и sergeyr,  было интересно прочесть ваш дискурс, теперь бы хотелось максимизировать конкретику ваших идей. Также, думаю, всем было бы полезно увидеть некий консенсус в вашем обсуждении.

sergeyr, вы с первого сообщения показали себя как много знающего человека. Полагаю, вам точно известен некий подход к "рациональности"(как технологии лучших решений), который мало знаком в сообществе. Могли бы поделится своими наблюдениями? Встретили ли упущения в методиках?
_____
kuuf, вы заметили :
Цитировать
"Для этого сначала должна появится модель альтернативная рациональности, и затем она должна показать себя лучше рациональности. Но откуда такая модель возьмётся, если культура всем вдалбливает в голову те самые постулаты, аксиомы и догмы рациональности? ".
  Можно узнать, как именно вы понимаете модель "современной рациональности", есть ли у вас некая инфографика об этом, или конкретное предположение где же прогалина в нынешних постулатах? Для удобства объяснений(понимания) предлагаю использовать карту представленную в этом видео Алексей Турчин о путях улучшения мышления  — на мой взгляд, достаточно всеобъемлющая, и можно достаточно легко отследить феноменальную область, если таковая имеется.
 
Хотелось бы уточнить, почему причинно-следственные связи считаете "краеугольным камнем". Без причины в принципе нет смысла судить(решать, вычислять) что либо.  А вот со следствиями можно спорить, ведь они достаточно часто имеют вариативный характер.  Иными словами, стоит по разному сортировать следствия, и категоризировать их. Т.е., следственная связь не обязательно будет линейной. Можно формировать разные связи между, а наибольшую эффективность связей(архитектуру причин) выбирать в зависимости от ситуации.

Относительно возможности передачи смыслов, не до конца с вами согласна. Проблема скорее в том, что мы не можем знать насколько точно смысл любого порядка воспроизводится в голове адресата, это все индивидуальные настройки. Следовательно сообщения стоит править не сколько на точность соответствия территории, сколько точность карты собеседника.  По моему, Юдковски отлично удалось изложить "рациональность", собственно с вопросом "почему автор думает моими *смыслами*" я и пришла на LW. Оказалось же, что именно так, как изложено, рассуждает малое число людей.

sergeyr

  • Постоялец
  • ***
  • Сообщений: 100
  • +38/-21
    • Просмотр профиля
sergeyr, вы с первого сообщения показали себя как много знающего человека. Полагаю, вам точно известен некий подход к "рациональности"(как технологии лучших решений), который мало знаком в сообществе. Могли бы поделится своими наблюдениями? Встретили ли упущения в методиках?

Я никаким боком не "много знающий" - напротив, у меня почти клинически плохая память и объем знаний в результате позорно невелик даже для моего формального уровня образования. Какие-то преимущества перед нормальными людьми я имею только в тех немногочисленных случаях, когда пониманию у них мешает не сложность предмета, а его непривычность, контринтуитивность или противоречие желаниям - в этих случаях мне _иногда_ помогают мои психологические черты (субклинического уровня шизоидная акцентуация, интроверсия и, прежде всего, дисфункция психологических защитных механизмов).

Никаких неизвестных этому сообществу подходов к рациональности у меня нет - подход к ней у меня как раз совпадает с мейнстримным в этом сообществе. Всё что я могу - это давать справки относительно некоторых фактических или логических ошибок, всплывающих здесь или имеющих хождение среди рационалистов вообще. Никакой фундаментальной ценности это, как мне кажется, не имеет и иметь не будет, хотя по мелочам может кому-то или чему-то помочь.

Методики LW я не способен даже усвоить, не говоря уже о том, чтобы находить в них ошибки. Это много выше уровня моих способностей.

Gradient

  • Пользователь
  • **
  • Сообщений: 88
  • +30/-0
    • Просмотр профиля
Насколько я понял, Kuff подозревает, что те методы рациональности, что предлагает LW, не являются наилучшим возможным путём к целям, заявленным на LW (наилучшая практическая эффективность). Главное основание для такого предположения - это то, что методы рационального мышления комбинаторно сложные, и люди просто не в силах попробовать все возможные методы (то есть все последовательности действий) и проверить их на предмет того, хороши ли они как методы рационального мышления. То есть, грубо говоря, у нас есть 1000-мерное пространство, и мы исследовали какой-то небольшой гиперобъём, и самое лучшее, что мы там нашли по части рациональности, мы перенесли на LW. Но есть огромные неисследованные пространства. А ещё есть понимание, что наши теории мышления могут оказаться неполными, и из-за этого мы не провели поиск в какой-то ещё части нашего 1000-мерного пространства, где могут быть методы мышления получше. А генерить новые теории нам тяжело, так как мы находимся в социальной среде, "сужающей" наше мышление.
То есть теориям мы доверяем не вполне, а подход "только практика" требует чересчур большого перебора вариантов.

Эта ситуация похожа на оптимизационную задачу (она же - задача поиска максимума функции). Эта задача состоит из двух частей - в первой мы выбираем точки, а во второй мы рассчитываем функцию. Применительно в рациональности, в первой части мы пытаемся создать новый способ мышления, а во второй - смотрим, насколько эффективен его пользователь.
Так вот. У оптимизационной задачи нет общего решения, которое бы гарантированно приводило в глобальный максимум за вменяемое время. Есть куча методов, которые приводят в какой-то локальный максимум - градиентный спуск, эволюция и прочие. Можно найти несколько локальных максимумов. Но нельзя получить уверенность, что мы нашли самый-самый крутой максимум. Ну, кроме случаев, что мы знаем "исходный код" оптимизируемой функции - но реальность для нас "чёрный ящик", и у нас есть только её аппроксимации (они же - научные теории), а не "исходный код". Поэтому теория оптимизации ничего не предлагает по тому, как найти самую-самую классную рациональность.
Но предлагает, как найти рациональность "лучше нынешней". Для этого надо во-первых, вносить малые изменения в нынешнюю рациональность и смотреть, как изменятся результаты (это требует кучи дорогостоящих экспериментов). Во-вторых, искать людей, чьи действия сильно отличаются от того, что предлагает LW, но которые хорошо справляются с незнакомыми задачами и хорошо работают в условиях, вызывающих когнитивные искажения (в теории оптимизации это звучало бы "найти другие локальные максимумы, пусть даже они похуже нашего"). И у этих "альтернативщиков" пытаться скопировать стратегию, а затем улучшить её малыми изменениями.

Алгоритм типа Q-Learning подошёл бы к этой задаче ещё иначе. Он бы нашёл "альтернативщиков", ну или подготовил бы их сам. Затем составил бы из массива фактов теорию мышления - но, чтобы не быть догматичным, создал бы её с нуля, не зная наших постулатов. Теория была бы устроена так, что из неё бы следовало, куда надо копать, чтобы добиться большей эффективности. И у этой теории были бы типичные проблемы теорий - она была бы не совсем полна, и поэтому упускала бы какие-то выгодные ходы. Этот подход намного быстрее, чем подход оптимизационной теории.

В любом случае, процесс получился бы довольно дорогой по времени. И, скорее всего, требовал бы большого числа людей, которые далеки от LW-рациональности в смысле действий, но близки к ней в смысле результатов. И в любом случае нам нужен какой-нибудь воспроизодимый способ измерить уровень рациональности.

Я не пытаюсь запороть идею. Просто прикидываю, что нужно сделать, чтобы добиться цели "создать новую рациональность, лучше старой".
« Последнее редактирование: 19 Апрель 2018, 14:15 от Gradient »

kuuff

  • Старожил
  • *****
  • Сообщений: 2 131
  • +220/-52
    • Просмотр профиля
Ну да, всё примерно так. Но я не уверен, что тут есть много локальных экстремумов примерно одного качества. Просто потому не уверен, что не могу себе представить ничего подобного.

Есть и возражение: маленькие изменения при поиске экстремумов позволяют найти локальный экстремум. Чтобы найти какой-то другой, надо совершать большие изменения. Надо начать заново с системы, которая может быть будет по всем параметрам хуже сегодняшней, но зато градиентный спуск от той точки, может быть приведёт к чему-то лучшему.

В любом случае, процесс получился бы довольно дорогой по времени. И, скорее всего, требовал бы большого числа людей, которые далеки от LW-рациональности в смысле действий, но близки к ней в смысле результатов. И в любом случае нам нужен какой-нибудь воспроизодимый способ измерить уровень рациональности.
С одной стороны да, а с другой не совсем. Сейчас есть компьютеры, которые могут просимулировать если не весь процесс целиком, то какие-то части его, пользуясь упрощёнными моделями. Проблема же как раз в том, что если мы придумаем способ измерения рациональности, то он, я боюсь, определит точку, к которой будет сходиться наша модель.
Единственное что мне приходит в голову -- это создать очень специальные условия, которые будут кардинально отличаться от наших, так чтобы наша рациональность там бы не работала, и дать нашей модели найти там какую-нибудь свою рациональность. А вот затем продолжая обучение, постепенно эти условия менять, сводя к нашим. Тогда получится, что мы будем подходить пускай к тому же экстремуму, но хотя бы с другой стороны, и это может дать совершенно иной результат.

Gradient

  • Пользователь
  • **
  • Сообщений: 88
  • +30/-0
    • Просмотр профиля
Цитировать
не уверен, что тут есть много локальных экстремумов примерно одного качества
Ну, я тоже не думаю, что ну нас много экстремумов одного качества. Мне видится, что есть экстремумы разного качества, но это не страшно - если скрестить две супермощные системы, узко заточенные под разные условия, есть шанс получить систему, которая довольно хороша в обоих случаях. Конечно, шанс этот невелик... Но мы же готовы к сложному поиску?
Вообще, по моим наблюдениям, у опытных профессионалов часто есть какой-то свой, особый способ мыслить, который очень эффективен в их области, а в других областях он... Бывает хорош, бывает откровенно неудачным, а часто выглядит как относительно безобидное чудачество. Вот эти профессионалы и есть локальные экстремумы =) И я говорю не о специальных знаниях, а о том, что, например, у математиков часто есть привычка формулировать предложения предельно чётким образом, а безопасники более параноидальны, чем средний человек. LW пытается сделать что-то вроде универсального интеллекта, который более-менее хорош одновременно везде, и который может заточиться под одну область без потери эффективности в других.
Цитировать
Надо начать заново с системы, которая может быть будет по всем параметрам хуже сегодняшней, но зато градиентный спуск от той точки, может быть приведёт к чему-то лучшему.
Да, мультистарт - хорошая штука. Если есть ресурсы, можно начинать с многих хороших точек одновременно, и смотреть для каждой, что можно улучшить.
Цитировать
Сейчас есть компьютеры, которые могут просимулировать если не весь процесс целиком, то какие-то части его, пользуясь упрощёнными моделями. Проблема же как раз в том, что если мы придумаем способ измерения рациональности, то он, я боюсь, определит точку, к которой будет сходиться наша модель.
Чтобы вести перебор моделей интеллекта на компьютере, нам нужен такой способ их записи, который потом можно перенести на человека. Ну, либо человек должен будет обучаться, наблюдая, как работает модель. Да, модель будет слишком подстраиваться под тесты, но мы можем сделать огромную обучающую выборку. И ещё огромную выборку тестов, с которой наш ИИ не знаком в процессе обучения. То есть учим на одних данных, тестируем на других. Если он хорошо прошёл тесты - значит, он не просто точно подстроился под обучающую выборку, а реально будет полезен и на других задачах.
Ну а насчёт задач... Можно просто сделать набор из большого числа задач - от повседневных до необычных и хитровывернутых. И оценивать ИИ не по тому, как он прошёл их в среднем, а, скажем, по 5% наихудших задач - так он станет более универсальным.
Это работа надолго, но она ощутимо проще, чем аналогичная работа с людьми.
Да, и по моему опыту, паттерны поведения ИИ не всегда удаётся перенести на человека - например, у меня есть ИИ, который обучается на маленькой стратегической игре. Он хорошо выигрывает, но... Его строи выглядят в стиле "это не может сработать", а потом срабатывает довольно неожиданным образом. В общем, сложновоспроизводимая стратегия. А заглянуть внуть неё околонереально - нейронная сеть же, чёрный ящик.
« Последнее редактирование: 20 Апрель 2018, 09:39 от Gradient »

anagor1

  • Постоялец
  • ***
  • Сообщений: 113
  • +46/-50
    • Просмотр профиля
Рациональность - безусловно, культурный феномен. Потому что она, как и прочие феномены, подгоняет цель под метод. И незачем разводить весь этот мучительный дискурс. Просто "практическая эффективность" - далеко не единственная цель человеческого бытия. А с годами - вообще неважная. "Вечная жизнь" христианства с соответствующими (иррациональными) методами, например, становится для многих перед смертью куда существеннее. Верующий смотрел, смотрит и будет смотреть на рационалиста, доказывающего ему что-то такое глубоко научное, со снисхождением и жалостью, как на человека, чего-то недопонявшего в жизни (но у которого еще есть шанс себя исправить - Бог простит ему даже это опасное заболевание рациональностью). 
Унивесального смысла жизни нет. Человек осмысливает свою жизнь сам. Потому что, как совершенно верно отметил ТС, смысл невозможно передать. Передать можно только форму, а содержанием человек наполняет ее всегда своим, собственным экзистенциальным опытом, иначе никак. Человек сам ищет в себе те цели, которые осмыслят его жизнь. Или находит -  и живет, или нет, и тогда - суицид или мучения, увы. И эти цели - вовсе не обязательно "практическая эффективность". Более или менее универсальная (потому неточная и уж конечно не рациональная) формулировка - "радость жизни", или "счастье".  Ибо если без радости - то зачем вообще все эти эффективности? Если ощущение собственной рациональности приносит человеку радость - ну и ОК. Если нет - на хрена она сдалась? Сидеть на берегу реки и ждать, пока проплывет труп врага - совсем не рациональное поведение. Однако, порой работает, радость приносит.:)

Хотя я сильно сомневаюсь, что сама по себе рациональность способна быть осмысливающим жизнь фактором. Триада Франкла: Долг, Любовь/Вера, Творчество - кажется мне более обоснованной в том числе и личным опытом.
Так что, имхо, ТС ломится в открытую дверь. "Новое общество с перпендикулярным мировоззрением" не надо строить с нуля -  их сколько угодно вокруг. Езжайте в Тибет, постарайтесь почувствовать, как и чем живут там люди... Даже само деление на рационалистов и иррационалистов - внутреннее для данной субкультуры, для культивируемой ею Картины мира - вот примерно как деление на верующих и неверующих в религиях. Мир гораздо богаче и в нем гораздо больше культурных феноменов. Причем катится он в сторону, противоположную рациональности.  В постиндустриальном обществе иррациональное консъюмеристское поведение будет приносить человеку куда больше радости, чем какая-то там "эффективность". Рационализм останется прибежищем 1-2% людей, увлеченных познанием и созиданием науки, и в этом видящих смысл своего бытия. Однако и для них осмысливающим фактором будет не рациональность мышления, а счастье творчества.
« Последнее редактирование: 25 Апрель 2019, 23:05 от anagor1 »