Форум LessWrong.ru

Главное => Общение => Тема начата: iren_doroshenko от 04 Июня 2017, 20:24

Название: Интерес
Отправлено: iren_doroshenko от 04 Июня 2017, 20:24
Что вас склонило к изучению рациональности, обучению критическому мышлению, и вообще желанию выяснить отношения между своей личностью и своим мозгом?
Как вы реагируете, если другим на подобное плевать?

Причем первый вопрос, он не начинается с ответа о целях. Полагаю, есть некий внутренний мотив: " Увидел такую штуку, как рациональность, км, когнитивистика, ГПиМРМ, мне стало интересно, потому как ...".
Что именно пробудило ваш интерес?

Меня хронически занимали исследования о функционировании мозга, сознания, результатах их работы, т.е. не это подвигло читать цепочки.  Я увлеклась слогом автора, а точнее, его способом рассуждать.
Изначально, перед знакомством с LW, прочла фанфик из-за отзыва о Гарри. Некая девушка писала, что он там такой... решительный, без вечно ноющих друзей, просто ах. Она его так страстно описала, что я не смогла устоять.
Как было у вас? Чем вас завлекло?
Название: Re: Интерес
Отправлено: Gradient от 19 Сентября 2017, 17:15
Я в нескольких местах встретил упоминание фанфика МРМ. Подумал, что надо бы прочитать - многие фанфики по ГП весьма хороши. А там автор крупным планом показал мне самое интересное.
Во многих книгах не детализируется, как главный герой применяет магию - но в МРМ это прописано очень глубоко. Я подобное ещё видел в аниме "Код Гиас" и "Тетрадь Смерти" - и всё. Меня раньше удивляло, зачем маги в ГП заморачиваются кучей разных боевых заклинаний, когда есть быстропроизносимое "Экспульсио" (которое можно кастовать в твёрдые предметы, чтобы создавать осколочное поле), и ещё более быстрый огнестрел. Или как устроена экономика Магбритании, если трансфигурация позволяет создавать предметы почти из ничего. Или почему маги не захватили хотя бы Землю. Или почему только Гермиона применяет машину времени хоть сколько-нибудь интересным способом.
И вот Юдковский показывает ситуацию на понятном мне языке. А попутно обстёбывает любителей "глубокой мудрости", с которыми я часто бывал не согласен, но не знал, как бы это получше выразить.

Я увлёкся размышлениями Юдковского. В статьях он указывал на вещи, которые меня прежде смутно беспокоили - и раскладывал их по полочкам, пользуясь техническим языком и избегая двусмысленностей. Мне очень понравилась конкретика, с которой он подошёл к вопросам, которые прежде считались философскими.

Наверное, стоит упомянуть, что до этого один из моих друзей много мне рассказывал про философию, мне понравились его рассказы, я вник в некоторые концепции из философии... Я теперь смотрю на эту философию в ретроспективе и вижу, что мне не нравилась её недостаточная чёткость. Взять хотя бы определение слова "истина". "Мысль называется истинной (или истиной), если она соответствует предмету" - так пишет Вики.
А после Юдковского (и параллельно пройденной большой практики по машинному обучению) я бы сказал так: "У нас есть модели, а есть реальность. Если первая модель точнее второй в прогнозировании наблюдений, то она в большей степени истинна. Под точностью подразумевается среднеквадратическое оклонение или f1-мера". В общем, мне удалось собрать в уме философскую концепцию, из которой логичным образом вытекали бы научный метод, бритва Оккама, принцип Юма, а так же существенная часть теории машинного обучения.

Кроме того, я давно интересуюсь трансгуманизмом. В рамках этого увлечения я давно пытался создать "скрипты" для мозга - например, хотелось сделать, чтобы у любого желающего в уме были калькулятор разрядов на десять, блокнот на пару гигов и рубильник "на 5 минут удвоить силу воли" - и всё это без сознательных усилий и без тренировок. Мне удалось достичь определённых успехов в этом деле, но я упёрся проблему: я не нашёл чёткой границы между "мной", то есть юзером скриптов, и "мозгом", то есть исполнительным устройством. Сейчас сама идея о существовании такой границы кажется глупой, но раньше я её пытался нащупать... Так что у меня было очень прагматичное желание понять, как работает сознание - у меня была куча идей, как превратить это знание в скрипты, которые сделают меня и других людей сильнее.

Когда другим на подобное плевать, я понимаю, что они не займут мою экологическую нишу =) Ну, это светлая сторона дела. Тёмная сторона в том, что эти люди принимают решения, которые касаются меня в том числе, и это опасно.  Поспорить с иррациональными людьми люблю, если они достаточно умны и не давят силой. Их вряд ли получится переубедить, но эти споры заставляют меня вглядываться в свои мыслительные алгоритмы - и это позволяет немножко побыть "Self-improving AI", то есть заменить старые алгоритмы рассуждения на новые - более точные, надёжные, эффективные.
Название: Re: Интерес
Отправлено: DEVOPS от 27 Марта 2018, 14:20
Меня интересует рациональность взаимодействия людей, оптимальные схемы. Насколько рационально (и следовательно логично оправдано) абстрактное ЗЛО и есть ли шанс у рационального объяснения и основания у абстрактного ДОБРО.
Я хочу быть добрым и хорошим (меня интересует насколько мое такое желание оправдано с рациональной точки зрения, не для того чтобы понять, должен ли я отказаться от такого желания, а для того, должен ли я отказаться от абсолютизации рационализма, если выяснится что быть добрым - нерационально)