Последние сообщения

Страницы: [1] 2 3 ... 10
1
Общение / Re: Безопасность жизнедеятельности
« Последний ответ от lostallhope Сегодня в 10:09 »
Komandos, я не смотрю телевизор.
2
Рациональность / Re: Две взгляда рациональности на эмоции
« Последний ответ от Gradient Сегодня в 09:20 »
Pony, я согласен, реакция стресса чаще адаптационная, чем нет. Но ситуация, когда она дезадаптирует, тоже вполне реальна.
Например, когда я сдавал экзамен по вождению, у меня за время экзамена плавно повышался адреналин. И к концу экзамена нога на сцеплении ощутимо дрожала, я уж не говорю о туннельном зрении, из-за которого пешеходов и знаки было видно намного хуже.
И у меня ещё всё относительно хорошо, некоторые мои знакомые от волнения тупят намного сильнее.
Или другая ситуация - я волнуюсь по какой-то вполне разумной и достойной причине, и из-за этого не могу уснуть. Я понимаю, что если я не посплю, то ситуация станет ещё хуже, например, я завалю важное собеседование, так как буду невыспавшимся.
Эмоции не детерминируют поведение, но сильно влияют на некоторые бессознательные процессы в организме - типа частоты сердцебиения, глубины дыхания, дрожи, качества пищеварения, сна и прочего. Если источник негативной эмоции можно устранить дракой/иным приложением грубой силы, то реакция и правда хорошая. Но в остальных случаях... "Смотрите на животных не как на оптимизаторов приспособленности, а как на исполнителей адаптаций", что-то типа того.
Осознание эмоции помогает отнестись к ней как к чему-то внешнему относительно меня (это не я боюсь, это мой рептильный мозг боится), что уже плюс, но от физиологических реакций не избавляет.

Прошу прощения, что так поздно отвечаю - как-то не заметил ваше сообщение =)
3
Рациональность / Re: Рациональность — культурный феномен?
« Последний ответ от Gradient Сегодня в 09:06 »
Цитировать
не уверен, что тут есть много локальных экстремумов примерно одного качества
Ну, я тоже не думаю, что ну нас много экстремумов одного качества. Мне видится, что есть экстремумы разного качества, но это не страшно - если скрестить две супермощные системы, узко заточенные под разные условия, есть шанс получить систему, которая довольно хороша в обоих случаях. Конечно, шанс этот невелик... Но мы же готовы к сложному поиску?
Вообще, по моим наблюдениям, у опытных профессионалов часто есть какой-то свой, особый способ мыслить, который очень эффективен в их области, а в других областях он... Бывает хорош, бывает откровенно неудачным, а часто выглядит как относительно безобидное чудачество. Вот эти профессионалы и есть локальные экстремумы =) И я говорю не о специальных знаниях, а о том, что, например, у математиков часто есть привычка формулировать предложения предельно чётким образом, а безопасники более параноидальны, чем средний человек. LW пытается сделать что-то вроде универсального интеллекта, который более-менее хорош одновременно везде, и который может заточиться под одну область без потери эффективности в других.
Цитировать
Надо начать заново с системы, которая может быть будет по всем параметрам хуже сегодняшней, но зато градиентный спуск от той точки, может быть приведёт к чему-то лучшему.
Да, мультистарт - хорошая штука. Если есть ресурсы, можно начинать с многих хороших точек одновременно, и смотреть для каждой, что можно улучшить.
Цитировать
Сейчас есть компьютеры, которые могут просимулировать если не весь процесс целиком, то какие-то части его, пользуясь упрощёнными моделями. Проблема же как раз в том, что если мы придумаем способ измерения рациональности, то он, я боюсь, определит точку, к которой будет сходиться наша модель.
Чтобы вести перебор моделей интеллекта на компьютере, нам нужен такой способ их записи, который потом можно перенести на человека. Ну, либо человек должен будет обучаться, наблюдая, как работает модель. Да, модель будет слишком подстраиваться под тесты, но мы можем сделать огромную обучающую выборку. И ещё огромную выборку тестов, с которой наш ИИ не знаком в процессе обучения. То есть учим на одних данных, тестируем на других. Если он хорошо прошёл тесты - значит, он не просто точно подстроился под обучающую выборку, а реально будет полезен и на других задачах.
Ну а насчёт задач... Можно просто сделать набор из большого числа задач - от повседневных до необычных и хитровывернутых. И оценивать ИИ не по тому, как он прошёл их в среднем, а, скажем, по 5% наихудших задач - так он станет более универсальным.
Это работа надолго, но она ощутимо проще, чем аналогичная работа с людьми.
Да, и по моему опыту, паттерны поведения ИИ не всегда удаётся перенести на человека - например, у меня есть ИИ, который обучается на маленькой стратегической игре. Он хорошо выигрывает, но... Его строи выглядят в стиле "это не может сработать", а потом срабатывает довольно неожиданным образом. В общем, сложновоспроизводимая стратегия. А заглянуть внуть неё околонереально - нейронная сеть же, чёрный ящик.
4
Рациональность / Re: Рациональность — культурный феномен?
« Последний ответ от kuuff 19 Апрель 2018, 20:09 »
Ну да, всё примерно так. Но я не уверен, что тут есть много локальных экстремумов примерно одного качества. Просто потому не уверен, что не могу себе представить ничего подобного.

Есть и возражение: маленькие изменения при поиске экстремумов позволяют найти локальный экстремум. Чтобы найти какой-то другой, надо совершать большие изменения. Надо начать заново с системы, которая может быть будет по всем параметрам хуже сегодняшней, но зато градиентный спуск от той точки, может быть приведёт к чему-то лучшему.

В любом случае, процесс получился бы довольно дорогой по времени. И, скорее всего, требовал бы большого числа людей, которые далеки от LW-рациональности в смысле действий, но близки к ней в смысле результатов. И в любом случае нам нужен какой-нибудь воспроизодимый способ измерить уровень рациональности.
С одной стороны да, а с другой не совсем. Сейчас есть компьютеры, которые могут просимулировать если не весь процесс целиком, то какие-то части его, пользуясь упрощёнными моделями. Проблема же как раз в том, что если мы придумаем способ измерения рациональности, то он, я боюсь, определит точку, к которой будет сходиться наша модель.
Единственное что мне приходит в голову -- это создать очень специальные условия, которые будут кардинально отличаться от наших, так чтобы наша рациональность там бы не работала, и дать нашей модели найти там какую-нибудь свою рациональность. А вот затем продолжая обучение, постепенно эти условия менять, сводя к нашим. Тогда получится, что мы будем подходить пускай к тому же экстремуму, но хотя бы с другой стороны, и это может дать совершенно иной результат.
5
Обсуждение книги / Re: Замечания о переводе
« Последний ответ от fil0sof 19 Апрель 2018, 12:30 »
Я сходу не нагуглю пруфов, но "for all I know" совершенно точно означает именно это. Я знаю это оттуда же, откуда знаю, что означает оборот "руки не доходят посмотреть" — просто языковая интуиция. А неплохой пруф уже был выше, кстати
6
Обсуждение книги / Re: Замечания о переводе
« Последний ответ от a_konst 19 Апрель 2018, 11:50 »
Оксфордский словарь, которым я обычно руководствуюсь, утверждает, что данный оборот подчёркивает ограниченность знания говорящего. Но откуда проистекает утверждение, что эта ограниченность именно на грани полного незнания?

На мой вкус, в этих примерах "ограниченность знания" именно "кто их знает", "мало ли", а совсем не "насколько я знаю", как оно сейчас в тексте на сайте.
В варианте Придиры эти места воспринимаются гораздо логичнее. Как можно предположить пост-фактум, после прочтения всей книги, никаких уроков высшей некромантии по понедельникам (и в любой другой деньнедели) в Хогвардсе нет, и уж профессору Верресу это знать точно неоткуда - он бы не сказал что-то по смыслу уровня "насколько я знаю" по информации агенства ОБС.
Про высказывание Гарри о Снейпе - формальной разницы в смысле фраз (на русском) нет, но вариант с "кто знает" выглядит гораздо лучше.
7
Рациональность / Re: Рациональность — культурный феномен?
« Последний ответ от Gradient 19 Апрель 2018, 10:29 »
Насколько я понял, Kuff подозревает, что те методы рациональности, что предлагает LW, не являются наилучшим возможным путём к целям, заявленным на LW (наилучшая практическая эффективность). Главное основание для такого предположения - это то, что методы рационального мышления комбинаторно сложные, и люди просто не в силах попробовать все возможные методы (то есть все последовательности действий) и проверить их на предмет того, хороши ли они как методы рационального мышления. То есть, грубо говоря, у нас есть 1000-мерное пространство, и мы исследовали какой-то небольшой гиперобъём, и самое лучшее, что мы там нашли по части рациональности, мы перенесли на LW. Но есть огромные неисследованные пространства. А ещё есть понимание, что наши теории мышления могут оказаться неполными, и из-за этого мы не провели поиск в какой-то ещё части нашего 1000-мерного пространства, где могут быть методы мышления получше. А генерить новые теории нам тяжело, так как мы находимся в социальной среде, "сужающей" наше мышление.
То есть теориям мы доверяем не вполне, а подход "только практика" требует чересчур большого перебора вариантов.

Эта ситуация похожа на оптимизационную задачу (она же - задача поиска максимума функции). Эта задача состоит из двух частей - в первой мы выбираем точки, а во второй мы рассчитываем функцию. Применительно в рациональности, в первой части мы пытаемся создать новый способ мышления, а во второй - смотрим, насколько эффективен его пользователь.
Так вот. У оптимизационной задачи нет общего решения, которое бы гарантированно приводило в глобальный максимум за вменяемое время. Есть куча методов, которые приводят в какой-то локальный максимум - градиентный спуск, эволюция и прочие. Можно найти несколько локальных максимумов. Но нельзя получить уверенность, что мы нашли самый-самый крутой максимум. Ну, кроме случаев, что мы знаем "исходный код" оптимизируемой функции - но реальность для нас "чёрный ящик", и у нас есть только её аппроксимации (они же - научные теории), а не "исходный код". Поэтому теория оптимизации ничего не предлагает по тому, как найти самую-самую классную рациональность.
Но предлагает, как найти рациональность "лучше нынешней". Для этого надо во-первых, вносить малые изменения в нынешнюю рациональность и смотреть, как изменятся результаты (это требует кучи дорогостоящих экспериментов). Во-вторых, искать людей, чьи действия сильно отличаются от того, что предлагает LW, но которые хорошо справляются с незнакомыми задачами и хорошо работают в условиях, вызывающих когнитивные искажения (в теории оптимизации это звучало бы "найти другие локальные максимумы, пусть даже они похуже нашего"). И у этих "альтернативщиков" пытаться скопировать стратегию, а затем улучшить её малыми изменениями.

Алгоритм типа Q-Learning подошёл бы к этой задаче ещё иначе. Он бы нашёл "альтернативщиков", ну или подготовил бы их сам. Затем составил бы из массива фактов теорию мышления - но, чтобы не быть догматичным, создал бы её с нуля, не зная наших постулатов. Теория была бы устроена так, что из неё бы следовало, куда надо копать, чтобы добиться большей эффективности. И у этой теории были бы типичные проблемы теорий - она была бы не совсем полна, и поэтому упускала бы какие-то выгодные ходы. Этот подход намного быстрее, чем подход оптимизационной теории.

В любом случае, процесс получился бы довольно дорогой по времени. И, скорее всего, требовал бы большого числа людей, которые далеки от LW-рациональности в смысле действий, но близки к ней в смысле результатов. И в любом случае нам нужен какой-нибудь воспроизодимый способ измерить уровень рациональности.

Я не пытаюсь запороть идею. Просто прикидываю, что нужно сделать, чтобы добиться цели "создать новую рациональность, лучше старой".
8
Общение / Re: Безопасность жизнедеятельности
« Последний ответ от Komandos 19 Апрель 2018, 08:34 »
Таким образом - мы снова приходим к некоторой грани возможной безопасности, если она есть.

То есть - ВСЕ разумные существа - вынуждены двигаться по жизни. Каждый - с какой-то своей индивидуальной скоростью. Если любое такое существо желает убрать из своей жизни Его Величество Случай - то есть только один вариант - притормозить и включить мозг.

Можно ли убрать его более-менее полностью? Рационально (с т.з. накопления капитала) ли пытаться? Вроде консенсус этой темы - что нет и нет.

Ужасно, по-моему.
Из множества зол выбирают меньшее. Все разумные существа вынуждены двигаться к своим целям самым безопасным для них способом или спрятаться в раковину,  как улитка, что медленно ползает по травке.
Случай убрать невозможно. Да и ничем это вам особо не поможет. Спекулировать на ваших страхах выгодно абсолютно всем.
Если по телевизору покажут вспышку эпидемии - разве вы не побежите покупать вакцины и не откажитесь от рискованных товаров, продуктов?
Если по телевизору покажут атаку террористов, разве вы не поддержите бомбардировки по ним?
Ньюанс в том, что данная информация может не соответствовать действительности. (искаженная, постановочная, фейковая) и вы в погоне за безопасностью, сами начнете пичкать себя абсолютно не нужной для здоровья химией и поддерживать эскалацию конфликта приближающего мир к ядерной катастрофе.
Прецедентов которые впоследствии признаны «досадной ошибкой» хватает.
Большая часть угроз в мире - от глупости и обмана. Становитесь мудрее. Научитесь отличать правду от лжи и вы избавитесь от множество не нужных угроз.
9
Обсуждение книги / Re: Обсуждение сайта hpmor.ru
« Последний ответ от kentaskis 19 Апрель 2018, 05:57 »
Возможно, это эффект консерватизма, но старый дизайн мне был намного больше по душе.
Согласен, старый был приятнее
10
Обсуждение книги / Re: Обсуждение сайта hpmor.ru
« Последний ответ от Д-503 19 Апрель 2018, 00:10 »
1. Не ясна проблема.
Ранее оглавление располагалось по центру страницы, как и на англоязычном сайте. Теперь же оно занимает боковую часть, как и в главах. Однако в таком смещении нет необходимости, поскольку на главной странице не так много текста.
Страницы: [1] 2 3 ... 10