31
Общение / Re: Мозг: эффективность "железа"
« : 21 Сентября 2018, 09:57 »
Полезное наблюдение, спасибо!
Просмотр сообщений
В этом разделе можно просмотреть все сообщения, сделанные этим пользователем.
32
Общение / Re: Мозг: эффективность "железа"
« : 18 Сентября 2018, 10:41 »
Для начала поблагодарю всех за советы =) Часть из этого я ещё не слышал.
Хотелось бы увеличить число дел (я про умственный труд в основном), выполненных за день, каким-то способом помимо улучшенной организации работы. Если бы можно было меньше спать, но сохранять эффективность - это было бы решением. Если бы можно было бодрствовать в 2 раза меньше, и за счёт этого работать в 3 раза быстрее - это тоже было бы решением.
Я понимаю, что работа мозга требует, чтобы проходили обменные процессы. Но... Допустим, я хочу стать мега-производительным - и не кратковременно, а на годы вперёд. Я готов перейти на спец-питание, вживлять себе импланты, использовать ноотропы. Медитировать, если нужно. Решения, требующие постоянного приложения силы воли - это нежелательные варианты, но варианты.
Я не пытаюсь найти "вечный двигатель" (хотя он тоже был бы решением). Скорее, ищу что-то, что будет усиливать мозг так же, как мышцы можно усилить стероидами плюс качалкой. Или экзоскелетом =)
Дело в том, что я не вижу, какие в работе мозга есть "узкие места". В работе процессора вижу - перегрев. Если избавиться от перегрева, процессор заработает намного быстрее.
Я вижу много советов, которые помогают чуть-чуть улучшить производительность мозга - то есть если один из этих советов выполнить 1000 раз, он не даст в 1000 раз лучший результат. Я правильно понимаю, что сейчас у неврологов не просто нет метода для сильного и безопасного ускорения, но нет даже понимания какого-то одного-двух узких мест, которые не дают постоянно быть сверх-эффективными?
Я недавно слышал гипотезу о том, что узкое место - это забивание микроканалов ионами. То если найти способ быстрее вытаскивать оттуда ионы - задача будет решена. Сам оценить гипотезу не в состоянии - образования не хватает
Цитировать
Gradient, а чего конкретно Вы хотите?
Увеличить производительность мозга, или увеличить время его работы с обычной эффективностью (то есть уменьшить время сна)?
Хотелось бы увеличить число дел (я про умственный труд в основном), выполненных за день, каким-то способом помимо улучшенной организации работы. Если бы можно было меньше спать, но сохранять эффективность - это было бы решением. Если бы можно было бодрствовать в 2 раза меньше, и за счёт этого работать в 3 раза быстрее - это тоже было бы решением.
Я понимаю, что работа мозга требует, чтобы проходили обменные процессы. Но... Допустим, я хочу стать мега-производительным - и не кратковременно, а на годы вперёд. Я готов перейти на спец-питание, вживлять себе импланты, использовать ноотропы. Медитировать, если нужно. Решения, требующие постоянного приложения силы воли - это нежелательные варианты, но варианты.
Я не пытаюсь найти "вечный двигатель" (хотя он тоже был бы решением). Скорее, ищу что-то, что будет усиливать мозг так же, как мышцы можно усилить стероидами плюс качалкой. Или экзоскелетом =)
Дело в том, что я не вижу, какие в работе мозга есть "узкие места". В работе процессора вижу - перегрев. Если избавиться от перегрева, процессор заработает намного быстрее.
Я вижу много советов, которые помогают чуть-чуть улучшить производительность мозга - то есть если один из этих советов выполнить 1000 раз, он не даст в 1000 раз лучший результат. Я правильно понимаю, что сейчас у неврологов не просто нет метода для сильного и безопасного ускорения, но нет даже понимания какого-то одного-двух узких мест, которые не дают постоянно быть сверх-эффективными?
Я недавно слышал гипотезу о том, что узкое место - это забивание микроканалов ионами. То если найти способ быстрее вытаскивать оттуда ионы - задача будет решена. Сам оценить гипотезу не в состоянии - образования не хватает
33
Общение / Re: Мозг: эффективность "железа"
« : 17 Сентября 2018, 10:21 »
Kroid, спасибо, полезная инфа. Я думал, этот хак позволяет сохранить интеллект в полной мере, и единственная его проблема - сложность реализации. А тут вот оно что выходит.
34
Общение / Re: Мозг: эффективность "железа"
« : 14 Сентября 2018, 16:34 »
Спасибо, полезная инфа!
Ок, а как насчёт более эффективного использования того времени бодрствования. что у нас есть? Положим, мне не хочется спать, но я и не чувствую себя бодрым. На сидение в контактике хватает, на изучение диффуров - нет.
То есть... Допустим. у меня в дне 8 часов бодствования, 7 часов сна и 9 часов "недостаточного бодрствования". Можно ли провести хитрый размен, из-за которого у меня будет больше часов полноценного бодрствования?
Очевидный вариант - больше спать. Прокатит ли? Если сна мало, то да.
Может, применять мягкие стимуляторы? А какие? Кофеин вроде как портит качество сна, то есть сидеть днём на кофе, а ночью отсыпаться сложновато.
У меня не настолько жёсткая ситуация. Я просто вижу, что у меня и других людей бывает ресурсное состояние (когда эффективно работаешь), а бывает не-ресурсное. Я думаю, какие есть причины у не-ресурсного состояния, кроме плохой дисциплины. И можно ли его как-то сократить
Ок, а как насчёт более эффективного использования того времени бодрствования. что у нас есть? Положим, мне не хочется спать, но я и не чувствую себя бодрым. На сидение в контактике хватает, на изучение диффуров - нет.
То есть... Допустим. у меня в дне 8 часов бодствования, 7 часов сна и 9 часов "недостаточного бодрствования". Можно ли провести хитрый размен, из-за которого у меня будет больше часов полноценного бодрствования?
Очевидный вариант - больше спать. Прокатит ли? Если сна мало, то да.
Может, применять мягкие стимуляторы? А какие? Кофеин вроде как портит качество сна, то есть сидеть днём на кофе, а ночью отсыпаться сложновато.
У меня не настолько жёсткая ситуация. Я просто вижу, что у меня и других людей бывает ресурсное состояние (когда эффективно работаешь), а бывает не-ресурсное. Я думаю, какие есть причины у не-ресурсного состояния, кроме плохой дисциплины. И можно ли его как-то сократить
35
Общение / Re: Мозг: эффективность "железа"
« : 14 Сентября 2018, 15:26 »Цитировать
Они лишаются жизни, в достаточно короткий срок после проявления этого симптома.Загуглил. Да, похоже, не зафиксировано случаев абсолютной бессонницы, которая бы не убивала.
Цитировать
"Нет, она физически повреждается при работе и её надо чинить."Ну формально да. Но когда я подтягиваюсь, в определённый момент мышцы просто "отказываются" меня поднимать. Меня останавливает не боль (как было бы от молочной кислоты) и не разрыв мышц. Какая доля волокон должна лопнуть, чтобы моя сила просела на 20%? За сколько времени я их отращу? Сила восстанавивается за несколько часов.
*или у меня нервные волокна временно отключаются?!*
Но это, думаю, оффтоп...
Цитировать
"лень - нужна для того чтобы глупый хозяин не занимался всякой ненужной фигнёй, которая ему показалась нужной"И лень выглядит чем-то типа механизма безопасности, а не чем-то типа фундаментального ограничения. То есть это что-то, что можно взломать.
Посему возникает два вопроса.
1) А что будет, если мы "взломаем" лень? Случится нервное истощение? В чём оно заключается?
2) Какие есть способы "взломать" лень? Я могу назвать состояние потока, вдохновляющую речь политрука и некоторые химические вещества. Можно ли отключить лень до уровня включения энтузиазма, не применяя штук вроде мета и кокаина? Кофеин помогает, но к нему достаточно быстро возникает устойчивость.
36
Общение / Мозг: эффективность "железа"
« : 14 Сентября 2018, 11:52 »
Почему люди не могут постоянно мыслить максимально эффективно и творчески?
Я понимаю, это выглядит очевидным - все органы требуют отдыха. Но я понимаю, почему мышцы требуют отдыха - в них от долгого использования заканчивается энергоноситель, а доставить его быстро нельзя: ограниченная ширина сосудов. И молочная кислота накапливается - а убрать её быстро нельзя. То есть если мы найдём способ быстро подводить к мышце энергоноситель (гликоген?) и быстро убирать молочную кислоту (или каким-то способом делать её безвредной), то можно наращивать выносливость мышцы во много раз, пока она не начнёт рваться.
Кроме того, я замечаю, что мозг куда легче сохраняет эффективность, если задача интересная. И ещё что нейроны активно работают и в состоянии отдыха, и во сне (судя по ЭЭГ). А ещё существуют люди, которые из-за редкой болезни никогда не спят - и я не слышал, чтобы они лишались какой-то из частей интеллекта.
Это наводит на мысль - а правда ли мозг нуждается в отдыхе? Ну, в смысле, я понимаю, что если не отдыхать, то станешь неэффективным. Но мы бы это наблюдали не только если бы мозг нуждался в отдыхе так же, как мышцы. А ещё и если бы он имел искусственный ограничитель, который установился древним людям, чтобы они не ходили по ночам и не нарывались на хищников, или чтобы они не расходовали глюкозу чересчур активно.
Если смотреть на процессор, то мы видим: его можно разогнать раза в 2, и тогда он станет сильнее греться и быстрее изнашиваться. А если разогнать его в 10 (условно) раз, то он будет греться так, что через несколько минут работы выйдет из строя. Но если поместить процессор в жидкий азот, то этих проблем не будет. А вот в 1000 раз его разогнать не выйдет даже с жидким азотом: не будут успевать проходить переходные процессы.
А ещё у некоторых программ произодительность в 10 раз ниже, чем физически возможно, потому что разработчик встроил это ограничение искусственно, чтобы снимать его тем, кто купит лицензионную версию - это тоже вариант ограничения, которая не имеет глубокого фундаментального физического смысла.
Я показал с разных сторон, как разные устройства могут быть ограничены в производительности. А что ограничивает мозг от постоянной работы в режиме "мне хорошо, я всё могу, сейчас сделаю всю работу"? И можно ли принудительно переводить его в такой режим, не причиняя большого вреда здоровью?
Про состояние потока слышал, Чиксентмихайи читал. Подход хороший, но... Глядя на него, я задаюсь вопросом, а нельзя ли сделать большую красную кнопку "включить состояние потока на следующие 8 часов", и после этого не прилагать усилий к его поддержанию?
Я понимаю, это выглядит очевидным - все органы требуют отдыха. Но я понимаю, почему мышцы требуют отдыха - в них от долгого использования заканчивается энергоноситель, а доставить его быстро нельзя: ограниченная ширина сосудов. И молочная кислота накапливается - а убрать её быстро нельзя. То есть если мы найдём способ быстро подводить к мышце энергоноситель (гликоген?) и быстро убирать молочную кислоту (или каким-то способом делать её безвредной), то можно наращивать выносливость мышцы во много раз, пока она не начнёт рваться.
Кроме того, я замечаю, что мозг куда легче сохраняет эффективность, если задача интересная. И ещё что нейроны активно работают и в состоянии отдыха, и во сне (судя по ЭЭГ). А ещё существуют люди, которые из-за редкой болезни никогда не спят - и я не слышал, чтобы они лишались какой-то из частей интеллекта.
Это наводит на мысль - а правда ли мозг нуждается в отдыхе? Ну, в смысле, я понимаю, что если не отдыхать, то станешь неэффективным. Но мы бы это наблюдали не только если бы мозг нуждался в отдыхе так же, как мышцы. А ещё и если бы он имел искусственный ограничитель, который установился древним людям, чтобы они не ходили по ночам и не нарывались на хищников, или чтобы они не расходовали глюкозу чересчур активно.
Если смотреть на процессор, то мы видим: его можно разогнать раза в 2, и тогда он станет сильнее греться и быстрее изнашиваться. А если разогнать его в 10 (условно) раз, то он будет греться так, что через несколько минут работы выйдет из строя. Но если поместить процессор в жидкий азот, то этих проблем не будет. А вот в 1000 раз его разогнать не выйдет даже с жидким азотом: не будут успевать проходить переходные процессы.
А ещё у некоторых программ произодительность в 10 раз ниже, чем физически возможно, потому что разработчик встроил это ограничение искусственно, чтобы снимать его тем, кто купит лицензионную версию - это тоже вариант ограничения, которая не имеет глубокого фундаментального физического смысла.
Я показал с разных сторон, как разные устройства могут быть ограничены в производительности. А что ограничивает мозг от постоянной работы в режиме "мне хорошо, я всё могу, сейчас сделаю всю работу"? И можно ли принудительно переводить его в такой режим, не причиняя большого вреда здоровью?
Про состояние потока слышал, Чиксентмихайи читал. Подход хороший, но... Глядя на него, я задаюсь вопросом, а нельзя ли сделать большую красную кнопку "включить состояние потока на следующие 8 часов", и после этого не прилагать усилий к его поддержанию?
37
Общение / Re: "Будь готов" или "Не думай о плохом"?
« : 28 Июня 2018, 16:29 »
Я когда-то отвечал на аналогичный вопрос в соседней ветке) Даже формулу привёл, как отыскать границу. Эту формулу применяют в страховых компаниях, в информационной безопасности, в армии...
"А что, если мой самолёт упадёт? Так, стоп. В авиакатастрофах гибнет 800 человек в год. В ДТП 1.2 миллиона. Представляем себе круговую диаграмму, где огромный пакмэн - это погибшие в машинах, а маленькая чёрточка - это погибшие в самолётах. Представляем себе сотни тысяч людей, которые летают и выживают, и 800, которые погибают. Хм, мне лучше бы беспокоиться о том, чтобы пореже ездить в маршрутке..."
Думаю, тут надо рассазать про теорию принятия решений и то, как ей пользуются в армии.Такой подход, как я описал, по умолчанию плохо стыкуется с эмоциями - эмоции не очень понимают цифры. На эту тему Юдковский рекомендовал дрессировать свои эмоции, чтобы они лучше соответствовали цифрам. Типа такого:
У нас есть зенитный ракетный комплес. Этот ЗРК может обнаружить и сбить цель. Вот только... Он постоянно много чего видит. Вспышка на радаре - это цель? А если вспышка одну секунду двигалась со скоростью самолёта - это цель?
У ЗРК есть система распознавания, которая определяет, насколько, по совокупности признаков, похоже, что нас атакуют. У этой системы есть очень важная величина - порог срабатывания. Если сделать порог повыше, то увеличивается шанс пропустить самолёт, и уменьшается шанс выстрелить в пустоту. Если сделать порог пониже, то наоборот.
Так вот. У нас на ЗРК... Ну пусть 50 ракет. Пусть ракета сбивает самолёт почти гарантированно. А сзади вас стоит атомная электростанция, уничтожение которой - это гарантированный Чернобыль.
Если вы хотите максимально защитить АЭС, как надо настраивать порог срабатывания? Так как сенсоры неидеальны, есть лишь один способ гарантированно распознать любого врага - занизить порог срабатывания до нуля. Но тогда мы сразу же расстреляем все ракеты на голубей.
Видимо, надо всё-таки выбрать какой-то ненулевой порог, который гарантирует, что ракеты доживут до реального авиаудара.
Приведу даже график:
https://ru.wikipedia.org/wiki/ROC-%D0%BA%D1%80%D0%B8%D0%B2%D0%B0%D1%8F#/media/File:Roccurves.png
Эта штука называется "ROC-кривая". Каждая точка этой кривой - это конкретное значение порога срабатывания нашего ЗРК. Горизонтальная координата этой точки - вероятность пальнуть ракету в пустоту (false positive). Вертикальная - вероятность выстрелить, когда враг уже здесь (true positive). Верхняя правая точка - это максимально низкий порог срабатывания, то есть ситуация, когда мы стараемся свести шансы успешного авиаудара к нулю и стреляем во всё подряд.
По факту в ЗРК порог подбирают таким образом, чтобы примерно выполнянлось соотношение:
вероятность_авиаудара*вероятность_ложного_необнаружения*ущерб_от_успешного_авиаудара=(1-вероятность_авиаудара)*вероятность_ложного_обнаружения*цена_одного_выстрела
Вам понятно, как мой пространный рассказ относится к делу? =)
Разумеется, приведённая формула не работает для бесконечных величин ценностей - но можно условно принять ценность своей жизни за единицу, а ценность различных мер безопасности выражать в долях от своей жизни, то есть подсчитать, сколько раз надо применить данную меру безопасности, чтобы она вас угробила/истратила всё время жизни/истратила все деньги, которые вы хотели потратить на бессмертие.
"А что, если мой самолёт упадёт? Так, стоп. В авиакатастрофах гибнет 800 человек в год. В ДТП 1.2 миллиона. Представляем себе круговую диаграмму, где огромный пакмэн - это погибшие в машинах, а маленькая чёрточка - это погибшие в самолётах. Представляем себе сотни тысяч людей, которые летают и выживают, и 800, которые погибают. Хм, мне лучше бы беспокоиться о том, чтобы пореже ездить в маршрутке..."
38
Рациональность / Re: Две взгляда рациональности на эмоции
« : 20 Апреля 2018, 09:20 »
Pony, я согласен, реакция стресса чаще адаптационная, чем нет. Но ситуация, когда она дезадаптирует, тоже вполне реальна.
Например, когда я сдавал экзамен по вождению, у меня за время экзамена плавно повышался адреналин. И к концу экзамена нога на сцеплении ощутимо дрожала, я уж не говорю о туннельном зрении, из-за которого пешеходов и знаки было видно намного хуже.
И у меня ещё всё относительно хорошо, некоторые мои знакомые от волнения тупят намного сильнее.
Или другая ситуация - я волнуюсь по какой-то вполне разумной и достойной причине, и из-за этого не могу уснуть. Я понимаю, что если я не посплю, то ситуация станет ещё хуже, например, я завалю важное собеседование, так как буду невыспавшимся.
Эмоции не детерминируют поведение, но сильно влияют на некоторые бессознательные процессы в организме - типа частоты сердцебиения, глубины дыхания, дрожи, качества пищеварения, сна и прочего. Если источник негативной эмоции можно устранить дракой/иным приложением грубой силы, то реакция и правда хорошая. Но в остальных случаях... "Смотрите на животных не как на оптимизаторов приспособленности, а как на исполнителей адаптаций", что-то типа того.
Осознание эмоции помогает отнестись к ней как к чему-то внешнему относительно меня (это не я боюсь, это мой рептильный мозг боится), что уже плюс, но от физиологических реакций не избавляет.
Прошу прощения, что так поздно отвечаю - как-то не заметил ваше сообщение =)
Например, когда я сдавал экзамен по вождению, у меня за время экзамена плавно повышался адреналин. И к концу экзамена нога на сцеплении ощутимо дрожала, я уж не говорю о туннельном зрении, из-за которого пешеходов и знаки было видно намного хуже.
И у меня ещё всё относительно хорошо, некоторые мои знакомые от волнения тупят намного сильнее.
Или другая ситуация - я волнуюсь по какой-то вполне разумной и достойной причине, и из-за этого не могу уснуть. Я понимаю, что если я не посплю, то ситуация станет ещё хуже, например, я завалю важное собеседование, так как буду невыспавшимся.
Эмоции не детерминируют поведение, но сильно влияют на некоторые бессознательные процессы в организме - типа частоты сердцебиения, глубины дыхания, дрожи, качества пищеварения, сна и прочего. Если источник негативной эмоции можно устранить дракой/иным приложением грубой силы, то реакция и правда хорошая. Но в остальных случаях... "Смотрите на животных не как на оптимизаторов приспособленности, а как на исполнителей адаптаций", что-то типа того.
Осознание эмоции помогает отнестись к ней как к чему-то внешнему относительно меня (это не я боюсь, это мой рептильный мозг боится), что уже плюс, но от физиологических реакций не избавляет.
Прошу прощения, что так поздно отвечаю - как-то не заметил ваше сообщение =)
39
Рациональность / Re: Рациональность — культурный феномен?
« : 20 Апреля 2018, 09:06 »Цитировать
не уверен, что тут есть много локальных экстремумов примерно одного качестваНу, я тоже не думаю, что ну нас много экстремумов одного качества. Мне видится, что есть экстремумы разного качества, но это не страшно - если скрестить две супермощные системы, узко заточенные под разные условия, есть шанс получить систему, которая довольно хороша в обоих случаях. Конечно, шанс этот невелик... Но мы же готовы к сложному поиску?
Вообще, по моим наблюдениям, у опытных профессионалов часто есть какой-то свой, особый способ мыслить, который очень эффективен в их области, а в других областях он... Бывает хорош, бывает откровенно неудачным, а часто выглядит как относительно безобидное чудачество. Вот эти профессионалы и есть локальные экстремумы =) И я говорю не о специальных знаниях, а о том, что, например, у математиков часто есть привычка формулировать предложения предельно чётким образом, а безопасники более параноидальны, чем средний человек. LW пытается сделать что-то вроде универсального интеллекта, который более-менее хорош одновременно везде, и который может заточиться под одну область без потери эффективности в других.
Цитировать
Надо начать заново с системы, которая может быть будет по всем параметрам хуже сегодняшней, но зато градиентный спуск от той точки, может быть приведёт к чему-то лучшему.Да, мультистарт - хорошая штука. Если есть ресурсы, можно начинать с многих хороших точек одновременно, и смотреть для каждой, что можно улучшить.
Цитировать
Сейчас есть компьютеры, которые могут просимулировать если не весь процесс целиком, то какие-то части его, пользуясь упрощёнными моделями. Проблема же как раз в том, что если мы придумаем способ измерения рациональности, то он, я боюсь, определит точку, к которой будет сходиться наша модель.Чтобы вести перебор моделей интеллекта на компьютере, нам нужен такой способ их записи, который потом можно перенести на человека. Ну, либо человек должен будет обучаться, наблюдая, как работает модель. Да, модель будет слишком подстраиваться под тесты, но мы можем сделать огромную обучающую выборку. И ещё огромную выборку тестов, с которой наш ИИ не знаком в процессе обучения. То есть учим на одних данных, тестируем на других. Если он хорошо прошёл тесты - значит, он не просто точно подстроился под обучающую выборку, а реально будет полезен и на других задачах.
Ну а насчёт задач... Можно просто сделать набор из большого числа задач - от повседневных до необычных и хитровывернутых. И оценивать ИИ не по тому, как он прошёл их в среднем, а, скажем, по 5% наихудших задач - так он станет более универсальным.
Это работа надолго, но она ощутимо проще, чем аналогичная работа с людьми.
Да, и по моему опыту, паттерны поведения ИИ не всегда удаётся перенести на человека - например, у меня есть ИИ, который обучается на маленькой стратегической игре. Он хорошо выигрывает, но... Его строи выглядят в стиле "это не может сработать", а потом срабатывает довольно неожиданным образом. В общем, сложновоспроизводимая стратегия. А заглянуть внуть неё околонереально - нейронная сеть же, чёрный ящик.
40
Рациональность / Re: Рациональность — культурный феномен?
« : 19 Апреля 2018, 10:29 »
Насколько я понял, Kuff подозревает, что те методы рациональности, что предлагает LW, не являются наилучшим возможным путём к целям, заявленным на LW (наилучшая практическая эффективность). Главное основание для такого предположения - это то, что методы рационального мышления комбинаторно сложные, и люди просто не в силах попробовать все возможные методы (то есть все последовательности действий) и проверить их на предмет того, хороши ли они как методы рационального мышления. То есть, грубо говоря, у нас есть 1000-мерное пространство, и мы исследовали какой-то небольшой гиперобъём, и самое лучшее, что мы там нашли по части рациональности, мы перенесли на LW. Но есть огромные неисследованные пространства. А ещё есть понимание, что наши теории мышления могут оказаться неполными, и из-за этого мы не провели поиск в какой-то ещё части нашего 1000-мерного пространства, где могут быть методы мышления получше. А генерить новые теории нам тяжело, так как мы находимся в социальной среде, "сужающей" наше мышление.
То есть теориям мы доверяем не вполне, а подход "только практика" требует чересчур большого перебора вариантов.
Эта ситуация похожа на оптимизационную задачу (она же - задача поиска максимума функции). Эта задача состоит из двух частей - в первой мы выбираем точки, а во второй мы рассчитываем функцию. Применительно в рациональности, в первой части мы пытаемся создать новый способ мышления, а во второй - смотрим, насколько эффективен его пользователь.
Так вот. У оптимизационной задачи нет общего решения, которое бы гарантированно приводило в глобальный максимум за вменяемое время. Есть куча методов, которые приводят в какой-то локальный максимум - градиентный спуск, эволюция и прочие. Можно найти несколько локальных максимумов. Но нельзя получить уверенность, что мы нашли самый-самый крутой максимум. Ну, кроме случаев, что мы знаем "исходный код" оптимизируемой функции - но реальность для нас "чёрный ящик", и у нас есть только её аппроксимации (они же - научные теории), а не "исходный код". Поэтому теория оптимизации ничего не предлагает по тому, как найти самую-самую классную рациональность.
Но предлагает, как найти рациональность "лучше нынешней". Для этого надо во-первых, вносить малые изменения в нынешнюю рациональность и смотреть, как изменятся результаты (это требует кучи дорогостоящих экспериментов). Во-вторых, искать людей, чьи действия сильно отличаются от того, что предлагает LW, но которые хорошо справляются с незнакомыми задачами и хорошо работают в условиях, вызывающих когнитивные искажения (в теории оптимизации это звучало бы "найти другие локальные максимумы, пусть даже они похуже нашего"). И у этих "альтернативщиков" пытаться скопировать стратегию, а затем улучшить её малыми изменениями.
Алгоритм типа Q-Learning подошёл бы к этой задаче ещё иначе. Он бы нашёл "альтернативщиков", ну или подготовил бы их сам. Затем составил бы из массива фактов теорию мышления - но, чтобы не быть догматичным, создал бы её с нуля, не зная наших постулатов. Теория была бы устроена так, что из неё бы следовало, куда надо копать, чтобы добиться большей эффективности. И у этой теории были бы типичные проблемы теорий - она была бы не совсем полна, и поэтому упускала бы какие-то выгодные ходы. Этот подход намного быстрее, чем подход оптимизационной теории.
В любом случае, процесс получился бы довольно дорогой по времени. И, скорее всего, требовал бы большого числа людей, которые далеки от LW-рациональности в смысле действий, но близки к ней в смысле результатов. И в любом случае нам нужен какой-нибудь воспроизодимый способ измерить уровень рациональности.
Я не пытаюсь запороть идею. Просто прикидываю, что нужно сделать, чтобы добиться цели "создать новую рациональность, лучше старой".
То есть теориям мы доверяем не вполне, а подход "только практика" требует чересчур большого перебора вариантов.
Эта ситуация похожа на оптимизационную задачу (она же - задача поиска максимума функции). Эта задача состоит из двух частей - в первой мы выбираем точки, а во второй мы рассчитываем функцию. Применительно в рациональности, в первой части мы пытаемся создать новый способ мышления, а во второй - смотрим, насколько эффективен его пользователь.
Так вот. У оптимизационной задачи нет общего решения, которое бы гарантированно приводило в глобальный максимум за вменяемое время. Есть куча методов, которые приводят в какой-то локальный максимум - градиентный спуск, эволюция и прочие. Можно найти несколько локальных максимумов. Но нельзя получить уверенность, что мы нашли самый-самый крутой максимум. Ну, кроме случаев, что мы знаем "исходный код" оптимизируемой функции - но реальность для нас "чёрный ящик", и у нас есть только её аппроксимации (они же - научные теории), а не "исходный код". Поэтому теория оптимизации ничего не предлагает по тому, как найти самую-самую классную рациональность.
Но предлагает, как найти рациональность "лучше нынешней". Для этого надо во-первых, вносить малые изменения в нынешнюю рациональность и смотреть, как изменятся результаты (это требует кучи дорогостоящих экспериментов). Во-вторых, искать людей, чьи действия сильно отличаются от того, что предлагает LW, но которые хорошо справляются с незнакомыми задачами и хорошо работают в условиях, вызывающих когнитивные искажения (в теории оптимизации это звучало бы "найти другие локальные максимумы, пусть даже они похуже нашего"). И у этих "альтернативщиков" пытаться скопировать стратегию, а затем улучшить её малыми изменениями.
Алгоритм типа Q-Learning подошёл бы к этой задаче ещё иначе. Он бы нашёл "альтернативщиков", ну или подготовил бы их сам. Затем составил бы из массива фактов теорию мышления - но, чтобы не быть догматичным, создал бы её с нуля, не зная наших постулатов. Теория была бы устроена так, что из неё бы следовало, куда надо копать, чтобы добиться большей эффективности. И у этой теории были бы типичные проблемы теорий - она была бы не совсем полна, и поэтому упускала бы какие-то выгодные ходы. Этот подход намного быстрее, чем подход оптимизационной теории.
В любом случае, процесс получился бы довольно дорогой по времени. И, скорее всего, требовал бы большого числа людей, которые далеки от LW-рациональности в смысле действий, но близки к ней в смысле результатов. И в любом случае нам нужен какой-нибудь воспроизодимый способ измерить уровень рациональности.
Я не пытаюсь запороть идею. Просто прикидываю, что нужно сделать, чтобы добиться цели "создать новую рациональность, лучше старой".
41
Общение / Re: Безопасность жизнедеятельности
« : 26 Марта 2018, 18:39 »
Теория принятия решений предлагает действовать... Почти так, но чуть иначе.
Она предлагает проставлять каждой опасности некоторую величину: r=d*p, где d - это ущерб от опасности, а p - это её вероятность. r - это что-то типа среднего урона от данной угрозы по всем мирам - где она свершилась и где нет.
Теория принятия решений предлагает уменьшать опасность до тех пор, пока r от опасности превышает r от мер предосторожности.
Типа такого: я боюсь, что меня обворуют на 10000 рублей. Я оцениваю вероятность этого события в 1%. Допустим, я могу нанять надёжного охранника этим деньгам за 200 рублей. Проверяем полезность: 10000*0.01=100<200 - средний ожидаемый урон от кражи меньше, чем урон от найма охранника. А вот если бы охранник предлагал свои услуги за 80 рублей, сделка была бы выгодна.
Такой подход можно хакнуть... А может, и нельзя... Можно подойти к человеку и сказать: "Я могу погасить Солнце, но если ты мне заплатишь 10 рублей, то не сделаю этого". Очень маловероятное событие с очень большим уроном в таком случае перевесит гарантированные маленькие потери.
Это граница применимости подхода - он даёт хорошие результаты только если мы не работаем со сверхневероятными сверхважными событиями.
Она предлагает проставлять каждой опасности некоторую величину: r=d*p, где d - это ущерб от опасности, а p - это её вероятность. r - это что-то типа среднего урона от данной угрозы по всем мирам - где она свершилась и где нет.
Теория принятия решений предлагает уменьшать опасность до тех пор, пока r от опасности превышает r от мер предосторожности.
Типа такого: я боюсь, что меня обворуют на 10000 рублей. Я оцениваю вероятность этого события в 1%. Допустим, я могу нанять надёжного охранника этим деньгам за 200 рублей. Проверяем полезность: 10000*0.01=100<200 - средний ожидаемый урон от кражи меньше, чем урон от найма охранника. А вот если бы охранник предлагал свои услуги за 80 рублей, сделка была бы выгодна.
Такой подход можно хакнуть... А может, и нельзя... Можно подойти к человеку и сказать: "Я могу погасить Солнце, но если ты мне заплатишь 10 рублей, то не сделаю этого". Очень маловероятное событие с очень большим уроном в таком случае перевесит гарантированные маленькие потери.
Это граница применимости подхода - он даёт хорошие результаты только если мы не работаем со сверхневероятными сверхважными событиями.
42
Общение / Re: Безопасность жизнедеятельности
« : 14 Марта 2018, 15:12 »По-моему эта тема слишком запутанной становится. Давайте ещё про термин "информационно-теоретическая смерть" вспомним, и о том, что среди умирающих сейчас людей/живых существ не ясно, какой процент умирает "окончательно"?
А что запутанного? Я просто отметил, что защитить большое число существ, которые сложным образом зависят друг от друга и требуют разной среды обитания, будет тяжелее, чем защитить только людей, которые довольно похожи и неплохо изучены. Я думал больше не о собаках, а о... Бабочках-однодневках, например. Или об осах-наездниках. Или о хищных птицах, которые живут охотой.
Если мы заморозим одну собаку, то ничего особенного не произойдёт. А если мы заморозим всех гусениц, которые сейчас на грани смерти? Надо думать, как сделать, чтобы это не порушило пищевые цепочки. Надо делать искусственный корм для всех, кто раньше ел этих гусениц. Надо как-то доставлять им этот корм. Это только самые очевидные последствия, и их нужно будет как-то разруливать. Поэтому задача сильно сложнее, чем с людьми
43
Общение / Re: Безопасность жизнедеятельности
« : 14 Марта 2018, 13:13 »
lostallhope, хорошо, что вы... Теперь формулируете цели более физически реализуемым образом =)
Насчёт повышенной безопасности, как в Японии - это реализуемо. Если бы я поставил перед собой такую задачу, я бы отталкивался от партий имморталистов. Нашёл бы страну, где такая партия сильна, постарался бы помочь ей прийти к власти. Постарался бы помочь им не растерять кредит доверия людей, а преумножить его. А дальше уже недалеко и до такого варианта будущего, как вы описываете.
В данной ситуации один человек мало что может. Но если это умный и целеустремлённый человек, то он может чуть больше.
Вы спрашиваете о смысле жизни в условиях, когда люди живут так тяжело и ненадёжно. Если для вас это важно, вы могли бы постараться помочь им - это настолько сложно, что тянет на смысл. Ваши эмоции могут быть устроены иначе, чем мои, и вас может не вдохновить такой проект... Я бы параллельно с социальной работой (спонсирование партии, пропаганда, разведка и прочее) ещё плотно занялся бы усилением себя - постарался бы стать как можно богаче, чтобы лучше спонсировать партию, как можно лучше в добыче информации, чтобы качественнее контролировать расход средств, прокачал бы навыки ведения расследований, чтобы вычищать из партии растратчиков. Действовал бы примерно в этом направлении.
Если же расширить задачу на защиту всех существ, имеющих мозг... Это долго, очень долго. Придётся придумать, как бороться с перенаселением среди животных. Придумать, где разместить животных, чтобы они не умирали. Я плохо себе представляю, как будет выглядеть мир, в котором неуязвимы все животные от червя и выше. Даже если защитить всех птиц и млекопитающих - это уже изменит мир плохопросчитываемым образом.
В любом случае, я бы для начала задался вопросом "где я возьму такие ресурсы, чтобы защитить разумных существ"? Какая сила вообще их может защитить? Самые многообещающие направления, на мой взгляд - это политика с медициной (если мы хотим отработать программу-минимум, то есть "только люди"), либо искусственный интеллект с наноботами (если целимся в программу-максимум). Ну и даже программа-минимум ощутимо изменит мир, надо быть готовым к неожиданностям.
Насчёт повышенной безопасности, как в Японии - это реализуемо. Если бы я поставил перед собой такую задачу, я бы отталкивался от партий имморталистов. Нашёл бы страну, где такая партия сильна, постарался бы помочь ей прийти к власти. Постарался бы помочь им не растерять кредит доверия людей, а преумножить его. А дальше уже недалеко и до такого варианта будущего, как вы описываете.
В данной ситуации один человек мало что может. Но если это умный и целеустремлённый человек, то он может чуть больше.
Вы спрашиваете о смысле жизни в условиях, когда люди живут так тяжело и ненадёжно. Если для вас это важно, вы могли бы постараться помочь им - это настолько сложно, что тянет на смысл. Ваши эмоции могут быть устроены иначе, чем мои, и вас может не вдохновить такой проект... Я бы параллельно с социальной работой (спонсирование партии, пропаганда, разведка и прочее) ещё плотно занялся бы усилением себя - постарался бы стать как можно богаче, чтобы лучше спонсировать партию, как можно лучше в добыче информации, чтобы качественнее контролировать расход средств, прокачал бы навыки ведения расследований, чтобы вычищать из партии растратчиков. Действовал бы примерно в этом направлении.
Если же расширить задачу на защиту всех существ, имеющих мозг... Это долго, очень долго. Придётся придумать, как бороться с перенаселением среди животных. Придумать, где разместить животных, чтобы они не умирали. Я плохо себе представляю, как будет выглядеть мир, в котором неуязвимы все животные от червя и выше. Даже если защитить всех птиц и млекопитающих - это уже изменит мир плохопросчитываемым образом.
В любом случае, я бы для начала задался вопросом "где я возьму такие ресурсы, чтобы защитить разумных существ"? Какая сила вообще их может защитить? Самые многообещающие направления, на мой взгляд - это политика с медициной (если мы хотим отработать программу-минимум, то есть "только люди"), либо искусственный интеллект с наноботами (если целимся в программу-максимум). Ну и даже программа-минимум ощутимо изменит мир, надо быть готовым к неожиданностям.
44
Общение / Re: Безопасность жизнедеятельности
« : 12 Марта 2018, 11:56 »
lostallhope, ваше стремление к безопасности и справедливости - это очень хорошее свойство. Большинство людей предпочитают не думать об угрозах, от которых слишком сложно защититься.
Но стремление к абсолютной определённости... Я могу понять ваши чувства, но умом вы понимаете разницу между "я могу убиться с вероятностью 0.01" и "я могу убиться с вероятностью 0.3"? Понимаете, что человек может выдержать намного больше событий 1-ого типа, чем событий 2-го типа?
Я бы предложил вам поиграть в какие-нибудь игры с элементом рандома - на ум приходят "Цитадели", "Эпичные схватки боевых магов", "Ужас Аркхэма", покер (хотя там рандом не так очевидно обсчитывается). Не уверен, что вам это подойдёт, но по-моему, эти игры учат чувствовать вероятность. Учат тому, что если шанс критической неудачи - 1%, то это "фигня, прорвёмся", а если 20%, то это "хм, а стоит ли мне искушать судьбу?" Они учат конвертировать вероятности в эмоции таким образом, чтобы малая вероятность катастрофы не вызывала ощущения ужаса.
А могу я узнать, какую именно нормальную жизнь вы хотите дать всем? Если бы у вас было много ресурсов, но вы были бы ограничены законами физики, то есть никаких 100% гарантий бы не было - что бы вы улучшили в первую очередь? Скажем так, каков ваш "минимум" нормальной жизни? 99.9% вероятности дожить до 80 лет - и так каждому человеку. Этого было бы достаточно?
Но стремление к абсолютной определённости... Я могу понять ваши чувства, но умом вы понимаете разницу между "я могу убиться с вероятностью 0.01" и "я могу убиться с вероятностью 0.3"? Понимаете, что человек может выдержать намного больше событий 1-ого типа, чем событий 2-го типа?
Я бы предложил вам поиграть в какие-нибудь игры с элементом рандома - на ум приходят "Цитадели", "Эпичные схватки боевых магов", "Ужас Аркхэма", покер (хотя там рандом не так очевидно обсчитывается). Не уверен, что вам это подойдёт, но по-моему, эти игры учат чувствовать вероятность. Учат тому, что если шанс критической неудачи - 1%, то это "фигня, прорвёмся", а если 20%, то это "хм, а стоит ли мне искушать судьбу?" Они учат конвертировать вероятности в эмоции таким образом, чтобы малая вероятность катастрофы не вызывала ощущения ужаса.
А могу я узнать, какую именно нормальную жизнь вы хотите дать всем? Если бы у вас было много ресурсов, но вы были бы ограничены законами физики, то есть никаких 100% гарантий бы не было - что бы вы улучшили в первую очередь? Скажем так, каков ваш "минимум" нормальной жизни? 99.9% вероятности дожить до 80 лет - и так каждому человеку. Этого было бы достаточно?
45
Общение / Re: Безопасность жизнедеятельности
« : 16 Февраля 2018, 10:53 »Gradient, какой чудесный пример с локатором! Можно я им тоже пользоваться буду? Как я понимаю, с человеческим восприятием происходит примерно то же самое: то есть, преобладающий процесс торможения (апатия, сонливость, утомление, астенические эмоции)завышают порог срабатывания так, что можно и летающую корову проглядеть, а та же тревога занижает настолько, что система срабатывает на каждого комара, и быстро растрачивает ресурс.Рад, что вам понравилось. Пользуйтесь, конечно.
Насчёт торможения/возбуждения думаю, вы правы.
а как именно в отдельно взятой голове происходит прикидка вероятности того или этого? Понятно, что "на глазок", но каков механизм оценки? Что именно влияет на работу этого механизма в конкретной голове?..На ум тут же приходит эвристика доступности. Допустим, я хочу оценить, что вероятнее, авиакатастрофа или удар током. Я вспоминаю известные мне случаи того и другого, сравниваю количество.
Это я сейчас описываю механизм, работающий "по умолчанию", он не требует волевых усилий для включения. И конечно же, он склонен к ошибкам, потому что он никак не учитывает, что в газетах больше пишут о красочных авиакатастрофах, чем о прозаичных ударах током. Кроме того, этот механизм багует, если хотя бы одно из событий, вероятность которого он оценивает, сопровождается нарушением восприятия. Например, человек пытается оценить, кто чаще бывает резок - он с Васей или Вася с ним. Но когда человек в гневе, он не ощущает, что он с кем-то резок.
Но вообще, эвристика эффективна, если понимать её недостатки.
Ещё одна эвристика - эвристика правдоподобной истории. Например, если спросить человека, что более вероятно:
1) Китай разработает наноботов и станет угрожать США, а США нанесут превентивный ядерный удар, и из-за ошибки наведения одна боеголовка попадёт по Южной Корее
или
2) Американская ядерная боеголовка взорвётся Южной Корее
то многие скажут, что первый вариант вероятнее. Потому что... Он похож на правдоподобную историю. А реально вероятнее второй вариант, потому что он полностью включён в вариант номер один.
Я не хочу сказать, что люди совсем неправильно измеряют вероятности, просто легче всего понять работу механизма, когда видишь не только его правильную работу, но и ошибки.