Последние сообщения

Последние сообщения

Страницы: 1 [2] 3 4 ... 10
11
Пришла в голову такая цепочка рассуждений. Вот, допустим, мы создали ИИ, примерно рационального агента. Примерно воплотили концепцию AIXI, то есть ИИ строит кучу моделей реальности и измеряет их сложность, а затем проставляет им штрафы в зависимости от погрешности на ретроданных и от сложности. Для прогноза будущего использует гистограмму от прогнозов каждой модели - например, если первая модель выдала 9 со штрафом 2, а вторая выдала 11 со штрафом 1, то будет гистрограммный прогноз: 1/3 за 9, 2/3 за 11. Ну, это грубое описание, реально моделей будет много, для штрафа есть формулы, одиночная модель будет выдавать гауссиану...

Мы тут же влетим в проблему построения опорной машины. Дело в том, что даже программу для распознавания объектов на картинке мы из сырого кода получать перебором будем долго. Нейросетка для видеоанализа - это мегабайты, а их надо будет подобрать как код (необязателен полный перебор, но это будет определённо не очень умный оптимизирующий процесс). Поэтому ИИ придётся создавать свою библиотеку функций, чтобы часто используемые концепции можно было повторно использовать. То есть ИИ будет описывать реальность на каком-то высокоуровневом языке, а ещё будет иметь транслятор на тот язык, который дал нашему ИИ программист.

Программист: все твои программы будут написаны на Брейнфаке, так как он легко генерится эволюцией и Тьюринг-полный.
AIXI: Ага. *пишет Питон на Брейнфаке, потому что это самый короткий способ получить нейросети, и пишет нейросети. Опорная машина построена, и это Питон*

Я очень упрощённо пишу, скорее всего здесь будет попытка каким-то оптимизатором подобрать удачную модель мира, но теоремы говорят, что скорее всего в этой модели мира будет язык программирования, так как изначально заданный язык будет не очень хорошо описывать наш мир.

Вот. У нас есть "правильная" опорная машина - в ней маловероятные гипотезы описываются сложными конструкциями, а высоковероятные - простыми. То есть априорная вероятность гипотезы обратно пропорциональна длине кода. Всё круто?

А теперь добавим ещё пару вводных.
1) Мы дали нашему ИИ способность моделировать других агентов, ставя себя на их место. Просто дали ему инструмент, которым он может запускать виртуальную копию себя, и этот инструмент оказался удобен для прогнозирования животных и людей.
2) Мы запустили наш ИИ достигать целей, находясь среди людей. То есть крайне важно предсказывать людей, которые целеустремлённые агенты, а значит, для них отлично работает наш подход с виртуальной копией. Ну, или не отлично, но лучше, чем иные варианты.

ИИ настраивает свою опорную машину так, что в ней задача "прогнозировать человека" - это что-то простое. В смысле, выражается очень короткой языковой конструкцией, потому что эту функцию часто приходится дёргать.

То есть человеческий разум становится для ИИ онтологически базовой сущностью (или близко к этому), так как разум=моноблок. То есть ИИ становится идеалистом, в философском смысле. Начинает верить в души =)

Заменяем в этом рассуждении "ИИ" на "человек", "опорную машину" на "картину мира" (не карту, а тот список блоков, из которых она строится), а человеческое общество оставляем.

Я правильно понимаю, что человек практически неизбежно должен был стать идеалистом? И любой интеллект, обитающий в коллективе и умеющий в эмпатию, по умолчанию идеалист? Если человек (или наш модельный ИИ) не увидит огромную вселенную, в которой люди занимают ничтожно малую часть, что может его сподвигнуть стать материалистом (ну или иным не-идеалистом?)

Ну или может, я где-то ошибся в рассуждениях, или недостаточно обосновал?
12
Обсуждение книги / Re: Эпилоги, сиквелы и вбоквелы
« Последний ответ от Nikolai 03 Август 2020, 14:32 »
Спасибо.
13
Обсуждение книги / Re: Критика произведения
« Последний ответ от a_konst 13 Июль 2020, 13:11 »
Понравилось замечание в группе в ВК, создавать тут отдельную тему как-то слишком.


"Марина Соколова: В книге не хватает эпизода, когда, после побега Беллы из Азкабана, Невилл приходит к Квирреллу и настоятельно требует, чтобы профессор обучил его аваде."
14
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от kuuff 19 Июнь 2020, 20:01 »
Рынок самобалансируется, но это не значит, что он всегда находится в этом самом балансе. В частности потому, что если проект обещает невысокие прибыли при больших рисках, то кто будет туда инвестировать деньги? Такой проект просто не взлетит. А если проект обещает сверхприбыли и практически наверняка, то ему денег инвесторы будут пихать насильно. Но дело ещё и в том, что оценки перспектив прибыли и вероятностей получить эти прибыли субъективны. И вот тут как раз, появляется поле деятельности для рационалиста (кстати, рациональность изобрели именно в экономике).

Я про какой-то венчурный фонд читал, там совет директоров, который принимает решение инвестировать в стартап или нет, имеет правило: если директора голосуют единогласно "за", то стартап в пролёте, он не получит инвестиций: потому что выгода слишком очевидна, и либо стартап завязнет в конкуренции, либо идея не работает (чего это она до сих пор на уровне стартапа, если она такая многообещающая?)
15
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Gradient 19 Июнь 2020, 10:01 »
Цитировать
если набирать людей склонных к риску, с не совсем тупыми идеями, и помогать им в обмен на обещание поделиться сверх-прибылями, и если из десятка случаев взлетит один, то можно неплохо навариться.
- я думал об этом. Такой подход даст примерно то же, что и диверсификация. Тут вижу две основные гипотезы Первая - матожидание прибыли не зависит от риска. То есть если у тебя есть 0%-й шанс проиграть, то  заработаешь 100$, если 50%, то в случае успеха 200$. Я частенько слышал от людей, разбирающихся в экономике, что рынок сбалансирован именно так... И в теории всё звучит логично, но на практике надо измерять. Вторая - матожидание прибыли может зависеть от риска. Если рискуешь 0%, то зарабатываешь 100$, а если 50%, то 210$, ну или 190$.
Вот если верна 2-я гипотеза, и рынок неидеально сбалансирован, то можно побыть венчурным фондом, как вы предложили, или самому заниматься чем-то рискованным, но с частью средств.
16
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от kuuff 18 Июнь 2020, 23:28 »
Согласен, это серьёзная проблема. И кажется, довольно фундаментальная.
Фундаментальная, но не проблема. За счёт этого работает эволюция: она вообще рандомные изменения в ДНК вносит, и отбирает удачные, ей вообще мозгов не понадобилось, чтобы создать человека, то есть сделать то, что ни одному рационалисту пока не удалось. Это свойство, кстати, можно использовать для обогащения: если набирать людей склонных к риску, с не совсем тупыми идеями, и помогать им в обмен на обещание поделиться сверх-прибылями, и если из десятка случаев взлетит один, то можно неплохо навариться.
17
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Alaric 18 Июнь 2020, 15:41 »
Были исследования, я сейчас не упомню количественно, и ссылок не найду, но уровень дохода человека очень сильно коррелирует с уровнем дохода его предков.
На этом месте я вспомнил, что я видел упоминание таких исследований у Рея Далио в статье Why and How Capitalism Needs To Be Reformed. Он там ссылается на вот этот огромный доклад: https://www.oecd.org/social/soc/Social-mobility-2018-Overview-MainFindings.pdf

Если вкратце, всё сильно зависит от страны. Утверждается, что в Дании шансы ребёнка, чьи родители относятся к самому низкому квартилю, перейти как в самый верхний, так и остаться в самом нижнем, практически равны. А в США (почему собственно Далио и приводит эти данные), шансы перейти в самый верхний - 8%, остаться в самом нижнем - 40%. И это очень плохие показатели по сравнению со многими. (По России там данных нет.)
18
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Gradient 18 Июнь 2020, 08:38 »
Согласен, это серьёзная проблема. И кажется, довольно фундаментальная. То есть, видимо, чтобы быть радикально сильнее "одноклассников" без большого риска убиться по дороге, надо уметь прогнозировать будущее лучше, чем это позволяют данные.

*пошёл обдумывать этот грустный расклад и придумывать, можно ли как-то хитро выкрутиться*
19
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от kuuff 17 Июнь 2020, 23:58 »
- ну, если у меня калибровка будет прокачана до идеала, то я буду получать лучшие результаты, чем другие люди с тем же стартовым капиталом. Это не позволит стать Рокфеллером, но позволит быть первым парнем на деревне, грубо говоря. Что уже даёт какую-то власть и возможность продавливать свои решения там, где "одноклассники" не могут.
У тебя больше шансов продавливать свои решения, чем у "одноклассников", но есть куча других факторов, в том числе и рандомных, которые влияют. Были исследования, я сейчас не упомню количественно, и ссылок не найду, но уровень дохода человека очень сильно коррелирует с уровнем дохода его предков. Очень важно, откуда ты начинаешь. Но дело в том, что есть ещё и рандом, и чем больше вокруг тебя людей, кто идёт на риск, тем сложнее обогнать 50-перцентиль, не рискуя серьёзно. И под серьёзно, я имею в виду не игру на шансах 1:9, а стоимость проигрыша: если всё что у тебя есть дорогого -- квартира, и ты закладываешь квартиру, чтобы взять кредит, и сыграть в бизнес, при очень выгодных раскладах с точки зрения теории игр, но срабатывает 1% вероятности, которые оставляют тебя без квартиры, то... эмм... ты отброшен назад лет на 10-20. А через 20 лет либо шах помрёт, либо ишак помрёт, и, в общем, следующий шанс стать миллионером будут тянуть уже твои дети. При этом, проблема-то в том, что тебе многократно придётся идти на риск, и хотя бы раз ты проиграешь. А раз так, то, чтобы стабильно двигаться вперёд, тебе придётся диверсицировать, перезакладываться, и двигаться к миллиону очень медленно. Но вокруг есть куча людей, кто идёт на риск, их _очень_ много, и значит будут реализовываться маловероятные исходы, и таким образом, самыми богатыми будут не самые рациональные, а самые везучие.
20
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Gradient 17 Июнь 2020, 10:07 »
Цитировать
Кажется, есть некоторое непонимание. Уличная эпистемология не заточена на дебаты. Основная идея в том, что ты осваиваешь уличную эпистемологию, разговариваешь с людьми об их убеждениях один на один и подталкиваешь их к тому, чтобы они задумывались, почему они верят в то, во что верят. Некоторые из них потом сами увлекаются уличной эпистемологией. Кажется, коэффициент R0 тут больше единицы, хотя вопрос, насколько больше
- я полагал, что в данной ситуации мы собираемся использовать УЭ по принципу "оно склоняет реальность в ту сторону, где оба собеседника верят в то, что соответствует действительности", ну и уверены сами, что мы-то уж достаточно хорошо разобрались в вопросе, чтобы не ошибиться со стороной. А здесь идея в том, чтобы вызвать "эпидемию" УЭ? Интересно. И, кажется, когда переписка именно в комментариях к чему-то, что нам не нравится... Не очень разумна. Кажется, что УЭ лучше заниматься там, где это сделать легче, но так, чтобы в сумме поучаствовало как можно больше людей.

Цитировать
Дебаты (и вообще публичная полемика) в принципе не слишком хороший инструмент, потому что при публичном споре человек чаще начинает ещё и беспокоиться за свой статус. Что часто приводит к радикализации обеих сторон и это плохо влияет и на убедительную часть тоже.
- насколько я понимаю, публичную полемику люди используют, потому что она позволяет донести аргументы обеих сторон до широкой публике. Для этого же подходит и написание книжки/статьи, но с книгой/статьёй типичная проблема: человек читает аргументы и мысленно говорит "вот редиска, все наши аргументы переврал, чтобы они звучали слабо, свои аргументы привёл, а наши контр-аргументы вообще не упомянул".

В любом случае, из описанной модели следует, что УЭ - это капитально, но пока она расползётся на всех, пройдёт много времени. А публичная полемика позволяет достаточно быстро донести свои аргументы до широких масс, и ещё и показать, что это не устаревшие аргументы - но ценой снижения убедительности.

Цитировать
Но в целом, конечно, нет подхода, который работал бы всегда и везде, иначе бы давно его кто-нибудь бы нашёл и постоянно использовал бы. Любой подход будет хотя бы иногда давать сбои. Вопрос в том, как часто и насколько серьёзные будут последствия.
- полностью согласен. Видимо, нужно изучать, какой подход какие сильные стороны имеет, и когда они проявляются. Как минимум проверить гипотезу "публичная полемика иногда меняет мнение зрителей", и если она верна, то построить модель изменений.

Цитировать
Т.е. можно прокачать калибровку до идеала. Можно научиться правильно определять ожидаемую полезность в том или ином выборе. Можно научиться придумывать решения, которые дают ожидаемую полезность выше, чем те, которые приходили в голову раньше. Но ты всё равно сильно зависишь от своего базового уровня. Грубо говоря, даже удваивать своё состояние каждый год - это очень-очень круто (и, кажется, людей, которые так умеют на регулярной основе, в современной истории не зафиксировано). Но если у тебя старт - сотня тысяч, то даже удваивая состояние каждый год, миллиард ты получишь лишь через тринадцать лет.
- ну, если у меня калибровка будет прокачана до идеала, то я буду получать лучшие результаты, чем другие люди с тем же стартовым капиталом. Это не позволит стать Рокфеллером, но позволит быть первым парнем на деревне, грубо говоря. Что уже даёт какую-то власть и возможность продавливать свои решения там, где "одноклассники" не могут.
Страницы: 1 [2] 3 4 ... 10