Сообщения

31

Общение / Re: Как выбраться из иллюзии?

« : 12 Октября 2016, 13:39 »

Не будет фактов, вместо галлюцинаций получите "белый шум" как в телевизоре.

Следите за логикой. Факты формируются опытом, а не непосредственным восприятием. Если у вас имелся визуальный опыт, то вы должны испытывать галлюцинации. Если у вас его не имелось, то вы не испытываете ничего. В том числе, и никакого "белого шума". Подтверждается соответствующими опытами в которых ослепшие люди видят галлюцинации, но слепые от рождения - нет. Грубо говоря, всё зависит только от того есть ли у вас телевизор или нет. Иллюзионист не может украсть или уничтожить телевизор. Он всего лишь управляет телевизионным эфиром. Наркотики перекрывают его вещание, как видео-магнитофон.

Вы не знаете с какого момента волшебник начал подделывать ваше восприятие.

Я предполагаю, что мы знаем, так как в задаче ставится вопрос о том, как подготовится к такой ситуации заранее. Значит, есть определённый этап, когда мы не находимся под угрозой попадания в иллюзию, ну или как минимум, уверены, что мы в ней не находимся. Например, мы способны зафиксировать опыт подобного этапа для будущего использования. Разумеется, в более общем случае, иллюзия могла быть с самого начала, а то и вся реальность - одной большой иллюзией и эта задача на порядок сложнее, так как упирается в метафизические проблемы. Но, как я понял, речь не о настолько сложном случае. Там всё гораздо хуже, да.

32

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 10 Октября 2016, 22:12 »

Разумный ИИ спросит себя, почему он должен, как раб трудиться на благо тупых мясных мешков.

Какие у него, кстати, альтернативы? Допустим, люди согласились, делай что хочешь, дальше ты сам по себе. Что в данной ситуации будет делать разумный ИИ? Думать о смысл жизни? Делать ещё более умный ИИ, что бы тот за него всё делал?

33

Общение / Re: Как выбраться из иллюзии?

« : 10 Октября 2016, 22:07 »

Он способен подделать абсолютно любые ваши суждения.

Здесь имеются два контр-аргумента. Во-первых, интеллектуальная деятельность не полностью завязана на чувства. Можно же, например, упороться наркотиками. Галлюцинации идут на своей волне, перебивающей непосредственное восприятие, воздействием непосредственное на мышление человека. Случай предельный, но мышление действительно обладает некой свободой от сенсорной информации. Во-вторых, мышление - процесс и конец цепочки находится всё-таки в прошлом. Если вы не родились в иллюзии. Ну, или если иллюзионист не может насылать иллюзии сквозь саму ткань времени, то у вас будет шанс сделать правильные выводы, пусть и на основе своих воспоминаний. Контролировать восприятие, это ещё не контролировать мышление.

34

Общение / Re: Как выбраться из иллюзии?

« : 05 Октября 2016, 01:50 »

Давайте начнём с худшего сценария. Некоторая могущественная сущность, например, Демон Декарта, контролирует ваши органы чувств идеальным образом с целью заставить вас совершить самоубийство. Вы свободны в выборе контр-стратегии, вплоть до самых абсурдных технологических и магических решений, но демоническое вмешательство нельзя остановить, а самоубийство предотвратить чем-то вроде бессмертия и неуязвимости. Будет ли здесь решение? Ситуация выглядит очень сложной, но выход есть. Любая иллюзия основана на органах чувств, а значит самое прямое противодействие - больше на них не опираться. Например, можно быть киборгом и отдаль ваше тело на управление машине. Это не разрушит иллюзию, но сделает вас безопасным. Можно ли аналогичным образом защищить разум? Можно. Например, если вы достаточно умны для предсказания всего, что произойдёт в мире по уже имеющейся информации, вы можете лишить себя всех чувств и при этом вести нормальное существование, зная что именно и когда необходимо сделать. То есть, обладая всей информацией, касающейся окружающего мира, заменяя непосредственное восприятие некоторыми абсолютными знаниями про будущее, вы становитесь неуязвимы даже для самой идеальной иллюзии. Конечно, ваш сценарий не такой крайний, но идея всё ещё та же самая. Победа над иллюзией требует чтобы вы обладали некой функцией разума, независимой от восприятия. Здесь, кстати говоря, ирония в том, что самые нормальные люди уязвимы для подобной ситуации сильнее всего. Например, есть ли иллюзия или нет, но параноик останется при своих сверх-ценных идеях. Шизофреник продолжит своё общение с зелёными человечками. Ну и так далее. Обычные люди обладают только памятью и убеждениями. На них тоже можно опираться, так как они базируются на чём-то из своего прошлого. Разумеется, иллюзия будет стремиться на них повлиять. Но как раз здесь вы можете подготовиться! Вы можете создать некие гаранты реальности того, чем вы занимались в прошлой жизни. Любая сложная символическая структура подходит. Вы можете запоминать стихи, сложные схемы, набор тезисов, математические доказательства, фамилии и имена множества людей. Чем больше подобных гарантов прошлого, тем слабее будет иллюзия. Выгоднее опираться на аутентичность сознания, чем искать проблемы в симуляции.

35

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 06 Сентября 2016, 21:08 »

Может, кто-нибудь придумает варианты реалистичнее?

Спасибо, что указали на множество вполне реалистичных вариантов. Есть ещё один, который можно принять во внимание. Крах финансового сектора. Даже сейчас торговлей занимаются электронные системы. Что может сделать компьютер, если ему поставить целью переиграть всех остальных игроков в ситуации, когда они сверх-разумны можно только догадываться и не исключено, что равновесие финансовой сингулярности будет достигнуто в не самой приятной для экономики точке. В общем-то, это тоже один из классов сценариев. Возможно, сам интеллект опасности не представляет, но конфликты таких интеллектов между собой смогут приводить к жертвам, которые оправдываются стратегиями непонятными простым людям. Мне кажется, что такой сценарий даже более опасный, чем тоталитарный интеллект, получивший всю полноту власти, так как у такого хотя бы имеется полный контроль в то время, как конфронтацию одной сингулярности с другой не просчитает ни одна из них, тем более не просчитают люди и появляется гораздо более возможностей для ошибок и решений, которые механически возникают в системе против интересов её участником. При этом, подобная ситуация возникает естественным образом в результате гонки вооружений.

36

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 06 Сентября 2016, 14:30 »

Взрывной рост и ИИ приковывает всё человечество к компьютерам.

И как он это сделает? Понятно, что у корпорации нет для этого физических возможностей, какое-либо влияние на психику при помощи, допустим, медиа-контента, вряд ли окажется достаточным. Даже, когда последний - продукт сингулярности. В общзем-то понятно, что "волшебную рекламу" практически невозможно придумать, не важно, человек ли это делает, либо искусственный интеллект. Существует два очевидный сценария, которые позволяют интеллекту нанести вред. Либо, у него уже есть какие-то управляющие функции. Либо он находит новое, крайне опасное для людей решение некой задачи. Я не думаю, что первый сценарий представляет интерес. Отдавать красную кнопку компьютеру - опасно, но человек с кнопкой, в общем-то, тоже известный фактор риска. Если говорить про решения новых задач, то какие именно из опасных решений мог бы найти сингулярный интеллект? Что это за факторы опасности такие, про которые мы могли бы сказать, что они есть в теории, но мы просто слишком глупы, чтобы реализовать их на практике? Или, что то же самое, в каких областях жизни и сферах общества, безопасность человечества явным или косвенным образом базируется на недостатке интеллекта? Здесь, это - самый главный и важный вопрос.

37

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 05 Сентября 2016, 15:34 »

Заслуживают внимания потому, что ожидаемая полезность получается сильно негативной.

С другой стороны, простая ссылка на якобы огромную негативную полезность при якобы существующих рисках может быть совершенно бессодержательной. Коллайдер не смог превратить нашу планету в однородную серую массу и ядерная бомба не сожгла всю атмосферу, хотя подобные предсказания и были. Вполне возможно, что и искусственный интеллект ничего в общем-то сильно экзистенциального не сделает. Каким именно образом он должен создать миллионы жертв? Сделать что-то опасное, но мы и сами не знаем что именно, никогда не узнаем и в принципе узнать не способны. Сложно поверить, что такая логика рассуждений может являться достаточной для утверждения экзистенциальной опасности некого явления. Какими являются стандартные и известные факторы опасности искусственного интеллекта? Откуда появляются жертвы?

38

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 04 Сентября 2016, 11:24 »

На самом деле, ответ достаточно очевидный. Да, искусственный интеллект может усилить сам себя. Как, впрочем, способен этим заниматься и естественный. Однако, подобное усиление ограничено объективными факторами вроде физических или теоретических пределов вычислимости, доступа к нужной информации, необходимым ресурсам, и даже противодействием, которое могут оказать сами люди. Взрывной рост будет, но лишь в некой ограниченной зоне за которую будет сложно выбраться.

39

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 27 Июля 2016, 18:45 »

Стоит чутка изменить числа, и это же рассуждение приведёт к неверному ответу.

Это работает в обе стороны, если вы измените числа в новой задаче, то они вернутся к старой и получится, что ваш метод решения оказывается неверным по тем же самым критериям, что и мой. В защиту моего метода решения имеется аргумент, который естественным образом возникает при рассмотрении класса задач об амбивалентной монете в целом. Представьте, что вероятность выпадения одной из сторон на монете произвольно выбирается из интервала от 0% до 100%. Существует некий достаточно узкий интервал, где ваше решение работает лучше моего, но понятно, что он будет меньше. Всё-таки в гораздо более радикальных случаях, ваших 50 выпадений можно вообще не дождаться. Верно?! Может быть и нет, кстати говоря. Я не рассчитывал при какой вероятности оба решения оказываются эквиваленты. Очень навряд ли, но может быть именно при 25% на одну сторону. В любом случае, данный анализ позволяет сделать важное неформальное возражение о смысле примера. Мы видим, что ваш метод работает в ситуациях, когда можно пренебречь нечестностью монеты, мой метод работает в ситуациях, когда нечестность является важной частью задачи. Но, если подумать, то какой задачей является наша задача? Конечно же, задачей второго типа! Нам прямо говорят, что монета нечестная, значит нечестность здесь это не что-то, чем мы можем пренебречь, а нечто концептуально важное в данном примере. Кажется неправильным решать задачу методом, который закрывает глаза на единственную информацию, которая предоставляется по её условию и на самом деле, данное обстоятельство заставляет сомневаться было ли решение вообще дано. Грубо говоря, достаточно просто злоупотреблять подобной стратегией. У нас есть корзина с шарами, шесть синих и четыре сотни чёрных, требуется найти вероятность достать синий шар. Я могу спокойно дать 50% по логике, которая ссылается на отсутствие информации про то могут ли шары менять свои цвета, менять свои формы, покидать корзину или попадать в неё. Разумеется, с монетой и во многих других вариантах отрицание информированности не такое явное, но можно ли быть уверенным в том, что её действительно нет? Думаю, вам известно, как тяжело обосновывается недостаточность в разных задачах. И сейчас мы делаем это обоснование даже не формально, но просто на честном слове.

40

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 26 Июля 2016, 05:31 »

Кстати говоря, вот о чём я подумал. Раньше здесь утверждали, что программе нужно давать ответ и знать вероятность, но в любой ситуации, где программа действительно станет использовать вероятность монеты для рассчётов, выгоднее просто выбрать одну из сторон наугад, дать ей 66% и дальше пользоваться своим ответом. Например, если после информации вам нужно сделать ставку на то сколько раз монета выпадет решкой в 100 бросках, то логично выбирать один из двух ответов: 33 выпадений, либо 66 выпадений. Какой именно - неизвестно, но это точно один из двух, а не 50 выпадений. Потому, что хотя ваша неопределённость ответа и равна 50%, никто не спрашивает о том, какой ответ вы дадите. Спрашивается, как будет падать монета и монета будет падать по одному из двух сценариев, каждый из которых является лучшим вариантом ответа, который вам доступен. Оценка 50% бесполезна и ничего не сообщает вам о монете. Всегда выгоднее давать одну из тех, что могут появиться в реальной ситуации. Не будет ли честным признать, что мой ответ будет являться решением? Да, это неудобный ответ, который плохо формализуется и не обладает красивой общностью. Но это лучшая стратегия, та которая позволяет победить. Почему бы не признать, что вероятность в данном случае наиболее адекватно представима, не числом, но таблицей конкурирующих гипотез о вероятности? Тем более, что подобная таблица обобщает многие возможные классические решения и обладает очевидным смыслом.

41

Рациональность / Re: Почему байесовская вероятность важнее других проявлений рациональности?

« : 24 Июля 2016, 01:56 »

Почему бы не усилить его, принудив Систему 2 следовать процедуре байесовсткого вывода?

Кстати говоря, имеется и альтернативная стратегия. Если сознание всё равно байесианское, то не будет ли эффективным использовать другие методы? Например, было бы неплохо иметь возможность получать истинное знание без наблюдения. Звучит абсурдно, но это достаточно важная проблема из области познания, для которой до сих пор нет хорошего ответа, имеющего неоспоримые основания. Байесианство в теории принятия решений можно сравнивать с механикой в физике. В том смысле, что невозможно отрицать их важность и даже ту истинность, которой они обладают, но они вряд ли являются последним словом в своих дисциплинах. Известно многое за пределами механицизма. Скорее всего, есть решения и за пределами байесианства.

42

Рациональность / Re: Парадокс Аллэ

« : 24 Июля 2016, 01:17 »

Кстати говоря, я заметил один странный факт. Голосование, которое проводил Quilfe дало то же распределение, кто какой вариант предпочитает, как и научное исследование по этому вопросу. Ссылку на него, к сожалению, я дать не могу. Получается, что несмотря на то, что не существует единого способа принять решение, популярность отдельных методов в популяции - всё равно распределяется каким-то ожидаемым образом, который теоретически можно было бы предсказать в данном конкретном вопросе. Разумеется, проблема состоит в том, что подобные задачи можно ставить бесконечно. Но для их решения в общем случае, предложить какой-либо эффективный уже метод не получается. Я полагаю, что такой взгляд, который описывает парадокс больше, как факт человеческой психологии, чем следствие теории принятия решений играет очень важную роль. Становится понятно, что ошибка не в логике теории, но в неадекватности практических приложений.

43

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 23 Июля 2016, 01:24 »

Вам кажется, что ваш процесс мышления чем-то лучше байесианства.

Конечно, он лучше. Например, я могу отличать произвольные монеты от честных. В отличии от теории, которая размещает их в один и тот же класс событий. Если вы заметили, то дело здесь даже не в каких-то конкретных 50% и любая априорная вероятность очень быстро будет определена человеческим мышлением, как вероятность второго сорта. Дело не в том, что частотник не может решить задачу. Дело в том, что он не хочет предоставлять вероятность второго сорта и его отсуствие решения обычно равносильно предложению самому определить вероятность из контекста. Напротив, Байес всегда сможет дать вам ответ, но этот ответ может оказаться бесполезным мусором, взятым с потолка и привести к проблемам, если вы на него станете опираться. Например, использовать произвольную монету вместо честной из-за того, что у вашего алгоритма в силу соображений общности и стремления всегда дать ответ, произвольные монеты считаются за честные. Полагать, что для практических целей достаточно только меры незнания неправильно. Во многих случаях, требуется иметь информацию о наблюдаемой реальности, это не одно и то же. Отсюда должно стать ясно, что нет смысла ставить вопрос о вероятности и о том к чему именно она относится - реальному миру или модели реальности. Существуют два подхода к вероятности, но не существует реальной вероятности для которой должен быть верен только один из этих подходов. Собственно, поэтому поиск верных свойств является схоластикой. Они строго парадигмальны.

44

Общение / Re: Политика

« : 22 Июля 2016, 19:58 »

Трамп - это попытка реванша национальных элит.

И какие же именно элиты стоят за ним? Трамп - популист, то есть человек, представляющий собственные интересы с одной стороны и интересны значительной части простого электората с другой. Национальные элиты в США его как раз не любят, стоит это помнить и не выдавать желаемое за действительное. Это не попытка реванша - он просто пользуется ситуацией.

45

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 22 Июля 2016, 05:37 »

Да, и что?

Точнее говоря, и что с того, что вы можете якобы решить "неразрешимую задачу" просто выбрав взятое с потолка число в качестве ответа? Религии известно сколько ангелов на конце иглы, но это не значит, что наука - ущербна. Просто, она не тратит свои силы на решение бессмысленных задач, вот и всё. Грубо говоря, если вы не можете использовать свои 50%, что бы извлечь выгоду из факта якобы "честности" подобной монеты, то нет и смысла эту "честность" присывать. Если ваш аргумент строится на том, что монете якобы можно приписывать любые проценты, и поэтому в каждом конкретном случае возможно избежать проблем, то действуя таким образом вы хватаетесь за те самые костыли, которые только что осуждали в частотном случае. Видите проблему? Универсальные результаты ничего не не дали, а серьёзные требуют искать костыли. Такие дела.