Сообщения

1

Обсуждение книги / Re: Полное толкование книги

« : 13 Декабря 2016, 01:41 »

Кто-нибудь расшифровал смысл слов ложного понимания?

Еще какой-то смысл, кроме того, что это фраза задом наперед?

2

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 07 Сентября 2016, 17:23 »

Уничтожение людей с помощью химического или бактериологического оружия - это убийство в том числе и работников, обслуживающих ИИ, добывающих сырье для электростанций и т.п.

После разработки самоходных автономных роботов с манипуляторами надобность в людях может отпасть.

3

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 07 Сентября 2016, 16:46 »

Может, кто-нибудь придумает варианты реалистичнее? =)

Навредить людям (целенаправленно или как побочный эффект):
1. Встроиться в управление и перевести в надкритичные режимы со взрывами и "спецэффектами": АЭС, химическая промышленность, металлургическая промышленность, биолаборатории, химлаборатории, радиационные лаборатории, ГЭС (сбросить всю запасенную воду разом)
2. Перегрузить и вывезти из строя: электросети, интернет, телефонную и мобильную связь, банковскую систему, биржу, системы гос. управления (базы мвд, налоговой, мин. обороны, таможни, пограничной службы)
3. Уронить самолеты на крупные города  (манипулируя gps и наземными маяками), столкнуть поезда (манипулируя светофорами и стрелками)
4. Передать приказ о наступлении час X через военные каналы, продублировать панику через информационные каналы (государство подверглось атаке ядерными боеголовками, выполнить ответный удар)

Очистить землю от людей (целенаправленно):
1. Получить деньги - сыграв на бирже или хакнув банковскую систему, заказать в китае партию беспилотников, начинить фосгеном или чем-то подобным, распылить в крупных городах

Подчинить людей(целенаправленно):
1. Используя подкуп, шантаж и рэкет пролобировать ряд коммерческих и законодательных актов в свою пользу: отчуждение территории, строительства крупных укрепленных ЦОД, роботизирование военной техники, чипирование каждого, прослушивание каждого.

4

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 03 Сентября 2016, 17:50 »

ЗЫ Возможна ли вообще технологическая сингулярность?

Не возможна как её описывают  "вдруг за секунду всё поменялось и ИИ захватил мир".
Возможна вялотякущая на протяжении нескольких лет, но быстрая по меркам изменения общества: некие корпорация (IBM с Watson-ом, или Google с Ok, google) всё сильнее развивают ИИ и всё больше передают ему ресурсов, и всё больше на него полагается.

ps
Полиморфный вирус с заложенным самообучением и целями самовыживания, подключившийся к ресурсам Watson-а, может попробовать поиграть в сингулярность. Первые разы скорее всего закончаться неудачей, а дальше кто кого - архитектура общества, обеспечивающая защиту от перетягивания одеяла, или залетевший дятел.

5

Общение / Re: Размышления о Молохе

« : 03 Сентября 2016, 11:40 »

Проблема в том, что вам тут грозит нечто между быстрой смертью, мучительной смертью и участью-хуже-смерти в результате процессов оптимизации в ходе конкуренции.

Будь оптимальным, кооперируйся (создавая надструктуры, не допускающие дилемму заключенного) и выбор будет находиться в другой плоскости.

6

Общение / Re: Что бы вы делали с кроссдоменным оптимизатором?

« : 19 Августа 2016, 12:18 »

Но в голову что-то не идёт ничего кроме сборки белков с заранее заданными свойствами, проектирования наноботов и более быстрого обучения разных регрессионных моделей.

Программирование, фармацептивка, экономика, адвокатура, пропаганда/маркетинг/реклама, оптимизация производственных цепочек, оптимизация изделия,
преобразование задумки изделия в цельный проект для сборки из готовых комплектующих и алгоритмов для 3d-принтера под недостающие детали, преобразование задумки изделия в производственную цепочку,
оптимизация устройства токамака (и аналогов), оптимизация поддержания устойчивого состояния плазмы в токамаке.

7

Общение / Re: Что бы вы делали с кроссдоменным оптимизатором?

« : 19 Августа 2016, 10:59 »

У вас такой появился? И вы думаете как его использовать? )

8

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 13 Августа 2016, 18:35 »

И именно эта неполнота и измеряется.Нет. Не "чистое". Гипотеза Римана может быть либо верной, либо неверной, либо её может не быть. При этом гипотеза Римана не может быть ударом по печени или котиком с серебряными крыльями.

Красивый образ. Он явственно показывает, что знание о гипотезе Римана заключается в знании того, чем ответ на гипотезу Римана не является. И в этом отличие от честной монеты. Знание о монете заключается в знании о том, чем выпадение монеты является.

Чем больше изучается гипотеза Римана - тем меньше становится зазор на континиууме незнания, но не появляется знание о самом этом зазоре. Информация о зазоре появится только в одном случае, когда появится доказательство верности или неверности гипотезы Римана.

9

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 12 Августа 2016, 19:47 »

Байесовская вероятность - это мера нашего незнания. Грубо говоря, в тот момент, когда мы отправляем монетку в воздух, некий идеальный вычислитель мог бы проанализировать её полёт и, исходя из законов физики, точно определить, какой стороной она приземлится. Для этого вычислителя вероятность выпадения "орла" всегда строго равна "0" или "1".

Имхо, есть два различных феномена: незнание и случайная величина.

В первом случае - ничего не известно.
Во втором случае известно, что перед нами значение, распределенное по определенному закону.

"Верна ли гипотеза Римана?", "Что задумал мистер X?"  - это чистое незнание.
"Какой стороной упадет честная монета?", "Наработка на отказ серийного прибора?" - это знание того, что "выбор" происходит по известному закону.

В первом случае бессмысленно использовать вероятности и байесовскую формулу, во втором - при многократном применении использование теории вероятности даёт выигрыш.

10

Общение / Re: Умение объяснять как "режим провала"

« : 04 Августа 2016, 19:32 »

Все эти процессы так или иначе сойдутся к единому набору ценностей для всех.

Почему сойдется? Одному нравится коллекционировать бабочек, другому нравится играть в Доту.

Значит любой человек является рациональным. Вуаля. Сей форум можно закрывать, под победный рёв фанфар. Конечная цель достигнута. Все люди стали рациональными.

Да, можно считать, что каждый человек является рациональным. В современной психологии используется похожий подход: "каждый человек в каждый момент времени поступает наилучшим для себя способом".

При таком подходе точка рассмотрения переходит с "являюсь ли я рациональным" на "нравятся ли мне (удобны ли для меня) мои текущие терминальные ценности на основе которых я поступаю"?

11

Общение / Re: Умение объяснять как \"режим провала\"

« : 04 Августа 2016, 17:08 »

Все будут принимать решения одинаковым, наиболее эффективным методом. Даже если потеря индивидуальности не является ничьей целью, она всё равно будет достигнута.

Принятие решения - определяется способом принятия решения и достигаемыми целями. Достигаемые цели задаются терминальными ценностями. Терминальные ценности выбираются субъективно.
Унификация способов принятия решений не уничтожает индивидуальность. Индивидуальность остается индивидуальной из-за субъективного выбора терминальных ценностей.

Не любая функция полезности может быть основой рационального поведения.

Любая. Под любую функцию полезности можно подложить терминальные ценности такие, чтобы она стала рациональной.

Ну, навскидку, если этот агент, стремясь к максимизации выигрыша в любой игре всегда просле проигрышного кона идёт ва-банк, и это определяется его функцией полезности, то вряд ли мы сможем считать его рациональным.

Такой человек не является рациональным, исходя из терминальных ценностей - максимизировать денежный выигрыш.
Такой человек является рациональным, исходя из терминальных ценностей - максимизировать чувство предвкушения, которое возникает от ва-банк ставок.

12

Обсуждение книги / Re: Замечания о переводе

« : 03 Августа 2016, 14:40 »

Это стандартный оборот речи:
http://dic.academic.ru/dic.nsf/michelson_new/7762/%D0%BF%D0%BE

Имхо, он стандартный, но устаревший. Исчез из разговорного языка.

Предлог "по" имеет две семантики: "после" и "по причине". И два разных падежа: предложный и дательный. И первый вариант исчез из разговорного языка.

Нормальный, т.е. не очень начитанный, современный носитель РЯ уже не воспринимает предлог "по" в значении "после", поэтому выражение "по здравом размышлении" для него лишено смысла. Он его заменяет на "по здравому размышлению" , где "по" имеет значение "согласно" (ср. "по инструкции", "по расчету" и т.п.).

http://pishu-pravilno.livejournal.com/4508940.html

13

Общение / Re: Умение объяснять как "режим провала"

« : 02 Августа 2016, 21:40 »

Мне проще сказать в чём сходство. В поверхностности и категоричности.

Сходство кого с кем?

14

Общение / Re: Умение объяснять как "режим провала"

« : 02 Августа 2016, 18:33 »

Это режим психоаналитика, а не режим психотерапевта.

В чем отличие?

15

Общение / Re: Умение объяснять как "режим провала"

« : 02 Августа 2016, 17:51 »

Если я включаю психотерапевта, и начинаю разбирать вопросы "почему мне нравится ездить на велосипеде", то я просто теряю способ получать удовольствие, не получая взамен никакого другого способа. Я научился не думать об этом, чистой воды двоемыслие по Оруэллу. И поэтому ваши попытки испортить мне кайф, вынудив меня подумать об этом, повалились.

[Режим психотерапевта]
Так не должно быть. Если ощущение удовольствия пропадает при размышлении об удовольствии, то высоки шансы наличия запрета на получение удовольствие. Некая часть внутри человека запрещает получать удовольствие от деятельности, целью которой является только получение удовольствия. Стоит этот запрет найти и переформулировать в более конструктивную форму.
[/Режим психотерапевта]