Сообщения

31

Общение / Re: Предсказатели и реакция общества.

« : 30 Апреля 2017, 01:00 »

Я так и не понял, почему, несмотря на некорректность (см. мои первые сообщения тут) вопроса (в чём со мной согласны ещё как минимум пятеро, судя по голосованию, а остальные двое проголосовавших согласны, что это не имеет отношения к рациональности) и неизбежное скатывание к отвлечённым беседам эта тема ещё не закрыта либо не перенесена в общение. Но раз уж никто не возражает против разросшегося тут оффтопа, поучаствую и выскажу своё мнение об указанной системе вообще.

Система эта представляет из себя идеальный и легализованный манипулятор всеми членами общества и его наличие само по себе, вне зависимости от выполняемых им функций, мне представляется крайне вредным и недопустимым. В случае, если система работает автономно (и сама же исполняет назначенные санкции) - получаем антиутопию о захвате власти роботами. В случае, если система эксплуатируется некими ответственными лицами - эти лица получат все вышеописанные возможности по манипулированию, и они так или иначе будут их использовать на своё благо, как бы всяким идеалистам ни хотелось мечтать о другом варианте.
Как итог, здоровое общество, имеющее коллективный инстинкт самосохранения, имеет одной из своих задач всячески защищаться от подобных систем, а второй задачей - находить любые формальные поводы (если требуются) и нейтрализовывать инициативных "оптимизаторов", верящих в полезность таких систем. Вероятно, как раз с этим столкнулся автор, когда его оптимизаторским предложениям вешали кучу негативных ярлыков.

Идеи, поддерживаемые или созданные мной, в результате логических размышлений по оптимизации в разных компаниях чаще всего оценивались как кощунственные, неприемлемые, бесчеловечные и просто экстремисткие.

32

Общение / Re: Предсказатели и реакция общества.

« : 28 Апреля 2017, 03:25 »

В зависимости от точности прогноза такая система действительно может представлять мечту человеческого рационалиста. Ведь убийство, например, несет серьезную долю отрицательной полезности, и предотвращение - благое дело.

Как вы объясните введенную вами абсолютную функцию полезности, не привязанную к субъекту?

33

Общение / Re: Предсказатели и реакция общества.

« : 28 Апреля 2017, 01:22 »

Вопрос некорректен.
Рационализм это лишь метод достижения целей и ничего более. Очевидно, как минимум целям преступника посадка его в тюрьму в большинстве случаев противоречит (причём не важно по какой причине это случилось). Целям кого-то другого - возможно соответствует. Чьи цели тут выбирать и почему - вопрос опять же выходящий за рамки. Не имея определённости в целях, говорить о каком бы то ни было рационализме вообще не следует.

34

Обсуждение книги / Re: Замечания о переводе

« : 20 Апреля 2017, 01:05 »

Прочитал оригинал, сложилось впечатление что с текстом там изначально что-то не так. Возможно, это неопытный Гарри немного коряво изъясняется и перевести эту корявость весьма сложно. А ещё там было указано что он искал какую-то мудрость чтобы её почти что процитировать. Возможно, она оказалась не совсем гладко встроена в контекст.

35

Общение / Re: Как вы относитесь к Сталину?

« : 19 Апреля 2017, 01:24 »

Поэтому, ИМХО, имеет смысл договориться о системе оценивания. О том, зачем и как мы определяем, как относимся к заданному человеку.

Система оценивания так же является предметом (одной из составляющих частей) спора, может быть в не совсем явном виде. И, предупреждая возможные возражения, нет, это не спор об определениях.
Возможно, это даже главный вопрос спора.

36

Lesswrong.ru content / Re: "Единый огонь"

« : 14 Апреля 2017, 22:16 »

Этот контрпример ставит вопросы: если я погрузился в виртуальную реальность, то это не значит, что я живу в той реальности. Мой мозг -- существенная часть меня, не так ли? -- продолжает функционировать в "обычной реальности".

Я не это имел ввиду. Но, действительно, такой вариант тоже можно рассмотреть. Он называется "жизненная сила свыше" или как-то вроде этого. (надеюсь понятно о чём речь, но тема совсем не об этом и вдаваться не считаю нужным) Было распространённой точкой зрения и в нашем мире по отношению к нашему миру. Сейчас менее распространено.

Если скипнуть все эти споры о словах, которые здесь напрашиваются, и посмотреть на ситуацию с точки зрения моей "копии", то для неё действительно, всё будет выглядеть так, будто огонь перестал работать, а она "продолжила" жить, но если она займётся исследованиями, то она выяснит, что она уже не я. В том смысле, что известное ей тело функционирует по совершенно иным законам, это существенно другое тело. Куда делось старое? Оно прекратило существовать?

То из чего сделано моё новое тело -- это уже не организованная материя, а что-то иное. Если мы смотрим из нашей реальности, то это не материя, это абстракции, единички и нолики, это информация, не материя. Если же на это смотрит копия меня, то исследуя новый мир и закопавшись в этих исследованиях достаточно глубоко, она увидит то же самое: то что она воспринимает через органы чувств и называет материей вовсе не то, что она считала материей раньше, потому что это новое нечто живёт по иным законам, не по законам, которым подчиняется материя.

Последние две цитаты - одно и то же разными словами. Да, всё так и есть. В новом мире будет новое тело, и при самоисследовании скорее всего обнаружится, что оно живёт по другим законам и вообще устроено по-другому (начиная с какого-то момента детализации). (но мне кажется, что Юдковский имел ввиду не это, а то, что материя распадётся на элементарные частицы или что-то в этом роде). Считать ли это клоном или превращённым оригиналом - вопрос скорее философский. Думаю, что подавляющему большинству людей будет достаточно внешнего и поведенческого сходства для того, чтобы признать оригинал. Отмечу, что тот же самый вопрос возникает, хоть и менее выраженно, и в куда менее экзотических ситуациях - например при пересадке органов. Можно ведь придраться к деталям и сказать, что после данной операции мы получаем нового человека, похожего на того, кто был до операции (там ведь и часть нервной системы пересаживается по факту).

37

Lesswrong.ru content / Re: \"Единый огонь\"

« : 14 Апреля 2017, 19:53 »

Я знаком с обсуждаемой статьей (с оригиналом), но не вижу, как "контрпример" и "теоретическая связь" связаны со статьей. Разве что тут что-то странное с применением бритвы Оккама. Вроде как "мы жжем спички, они горят примерно одинаково, но мы не ожидаем, что они внутри примерно одинаково устроены".

Ну насчёт спичек - даже в нашем мире можно придумать несколько разных конструкций, внешне сходных. Не вижу, почему бы не иметь аналогичное в мире в другой физикой.
Что касается бритвы Оккама в целом, то первое, что следует из её применения - это то, что других миров нет, других физик тоже нет. В статье "Единый огонь" по условию другие миры с другими физиками есть (по крайней мере один), а дальше уже строятся выводы о том, каким он не может быть. Выводы по факту сводятся к тому, что он не может быть никаким. Ну, это можно было сказать с самого начала моей формулировкой, без всех этих длинных рассуждений.

Так же, в комментах к  этой статье Юдковский написал:
Послушайте все, я имел ввиду реальную вселенную, а не разные литературные варианты. Это надо различать.

В чём разница? И то и то - не наша вселенная.

Не знаю, поможет ли, но lesswrong.ru/w/Единый_закон - следующая статья. Может она как-то поможет.

Добавлено 14 Апреля 2017, 10:11:
...
И в комментах к статье "Единый закон":

Не вижу связи между процитированными комментариями, статьёй "Единый закон" и моим возражением. В них речь идёт о нашем мире и исследовании его физики, возражение же касается другого мира и сравнения физики двух разных миров.

38

Lesswrong.ru content / "Единый огонь"

« : 14 Апреля 2017, 01:11 »

Прочитал недавно опубликованный перевод: http://lesswrong.ru/w/%D0%95%D0%B4%D0%B8%D0%BD%D1%8B%D0%B9_%D0%BE%D0%B3%D0%BE%D0%BD%D1%8C

Возможно, я не правильно понял, какая именно идея в нём была основной, но в том виде как понял я - я с ним не согласен.
Ключевые цитаты:

Если спичка перестает функционировать, то и вы тоже. Невозможно поменять что-то одно.
...
Если вы окажетесь в мире, где спички не зажигаются, вы перестанете быть организованной материей.

Реальность сплетена гораздо плотнее, чем люди предпочитают верить.

Приведу контрпример. Рассмотрим некую условную компьютерную игру с (требования, возможно, необязательны) фотореалистичной графикой и относительно свободным миром. Смотрите на экран монитора, видите там человека, моделька которого срисована с вас. Человек двигается, путешествует по виртуальному миру, предпринимает какие-то действия. Очевидно, в этом мире могут не работать спички, да и не только спички, а вообще что угодно может отличаться от нашего. Но люди там есть, вроде как живут и не ломаются.
Возможно вы возразите - этот мир ненастоящий, да и не люди там а всего лишь набор нарисованных на мониторе текстур. Но тем не менее, когда вы смотрите на этот "ненастоящий мир", вы чётко понимаете, что вот это - человек, и он, например, бежит. Да, он не состоит из молекул, и даже не состоит из клеток (хотя тут всё зависит от фантазии авторов игры, но опустим это), но первичный признак, по которому вы его распознаете - его внешний вид и поведение - присутствует.

Теперь более теоретическая часть. Расхождение описанной выше ситуации с процитированной статьёй состоит в том, что в статье каждый реальный объект рассматривается "от деталей к общему" - предполагается что любой макрообъект просто обязан быть устроенным так же, как там где его единожды увидели. В то время как мне накладывание такого ограничения совсем непонятно. Можно сначала описать общее (макроскопическое так сказать) поведение, а потом "додумывать" к нему детализацию. То есть именно так - у нас есть постулированная макроскопическая модель, к который мы подбираем подходящую микроскопическую. Уверен, что вариантов микромоделей есть множество. В нашем мире мы проводим эксперименты, результаты которых зависят от микромодели, чтобы отсеять неверные, но никто не обязывает эти эксперименты давать одинаковые результаты в двух макроскопически похожих мирах.

Например, герой повествования, критикуемого в статье, мог попасть в мир, где вся атмосфера однородна, и дыхание вообще не связано с окислительными реакциями. А может быть, там и атомов в нашем понимании нет и вещество устроено по-другому. Возможно, тут появится возражение: но ведь он попал из нашего мира, а значит устроен по известным нам законам природы. Ответ: законы перемещения из одного мира в другой нам неизвестны. Ниоткуда не следует, что такое перемещение явялется переносом один в один всех микроструктур переносимого объекта. Можно считать перенесённый объект некоей проекцией исходного объекта на новые физические законы. В случае с примером в начале моего сообщения такая проекция (на игровой мир) будет заключаться в копировании внешнего вида с помощью текстур.

39

Обсуждение книги / Re: Замечания о переводе

« : 09 Апреля 2017, 03:00 »

Сейчас я считаю, что число людей, страдающих от лишнего курсива, заведомо превышает количество людей, которые таки найдут какую-то важную информацию, которую мы потеряли, выкинув курсив. Впрочем, конечно, если вы считаете, что мы потеряли что-то важное, пишите.

Возможно и так.
Насчёт важного - весь текст не перечитывал, глобально сказать не могу, но судя по первой главе кажется есть проблема с отделением монологов (которые заявлены оставленными с курсивом) от авторского текста. Например, бывшее выделенным курсивом предложение "Безнадёжны." вполне могло быть коротким монологом. Однако следующее за ним "Его родители просто безнадёжны." не выделено курсивом даже в английском варианте, так что тут сложно сказать однозначно. Возможно, такой вариант будет лучше:

"Безнадёжны" - подумал он. Его родители просто безнадёжны.

40

Обсуждение книги / Re: Замечания о переводе

« : 07 Апреля 2017, 04:29 »

Авторский курсив специально поубирали? Затрудняюсь определить момент, но в версии 2015 года он ещё был (или его было больше чем сейчас).

41

Сообщество рационалистов / Re: Lesswrong-wiki

« : 21 Марта 2017, 22:31 »

Нет, это не так. Это сайт на друпале, а не вики-сайт.
Собственно под "сайтом с контентом" он сам и подразумевается. И он не вики.

Не вникал в технические детали того, какой там движок, но сайт определённо вики. Вики это не сайт на движке mediawiki а (не строгое определение, но сойдет) сайт с публичным коллективным редактированием в реальном времени и историей версий страниц. Для этого на lesswrong.ru есть ссылки на редактирование и историю каждой страницы.

Добавлено [time]21 Март 2017, 22:39[/time]:

Друпальный сайт так не умеет, такой сценарий в нём не реализовать. Поэтому, несмотря на то, что он живёт уже не первый год, словаря терминов лессвронга на нём нет. И скорее всего, никогда не будет. А с медиавики есть шанс всё это сделать. Легко и удобно.

Возможно, я не в курсе, но мне кажется что это вопрос не движка а выдачи прав. Не вижу препятствий к вышеописанному, за исключением необходимости создать страницу перед дальнейшими редактированиями. Ссылки на создание новой страницы я и правда не нашёл, но не думаю, что причина этого большая, чем настройка "не показывать её гостям".

Добавлено 21 Марта 2017, 22:43:
Нашел ссылку по теме: http://lesswrong.ru/forum/index.php?topic=706.0
Видимо, тогда создание новых страниц и ограничили. Всё что сказано в теме по ссылке может в равной степени касаться любого вики-движка.

42

Сообщество рационалистов / Re: Lesswrong-wiki

« : 21 Марта 2017, 03:35 »

Зачем нужна эта вики, если уже есть русскоязычный сайт с контентом, который можно продолжать развивать?

Вопрос немного другой - зачем нужна эта вики, когда уже есть вики (lesswrong.ru - вики-сайт сам по себе). Так что аргумент

На мой взгляд, Wiki-based сайт для этой цели подходит лучше обычного

тут нерелевантен. Впрочем второй аргумент про разделение сущностей остаётся в силе.
А вот общий посыл, по-моему, стоит как минимум переформулировать: с "запустили вики" на "запустили вторую вики" и описать детальнее чем она отличается от первой.

43

Общение / Re: Рациональное творчество. "Золотая рыбка. Сказ о человеке разумном"

« : 06 Марта 2017, 21:49 »

Ждал "опоздали с ответом" в том или ином виде.

44

Обсуждение книги / Re: Мнение после прочтения книги

« : 22 Февраля 2017, 01:05 »

В какой-то магической отдельной форме они точно попадают под запрет Мерлина.

45

Обсуждение книги / Re: Сиквел HPMOR

« : 03 Января 2017, 22:04 »

Фик был о том, что познание в любой области не дается просто и быстро. Это не значит, что оно невозможно или что что-то мешает освоению этих знаний.

Во-первых, есть и прямые мешающие факторы, см. ниже. Во-вторых, главное, что он понял - то что эти познания не следует пытаться получить, а уж если как-то они получились - то не следует делиться ими в остальными и таким образом весь остальной мир этого никак не заметит, если только носитель данных знаний не станет Волдемортом.

Этого в книге не было, не выдумывайте.

Было, много раз. Гарри:
1) получил прямой (и кажется невозможный к обходу) приказ прекратить исследования маховика
2) понял бесполезность исследования механизма работы заклинаний и прекратил исследования в этой области, едва они начались
3) уже не пытался начинать никакие наукообразные исследования в области открытой им трансфигурации - "получилось и хорошо, будем пользоваться"
4) все его рассуждения, связанные с дементорами, носили исключительно спекулятивно-эмоциональный характер
5) ну и наконец, ему отрезали возможность уничтожить мир путём объединения магии с маглами, и он сам в итоге понял что так было надо

Я имел в виду, скорее, что-то вроде экологических технологий, самоочищающихся улиц, альтернативной энергетики и метел с реактивными двигателями, на худой конец, не говоря уже о натуральной левитации в авиастроительсте. Да одного только описанного в МРМ синтезирования бакитрубки на основе трансфигурированного материала и создания волокон на его основе хватило бы, чтобы толкнуть космонавтику на сотни, а то и тысячи лет вперед за пару недель. Это помимо миллиона и одного применения в других областях инженерии.

Магии всё это не нужно. Она и так всё это умеет безо всяких инженеров и без магловской космонавтики, нужно только найти правильное заклинание. Вот цитата даже

— Может, чему-то они всё-таки научатся, — возразил Гарри. — Гермиона, ну ты посмотри на неё. Тоненькая нить, на которой висит такой вес — мы только что сделали штуку, которую не могут воспроизвести ни в одной магловской лаборатории…

— Но может наколдовать любая ведьма, — вздохнула Гермиона. В её голосе теперь отчётливо слышалась усталость. — Гарри, мне кажется, ничего у нас не получится.

Магия не подвергается "прогрессу" не потому, что не может (может и легко, если захотеть), а потому что общество оказалось достаточно сбалансированным для того, чтобы с одной стороны не умирать с голоду, а с другой не иметь необходимости бороться за своё существование, придумывая для этого технику и двигая этот самый прогресс.
И ещё: им не нужно бороться за выживание разными путями, включая быстрое размножение, и вероятность рождения кого-то, склонного к исследованиям, в итоге мала по причине малости населения. Только иногда некоторые пытаются возвыситься над остальными, но их называют Тёмными Лордами и коллективно задавливают. Таким образом, все те, кто остались, не имеют никаких предпосылок что-то глобально менять или двигать куда-то общественное знание. Именно вышеописанное позволило этому обществу до сих пор не самоликвидироваться или не претерпеть ещё какие-то катаклизмы, изменившие бы его до неузнаваемости.