Сообщения

16

Общение / Re: Предсказатели и реакция общества.

« : 02 Мая 2017, 13:34 »

Мы под любые правила можем нафантазировать такую этическую систему, с точки которой правила будут этичными. Но если эта этика недостижима в реальности, то какой смысл об этом говорить?

Kuuff, простите, пожалуйста, я вас не понимаю. Какая этика не достижима в реальности и почему?

sergeyr, мне вас понять пока не удаётся. Чтение Ясперса не помогло (и сколько надо его прочитать?)
https://imwerden.de/pdf/jaspers_smysl_i_naznachenie_istorii_1991.pdf

2. Тем, что свершилось тогда, что было создано и продумано в то время, человечество живет вплоть до сего дня. В каждом своем порыве люди, вспоминая, обращаются к осевому времени, воспламеняются идеями той эпохи. С тех пор принято считать, что воспоминание и возрождение возможностей осевого времени — Ренессанс — ведет к духовному подъему. Возврат к этому началу — постоянно повторяющееся явление в Китае, Индии и на Западе.

3. Вначале осевое время ограничено в пространственном отношении, но исторически оно становится всеохватывающим. Народы, не воспринявшие идей осевого периода, остаются на уровне «природного» существования, их жизнь неисторична, подобно жизни множества людей на протяжении десятков тысяч и сотен тысяч веков.

Мифологической эпохе с ее спокойной устойчивостью пришел конец. Основные идеи греческих, индийских, китайских философов и Будды, мысли пророков о Боге были далеки от мифа. Началась борьба рациональности и рационально проверенного опыта против мифа (логоса против мифа), затем борьба за трансцендентного Бога, против демонов, которых нет, и вызванная этическим возмущением борьба против ложных образов Бога. Божество неизмеримо возвысилось посредством усиления этической стороны религии.

Все эти изменения в человеческом бытии можно назвать одухотворением: твердые изначальные устои жизни начинают колебаться, покой полярностей сменяется беспокойством противоречий и антиномий. Человек уже не замкнут в себе. Он не уверен в том, что знает самого себя, и поэтому открыт для новых безграничных  возможностей.

Это — подлинный человек, который, будучи связан и скрыт плотью, скован своими влечениями, лишь смутно осознавая самого себя, стремится к освобождению и спасению и действительно способен обрести его уже в этом мире в порыве вознесения к идее, в несокрушимом спокойствии души, в медитации, в понимании того, что он сам и весь мир есть атман, в состоянии нирваны, в единении с дао или в покорности воле Божьей.

В осевое время произошло открытие того, что позже стало называться разумом и личностью.

То, как мы сейчас живём - это вовсе не та социальная среда, к которой мы приспособлены эволюционно, и большая часть современных обществ - в той или иной степени "больны", дезадаптированы. Эволюция не успела - и, видимо, уже не успеет - привести в соответствие человеческую психику и человеческий социум.

Эти Ваши контрпримеры - это как раз примеры дезадаптации, "болезни" социума, попытки оторваться от той видотипичной картины, о которой я писал. Тем не менее, полностью оторваться от видотипичных конструкций никому не удавалось - что ни выдумывай, люди в большинстве своём пытаются следовать общей своей видотипичной схеме. И эта видотипичня схема - как раз рационально-консеквенционистская, пусть и очень ограниченная крайней нехваткой конкретных знаний (на ранних стадиях) и болезненностью среды (по мере роста населения).

Именно этой "вилкой" (виляниями в её рамках) и объясняется то множество контрпримеров, которые Вы привели и по отношению к этике, справедливости и праву, и по отношению к инженерии. Но из того, что люди вокруг делают вредные глупости - не следует, что и мы тоже должны делать вредные глупости, да? Это болезненные, дезадаптивные реакции. _Мы_ на них соглашаться не обязаны, и ровно напротив - сообщество LW создано чтобы противостоять таким явлениям, настаивать на рационально-консеквенционистских подходах.

Какой смысл и какая ценность оставаться "на уровне «природного» существования"?
Вы говорите, что видотипичная схема рационально-консеквенционистская, а Ясперс утверждает, что

Началась борьба рациональности и рационально проверенного опыта против мифа (логоса против мифа)

В осевое время произошло открытие того, что позже стало называться разумом и личностью.

Вы говорите, что из-за очевого мышления и дезадаптации человек соверщает вредные глупости, а Ясперс пишет

2. Тем, что свершилось тогда, что было создано и продумано в то время, человечество живет вплоть до сего дня. В каждом своем порыве люди, вспоминая, обращаются к осевому времени, воспламеняются идеями той эпохи. С тех пор принято считать, что воспоминание и возрождение возможностей осевого времени — Ренессанс — ведет к духовному подъему. Возврат к этому началу — постоянно повторяющееся явление в Китае, Индии и на Западе.

Человек уже не замкнут в себе. Он не уверен в том, что знает самого себя, и поэтому открыт для новых безграничных  возможностей.

1. Рациональной. Резкое снижение проверяемости, т.е. рациональности в смысле достоверности знаний. Разобраться в механизмах ГМО, АЭС, БАК и прочая нагрубо ещё можно, имея даже базовое школьное образование, и если человек совсем ничего в этом понять не может, то не может и добросовестно пенять на кого-либо, кроме самого себя: возможность разобраться ему предоставили, она была ему доступна. Но если и не можешь разобраться сам - можно, как и во множестве иных подобных случаев, вполне рационально полагаться на то, что есть специалисты - инженеры, физики, биологи, медики; они тоже обычные люди, но они разбираются именно в этих вопросах, и можно поинтересоваться у них или положиться на их добросовестность как сообщества (а это вполне рационально, учитывая структуру этого научно-технологического сообщества, очень хорошо обеспечивающую его добросовестность, и видимую результативность этой структуры). Если же не хочется чувствовать себя ничтожеством перед лицом колосса научно-технологического сообщества, и из-за этого комплекса неполноценности начинаешь обвинять это сообщество в том, что оно само ничего не понимает и затыкает рты свободомыслящим, то тут уж пенять не на кого: добросовестности не хватило - сам себе злобный дятел (это очень распространенное поведение, да, но оно не становится от этого _прескриптивной нормой_). С Вашим ПК ситуация иная - обычный человек вообще ни в чём не сможет там разобраться (причины я пояснил выше), и по крайней меньшей мере большая часть специалистов тоже сможет рассматривать систему только как чёрный ящик и, соответственно, ничего не сможет ни объяснить, ни гарантировать, ни с какой значимой степенью уверенности.

Во-первых, сразу разведём оценку человеком, понимающим внутренние процессы и оценку доверяющим экспертам.
Понимающие внутренние процессы
Пожалуйста, не приравнивайте грубое понимание работы АЭС в приницпе и оценку безопасности, выгодности и т.п. конкретной АЭС. Это совершенно разные задачи. Чтобы показать сложность этой задачи, если так это непонятно, могу предложить поиграть в предсказателей: найти сведения о разных АЭС, удалить все экспертные оценки, оставив только сырые данные, и протестировать на вас, других участниках и других площадках.
Абсолютное большинство людей, ИМХО, неспособно решить такую задачу в лоб, не становясь специалистами в этой теме. Приходится ориентироваться на другие косвенные показатели: статистику похожих проектов, оценки экспертов и т.п.
Доверяющие экспертам
Эксперты - это, по сути, очень сложные нейронные сети, подверженные искажению информации вследствии биологических особенностей, политических и идеологических взглядов и личной выгоды.
В силу некомпетентности люди, доверяющие экспертам не могут оценивать задачу непосредственно. Но они могут ухватить задачу, осуществив

попытки найти такое свидетельство, которое относилось бы только к самому вопросу настолько близко, насколько возможно, отметая как можно больше других аргументов.

Таким образом человек может косвенно оценивать экспертов по их предсказаниям (поскольку напрямую он их оценивать не может вообще никак, только косвенно: предсказания, авторитетность, популярность мнения в экспертной группе и т.п.).
Научное сообщество позволяет уменьшить эту проблему за счёт оценки множеством экспертов, рассчитывая на то, что некая модовая оценка будет наиболее близкой к истине, а искажения отсекутся по максимуму.
Теперь перейдём к сравнению по этому вопросу АЭС и ПК. И там, и там есть специалисты, понимающие вопрос, разница лишь в количестве. Что мешает подготовить больше специалистов, понимающих ПК?
Дальше - оценка научным сообществом. По-вашему, всё научное сообщество оценивает каждую АЭС? Насчёт общей идеи - почему невозможно будет дать научному сообществу возможность оценить методы, используемые ПК (более того, по-моему, эти методы и возьмутся из технологий, разработанных на основе знаний им добытых). Почему перед внедрением системы невозможно будет написать статьи о её архитектуре и принципе работы, по примеру анонимных сетей (в т.ч. конкретно Tor'a)?

Такое резкое снижение проверяемости требует особых предосторожностей, а Вы их, напротив, снимаете.

Какие, по-вашему, нужны предосторожности, и как я их снимаю?

2. Консеквенционистской. Резкое снижение проверяемости допускается у Вас ради выгодны несравнимо более слабой, чем выгода от всяческой сложной технологии. Без мощных электростанций, при всём их потенциальном вреде, 90+% населения будет жить плохо, но недолго. Потенциальный вред от разных типов мощных электростанций приблизительно сравним - и во всех случаях в его точной оценке можно только полагаться на инженеров и медиков.

Выбор стоит не между плохими электростанциями и хорошей безопасной жизнью без них. Выбор стоит между плохими электростанциями и лютым апокалипсисом без них.

А вот давайте вы не будете перескакивать с АЭС на все мощные электростанции, ок?
Германия и Япония планируют отказаться от АЭС, у них после этого настанет Апокалипсис?

17

Общение / Re: Предсказатели и реакция общества.

« : 01 Мая 2017, 09:50 »

Про АЗС можно понять хотя бы, что именно она делает. Столько то км квадратных занимает, столько человек с таким окладом ее обслуживает, столько то мегаваттч выдает (зачем и строим).

А ваша система что выдает? Вот что не сформулировано понятным образом.

Характеристики этой системы, как и любого программно-аппаратного комплекса, как бы очевидны: конфигурация оборудования и ПО, архитектура сети,  карта охвата сенсоров, учитываемые признаки, используемые типы алгоритмов. Когда система заработает, добавится статистика. Конечным продуктом системы будут предсказания вероятности совершения преступления наблюдаемым лицом. Если агентов ПК рассматривать в составе системы, то предотвращение преступлений и задержание вероятных преступников. (Ну и количество/характеристики агентов тогда тоже можно учитывать)

18

Общение / Re: Предсказатели и реакция общества.

« : 01 Мая 2017, 02:32 »

На самом деле, предсказательная система ставит перед юридической системой множество вопросов.

Конечно. Это может заставить выделить особую категорию заключения под стражу для таких задержаний.

Кроме преступлений в ней можно, например, предсказывать браки и делить имущество ещё до того, как супруги будут женаты.

Строго говоря, для этого необходимо предсказывать не только браки, но и разделяемое имущество, наличие и количество детей, возможность смерти одного из супругов и т.п.
Насчёт наказаний - моём кратком комменте, а насчёт областей применимости: это, по-моему, хороший вопрос.
Уже сейчас во многих сферах подход по духу как раз такой, несмотря на кажущуюся деонтологичность. Например, в образовании - это прохождение тестов. Т.е. можно сказать, что получившие на тестах лучшие баллы заслужили лучшие условия. Но финальная цель отбора - отобрать тех, кто в дальнейшем покажет наибольшие результаты в реальной работе, хотя это и скрыто за инструментальными целями отобрать самых лучших по тестам.
При этом в зависимости от подхода меняется отношение к выбору пути оптимизации.
Пока те, кто лучше решает тесты, лучше и выполняют работу (по крайней мере, корреляция высока), всё остаётся как есть. Но вот мы выяснили, что люди, обладающие какими-то параметрами из этой корреляции выпадают всем кластером (т.е. решают тесты намного лучше, чем рабочие задания или наоборот).
Если мы будем ориентироваться на подход оценки заслуг, то всегда будем оценивать лучшие результаты как лучший прогноз. Т.е., например, будем пытаться как можно более полно приблизить задания теста к рабочим, изменять условия проведения, сроки, запреты/разрешения на допю инструменты и т.п.
А если мы будем преследовать финальную цель, то помимо всего этого, мы можем ещё оценивать эти параметры отдельно и на их основании штрафовать/бустить кластер. Можно потом будет направлять эту информацию аналитикам - пускай разбираются, но скорректированные более точные результаты теста у нас уже есть. Такое выпадение кластера из статистики может быть связано с разными причинами: долговременными нейрофизиологическими параметрами лиц, его составляющих, неодинаковым оцениванием, неодинаковыми условиями проведения (может быть более жарко/пыльно/душно и т.п.). Таким образом мы разделяем проблемы: исправления недостатков текущего тестирования и исправления недостатков системы тестирования и можем решать их по отдельности.

P.S. продолжение следует

UPD.

Мы всегда можем придумать умозрительно общество B и такого среднего члена этого общества, чтобы с точки зрения его этики, общество было бы очень этичным. Оценивать же это общество B с точки зрения нашей этики я считаю неправильным. Таким образом, для меня рассуждения о подобной системе B выглядят совершенно оторванными от реальности.
То есть, такие рассуждения может и имеют какой-то смысл в рамках какой-то задачи, но, до тех пор, пока мне не ясна задача, я не вижу в них смысла. А не видя смысла в таких рассуждениях, я не представляю себе как будет правильным рассуждать.

Видимо, у меня просто какая-то беда с выражением своих мыслей. Попробую описать подробнее: есть некое базовое различие этических систем отсящихся к деонтологии, этике добродетели и консеквенциализму. По тем вопросам, по которым они дают одинаковые ответы, их сравнивать смысла не имеет. И интересовало именно это различие. Ценности явно указаны не были из-за надежды на авось, что касательно работы органов правопорядка по отлову преступников они более-менее совпадут. Согласно деонтологии, нужно следовать неким правилам, которые нельзя нарушать, несмотря ни на что. Согласно консеквенциализму важен конечный результат. И интересовал именно момент реагирования по прогнозу в соответствии с принципом максимизации ожидаемой полезности, но с нарушением деонтологических правил (в т.ч. ущемления вне соответствия концепции вины как осознанного совершённого действия). И насколько эта система и её основная идея, которые были получены, как мне казалось, в соответствии с принципами рационализма и консеквенциализма действительно им соответствуют. (В смысле схем мышления и построения, а не каким-то конкретным видам).

Scondo, Ответ #45 содержит очень хороший вопрос. Постараюсь ответить на него подробно. Кратко было в одном из предыдущих сообщений

Кроме того, он может анализировать и информацию без реагирования: за областью действия (т.е. возможности задержания) агентов ПК, по несерьёзным правонарушениям (которые не требуют изоляции) и т.п.

Перед началом запуска системы у нас стоит задача её обучения. Таким образом, сначала необходимо будет сделать прогон большого количества тестовых данных, причём чем лучше будет их качество и полнота, тем точнее потом будут предсказания. Это значит, что какие-то время придётся обходиться старыми средствами и смириться с тем, что некоторые преступления, как и раньше будут доведены до конца. Когда система откалибрована (т.е. предсказывает преступления с достаточной вероятностью) запускаем её в действие. Для уменьшения жертв можно пользоваться предсказаниями не до конца откалиброванной системы, для наблюдения или провокации высоковероятных будущих преступников. Когда система вступает в действие, то данными, изменяющими веростяность оказаться престуником человека, который подошёл по всем признакам будут вычисляться (т.е. постепенно пересчитываться) на основе непредотвращённых преступлений (в т.ч. непредотвращённых предсказанных, т.к. агенты ПК тоже не со 100%-ой вероятность задержат предсказанного, он может чекнуться камерой на границе наблюдаемой территории и убежать на ненаблюдаемую, где и совершит преступление). Но этих данных будет недостаточно для полноценного обновления тенденций (точнее для отмены назначения преступниками, т.к. в случае обнаружения новых паттернов, они будут записаны). Это может привести к накоплению груза устаревших комплексов признаков и паттернов, нерелевантных в реальности, но исправно проверяемых системой. Вообще говоря, где-то и так сойдёт, но как раз тут возникают вопросы про соответствие рационализму, т.к. без преодоления этой проблемы поведение системы можно отдалённо сравнить с некой удачной сложной эвристикой, которая хотя и увеличивает полезность, имеет все недостатки эвристики и постепенно всё дальше отклоняется от рационализма. Что я предлагаю: сделать охват сбора информации системы больше (мб. намного больше), чем охват действия агентов ПК (например, получать доступ к наблюдению/прочие данные из других стран). Таким образом, кроме решения этой проблемы расширится и кругозор системы, она сможет адекватно оценивать иностранцев по уровню опасности (и каких-то можно не пускать, например). Ещё можно чекать системой все малозначительные нарушения и проступки (на которые агенты не будут реагировать, т.к. вред их слишком мал), чтобы она выделяла общие правонарушительные паттерны. В общем, главное, чтобы система сохраняла целостность оценки и не начала применять одни алгоритмы для задерживаемых и другие для незадерживаемых, тогда статистика по незадерживаемым будет релевантна. Могут быть, конечно, частные случаи, вроде какой-то малой изолированной группы, живущей только в зоне действия агентов ПК и совершающих только опасные преступления (и после набора статистики высоковероятных их членов будут успешно задерживать, что приведёт к консервации данных для этой группы), но вред ущемления прав некоторых членов таких групп мне кажется меньшим, чем польза от предотвращения преступлений.

19

Общение / Re: Предсказатели и реакция общества.

« : 30 Апреля 2017, 23:22 »

А это и есть экстремизм.

Okay.

Обязательно образуются группы людей, которые будут утверждать, что вся эта система вместе с оракулом используется для злоупотреблений -- это случится вне зависимости от того, есть злоупотребления или нет их.

Не понимаю исключительсти этой системы. Если рассммотреть любую систему принятия решений: всеобщее равное голосование, единоличное принятие, неравное голосование экспертов, соответствие строгим прописанным правилам, любую другую, то про неё кто-то может (т.е., учитывая современное состояние общества, наверняка начнёт) такое говорить.

Например, можно предположить, что появятся мифы о том, что оракул читает мысли, и если мысли плохие, то приезжает спецназ и арестовывает.

Во-первых, это вопрос пропаганды.
Во-вторых, считаю, что по любому действию субъекта нужно смотреть прежде всего всего на самого субъекта.
Примеры:
Если девушку в миниюбке изнасиловали в опасном районе местные уроды, то претензии нужно предъявлять прежде всего к ним, в не к ней.
Если после поимки маньяка - серийного убийцы, правительство запретило клинки с руническим узором (любимое оружие маньяка по его признанию на допросе), то претензии нужно прежде всего предъявлять к правительству.
Если человек утверждает, что убил другого в рамках самообороны, то претензии прежде всего нужно предъявить к самообронщику. И только если он докажет, что жертва на него нападала и т.п. оправдывающие условия, претензии снимаются.
Если общество бугуртит против БАК/ГМО/АЭС и других страшных слов, то претензии нужно предъявлять прежде всего к обществу (и, соответственно, воздействовать на него).
Проблемы неприятия АЭС - не проблемы ядерной технологии, а проблемы общества.
Соответственно и проблемы мифотворчества в обществе - это проблема общества.
Никаким улучшением технологии, против которой раздаются протесты, проблемы мифов и прочих мемов не решить. Но вот влиянием на общество можно решить эту проблему вообще без изменения технологии.

Люди начнут придумыать какие-нибудь практики, нацеленные на снижение риска оказаться преступником. Например, собираться раз в неделю группками и, в рамках самовнушения и стабилизации личностных ценностей, хором распевать гимны о том, что воровать плохо, а соблюдать законы хорошо.

Может быть со временем мифы уйдут, но мне кажется более вероятным, что найдутся те, кто будет эти мифы раздувать, с тем чтобы на них зарабатывать денег. Я вообще не могу предсказать, чем подобное может кончиться. Таким образом, идея использовать оракула выглядит для меня экстремистской: это способ переиначить общество непредсказуемым образом.

Люди, в массе своей, не беспокоятся насчёт массовой слежки (за исключением кратких периодов нагнетания этой темы в СМИ), хотя отрицать её сейчас сложно даже не очень разумному и информированному человеку. Люди не беспокоились во времена инвизиции и не съезжали после ареста первого родственника (за исключением цыганских таборов). Люди даже после ужасающих их терактов боятся только некоторое небольшое время (несколько месяцев). Если не устраивать массовые репрессии по типу СССР, то с чего бы людям в массе своей (т.е. подверженным КИ, имеющим склонность смотреть сквозь "розовые очки", не бедствующим лично и не наблюдающим, как бедствуют близкие) жить в страхе?

И ещё. Мне кажется, что вы, kuuff, и другие участники неявно перешли с решения задачи "оценить, соответствует ли предложенная система рационализму и консеквенционализму" на задачу "оценить, будут ли затраты на переход на предложенную систему с некоторой текущей (т.к. системы разные, вы, вероятно, взяли какую-то для вас дефолтную страну) меньше, чем польза от новой системы в какой-то (взятой вами по дефолту) перспективе".
Но при этом, если взять две системы А (начальная)* и В (конечная), то даже при большей полезности В переход туда из А может быть столь болезненнен, что перекроет все плюсы и уведёт в глубокий минус.
Но вот отрицать на этом основании, что В действует лучше А, как я считаю, прямо противоречит эпистемологиечской рациональности.

*строго говоря, тут А своя у каждого участника

Хотя, если зайти с другой стороны и не наказывать, а проводить превентивную разъяснительную беседу, то может что-нибудь и выйдет из этого. Не факт, что это возможно: тут получится система в которой причинно-следственные связи направлены из будущего в прошлое, и её может быть сложно или даже невозможно привести в непротиворечивое состяние. Например, если мы предотвратили одно преступление беседой, то мы "изменили будущее", значит предсказания оракула изменятся, а значит может быть случится другое преступление. Возможно ли с этим справиться или нет -- не совсем ясно.

Во-первых, см. моё прошлое сообщение:

Во-первых, здесь рассматривают предсказание, как единичное. У меня оно рассматривалось как постоянное итеративное: система постоянно наблюдает и с каким-то небольшим времени пересчитывает вероятность. Таким образом, при любом неучтённом влиянии просто будет составлено новое предсказание.

Во-вторых. Может быть, это было неправильно мной воспринято, но мне показалось, что здесь подразумевают под предсказанием конкретный сценарий действия будущего преступника вида "пошёл туда-то, сделал то-то, убил того-то". Из-за этого складывается ощущение непонятности и фантастичности такой системы в принципе. Но, по-моему, стоит разделять предсказания: вероятность совершения преступления лицом Х (вообще), место преступления, конкретное время преступления, жертва (преступления без жертв пока рассматривать не будем).

И умозрительный пример оттуда же.
Во-вторых. Мы вообще любое своё обдуманное действие делаем на основе предсказаний, моделируя разные варианты изменения мира, так что я эту претензию не то что принять, я её понять вообще не могу.

outcasty
С моей точки зрения, у вас не получилось не связываться с этикой. Консеквенциализм - это этическая система. Смысл консеквенциализма - указать правило, которое будет говорить, как следует поступать.

Вы правы. Собственно, у меня была попытка понадеяться на авось: на то, что у меня с остальными участниками не будет существенных расхождений в оценке функции полезности органов правопорядка.

если напихать в новую этику все или основные положения текущей, то она будет содержать балласт нелогичного, неструктурированного и несогласованного legacy

По опыту моего собственного разматывания этого клубка (а у меня некоторое время были примерно те же ощущения в этом вопросе, что и у Вас): со временем Вы можете обнаружить, что балласта там почти нет, а может и вовсе нет.

Человеку с сильной шизоидной акцентуацией (а у Вас я вижу классические признаки), особенно если он вырос в такой социально искалеченной среде как наша, бывает очень сложно разобраться зачем нужны те или иные элементы этого этического базиса, но если ковыряться в этом достаточно упорно (и стремиться _понять_, а не обогнать всех на поворотах) - картина начинает складываться, и производит впечатление очень изящной, математически лаконичной конструкции.

Мне очень жаль, что описывать такие вещи я умею только отдельными кусками и всё равно нормальным людям получается обычно непонятно.

Насчёт меня вы правы. А вот насчёт понимания - темпоральный аргумент не является корректным и не может ничего доказать. Попробуйте, пожалуйста, всё же объяснить, почему существующая этика стройная логичная согласованная система, а не набор костылей, протекающих абстракций, неявных умолчаний, некорректных операций с множествами, игнорирования причинно-следственных связей, и проичх логических ошибок, тем более, что гипотеза причисления меня к в строгом смысле нормальным людям, на мой вгляд, является необоснованно сильной.

Справедливость - это несколько более узкое понятие (см. то определение, которое Вы явно и читали, только берите не одно лишь его начало, а и последующий текст тоже), и она, как ни странно, не только не так уж отличается от человека к человеку, но мало отличается и между культурами, и хуже того - во вполне узнаваемом виде обнаружена и у некоторых других приматов (см. классические опыты Де Валла с неравными вознаграждениями, когда некоторые обезьяны отказывались от взаимовыгодного сотрудничества с экспериментатором и явно выражали возмущение, если тот за одну и ту же работу давал другой обезьяне намного _худшую_ награду).

[aize=18pt]Виды справедливости[/size]
Начиная с Аристотеля, принято выделять два вида справедливости:
1. Уравнительная
2. Распределительная
...
Требования уравнительной и распределительной справедливости являются формальными, не определяя, кого следует считать равным или отличающимся, и не указывая на то, какие правила к кому применять. Различные ответы на эти вопросы дают различные концепции справедливости, которые дополняют формальное понятие справедливости содержательными требованиями и ценностями.

И далее споры.
По поводу опытов Вааля
http://www.membrana.ru/particle/8134

Также шимпанзе во вновь образованных социальных группах отказывались работать после того, как их партнёр получал лучшую награду за ту же самую работу.

http://www.membrana.ru/particle/5866

Притом, что задачи были одинаковые, капуцины не всегда получали то же самое количество еды. Оказалось, что обезьянки отказываются получать «приз» меньшей ценности, если «коллега» получил вознаграждение побогаче — это и есть ощущение справедливости. Исследователи полагают, что тем же чувством наделены и другие животные. Следующие эксперименты будут проведены с шимпанзе.

http://www.youtube.com/watch?v=lVlp7ezvL_M
https://www.youtube.com/watch?v=eND5O19n6Pc
На видео видно, что только обезьяна, получавшая огурцы, кидается ими в экспериментатора.

20

Общение / Re: Предсказатели и реакция общества.

« : 29 Апреля 2017, 16:07 »

Сорри за долгое ожидание.
Форум криминалистов - http://kriminalisty.ru , идея была отправить туда сообщение с описанием и ссылками с Хабра, но у меня ни с одного анонимайзера пока зарегистрироваться не получилось - пишет, что IP или E-mail используется для спама

Касательно ответов здесь. Вы написали их достаточно много и я благодарю вас за это. Я постараюсь ответить на всё подробно, но так как не хочу давать необдуманные ответы, беру срок до завтрашнего вечера (или, если успею, то раньше). Сейчас пока кратко обозначу свою позицию.

Во-первых, здесь рассматривают предсказание, как единичное. У меня оно рассматривалось как постоянное итеративное: система постоянно наблюдает и с каким-то небольшим времени пересчитывает вероятность. Таким образом, при любом неучтённом влиянии просто будет составлено новое предсказание.
Касательно предсказаний вообще - для меня было удивлением увидеть такое понимание на вашем форуме, из статей мне казалось что предсказание различных исходов (и сравнение полезности получившихся миров) имманентно предполагает моделирование по всем веткам выбора, выделяемым как значимые.
Во-вторых. Может быть, это было неправильно мной воспринято, но мне показалось, что здесь подразумевают под предсказанием конкретный сценарий действия будущего преступника вида "пошёл туда-то, сделал то-то, убил того-то". Из-за этого складывается ощущение непонятности и фантастичности такой системы в принципе. Но, по-моему, стоит разделять предсказания: вероятность совершения преступления лицом Х (вообще), место преступления, конкретное время преступления, жертва (преступления без жертв пока рассматривать не будем). Так как это отдельные предсказания, система может начинать работу только с определения первого с достаточной точностью, всё остальное может быть размыто. Почему данные и алгоритмы, используемые для анализа будут обязательно недоступны пониманию людей и непроверяемы я тоже не представляю: их можно сделать как проприетарными, так и открытыми (и промежуточные варианты, когда доступ предоставляется, например, всем, у кого вероятность ниже N).
Пример (умозрительный) предсказания на простой ситуации: предположим,  в рассматриваемом обществе есть некоторая статистическки особо преступная группа, допустим, это какие-то культисты. Мы обладаем информацией, что после того, как они наслушаются/начитаются/насмотрятся конкретного достаточно специфичного контента своего культа с призывами к насилию к определённой группе лиц, проведут молитвенный ритуал в нестандартное время, придут в сильно возбуждённое состояние и выйдут на улицу, они в большинстве случаев совершают противоправные деяния, а если возьмут с собой оружие (которое в этой стране разрешено) - то тяжкие насильственные преступления. Почему пользуясь предсказаниями в таком случае и задерживая соответствующих этим признакам культистов правоохранительные органы (или другая огранизация отвечающая за минимизацию предступлений и охрану правопорядка) не повысят эффективность этой самой охраны правопорядка мне не понятно. Вероятно, функция полезности охраны правопорядка тех, кто оценивает иначе, придаёт очень большое значение правам и свободам в современном гуманистической интерпретации (или какой-то похожей) и оценивает вред от их нарушения как больший, чем польза от предотвращения преступлений.
Предсказания без таких чётких условий будут несколько более трудновыводимы, но приницпиальной разницы я не вижу.
В-третьих. Как мне кажется, многие воприняли идею наказаний за несовершённые преступления как простое выписывание по предсказаниям тех сроков, которые бы будущие преступники получили от суда после совершения преступления.
Хотя мной обозначалось моё видение этой системы иначе:

когда вероятность совершения преступления у гражданина Х становится достаточно высока (при этом для более тяжкого престпления может хватать меньшей вероятности), агенты ПК получают задание задержать Х и поместить в изолятор. После того, как Х туда доставлен, ПК получает дополнительную информацию (допрашивает его, сканирует и т.п.) и уточняет свою вероятность. ПК продолжает следить за параметрами Х, пока вероятность не упадёт ниже какой-то безопасной оценки (с учётом возможной ошибки эта вероятность будет ниже, чем хватает для задержания, может быть, в некоторых случаях, намного ниже). Пока вероятность не падает, Х сидит.

P.S. Почему против таких идей протестуют люди мне объяснили понятно и доступно.

21

Общение / Re: Предсказатели и реакция общества.

« : 28 Апреля 2017, 21:58 »

Логическая ошибка. Сначала нужно понять оппонента, а потом переубеждать, иначе все время будете искать искажения как свои, так и чужие, а преодолеть их полностью, насколько мне известно,- невозможно.

Мои цели изложены в моём предыдущем сообщении. Если же оппонент во время обсуждения случайно переубедится, то это даст информацию о его мышлении. Или вы с этим не согласны?

22

Общение / Re: Предсказатели и реакция общества.

« : 28 Апреля 2017, 19:55 »

Вы можете рассказать, для чего вы тратите время, чтобы узнать ответ на поставленный вопрос? Почему для вас это важно?

Оки. Открываюсь.
У меня есть склонность обдумывать различные варианты в как можно более теоретически полном множестве. Я считаю, что в существующей действительности очень много всего, что можно улучшить. При этом речь идёт даже не о сложных научных проблемах, требующих специальных знаний, а о сравнительно простых вещах, которые, тем не менее, остаются незамеченными за традициями и умолчаниями, хотя лежат, вроде бы, на виду.
Несмотря на то, что многие люди согласны с этим, мысли, что, как и куда улучшать кардинально разнятся.
Идеи, поддерживаемые или созданные мной, в результате логических размышлений по оптимизации в разных компаниях чаще всего оценивались как кощунственные, неприемлемые, бесчеловечные и просто экстремисткие. Собственно, в социальном плане мне это приносило в основном вред, что и отражено в нике.
Критика моих высказываний чаще всего велась с эмоциональных позиций, а с моей точки зрения лишь логические аргументы (в широком смысле) заслуживают внимания. При этом, в высказываниях, к сожалению, столь часто смешиваются "картографические" и ценностные суждения, что это приводит к неустранимым искажениям.
Можно говорить о ценностях и пытаться формализовать их, построив свою этику, но туда могут прорываться взгляды о мире из политической позиции, что я наблюдаю, как мне кажется, и у Александера. В любом случае это очень сложный и долгий разговор, хотя бы потому, что если напихать в новую этику все или основные положения текущей, то она будет содержать балласт нелогичного, неструктурированного и  несогласованного legacy, а если их туда не включать, то новая этика покажется людям неэтичной, кощунственной, неприемлемой и далее по списку.
Поэтому у меня возникла идея проверить себя (свои высказывания, свой способ мышления и т.п.) относительно более умных людей, при этом как можно менее заангажированных и настроенных на корректную дискуссию. Чтобы не связываться пока с этикой и и прочими сложными вещамии, была выбрана общая идея, достаточно популярная в фантастике, достаточно "мягкая", не радикальная, способствующая достижению "стандартных" ценностей.
К моему удивлению, взаимопонимания не получилось и здесь
Но здесь, в отличие от других мест, люди и заинтресованы в правильном мышлении и имеют инструменты для проверки (и инструкции к ним).

Более того, если вы каким-то образом убедите собеседника перейти на вашу картину мира, спор закончится моментально и, подозреваю, никакой пользы из этого никто из вас не извлечёт (если вы такую пользу видите, напишите, пожалуйста).

Т.к. моя цель сейчас - понять, в чём моя проблема, то если меня убедят в моей неправоте, она хотя бы частично решится.
Если же я смогу убедить оппонента, то смогу понять, какие конкретно его убеждения мешали ему принять мою позицию и какие аргументы его убедили - таким образовам кроме, собственно, улучшения аргментации, улучшится понимание мышления оппонентов.

Инструкторы CFAR рекомендуют использовать такие споры для лучшего понимания карты собеседника и, таким образом, для расширения собственной карты (но, как показывает практика, следовать упомянутым по ссылке рекомендациям довольно сложно ).

Хорошо, почитаю, попробую. Канемана тоже сейчас читаю.

PS Я совершенно не модератор и меня можно не принимать в расчёт, но я предположу, что, возможно, для рассуждений о том, как вообще рационально себя вести, стоит накапливать большие массивы знаний или нет, и так далее, лучше создать отдельную тему.

Это как захочет sergeyr. Для меня ответ на этот вопрос был вообще побочным моментом. Если он захочет, я могу создать новую тему (или он сам может её создать).

Именно поэтому я в каждом ответе стараюсь указать на то, что те же предсказания можно эффективно использовать _без_ нарушения этой системы - и это, как мне кажется, не потребует никаких дополнительных расходов (на том уровне, на котором такая система предсказания вообще представима).

Если вы о наблюдении за преступником до тех пор, пока он не начнёт совершать преступление, то выше есть мой ответ на это.

Плохо не использование предсказаний - плохо такое их использование, которое разрушает инвариантные человеческие представления о справедливости (базе права).
Если можно надстроить эту систему, а не разрушить её и заменить другой, то нужно именно надстраивать, а разрушение трактовать как нанесение неоправданного урона социуму (или как минимум допущение неоправданного риска такого урона).

Что вы имеете в виду?
Справедливость, согласно стандартному определению, - это соответствие наблюдаемого должному (с т.з. оценивающего), она зависит от ценностей и разная у разных людей. Или вы имеете в виду под словом "справедливость" что-то другое? Если да, давайте разыменуем указатели.
О базе права - вы имеете в виду, что введение системы, предлагаемой мной, как-то подорвёт основы юриспунденции? С этой стороны, опять же, понятно, почему люди протестуют, но непонятно, почему это предложение обязательно не соответствует ни рационализму, ни консеквенционализму. Насколько мне известно, основы юриспунденции (её основных школ) сложились в значительной мере исторически и не проверялись на оптимальность теми инструментами научного метода, которые есть в наличии сейчас. При этом правоведы до сих пор спорят о природе права (в основном: право - это то, что есть, или то, что по мнению утверждающего должно быть, отсюда обсуждения может ли закон быть неправовым и т.п.).

Разница с ГМО-, БАК- и радио- проче-фобиями в том, что в случае этих фобий нет никаких оснований считать, что происходит разрушение чего-то важного. Небольшое добросовестное изучение вопроса человеком, имеющим базовые школьные знания, должно немедленно показывать, что ГМО не более вмешиваются в основы жизнедеятельности человека и окружающих видов, чем традиционная селекция

Во-первых. К сожалению, большинство из убеждённых мной и виденных мной сторонников ГМО из числа обычных людей не понимают принципов их изготовления даже в самом общем виде и неспособны самостоятельно воспроизвести аргументы за в споре с противником ГМО, они просто верят в это aka болеют за команду.
Во-вторых. Ну, вот вы не считаете, что происходит разрушение чего-то важного. А сторонники запрета вмешательства в геном считают. Конфликт "мнение против мнения" не решить иначе чем голосованием, властью или насилием (ну, ещё можно попробовать изменить мнение пропагандой). Тут нужны аргументы. А если копнуть глубже, то и то, и другое - идея, причём из тех, к которым человек имеет естественную склонность, но не обязательно придерживается (наподобие, что тела без поддержки падают вниз).

В данном же случае прямой вред, напротив, на мой взгляд очевиден: людям предлагают воспользоваться каким-то совсем новым представлением о справедливости.

Как бы мне ни не хотелось начинать долгий и трудный разговор об этике, но похоже, что выехать на совпадении целей и ценностей внутри "стандартного" набора не получилось

Представлением, которое очень похоже на то, что произошло с безусловной передачей этического авторитета трансцендентному Абсолюту и представляющим его священникам (и последствия для социума будут, на моя взгляд, очень похожими).

Вы имеете в виду, что ПК будет
   ● Внедрять в картину мира мистические сущности, нефальсифицируемые гипотезы, мемы наподобие "Верую, ибо абсурдно" и "Христианин должен вырвать свой разум"
   ● Способствовать закреплению традиций, ритуалов, правил и текущих воззрений в непререкаемых догмах
   ● Запрещать читать свoи программные документы (в не программистском, а руководительском смысле) всем, кроме своих агентов
   ● Создавать противоречивые правила для того, чтобы иметь возможность оправдать любое своё поведение и укреплять за счёт этого политическое влияние
   ● Призывать уничтожать всех инакомыслящих и допускать спорить с ними только, если это не ведёт к сомнениям в вере
   ● Создавать организации для подавления и уничтожения политических оппонентов, которые после выполения этой цели перекинутся на наиболее беззащитных и неорганизованных членов общества, будут арестовывать их по надуманным поводам, пытать, требуя признание и интерпретируя любой ответ как подтверждение и публично казнить
   ● Препятствовать развитию науки, медицины и технологий
   ● Подавлять и запрещать все источники информации (в т.ч. виды искусства) кроме собственных
   ● И т.п. в этом духе
?

И я ручаюсь, что специалисты как раз будут резко возражать именно против введения такой системы, так что тут не возникнет вопроса недоверия между специалистами и ширнармассами.

Можно это проверить.
Способ 1. Можно попросить участников этого форума к указанию своей позиции и аргументам добавлять свою специальность.
Способ 2. На площадке, где тусуются специалисты задать вопрос или вбросить новость о чём-то похожем.

Прошу прощения, на остальное обращенное ко мне я отвечу позже, сейчас нет возможности.

Ничего страшного. Благодарю, что вы вообще со мной говорите.

Нет, я имею ввиду, что поэтому люди неадекватно оценивают гипотезы основанные на "предсказателе" и таким образом их отношение не основывается на реальной оценке, но только на собственном ощущении "правоты".
Это может быть как резкое отрицание, так и резкая поддержка, но проблема именно в несвязанности оценки с реальностью.

Спасибо, ваше мнение понятно.

Какой идеи? Дискриминации на основании пророческих видений "оракула"? Так оракул это уровень художественной литературы. Глубоко художественной. Настолько, что даже в комиксах предсказания "оракула" не всегда оправдываются.

Мне казалось здесь термин оракул используют в техническом смысле и всегда правый Омега из парадокса Нькомба тоже оракул. Что оракул представлен ПК у меня сообщалось не только здесь, но и людям, выражающим протесты.

А демотивация потенциального преступника - это, как я упоминал, рядовые практики, к большинству из которых нет претензий.

Т.е. ещё протест у людей возникает просто из-за необычности? В обсуждении парадокса Ньюкомба говорили, что он как предельная ситуация хорошо высвечивает недостатки ТПР. Мне показалось, что предложенный мной тезис можно рассматривать как в некотором роде подобный.

23

Общение / Re: Предсказатели и реакция общества.

« : 28 Апреля 2017, 15:46 »

Дело вне в этом. Прогон тестовых данных - это проблемы организаторов этой системы. А доверие к ней - это проблемы _социума_. Массы людей, которые тестовые данные проверить не могут, и знают при этом, что вот этот непроверяемый оракул может на любого указать пальцем. И если этот палец будет немедленно наносить вред, то это и вызывает резкое (и совершенно рациональное) несогласие. Потому что людям _неоткуда знать_, что эта штука производит больше пользы, чем вреда. Заявления по этому поводу могут быть какие угодно, но людям неоткуда знать, что эти заявления правдивы. И это в такой системе недостаток _неустранимый_.

За объяснение психологии спасибо. Но касательно их рациональности у меня есть вопросы. При такой постановке вопроса чем это отличается от других решений, которых массы не понимают и боятся: использование атомной энергии, химических удобрений, ГМО, экспериментов на БАК (там есть точно такие же массивы данных, которые проверить более или менее сложно)? Можно тоже сказать, их опасения этих вещей рационально, т.к. исходит из их картины мира. Но где здесь вообще граница?
Переформулирую: если считать рациональным любое решение человека исходя из его картины мира, вне зависимости от применяемого способа мышления (селективной критичности/доверчивости, мотивированной остановке/продолжения и т.п.) и результатов, то где проходит граница рационального поведения?

само выражение этих идей часто закрепляется как уголовное престпление. На мой взгляд такая система ещё менее точна, но люди её поддерживают.

Мне кажется, Вы что-то перепутали. Уголовным преступлением много где является диффамация, но, насколько мне известно, разложение правовой среды в развитых странах ещё не дошло до того, чтобы объявлять уголовным преступлением разговоры о допустимости фантастических методов ограничения преступности.

Полная цитата:

И ещё вопрос. На мой взгляд к инакомыслящим сторонникам сильно порицаемых идей отношение настолько отрицательное (что в России, что в Европе), что большинство населения за ущемление прав этих лиц даже без совершения ими преступлений, более того, само выражение этих идей часто закрепляется как уголовное престпление.

Имелись в виду порицаемые идеи.

И, чтобы прояснить: вы считаете, что у этих людей КИ, мешающее им думать рационально или у меня?

Ну если уж Вы спрашиваете - я думаю, что у Вас.

Ок. Можете пояснить где мои ошибки и какие КИ я использую?

Задержание - это широкое понятие.

Вы писали выше о помещении в заключение, изоляции. Я отвечал именно на это.
Что до более мягких способов реакции, то я как раз и пишу, что протест против них и не будет таким резким.

Подождите, я не понимаю. Задержание происходит сначала, помещение в изолятор потом. Как бесконфликтный захват противоречит изоляции?

Затрудняюсь понять что именно Вы не поняли и как Ваш комментарий это поясняет.
Попробую другими словами: я считаю, что на этом форуме в попытке найти какие-то волшебные универсальные алгоритмы уклоняются от той базы, на которой строится рациональность: опоры на как можно больший массив достоверных знаний.

Вы имеете какие-то конкретные высказывания или общее направление? Пока из всего, что тут обсуждалось могу припомнить только калибровку на произвольных данных. Касательно же сбора данных и их анализа ещё раз упомяну статью "Мотивированная остановка и мотивированное продолжение."

Мораль в том, что решение уничтожить процедуру поиска (временно или навсегда), равно как и сама процедура, является подверженным искажению и скрытым мотивам. Вы должны подозревать мотивированную остановку, когда заканчиваете поиск и приходите к удобному решению, хотя при этом есть множество легкодоступных свидетельств, которые вы еще не собрали — сайты, которые вы можете посетить, контр-контраргументы, которые вы можете рассмотреть, или хотя бы те же пять минут, которые можно твердо выделить на обдумывание лучшего варианта. Вы должны подозревать мотивированное продолжение, когда есть некоторые свидетельства, склоняющие вас на путь, который вам не нравится, но вы решаете, что нужно еще свидетельств — дорогих свидетельств, которые как вы знаете, вы не можете в скором времени собрать, в противоположность тому, чтобы полчаса полазить в Гугле — прежде чем вам нужно будет сделать нечто неудобное.

Ну и "Сколько свидетельств понадобится". Что на ваш взгляд там неправильно?
В любом случае мы должны иметь и какой-то алгоритм мышления, который будет ответственен за анализ, и данные для анализа, но от алгортима ещё и зависит, как долго мы будем собирать данные до остановки и насколько глубоко будем анализировать (и насколько близкими к реальности будут прогнозы).
В общем, чтоб было понятнее, вы утверждаете, что:
1. При достоверных данных алгоритмы не особо важны
ИЛИ 2. Что Имеющиеся алгоритмы "Традиционной рациональности" в терминоологии LW достаточно хороши, а поиск новых отвлекает от сбора данных
ИЛИ 3. Что какие-то из участников "на этом форуме в попытке найти какие-то волшебные универсальные алгоритмы уклоняются от той базы, на которой строится рациональность: опоры на как можно больший массив достоверных знаний."

Впрочем на главные направления их хватило:
а) большинство людей достаточно хреново разбирается во времени
б) любое наше знание о будущем носит вероятностный характер.

Имеете в виду, что поэтому люди против?

Поэтому если мы всё таки опираемся не на прозрения подростка со сверхспособностями, а на анализ, то надо просчитывать варианты воздействия. В некоторой тривальной форме так и работает предупреждение преступлений уже сегодня: от профилактических бесед и соцподдержки до штрафов и задержаний за слабокриминальные деяния, могущие быть предшественником более крупных нарушений(в т.ч. принудительное лечение алкоголизма и наркомании).

Это да. По идее предсказатель с точными предсказаниями и достаточными возможностями может сколько угодно сильно изменять зависимую систему, вплоть до того, чтобы преступники не появлялись. И систему контроля можно придумать сколько угодно сложную и учитывающую множество факторов. Но меня интересовало соответствие рационализму и консеквенциолизму базовой идеи (и из-за чего возникает протест против неё).

24

Общение / Re: Предсказатели и реакция общества.

« : 28 Апреля 2017, 12:25 »

Что изменится, если появится более надёжная система предсказания поведения? Для социума - очень мало, потому что каждый член социума по-прежнему не будет иметь веских оснований доверять этой системе. Может быть эта новая система и надёжна, но сограждане не могут этого знать, не могу проверить эту степень надёжности, не могут доверять уверениям в этой надёжности. Её использование без проверки другими средствами открывает широчайший простор для злоупотреблений, и каждый отдельный нормально социализированный человек это чувствует, и это побуждает настаивать, чтобы старая система сохранялась, чтобы метки преступника не накладывались без веских, проверяемых со стороны оснований. А если преступления не произошло, то такие проверяемые основания сложно себе представить.

Без проверки - да. Но так или иначе не получится оценить вероятность правильности предсказаний ПК без прогона его на тестовых данных. Кроме того, он может анализировать и информацию без реагирования: за областью действия (т.е. возможни задержания) агентов ПК, по несерьёзным правонарушениям (которые не требуют изоляции) и т.п. А если мы как-то смогли это оценить и обнаружили, что точность предсказаний достаточно высокая, то такое предсказание само по себе становится веско причиной. Или нет?
И ещё вопрос. На мой взгляд к инакомыслящим сторонникам сильно порицаемых идей отношение настолько отрицательное (что в России, что в Европе), что большинство населения за ущемление прав этих лиц даже без совершения ими преступлений, более того, само выражение этих идей часто закрепляется как уголовное престпление. На мой взгляд такая система ещё менее точна, но люди её поддерживают.
И, чтобы прояснить: вы считаете, что у этих людей КИ, мешающее им думать рационально или у меня?

Как Вы думаете, если потенциальному преступнику в этот момент просто немедленно сообщить, что это место находится под наблюдением и со всех сторон ждут полицейские дроны, то какая доля преступников всё равно совершит после этого преступление?
Мне кажется, что продолжат только те, у кого в мозгах уже какие-то психиатрические нарушения, а таких как раз по сугубо психиатрическим критериям допустимо изолировать, это не вызывает никакого протеста.

Задержание - это широкое понятие. Бесконфликтный захват тоже в него входит. Обычно иной применяется в случаях, когда бесконфликный не удался или не имеет смысла его применять из-за очень малой вероятности успешности или представляемой задерживаемым опасности.

Я вряд ли больше понимаю в рациональности в том смысле, как она понимается на этом форуме. Я тут сторонник партии альтернативного умственного развития (основанного прежде всего на принципе важности _точных знаний_, а не вычисления полезности по абстрактным принципам)

Не понимаю вообще такого противопоставления. Наши знания о физическом мире никогда не точны на 100%, мы всегда вынуждены определяться, когда прекращать анализировать и начинать действовать (даже если периодов анализа-действия несколько).

25

Общение / Re: Предсказатели и реакция общества.

« : 28 Апреля 2017, 10:58 »

А если это оформляется не как наказание, а как мера предосторожности вроде карантина или ограничения свободы психически больного человека, то и такой протест резко снизится.

Имеете в виду, что люди протесуют против названия самого по себе? У меня используется "ущемление прав людей на основе предсказания оракула" - с вашей т.з. какой уровень протеста это должно вызывать?

Ну и при таких возможностях вычислительной техники в ограничении прав вообще нет смысла: сосредоточьте на потенциальном преступнике внимание и поймайте его при попытке совершить преступление, вот и всё.

ИМХО, для начала работы такой системы достаточно, чтобы вероятность правильного предсказания предсказывающим компьютером была достаточно высока для превышения полезности обществу от задержания тех, кого ПК предсказал правильно над вредом от задержания тех, в ком он ошибся. Собственно, дожидаться начала совершения преступления с моей т.з. - это ждать получения дополнительных свидетельств ценой возрастания рисков и увеличения затрат ресурсов на контроль.
Как я представляю работу системы: ПК постоянно получает всю доступную информацию от своих агентов, которые сотрудничают с основными её сборщиками, командуют ими или сами ими являются (сюда же отнесём  автоматизированные системы слежки и т.п.). Когда вероятность совершения преступления у гражданина Х становится достаточно высока (при этом для более тяжкого престпления может хватать меньшей вероятности), агенты ПК получают задание задержать Х и поместить в изолятор. После того, как Х туда доставлен, ПК получает дополнительную информацию (допрашивает его, сканирует и т.п.) и уточняет свою вероятность. ПК продолжает следить за параметрами Х, пока вероятность не упадёт ниже какой-то безопасной оценки (с учётом возможной ошибки эта вероятность будет ниже, чем хватает для задержания, может быть, в некоторых случаях, намного ниже). Пока вероятность не падает, Х сидит. Естественно, есть некоторая вероятность убийства Х агентами ПК при задержании или его опасных действиях, направленных на побег из изолятора (остальные возможности пока не рассматриваем, т.к. они напрямую к такой системе не относятся).
Но если нельзя сразу задерживать Х, а надо ждать именно начала совершения преступления, то слежка за ним должна быть более сильной чем за остальными (иначе нет оснований утверждать, что используется идея ущемления прав людей на основе предсказания оракула). При этом если для того чтобы ПК чекнул вероятность, необязательно, чтобы Х постоянно находился под наблюдением, то для предупреждения совершения им преступления уже обязательно (точнее, чем больше наблюдения и оперативней реагирование, тем больше вероятность не опоздать с задержанием).
P.S. Возможно, вы больше понимаете в рациональности, чем я, объясните, тогда в чём состоит моя ошибка.

26

Общение / Предсказатели и реакция общества.

« : 28 Апреля 2017, 00:27 »

Всем привет!
Пишу кратко. Используя методы компьютерного моделирования, можно предсказывать поведение довольно сложных систем. Естественно, у людей возникла идея предсказывать таким образом поведение человека. Эта идея была отражена в фанстастике самого разного пошиба. Одно из применений - вычислять преступников (всех или каких-то особенных) до совершения преступления. Обычно представлено через предсказывающий компьютер и его агентов (полиция или отдельная организация).
По моим наблюдениям в обществе эта идея воспринимается резко негативно. Мне же, наоборот, представляется соответствующей самому что ни на есть труЪ-консеквенциолизму. Вот и не пойму - это люди настолько нерациональны (деонтологизм и конформизм сюда же) или косяк у меня?

Также хотелось бы узнать мнение остальных участников