Предсказатели и реакция общества.

[outcasty]

Всем привет!
Пишу кратко. Используя методы компьютерного моделирования, можно предсказывать поведение довольно сложных систем. Естественно, у людей возникла идея предсказывать таким образом поведение человека. Эта идея была отражена в фанстастике самого разного пошиба. Одно из применений - вычислять преступников (всех или каких-то особенных) до совершения преступления. Обычно представлено через предсказывающий компьютер и его агентов (полиция или отдельная организация).
По моим наблюдениям в обществе эта идея воспринимается резко негативно. Мне же, наоборот, представляется соответствующей самому что ни на есть труЪ-консеквенциолизму. Вот и не пойму - это люди настолько нерациональны (деонтологизм и конформизм сюда же) или косяк у меня?

Также хотелось бы узнать мнение остальных участников

[nar]

Вопрос некорректен.
Рационализм это лишь метод достижения целей и ничего более. Очевидно, как минимум целям преступника посадка его в тюрьму в большинстве случаев противоречит (причём не важно по какой причине это случилось). Целям кого-то другого - возможно соответствует. Чьи цели тут выбирать и почему - вопрос опять же выходящий за рамки. Не имея определённости в целях, говорить о каком бы то ни было рационализме вообще не следует.

[Muyyd1]

По моим наблюдениям в обществе эта идея воспринимается резко негативно. Мне же, наоборот, представляется соответствующей самому что ни на есть труЪ-консеквенциолизму. Вот и не пойму - это люди настолько нерациональны (деонтологизм и конформизм сюда же) или косяк у меня?

В зависимости от точности прогноза такая система действительно может представлять мечту человеческого рационалиста. Ведь убийство, например, несет серьезную долю отрицательной полезности, и предотвращение - благое дело.
Мне кажется, что значительная часть "негатива в общесте" возникает из-за поп взглядов на свободу воли. Обсуждаемые прогнозы возможно делать лишь на основе физических наблюдаемых явлений, а поп концепция свободы воли помещает часть принимающего решения аппарата у человека вне физики (там и располагается "свобода воли"). Так что получается, что поведение предопределяется не только физическим миром, но и чем-то еще. Делая прогноз об убийстве на основе наблюдаемых явлений, мы будем игнорировать ту часть человека, которая "могла бы и передумать". Т.е. (если речь уже идет о наказании) наказывать еще невиновного человека.

[nar]

В зависимости от точности прогноза такая система действительно может представлять мечту человеческого рационалиста. Ведь убийство, например, несет серьезную долю отрицательной полезности, и предотвращение - благое дело.

Как вы объясните введенную вами абсолютную функцию полезности, не привязанную к субъекту?

[Muyyd1]

Я же сказал, что речь идет про человеческого рационалиста. И ожидаю, что большинство рефлексирующих над своей фп рационалистов обнаружат, что убийство (т.е. мертвый человек, который недавно был живым) имеет отрицательное значение полезности.

[sergeyr]

Вычисление вряд ли воспринимается сколько-нибудь рациональными людьми сильно негативно.
Негативно может восприниматься _наказание_ на основе вычисления (т.е. наказание за не совершенный проступок).
А если это оформляется не как наказание, а как мера предосторожности вроде карантина или ограничения свободы психически больного человека, то и такой протест резко снизится.
Ну и при таких возможностях вычислительной техники в ограничении прав вообще нет смысла: сосредоточьте на потенциальном преступнике внимание и поймайте его при попытке совершить преступление, вот и всё.

[outcasty]

А если это оформляется не как наказание, а как мера предосторожности вроде карантина или ограничения свободы психически больного человека, то и такой протест резко снизится.

Имеете в виду, что люди протесуют против названия самого по себе? У меня используется "ущемление прав людей на основе предсказания оракула" - с вашей т.з. какой уровень протеста это должно вызывать?

Ну и при таких возможностях вычислительной техники в ограничении прав вообще нет смысла: сосредоточьте на потенциальном преступнике внимание и поймайте его при попытке совершить преступление, вот и всё.

ИМХО, для начала работы такой системы достаточно, чтобы вероятность правильного предсказания предсказывающим компьютером была достаточно высока для превышения полезности обществу от задержания тех, кого ПК предсказал правильно над вредом от задержания тех, в ком он ошибся. Собственно, дожидаться начала совершения преступления с моей т.з. - это ждать получения дополнительных свидетельств ценой возрастания рисков и увеличения затрат ресурсов на контроль.
Как я представляю работу системы: ПК постоянно получает всю доступную информацию от своих агентов, которые сотрудничают с основными её сборщиками, командуют ими или сами ими являются (сюда же отнесём  автоматизированные системы слежки и т.п.). Когда вероятность совершения преступления у гражданина Х становится достаточно высока (при этом для более тяжкого престпления может хватать меньшей вероятности), агенты ПК получают задание задержать Х и поместить в изолятор. После того, как Х туда доставлен, ПК получает дополнительную информацию (допрашивает его, сканирует и т.п.) и уточняет свою вероятность. ПК продолжает следить за параметрами Х, пока вероятность не упадёт ниже какой-то безопасной оценки (с учётом возможной ошибки эта вероятность будет ниже, чем хватает для задержания, может быть, в некоторых случаях, намного ниже). Пока вероятность не падает, Х сидит. Естественно, есть некоторая вероятность убийства Х агентами ПК при задержании или его опасных действиях, направленных на побег из изолятора (остальные возможности пока не рассматриваем, т.к. они напрямую к такой системе не относятся).
Но если нельзя сразу задерживать Х, а надо ждать именно начала совершения преступления, то слежка за ним должна быть более сильной чем за остальными (иначе нет оснований утверждать, что используется идея ущемления прав людей на основе предсказания оракула). При этом если для того чтобы ПК чекнул вероятность, необязательно, чтобы Х постоянно находился под наблюдением, то для предупреждения совершения им преступления уже обязательно (точнее, чем больше наблюдения и оперативней реагирование, тем больше вероятность не опоздать с задержанием).
P.S. Возможно, вы больше понимаете в рациональности, чем я, объясните, тогда в чём состоит моя ошибка.

[sergeyr]

Имеете в виду, что люди протесуют против названия самого по себе?

Да. Только не против названия политики, а против называния друг друга.
Потому что это уже сложившаяся система сигналов в уже сложившейся социальной системе.
В каждом обществе, начиная с первобытных*, существуют такие слова-маркеры, которыми обозначаются люди, склонные совершать преступления. Разумеется, отношение к таким людям становится настороженным, оказавшись в тяжелой ситуации они могут не получить той помощи соседей, на которую мог бы рассчитывать обычный человек, и если неизвестно кто совершил какое-то преступление, то подозрение падает именно на таких людей, поэтому использование такого маркера по отношению к какому-то человеку - это нанесение ему тем самым ощутимого вреда. Наша психика прекрасно настроена на то, чтобы такие сигналы воспринимать, реагировать на них, и воспринимать опасность получить такую метку как вполне реальный вред, а не нечто, чем можно пренебрегать за его полной виртуальностью.

(*) В соседнем топике я вчера приводил ссылку на исследование агрессии в сообществах охотников-собирателей, там приводятся вполне понятные и нам маркеры (напр. речь старика с такими словами: "он был лев, он ел людей" - фраза означает не людоедство и не то, что человек был, по мнению расказчика, львом-оборотнем, а просто нападения и убийства без уважительной причины, подобно тому как выглядят аналогичные действия льва-людоеда).

Так вот, вся эта система основывается на определенных, уже _сложившихся_ принципах. Наказание - и в т.ч. такое чисто сигнальное, как маркировка преступника преступником - долно следовать за преступлением. Хотя у людей очень неплохая система предсказания склонностей друг друга (основанная на общности строения мозга и наличии зеркальных нейронов), но она недостаточно надёжна и, что может быть ещё важнее - недостаточно _открыта_, т.е. вынуждает каждого полагаться больше на его собственные способности. Недоверие к предсказательным суждениям и правдивости передачи таких суждений вынуждает полагаться на более весомые и проверяемые свидетельства.

Что изменится, если появится более надёжная система предсказания поведения? Для социума - очень мало, потому что каждый член социума по-прежнему не будет иметь веских оснований доверять этой системе. Может быть эта новая система и надёжна, но сограждане не могут этого знать, не могу проверить эту степень надёжности, не могут доверять уверениям в этой надёжности. Её использование без проверки другими средствами открывает широчайший простор для злоупотреблений, и каждый отдельный нормально социализированный человек это чувствует, и это побуждает настаивать, чтобы старая система сохранялась, чтобы метки преступника не накладывались без веских, проверяемых со стороны оснований. А если преступления не произошло, то такие проверяемые основания сложно себе представить. Поэтому-то такая утопия и вызывает немедленный протест.

Однако если в результате предсказания не происходит ничего, кроме временных мер, то недоверие к такой системе оказывается намного менее значимым. Наносимый ей подозреваемым вред много меньше, отношение к такой практике становится более нейтральным.

Когда вероятность совершения преступления у гражданина Х становится достаточно высока (при этом для более тяжкого преступления может хватать меньшей вероятности), агенты ПК получают задание задержать Х и поместить в изолятор.

Как Вы думаете, если потенциальному преступнику в этот момент просто немедленно сообщить, что это место находится под наблюдением и со всех сторон ждут полицейские дроны, то какая доля преступников всё равно совершит после этого преступление?
Мне кажется, что продолжат только те, у кого в мозгах уже какие-то психиатрические нарушения, а таких как раз по сугубо психиатрическим критериям допустимо изолировать, это не вызывает никакого протеста (потому что даже не-психиатр, пообщавшись с психом, часто чувствует что с ним что-то глубоко не в порядке, хотя может и не понимать что именно; проверяемость предсказания для обычного члена социума становится достаточной для превентивных мер).

Возможно, вы больше понимаете в рациональности, чем я, объясните, тогда в чём состоит моя ошибка.

Я вряд ли больше понимаю в рациональности в том смысле, как она понимается на этом форуме. Я тут сторонник партии альтернативного умственного развития (основанного прежде всего на принципе важности _точных знаний_, а не вычисления полезности по абстрактным принципам).

[outcasty]

Что изменится, если появится более надёжная система предсказания поведения? Для социума - очень мало, потому что каждый член социума по-прежнему не будет иметь веских оснований доверять этой системе. Может быть эта новая система и надёжна, но сограждане не могут этого знать, не могу проверить эту степень надёжности, не могут доверять уверениям в этой надёжности. Её использование без проверки другими средствами открывает широчайший простор для злоупотреблений, и каждый отдельный нормально социализированный человек это чувствует, и это побуждает настаивать, чтобы старая система сохранялась, чтобы метки преступника не накладывались без веских, проверяемых со стороны оснований. А если преступления не произошло, то такие проверяемые основания сложно себе представить.

Без проверки - да. Но так или иначе не получится оценить вероятность правильности предсказаний ПК без прогона его на тестовых данных. Кроме того, он может анализировать и информацию без реагирования: за областью действия (т.е. возможни задержания) агентов ПК, по несерьёзным правонарушениям (которые не требуют изоляции) и т.п. А если мы как-то смогли это оценить и обнаружили, что точность предсказаний достаточно высокая, то такое предсказание само по себе становится веско причиной. Или нет?
И ещё вопрос. На мой взгляд к инакомыслящим сторонникам сильно порицаемых идей отношение настолько отрицательное (что в России, что в Европе), что большинство населения за ущемление прав этих лиц даже без совершения ими преступлений, более того, само выражение этих идей часто закрепляется как уголовное престпление. На мой взгляд такая система ещё менее точна, но люди её поддерживают.
И, чтобы прояснить: вы считаете, что у этих людей КИ, мешающее им думать рационально или у меня?

Как Вы думаете, если потенциальному преступнику в этот момент просто немедленно сообщить, что это место находится под наблюдением и со всех сторон ждут полицейские дроны, то какая доля преступников всё равно совершит после этого преступление?
Мне кажется, что продолжат только те, у кого в мозгах уже какие-то психиатрические нарушения, а таких как раз по сугубо психиатрическим критериям допустимо изолировать, это не вызывает никакого протеста.

Задержание - это широкое понятие. Бесконфликтный захват тоже в него входит. Обычно иной применяется в случаях, когда бесконфликный не удался или не имеет смысла его применять из-за очень малой вероятности успешности или представляемой задерживаемым опасности.

Я вряд ли больше понимаю в рациональности в том смысле, как она понимается на этом форуме. Я тут сторонник партии альтернативного умственного развития (основанного прежде всего на принципе важности _точных знаний_, а не вычисления полезности по абстрактным принципам)

Не понимаю вообще такого противопоставления. Наши знания о физическом мире никогда не точны на 100%, мы всегда вынуждены определяться, когда прекращать анализировать и начинать действовать (даже если периодов анализа-действия несколько).

[Scondo]

Гражданская война 2, как она есть...

К сожалению, хотя Тони Старк должен быть Очень Умным, но его авторы, похоже, не достаточно умны, чтобы описать математические проблемы предотвращения предсказанного преступления. Впрочем на главные направления их хватило:
а) большинство людей достаточно хреново разбирается во времени
б) любое наше знание о будущем носит вероятностный характер

Насчёт вероятностного характера уже упомянули, но кроме того не надо забывать, что сколь бы не были велики вероятности - они будут постоянно искажаться из-за самореференции.
В принципе любое решение, принятое на основе предсказания заключает нас в парадокс дедушки. Только с приправой из самосбывающегося пророчества.

Поэтому если мы всё таки опираемся не на прозрения подростка со сверхспособностями, а на анализ, то надо просчитывать варианты воздействия. В некоторой тривальной форме так и работает предупреждение преступлений уже сегодня: от профилактических бесед и соцподдержки до штрафов и задержаний за слабокриминальные деяния, могущие быть предшественником более крупных нарушений(в т.ч. принудительное лечение алкоголизма и наркомании).

[sergeyr]

Без проверки - да. Но так или иначе не получится оценить вероятность правильности предсказаний ПК без прогона его на тестовых данных.

Дело вне в этом. Прогон тестовых данных - это проблемы организаторов этой системы. А доверие к ней - это проблемы _социума_. Массы людей, которые тестовые данные проверить не могут, и знают при этом, что вот этот непроверяемый оракул может на любого указать пальцем. И если этот палец будет немедленно наносить вред, то это и вызывает резкое (и совершенно рациональное) несогласие. Потому что людям _неоткуда знать_, что эта штука производит больше пользы, чем вреда. Заявления по этому поводу могут быть какие угодно, но людям неоткуда знать, что эти заявления правдивы. И это в такой системе недостаток _неустранимый_.

само выражение этих идей часто закрепляется как уголовное престпление. На мой взгляд такая система ещё менее точна, но люди её поддерживают.

Мне кажется, Вы что-то перепутали. Уголовным преступлением много где является диффамация, но, насколько мне известно, разложение правовой среды в развитых странах ещё не дошло до того, чтобы объявлять уголовным преступлением разговоры о допустимости фантастических методов ограничения преступности.

И, чтобы прояснить: вы считаете, что у этих людей КИ, мешающее им думать рационально или у меня?

Ну если уж Вы спрашиваете - я думаю, что у Вас.

Задержание - это широкое понятие.

Вы писали выше о помещении в заключение, изоляции. Я отвечал именно на это.
Что до более мягких способов реакции, то я как раз и пишу, что протест против них и не будет таким резким.

Не понимаю вообще такого противопоставления. Наши знания о физическом мире никогда не точны на 100%, мы всегда вынуждены определяться, когда прекращать анализировать и начинать действовать (даже если периодов анализа-действия несколько).

Затрудняюсь понять что именно Вы не поняли и как Ваш комментарий это поясняет.
Попробую другими словами: я считаю, что на этом форуме в попытке найти какие-то волшебные универсальные алгоритмы уклоняются от той базы, на которой строится рациональность: опоры на как можно больший массив достоверных знаний.

[outcasty]

Дело вне в этом. Прогон тестовых данных - это проблемы организаторов этой системы. А доверие к ней - это проблемы _социума_. Массы людей, которые тестовые данные проверить не могут, и знают при этом, что вот этот непроверяемый оракул может на любого указать пальцем. И если этот палец будет немедленно наносить вред, то это и вызывает резкое (и совершенно рациональное) несогласие. Потому что людям _неоткуда знать_, что эта штука производит больше пользы, чем вреда. Заявления по этому поводу могут быть какие угодно, но людям неоткуда знать, что эти заявления правдивы. И это в такой системе недостаток _неустранимый_.

За объяснение психологии спасибо. Но касательно их рациональности у меня есть вопросы. При такой постановке вопроса чем это отличается от других решений, которых массы не понимают и боятся: использование атомной энергии, химических удобрений, ГМО, экспериментов на БАК (там есть точно такие же массивы данных, которые проверить более или менее сложно)? Можно тоже сказать, их опасения этих вещей рационально, т.к. исходит из их картины мира. Но где здесь вообще граница?
Переформулирую: если считать рациональным любое решение человека исходя из его картины мира, вне зависимости от применяемого способа мышления (селективной критичности/доверчивости, мотивированной остановке/продолжения и т.п.) и результатов, то где проходит граница рационального поведения?

само выражение этих идей часто закрепляется как уголовное престпление. На мой взгляд такая система ещё менее точна, но люди её поддерживают.

Мне кажется, Вы что-то перепутали. Уголовным преступлением много где является диффамация, но, насколько мне известно, разложение правовой среды в развитых странах ещё не дошло до того, чтобы объявлять уголовным преступлением разговоры о допустимости фантастических методов ограничения преступности.

Полная цитата:

И ещё вопрос. На мой взгляд к инакомыслящим сторонникам сильно порицаемых идей отношение настолько отрицательное (что в России, что в Европе), что большинство населения за ущемление прав этих лиц даже без совершения ими преступлений, более того, само выражение этих идей часто закрепляется как уголовное престпление.

Имелись в виду порицаемые идеи.

И, чтобы прояснить: вы считаете, что у этих людей КИ, мешающее им думать рационально или у меня?

Ну если уж Вы спрашиваете - я думаю, что у Вас.

Ок. Можете пояснить где мои ошибки и какие КИ я использую?

Задержание - это широкое понятие.

Вы писали выше о помещении в заключение, изоляции. Я отвечал именно на это.
Что до более мягких способов реакции, то я как раз и пишу, что протест против них и не будет таким резким.

Подождите, я не понимаю. Задержание происходит сначала, помещение в изолятор потом. Как бесконфликтный захват противоречит изоляции?

Затрудняюсь понять что именно Вы не поняли и как Ваш комментарий это поясняет.
Попробую другими словами: я считаю, что на этом форуме в попытке найти какие-то волшебные универсальные алгоритмы уклоняются от той базы, на которой строится рациональность: опоры на как можно больший массив достоверных знаний.

Вы имеете какие-то конкретные высказывания или общее направление? Пока из всего, что тут обсуждалось могу припомнить только калибровку на произвольных данных. Касательно же сбора данных и их анализа ещё раз упомяну статью "Мотивированная остановка и мотивированное продолжение."

Мораль в том, что решение уничтожить процедуру поиска (временно или навсегда), равно как и сама процедура, является подверженным искажению и скрытым мотивам. Вы должны подозревать мотивированную остановку, когда заканчиваете поиск и приходите к удобному решению, хотя при этом есть множество легкодоступных свидетельств, которые вы еще не собрали — сайты, которые вы можете посетить, контр-контраргументы, которые вы можете рассмотреть, или хотя бы те же пять минут, которые можно твердо выделить на обдумывание лучшего варианта. Вы должны подозревать мотивированное продолжение, когда есть некоторые свидетельства, склоняющие вас на путь, который вам не нравится, но вы решаете, что нужно еще свидетельств — дорогих свидетельств, которые как вы знаете, вы не можете в скором времени собрать, в противоположность тому, чтобы полчаса полазить в Гугле — прежде чем вам нужно будет сделать нечто неудобное.

Ну и "Сколько свидетельств понадобится". Что на ваш взгляд там неправильно?
В любом случае мы должны иметь и какой-то алгоритм мышления, который будет ответственен за анализ, и данные для анализа, но от алгортима ещё и зависит, как долго мы будем собирать данные до остановки и насколько глубоко будем анализировать (и насколько близкими к реальности будут прогнозы).
В общем, чтоб было понятнее, вы утверждаете, что:
1. При достоверных данных алгоритмы не особо важны
ИЛИ 2. Что Имеющиеся алгоритмы "Традиционной рациональности" в терминоологии LW достаточно хороши, а поиск новых отвлекает от сбора данных
ИЛИ 3. Что какие-то из участников "на этом форуме в попытке найти какие-то волшебные универсальные алгоритмы уклоняются от той базы, на которой строится рациональность: опоры на как можно больший массив достоверных знаний."

Впрочем на главные направления их хватило:
а) большинство людей достаточно хреново разбирается во времени
б) любое наше знание о будущем носит вероятностный характер.

Имеете в виду, что поэтому люди против?

Поэтому если мы всё таки опираемся не на прозрения подростка со сверхспособностями, а на анализ, то надо просчитывать варианты воздействия. В некоторой тривальной форме так и работает предупреждение преступлений уже сегодня: от профилактических бесед и соцподдержки до штрафов и задержаний за слабокриминальные деяния, могущие быть предшественником более крупных нарушений(в т.ч. принудительное лечение алкоголизма и наркомании).

Это да. По идее предсказатель с точными предсказаниями и достаточными возможностями может сколько угодно сильно изменять зависимую систему, вплоть до того, чтобы преступники не появлялись. И систему контроля можно придумать сколько угодно сложную и учитывающую множество факторов. Но меня интересовало соответствие рационализму и консеквенциолизму базовой идеи (и из-за чего возникает протест против неё).

[Alaric]

С моей точки зрения, ситуация обстоит так.
То, что вы думаете, то, что вы написали, то, как вас поняли, и то, как это понимание выразили - это четыре разных вещи, которые, в общем случае, очень плохо связаны между собой. Чем короче вы выразили свою мысль, тем сильнее эти четыре вещи отличаются. Я полагаю, что нетривиальность идеи тоже усиливает разрывы в пониманиях.

Когда вы пишете о том, что если придумать систему, которая будет предсказывать действия преступников, и за счёт неё ущемлять права, то у вас в голове получается одна картина. А у вашего собеседника, который вас слышит/читает - совершенно другая. Например, вы можете несколько раз подчеркнуть, что вы обсуждаете систему, которая совершенно надёжна, но собеседник не понимает, как такая система может быть "совершенно надёжна" и поэтому в его картине этого пункта нет в принципе, зато есть ущемление прав. Которому придаётся по каким-то причинам гораздо больший вес, чем это кажется необходимым вам. Да, непонимание может быть связано с когнитивными искажениями, например, даже если вы выразите надёжность своего оракула в числах, то, скорее всего, эти числа будут восприняты не так, как вы ожидаете - см. исследования Канемана на тему того, как люди вообще воспринимают выигрыши, проигрыши и вероятности выигрышей и проигрышей (в научно-популярной форме есть в "Думай медленно, решай быстро"). Но главное, повторюсь, это различие в картине мира. (К тому же, я полагаю, что вероятность того, что непонимание происходит только из-за того, что ровно у одной стороны есть когнитивное искажение, примерно равна нулю )

Более того, если вы каким-то образом убедите собеседника перейти на вашу картину мира, спор закончится моментально и, подозреваю, никакой пользы из этого никто из вас не извлечёт (если вы такую пользу видите, напишите, пожалуйста). Такие споры могут быть полезны, чтобы отточить собственную аргументацию или упорядочить собственную картину мира (замечу, что упорядочить тут совершенно не является синонимом "приблизить свою карту к реальности" - в результате подобного "упорядочивания" человек запросто может наоборот укрепиться в своих заблуждениях). Инструкторы CFAR рекомендуют использовать такие споры для лучшего понимания карты собеседника и, таким образом, для расширения собственной карты (но, как показывает практика, следовать упомянутым по ссылке рекомендациям довольно сложно ).

Вы можете рассказать, для чего вы тратите время, чтобы узнать ответ на поставленный вопрос? Почему для вас это важно?

PS Я совершенно не модератор и меня можно не принимать в расчёт, но я предположу, что, возможно, для рассуждений о том, как вообще рационально себя вести, стоит накапливать большие массивы знаний или нет, и так далее, лучше создать отдельную тему.

[Kroid]

Не пытаясь ответить на первоначальный вопрос, хочу заметить, что у существующей системы основная функция - не предотвращать преступления, а наказывать за них. У предсказателей другая цель. Поэтому, как минимум, следует использовать другие определения. И, соответственно, другие методы воздействия.

В узком смысле, такие "предсказатели" существуют в банковской и околобанковской сфере. Обычно это симбиоз алгоритмы + люди. Если клиент сделал нетипичное действие, например, перевел крупную сумму денег новому получателю, перевод приостанавливают и звонят за подтверждением. Но не блокируют счет, не вызывают полицию и т.д. Это хороший компромисс между неудобством и безопасностью.

[sergeyr]

При такой постановке вопроса чем это отличается от других решений, которых массы не понимают и боятся

В самом по себе непонимании разницы нет, но я ещё раз хочу обратить внимание, что в том виде, как предложили эту систему Вы (именно с ограничением прав) - она нарушает сложившуюся систему социальных сигналов, которая построена на совершенно других принципах. Именно поэтому я в каждом ответе стараюсь указать на то, что те же предсказания можно эффективно использовать _без_ нарушения этой системы - и это, как мне кажется, не потребует никаких дополнительных расходов (на том уровне, на котором такая система предсказания вообще представима).
Плохо не использование предсказаний - плохо такое их использование, которое разрушает инвариантные человеческие представления о справедливости (базе права).
Если можно надстроить эту систему, а не разрушить её и заменить другой, то нужно именно надстраивать, а разрушение трактовать как нанесение неоправданного урона социуму (или как минимум допущение неоправданного риска такого урона).

Разница с ГМО-, БАК- и радио- проче-фобиями в том, что в случае этих фобий нет никаких оснований считать, что происходит разрушение чего-то важного. Небольшое добросовестное изучение вопроса человеком, имеющим базовые школьные знания, должно немедленно показывать, что ГМО не более вмешиваются в основы жизнедеятельности человека и окружающих видов, чем традиционная селекция, что БАК создает не большую опасность, чем ежесекундная бомбардировка Земли космическими частицами сверхвысоких энергий, и т.д. Чтобы проверить эти все вещи - не нужно быть специалистами или иметь какие-то особые данные, все выводы лежат уже на поверхности.
В данном же случае прямой вред, напротив, на мой взгляд очевиден: людям предлагают воспользоваться каким-то совсем новым представлением о справедливости. Представлением, которое очень похоже на то, что произошло с безусловной передачей этического авторитета трансцендентному Абсолюту и представляющим его священникам (и последствия для социума будут, на моя взгляд, очень похожими). И я ручаюсь, что специалисты как раз будут резко возражать именно против введения такой системы, так что тут не возникнет вопроса недоверия между специалистами и ширнармассами.

Прошу прощения, на остальное обращенное ко мне я отвечу позже, сейчас нет возможности.