Просмотр сообщений - kuuff

Просмотр сообщений

В этом разделе можно просмотреть все сообщения, сделанные этим пользователем.


Темы - kuuff

Страницы: [1] 2
1
Общение / confounder
« : 01 Августа 2021, 23:28 »
Привет. Тут есть кто ещё живой?

В процессе перевода у меня тут возникла проблема. Есть в статистике термин confounder, и упоминаний его в русскоязычной литературе мне не найти. Что он означает в статистике я не буду излагать, там всё мутно очень, но в книжке, которую я перевожу, даётся чёткое определение, и я опишу его в терминах книги, чтобы было понятно о чём речь. Если у нас есть три переменные, состояния которых мы можем наблюдать (например, A, B и C), то они могут быть связаны причинно-следственными связями, и иногда эта связь выглядит так: A←B→C, и в этом случае B -- это confounder. То есть если мы совершим интервенцию в реальность и изменим значение B, то следом изменятся значения A и C. Если интервенцией мы будем менять A или C, то меняться будет только та переменная, которую мы меняем, а значения других не изменятся.

Ну так вот, это присказка была. Проблема в том, что а) confounding -- одна из ключевых тем книги; б) автор активно использует однокоренные слова, типа "to confound", "confounding" (причём и как существительное, и как прилагательное), "deconfounding", "deconfounder", и даже "to deconfound". То есть, если бы автор органичился словом "confounder", то я бы перевёл как "общая причина" и не парился бы.  Если бы "конфаундер" допускал бы словообразование согласно правилам русского языка, то я бы на этом и успокоился. Но это не очень работает, ниже примеры. Я сопроводил их условным переводом, исходя из идеи, что "confounding" -- сопричинность, а "to confound" -- сопричинивать.

- "confounding and deconfounding" -- заголовок главы, "сопричинность и рассопричинивание"
- "confounding bias occurs when ..." -- тут возникает производный термин "confounding bias" -- "сопричинный bias возникает тогда, когда..." (bias самостоятельная проблема, но поменьше масштабом).
- "sometimes confounders are known" -- "иногда сопричинные переменные известны"
- confounding variable -- то же самое что confounder, но как? "сопричинная переменная"? "сопричиняющая переменная"? "сопричинятор"?
- set of deconfounders -- "множество рассопричинивающих переменных", "множество рассопричиняторов"?
- this methods totally deconfounded the confounding problem -- это на грани каламбура, а может и за гранью, можно при желании положить болт, и написать обычным языком "методы полностью распутали запутанную проблему сопричинности", но если сохранять, то выходит "методы полностью рассопричинили проблему сопричинности".

И я уже вообще без идей чё делать. Я пробовал более буквальный перевод "confound" -- "соосновать", но как-то не фонтан выходит. Я уже скатился на идеи вида "confound"  -- "совокуплять": "совокупление и десовокупление", "набор десовокупляторов", "рассовокупить", "совокупляющая переменная": если бы не ассоциации с сексом было бы превосходно, но -- увы -- куда ж от них деться. Да и "рассовокупить" навскидку непонятно как читать: "рас совок купить"? "рассово купить"? Но это мне кажется не очень важно.

У меня конечно есть отходной путь -- "оставить как есть", то есть писать в русском тексте confounder, confound'ить, снимая с себя любую ответственность. Или перевести confounder как "общая причина", а потом городить огород деепричастных оборотов и зависимых предложений, заменяя термины их определениями. Но брр... очень не хочется.

Any ideas? Можно даже дурацкие идеи или откровенно клоунские "на поржать": если они и окажутся не очень, то может натолкнут меня на что-то.

2
Рациональность / The Book of Why
« : 25 Марта 2021, 22:27 »
Читали такую книжку? Если нет, то я очень рекомендую.

Байесианство -- это прошлый век. Judea Pearl с тех пор придумал кой-что покруче: causal inference. (не знаю как лучше перевести: "причинный вывод" мне слишком напоминает про причинное место, поэтому пускай будет "каузальный вывод"). И его наработки вырывают мозг, когда после неё думаешь о причинах и следствиях в реальности, ощущение будто наконец-то картинка попала в фокус, и вместо туманных очертаний мыслей видишь чёткие и резкие границы их.

Я, почитав Юдковского, копал тему глубже, в частности и курс экспериментальной психологии одолел, который весь посвящён тому, как измерить причинно-следственную связь, тому как теория связана с реальностью, и тому подобным вещам. И там немало говорилось о том, как матстатистика может помочь в этом. Но в курсе экспериментальной психологии преподы прямо и чётко говорили: единственный способ измерить причинно-следственную связь -- это эксперимент, то есть исследование, в котором экспериментатор управляет тем фактором, который считает причиной, и смотрит на другой фактор, который он считает следствием. Он набирает данных, считает статистикой, и делает вывод. Помимо эксперимента есть и другие способы исследования, но они в лучшем случае меряют корреляцию. И хоть некоторые и близки к каузальности, но всё равно корреляционная хрень и зашквар.

Так говорила экспериментальная психология, но я почитал Judea Pearl... Его подход: данные это не всё. Если у нас есть теоретическая модель изучаемого явления, то из неё мы можем предположить как там причинно-следственные связи выстроены и нарисовать диаграммку, по-типу байесианской сети, но не совсем. А потом, глядя на эту диаграммку, мы можем прикинуть какие данные мы можем собрать, и какие нам нужны для того, чтобы измерить вес каждой из предположенной причинно-следственной связи, то есть вклад этой причинно-следственной связи в результат.

Этим дело, естественно не ограничивается -- counterfactuals, например, позволяют решать задачки типа: "Дано: ДТП с нетрезвым водителем, он уворачивался от пешехода и вошёл в столб. Какова вероятность, что его нетрезвость была причиной ДТП, и какова вероятность, что причиной было опасное поведение пешехода?" В смысле ответы на counterfactual вопросы типа "если бы водитель был трезв, ДТП бы всё равно произошло или нет?" Или mediation -- если мы видим, что средняя зарплата женщин в компании ниже чем средняя зарплата у мужчин, то почему так? Потому что женщин дискриминируют в компании, или потому что у женщин в более низкая квалификация? Все эти курсы экспериментальной психологии и матстатистики и даже байесианство не подготовили меня к такому вопросу, я искренне считал, что ответить на него невозможно. Ну вы сами прикиньте: пол явно влияет на зарплату, вопрос в том, влияет ли он через дискриминацию или через квалификацию. Как это можно распутать? Но Перл объясняет как.

Когда я читал про байесианство, возможность ответить на вопрос "сколько локомотивов в компании X, если мы видели один её локомотив и у него номер 7" казалась мне мозговыносящей. Сейчас я прочитал The Book of Why, и у меня то же самое чувство: я могу осмысленно рассуждать о вещах, и при наличии данных делать осмысленные выводы в тех ситуациях, в которых раньше я даже помыслить не мог о возможности осмысленно рассуждать.

Короче, я очень рекомендую взять и почитать. Книга написана для самой широкой аудитории. Она, тем не менее, местами требует морщить мозг, но, во-первых, местами, во-вторых, не запредельно, а в-третьих, результат выносит мозг, почище любой травы.

3
Общение / когда знания стали опасны
« : 16 Февраля 2019, 14:19 »
Цитировать
Первым учёным-маглам недоставало ваших традиций. Вначале они не имели представления об опасности знания и считали, что можно свободно говорить обо всём, что им удаётся узнать. Но когда знания стали опасны, они сказали своим политикам, что всё нужно держать в секрете
https://blog.openai.com/better-language-models/

Вкратце. Проект OpenAI натаскал нейросетку на генерацию текстов. Очень правдоподобных текстов, то есть очень похожих на написанное людьми. На моём уровне знания английского эти тексты неотличимы, от написанных людьми. Нейросетка может прочитать текст и ответить на вопросы о нём. Там по ссылке есть примеры.

Статья предполагает, что у подобный AI может быть использован для очень разных целей, и в частности злоумышленниками:
  • для генерации фейковых новостей
  • чтобы выдавать себя за другого
  • для автоматизации производства оскорбительного или фейкового контента в соцсетях
  • для автоматизации спама/фишинга

И поэтому исследователи выложили результаты лишь отчасти. Они не выложили готовую модель, не выложили данные, на которых тренировали нейросетку, не выложили программу, которая тренировала нейросетку. Как я понимаю, они выложили лишь топологию сетки, типа как там нейроны соединяются.

Это не спасёт нас от того, что мем "there are no girls on the Internet" устареет и его заменит "there are no humans on the Internet". Идея ясна, повторить разработку не так сложно. Нужен лишь один посредственный специалист и вычислительный кластер для тренировки сети. Навскидку, я полагаю это порядка десятков тысяч долларов и нескольких месяцев.

Но мы предупреждены и может быть у нас есть ещё полгода "старого" интернета, в котором даже фейковый контент пишется людьми. Что будет после мне лично сложно спрогнозировать. Островки здравого смысла в океане белого шума, где невозможно отличить ложь от истины?


Добавлено 16 Февраля 2019, 14:26:
Я вот думаю, что можно перейти на какой-нибудь редкий язык, и общаться на нём. Редкость языка не позволит легко натренировать сетку на него. Человек пока лучше нейросеток умеет учиться на небольших объёмах данных. На этом редком языке сгенерированные автоматически тексты будут светиться неграмотностью и непоследовательностью. Но это будет работать лишь для небольших сообществ, как только сообщество станет достаточно большим, чтобы стать целью для информационной атаки (реклама, фишинг, пропаганда, уничтожение сообщества, ...), оно станет целью и ничего не сможет противопоставить кроме "анального огорожения", с последующим угасанием в своём уютном загончике.

4
На правах рекламы: A Brief History of Humankind
Или в русском переводе.

В смысле, я сейчас читаю, и я без ума от этой книги, мысли лезут изо всех щелей. Ну, например, Харари тщательно разжёвывает идею мифа, и показывает, что вообще всё общество построено на мифах, на вере в то, что не существует или в то, что существует только благодаря вере (самоисполняющееся пророчество). Скажем золото, почему оно такое дорогое? Потому что мы верим в то, что оно дорогое. А верим мы в то, что оно дорогое, потому что оно дорогое. Вера делает миф частью реальности, а, будучи частью реальности, миф эмпирически подкрепляет веру.

Кстати, Small Gods Терри Пратчетта даёт неплохую метафору для этого: бог обретает силу благодаря вере людей. Вера становится сильнее, когда бог демонстрирует свою силу людям. Арманд Пежо заплатил юристу, тот совершил все необходимые ритуалы, чтобы из небытия вызвать к жизни юридическое лицо "Peugeot". Люди верят в то, что "Peugeot" существует, поэтому он существует, может брать кредиты, строить заводы, нанимать рабочих, производить автомобили. Поэтому люди могут видеть автомобили пежо, ездить на них, и поэтому они верят в существование Peugeot. Практически полная эквивалентность Peugeot и Великого Ома. Гррр... я сейчас задумался: ведь Брута объяснял Великому Ому, что если тот будет хоть иногда делать что-нибудь полезное для людей, то шансов на выживание у него будет гораздо больше. Peugeot приносит пользу людям, и поэтому Peugeot сегодня круче Зевса на пике его славы, в Peugeot верят миллиарды людей, всё или почти всё население Земли (все, за исключением тех, кто никогда не слышал про Peugeot), в то время как в Зевса, я подозреваю, никогда не верили столь единодушно.

Харари рассматривает историю человечества начиная с неандертальцев, и заканчивая 2014 годом, отслеживая мифологии тех обществ, которые возникали в процессе, и показывая как возникали новые мифы, и как они изменяли общество. Причём он с очень разных позиций смотрит на это, например, он описывает эпоху великих открытий и с экономических позиций (становление капитализма, который смог финансировать открытия и завоевания -- корпорации нанимающие адмиралов и генералов, и покупающие им целые флоты и армии), и с точки зрения развития науки/технологий (которые давали техническую возможность совершать открытия и завоевания, и при этом создавали экономическую целесообразность открытий и завоеваний), и с точки зрения возникновения научного мышления (в частности, признание того, что есть важные вещи, которые мы не знаем, но которые нам было бы полезно знать).

Короче я очень рекомендую книжку.

5
У меня не грузится через Ростелеком. А с американской VPS'ки при этом грузится. А у вас?

К'rовавый ти'rанический режим перевёл борьбу с рациональностью в партер, перешёл от культивирования в широких массах биологически обусловленных принципов мышления о политике к ограничению доступа к информации? :)

Но... хм... а если говорить серьёзно, то если действительно не грузится, если действительно дело в блокировке, то тогда у меня будет запрос к социально активной части местного населения. Есть ведь какие-то способы рассказать роскомпозору о том, что блокируя телеграм он заблокировал чуть больше чем надо. Было бы круто, если бы вы это сделали.

6
Допустим у меня есть гипотеза, я хочу проверить её экспериментально. Для этого мне надо поставить эксперимент, намерить N точек данных, и сделать по ним вывод. У меня есть два способа поставить эксперимент, "надёжный" и "ненадёжный". Надёжный дорогой -- требуется много усилий на каждую точку данных. Ненадёжный дешёвый -- можно получить на порядок, а то и на два порядка больше точек данных теми же усилиями, но в данные потенциально будет примешиваться больше "шума".

Мне тут предложили сделать таким образом -- набрать пару десятков точек надёжным способом, и сотню-другую ненадёжным. И если результаты совпадут, то заявить, что достоверность результата зашкаливает. То есть логика какая: пара десятков точек -- это минимум требуемый правилами приличия, но если к ним приложить ещё пару сотен других точек, то будет очень круто.

Но меня гложут сомнения. Кажется подозрительным такой способ принятия решений. Ну, если наивно рассуждать, то если результаты совпадут, то мы можем сделать вывод, что ненадёжный способ не такой уж и ненадёжный, как казалось -- с этим я могу согласиться. Но когда мы делаем сразу два вывода -- из совпадения данных вывод о надёжности метода, а потом из надёжности метода, делаем вывод о том, что данные подтверждают гипотезу, мне начинает казаться, что тут где-то подвох и пахнет циклом в причинно-следственных связях в наших рассуждениях. А за такие штуки с экзаменов по матану выгоняют с двойкой, не глядя на всё остальное... Короче детские психологические травмы привили мне глубоко сидящий страх совершить подобную ошибку, который не позволяет мне просто согласиться с такими рассуждениями.

Так вот, я к чему это. Я не настолько вник во все эти байесианские методы рассуждений, чтобы формализовать проблему и тупо посчитать. Я, наверное, могу это сделать, не сваливая эту задачу на других, но это займёт у меня кучу времени, которого нет. Мне проще потрепать языком на форуме об этой проблеме, чем я и предлагаю заняться. Но если кто-то может формализовать проблему и дать полный расклад по мастям, то я буду премного благодарен.

7
На правах потока сознания....
__________________________
Я тут вдруг подумал: а может рациональность -- не более чем культурный феномен, который работает просто потому, что все верят в то, что он должен работать? Так же как и вера в то, что в дилемме заключённого надо кооперировать -- это работает, пока все верят в это.
При этом, я не уверен, что постановка вопроса прагматична: потому что если рациональность работает только в силу того, что человечество верит в то, что она работает, то с прагматичной точки зрения это ничем не отличается от ситуации, когда рациональность работает, потому что она работает, а не потому, что кто-то в неё верит: прагматик в любом случае пожмёт плечами и начнёт осваивать рациональность, потому что она работает.
Если же точка зрения на рациональность как на культурный феномен вам не кажется правдоподобной, то представьте себе иррационалиста в экономике. Иррационалиста не в смысле того, что он случайным образом принимает решения, а в том смысле, что он использует какие-то свои никому непонятные способы принятия решений, скептически относится к теорверу, и вообще иногда ведёт себя странно. Кто доверит свои деньги такому? Он десять лет успешно вкладывал деньги? Это не показатель: осьминоги предсказывают результаты футбольных матчей. Если один из безумцев успешен, то это говорит нам о том, что если тысяча обезьян будет принимать случайные решения, то одна-две из них отклонятся в плюс на три среднеквадратичных отклонений от средней успешности по обезъянам. А если их будет не тысяча, а больше, то кто-то из обезьян может показаться экономическим гением.
Если существует какой-то иррациональный способ выигрывать, то мы не увидим его, потому что мы рациональны. Рациональность делает нас слепыми в этом смысле. Мы родились в культуре рациональности, мы шагнули от этой культуре вперёд ещё дальше в рациональность. И если мир на самом деле иррационален, то мы об этом уже не узнаем, потому что покалечили своё восприятие и свою личность рациональностью.
И да, это не троллинг. Я действительно так думаю: рациональность определяет восприятие мира, а восприятие мира определяет то, что человек предпочитает рациональность иррациональности. Может быть возможно взять и построить с нуля новое общество с новым и совершенно перпендикулярным мировоззрением, которое с нашей точки зрения будет иррациональным, но тем не менее оно будет достигать целей не хуже, а может и лучше нас. Но до тех пор пока человек не начнёт строить достаточно подробные модели разнообразных обществ между делом -- между вечерней сигаретой и посещением туалета на сон грядущий -- он никогда не найдёт такого способа.

_____________________
И параллельный поток сознания.

Я последнее время начинаю осознавать одну вещь, которая меня вгоняет в депрессию. Люди не могут передавать друг другу смыслы. Вот сейчас я читаю "Завтра я всегда была львом" и там это настолько остро показано, что я фактически чувствую как этот текст меня режет. Девушка погружается в шизофрению, потом вылезает оттуда, и всю дорогу люди просто не видят её. Люди видят её поведение, люди объясняют это поведение этим идиотским способом -- магическим словом, -- говоря "это шизофрения". Если она режет себя, или ест носки и обои, то она делает это не "потому, что шизофрения", а потому что у неё есть для этого причины. И если копнуть глубже, то эти причины являются следствиями других причин, которые тоже являются следствиями, и в конечном итоге выясняется, что она таким образом реагирует на что-то в реальности. Там за этой шизофренией реальный человек.
Но, собственно, к чему я это начал: Лаувенг прямо говорит, что если бы кто-нибудь с самого начала рассказал бы ей всё то, что она поняла о своей шизофрении со временем, то, что помогло ей справится с шизофренией, если бы ей рассказали об этих причинно-следственных связях, то это не помогло бы ей. Потому что любой такой рассказ был бы для неё пустым сотрясением воздуха. Чтобы причинно-следственные связи между преследующими её стаями волков, реальностью и её отношением к реальности стали бы полезным знанием для неё, ей надо было самостоятельно построить это знание.
Я наслушан психологов, которые работают с клиентами и помогают им выковыриваться из их проблем, и они описывают как нормальную ситуацию, когда клиент два месяца ходит к психологу с какой-то проблемой, может быть в разных вариациях. Психолог на первой же консультации сказал "я постоянно оказываюсь в таких ситуациях, и когда это случается я делаю то-то и то-то". Психолог повторил это на второй и на всех последующих консультациях. Совершенно безрезультатно. И вдруг, через два месяца, клиент прибегает и с воодушевлением рассказывает, что он придумал как надо справляться с такими ситуациями и радостно делится с психологом. Психолог в это время еле сдерживает facepalm, потому что именно это он рассказывал на первой же консультации.

И это нормальная ситуация, потому что человек не может передать другому человеку смысл. Другой человек должен строить смысл самостоятельно и естественно он воспринимает свои построения как свои. Рациональность в изложении Юдковского пытается объяснить читателям как можно построить в своей голове смысл "рациональность". Но насколько это успешно получается? Как часто люди не справляются с построением смысла? А когда справляются, насколько ими построенный смысл соответствует задумке Юдковского? И мне действительно интересно это. Возможность строить в разных головах идентичные или изоморфные или хотя бы очень похожие смыслы -- это всё что у нас есть.

Поэтому я не считаю праздными и непрагматичными вопросы, мол, "работает рациональность или нам только кажется, что она работает". From AI to Zombies позволяет нам, разным людям, построить в наших головах схожие смысловые конструкции. Чем больше и сложнее эти конструкции, и чем больше они похожи, тем больше наши возможности по передаче смысла: мы получаем-таки возможность прокидывать из одной психики в другую какие-то смыслы через бессмысленную реальность. И на фоне всего этого я не могу просто взять и забить на вопрос: является ли рациональность культурным феноменом или она -- самый эффективный способ мышления.

(хы. потоки сознания сошлись в одной точке. я честно говоря уже и не надеялся на это :D )

8
Практические? А можно примеров?
Вот смотрите, чат к lesswrong запущен на платформе Slack. Это пропиетарная программа, которая работает только под вендой и макосью. Для запуска в более свободной ОС потребуются танцы с бубном. И в любом случае это будет кусок закрытого ПО, и любой установивший его может лишь верить в то, что тот кто написал эту программу не напихал внутрь троянов, крадущих номера кредиток и пин-коды к ним. Или что эта программа не удалит внезапно с вашего жёсткого диска всю музыку. Это ваше дело, доверять ли закрытому ПО или нет, но выбирая Slack вы ставите остальных перед выбором: тоже доверять Slack или отказаться от использования чата lesswrong.
Кроме того, в интернете есть интереснейшие обзоры Slack: почему на эту платформу легко подсесть, как дурацкая организация этого чата отжирает кучу времени у пользователей, и почему с неё потом сложно слезть. С интересными умозаключениями, что именно неудобство организации чатов и является причиной того, что на Slack подсаживаются. А, да, ещё я интересную статейку читал, о том как стартапы типа facebook, twitter, slack и прочие намеренно препятствуют какой-либо стандартизации в интернете: в ietf ведь нет ни одного rfc описывающего как надо сопрягать разные социальные сети, скажем как прокидывать сообщения из одной социальной сети в другую. Отсутствие стандартизации неудобно пользователям, но поскольку пользователи принимают мир таким какой он есть, они даже не замечают этого неудобства: если вас будут раз в месяц бить дубиной по голове, то через десяток лет вы привыкнете и будете считать это нормой.

Так вот, я всё это рассказываю к тому, что тот, кто выбрал Slack, по сути, сделал выбор в пользу отсутствия стандартизации, в пользу пропиетарного ПО, в пользу троянов и вирусов, в пользу Windows и MacOS (соответственно в пользу MS и Apple) и тд. и тп. И даже если он не делал выбор осознанно, он всё равно его сделал: отказ от выбора -- это тоже выбор.

9
kuuffКакая-то у вас странная картина разума. Вот есть мозг - доставшийся мне эволюционный субстрат который мыслит как попало. Вот есть "байесианская надстройка" - логические правила которые я внедряю в субстрат чтобы привести его в квадратно-гнездовое состояние. И всё. Больше у меня в голове ничего нет. У меня нет души. У меня нет никаких волшебных тонких оболочек. У меня нет какого-то выделенного отдела мозга который специально отвечал бы за логическое мышление. У меня даже нет единого центра отвечающего за сознание. И тем более у меня нет никаких третьих сущностей которых я мог бы(или они меня) рекурсивно проверять на когнитивные ошибки.
"Душа" -- это устаревшее название для "психики". Его прекратили использовать, чтобы религиозные люди не возмущались тому, что учёные говорят о "душе". Если вас, тем не менее, смущает использование слова "душа", давайте мы будем использовать слово "психика", от этого наша речь станет умнее. Кстати на западе учёные точно так же поступили с psyche, они теперь избегают говорить не только "soul", но и "psyche", они теперь говорят "mind", чтобы никто не заподозрил бы их в эзотерике. Самое смешное что они продолжают при этом именоваться psychologist'ами, они не переименовали психологию в майндоведение.

Впрочем, я отвлёкся. Психика ли или душа -- без разницы, это некая сущность, которая включает в себя и "байесианскую" надстройку, и "эволюционный субстрат". Вы зря пытаетесь выделить в психике часть, под названием "душа". Вы вваливаетесь таким образом в рекурсию.

Если я думаю, то я думаю сразу всей головой не разделяя рациональные и нерациональные доли мозга. Если я ошибаюсь, то единственная доступная мне возможность понять что я вообще ошибся - свериться с внешними/наученными критериями ошибочности.
Да ладно. Вы просто плохо смотрели на то, как вы принимаете решения.

Если вы взяв на вооружение логику не рефлексируете процесс логического мышления, то вы перестали быть человеком. Поскольку это не так, поскольку вы всё ещё человек, то вы рефлексируете процесс логического мышления, и всегда готовы вмешаться и исправить ситуацию. Если логика скажет вам взять топор и убить старушку, то вы приложите гораздо больше усилий к тому, чтобы опровергнуть эту логику, нежели в ситуации, когда логика скажет вам, что вам надо этим топором срубить дерево. Вы можете рассуждать сколько угодно о том, что логика непогрешима, но результат применения логики зависит от входных данных, которые вы в неё засунули, и от непогрешимости вашего логического вывода. Входные данные подбираете вы, непогрешимость зависит от вас. Принять ли результат логического вывода сразу, или долго перепроверять -- тоже зависит от вас. Как после этого вы можете утверждать, что принимаемые вами решения не имеют систематического bias'а, создаваемого некоей надстройкой над уровнем логического мышления?

Я год назад писал ЕГЭ по математике, и в процессе подготовки у меня встала проблема: как бы так избежать потери баллов на идиотских ошибках, типа "перепутал + с -" -- вёл алгебраические преобразования выражения, и переписывая перепутал. Я немного потренировался решать задачи и искать ошибки в решениях, и кончилось всё тем, что я увидел в себе некое чувство "ошибочности", которое было некоей интегральной оценкой, характеризующей вероятность того, что в решении была спрятана ошибка. Эта оценка работала имплицитно, и я не могу в точности сказать как она вычислялась, но могу предположить, что она зависела от того, насколько сложные преобразования я проводил, насколько я нагружал в процессе кратковременную память под хранение промежуточных результатов, насколько я был сосредоточен в процессе и тд. Я научился сознательно оценивать интенсивность этого чувства, и на основании этого принимать решение о том, сколько усилий надо приложить для поиска и исправления ошибок. То есть, некая сущность внутри моей психики, которую я называю словом "я", применяла математические навыки для того, чтобы решить задачу, после чего пользовалась возможностями "эволюционного субстрата", чтобы оценить вероятность ошибки, и на основании этого принимала решение о том, что делать дальше.

И тут вы берёте и заявляете что у вас в голове существует механизм позволяющий получать истинные суждения не опираясь на факты и на основании этого даёте себе право отрицать логику. Мне прям аж завидно)
Завидуйте молча. ;)

Логика, рациональность и вся прочая лабуда отличаются от человеческой психики тем, что человеческая психика может создать логику, она может улучшить логику, она может создать рациональность, формализовать рациональность, переосмыслить рациональность и изменить её, и изменять её систематически, с тем чтобы она становилась всё лучше и лучше. Ни логика же, ни рациональность не содержат в себе рефлексивного уровня, который бы объяснял как надо менять логику или рациональность. В логике нет правил логического вывода, которые бы позволяли менять саму логику, которые бы позволяли менять аксиоматику логической системы. В байесианстве нет правил, которые бы объясняли как можно изменить теорему байеса, если она вдруг перестанет работать. Но человеческая психики это может. И поэтому, я всегда помню, и вам рекомендую помнить, что логика и рациональность -- это инструменты. И помня это, подумайте о том, кто же держит в руках эти инструменты?

10
Обзор в целом нейтрален, хотя некоторые заявления меня очень удивляют. И ещё он, по-моему, довольно сумбурный.
Да, фразочки типа "системная ошибка Юдковски состоит в том, что он полагает зло тоже рациональным" просто отправляют в ступор. Я не могу до конца понять, как должно работать мышление, чтобы позволять на полном серьёзе делать подобные заявления.
То есть, Юдковский нигде не говорит, что зло рационально, он скорее подводит к размышлениям на эту тему. Но даже если забыть об этом, и допустить, что Юдковский сказал, что зло рационально, то...
Я вижу два возможных объяснения.
1. Марина Галина сама пала жертвой систематической ошибки, позволив себе мыслить литературными штампами, в которых Зло всегда иррациональное, тупое, не чистит зубы и ругается матом. Добро вынуждено превозмогать только потому, что Зло лучше вооружено. Либо из-за того, что зло очень подло себя ведёт. Либо ещё из-за чего-нибудь, но никогда проблемы Добра не возникают из-за того, что Зло элементарно умнее.
2. Марина Галина полагает, что всё, что рационально, что подчинено какому-то единому непротиворечивому замыслу -- по определению не зло. То есть, она фактически ставит знак равенства между рациональностью и добром. И эта её идея (если это её идея) мне нравится. Хотя и кажется мне некоторым перебором. "Добро", как некое имплицитное, невербализуемое понятие, как некий ориентир, всё же неплохо было бы сохранить в себе отдельно от рациональности, хотя бы до тех пор, пока мы не станем истинными рационалистами.

11
Редукционизм -- довольно острый инструмент, которым недолго и порезаться. Это инструмент, которым надо владеть, но также это инструмент, чьё предназначение надо очень хорошо понимать, и принимать решение об извлечении или неизвлечении редукционизма из ножен чётко отдавая себе отчёт в том, какие цели мы преследуем редукционизмом. Редукционизм легко можно использовать для того, чтобы закрыть проблему, спрятать её с глаз долой под ковёр. Чтобы дать мозгам возможность схалявить, не думать, не напрягаться, найти пускай бесполезный ответ на вопрос, зато исчерпывающий.

Можно говорить об уровнях организации знаний, например, квантовая механика находится на самом низком уровне, на ней можно построить термодинамику, на термодинамике можно построить химию, физиологию, поверх этого можно построить психологию. Это всё разные уровни организации знаний. Когда мы сталкиваемся с проблемой, она обычно уже сформулирована на каком-то из уровней. Например, человек идёт по пустыне и видит оазис. И он ставит вопрос: откуда здесь оазис. Он пытается решать проблему на уровне, который находится где-то в районе географии, потому что этот уровень напрашивается для его мозгов. Но проблема на этом уровне не разрешима, потому что реально в том месте нет никакого оазиса, на самом деле человек видит мираж. В такой ситуации нам необходим редукционизм для того, чтобы взять проблему, редуцировать её последовательно, раз за разом, вплоть до квантовой механики, посмотреть на последовательность проделанных редукций и выбрать нужный уровень на котором лучше иметь дело с проблемой. Оазис редуцируется до "почему оттуда летят ЭМ-волны, которые на сетчатке создают проекцию оазиса"? И на этот вопрос уже возможно дать ответ в терминах вопроса. В отличие от вопроса "откуда там оазис": на такой вопрос можно ответить лишь выходя за рамки вопроса, и начиная с "нет там никакого оазиса, ...", хотя вопрос не подразумевает возможности несуществовать для оазиса.

Но это всё неплохо расписано у Юдковского, и об этом лучше почитать у него. А что у него не очень хорошо расписано -- это деструктивный редукционизм. Например, есть вечный спор о наличии свободы воли у человека. Мы можем редуцировать эту проблему и показать, что нет никакой свободы воли. Значит ли это, что нет никакой свободы воли? Или это значит, что мы просто отмахнулись от проблемы, не желая с ней связываться, но и не желая и признаваться себе, что мы не можем справиться с проблемой?
Или та же радуга: если Ньютон объяснил радугу, значит ли это, что радуга не существует? Может быть и не существует, но дело в том, что наша психика, видя радугу, всё равно работает с ней как с существующей радугой. Мы можем оттормозить эту работу, одеть поверх неё более продвинутое понимание радуги, но выключить работу психики, которая приводит к восприятию радуги как "реально существующего объекта" мы не сможем. (Для этого нам придётся произвести хирургическое вмешательство и повредить зрительную кору мозга в достаточной мере, чтобы она была бы не в состоянии по картинке с сетчаке строить образ восприятия.) То есть радуга существует как неустранимый феномен нашей психики. Другое дело, что не ясно, зачем нам может понадобиться понимание этого факта в случае с радугой: мы можем, глядя на радугу, продолжать делать вид, что радуги нет, и что мы видим, что радуги нет. Это ни на что не влияет, поэтому можно сколько угодно.
В случае со свободой воли происходит то же самое, но с одним нюансом: уже далеко не очевидно, что отказ от понятия свободы воли безобиден, и не помешает нам познавать реальность и дальше. Отказываясь от свободы воли, заявляя что она не существует, мы запрещаем себе думать о поведении человека определённым образом. Мы ограничиваем себя. И это может явиться тем, что помешает нам вывести общие законы поведения человека. Если вышвырнуть в окно этот философский спор о существовании или несуществовании свободы воли, и просто подумать о том, что а) на каком уровне организации знаний возникло понятие свобода воли; б) что это понятие значит на том уровне, на котором оно возникло; то мы сможем найти вполне определённые ответы на эти вопросы. На самом бытовом уровне, на уровне психологии, социологии возникает понятие "свобода воли". Определить это понятие строго математически мы затруднимся, скорее всего, но в общем, это как-то связано с нашей невозможностью предсказать поведение себя и других людей. Мы, пытаясь заглянуть в будущее, моделируем своё поведение, поведение других людей, и мы вынуждены учитывать такой фактор как "свобода воли" -- наша и других людей -- моделируя будущий процесс принятия решения, мы вынуждены закладывать в него такую неопределённую силу как "свобода воли", действие которой может оказаться критичным.
Вот, что такое свобода воли на уровне психологии. Можно сколько угодно размахивать руками, редуцировать эту свободу воли до кварков, заявлять что раз нету свободы воли у кварка, значит и у человека её нет. Но де факто мы всё равно используем "свободу воли" постоянно, каждый раз когда пытаемся моделировать своё или чужое поведение с целью предсказаний. Разница лишь в том, стыдимся ли мы при этом называть понятие словами "свобода воли" и поэтому либо не называем его никак, либо называем более общими словами типа "неопределённость", или не стыдимся и называем эту неопределённость специально изобретённым для неё именем.
Юдковский об этом пишет немного, но мне кажется, он излишне увлечён иллюзией того, что после успешно проведённой редукции мир становится проще. Ну или наши представления о мире становятся проще. Они, может быть, становятся проще, но не всегда они становятся лучше. Юдковский приводит пример механистической термодинамики, которая утверждает, что тепло -- это движение. И да, это отличный пример. Если мы редуцируем тепло, то получим движение атомов и молекул. И давление -- это тоже движение атомов и молекул. Но это не повод отказываться от понятия "тепло". По-моему, для человека, который постоянно работает с теплом, факт "тепло -- это движение" является не более чем любопытным фактом, на который можно подивиться немного, после чего забыть и идти дальше. Потому что человек всё равно будет работать с теплом как с теплом, а не как с движением, несмотря на то, что тепло -- это одно из проявлений движения. Мы можем стыдиться называть тепло теплом, и называть его движением, но лучше нам от этого нее станет.

Редукционизм может быть опасен, если он применяется бездумно. Но для него напрашивается простые правила техники безопасности: нельзя из редуцируемости чего-либо делать вывод о том, что это что-то не существует*. Нельзя отвергать существование проблемы просто потому, что эта проблема была успешно редуцирована. Редукция может быть инструментом, позволяющим отвергнуть существование проблемы, но она не может быть единственным инструментом, которым проблема отвергается. Любая редукция должна проводится с чётким осознанием того, зачем она проводится.

*) Насчёт существования и несуществования -- тут могут быть непонятности. В реальности не существует ничего, кроме реальности. Там на самом деле нет ничего. Точнее, что-нибудь там может быть и есть, но всё что мы видим или когда-либо увидим в реальности всегда будет проекцией нашего ума. Абсолютно всё. Мы говорим "кварки, реальность соткана из кварков" -- а вот ничего подобного, кварки -- это изобретение человеческого разума. Мы говорим "пространство минковского" -- а вот лол вам, а не пространство минковского: пространство минковского было придумано головой минковского. То есть, с одной стороны не существует ничего. Но это оголтелый редукционизм, не признающий никакой техники безопасности. Но с другой стороны -- если я рассуждаю о реальности, то я её представляю каким-то образом, как совокупность проекций моего ума. Эти проекции чему-то соответствуют, и я считаю себя в полном праве утверждать, что это что-то существует. Общаясь с человеком я полагаю его существующим, не пытаясь редуцировать его до тучи кварков взаимодействующих друг с другом. Мне удобно считать его существующим, для успешного решения вполне себе практических задач, и я считаю его существующим. То есть, я редуцирую его до тучи кварков (на всякий случай: мало-ли он не туча кварков, а галлюцинация), но общаюсь не с тучей кварков, а с человеком.

12
Обсуждение книги / ФК+Волдеморт
« : 12 Августа 2015, 05:32 »
А если транфигурированного Волдеморта обработать Философским Камнем, закрепить трансфигурацию... Что будет?

13
Обсуждение книги / Сириус Блэк
« : 28 Декабря 2014, 16:41 »
Чем дольше я задумываюсь, тем более странная эта фигура. Больше всего, на самом деле, меня напрягает то, что упоминания о Сириусе раскиданы по всей книге. В первый раз, по-моему, при второй встрече Поттера с Драко, на платформе. И потом, то Гарри в книге что-то вычитает, то Quibbler заявляет, что Петтигрю и Сириус -- одно и то же лицо. То ещё как-нибудь... Это плохо укладывается в гипотезу о том, что все эти упоминания исключительно ради того, чтобы Гарри был бы "умным" и правдоподобным персонажем, для которого естественно интересоваться обстоятельствами того, как погибли его родители, и для которого неестественно просто игнорировать эти обстоятельства. Всё это наводит на мысль о том, что Сириус может проявится в книге так или иначе.

Но если он появится... То тут же вылезает куча вопросов о том, как он может появится. Да и вообще как увязать воедино все известные факты о нём. Официальная версия Магической Британии, что Блэк предал Поттеров, завалил Петтигрю и ещё десяток случайных прохожих, словил неудержимый приступ смеха и поэтому был не в состоянии сопротивляться аврорам, которые пришли его арестовывать. Довольно неправдоподобная версия, если не предположить, что Блек сдвинулся рассудком. Либо может на Блэка был наложен Конфундус -- или как там называется заклинание, которое МакГонагалл упомянула в связи с приступом смеха мадам Малкин?

Странное происшествие с крысой Уизли и Биллом Уизли. Которое чем-то напоминает "помолвку" Джиневры Уизли и Гарри Поттера -- тоже много шума, который в конечном итоге оказался полной туфтой. Может эти две истории имеют ещё больше общего? Может они обе были срежессированы для того, чтобы люди не верили бы слухам? И (учитывая тот факт, что в каноне Гарри-таки женился на Джинни), может обе эти истории со временем таки окажутся истиной? Не в полной мере конечно (никакого долга дому Уизли, у Поттера не появится, например), но в основном совпадут с реальностью.

Фраза "I'm not serious" в устах узника Азкабана не выглядит сколь-нибудь достоверным подтверждением гипотезы о том, что этот узник -- Петтигрю, который говорит "I'm not Sirius", что настоящий Сириус ещё вылезет на первый план и даст всем просраться. Но и тем не менее она наводит на определённые размышления.

Где-то упоминалось, что к пожирателям смерти в Азкабане не допускают посетителей. Это значит, что с одной стороны, сложнее сбежать, с другой же стороны -- это не непреодолимое препятствие (судя по изначальной реакции авроров на вторжение Квиррелла с Поттером, всё же народ проникает в Азкабан неофициально). Но при этом, тот же Люпин, например, не мог посетить Сириуса и убедиться в том, что Сириус сидящий в Азкабане -- это именно Сириус, а не кто-то ещё.

Вроде вот и все основные факты. А теперь спекуляции. Ежели произошедшее в ночь, когда Гарри стал сиротой, совпадает в достаточной мере с каноном, то Петтигрю предал Поттеров, а Блэк лишь нёс справедливое возмездие. И в такой ситуации посадить Петтигрю в Азкабан -- это вполне понятный мотив для Блэка, правда неясно как он это организовал. Теоретически ему мог помогать Дамблдор... Для этого придётся внедрить дополнительные предположения -- что Дамблдор доверял Сириусу, и что Дамблдор был готов посадить Петтигрю в Азкабан, -- но эти предположения мне не кажутся невероятными. Причём в тот момент, я полагаю, у Дамблдора были огромные возможности для действий -- фракция Малфоя была неспособна что-либо противопоставить, потому что ей было не до того. Малфою ещё лишь предстояло каким-то образом отбрехаться от обвинений в пожирании смерти. Да и, в общем-то, всем было плевать и на Петтигрю, и на Блэка. То есть, понятно, толпа требовала крови того, кто предал Поттеров, но остальные политические силы не быи заинтересованы в том, чтобы выяснять истину, например, или спасать кого-нибудь из этой парочки. Остальные политические силы, скорее всего, были заняты грызнёй за власть, потому что фейл Волдеморта несомненно дал повод для передела власти.
Остаётся неясным конкретный способ, которым подобное могло быть проделано. Что хуже, так это то, что если это действительно было проделано, то способ по-идее, уже должен быть известен нам, как читателям ГПиМРМ. Самое непонятное как авроры не заметили подмену Сириуса на Петтигрю -- они же, как я понимаю, ходят и кормят заключённых. И значит видят их. Но вряд ли авроры не знали как выглядит Сириус -- полагаю в газетах должна была быть фотка. А значит Петтигрю должен был быть одет в личину Сириуса. И это пожалуй самый сложный вопрос. Если найти ответ на него, то остальное уложится в систему легко. Дементоры могли просто промолчать о том, что к ним привели не Сириуса, а Петтигрю -- им-то без разницы, если по-хорошему. Даже если подмена проводилась после того как Сириус оказался в камере, то возможно было заключение с дементорами соглашения -- типа Сириус уходит, но взамен дементоры получают свежее мясо.
Так как такое могло быть возможным? Модифицированное зелье полиджус? Типа той модификации, которую Лили проделала с зельем, которое споила Петунии? Заменив рог bicorn'а (не знаю как в русском переводе -- двурог?), на рог unicorn'а (единорог), например?

14
Обсуждение книги / Кабинет директора
« : 20 Августа 2014, 10:45 »
Цитировать
— Ах, эти штучки? — сказал Дамблдор. — Они идут в комплекте с директорским кабинетом, и я не имею ни малейшего понятия, для чего большинство из них предназначено. Хотя вон тот циферблат с восемью стрелками указывает, сколько раз, кхм, скажем так — чихнули волшебницы-левши в пределах Франции. Ты не поверишь, как пришлось потрудиться, чтобы это выяснить. А вот эта золотая бормотушка — моё собственное изобретение, и Минерва никогда в жизни не догадается, что она делает.

Цитировать
Интересно знать, кем был тот первый директор Хогвартса, который столь безрассудно соорудил устройство, создающее шум, и передал его преемнику?

Рождается гипотеза, что сменяющиеся директоры Хогвартса стебутся над преемниками, создавая всякие шумящие девайсы со странным предназначением. То есть не только Дамблдор, а и предыдущие тоже. И МакГонагалл, когда-нибудь, тоже создаст какой-нибудь шумящее устройство, которое будет делать что-нибудь малоосмысленное.

Есть ли какие-нибудь альтернативные гипотезы?

15
Общение / Политика (DANGEROUS!)
« : 07 Августа 2014, 10:49 »
Тема опасная, но я всё же попробую.

Никто не пробовал на фоне текущих перепетий взывать к разуму сограждан? :)
Если непонятно, в чём интерес, я напомню про существование цепочки Политика -- убийца разума, и попробую объяснить.

Политика -- убийца разума. Аргументы там — солдаты. Если вы определились на какой вы стороне, то вы должны поддерживать аргументы этой стороны и атаковать аргументы, которые говорят в пользу другой стороны; иначе получится, будто вы предаете своих солдат. В результате, попытка возразить "хомячку" (который самым откровенным образом передёргивает факты, например, впадая фундаментальную ошибку атрибуции) вызывает негативную и даже агрессивную реакцию. Если перестараться с критикой аргументов-солдат, то можно оказаться в списке врагов и выслушивать призывы к модераторам забанить нарушителя спокойствия. Если вести себя аккуратнее, то реагируют лишь наиболее неадекватные. Но даже за неглупыми людьми я замечал попытки выдрать слова из контекста и придраться к ним. Особенно любят выдирать слова, которые можно понять как эмоциональную оценку, причём быть может оценка справедливо/не-справедливо -- это вопрос вызывающий наибольшую реакцию.

Может встать вопрос: зачем? В чём может быть цель подобной деятельности? Мне не нравятся то, что я вижу в интернете, и я считаю, что людям нельзя позволять ненавидеть группы людей объединённые по признаку типа "гражданства", "национальности", "места жительства" или "любимое время года". И в порядке, как это принято называть сейчас, "диванной войны" против того, что мне не нравится, я выработал четыре цели, в порядке от "задачи минимум" к "задаче максимум", которых хочу достичь на выбранном ресурсе:
1. Выработать условный рефлекс критичного отношения к своим словам, выработать табу на некоторые идеи ("расстрелять всех врагов", "все кто не с нами -- неполноценные люди" и подобные экстремистские и около-националистические высказывания)
2. Уменьшить некритичный конформизм в группе
3. Скорректировать карту в головах, чтобы не просто табу на высказывания, но понимание того, что враги такие же люди, с такими же недостатками, что и у нас; что простых решений не предвидится; что проблема сложнее чем просто "победа" или "поражение"
4. Привести к рациональности.  ;D

Проблемы вызывает уже (2), потому как попытка возразить, воспринимается как попытка убить аргумент-солдата, и возражающий оказывается врагом. При этом, эксперименты Аша показали, что между людьми, идущими против конформизма, возникает чувство "товарищества". Что не очень вяжется со статусом врага.

При этом попытки жёстких ответов, жестокого троллинга в ответ на что-то из (1) приводят уже к клейму врага. Не локальному статусу врага в данном обсуждении, а вообще вешается клеймо, от которого потом сложно избавиться. Это вызывает сплочённость группы, и они дружными рядами начинают выливать на голову "тролля" потоки доказательств того, что "тролль" -- плохой, сволочь, враг, нацист, бла-бла-бла... В принципе, если речь идёт про интернет, это можно объехать используя два аккаунта, и представляясь двумя разными людьми. Но всё равно остаётся угроза бана -- люди реально бесятся от подобного. Например, человек увлечённо и эмоционально (восклицательные знаки вместо точек, "громкие" фразы, КАПС) клеймит нацизм врагов и призывает расстреливать всех врагов, кто попадётся. Если этому человеку сказать, что не все враги садисты, что кто-то (заблуждаясь) воюет по убеждениям, которые считает истинным, и не является ли нацизмом призыв убивать всех без разбора? Человек в ответ на это взрывается. То что перед этим выглядело эмоционально, начинает выглядеть довольно бледно на фоне этого взрыва.

Третий пункт сложнее. Но, впрочем, я наблюдаю как минимум один случай, в котором, на мой взгляд, виден прогресс. Правда для этого, мне пришлось эксплуатировать его религиозные верования, противопоставляя резким высказываниям верующего, атеистическую и рациональную "любовь к врагам своим" через понимание этих "врагов".  :)

На данный момент я наблюдаю, что большинство постоянных посетителей по-возможности игнорирует мои замечания. В смысле не комментирует их никак. Есть пара людей, кто пытается доказать, что я глуп (поймать на ошибке) и оскорбить (перевирая никнейм, придираясь к "еврейскости" никнейма, используя издевательский тон, ну и далее по списку, на что хватит фантазии и таланта). Один человек вступает в дискуссии, причём плюс-минус продуктивные. Сейчас стало возможным эти дискуссии провоцировать ставя под сомнение те или иные высказывания, получая объяснения и признавая эти объяснения как достаточные.


Но всё же мне интересно, есть ли у кого подобный опыт? Как результаты? Или может есть какие-либо соображения на этот счёт?

Ах да, и связанный вопрос: местная публика справилась ли с политикой в своей голове настолько, чтобы воспринимать любую информацию одинаково и рационально, чтобы любая деятельность троллей вызывала бы лишь зевоту, чтобы понимать политический юмор противной стороны, а? Но учтите, этот вопрос провокационный. Точнее ответ на этот вопрос может быть провокационным. Мне кажется, что попытка пообсуждать политику на рациональном форуме могла бы быть полезной и познавательной (в смысле познания рациональности, а не нюансов текущего международного положения), но я абсолютно не представляю во что это может вылится, и оставлю принятие решения о полезности подобного модераторам. Потому что если тут начнётся политический срач, то разгребать его придётся им.

Страницы: [1] 2