Главное > Сообщество рационалистов

Критика ЛВ-рациональности и ЛВ-сообщества

<< < (2/10) > >>

Muyyd1:
Я тоже удивился тому, что тема закрыта была, ведь почувствовал порыв выплеснуть туда накопившуюся мудрость. Но закрыта так закрыта.

Когда человек начинает выстраивать связи между словом и другими словами (понятиями) он часто приходит к процедуре "общеупотребляемый смысл". Т.е. смотрит, какой смысл вкладывают другие люди в это слово. Но на этом этапе познания есть некоторые "подводные камни". Отраженное в первом комменте определение рациональности очень похоже на то, как я вижу поп-культурное определение рациональности. Т.е. то, что думает про рациональность среднестатистический человек. Когда я смотрю на пример Маска, то вижу, как причинная стрелка направлена назад во времени: от результата к критерию. Добился - действовал рационально. Но непонятно из этого как направить стрелку вперед. Как загодя понять - какие действия наиболее рациональны? Вот если бы у нас была чуть более ясная процедура определения того, какое же действие из тех, от которых мы ожидаем что они приблизят желаемый результат, выбрать так, чтобы в процессе этого выбора избежать чудовищных проигрышей?  Если посмотреть на разницу между популярным определением и тем, которым пользуются люди, пытающиеся что-то делать с тем ЧТО они определяют, то будет заметна огромная разница. Будет ли разница между "эволюцией" биолога и "эволюцией" человека с улицы? Или разница между "логиками". Эта разница так же видна и в случае с "рациональностью". Как определяют рациональность занимающиеся когнитивной наукой люди? А как определяют ее изучающие теорию игр? Так как недавно гуглопереводчик сапдейтился я просто вставлю цитату из книги Становича 2010 года:


--- Цитировать ---The student is warned that there are many alternative terms for instrumental and epistemic rationality in the literature (see Audi, 2001; Harman) 1995; Manktelow) 2004; Mele & Rawling) 2004; Nathanson) 1994; Over) 2004). For example) epistemic rationality is sometimes called theoretical rationality or evidential rationality. Instrumental rationality has been variously termed practical, pragmatic, or means/ends rationality in the literature. In the judgment and deciSion-making literature, the terms correspondence competence and coherence competence are sometimes used (Goldstein) 2004; Hammond, 1996, 2007). Correspondence competence concerns the degree to which beliefs map accurately to the environment and thus reflects what is called epistemic rationality in this book. Coherence competence refers to the ability to follow the consistency axioms of expected utility theory to be discussed in chapter 2. It thus relates to what will be called instrumental rationality in this volume.
--- Конец цитаты ---
Так что мы имеем дело не просто с каким-то "странным выдуманным Юдковским определением рациональности".

У меня "неизбежность" связана с логической "необходимостью". Как загодя определить, какие из действий приведут с неизбежностью к нужному результату в нашем сложном мире, где большая часть высказываний о нем включает слово "некоторые" (некоторые читавшие МРМ люди читали так же "От ИИ до Зомби"), и лишь малая часть слово "все" (1+1=2 или может быть "все простейшие молекулы водорода состоят из двух атомов водорода")? Именно в случаях с "некоторые" используется аппарат тервера, который позволяет перевести "некоторые" в какое-то число или если нет числа, то "сравнивать" эти "некоторые" величины. Опять же, я предупрежден против преодоления таких расстояний:


--- Цитировать ---The one comes to you and loftily says:  "Science doesn't really know anything.  All you have are theories—you can't know for certain that you're right.  You scientists changed your minds about how gravity works—who's to say that tomorrow you won't change your minds about evolution?"

Behold the abyssal cultural gap.  If you think you can cross it in a few sentences, you are bound to be sorely disappointed.

In the world of the unenlightened ones, there is authority and un-authority.  What can be trusted, can be trusted; what cannot be trusted, you may as well throw away.  There are good sources of information and bad sources of information.  If scientists have changed their stories ever in their history, then science cannot be a true Authority, and can never again be trusted—like a witness caught in a contradiction, or like an employee found stealing from the till.
...
When someone has lived their life accustomed to certainty, you can't just say to them, "Science is probabilistic, just like all other knowledge."  They will accept the first half of the statement as a confession of guilt; and dismiss the second half as a flailing attempt to accuse everyone else to avoid judgment.

--- Конец цитаты ---

К сожалению, цепочки не написаны так, чтобы можно было "чуть почитать там" и "чуть почитать тут", и ожидать, что каждый такой кусочек будет независимо от других статей ценен или же между выдранными такими кусочками не будет кажущегося (или может даже настоящего) противоречия. Если прочитать все, то будет видно, что на первом месте стоит "выигрывание", т.е. инструментальная рациональность. Это повторяется неоднократно. Неоднократно. Но так уж вышло, что Юдковский, занимаясь решением интересующих его вопросов "дружелюбного ИИ", получил больше озарений в области эпистемической рациональности (об этом он сам пишет).


Al1:

--- Цитата: fpaint от 14 Марта 2017, 16:42 ---Собственно, в этом и состоит критерий рациональности человека. Если его цели реализуются, значит он ведёт себя рационально, рационально мыслит, рационально воспринимает себя и мир. Если его цели не реализуются, значит он ведёт себя нерационально из-за нерационального мышления и нерационального мировоззрения.
...
Чем мне не нравятся определения из цепочек. Первым делом тем, что там эпистемиология ставится на первое место, неявно закладывая весьма спорный тезис: "если твоя карта точна, то тебя ждёт успех и цели реализуются, а если не точна, то ждёт провал".
--- Конец цитаты ---
Если ставить эпистемологическую рациональность в подчиненное положение к инструментальной, наиболее рациональным решением будет игнорировать факты, придерживаться объективно ложных идей, когда это выгодно. Становится ли рациональным восприятием мира искренняя вера в говорящих змей и сотворение мира шесть тысяч лет назад, если для ваших целей выгоднее разделять взгляды большинства населения?

Quilfe:
1) Важнее ли для нас наличие точной карты самой по себе или достижение своих целей (что, вообще-то, скорее ложное противопоставление, потому что карта тоже может быть одной из целей, но я не об этом сейчас)
2) и как технически устроены наши нормативные модели рассуждений,
— это вообще-то два разных вопроса. Даже если не задаться точностью карты как одной из терминальных ценностей, разумно всё равно строить эпистемический слой так, чтобы он не зависел от наших ценностей. Точнее, от них может зависеть то, какие именно участки карты мы строим в первую очередь и с какой точностью (у разной информации разная ценность), но не то, что именно мы считаем истиной. Иначе можно попасть в разнообразные ловушки и упрощения, например, исказить свою карту ценами ошибок ради ее работоспособности в чём-то одном и потерять ее возможности в другом, хуже — лишиться возможности заметить, где именно у тебя начинается инструментальное упрощение.

Поэтому эпистемология важна, даже если карта — не терминальная ценность. Однако у многих рационалистов, подозреваю, одна из терминальных.

deep_blue_hexagon:
Пример пользы менее точной карты в эссе "культовая контркультовость".
Хотя тут не тот аспект что затрагивается в обсуждении выше.

fpaint:

--- Цитата: fil0sof от 14 Марта 2017, 17:43 ---На вопрос "почему тема закрыта" я ответил в ЛС вполне прямо, так что довольно странно, что это осталось непонятным. На всякий случай повторюсь: это просто определение рациональности в ЛВ-смысле, обсуждать там нечего. Небольшой справочный материал, не более.

--- Конец цитаты ---

Да, ты написал, что это "справочный материал", "обсуждать нечего" и "споры об определениях - плохо". Но мне это, наверное, видится иначе. Мне кажется, текст из цепочки с определением рациональности используется лессвронгом не по назначению - для того, чтобы отказываться от размышлений и разговоров о том, кто что понимает под словом "рациональность". Типа, определение дано, вопрос закрыт. А я вот не уверен, что люди там и в самом деле понимают рациональность именно так. Что они честно поразмышляли на эту тему, подумали разные варианты определений, нашли лучшее и оно оказалось таким, как у Юдковского. Скорее они приняли установку - "понимать под рациональностью что-то иное тут запрещено" и с тех пор на вопрос из сабжа бодро цитируют по памяти заветные строчки. Вопроса "что я понимаю под этим ключевым термином на самом деле" они себе не задают.
Я себе такой вопрос задал, поразмышлял, и написав ответ, стал чётче видеть различия в языке. К примеру, лессвронговцы бесконечно уточняют, задавая вопросы "что ты понимаешь под словом" и "откуда ты знаешь, что это так", потому что считают, что это важно, и злятся не получая ответов. А я задаю им другие вопросы - "какие у вас цели" и "какой у вас план действий", потому что считаю, что важно это. И не получаю ответов. Ну, максимум, что удалось выжать - это "цель чата - общение" и "вот в прошлом году написали обрывок черновика плана на хакпаде и гордо назвали его мастер-планом".


--- Цитата: fil0sof от 14 Марта 2017, 18:30 ---Я бы скорее сказал "точная карта всегда лучше, чем неточная". С этим ты согласишься или нет? Если нет, то приведи, пожалуйста, примеры, когда неточная карта лучше.

--- Конец цитаты ---

Разумеется, если точная и неточная карта даются нам по одинаковой цене, лучше брать точную. Но если цена разная - например, на уточнение требуется затратить время, силы и внимание, то может оказаться, что реализация цели с точной картой выйдет дороже, чем с приближённой. Или ещё хуже - если использование точной карты требует бOльших накладных расходов (при том что количество объектов, которые человек может одновременно осмысливать невелико), то может оказаться, что с точной картой цель не реализуется вообще.

Навигация

[0] Главная страница сообщений

[#] Следующая страница

[*] Предыдущая страница

Перейти к полной версии