Вы здесь
Главные вкладки
Переводы
- Рациональность: от ИИ до зомби
- Карта и территория
- Предисловие
- Искажения: введение
- Предсказуемо неправы
- Ложные убеждения
- Замечая замешательство
- Сфокусируй неуверенность
- Что такое свидетельство
- Свидетельство: рациональное, правовое, научное
- Сколько свидетельств понадобится
- Самоуверенность Эйнштейна
- Бритва Оккама
- Сила рационалиста
- Отсутствие свидетельств — свидетельство отсутствия
- Закон сохранения ожидаемых свидетельств
- Знание задним числом обесценивает науку
- Загадочные ответы
- Лжеобъяснения
- Угадай слово, задуманное учителем
- Наука как одеяние
- Лжепричинность
- Семантические стоп-сигналы
- Таинственные ответы на таинственные вопросы
- Тщетность эмерджентности
- Скажи нет «сложности»
- Подтверждающее искажение: взгляд во тьму
- Закономерная неопределённость
- Моя дикая и безбашенная юность
- Неспособность учиться у истории
- Делая историю доступной
- Объяснить, поклониться, пренебречь
- «Наука» — затычка для любопытства
- Поистине часть тебя
- Простая истина
- Как успешно менять своё мнение
- Рациональность: введение
- Чрезвычайно удобные оправдания
- Политика и рациональность
- Против рационализации
- Знание искажений может вредить
- Обновляй себя шаг за шагом
- Один довод против армии
- Нижняя строчка
- О чём свидетельствуют отсеянные свидетельства?
- Рационализация
- Рациональное обоснование
- Избегая по-настоящему слабых мест убеждения
- Предвзятая остановка и предвзятое продолжение
- Фальшивое оправдание
- Это ваша настоящая причина отказа?
- Связанные истины, заразная ложь
- О лжи и Черных Лебедях
- Эпистемология темной стороны
- Против двоемыслия
- Свежий взгляд на вещи
- Якорение и корректировка
- Прайминг и контаминация
- Мы верим всему, что нам говорят?
- Кешированные мысли
- Стандартный «нестандарт»
- Непосредственный взгляд
- Страннее истории
- Ошибка обобщения на основе вымышленного свидетельства
- Добродетель узости
- Как казаться (и быть) глубокомысленным
- Мы меняем мнение реже, чем нам кажется
- Не спешите предлагать решения
- Генетическая логическая ошибка
- Смертельные спирали и аттрактор культа
- Аффективная эвристика
- Способность к оценке (и недорогой праздничный шоппинг)
- Неограниченные шкалы, решения присяжных и футуризм
- Эффект ореола
- Искажение супергероя
- Просто мессии
- Аффективные смертельные спирали
- Сопротивление аффективным смертельным спиралям
- Некритичная сверхкритичность
- Охлаждение групповых убеждений при помощи испарения
- Когда никто не смеет призывать сдерживаться
- Эксперимент в Робберс Кейв
- Любая деятельность хочет быть культом
- Хранители истины
- Хранители генофонда
- Хранители Айн Рэнд
- Два коана о культах
- Эксперимент Аша о конформизме
- Выражая беспокойство
- Одинокий инакомыслящий
- Культовая контркультовость
- Умение отпускать
- Машина в призраке
- Разум: введение
- Сила интеллекта
- Простая математика эволюции
- Чуждый Бог
- Чудо эволюции
- Эволюции неразумны (но всё равно работают)
- Корпорации и нанороботы не эволюционируют
- Эволюция к вымиранию
- Трагедия группового отбора
- Фальшивый критерий оптимизации
- Исполнители адаптаций, а не максимизаторы приспособленности
- Эволюционная психология
- Особенно элегантный эксперимент в эволюционной психологии
- Суперстимулы и крах западной цивилизации
- Суть твоя - осколки бога
- Хрупкие цели
- Как люди понимают слова
- Притча о кинжале
- Притча о болиголове
- Слова как скрытые умозаключения
- Экстенсионалы и интенсионалы
- Кластеры подобия
- Типичность и асимметричное подобие
- Кластерная структура пространства вещей
- Замаскированные вопросы
- Нейронные категории
- Как алгоритм ощущается изнутри
- Споры об определениях
- Ощути смысл
- Аргумент к традиционному пониманию
- Пустые ярлыки
- Табуируй свои слова
- Замени символ на суть
- Ошибки сжатия
- У классификации есть последствия
- Контрабанда характеристик
- Аргумент «по определению»
- Где проводить границу?
- Энтропия и короткие сообщения
- Общая информация и плотность в пространстве вещей
- Суперэкспоненциальное пространство концептов и простые слова
- Условная независимость и наивный Байес
- Слова как мысленные кисти
- Ошибка изменяемого вопроса
- Когда слова ошибочны
- Наглядное объяснение теоремы Байеса
- Просто реальность
- Мир: введение
- Правда закономерна
- Основы редукционизма
- Наслаждение обыденностью
- Наслаждение обыденностью
- Наслаждение открытием
- Привяжись к реальности
- Если вам нужна магия, магия не поможет
- Обыденная магия
- Красота устоявшейся науки
- Первое апреля: День удивительного открытия
- Гуманизм — замена религии?
- Дефицит
- Священная обыденность
- Чтобы распространять науку, держите её в тайне
- Церемония посвящения
- Физикализм для продвинутых
- Рука или пальцы
- Злые атомы
- Тепло или движение
- Прорыв в исследованиях мозга! Он состоит из нейронов!
- Когда антропоморфизм стал глупым
- Априори
- Редуктивная отсылка
- Зомби! Зомби?
- Замечания про зомби
- Обобщённый принцип против зомби
- Обобщённый принцип против зомби и гигантская таблица поиска
- Подразумеваемая невидимость
- Зомби: теперь в кино!
- Исключая сверхъестественное
- Паранормальные способности
- Квантовая механика и множественные миры
- Наука и рациональность
- Просто доброта
- Стать сильнее
«Рациональность: от ИИ до зомби» (англ. Rationality: From AI to Zombies) — книга-сборник из 333 эссе о человеческой рациональности. Стоит начать с этой книги, если хотите разобраться в темах, которые часто обсуждают в сообществе LessWrong. Вы прочтете о когнитивных искажениях, соотношении «карты» и «территории», обществе и языке, о рисках искусственного интеллекта, о науке и её философии.
Перевод пока не завершён, здесь лежат уже переведенные главы.
Книга и перевод распространяются по лицензии Creative Commons Attribution-NonCommercial-ShareAlike 3.0 Unported license.
- Карта и территория
- Прочие материалы
- Прочие материалы с lesswrong.com
- Особо продвинутая эпистемология для начинающих
- Рациональность как боевое искусство
- Знание задним числом
- Пример предвзятого продолжения
- 31 закон удовольствия
- Атеизм = не-теизм + анти-теизм
- Забудьте кое-что, чему вас учили в школе
- Непередаваемое превосходство
- О красоте математики
- Пацифизм губит ухоженные сады
- Предполагая красоту
- Против адвокатуры дьявола
- Рациональность — это систематизированное выигрывание
- Учи невыучиваемому
- Не выходи из комнаты
- Обобщение на одном примере
- Презумпция типичности — худший аргумент в мире?
- 16 видов полезных предсказаний
- Используйте слово "рационально", только если от него нельзя избавиться
- Лицензия героя
- Понимание на уровне шестерёнок
- Литания против гуру
- Согласование ИИ
- Четыре предпосылки
- Задача соответствия ракет и цели
- Руководство по исследованиям в области соответствия ИИ
- Дискуссия Нго и Юдковского про сложность задачи согласования
- Безопасность СИИ с чистого листа
- Введение в согласование подобного-мозгу СИИ
- 1. В чём проблема и почему работать над ней сейчас?
- 2. "Обучение с чистого листа" в мозгу
- 3. Две Подсистемы: Обучающаяся и Направляющая
- 4. "Краткосрочный предсказатель"
- 5. "Долгосрочный предсказатель" и TD-обучение
- 6. Большая картина мотивации, принятия решений, и RL
- 7. От закодированных стремлений к предусмотрительным планам: рабочий пример
- 8. Отходим от нейробиологии, 1 из 2: Про разработку СИИ
- 9. Отходим от нейробиологии, 2 из 2: Про мотивацию СИИ
- 10. Задача согласования
- 11. Согласованность ≠ безопасность (но они близки!)
- 12. Два пути вперёд: «Контролируемый СИИ» и «СИИ с социальными инстинктами»
- 13. Укоренение символов и человеческие социальные инстинкты
- 14. Контролируемый СИИ
- 15. Заключение: Открытые задачи и как помочь
- Встроенная агентность
- Исследовательские задачи по согласованию
- Плохо нацеленные Лучи Смерти
- Прояснения и Предсказания по поводу СИИ
- Риски выученной оптимизации
- Обзор катастрофических рисков ИИ
- Обзор катастрофических рисков ИИ: Краткое содержание
- Обзор катастрофических рисков ИИ: 1. Введение
- Обзор катастрофических рисков ИИ: 2. Злонамеренное использование
- Обзор катастрофических рисков ИИ: 3. ИИ-гонка
- Обзор катастрофических рисков ИИ: 4. Организационные риски
- Обзор катастрофических рисков ИИ: 5. Мятежные ИИ
- Обзор катастрофических рисков ИИ: 6. Обсуждение связей между рисками
- Обзор катастрофических рисков ИИ: 7. Заключение
- Обзор катастрофических рисков ИИ: Часто задаваемые вопросы
- Обзор катастрофических рисков ИИ: Источники
- Большая часть людей не знают, что мы понятия не имеем, как работают наши ИИ
- Мышление Безопасника и Логистическая Кривая Успеха
- Мышление Безопасника и Обыденная Паранойя
- Наука выигрывания в повседневной жизни
- Выученное непонимание
- Как осваивать "гибкие навыки"
- Нормальные распределения в предсказаниях
- Стратегическое мышление не свойственно нам по умолчанию
- Живя осознанно
- Политика и ужасное искусство
- Фальшивый смех
- Что такое байесианство
- Время молотка
- Молотки и гвозди
- Время молотков, день 1: Охота за багами
- Время молотков, день 2: Йода-таймер
- Время молотков, день 3: ПТД
- Время молотков, день 4: Дизайн
- Время молотков, день 5: Расширение зоны комфорта
- Время молотков, день 6: Мантры
- Время молотков, день 7: Факторизация избеганий
- Время молотков, день 8: Вера в невозвратные издержки
- Время молотков, день 9: Калибровка времени
- Время молотков, день 10: Мёрфиджитсу
- Время молотков, день 11: Охота на баги 2
- Время молотков, день 12: Йода-таймеры 2
- Время молотков, день 13: ПТД 2
- Время молотков, день 14: Дизайн 2
- Время молотков, день 15: РаЗоК 2
- Время молотков, день 16: Три миниатюры
- Время молотков, день 17: Фокусирование
- Время молотков, день 18: Факторизация целей
- Время молотков, день 19: TDT для людей
- Время молотков, день 20: Дружба
- Время молотков, день 21: Охота за багами 3
- Время молотков, день 22: Йода-таймеры 3
- Время молотков, день 23: ПТД 3
- Время молотков, день 24: Дизайн 3
- Время молотков, день 25: РаЗоК 3
- Время молотков, день 26: Тишина
- Время молотков, день 27: Внутренний корень разногласия
- Время молотков, день 28: Повторение редукционизма
- Время молотков, день 29: Стратегический уровень
- Время молотков, день 30: Финальный экзамен
- Время молотков, послесловие
- Записи о фактах: как и зачем
- Как лучше понимать людей
- Как стать тысячелетним вампиром
- Корень разногласия — стратегия для разрешения споров
- Помни о корнях своих убеждений
- Короткая история: Карантин
- Разум как меметическое иммунное расстройство
- COVID-19
- Так ли очевидно «очевидное»?
- Переводы с других ресурсов
- Статьи Элиезера Юдковского
- Статьи Скотта Александера
- Вам, наверное, интересно, зачем я вас здесь собрал
- О пользе любезности, общин и цивилизации
- Прививка от сомнений
- Аргумент и анализ
- Размышления о Молохе
- ЧаВо о консеквенциализме
- Райкот: законы, язык и общество
- Предотвращение Ашибок
- Это ты сделал мои голубые глаза голубыми
- Богиня Всего Остального
- Выученная эпистемическая беспомощность
- Да, мы заметили эти черепа
- Жизнь коротка, искусство вечно
- Обманчиво согласованные меса-оптимизаторы: Это не смешно, если приходится объяснять
- Понимание
- Простые правила, которые практически всегда работают
- Ведомые красотой своих орудий
- Логик и Бог-Император
- Переводы на других ресурсах
- Статьи Нейта Соареса
- Статьи с Арбитала
- Разное
- Басня о драконе-тиране
- Будущее искусственного интеллекта: вопросы и ответы
- ИИ - не гонка вооружений
- Книга об интересных и здоровых встречах
- Критика наивного консеквенциализма
- Мышление из «Не Смотри Вверх», которое может нас всех погубить
- Небольшое систематическое усилие: неисследованные глубины в искусстве рациональности
- Сообщай отношения правдоподобия
- Список рациональных привычек от CFAR
- 500 Миллионов, Но Ни Одной Больше
- Как может возникнуть мятежный ИИ
- Тайное общество борьбы с глупостью
- Статьи Якоба Стейнхардта
- Прочие материалы с lesswrong.com