Беседы в Кочерге 7 октября 2018 года

Материал из Вики LessWrong.ru
Перейти к: навигация, поиск
Встреча
Когда:

7 октября 2018, 15:00
воскресенье

Город: Москва
Адрес: Большая Дорогомиловская ул., 5 корпус 2
Место: Кочерга
Формат встречи: Беседы


Программа встречи[править]

Терминальные ценности[править]

Что для вас важно на самом деле и как это определить? Что важнее - интуитивные или рациональные ценности? Можно ли их менять?

Футурошок[править]

Насколько радикально отличается представление о будущем у "человека с улицы", любителя научной фантастики и сотрудника лаборатории искусственного интеллекта? Что напугает одного и заинтересует другого?

Что было на встрече[править]

Терминальные ценности[править]

Предметного обсуждения не получилось, но собрали список вопросов который было бы неплохо осветить в статье.

  • Что это?
  • В чём полезность и где границы применимости?
  • Как искать ТЦ у себя и у других?
  • Как их делать консистентными?
  • Как это связано с этикой и рациональностью?

Уровни футурошока[править]

Обсудили сами уровни, что на них расположено и в каком контексте они появлялись.

Уточнили, что уровни относительны того, что считается современным и для кого. Добавили "отрицательные уровни", на которых оказываются изолированные и "замершие" культуры. Уточнили, что уровни внутри себя ещё могут расщепляться на более низкие и более высокие.

Разобрали чем отличается понимание похожих концепций на разных уровнях.

Пример, ИИ:

(на нулевом уровне сегодня у обывателя скорее нет об этом представления, не смотря на доступ к глобальным поисковым системам даже в самом дешёвом из смартфонов)

  1. Алгоритмические системы вроде деревьев решений, аналитика уровня табличных процессоров.
  2. Обучаемые статистические системы и анализ данных требующий серверных мощностей, простые специализированные нейросети.
  3. Самообучающиеся, но ограниченные средой ИИ без своей мотивации, Alpha Zero, OpenAI.
  4. Универсальные агентные ИИ.

Пример, автомобили:

(нулевой - классические автомобили с изолированными бортовыми системами)

  1. Автомобиль с "чувством среды", автоматическая парковка, следование в полосе. Каршеринг.
  2. В начале уровня - автомобиль с автопилотом требующим внимания. Садишься, говоришь куда ехать, приезжаешь, машина паркуется сама. Роботизированные таксопарки. Ближе к концу - пулы беспилотного транспорта, оптимизированного под автономию.
  3. Интегрированная транспортная среда. Выходишь из дома - а транспорт уже ждёт без явной коммуникации. Или вообще не выходишь ибо телеприсутствие. Межпланетная грузопассажирская сеть.
  4. Цифровая телепортация, ресинтезирование тела если уж так надо.

Материалы[править]