Редактирование Встреча: Встреча/Москва/2018-10-07

Текст:

{{DISPLAYTITLE:Беседы в Кочерге 7 октября 2018 года}} == Программа встречи == === Терминальные ценности === Что для вас важно на самом деле и как это определить? Что важнее - интуитивные или рациональные ценности? Можно ли их менять? === Футурошок === Насколько радикально отличается представление о будущем у "человека с улицы", любителя научной фантастики и сотрудника лаборатории искусственного интеллекта? Что напугает одного и заинтересует другого? == Что было на встрече == === Терминальные ценности === Предметного обсуждения не получилось, но собрали список вопросов который было бы неплохо осветить в [[Терминальные Ценности|статье]]. * Что это? * В чём полезность и где границы применимости? * Как искать ТЦ у себя и у других? * Как их делать консистентными? * Как это связано с этикой и рациональностью? === Уровни футурошока === Обсудили сами уровни, что на них расположено и в каком контексте они появлялись. Уточнили, что уровни относительны того, что считается современным и для кого. Добавили "отрицательные уровни", на которых оказываются изолированные и "замершие" культуры. Уточнили, что уровни внутри себя ещё могут расщепляться на более низкие и более высокие. Разобрали чем отличается понимание похожих концепций на разных уровнях. Пример, ИИ: (на нулевом уровне сегодня у обывателя скорее нет об этом представления, не смотря на доступ к глобальным поисковым системам даже в самом дешёвом из смартфонов) # Алгоритмические системы вроде деревьев решений, аналитика уровня табличных процессоров. # Обучаемые статистические системы и анализ данных требующий серверных мощностей, простые специализированные нейросети. # Самообучающиеся, но ограниченные средой ИИ без своей мотивации, Alpha Zero, OpenAI. # Универсальные агентные ИИ. Пример, автомобили: (нулевой - классические автомобили с изолированными бортовыми системами) # Автомобиль с "чувством среды", автоматическая парковка, следование в полосе. Каршеринг. # В начале уровня - автомобиль с автопилотом требующим внимания. Садишься, говоришь куда ехать, приезжаешь, машина паркуется сама. Роботизированные таксопарки. Ближе к концу - пулы беспилотного транспорта, оптимизированного под автономию. # Интегрированная транспортная среда. Выходишь из дома - а транспорт уже ждёт без явной коммуникации. Или вообще не выходишь ибо телеприсутствие. Межпланетная грузопассажирская сеть. # Цифровая телепортация, ресинтезирование тела если уж так надо. == Материалы == * [https://wiki.lesswrong.com/wiki/Terminal_value Terminal value] ** [https://arbital.com/p/complexity_of_value/ Complexity of value] * [http://www.sl4.org/shocklevels.html Future Shock Levels] ** [http://transhuman.ru/biblioteka/futurologiya/shok-budushchego-0 Перевод с небольшими дополнениями] ** [http://transhuman.ru/biblioteka/futurologiya/problema-shoka-budushcheg Проблема "Шока будущего"], доклад и заметки к нему ** [https://web.archive.org/web/20130228140551/http://www.acceleratingfuture.com/michael/works/shocklevelanalysis.htm Future Shock Levels Analysis] ** [https://web.archive.org/web/20180829000213/http://yudkowsky.net/obsolete/singularity.html Staring into the Singularity 1.2.5] (obsolete) ** [http://yudkowsky.net/singularity/ Обновлённый раздел по теме сингулярности]

Описание изменений:

Малое изменение Следить за этой страницей

Отменить