Релятивистское сжатие

[ahajtin]

Много общаюсь с коллегами, в значительной степени иностранными.

Все разговоры вокруг совершенно травоядного бизнеса: HR, маркетинг, продажи, технологии. Общее ощущение практически не зависит от страны и индустрии: прямо на наших глазах и с нашим участием открывается то ли ящик Пандоры, то ли источник всеобщего благоденствия.

Цитата из разговора, с середины:
- Страшновато, конечно.
- Поздно уже бояться
- Ну да, уже поздно

Ну и дальше пошли обсуждать ближайшие шаги по дальнейшему открытию ящика.

В общем развилку, на которой можно было свернуть в безопасную сторону мы опять проскочили. Вспоминаются Стругацкие с описанием той самой безопасной стратегии: "транспорт у них только общественный, авиации никакой, зато прекрасно развита проводная связь".

Comments

[http://users.livejournal.com/alh__/]

Тут проблема в том, что оптимизатор как таковой строится на том, что:
а) заранее известны метрики
б) заранее известны перменные, на которые можно влиять

Вы, вслед за Бостромом (хорошая компания, кстати), считаете переход от систем, работающих в заранее установленных границах, к системам, самостоятельно определяющими такие границы, количественным.

Я в этом крайне сомневаюсь.

[maxwolf.livejournal.com]

Я тоже пока не вижу потенциальных механизмов самозарождения целеполагания. С моей точки зрения, сейчас более вероятен сценарий, когда люди захотят поручить достаточно сложной системе управления порулить "всем миром", поставив перед ней цель типа "чтобы все люди были счастливы", а та, в качестве способа решения, выберет "расстрелять всех несчастных".