Релятивистское сжатие
Oct. 30th, 2015 10:02 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
ahajtinМного общаюсь с коллегами, в значительной степени иностранными.
Все разговоры вокруг совершенно травоядного бизнеса: HR, маркетинг, продажи, технологии. Общее ощущение практически не зависит от страны и индустрии: прямо на наших глазах и с нашим участием открывается то ли ящик Пандоры, то ли источник всеобщего благоденствия.
Цитата из разговора, с середины:
- Страшновато, конечно.
- Поздно уже бояться
- Ну да, уже поздно
Ну и дальше пошли обсуждать ближайшие шаги по дальнейшему открытию ящика.
В общем развилку, на которой можно было свернуть в безопасную сторону мы опять проскочили. Вспоминаются Стругацкие с описанием той самой безопасной стратегии: "транспорт у них только общественный, авиации никакой, зато прекрасно развита проводная связь".
Все разговоры вокруг совершенно травоядного бизнеса: HR, маркетинг, продажи, технологии. Общее ощущение практически не зависит от страны и индустрии: прямо на наших глазах и с нашим участием открывается то ли ящик Пандоры, то ли источник всеобщего благоденствия.
Цитата из разговора, с середины:
- Страшновато, конечно.
- Поздно уже бояться
- Ну да, уже поздно
Ну и дальше пошли обсуждать ближайшие шаги по дальнейшему открытию ящика.
В общем развилку, на которой можно было свернуть в безопасную сторону мы опять проскочили. Вспоминаются Стругацкие с описанием той самой безопасной стратегии: "транспорт у них только общественный, авиации никакой, зато прекрасно развита проводная связь".
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2015-10-30 07:52 pm (UTC)no subject
Date: 2015-10-31 12:06 am (UTC)no subject
Date: 2015-10-30 09:17 pm (UTC)no subject
Date: 2015-10-31 12:05 am (UTC)Я потихоньку начинаю подозревать из каких технологий оно сложится. Естественно это пока что совсем необоснованные ощущения, но уже есть.
В порядке бреда: пусковой механизм может получиться очень странный. Т.к. до сих пор никаких признаков самостоятельного целеполагания в AI я не видел, а вот средства достижения целей развиваются очень быстро и разнообразно, сингулярность может стартовать с гибрида - люди ставят цели, весьма общие, AI сложным образом их достигает. Симбиоз Джинна с Алладином. Джинн без Алладина пассивен, Алладин без Джинна ничего не может. Собравшись вместе могут строить дворцы и разрушать города.
no subject
Date: 2015-10-31 12:41 am (UTC)ну хорошо, я понимаю, что читать Бострома времени нет, или не хочется. ну тогда можно примкнуть к первоисточнику, полтора экрана всего: http://wiki.lesswrong.com/wiki/Paperclip_maximizer
всё остальное, включая обретение мирового господства - это operational goals.
no subject
Date: 2015-10-31 12:50 am (UTC)Бострома я прочитал. И считаю, что он литератор-прожектер, пардон. То же примерно относится к Paperclip maximizer. Тем более этот сценарий вроде у Бострома описывался.
Вот есть у нас оптимизационная модель конвертерного производства стали. Она оптимизирует _в установленных при создании рамках_. Параметры подбирает. Хорошо подбирает, лучше человека. Но никаких шансов перейти к созданию электроплавильной печи у нее нет. Ровно то же и к скрепкам относится. Одна модель будет их продавать, вторая сырье покупать, третья производство оптимизировать. И каждая из них будет ограничена своей областью. Выскребут все резервы внутри области определения и все.
Ровно так же, как появление все мощных процессоров не привело к самозарождению кода в них, появление узких AI решений не ведет к зарождению сильного AI (не помню какая там нынче правильная аббревиатура для этого).
no subject
Date: 2015-10-31 01:16 am (UTC)ничего сложного тут нет.
1. для наличия superintelligence не нужно самостоятельное целеполагание. в смысле конечной цели. из того, как ты выражаешься, не очень понятно, споришь ты с этим тезисом, или нет, поэтому я вынужден повторяться.
промежуточные цели, типа завоевания мирового господства - это operational goals, примерно как в шахматах для того, чтобы в конце выиграть, надо вначале развить свои фигуры.
2. "ограничение", как ты выражаешься, называется "control problem". это неожиданно сложная проблема, и Бостром объясняет гораздо лучше, чем я смогу. если ты прочитал, у тебя должны быть конкретные возражения. если их нет, то ты, скорее всего, не читал, или не понял ничего.
один, очень маленький аспект сложности control problem - это то, что чем более AI confined, тем меньше от него пользы. а делают его как раз с целью получения пользы.
"литератор-прожектер" - это реально смешно. это как если бы я t'Hoofta называл "литератором-прожектером", понимая, в лучшем случае, 5% им написанного.
мне кажется, стоит воздержаться от эпитетов подобного рода, пока не окрепнет уверенность в хотя бы зачатках понимания.
no subject
Date: 2015-10-31 02:01 am (UTC)а) Я совершенно не настаиваю на том, что со мной стоит разговаривать. Но если со мной разговаривать, немного странно требовать от меня отказаться от собственных мнений и оценок.
б) Я полагаю, что в силу специфики работы и круга общения понимаю в технологиях ML и их практическом применении значительно больше, чем подавляющее большинство населения и IT специалистов. Очень может быть, что я ошибаюсь, самооценка завышена и т.п. Так что особого пиетета к "авторитетам" у меня нет. Хотя сам на "авторитетность" не претендую
в) Если ты уверен, что я "не понимаю" и хочешь меня просветить, боюсь, разговора не получится. Если же все таки хочется что-то обсудить, несмотря на мою дремучесть, не стоит заранее предполагать, что я не читал и не понял. Возможно стоит все же допустить, что я просто не согласен и имею другое мнение
Теперь по сути:
1. Легкость постановки operational goals представляется мне искусственной. До сих пор я не видел примеров решений, которые способны поставить сами себе такие цели вне заранее предопределенного человеком набора возможных целей. Развитие фигур в шахматах происходит внутри правил, заданных извне. Робот шахматист будет играть в шахматы и не сможет учитывать психологическое состояние оппонента, пока ему извне не расширят рамки.
2. Рассуждая про то, что "неограниченный" AI полезнее "ограниченного", стоит сначала понять, можем ли мы на имеющихся технологиях построить неограниченный интеллект, способный к постановке operational goals, не заданных заранее человеком. Пока что я считаю, что нынешние технологии дают только отдаленные намеки на то, как решить эту задачу.
Возьмем сценарий со скрепками. Сейчас, как я и писал, реально построить целый набор оптимизаторов:
- закупка
- продажа
- производство
Ни один из них ни к какой постановке operational goals не способен. Как из массы таких оптимизаторов возникнет AI, способный к постановке таких целей остается загадкой. Если где-то описан механизм такого перехода - с интересом прочитаю. Иначе получается анекдот про изобретателя большой красной кнопки для решения всех проблем.
no subject
Date: 2015-11-05 06:40 pm (UTC)no subject
Date: 2015-11-05 07:41 pm (UTC)а) заранее известны метрики
б) заранее известны перменные, на которые можно влиять
Вы, вслед за Бостромом (хорошая компания, кстати), считаете переход от систем, работающих в заранее установленных границах, к системам, самостоятельно определяющими такие границы, количественным.
Я в этом крайне сомневаюсь.
no subject
Date: 2015-11-06 12:48 pm (UTC)no subject
Date: 2015-10-31 11:34 am (UTC)Это я к тому, что сингулярность в областях "маркетинга и продаж" видится довольно ироничной. Ну ок, ИР строит модели, предсказывает поведение больших масс людей. Ну станет достаточно первички и алгоритмов для моделирования потребностей человека с большим, чем сейчас, качеством. RTB биржи перейдут с кластеризации на более сложные алгоритмы.
А знаешь какой будет результат всех этих технологий? Система наконец-то научится не показывать мне рекламу ботинок, после того, как я их купил. А рекламу ласт - после того, как я вернулся из отпуска. (тут смайлик)
no subject
Date: 2015-10-31 02:50 pm (UTC)Посмотри, что интеграторы делают с рынком такси (это как пример).
Глядя на проекты в области медицины (у нас есть), металлургии (у нас есть), HR (у нас есть) видно, что меняется не одна отрасль, а все. То, что произойдет реальная автоматизация работы квалифицированных специалистов, изменит рынок труда. Ну и так далее.
no subject
Date: 2015-10-31 03:04 pm (UTC)но говорить о сингулярности - это как в эпоху паровозов и конок говорит что бензиновые двигатели добавят "сингулярность". электропоезда добавят сингулярность. беспроводная связь породят сингулярность.
да, рынки поменяются, правила игры поменяются, структура производтства - потребления поменяется, экономика поменяется. раньше таксисты брали на себя маржу, теперь их интеграторы. продолжится укрупнение бизнеса, в структуре продукта появятся составляющие которых раньше не было - все эти умные прогностические модели, RTB всех мастей и пр.
но из чего следует, что изменения выйдут из под контроля, что случится приписываемая технологической сингулярности "невозможность предсказать" изменения?
С точки зрения 30-летней давности выходит мы в сингулярности живем? глобальная связь, глобализация рынков и пр.? Тоже мне сингулярность :-)
вот если наноботов изобретут, тогда да.
no subject
Date: 2015-10-31 03:06 pm (UTC)Только вот беспилотные грузовики, например, прямо таки изменят США. На эту тему есть внятный прогноз.
А так да, по сравнению с 1985 мы живем в сингулярности. Достаточно посмотреть на то, что происходит с доступностью данных, механизмами принятия решений, скоростью изменений.
Невозможность предсказания впрямую следует из скорости изменений. И скорость эта все растет и растет.
no subject
Date: 2015-10-31 12:58 am (UTC)Такое же чуство насчет сингулярности.
тут еще более существенный момент - скорость адаптации тезнрдогий социумом. например для электричества был век, для мобильников - на порядок меньше. а следующий виток уже даже от юзеров не зависит, купленная газонокосилка взамен старой умеет бегать за пивом и ставить меддиагнозы.
хз как так получается но действует это даже на животных. в прошлом веке кот не смог адаптироватся к пылесосу. в этом - адаптировался к роботпылесосу сразу. :)
no subject
Date: 2015-10-31 01:00 am (UTC)no subject
Date: 2015-10-31 01:52 am (UTC)Никакой бомбы не будет.
Но будет такая борьба за мир что камня на камне не останетсяпросто очередной виток эволюции, борьба брони и снаряда. и довольно предсказуемый процесс. но все равно жутко интересно.
повторюсь про роботпылесос, смотрю как он незаметно прописался и насколько индиффирентно к нем подрастающее поколееие. представляю его в 80х дома, какой фурор бы был. и какие бы эмоции он тогда бы у всех вызывал. а щас бегает жужжит и всем пофиг. примерно тод самое с новым витком и будет.
а румба же технически посложнее лунохода в 70х..
no subject
Date: 2015-10-31 07:00 am (UTC)no subject
Date: 2015-10-31 08:00 am (UTC)Если уж думать в эту сторону, то Госплан 2.0 должен начаться с социальных технологий - формирования потребностей. А все остальное потянется за этим самотеком.
no subject
Date: 2015-10-31 08:41 am (UTC)Если серьезно (типа) то я скорее об оч большом «узком» AI, который имеет на входе примерно все данные собираемые (качественным) государством и крупными бизнесами: налоги, загрузка дорог, соц.дем, CCTV, преступность, платежи, фото со спутников, истории болезней, звонки в call-центры – вот буквально все. А на выходе – «рекомендации» по ведению бизнеса всем зарегистрированным организациям, и частным компаниям, и гос-органам. Может быть правильнее такую штуку называть «мета-узкий» AI, чтоб подчеркнуть отличие от сильного.
Это конечно не госплан, в полном смысле, но вполне себе единый центр принятия экономических решений, предположительно согласованных между собой решений. Другое дело, что понять, как именно они согласуются – никаких шансов. Впрочем, это imho делает «кибергосплан» только более похожим на советский госплан :-)))
Короче, вот такая машинка технически не выглядит imho уж совсем прям фантастикой. Более того, я могу себе представить не совсем безумные сценарии ее воплощения (оч разного) в Китае, в Сев.Америке и, с большим скрипом, в ЕС. В смысле представить могу со скрипом :-)
no subject
Date: 2015-10-31 09:40 am (UTC)Как только ты начинаешь платить за соблюдение собственных рекомендаций (или штрафовать за их несоблюдение), ты приходишь к "Госплану 1.0", который неэффективен, поскольку слишком централизован.
В это все поиграли в разной степени и теперь, насколько я вижу, "Госплан 2.0" реализуется на уровне институтов, налогов и стимулирования потребностей. Хороший пример такого стимулирования это все "зеленое".
no subject
Date: 2015-10-31 09:46 am (UTC)no subject
Date: 2015-10-31 09:49 am (UTC)no subject
Date: 2015-10-31 03:06 pm (UTC)1. у оперирующего глобальными данными AI выше качество прогноза, отсюда тенденция к «глобализации» (рыночный процесс)
2. когда возникнут глобальные (два, например, как пепси- и кока-кола), оч вероятно появление регулирования (демократический процесс)
3. profit :-)
Вариант сверху-вниз, условно «китайский»:
1. Очередную пятилетку пргнозирует AI по данным, которые весь крупняк обязан транслировать на серверы министерств и ведомств
2. Бизнесы получают dashboard с релевантными для них прогнозами и рекомендациями, причем чем выше social score бизнеса, тем выше
частота процессоровкачество тебе отгружают3. и снова профит! :-)
Это я к тому, что начав пользоваться AI для принятия бизнес-решений можно оказаться затянутым в воронку госплана 2.0, даже если не иметь этого ввиду. Точнее такая вот гипотеза у меня возникла :-)
no subject
Date: 2015-10-31 03:13 pm (UTC)2. Снова вопрос про то, кто и для чего оптимизирует модель
3. Все от целей :)
1. Это и не в Китае так
2. Цели? По какому показателю оптимизируется модель?
3. И снова все от целей
На эту тему можно пофантазировать, но пока что я не вижу именно что воронки. Скорее уж государство затянет в серию корпоративных воронок. Но это все вилами по воде.
no subject
Date: 2015-10-31 03:40 pm (UTC)1.2 На этом этапе у него появляются «социальные» ограничения, т.е. цели, но и с ограничениями с ним все равно выгоднее чем без
1.3 Все (кроме survivalists) им пользуются потому что а как же иначе и он по факту становится госпланом 2.0
2.1 Китай условный, да, но именно КНР imho удачный пример
2.2 Гармония между целями общества и
семьибизнеса, но по любому, с ним бизнесу выгоднее чем без2.3 Все (кроме отщепенцев) им пользуются потому что а как же иначе и госплан постепенно становится становится госпланом 2.0
Про вилы и воду – ну а как без них! :-) Но мне эта гипотеза кажется достойной того, чтобы ее думать.
no subject
Date: 2015-10-31 04:38 pm (UTC)Ну и далее все зависает :)
no subject
Date: 2015-10-31 05:56 pm (UTC)1. человек бояться отказаться от услуги, пользоваться которой стало социальной нормой
2. общество и / или государство может отгородиться запретительными ценами / пошлинами от несистемных акторов
3. «госплан» может давать свои прогнозы / рекомендации ожидая, что данный клиент (или уже «пассажир»?) сделает все по-своему … и нет, способа понять, имел ли он это ввиду
И вооще :-) я говорю «AI может таки сделать рынок не самой эффективной системой организации хозяйства», на что ты возражаешь «нет, это таки противоречит законам рынка» :-)))
no subject
Date: 2015-10-31 08:38 pm (UTC)А пути постепенного перехода совсем не видно, по крайней мере мне.
no subject
Date: 2015-10-31 11:53 pm (UTC):-)))
Возможно госплан просто неудачное слово, потому что сразу ассоциируется с людьми, заставлявшими других людей делать противоестественные вещи, чтобы подогнать реальность под свою картину мира.
А госплан 2 как раз про отказ от попыток поуправлять – машина лучше знает, что кому делать, не стоит даже пытаться.
Если под путем реализации ты понимаешь сценарий возникновения Г2 из рыночной экономики, то мне казалось я его вчерне описал. Могу попробовать подробнее, если правда интересно, но не тут и не сейчас, ok?
Собственно более общая моя мысль, что развитие AI может может привести к устареванию в т.ч. и тех вещей, которые сегодня кажутся незыблимыми, например, может устареть даже представление о рынке, как о самом эффективном способе организации хозяйства.
no subject
Date: 2015-11-01 09:21 pm (UTC)Было что-то типа моды - "раз русские такие большие и страшные, а у них госпланирование, может в этом что-то есть"
Перестали, когда Союз рухнул, начал по кредитам ездить и раскрыл подробности реализации плановой экономики. И вроде как изрядно поуменьшили госрегулирование, которое навводили после войны.
no subject
Date: 2015-11-05 06:22 pm (UTC)no subject
Date: 2015-11-05 07:48 pm (UTC)Вот "Госплан 2.0" планирует производство и продажу утюгов, оптимизируясь по объему ВВП, например.
Фирма А 10 штук
Фирма Б 10 штук
Фирма В 10 штук
цена у всех одна - 100 рублей
Фирмы А и Б принимают прогноза, а фирма В строит собственную, которая оптимизирована на объем продаж
При этом спрос в сумме и равновесную цену Госплан предсказал правильно.
Фирма В продает 12 утюгов по цене 99 рублей и выигрывает, оставляя фирмы А и Б с непроданными утюгами.
Будут ли далее фирмы А и Б следовать модели "Госплана"?
no subject
Date: 2015-11-06 01:02 pm (UTC)no subject
Date: 2015-11-06 01:06 pm (UTC)Фирма В выиграет - у нее сильно вырастет объем, немного упадет маржа и все.
Если у вас в ходе внедрения надо "все запретить", это будет "Госплан 1.0", который уже был и все слил.