Nick Bostrom. Superintelligence. Тоска, печаль, пустыня

По рекомендации читаю Nick Bostrom Superintelligence

Печалюсь. Поскольку читаю немного через силу, есть риск, что что-то не воспринимаю.  Тем не менее заметки и печали:

Дальше очень длинно.

( Read more... )

В общем стоит почитать Пенроуза, насколько хватит сил, чтобы понять почему не все разделяют оптимизм автора.

Замечу при этом, что автор может быть прав во всем. Может быть мы увидим самозарождение ИИ в интернете. Может быть удастся эмулировать мыслительные процессы или мозг как таковой. Может быть к нам инопланетяне прилетят. Но никакого уверенного рассуждения автор не предлагает, на мой взгляд.

При этом развитие "слабого ИИ" не требует доказательств. Проблема даже лучших его представителей, которые демонстрируют весьма и весьма впечатляющие успехи, состоит в том, что границы, в которых он работает, определены извне. Распознаватель речи распознает речь. И у него нет "идей" о том, что может быть улучшение микрофона помогло бы распознавать лучше. В распознающей модели нет ничего про микрофон. В ней обучающая выборка и алгоритмы.  Распознаватель картинок распознает картинки. И так далее.

Даже комплексная модель, которая обращается к другим моделям, не имеет ни средств, ни мотива к пересмотру собственных границ или собственного устройства.

Watson от IBM выигрывает в Jeopardy, самообучается и обучается. И при этом он не подает признаков "сильного ИИ". Вообще первые признаки "сильного ИИ" должны восприниматься извне как неисправности, ровно потому, что одно из фундаментальных свойств интеллекта - регулярно производить непредсказуемые результаты. Получать новое знание, не сводящееся к сумме старого.

Все остальное рано или поздно съест ИИ, вопрос в том, что останется после этого.

Сингулярность и мы

Вдохновлен "фреймоворком" Бострома и свободным полетом его мысли над водами.

Он там пишет о мозго-машинном интерфейсе в будущем времени. Так ведь интерфейс уже здесь - вот экран, вот клавиатура с мышью. Все на месте. И, судя по темпам производства информации и прогресса технологий, ASI уже тут, с нами.  Сингулярность происходит, мы падаем к горизонту событий. А что так медленно, так это релятивистское искажение восприятия времени...  По меркам внешнего наблюдателя мы быстро падаем...