3 Человечество, как биологический вид неминуемо вымрет, таковы законы природы.

Именно к такому выводу приходит автор книги об искусственном интеллекте, как последнем изобретении эры людей Джеймс Баррат. Будущее за машинами!

"Вернемся ненадолго к одному известному определению так называемой «технологической сингулярности». В нем говорится о будущем, когда нам, людям, придется делить планету с другим, более мощным разумом. Рэй Курцвейл предполагает, что человечество сольется с машинами и таким образом уцелеет. Другие специалисты считают, что машины изменят и улучшат нашу жизнь, но мы сами останемся такими же, как прежде, просто людьми, а не человеко-машинными киборгами. Третьи, и я солидарен с ними, считают, что будущее принадлежит машинам."

На этом тезисе строится вся книга и все попытки его как то оспорить (хотя идея адекватно оспаривать свои убеждения довольно сомнительна) по итогу ни к чему не приводят, если появится ИИ умнее человека, этот интеллект с огромной долей вероятности вырвется из под контроля и поработит человечество, а потом и переработает атомы всех живых существ в своих нуждах, сначала в нашей солнечной системе, следом в пределах нашей галактики, а затем и всей вселенной..

"Вассар пристально смотрел за окно на оживленное по случаю часа пик движение; машины только-только начали скапливаться на железном мосту в Окленд. Где-то там, за водной поверхностью, лежало будущее. В его воображении сверхразум уже вышел из-под контроля своих создателей. Он колонизировал сначала Солнечную систему, а затем и Галактику; теперь он занимался переформатированием Вселенной и вырастал в нечто настолько необычное, что сложно поддается человеческому пониманию. В этом будущем, сказал Вассар, вся Вселенная становится единым компьютером, или единым сознанием; это настолько же опережает наши сегодняшние представления о мире, насколько космический корабль опережает червя. Курцвейл пишет, что это судьба Вселенной. Другие соглашаются, но считают, что, бездумно развивая ИИ, мы сделаем неизбежным как наше собственное уничтожение, так и уничтожение других существ, возможно, обитающих где-то далеко."

Многие космологи в широком смысле этого слова задаются вопросом, почему мы до сих пор не нашли инопланетную жизнь среди звезд? А может мы не ту "жизнь" и не там ищем???

"Главный астроном SETI доктор Сет Шостак выдвинул смелое предположение о том, что именно мы можем встретить в космосе, если, конечно, встретим хоть что-нибудь. Это будет искусственный, а не биологический разум.
Он сказал мне: «То, что мы там ищем, это эволюционирующий объект. Наши технологические достижения учат нас, что ничто не остается стабильным надолго. Радиоволны, которые мы пытаемся уловить, являются результатом деятельности биологических сущностей. Но временное окно между тем моментом, когда цивилизация получает возможность заявить о себе по радио,
и тем моментом, когда она начинает строить превосходящие ее машины, мыслящие машины, - всего несколько столетий. Не больше. Получается, что каждая цивилизация сама изобретает своих преемников». Иными словами, для любой разумной формы жизни существует относительно небольшой период времени между двумя техническими вехами появлением радио и появлением продвинутого ИИ. А стоит создать Мощный ИИ и он быстро берет на себя управление - планетой или сливается с изобретателями радио. После этого радио становится ненужным."

"Большая часть радиотелескопов SETI направлены на «зоны жизни» ближайших к Земле звезд. Планета в «зоне жизни» расположена достаточно близко к звезде, чтобы вода на ее поверхности могла оставаться в жидком состоянии - не кипела и не замерзала. Вообще, условия на такой планете должны очень точно укладываться в довольно узкие рамки, поэтому иногда «зону жизни» называют также «зоной Златовласки» по имени капризной героини известной сказки. Шостак утверждает, что SETI следует направить в места не слишком привлекательны с точки зрения биологического разума, но где вполне могут обитать разумные машины. У машин иные потребности. У них нет очевидных ограничений на продолжительность существования, поэтому они, очевидно, с легкостью могут занять доминирующее положение в космосе. А поскольку эволюция у них идет намного быстрее биологической, может получиться так, что первые же разумные машины, появившиеся на сцене, в конечном итоге подчинят себе все разумные существа Галактики. Это тот случай, когда «победитель получает все»."

В любом случае, попытки встроить защиту при проектировании ИИ по мимо того что они осложняются системами, которые сами себя программируют в недрах "чёрного ящика", так и полностью разбиваются о фундаментальные основы логики, саму суть математики.

"Мы не можем предугадать с некоторой вероятностью, как поведут себя продвинутые ИИ-системы. И их поведение может оказаться неожиданным и креативным. В основе этих размышлений лежит настолько пугающе простая концепция, что потребовалось настоящее озарение (в лице Омохундро), чтобы ее разглядеть: для достаточно разумной системы уход от уязвимостей — мотиватор не менее мощный, чем специально встроенные в нее цели и подцели."

Идее о том что ИИ никогда не появится, специалисты отдают в среднем 2%. Природа в своей основе подчиняется математике, а все что может быть вычислено, то может быть и запрограммировано.

"Гипотеза Чёрча Тьюринга, объединившая работы Тьюринга и принстонского профессора-математика Алонсо Чёрча, дала серьезный толчок к исследованию искусственного интеллекта. Эта гипотеза утверждает, что все, что может быть вычислено по алгоритму или по программе, может быть вычислено машиной Тьюринга. Исходя из этого, если мозговые процессы могут быть выражены в виде серии команд алгоритма, то компьютер может обрабатывать информацию в точности так же, как мозг. Иными словами, если в человеческом мышлении нет ничего мистического или магического, то разум (интеллект) может быть воплощен в компьютере."

В книге также разобраны варианты, где с большей вероятностью появится ИИ умнее человека, у военных, в лабораториях цифровых гигантов Google или IBM, у хакеров или например один из неочевидных казалось бы ответов - на фондовом рынке.

"В принципе УЧИ может родиться на Уолл-стрит. Самые успешные алгоритмы и сейчас держат в тайне и «кванты», с любовью их реализующие, и компании, ими владеющие. Интеллектуальный взрыв здесь пройдет незаметно для большинства людей, если не для всех, и остановить его, вероятно, в любом случае будет невозможно."

В любом случае увидеть или предсказать, что будет после появления ИИ умнее человека и его выхода из под нашего контроля -  так называемую "технологической сингулярность" мы так же не можем, как заглянуть за горизонт событий Чёрной дыры.

"У слова «сингулярность» несколько значений, и Виндж использует его в более узком смысле, чем многие другие. Определяя сингулярность, он провел аналогию с точкой на орбите черной дыры, дальше которой свет с ее поверхности пройти не может. Невозможно увидеть, что происходит за этой точкой, известной как горизонт событий. Точно так же, если нам придется делить планету с сущностями разумнее нас, пути назад не будет - мы не в состоянии предсказать, что произойдет в подобном случае. Чтобы судить об этом, нужно обладать, по крайней мере, равным интеллектом."

В целом книга была бы неплохой, если бы не её объем и стиль автора, который повторяет свой базовый тезис почти на каждой странице книги - нас всех уничтожат - нам не спастись и никто об этом особо не волнуется. Эту книгу можно было уместить, максиму в 100 страниц, без размазывания и повторений одного и того же - отсюда и 3 звезды 

PS/ Особенно в этой книге меня смутил и позабавил один момент, где Джеймс Баррат, рассуждает и даёт прогноз на тему, что будет если пропадёт электричество?

"В случае отключения электричества связь с пострадавшими районами тоже продержится недолго столько, сколько аварийная связь проработает на аккумуляторах и автономных генераторах, требующих, естественно, топлива. Если не говорить о несчастных, которым не повезет застрять в лифтах, максимальной опасности подвергнутся пациенты в палатах интенсивной терапии и новорожденные. Анализ гипотетических катастроф, вырубающих значительные участки национальной энергосистемы, выявил несколько тревожных фактов. Если энергии не будет больше двух недель, большинство грудных детей в возрасте до года умрет от голода из-за отсутствия молочных смесей. Если энергии не будет год, примерно девять из десяти человек всех возрастов умрут от самых разных причин, в основном от голода и болезней."

Исходя из этой фантазии совершено не понятно, как так получилось, что без "молочных смесей" человечество вообще появилось, эволюция и естественный отбор в недоумении)) А то, что в отсутствии  электричества целый год, выживет 1 из 10, а большинство умрет от голода и болезней, это вообще анекдот достойный разве что канала РЕН-ТВ. Автор явно не представляет, как люди живут без энергии в проводах тысячи лет и до сих пор спокойно существуют и размножаются. Понятно что города вымрут, но уж явно не из за болезней и голода, а в следствии гражданской войны за ресурсы, это очевиднейшая вещь обмусоленная всеми, от писателей, до кинематографистов.

Спасибо за внимание!)