5 Что опаснее - ядерная бомба или искусственный интеллект

ПЛЮС. Исторические события и биографии выдающихся ученых в художественной обработке. Нон-фикшн с элементами придуманного. Саспенс и захватывающий сюжет.

МИНУС. Если читатель романа ждет строго подтвержденных мемуаров и задокументированных научных фактов — здесь не совсем это.

РАВНО. Так ли опасен грядущий искусственный интеллект, как уже опробованное на людях оружие массового ядерного поражения. Не поддающаяся формальной логике наука последних времен. Нездоровые гении.

Сверхзадача романа MANIAC Бенхамина Лабатута — привлечь внимание читателя к опасности искусственного интеллекта. В книге проводятся глубинные аналогии его внедрения с разработками ядерного и термоядерного оружия. Конечно, в настоящее время для того, чтобы поверить в предстоящие бесчинства ИИ, нужна определенная фантазия. В отличие от применения ядерного оружия, свидетелем которого было население целой планеты. Сейчас, правда, внедряется мысль, что в ядерном оружии нет ничего страшного. Ключевой образ для раскрытия основной темы романа — одно из первых вычислительных устройств MANIAC (Mathematical Analyzer Numerical Integrator and Automatic Computer; на самом деле было несколько подобных моделей, но у этого говорящая аббревиатура); на нем рассчитывали ядерное оружие, предполагаемое климатическое оружие на основе термоядерного взрыва, кроме того, создали программы игры в шахматы и в игру го, которые начали выигрывать у чемпионов мира. В этом автор видит признак превосходства ИИ над человеком и нависшей над человечеством опасности. Хотя, конечно, люди без боя не сдаются, какие-то партии в шахматы и в игру го остались за живыми. Кроме машин на опасной стороне есть и люди, например, великий математик Джон фон Нейман, участник Манхэттенского проекта и один из создателей прототипа вычислительной машины. «Зловещий машиноподобный ум без тормозов». С другой стороны, это просто человек со своими слабостями и любовью. Фон Нейман в романе — скорее художественный образ, частично вписывающийся в воспоминания современников, хотя даже заверенным мемуарам не всегда можно доверять. Тем более верить писателям. Одна из проблем, которые поднимает автор — сбой нормальности у творцов: вундеркиндов и людей, перенесших физические и психические травмы. Но, похоже, только такие могут что-то создавать в современной науке, не всегда соответствующей критериям классической логики. Вообще не похоже, что человека когда-то создали по плану, а природа была придана ему в услужение, при этом секреты природы можно открывать степенно, путем спокойного логического обдумывания в перерывах между обедом и молитвой. На самом деле в обмен за тайны природа терзает создателей научных теорий. И еще, похоже, чем больше секретов человечество раскрывает, тем быстрее приближает свой конец. Животные, неспособные добывать опасные тайны природы, если и исчезают, то под воздействием внешних катаклизмов. Человек, животное разумное, умудряется заглядывать за опасную черту и способен устраивать такие катаклизмы себе сам.

Журнал "Формаслов"