4 Рецензия Исследовательского центра проблем регулирования робототехники и ИИ (АНО "Робоправо")

В октябре 2017 года на русском языке была опубликована одна из самых необычных книг, посвященных искусственному интеллекту (ИИ).

Конечно, книг на русском языке, посвященных робототехнике и искусственному интеллекту, в принципе не очень много. Поэтому любая новая работа (точнее, новый перевод) сама по себе является немаловажным событием.

Но с этой книгой ситуация особенная.

«Что мы думаем о машинах, которые думают» – это сборник мнений ведущих мировых ученых, исследователей и экспертов об искусственном интеллекте.

Как будут взаимодействовать человек и ИИ в будущем, и будет ли оно у человека вообще? Будет ли изобретен суперинтеллект и что он будет из себя представлять? Чего нам нужно бояться и чего бояться не стоит? Когда можно утверждать, что машина думает и мыслит? Эксперты каждый по своему отвечают на эти и другие вопросы в формате эссе.

Уже поэтому книга, безусловно, достойна внимания: она объединяет публикации почти двухсот ведущих экспертов о проблеме ИИ. Другими словами, это концентрированное изложение позиций нескольких десятков экспертов в одной книге.

Как это удалось? Сборник стал возможен благодаря виртуальной площадке Edge.org. Она объединяет ведущих специалистов из самых разных областей и стран мира. По существу, это – виртуальный дискуссионный клуб для ученых, существующий с 1995 года. Одной из традиций клуба является рубрика «Вопрос года». Это вопрос задается редактором портала Джоном Брокманом, как правило, в начале года, а эксперты в течение года присылают свои мнения.

Например, вопросом 2009 года был «Что изменит мир вокруг нас?»; 2010 года – «Как Интернет меняет образ наших мыслей?»; в 2014 году – «Какие научные идеи устарели?», а в 2015 году – тот, что указан в названии этой книги. Все ответы ученых, а также представителей искусства и бизнеса были объединены, отредактированы и опубликованы.

Кто входит в число авторов? Вряд ли кто-то из российских читателей сможет сказать, что знает всех из них. Однако целый ряд имен достаточно известен, как минимум, тем, кто хотя бы раз интересовался публикациями о развитии робототехники и ИИ. Отметим, прежде всего, Ника Бострема, одного из виднейших ученых в области ИИ; Криса Андерсона, куратора TED; Питера Норвига, директора по исследованиям компании Google; Яана Таллинна, основателя «Future of Life Institute» и также известного как одного из создателей Skype; Родни Брукса, одного из основателей Rethink Robotics.

К сожалению, в книге собраны мнения не всех ведущих ученых. Больше всего не хватает, пожалуй, Рэя Курцвейла и Стивена Хокинга. Их позиции по поводу места ИИ в будущем человечества можно без преувеличения назвать определяющими. Однако по этой же причине с ними можно легко ознакомиться и без специальных изданий.

Позиции некоторых авторов кажутся изложенными слишком подробно, Кто-то, напротив, ограничился двумя-тремя абзацами. А некоторые эссе, на первый взгляд, имеют весьма отдаленное отношение не то что к ИИ, но и к науке вообще.

Тем не менее, книга является хорошей иллюстрацией того, насколько актуальной стала тема ИИ в последние несколько лет. Показательно, что выход этой книги на русском языке совпал с моментом, когда проблема опасности ИИ вышла на мировой уровень и стала все чаще звучать в новостях. В этом отношении хорошим дополнением к книге могли бы стать позиции Илона Маска и Марка Цукерберга.

Среди большого количества рецензий каждый может и найти общие тенденции, и выделить отдельных авторов. Стоить обратить внимание на рецензии Энтони Агирре, приведшего очень подходящее сравнение с Большим адронным коллайдером; Станисласа Диана, сформулировавшего две функции мышления, недоступных ИИ; Макса Тегмарка с остроумными заблуждениями об ИИ.

И, конечно, мы не можем не отметить эссе Моше Хаффмана о становлении правовой системы искусственных интеллектов, а также Брюса Шнайера – о ситуации, когда мыслящие машины нарушают закон ;).

Избранные цитаты из книги:

Я боюсь не успешного восстания ИИ, а скорее катастрофического сбоя, вызванного множеством мелких ошибок в кремниевой системе, которую наделили слишком большими полномочиями (Уильям Фитч)

Мы создаем разумные существа, но создаем их внутри себя. Этот интеллект искусственный лишь потому, что новый. Как только его станет больше, он станет просто разумом. Машины, которых мы так боимся - возможно, мы сами через несколько поколений (Квентин Харди).

Есть много других актуальных и куда более вероятных рисков, с которыми нам придется столкнуться этом веке. Беспокойство по поводу опасности враждебного ИИ - ярчайший пример глупости, поражающей только очень умных (Дилан Эванс).

Резюме: читать всем, кому интересно, как искусственный интеллект повлияет на наше будущее.
Андрей Незнамов

Источник