Всякое общество имеет такой искусственный интеллект, которого заслуживает

Йоша Бах

Когнитивист, медиалаборатория Массачусетского технологического института, Гарвардская программа по изучению эволюционной динамики

Много веков тому назад некоторые философы стали рассматривать человеческий разум как механизм, и вокруг этой идеи (в отличие от механистического представления о Вселенной) горячие споры не утихают до сих пор. Благодаря формализации вычислений механистическое представление получило новое теоретическое обоснование: идея о разуме как о машине для обработки информации обеспечила нас эпистемологией и методологией для понимания природы нашего мышления путем его воссоздания. Несколько первопроходцев в области вычислительных методов собрались вместе 60 лет назад и создали новую дисциплину для изучения разума — искусственный интеллект.

ИИ оказался, возможно, самой продуктивной технологической парадигмой Информационного века, но, несмотря на серию впечатляющих достижений на начальном этапе, так и не сумел оправдать надежды. Он стал областью инженерного дела, создающей полезные абстракции и узкоспециализированные приложения. Однако сегодня он, похоже, опять изменился. Более совершенная аппаратура, новые парадигмы обучения и репрезентации, вдохновленные нейробиологией, и поступательное развитие самого искусственного интеллекта привели к множеству эпохальных достижений. Прорывы в области распознавания изображений, анализа данных, автономного обучения и конструирования масштабируемых систем открыли такие возможности практического применения, которые казались недостижимыми 10 лет назад. Благодаря возобновлению финансирования из частных и государственных фондов исследователи в области искусственного интеллекта сейчас обратились к созданию систем, способных демонстрировать воображение, креативность и внутреннюю мотивацию, а также усваивающих языковые навыки и знания примерно так, как это делают люди. ИИ как научная дисциплина, похоже, прошел полный круг.

Новое поколение систем ИИ все еще очень далеко от того, чтобы воспроизвести универсальность человеческого разума, и трудно предположить, сколько на это уйдет времени. Но все яснее становится тот факт, что фундаментальных преград на пути к человекоподобным разумным системам нет. Мы начали разделять разум на части, как пазл, и в сущности каждого из них, по-видимому, можно разобраться. Но если мы просто соберем все эти кусочки в единую рабочую модель, то разум, подобный человеческому, у нас не получится.

В отличие от биологических систем, технология масштабируется. Скорость самой быстрой птицы не стала предельной скоростью для самолетов, а искусственные разумы будут быстрее, точнее, внимательнее, сознательнее и содержательнее, чем их человеческие аналоги. ИИ заменит людей, принимающих решения, администраторов, изобретателей, инженеров, военных стратегов, дизайнеров, рекламистов и, конечно, программистов, работающих с ИИ. Таким образом, искусственные интеллекты могут стать самосовершенствуемыми, и тогда они окончательно превзойдут человеческие разумы по всем направлениям. Я не думаю, что это произойдет одномоментно (иначе важно было бы только то, у кого окажется первый из них). Пока у нас не появится универсально разумный, самосовершенствующийся ИИ, перед нами пройдет множество примеров специализированных под определенные задачи неуниверсальных ИИ, к которым мы сможем приспособиться. Очевидно, это уже происходит.

Когда универсально разумные машины станут реализуемой технологией, их производство будет относительно дешевым и они появятся у каждой корпорации, у каждого правительства, то всякой крупной организации придется создавать и использовать такие машины, чтобы не проиграть в конкуренции.

Что случится, когда искусственный интеллект обретет собственное мнение?

Разум — это ящик с инструментами, который мы используем, чтобы решить ту или иную задачу, но, строго говоря, он не определяет мотивов и целей сам по себе. Стремление человека к самосохранению, власти и опыту — это результат работы не разума, а эволюции приматов, переведенный в эпоху усиления стимулов, массовых взаимодействий, символических удовольствий и нарративной перегрузки. Мотивами наших искусственных разумов (по крайней мере, первое время) будут мотивы организаций, корпораций, групп или отдельных людей, использующих эти разумы. Если бизнес-модель компании не отличается благими намерениями, то ИИ потенциально может сделать ее по настоящему опасной. Подобным образом если организация стремится делать жизнь людей лучше, то ИИ повысит ее эффективность в плане реализации благонамеренного потенциала.

Мотивация наших искусственных интеллектов будет возникать из уже существующих социальных кирпичиков; всякое общество будет иметь такой ИИ, которого заслуживает.

Наши нынешние общества в этом смысле не очень хорошо организованы. Наши способы производства расточительны, а распределение ресурсов разорительно — и наши институты управления непригодны для решения такого рода проблем. Наша цивилизация — это агрессивно разрастающаяся воронка энтропии, которая разрушает на своих границах больше, чем создает в центре.

ИИ может сделать эти деструктивные тенденции более эффективными, а следовательно, более катастрофическими, равно как может помочь нам решить экзистенциальные проблемы нашей цивилизации. Создание благонамеренного искусственного интеллекта тесно связано с задачей построения общества, обеспечивающего правильную мотивацию своих элементов. Наступление новой эпохи мыслящих машин может заставить нас в корне пересмотреть наши институты управления, распределения и производства.