Протопия, а не утопия или антиутопия

Майкл Шермер

Психолог, историк науки; издатель журнала Skeptic; автор книги «Моральная дуга: Как наука и разум ведут человечество к истине, справедливости и свободе» (The Moral Arc: How Science and Reason Lead Humanity Toward Truth, Justice, and Freedom)

Сторонники искусственного интеллекта склонны представлять себе утопическое будущее, в котором добродушные компьютеры и роботы будут служить человечеству и дадут нам возможность достичь неограниченного благосостояния, покончить с бедностью и голодом, победить болезни и смерть, достичь бессмертия, колонизировать Галактику, а когда-нибудь даже покорить всю Вселенную и достичь точки Омега[53], где мы станем богом — всеведущим и всемогущим. Скептики видят антиутопическое будущее, в котором злобные компьютеры и роботы нас всех завоюют, сделав своими рабами, или же станут нас подавлять и тем самым остановят или даже повернут вспять научный и технический прогресс.

Большая часть таких пророчеств основана на ложной аналогии между сущностью человека и компьютера (или природного и искусственного интеллекта). Мы — мыслящие машины, результат естественного отбора, которым в нас также заложены эмоции, позволяющие экономить мыслительные усилия. Нам не нужно вычислять энергетическую ценность пищи — мы просто чувствуем, что голодны, и едим. Нам не нужно вычислять пропорциональность талии по отношению к бедрам или плеч по отношению к талии, когда мы смотрим на потенциальных партнеров, — мы просто чувствуем влечение к человеку и вступаем с ним в связь. Нам не нужно разбираться в генетических рисках воспитания чужого потомства, если наш партнер нам изменяет, — мы просто чувствуем ревность. Нам не нужно оценивать вредоносное воздействие неравноценного обмена — мы просто чувствуем несправедливость и желаем отомстить. Все эти эмоции встроены в нашу сущность эволюцией; ни одна из ник не встроена в компьютеры. Потому страх того, что компьютеры станут злодеями, безоснователен, так как им никогда в голову не придет предпринимать против нас подобные действия.

Кроме того, и утопическое, и антиутопическое ви?дение искусственного интеллекта основывается на такой проекции будущего, примеров которой в нашей истории никогда не было. Вместо утопии или антиутопии следует думать о протопии — термин придумал футуролог Кевин Келли, который описывает его в своем выступлении на Edge следующим образом: «Я называю себя протопистом, а не утопистом. Я верю в постоянство прогресса, при котором каждый год лучше предыдущего, но это не очень значительные, а микроскопические улучшения»{7}. Практически весь прогресс в науке и технологии, включая компьютеры и искусственный интеллект, имеет протопическую природу. Редко случается так, если вообще случается, что технологии приводят к возникновению утопического или антиутопического будущего.

Взять хотя бы автомобиль. Моя первая машина — «Форд Мустанг» 1966 года. У него был усилитель руля, гидроусилитель тормозов и кондиционер, что по тем временам считалось за относительно передовые технологии. Каждая машина, что я покупал с тех пор, параллельно со всеобщей эволюцией автомобилей оказывалась умнее и безопаснее, но изменения были не революционными, а постепенными. Вы, возможно, помните, как в 1950-х любили порассуждать о скачке? от наших драндулетов до летающих автомобилей. Ничего такого не произошло. Вместо этого мы получили накапливающиеся в ходе целых десятилетий усовершенствования, которые привели к появлению современных «умных» машин с бортовыми компьютерами и навигационными системами, подушками безопасности, рамами и кузовами из композитных материалов, спутниковыми приемниками, возможностью подключения телефона, электрическими и гибридными двигателями. Я только что сменил «Форд Флекс» 2010 года на ту же модель, но в версии 2014 года. Внешне они почти не отличимы, внутри — десятки небольших улучшений в каждой системе, от двигателя и трансмиссии до навигации, климат-контроля, звуковой системы и компьютерного интерфейса.

Подобные постепенные протопические улучшения мы видим в большинстве технологий, включая изменения в искусственном интеллекте — в особенности в искусственном интеллекте, продолжающем служить людям таким образом, который им нужен. Вместо гигантского скачка вперед или гигантского отката назад мы делаем маленькие шажки в нужном направлении.