А туда ли мы идем?

Скотт Атран

Антрополог, Национальный центр научных исследований, Париж; автор книги «Разговаривая с врагом: Религиозный экстремизм, священные ценности и что значит быть человеком» (Talking to the Enemy: Violent Extremism, Sacred Values, and What It Means to Be Human)[55]

Машины способны превосходно имитировать некоторые виды человеческого мышления и последовательно превосходить людей в каких-то интеллектуальных задачах, но, как принято думать, не всегда правильно понимают нас, потому что обрабатывают информацию совсем по-другому, если говорить об области творческих способностей человека.

Машины научились точно имитировать кое-какую нашу разумную деятельность, результаты которой фиксированы (запоминание любимых фильмов конкретных людей, узнавание известных объектов) или динамичны (управление самолетом, игра в шахматы на уровне гроссмейстера). Машины могут превосходить человеческие мыслительные процессы быстро и без усилий в простых задачах (запоминание бесконечно большого числа телефонных номеров) и в сложных (обнаружение на основе анализа триллионов глобальных коммуникаций социальных сетей, члены которых и не знают о том, что они — часть сети).

Хоть сейчас эти технологии развиты довольно слабо, я не вижу принципиальных препятствий для того, чтобы машины, работающие без прямого управления человеком, начали учиться на ошибках людей — или на своих собственных — и, таким образом, эволюционировать, создавать новые формы искусства и архитектуры, добиваться успехов в спорте (своеобразное сочетание Deep Blue и Оскара Писториуса), изобретать новые лекарства, замечать таланты и использовать возможности образования, осуществлять контроль качества или даже конструировать оружие, способное уничтожать людей, но не другие машины.

Но, как мне кажется, при сохранении текущего приоритета в области искусственного интеллекта и нейробиологии, то есть достоверного определения паттернов, связей и фиксации как функции от прошлых связей и будущих вероятностей, машины вряд ли когда-нибудь смогут копировать (имитировать) критико-созидательный процесс человеческого мышления, включая формирование новых гипотез в науке или даже обычную речь.

Законы механики Ньютона или идеи Эйнштейна об относительности — это представления об идеальных мирах, не имеющих аналогов в прошлом или в возможном будущем, например движение в мире без силы трения или погоня за лучом света в вакууме. Подобные мысли требуют таких уровней абстракции и идеализации, которые скорее пренебрегают большими объемами информации, а не учитывают их.

Все более сложные и эффективные модели обработки огромных массивов информации с помощью суперкомпьютеров, постоянно обновляющиеся байесовские вероятности и прочие статистические данные, основанные на степени уверенности в состояниях природы, вполне могут делать все лучшие предложения и переводы или генерировать приятные мелодии и новомодные ремиксы. Таким образом, машины способны приблизиться с помощью своеобразного обратного проектирования к тому, что наши дети или эксперты делают с легкостью — при наличии относительно хорошо сформулированных внутренних структур, используемых, чтобы извлекать значимую информацию из мира, который в противном случае был бы нестерпимо шумным. Люди с самого начала знают, что именно они ищут в нем. В известном смысле они находят это еще до того, как начинают искать. Вычислительные машины никогда не будут так делать.

Могут ли машины, работающие без прямого управления человеком, последовательно взаимодействовать с людьми таким образом, чтобы те думали, будто взаимодействуют с живым собеседником? Машины способны приблизиться к человеческим возможностям на исчезающе малую дистанцию во многих областях, а во многих других — превзойти нас. Но равно как у самого искусного афериста всегда есть опасность, хоть и небольшая, оказаться уличенным в обмане, в то время как честного человека уличить не удастся, так и ассоцианистско-коннекционистская машина, работающая на стохастических, а не структурозависимых принципах, никогда не сможет достаточно хорошо разобраться в разуме или чувствах.

В принципе, машины с более сложной структурой — с чем-то еще, кроме read, write и address, — можно построить (более того, первые энтузиасты искусственного интеллекта создали логический синтаксис), они будут взаимодействовать с определенными ошибками, поскольку без ошибок нет обучения, и культурно эволюционировать. Но сейчас основное внимание ИИ и нейробиологии, которая должна заменить утверждения об абстрактных психологических структурах осязаемыми нейронными сетями и тому подобным, похоже, направлено совсем не туда.

Напротив, когнитивные структуры, о существовании которых уверенно говорят психологи (при условии, что те должным образом описаны, убедительно объяснены и эмпирически проверены с привлечением альтернативных гипотез и нулевой гипотезы), должны быть отправной точкой в том, чтобы определить, что именно надо искать нейробиологии и машинным моделям разума. Если в результате мы обнаружим, что различные абстрактные структуры работают на одном и том же физическом субстрате или что схожие структуры работают на различных субстратах, это будет значить, что у нас есть интересная проблема, способная привести к пересмотру понимания и структуры, и субстрата. Тот факт, что такие простые и основополагающие вопросы оказываются настолько сложны (или даже априори исключены из научной проблематики), демонстрирует, насколько примитивна еще наука о разуме — хоть о человеческом, хоть о машинном.