Мысли о людях, которые мыслят как машины

Хаим Харари

Физик; экс-президент Института Вейцмана; автор книги «Вид из ока бури» (A View from the Eye of the Storm)

Когда мы говорим «машины, которые мыслят», то обычно подразумеваем «машины, которые мыслят как люди». Очевидно, что машины мыслят различными способами: инициируют события, обрабатывают данные, принимают решения, делают выбор и реализуют многие другие (но не все) аспекты человеческого мышления. Но настоящий вопрос заключается в том, могут ли машины мыслить как люди. Все тот же старинный тест для искусственного интеллекта: вы наблюдаете результат мышления и не знаете, принадлежит оно компьютеру или человеку.

Некоторые научные светила приходят в ужас от идеи о том, что миром могут управлять мыслящие машины. Я не уверен, что эти страхи обоснованы. Меня больше беспокоит то, что миром могут управлять люди, которые мыслят как машины, — это главная новая тенденция нашего цифрового общества.

Можно научить машину следовать алгоритму и выполнять в нужном порядке определенные операции, которые логически связаны друг с другом. Она будет делать это быстрее и точнее любого человека. При наличии хорошо сформулированных постулатов или аксиом чистая логика — козырь мыслящей машины. Но умение задавать вопросы и принимать решения, опираясь на здравый смысл, пока остается прерогативой людей. Сочетание интуиции, эмоций, эмпатии, опыта и культурного фона и способность использовать это все, чтобы ставить актуальные вопросы и делать выводы, объединяя внешне не связанные факты и принципы, — вот отличительные качества человеческого мышления, которых пока нет у машин.

Человеческое общество быстрыми темпами идет к правилам, инструкциям, законам, инвестиционным механизмам, политическим догмам и моделям поведения, которые слепо следуют строгой логике, даже если она основана на ошибочных посылках или очевидно противоречит здравому смыслу. Религиозный экстремизм всегда эволюционировал на основе неких абсурдных аксиом, из которых логически вытекали бесконечно трагичные следствия. Отдельные дисциплины, такие как юриспруденция, бухгалтерское дело и некоторые области математики и техники, под влиянием бюрократических структур и СМИ, благоговеющих перед жестким управлением, часто ведут к появлению непрозрачных принципов типа «полной прозрачности» и терпимому отношению к радикальным проявлениям нетерпимости. Этот тренд и ему подобные склоняют нас к решению задач более алгоритмическими и логическими методами, часто за счет здравого смысла. Если здравый смысл, как бы мы его ни определяли, описывает преимущества людей перед машинами, сегодня мы наблюдаем не что иное, как явное отдаление от этого инкрементного человеческого качества.

К сожалению, разрыв между человеческим и машинным мышлением можно сузить двумя способами, и, когда люди начинают мыслить как машины, мы автоматически достигаем цели «машины мыслят как люди», подходя к ней не с той стороны. Очень умный человек, который приходит к определенным выводам на основании одной строки информации, на долю секунды оторвавшись от десятков электронных писем, СМС и твитов (не говоря об остальных цифровых помехах), стоит не выше обладающей средним интеллектом машины, которая анализирует большие объемы релевантной информации, а потом делает преждевременные заключения или подписывает общественную петицию, не разбираясь в предмете.

Этому можно привести сотни примеров. Все мы поддерживаем закон о том, что всякое новое здание должно обеспечивать полный доступ людям с ограниченными возможностями, а старые не обязательно оборудовать соответствующими приспособлениями, по крайней мере до капитального ремонта. Но есть ли смысл запрещать ремонт старого санузла с установкой таких приспособлений, из-за того что лифт в доме заменить нельзя? Или добиваться обнародования секретных источников ЦРУ либо ФБР, чтобы у суда была возможность вынести обвинительное заключение по делу террориста, который убил сотни людей? Или требовать письменного согласия родителей на то, чтобы дать подростку, находящемуся в учебном заведении, аспирин? А вот еще пример: когда школьные учебники переводили на метрическую систему, именно человек во фразу «С вершины горы окрестности видны примерно на 100 миль вокруг» внес поправку: «Видны примерно на 160,934 км».

Среди стандартных «священных коров» либеральной демократии небезосновательно оказываются разнообразные свободы: свобода слова, свобода прессы, академические свободы, свобода вероисповедания (или его отсутствия), свобода информации и множество других прав человека, включая принципы равных возможностей, равенства перед законом и недопустимости дискриминации. Мы все поддерживаем эти принципы, но чистая и бескомпромиссная логика приводит нас к тому, что мы, вопреки здравому смыслу, преимущественно настаиваем на соблюдении человеческих прав преступников и террористов, поскольку права жертв — это «не проблема». Прозрачность и свобода прессы логически приводят к необходимости обнародования полных отчетов о внутренних заседаниях, где обсуждаются деликатные вопросы, что вообще-то создает препятствия свободному обсуждению и непредвзятому осмыслению проблем в определенных общественных учреждениях. Академические свободы с помощью той же логики можно использовать вопреки здравому смыслу и фактическим данным, например преподнося историю о Ноевом ковчеге как альтернативу эволюционной теории, отрицая холокост при преподавании истории, заявляя, что Вселенной 6000 лет (а не 14 миллиардов). Этот перечень можно продолжать и дальше, но идея ясна.

Алгоритмическое мышление, краткость сообщений и чрезмерная опора на чистую логику приводят к тому, что мы начинаем мыслить как машины, а не к тому, что мы постепенно и осмысленно учим машины пользоваться здравым смыслом и интеллектуальными способностями. Инверсия этой тенденции может стать поворотным моментом в цифровой эволюции человека.