Накапливающиеся ошибки

ДЖАРОН ЛАНИР

Музыкант, кибернетик, пионер виртуальной реальности, автор книги You Are Not a Gadget: A Manifesto[13]

Мы знаем это из детских игр. В игре «испорченный телефон» дети передают друг другу шепотом послание, которое последний ребенок в ряду проговаривает в полный голос. К всеобщему восторгу, сообщение обычно трансформируется во что-то новое и странное, как бы четко ни старались выговаривать дети.

Юмор – вот к чему прибегает мозг, чтобы мотивировать себя и замечать расхождения и несоответствия в собственном восприятии мира. Игра в испорченный телефон веселит нарушением ожиданий; то, что мы считаем постоянным, оказывается изменчивым.

Если мозг настолько часто получает неверные сведения, что этот факт даже стал основой для детской игры, ясно, что в наших когнитивных функциях существует изъян, который не стоит игнорировать. Мы почему-то думаем, что информация не подвержена внешним воздействиям и всегда верна оригиналу, независимо от истории ее передачи и от искажений, которые могли возникнуть в ходе этой истории.

Иллюзия идеальной информации сбивает нас с толку и легко подавляет наши врожденные скептические импульсы. Если какой-нибудь девочке в процессе игры покажется, что сообщение звучит слишком странно и что оно, вероятно, отличается от первоначального, она может спросить у ближайшего соседа, какое сообщение он получил, прежде чем передать ей. Возможно, небольшие вариации и обнаружатся, но в целом информация вроде бы выглядит достоверной, иными словами, ребенок получает кажущееся подтверждение истинности информации, которая на самом деле ложна.

Другое приятное времяпровождение – перевод какого-нибудь текста с языка на язык с помощью онлайн-переводчика. Вы думали, что онлайн-переводчик – полезная штука (конечно, если им не злоупотреблять), но тут он вдруг выдает что-то весьма странное. Попробуйте перевести фразу несколько раз с одного языка на другой, а потом снова на язык оригинала и посмотрите, что получится. Например, если английскую фразу «Передовые знания стимулируют интересные онлайн-дискуссии» («The edge of knowledge motivates intriguing online discussions») перевести через Google-переводчик с английского на немецкий, затем на иврит, затем на китайский, а потом обратно на английский, она превратится в бессмысленное утверждение «Онлайн-дискуссии чтобы стимулировать привлекательные национальные знания» («Online discussions in order to stimulate an attractive national knowledge»). Нам подобные вещи кажутся забавными, как и игра в телефон, – и это напоминает нам, что наш мозг нереалистически оценивает возможные масштабы искажения информации.

Информационные технологии могут и раскрывать правду, и способствовать укреплению иллюзий. Например, датчики, расположенные в различных регионах мира и объединенные «облачной» системой вычислений, могут немедленно информировать нас о важных климатических изменениях. Однако бесконечная цепь пересказа этих сообщений в Интернете формирует у общественности иллюзию, что исходные данные недостоверны.

Иллюзия идеальной, не подверженной изменениям информации угрожает финансовой сфере. Финансовые инструменты становятся многоуровневыми производными происходящего в реальной экономике, которую финансы в конечном счете должны мотивировать и оптимизировать. Целью финансирования покупки дома, хотя бы отчасти, должна быть покупка дома. Однако целая армия экспертов и непрерывное развитие «облачных» сервисов ведет к тому, что на пути к Великой рецессии финансовые инструменты могут полностью утратить связь со своей основной задачей.

В случае со сложными финансовыми инструментами роль детей, играющих в «испорченный телефон», берет на себя не горизонтальная сеть, передающая сообщение, а вертикальная серия трансформаций, ничуть не более надежная. Транзакции громоздятся одна на другую. Каждая из них опирается на формулу, которая трансформирует данные предыдущей транзакции. Одна из транзакций может быть основана на том, что предсказание предсказания в какой-то момент было предсказано неверно.

Иллюзия идеальной информации проявляется в убеждении, что чем выше уровень, на котором презентуется транзакция, тем лучше. Каждый раз, когда оценка транзакции производится с учетом рискованности другой транзакции, даже в вертикальной структуре возможны ошибки. Когда информация пройдет через несколько уровней этой структуры, она может стать неузнаваемой.

К сожалению, цепь обратной связи, определяющей, успешна ли транзакция, основана лишь на взаимодействии соседних транзакций на нашей фантасмагорической и абстрактной финансовой площадке. Поэтому транзакция может приносить деньги просто в результате прямого взаимодействия с другими транзакциями, без всякого отношения к событиям в реальном мире, откуда все транзакции и берут начало. Это очень похоже на ребенка, который хочет проверить, правильно ли полученное им сообщение, однако спрашивает об этом только у своих непосредственных соседей.

В принципе, Интернет может напрямую соединять людей с источниками информации, чтобы избежать иллюзий «испорченного телефона». И действительно, так происходит. Например, миллионы людей имели возможность в реальном времени наблюдать за работой марсоходов.

Однако экономика Интернета в том виде, в котором она сложилась, поощряет и агрегаторы данных. И тут мы снова втягиваемся в игру в испорченный телефон: вы что-то сообщаете некоему блогеру, тот передает сообщение в агрегатор блогов, оттуда информация поступает в социальную сеть, затем рекламодателю, который соответствующим образом информирует комитет политических действий, поддерживающий того или иного кандидата на выборах, и т. д. На каждом этапе нам кажется, что сообщение имеет смысл, потому что возможности каждой отдельной девочки-скептика в этой цепи ограниченны. В результате во всю систему привнесена изрядная доля бессмыслицы.

Шутка перестает быть шуткой, если ее слишком часто повторяют. Необходимо признать, что существование «идеальной» информации – это иллюзия, и требовать от новых информационных систем лишь снижения количества накапливающихся ошибок.