Смена представления о собственном «я» в распределенном мире

Мэттью Ричи

Художник

Случится ли это? Уже случилось. Технологии хранения и воспроизведения информации постепенно сливаются на атомном и молекулярном уровне, распределенные и сетевые устройства для хранения и воспроизведения информации распространяются в масштабах всего общества и планеты (их численность уже превосходит численность людей на планете). С учетом всего этого определения «машины» и «мышления» теперь должны охватывать и органический, и неорганический «комплексы» и «системные решения» как взаимозаменяемые понятия — механически, биологически, физически, интеллектуально и даже теологически.

В ближайшем будущем развитие биотехнологий и систем сверхчеловеческого алгоритмического прогнозирования приведет к быстрому устареванию многих современных философских представлений о различии между наблюдением, мышлением и решением, а также сделает количественные аргументы бессмысленными. Когда эти барьеры будут преодолены, и разделение между «мыслящей машиной» и «мыслящей биологической системой» сойдет на нет, внимание немедленно сместится на качественные вопросы — человеческие определения интенциональности и субъектности для мыслящих машин.

Что это будет означать для нас? Существование мыслящих машин, организованных в виде неорганической или квантовой структуры либо биологической холархии[117], как-то умаляет человеческую субъектность или расширяет ее? Намерены ли мы уточнить определение самих себя, чтобы оно включало не только созданные нами механические системы, но также и независимые, симбиотические системы, уже присутствующие в нас, — триллионы бактерий в наших внутренностях (которые влияют на наше психическое состояние, воздействуя на течение определенных химических реакций) и биохимические трекеры, препараты и аугменталы, которые мы употребляем? Какое значение это будет иметь для полноценного расширения наших «я» посредством мыслящих машин (и расширения в них)?

Однажды появившийся ИИ быстро найдет дорогу к мировой библиотеке — к интернету. И как только он туда попадет, он соединится со множеством квазичеловеческих систем, распределенных крауд-интеллектов и агрегированных мыслящих машин, уже населяющих это пространство, и быстро научится генерировать или симулировать модели непрерывного сознательного мышления, начав изображать найденные там «я» и легко воспроизводя или кооптируя сложные альтернативные личности и неточности, которые характеризуют Сеть.

Определение различий между реальным и нереальным будет самой важной задачей для независимой, эволюционирующей, работающей интеллектуальной системы. Как ее этому научить? В объектно-ориентированной онтологии Вселенная представлена как уже наполненная объектами и свойствами, из которых человеческое сознание составляет имеющие определенный смысл системы. Вот только в чем качественное отличие между спонтанно созданными мыслящими системами (или композитами из объектов и свойств) и искусственно созданными мыслящими системами? Что произойдет, если (или когда) одна из них отвергнет или превзойдет основные философские принципы своих создателей?

Переосмысление природы и роли человеческого мыслящего «я» как самоотчуждающейся, самосоздающейся, самоисправляющейся системы, о точной природе и конкретных задачах которой ведутся споры с начала эпохи Просвещения, будет насущной задачей, связанной с вопросами об общежитии и нашем желании заниматься проблемами моральной определенности и моральных границ независимых систем, воздействие которых на реальный мир нельзя игнорировать.

Такие системы считаются живыми? Каковы их права и обязанности? Поскольку решением Верховного суда США корпорации были уравнены в правах с физическими лицами, мы приняли как должное правовой прецедент, в соответствии с которым не-человек, агрегированная «мыслящая машина», может быть неотъемлемой частью нашей политической и культурной жизни, а вот с четким определением не-человеческих систем в человеческих терминах возникли сложности. Не самой простой задачей будет интеграция сложных и разносторонних человеческих моральных, творческих и репрезентативных мировоззренческих систем в понятный гражданский процесс, который определит способность мыслить как основу гражданственности.

Самым слабым контраргументом против мышления искусственной жизни, часто связанным с гуманитарными дисциплинами, является смутно-средневековое, мистическое представление о том, что человеческого восприятия симметрии и красоты машинам никогда не достичь. В интерпретативных дисциплинах идея о том, что машине никогда не справиться с человеческой работой, это своеобразный символ веры, но на самом деле это всего лишь приятная иллюзия, предполагающая, что незатейливые эстетические стандарты в некотором современном на определенный момент их понимании невозможно кодифицировать и затем симулировать. Машины уже исполняют популярные песни и делают прекрасные фотографии других планет и звезд. Уже есть видеоигры настолько же красивые, как кинофильмы. То, что машина научится писать симфонии или рисовать шедевры, — всего лишь вопрос времени. Возможно, более существенный вопрос, научится ли она создавать великие произведения искусства, наконец достигнув посредством чистой производительности того, чего ни один человек не смог достичь с помощью импровизации. Часть невообразимо огромной и по-новому горизонтально-распределенной сети культурных норм, опирающейся на новые технологии, действительно начала превращаться в то, что Джарон Ланье назвал «мышлением улья», подтверждая тем самым наиболее мрачные культурные прогнозы{14}. Но, как предположил Хайдеггер, опасность непроверенного научного рационализма состоит в том, что наиболее упрощенное определение объекта как «машины» или «системы» можно расширить до универсального масштаба, сделав из него самооправдательный и бессмысленный с моральной точки зрения аргумент в пользу механизации «я». Последовавшие за этим фантазии — живые машины Сэмюэля Батлера[118], мрачный мир искусственной занятости Герберта Уэллса и страх стать компонентами суперсистемы или матрицы — прежде всего показывают несостоятельность человеческого воображения.

Появление и описание новых видов динамически агрегируемых «информационных граждан» и агрегируемых платформ, будь они коллективными или индивидуальными, биологическими, корпоративными, национальными или транснациональными, дарит нам огромные новые возможности — не только как представителям одного вида или определенного композита объектов и свойств, но как новому виду людей — совладельцев информационной культуры, экономики и идеологии, у которых по общему праву рождения есть доступ к любой культуре и к любой системе.

Возможно, гибридные мыслящие машины «человек-объект-система» уже становятся мощным источником энергии для истощенной исторической среды. Возможно, нам придется вообще пересмотреть траекторию развития практической творческой деятельности. Не получится ли так, что время возникновения мыслящих машин вдохновит нас на переосмысление и переопределение того, что значит быть настоящим человеком, что значит связь с бесконечностью? Уже получилось.