Правила меняются по ходу игры

Шейзаф Рафаэли

Преподаватель и директор Центра исследований Интернета, Хайфский университет (Израиль)

Мыслящих машин пока нет. Но они дадут о себе знать, когда появятся. В том-то все и дело. Мышление машины определяется коммуникацией.

Благодаря мышлению машины могут избавиться от той трагической роли, в которой им пришлось выступать в человеческой культуре. Много веков они были и призрачной угрозой, и ускользающей целью. К ней непрестанно стремились ученые, и ею же пугали нас алармисты-антиутописты. В течение нескольких десятилетий искусственный интеллект как область исследования страдал синдромом постоянной смены правил по ходу игры. Как только та или иная цель по разработке интеллекта оказывалась достигнута, ее переопределяли и впоследствии уже не считали имеющей отношение к разуму. Это произошло с вычислением и с викторинами на эрудицию, а также с более серьезными играми вроде шахмат. То же случилось с распознаванием голоса и изображений, пониманием естественного языка и переводом. Поскольку горизонты развития продолжают расширяться, нас все сложнее удивить. Так что можно кое о чем подумать применительно к цели, обозначенной как «мышление», а ранее как «разум», — о предусмотрительности.

Не нужно сводить обсуждение только к вопросам мышления; надо подумать и о самом обсуждении. Информация — это уже не просто данные, она менее объемна и более существенна. Знание — это уже не просто информация, его можно тем или иным образом применить. Мудрость — это знание о том, как не попасть в переплет, ум же показывает, как выбраться из неприятностей. А что мышление? Мышлению нужны данные, а знанию также требуются коммуникация и взаимодействие. Мыслить — значит задавать вопросы, а не только отвечать на них.

Общение и взаимодействие — вот новая цель. Задача осмыслить мышление выходит за пределы ума или мудрости. Мышление предполагает наличие сознания и чувств. И здесь данных, информации, даже знаний, вычислений, памяти и восприятия, недостаточно. Для того чтобы мыслить, машине нужно быть любопытной, креативной и общительной. Сомневаюсь, что она такой станет. По крайней мере, в ближайшее время. Но цикл будет завершен, только когда машины научатся беседовать: формулировать, излагать и перефразировать вопросы, на которые пока могут только отвечать, что для нас уже удивительно.

Машины, которые мыслят, — это отличная идея. Как и машины, которые двигаются, готовят, воспроизводят себя, защищают нас, они могут сделать нашу жизнь проще и, наверное, даже лучше. И это окажется очень кстати. Подозреваю, что появление таких машин будет не столь драматичным и травмирующим, как представляется многим. Машина станет действительно мыслящей только тогда, когда она сможет нам о себе сообщить, а также воспринять, сохранить и обработать наши реакции. Подлинно мыслящая машина даже сумеет утешить получивших психологическую травму и облегчить их страдания.

Мыслящие машины будут достойны того, чтобы о них задумываться, то есть будут по-настоящему мыслить, когда действительно станут взаимодействовать. Другими словами, они будут по-настоящему мыслить, только когда сами убедительно заявят об этом, по собственной инициативе и, я надеюсь, после того, как обсудят это между собой. Машины будут мыслить в полном смысле слова, когда образуют свои сообщества и присоединятся к нашим. Если — и когда — машинам это потребуется и они сформируют связь, которая в достаточной мере заинтересует других, чтобы все с ними обсудить, они пройдут тест на мышление.

Обратите внимание, что эта планка выше, чем заданная Тьюрингом. Как и мышление, взаимодействие — такая вещь, которой занимаются не все люди, а из тех, кто занимается, у большинства получается не очень хорошо. Если — и когда — машины начнут взаимодействовать масштабно, продуктивно и активно (что возможно, но редко случается даже среди людей), у нас появится повод поволноваться или, как мне кажется, скорее порадоваться.

Машины, которые вычисляют, запоминают, даже творят и строят предположения, — это уже не новость. Машины начнут мыслить, когда начнут общаться. Они будут беседовать между собой, а также с другими разумными существами. Они будут автономно создавать сообщения и обмениваться ими в непрерывном потоке отношений, плодотворно и самостоятельно реагировать на внешние воздействия. Многие не сомневаются, что их домашние питомцы умеют и думать, и поддерживать отношения. Точно так же разумные синтетические устройства станут в наших глазах мыслящими, когда убедят рассмотреть и принять этот факт достаточно большое число людей.

Машин, которые говорят, обладают памятью, развлекают нас или летают, не так давно все боялись, а сейчас они никого не удивляют, не кажутся чем-то волшебным или исключительным. Создав мыслящие машины и экспериментально подтвердив факт их мышления, а также убедившись, что они не посягнут на исконно человеческие владения, мы разрушим еще один рубеж — коммуникативный. Последним рубежом может оказаться объединенное взаимодействие. И когда машины ему обучатся, они сами будут защищать свои интересы.