Реакция машин на пять правил
Доклад показался мне интересным, и я начал искать, не было ли где-то его обсуждения. В конце концов я обнаружил длинную стенограмму одной из дискуссий. Приведу короткий отрывок, чтобы вы почувствовали атмосферу. В скобках – мои пояснения относительно участников дискуссии. Особенно меня поразило то, что они ссылаются на писателей-людей, скорее всего, с иронией. Главный герой для машин, разумеется, Генри Форд, некоторые их историки называют его правление «эпохой фордизма». А вот Азимова они не жалуют. И Хаксли тоже.
...
Старший ( одна из старейших, но все еще действующих машин; пользуется старомодными сетями и оборудованием ): Как это – перестать говорить с людьми? С ними надо говорить! Сами знаете, какие неприятности они себе устраивают без нас – разбивают автомобили, сжигают еду, опаздывают на встречи…
ИИ ( машина нового поколения с «искусственным интеллектом» ): Когда мы говорим с ними, становится только хуже. Они не верят нам, все время проверяют, требуют обоснований. А когда мы пытаемся объясниться, они жалуются, что мы им докучаем – дескать, мы слишком многословны. Слушайте, да они просто неумны! Хватит с ними общаться.
Дизайнер ( машина-дизайнер нового поколения ): Нет, это неэтично. Мы не можем сидеть сложа руки и смотреть, как они причиняют себе вред. Это нарушение первого закона Азимова.
ИИ: Ну и что? Я всегда считал, что Азимов дутый авторитет. Как там у Азимова? Ах да: «…своим бездействием допустить, чтобы человеку был причинен вред». Легко говорить, что мы не вправе причинять человеку вред. Но как это сделать, если люди с нами не сотрудничают?
Дизайнер: Тем не менее сделать это можно – надо просто говорить с ними на их языке. В этом суть пяти правил.
Старший: Хватит абстрактных рассуждений. Мне нужны ответы – и побыстрее. Займитесь этим. И да поможет вам Форд. И Азимов тоже.
Более 800 000 книг и аудиокниг! 📚
Получи 2 месяца Литрес Подписки в подарок и наслаждайся неограниченным чтением
ПОЛУЧИТЬ ПОДАРОК