Этика отношений людей и роботов обсуждается на международном уровне
В начале 2004 года в Сан-Ремо на вилле, где с 1890 по 1896 годы жил изобретатель динамита Альфред Нобель (Alfred Nobel), собирались инженеры, учёные, философы, социологи, антропологи и литераторы из разных стран. Без особого шума они обсудили воздействие роботов на наше будущее общество.
Действительно, мероприятие под названием Первый Международный симпозиум по робоэтике (First International Symposium on Roboethics) в прессе должным образом не прогремел, хотя проблемы, поднятые его участниками, могут заинтересовать многих. Пусть не прямо сейчас, а в недалёком будущем.
По замыслу организаторов, целью симпозиума было создание условий для диалога между специалистами из разных областей знаний. А на обсуждение был выдвинут ряд пока далёких от повседневной жизни вопросов. Впрочем, многие из них известны. Вот лишь некоторые:
Обладают ли интеллектуальные роботы сознанием? Они думают? Они испытывают эмоции, любовь, боль? Может ли робот представлять опасность для человечества? Не попытаются ли роботы взять над людьми верх, когда поймут, что мы слабее? Возможно ли, что наши жизни будут зависеть от них?
Не стоит думать, будто в танцевальном зале виллы Нобеля собирались луддиты, противники робототехники и мрачные предсказатели восстания машин.
Вовсе нет: сама эмблема симпозиума с улыбающейся девочкой, принимающей цветок из рук галантного гуманоида, призвана была показать дружелюбие по отношению к роботам и настрой на конструктивное сотрудничество с ними.
Тем не менее, если верить статье одного из участников — Брюса Стерлинга (Bruce Sterling) из журнала Wired — эксперты с тревогой констатировали наступление машин на человечество по четырём фронтам сразу.
На первом месте, по понятным причинам, военное направление. Машины с дистанционным управлением, которые отслеживают и убивают, уже есть.
Автономные роботы, создающиеся с той же целью, в процессе. Отсюда был сделан вывод о том, что перспективы автономного оружия неизбежно поднимают этические вопросы.
Например, кто должен нести нравственную ответственность за военное преступление, совершённое беспилотным самолётом или танком? Разрешается ли машинам отдавать приказы? И так далее.
Вторую зловещую проблему, по мнению участников симпозиума, лучше всего демонстрируют роботы-крысы, созданные Сандживом Талваром (Sanjiv Talwar) и его коллегами из университета Нью-Йорка (State University of New York — SUNY).
Исследователи внедрили в мозг лабораторной крысы микростимуляторы, которые позволили дистанционно управлять животным с расстояния до 500 метров, просто печатая команды на компьютере. Фактически живую крысу удалось превратить в послушную машину.
Эксперты отметили: крысы считаются идеальными лабораторными животными потому, что сделанное с крысой можно сотворить с человеком.
Если грызуна превратили в робота, то и людей можно по этой же технологии превратить в крыс. Этический кошмар налицо.
Третий факт, вызывающий беспокойство специалистов — наращивание физической силы роботов вкупе с их увеличением в размерах, от которых интеллектуальное развитие машин сильно отстаёт.
В данном случае ярким примером являются японские и американские робототехники, предлагающие пожилым людям и инвалидам механических помощников, шагающие кресла, мобильные руки и тому подобное.
Проблема в том, что роль центрального процессора при таком раскладе всё равно играет слабый, уязвимый, старый или больной человек. Это неравенство и вызывает беспокойство.
Опасность номер четыре носит социальный характер — это человеческая реакция на присутствие гуманоида в непосредственной близости.
Участники симпозиума предположили, что Sony, несмотря на успех с робособакой Aibo, возможно, никогда не доведёт до массового потребителя своего гуманоидного робота QRIO.
Он имеет завидные технические характеристики, и мог бы оказаться на полках магазинов хоть сейчас, если бы не одно препятствие.
QRIO — имеющая форму человека марионетка, которая может ходить, говорить, брать, бросать, но об этике, морали и нравственности имеет не больше представления, чем консервная банка.
Следовательно, сбой в программе может привести к тому, что QRIO схватит пистолет и застрелит, подожжёт дом или же возьмёт нож и перережет человеку горло, пока он спит.
Технически он может это сделать, а мозгов-то нет. Поэтому, решил на симпозиуме, в ближайшее время QRIO в продажу не поступит.
В общем, робоэтика оказалась не такой уж скучной темой, и в том, что состоится вторая конференция, сомневаться не приходится.
К такого рода «теоретизированию загодя» можно относиться по-разному, но обозначенные проблемы уже не кажутся фантастикой. Тем более, что речь идёт не столько о роботах, сколько о нас с вами.
