Этика для роботов

Одна из самых ярких особенностей нашей цивилизации состоит в том, что человечество всегда пропускает самое важное. Важнейшие перемены в истории, как правило, случаются незаметно, и с последствиями приходится иметь дело уже как со случившимся фактом.

Одна из самых ярких особенностей нашей цивилизации состоит в том, что человечество всегда пропускает самое важное. Важнейшие перемены в истории, как правило, случаются незаметно, и с последствиями приходится иметь дело уже как со случившимся фактом.

Так было с химической промышленностью, с атомной энергией, с компьютерами, с интернетом. После того как Сеть стала реальностью, обнаружилось, что в фантастических романах удалось найти смутные намёки на то, что мировая сеть компьютеров когда-нибудь появится. Правда, эти литературоведческие изыскания уже удобнее искать в электронных библиотеках, результаты публиковать на сайтах и обсуждать на форумах. Важнейшая техническая революция столетия — может быть, и всей истории — прошла незамеченной.

Многим это не нравится, и поэтому сейчас, когда до массового распространения роботов остаётся ещё несколько лет, всё громче и громче раздаются голоса о необходимости, по крайней мере на этот раз, не упустить контроль над развитием техники.

Продажи роботов — как промышленных, так и предназначенных для домашнего использования — по приблизительным оценкам, достигли 5,5 млн в 2008 году. К 2011 году спрос увеличится до 11,5 млн. И весь этот огромный парк интеллектуальной техники используется, в сущности, совершенно бесконтрольно.

«Взрыв использования интернета застал нас врасплох, и не хотелось бы, чтобы с роботами произошло то же самое», — считает профессор Ноэль Шарки, занимающийся в Шеффилдском университете проблемами искусственного интеллекта и робототехники. Достаточно принять во внимание мнение основателя Microsoft Билла Гейтса, предсказавшего, что в ближайшие несколько лет роботы станут таким же обыденным делом, как и персональные компьютеры, чтобы признать тревогу профессора обоснованной.

Необходимость в правилах для роботов — повторяющих ли три закона робототехники Айзека Азимова, или разрабатывающих какие-то другие — не вызывает сомнений. «Лучше, если мы установим этические правила, не дожидаясь, пока роботы будут производиться массово и станут обыденными вещами», — пишет Шарки в статье, опубликованной в журнале Science.

Уже 14 компаний в Японии и Южной Корее производят роботов, опекающих детей. Вопрос в том, не приведёт ли это к изоляции детей от общества и пренебрежению ими? Мы не можем знать, как повлияют на психологию детей долгие часы, проведённые наедине с роботами. И это не пустые страхи. NEС уже протестировала своего робота PaPeRo, симпатично выглядящего и предназначенного для того, чтобы жить в семье. Он распознаёт лица, подражает поведению, рассказывает шутки, исследует дом. Многие роботы созданы как игрушки, но они могут использоваться и как воспитатели, отслеживая перемещения детей и поддерживая связь с родителями через беспроводную сеть или по сотовому телефону.

Эксперименты, проведённые с обезьянами, уже показали, что молодые особи, оставленные на попечение роботов, как пишет Шарки, «становятся не способны общаться с другими обезьянами и развиваться дальше».

Родители могут доверять роботам. Это действительно снижает риски, о которых осведомлён каждый родитель, когда-либо хотевший нанять няню для своего ребёнка. Но в перспективе возможны опасные последствия: «Исследования показали, что дети склонны привязываться к роботам. В большинстве случаев они предпочитали робота плюшевым мишкам. Тесные отношения приводят к приятным и увлекательным переживаниям, которые заинтересовывают и вызывают любопытство. Но из-за того что они находятся в кажущейся физической безопасности, детей могут оставлять наедине с роботом по много часов в день, может быть, и на несколько дней. Какое психологическое влияние социальная изоляция окажет на развитие — непредсказуемо».

Для больных и престарелых создаются другие роботы: Secom производит робота My Spoon, который помогает людям с ограниченными возможностями есть. Sanyo создали «ванного робота», помогающего пожилым людям и инвалидам самостоятельно принимать ванну. Развитие этого направления робототехники просто жизненно необходимо с учётом последних демографических тенденций. Средняя продолжительность жизни растёт, рождаемость падает, средний возраст неуклонно снижается в любой мало-мальски развитой стране. Не так много молодых людей, которые захотят посвятить свою жизнь уходу за старшим поколением, когда массово будут производиться роботы-помощники. Такие устройства позволяют пожилым людям жить в своих домах свободнее, но, пишет Шарки, их распространение может привести к риску того, что престарелые люди останутся наедине с роботами — без контактов с людьми. Никто не поспорит с тем, что пожилые люди особенно остро нуждаются в человеческом общении, которое зачастую обеспечивают люди, просто помогающие им в повседневных делах.

Суть призывов профессора в том, чтобы все аспекты применения роботов определялись этическими принципами. Не только в частных домах и на фабриках, но и на поле боя. Такие роботы, как, например, Predator, уже давно эффективно работают, точнее, убивают — в Ираке и Афганистане. Проект US Future Combat Systems предполагает использование роботов как «усилителей эффективности». Один солдат сможет управлять наземной и воздушной атакой армии дроидов.

«Учёные и инженеры, которые заняты в роботостроении, должны помнить о возможных опасных аспектах своей работы. Публичное международное обсуждение жизненно необходимо, чтобы установить правила этики и безопасности прежде, чем они возникнут сами собой. Роботы, ухаживающие за человеком, и роботы-солдаты представляют только две этически проблемные области из огромного спектра. Скоро их решение станет насущной необходимостью в силу стремительного распространения роботов и растущего числа методов их использования. Они войдут в нашу жизнь в совершенно непредсказуемом количестве», — считает профессор Шарки.

Предсказания, которыми щедро делились фантасты в XX веке, о грядущем восстании машин, получивших искусственный интеллект, превосходящий человеческий, пока не сбылись. Однако Ноэль Шарки считает, что даже тупых роботов надо контролировать: «Я не предлагаю встраивать в роботов этические ограничители, как в произведениях Айзека Азимова. Но простые руководства по правильному использованию роботов должны быть созданы. Современных роботов даже тупыми не назовёшь. Если бы я думал, что они превосходят нас по разуму, я бы об этом не беспокоился. Они не умнее средней стиральной машины. И в этом-то и заключается проблема».