Железная логика

Стоит ли разрешать роботам участвовать в человеческих конфликтах? В принципе можно, но до добра это не доведет

Едва ли кто-то станет отрицать банальный факт, что на тяжелых работах людей со временем все больше заменяют машины. А ведь убивать — тоже дело не из легких. Даже если делать это ради защиты. Собственно, люди и так постепенно доверяют эту работу машинам. Предпочитают контролировать их деятельность, но отпускают от себя все дальше и дают все больше свободы. Луки, ружья, ракеты.

А теперь и беспилотные самолеты вроде Predator, которые могут не только исследовать и патрулировать, но, если потребуется, сбросить на землю парочку бомб. Или вспомните робота на гусеничном ходу под названием Talon. Американцы испытывают его сейчас в Ираке и Афганистане в саперных подразделениях, снабдив механической рукой для обезвреживания мин. В продвинутом варианте присоединяется пулемет или гранатомет.

Пока загвоздка в том, что в отличие от роботов во всевозможных «звездных войнах» наши земные для уничтожения людей не используются. Вроде как неэтично.

А собственно, почему? Если в чисто оборонительных целях и со всеми предосторожностями, благодаря которым никто не пострадает безвинно? Нервов у робота нет, меньше шансов, что станет вторым полковником Будановым.

Не так давно ВМС США заказали, а Калифорнийский государственный политехнический университет подготовил и представил доклад на совершенно нелепую на первый взгляд тему: «Правила поведения роботов на поле боя». Сколько издевалась пресса над учеными, которые уже не знают, чем заняться. А зря, наверное. Техника развивается, а мир на Земле так и не наступает. Дойдет до того, что машина не просто убьет, но сама сделает выбор.

Как это произойдет впервые? Робот нарезает круги вокруг военного объекта, засекает нарушителя, сообщает оператору. А тот не отвечает — ну, заснул человек. Робот сообщает еще и еще раз и наконец вынужден взять на себя тяжелое решение. Нарушитель уничтожен. Если первый опыт окажется удачным — убита будет не забежавшая за ограду собачка, а настоящий злоумышленник, — дело двинется. Солдат спит, служба идет, роботы защищают рубежи. Все хорошо?

Не очень. Штука в том, что не всегда легко провести грань между защитой и нападением. Помните мрачноватую шутку еще советских времен — «войны на Земле не допустим, но устроим такую борьбу за мир, что камня на камне не останется»? Сейчас модно защищать демократические ценности в других странах. И как же удобно это делать без жертв среди своего населения, отстреливая бандитов простым нажатием кнопок на пульте управления.

Вот только что же тогда сможет остановить страну, которая сочтет своим долгом навести порядок у более слабых соседей? Сейчас никакой политик не может уж совсем не считаться с тем, какое впечатление производит в обществе гибель его граждан в каком-то далеком краю. «Наших парней», сделанных из особо прочной стали, никто жалеть не станет. Агрессию из лучших побуждений будет не остановить.

Текст: Антон Степнов, Алексей Каменский , SmartMoney