Военных роботов-убийц обвинили в склонности к массовому истреблению человечества

16 сентября 2019 в 18:46

Бывший инженер Google Лора Нолан заявила, что международное сообщество должно запретить роботам-убийцам вести военные действия. По мнению уволившейся сотрудницы корпорации, без надлежащего контроля полностью автономное оружие может устроить «массовые зверства».

«Если мы не будем осторожны с этими видами вооружений, роботы-убийцы могут внезапно развязать войну, уничтожить атомную электростанцию ​​и устроить массовые зверства», — заявила она.

Project Maven был совместной программой Google и Министерства обороны США. Её целью называлось усовершенствование дронов с помощью искусственного интеллекта. Нейросеть должна была распознавать на видео вражеские цели, а также отличать людей от других объектов. Из-за массовых протестов сотрудников корпорация закрыла проект. Нолан подала в отставку по этическим соображениям. Она была инженером по работе сайта проекта.

«Хотя я и не принимала непосредственного участия в разработке системы распознавания видео, я осознавала, что являюсь частью преступной цепочки. В конечном итоге это приведёт к тому, что американские военные убьют ещё больше людей в таких местах, как Афганистан», — объяснила свой поступок Нолан.

Женщина опасается, что следующим шагом после создания дрона с использованием ИИ может стать полностью автономное оружие. По её мнению, у машин нет здравого смысла, в отличие от людей. Также Нолан предположила, что Россия уже проводит такие испытания.

По словам сторонников автоматизации вооружений, оружие с ИИ работает гораздо точнее и совершает меньше ошибок, чем человек. Однако в 2015 году Стив Возняк, Илон Маск, Стивен Хокинг и ещё более 1000 разработчиков в сфере робототехники и ИИ подписали открытое письмо с предупреждением о том, что «автономное оружие станет калашниковым» будущего, «идеальным для убийств, дестабилизации государств, захвата населения и избирательного уничтожения определённой этнической группы».

В августе 2018 года ООН сформулировала принципы, которые можно было бы использовать для выработки будущих международных правил, касающихся летального автономного оружия. Главной из них является идея возложения ответственности на человека за любое автоматизированное оружие на протяжении всего его жизненного цикла. Это может отяготить производителей вооружения новыми обязательствами. По словам замминистра обороны США Роберта Уорка, в будущем может появиться враг, который не будет задумываться о том, делегировать машинам убийство людей или нет. А пока что у человечества есть возможность сохранить контроль над оружием.

Текст: Анна Шахова

У «Секрета фирмы» есть канал в «Яндекс.Дзене». Подписывайтесь!

Поделитесь историей своего бизнеса или расскажите читателям о вашем стартапе
Ещё по теме