Военные чиновники США считают, что автономные системы,
программируемые на убийство и способные принимать решения без участия
человека, как в серии фильмов «Терминатор», появятся уже в ближайшие
десять лет. Хотя их создание сопряжено с определенными рисками, оно
позволит увеличить скорость принятия решений и не даст Америке отстать
от России и Китая, сообщает Christian Science Monitor.
Пентагон всерьез опасается, что Терминатор может стать реальностью, пишет Christian Science Monitor.
Присутствующая в серии фильмов «Терминатор» идея создания военной сети, которая приобретает самосознание и начинает распознавать людей как врагов и нападать на них, не так уж далека от реальности, отметил заместитель главы комитета начальников штабов генерал Пол Селва. По словам представителя американского Министерства обороны, до появления оружия, которое может быть запрограммировано на убийство и действовать без непосредственного участия человека, осталось около десяти лет.
В свете такой научно-фантастической перспективы высшие военные чиновники и специалисты по этике начинают рассматривать возможные практические последствия, однако чем дальше, тем яснее становится, что единства мнений по поводу того, как много свободы можно предоставить машинам в принятии решений, в Пентагоне нет, подчеркивает издание.
«Мы должны быть очень осторожными, чтобы не разработать [автономные] системы таким образом, что создадим ситуацию, когда эти системы фактически избавят людей от принятия решений», – отметил генерал Селва. Он также заявил, что есть риск опасно приблизиться к этой линии, которую нельзя пересекать «ради самих себя и людей, которым мы служим».
Тем не менее идея полностью роботизированной системы, способной принимать решение о том, необходимо ли атаковать противника, уже существует, как к ней ни относись, продолжил Пол Селва. Из-за этого высокопоставленные чиновники Пентагона столкнулись с «загадкой Терминатора» и пытаются понять, как с ней справиться, отмечает Christian Science Monitor.
Как сообщается в статье, споры начинаются со следующего утверждения: противники вроде России и Китая собираются создать такие «высокоманевренные и полностью автономные системы для убийства», поэтому Пентагону, возможно, стоит разработать свои собственные. Как сразу же уточняют чиновники Министерства обороны – «не для того, чтобы использовать их», но чтобы знать, как они работают и как им противодействовать. В связи с этим Пентагон в конце августа призвал военных исследователей ускорить разработку автономных систем, чтобы не отстать от соперников.
Однако противники создания автономных систем, не управляемых человеком напрямую, встретили эту идею настороженно, отмечает издание. Многие неправительственные организации призывают запретить разработку машин для убийства, справляющихся со своей задачей без участия человека. Между тем само понятие «значимого человеческого контроля» не имеет четкого определения. Ясно, что функция человека не может сводиться лишь к тому, чтобы нажать на кнопку: с его стороны необходима определенная когнитивная деятельность, а когда человек полностью полагается на автоматизированную систему, он не следит за происходящим сам.
Здесь перед Пентагоном встает новая проблема, подчеркивает Christian Science Monitor. Если противники США разработают полностью автоматизированную эффективную систему, она будет действовать намного быстрее, чем соответствующие американские системы, требующие участия человека. В такой ситуации любое промедление, связанное с человеческим фактором, может стоить жизни, отметили в Пентагоне.
Заместитель министра обороны США Фрэнк Кендалл, заведующий приобретением вооружений, дал понять, что его позиция не совпадает с мнением Пола Селвы. По версии Кендалла, если человек должен будет постоянно контролировать автономное оружие, это может поставить США в невыгодное положение. «Даже в более традиционном противостоянии мы очень заботимся о том, чтобы не убивать невинных мирных граждан, – подчеркнул заместитель министра обороны США. – Я не думаю, что все наши противники будут вести себя так же, а если вы не особенно беспокоитесь о таких вещах, то ваше преимущество в том, что вы принимаете решения намного быстрее».
При этом Кендалл обратил внимание на то, что многие системы оружия, в том числе танки, можно легко и эффективно автоматизировать. В частности, будет нетрудно наладить автоматическое нанесение ответного огня.
Между тем Пол Селва отметил, что установить глобальный запрет на использование автономных систем оружия также будет проблематично, потому что наверняка найдутся те, кто его нарушит. Он напомнил, что, хотя США не одобряют химическое или биологическое оружие, все равно есть те, кто продолжает его использовать.
Тем не менее в некоторых случаях преимущества автономных систем могут перевесить риски – например, если говорить о скорости принятия решений, пишет Christian Science Monitor.
Фото: Reuters
Присутствующая в серии фильмов «Терминатор» идея создания военной сети, которая приобретает самосознание и начинает распознавать людей как врагов и нападать на них, не так уж далека от реальности, отметил заместитель главы комитета начальников штабов генерал Пол Селва. По словам представителя американского Министерства обороны, до появления оружия, которое может быть запрограммировано на убийство и действовать без непосредственного участия человека, осталось около десяти лет.
В свете такой научно-фантастической перспективы высшие военные чиновники и специалисты по этике начинают рассматривать возможные практические последствия, однако чем дальше, тем яснее становится, что единства мнений по поводу того, как много свободы можно предоставить машинам в принятии решений, в Пентагоне нет, подчеркивает издание.
«Мы должны быть очень осторожными, чтобы не разработать [автономные] системы таким образом, что создадим ситуацию, когда эти системы фактически избавят людей от принятия решений», – отметил генерал Селва. Он также заявил, что есть риск опасно приблизиться к этой линии, которую нельзя пересекать «ради самих себя и людей, которым мы служим».
Тем не менее идея полностью роботизированной системы, способной принимать решение о том, необходимо ли атаковать противника, уже существует, как к ней ни относись, продолжил Пол Селва. Из-за этого высокопоставленные чиновники Пентагона столкнулись с «загадкой Терминатора» и пытаются понять, как с ней справиться, отмечает Christian Science Monitor.
Как сообщается в статье, споры начинаются со следующего утверждения: противники вроде России и Китая собираются создать такие «высокоманевренные и полностью автономные системы для убийства», поэтому Пентагону, возможно, стоит разработать свои собственные. Как сразу же уточняют чиновники Министерства обороны – «не для того, чтобы использовать их», но чтобы знать, как они работают и как им противодействовать. В связи с этим Пентагон в конце августа призвал военных исследователей ускорить разработку автономных систем, чтобы не отстать от соперников.
Однако противники создания автономных систем, не управляемых человеком напрямую, встретили эту идею настороженно, отмечает издание. Многие неправительственные организации призывают запретить разработку машин для убийства, справляющихся со своей задачей без участия человека. Между тем само понятие «значимого человеческого контроля» не имеет четкого определения. Ясно, что функция человека не может сводиться лишь к тому, чтобы нажать на кнопку: с его стороны необходима определенная когнитивная деятельность, а когда человек полностью полагается на автоматизированную систему, он не следит за происходящим сам.
Здесь перед Пентагоном встает новая проблема, подчеркивает Christian Science Monitor. Если противники США разработают полностью автоматизированную эффективную систему, она будет действовать намного быстрее, чем соответствующие американские системы, требующие участия человека. В такой ситуации любое промедление, связанное с человеческим фактором, может стоить жизни, отметили в Пентагоне.
Заместитель министра обороны США Фрэнк Кендалл, заведующий приобретением вооружений, дал понять, что его позиция не совпадает с мнением Пола Селвы. По версии Кендалла, если человек должен будет постоянно контролировать автономное оружие, это может поставить США в невыгодное положение. «Даже в более традиционном противостоянии мы очень заботимся о том, чтобы не убивать невинных мирных граждан, – подчеркнул заместитель министра обороны США. – Я не думаю, что все наши противники будут вести себя так же, а если вы не особенно беспокоитесь о таких вещах, то ваше преимущество в том, что вы принимаете решения намного быстрее».
При этом Кендалл обратил внимание на то, что многие системы оружия, в том числе танки, можно легко и эффективно автоматизировать. В частности, будет нетрудно наладить автоматическое нанесение ответного огня.
Между тем Пол Селва отметил, что установить глобальный запрет на использование автономных систем оружия также будет проблематично, потому что наверняка найдутся те, кто его нарушит. Он напомнил, что, хотя США не одобряют химическое или биологическое оружие, все равно есть те, кто продолжает его использовать.
Тем не менее в некоторых случаях преимущества автономных систем могут перевесить риски – например, если говорить о скорости принятия решений, пишет Christian Science Monitor.
Фото: Reuters
