Оператор боевого дрона тоже может ошибиться. И солдат. И командиры! И ошибались, много случаев за всю историю… Загоняли своих людей под огонь соседней роты, тонули ночью в болотах, давали неверные данные артиллерии и авиации.

Рассказ и эссе

Антон Халецкий

Остановите время!

рассказ

Гримеры приготовили краски, клей. Седой парик и бороду.
 Тут же на вешалке — расшитая серебром шуба, шапка. Рядом посох.
Парень медлил.
«Каждый раз. Молодой с виду, а изображаю деда… Просто брякнул тогда: «Пусть кто-то молодой с Новым Годом людей поздравляет!»
А Перун: «Ты и будешь в меня переодеваться. Без магии. Вечно, внучек…»
(Антон Халецкий «Главная тайна
деда Мороза», микрорассказ)

— Что ты хочешь?

— А что можете?

— Ну, что… Всё.

— Тогда остановите время!

— Зачем это тебе?

— Хочу, чтобы мне всегда было шесть. Чтобы родители никогда не умерли и всегда были рядом.

— Это можно. Но тогда ты никогда не станешь взрослым. Не создашь семью, у тебя не будет своих детей. Ничего не сделаешь настоящего в жизни. Не научишься нести ответственность за свое поведение. Ты хорошо подумал?

— Ха! Лучше сразу сознайтесь. Вам такое не под силу. Слабо, да?!

— Желание исполнено…

Сейчас, конечно, уже невозможно понять, кто были эти люди. Что разговаривали с тем мальчишкой рядом с качелями во дворе. Кроме него самого их никто и не видел.

Важно, что они сделали это. Исполнили.

Лето сменилось осенью, потом, как обычно, все отмечали Новый Год. И в этом новом году мальчишка с другими ребятами из его подготовительной группы должен был пойти в школу.

Только в школу никто не пошел. Он все снова пошли… Ну, Вы поняли.

Нет, это не был День Сурка. Когда люди всё забывают, и начинается сначала. Нет, все всё помнили. Только никто не удивлялся и не интересовался. Какой сейчас год? Почему дети непостижимым образом не взрослеют? И не стареют взрослые?

Мальчишка, который это загадал, продолжал жил в свое удовольствие. Ему так и было всегда шесть, родителям меньше сорока. Летом они всегда ездили сначала к одной бабушке — в деревню под Тулой. А потом у другой, что жила далеко в Европе — на берегу теплого моря. Бабушки были очень разные, но одинаково охали, пили что-то от сердца, жаловались на годы, но… тоже не становились старше и не умирали.

Мальчишка иногда видел странные сны. Словно он взрослый, как сейчас папа. И дружит со взрослой, как мама, женщиной, и у них много своих ребят. Но почему-то это не какие-то там двоюродные братья и сестры, а ИХ ЖЕ дети. Чудеса! Правда он никогда не видел во сне бабушек и даже родителей. Только в незнакомой большой квартире, где они все вместе жили, было много фотографий. И мамы, и папы… А еще был занят мальчишка конструированием. Но конструктор какой-то странный. Называется “цепочка ДНК”. Интересно, что же это?

Во сне мальчик чувствовал странное волнение, которого никогда не испытывал наяву. Он боялся, что вот сейчас проснется, и вся эта новая жизнь исчезнет. Но, обычно, открыв глаза, он почти ничего не помнил. Легкая грусть сразу покидала ребенка. Когда рассказывал маме за завтраком сон, приходилось придумывать новые увлекательные подробности. А мама только ласково улыбалась и гладила сына по голове. Все время просила, чтобы он больше жевал, и меньше болтал.

Да, это, правда, была магия высокого уровня. Похоже, те люди создали какую-то отдельную замкнутую реальность.

Так никто никогда и не узнал, конечно, что же тогда произошло на самом деле.

Может, это было просто чье-то сочинение, а может пьеса.

А может, пьеса, в которой кто-то читает свое сочинение.

А может, это был мультфильм, в котором по сюжету еще есть и пьеса. В которой кто-то читает свое сочинение.

А может, эту историю рассказал мальчишка перед сном. Другим ребятам из третьего отряда в летнем лагере. Когда все старые истории уже исполнены таинственным голосом. Все уже немного дремлют лицом в подушку. В большой комнате с погашенным светом. И каждый очередной рассказчик вынужден придумывать что-то новое на ходу, тоже на миг, призрачно засыпая и борясь со сном…

26 декабря 2021 года

Красногорск

«Роботы и Международное гуманитарное право»

эссе

Знаете, почему «Терминатор» — культовый фильм?

Потому, что Откровение. (Конечно, никто к нам ещё не прилетел. Пока).

Но фильм затронул один очень важный вопрос: «Куда могут привести технологии?»

И тут уже не важно. Осознает некий абстрактный «Скайнет» себя как личность. Или нет.

Важно, какие решения будет «принимать» ИИ. И не менее важно — как он будет это делать? Какие «мыслительные процессы» будут «в голове» у робота, которому доверят убивать (пусть даже для обороны).

Ведь чем дальше, тем призрачнее граница между живым мозгом и искусственным интеллектом.

Что такое ИИ? Это имитация умственных процессов. Сопоставление различных данных, формирование плана для дальнейших шагов.

Но и обычный человек действует также, согласитесь?..

Совсем недавно, в 2020 году, произошло «знаковое» событие.

На севере Ливии в ходе столкновений между частями Халифы Хафтара и подразделениями правительственных войск робот «сам» атаковал человека. То есть, без приказа оператора…

А вот теперь нам нужно соотнести такие понятия как «Роботы» и «Международное гуманитарное право» (МГП).

Допустим, сюда забрел совсем свежий читатель, совершенно незнакомый с терминологией.

Термин «Робот» вопросов не вызывает (есть также аббревиатура «АРС» — автономная роботизированная система).

А МГП — это право войны. И снова свежий читатель, возможно, спросит: «Что за право на войне? «На войне как на войне»».

Конечно, нет.

Международное гуманитарное право, его нормативные акты, регулируют отношения в области ограничения методов ведения войны.

Там сказано, например, что нельзя ставить медицинские опыты над военнопленными в концлагерях.

Что нельзя загонять людей в дома, а потом сжигать дома вместе с людьми — из огнеметов.

Нельзя взрывать Дворцы Петергофа. Так, чтобы «осталось потом только небо».

Много правил.

Есть ограничения, которые касаются самого оружия.

Запрещены, например, пули со смещенным центром тяжести, химическое, бактериологическое оружие…

А вот автономные боевые роботы пока не запрещены.

Казалось бы? Какие проблемы?! Тоже нужно запретить! Как же можно доверить роботу — самому принимать решение убивать или не убивать? А если у него переклинит что-то в микросхемах?!

Однако всё не так просто.

Оператор боевого дрона тоже может ошибиться. И солдат. И командиры! И ошибались, много случаев за всю историю… Загоняли своих людей под огонь соседней роты, тонули ночью в болотах, давали неверные данные артиллерии и авиации.

Так что у автоматизации в данном сфере — свои преимущества. Вот, например, многие протестовали против автоматических грузовиков. И ничего, на Западе, в США их больше и больше.

А вспомним, когда автомобили вообще только появились. Их тоже хотели запретить! Это же опасно! Очень высокая скорость, людей они давят намного больше, чем лошади.

Однако технический прогресс нельзя остановить. Сейчас мы вообще не представляем своей жизни без автомобилей.

Да, конечно, боевые автономные роботы, это нечто другое…

Давайте разберемся, чем они характеризуются, боевые автономные роботы. В чём же их суть?

 Итак, роботы оснащены ИИ, который:

а) выдает решение (однако не логику построения);

б) в любом случае формален;

в) не оснащён моралью, то есть, ещё более формален.

г) подвержен хакерским атакам.

Соответственно, необходимо закрепить на уровне нормативных актов МГП следующие технические характеристики (затем эти нормы следует соблюдать, контролировать их соблюдение и наказывать за нарушение).

Итак, автономный боевой робот и его ПО должны быть следующими (и без этого не могут использоваться):

1) протоколы принятия решения робота в совершенной степени обеспечивают верное распознавание «свой-чужой» а также молниеносную реакцию на столь же молниеносно меняющиеся юридические факты во время боя (солдат противника бросил автомат, вроде, поднял руки, а затем тут же выхватил и метнул гранату).

2) иметь возможность прекратить свое боевое задание, в случае, когда необходимость в нём отпала, а также избирать «не чрезмерные», достаточные, гуманные методы ведения войны,

3) ПО робота в значительной степени должно быть защищено от перехвата, от хакерской атаки, а также от вероятности технических программных сбоев.

На это можно возразить, а как же быть с моралью? Казалось бы, это главное уязвимое место! Робот не испытывает жалости, он вообще ничего не испытывает.

Однако вспомним Бальзака, великого мыслителя и ученого. «Будем же учиться хорошо мыслить: вот основной принцип морали». Действительно, если мы научим робота «мыслить хорошо», это уже будет очень много.

А теперь вернёмся к началу: «Робот атаковал человека. Сам».

Некоторые готовы с удовольствием ужаснуться. Будто люди совсем не занимаются роботостроением и идут по какому-то другому пути развития. И вообще они — все чрезвычайно гуманны. Эти люди.

А ведь никакие разумные роботы не прилетели с других планет и не пытаются захватить наш мир.

Убиваем себя мы сами. Много тысячелетий. И достаточно успешно.

Значит, тогда, в Сирии, в 2020-м, произошло то, что происходит, уже очень давно. Один человек уничтожил другого. С помощью оружия, которое сам человек и создал.

У проблемы есть, конечно, техническая сторона.

На данный момент боевые роботы, тем более автономные — достаточно новый вид вооружения.

Да, конечно, программное обеспечение, постоянно развивается (есть мнение, что мы вообще живем на пороге 4-й промышленной революции).

Однако сейчас, можно сказать с уверенностью. Современное ПО далеко еще не на том уровне. Что дать роботу возможность самому решать. «Можно ли атаковать данного конкретного человека?»

А самая главная проблема — конечно же, не в роботах и не в программах для них.

Главная проблема — всё та же.

В условиях мира, который меняется всё больше и больше. И неизменно становится сложнее и сложнее —

вечная проблема — ответственного поведения и мышления самого Человека.

30.06.2021

Красногорск