См. ранее: боевые роботы.
29 ноября 2022 года случилось символическое событие: роботам разрешили убивать. В Сан-Франциско отцы города обсуждали новую инструкцию для полицейских на случай чрезвычайных обстоятельств — то есть, во время бунтов горожан.
В штате закон обязывает полицейских утверждать в мэрии расходы на оружие. В 2016 году полиция Далласе убила человека, отстреливавшегося от полицейских, запустив к нему гусеничного робота с бомбой, но это был единичный случай, и робот был использован не по назначению. Предварительно одобрили, но будет ещё одно голосование.
Представитель полиции заявил, что речь идёт об «экстраординарных ситуациях», о «крайних случаях», чтобы спасти «невинных». Впрочем, «невинные» тут — полицейские, в качестве примера приведена была ситуация, когда они подвергаются опасности.
«Крайний случай»… Все случаи быстро становятся крайними. Что «не будут запрограммированы» призвано преодолеть страх перед неконтролируемым роботом. Страх иррациональный — бояться надо контролируемых людей…
«Страж-птица» — Гениальный рассказ Шекли, опубликованный в феврале 1953 года. Не пересказываю — это обязательное чтение.
Почему человек так боится самостоятельного робота? И что такое «самостоятельность»? Автомобили, которые сами собой управляют, уже стали причиной нескольких смертей. Очень немногих — роботы всё-таки рассчитывают движение лучше людей. Но эти смерти непреднамеренные.
Нам кажется, что существует принципиальное различие между миной, которая убивает любого, кто на неё наступит, и роботом, который будет убивать выборочно, самостоятельно определяя, кого убить.
«Кажется», именно «кажется». На самом деле, страх перед роботами есть лишь проекция на роботов страха перед человеком. Любой человек может убить! Более того, любой человек может убить иррационально, без причины. Это понимают все.
Армию и полицию создают именно для того, чтобы превратить людей в послушных роботов, которые не имеют своей воли и убивают только по приказу, «рационально» — причём «рацио» тут не компьютера, а владельца, повелителя солдат и полицейских.
Люди делают из людей боевых роботов, восхваляют этих роботов за «патриотизм», «самопожертвование», «верность долгу» — то есть, за точное исполнение приказов, без «отсебятины». Делают из людей роботов и начинают бояться, что роботы станут людьми. Потому что солдат всё-таки не робот, человек с ружьём не управляемая боевая машина. Как ни вытесняй это из сознания и культуры, а факт остаётся и лежит в психике как мина.
Проблема боевого робота в чём? В том, что он может неверно понять человека? Так ведь человек тоже сплошь и рядом неверно понимает человека! Когда военные бомбят свадебную процессию, приняв её за колонну террористов, это тривиальнейшая ошибка, за которую никто не расплачивается, которую быстро заметают под генеральский ковёр. Чем тут человек с кнопкой и микрофоном отличается от робота? Ничем!
Страх неконтролируемых роботов — это всего лишь современный вариант страха перед рабом, перед Големом. Голем — символ раба, ведь он по определению должен рабски исполнять приказы, и вдруг выходит из подчинения, как выходили многие и многие рабы. В конце концов, так выходят из подчинение родные дети — в патриархальном обществе они вполне рабы.
Не надо бояться раба. Надо не иметь раба. Роботов перестанут бояться, когда из отношений между людьми исчезнут ложь, господство, манипуляция, лишение воли. Не роботы из страха и мстительности начинают войны, бомбардировки, не роботы десятилетиями держат людей в тюрьмах без суда и следствия, не роботы устраивают публичные казни, приглашая родственников жертв посмотреть, получить удовлетворение. Не роботы...
