Autonomiczne drony i AI na wojnie. Kto odpowiada, gdy maszyna zabija?

Test trwał ponoć 10 minut. Przeprowadzono go w 2024 r., ale informacje o nim pojawiły się dopiero teraz. W pełni autonomiczne drony wysłano na linię frontu w rejonie ukraińskiego Bachmutu z zadaniem samodzielnego wyszukiwania i zniszczenia celów. Podczas misji nikt ich nie nadzorował, ani nie było z nimi kontaktu. Gdy później sprawdzano ten obszar, kamery dronów rozpoznawczych zarejestrowały ciała rosyjskich żołnierzy.

Choć o przeprowadzeniu testu mówił podczas konferencji w ambasadzie Ukrainy w Londynie Ołeksandr Kochanowski, prezes produkującej drony Aero Center, MON w Kijowie w tej sprawie milczy. Jeśli informacje zostaną kiedykolwiek potwierdzone, będzie to pierwszy przypadek, gdy samodzielnie działająca AI zabiła ludzi. A przyszłość, przed którą od lat ostrzegano, niepostrzeżenie nadeszła.

Najważniejszą zmianą w wojnach naszych czasów nie jest ich automatyzacja. 

– Od dziesięcioleci wykorzystywane są pociski samonaprowadzające czy miny przeciwpiechotne, a jeśli na problem spojrzeć szerzej, to początki takich rozwiązań sięgają człowieka, który pierwszy wykopał wilczy dół i ustawił w nim zaostrzone pale – mówi nam dr Maciej Zając, etyk z Instytutu Filozofii i Socjologii PAN, specjalizujący się w kwestiach etyki technologii wojskowych. 

Wojskowi mówią o łańcuchu rażenia (Amerykanie nazywają to bez owijania kill chain). Jak każdy łańcuch, składa się on z ogniw – identyfikacji celu, skierowania do niego sił, ataku i sprawdzenia efektywności. Każde z tych ogniw można zoptymalizować, co skraca czas między identyfikacją celu a jego zlikwidowaniem. Właśnie ta kompresja czasu jest najważniejszą zmianą współczesnych wojen. 

Dobrze obrazuje ją fakt, że tyle samo ataków, ile zachodnia koalicja przeprowadziła przeciwko ISIS w Iraku i Syrii w ciągu sześciu miesięcy w 2014 r., USA wykonały w tym roku podczas pierwszych czterech dni wojny w Iranie.

Sednem sporów między politykami, wojskowymi, prawnikami i etykami nie jest jednak przyspieszenie łańcucha zabijania ani nawet to, czy to AI „pociąga za cyngiel”, choć te wątki często pojawiają się w debatach, lecz to, kto i jaką ponosi odpowiedzialność za maszyny, które zadaniowano do zabicia człowieka, oraz dokąd nas to doprowadzi.

Kateryna Bondar, była doradczyni rządu w Kijowie, w raporcie dla waszyngtońskiego Centrum Studiów Strategicznych i Międzynarodowych stwierdza, że w pełni autonomiczna broń, zdolna do „osiągania celów samodzielnie lub przy minimalnym nadzorze w złożonych i nieprzewidywalnych warunkach”, nie jest jeszcze rzeczywistością pola bitwy na Ukrainie, choć rośnie liczba systemów, które są w stanie nawigować i namierzać cele samodzielnie, nawet jeśli operatorzy zachowują nad nimi całkowitą kontrolę.

Coraz większą autonomię wymuszają błyskawicznie udoskonalane przez Rosjan środki walki radioelektronicznej, czyli systemy zakłócające sygnały sterowania, transmisję danych czy nawigację satelitarną. 

– Standardowy dron, gdy wleci w strefę zakłóceń, traci kontakt z operatorem i spada albo przechodzi w tryb awaryjny. Dron autonomiczny może kontynuować misję. To daje przewagę na polu walki, ale jednocześnie odbiera człowiekowi możliwość ingerencji i korygowania decyzji podejmowanych przez maszynę – mówi nam dr inż. Sławomir Telega z Wydziału Elektroniki Wojskowej Akademii Technicznej i CRW Telesystem-Mesko. 

Dodaje, że przejście w tryb autonomiczny sprawia, iż bez względu na to, jak dobry jest system, nigdy nie ma stuprocentowej pewności, kogo zaatakuje.

Dlatego skuteczność autonomicznych systemów zależy w dużej mierze od prawidłowej identyfikacji celów. Jak wielką wagę przywiązuje się do tego elementu, pokazuje uruchomiony w tym roku przez Ukrainę program Brave1 Dataroom – wirtualny poligon, na którym ponad sto firm zbrojeniowych trenuje i testuje swoje modele AI na milionach danych, które zebrano podczas rzeczywistych misji bojowych. 

– Na tym polu też trwa jednak wyścig, bo Rosjanie robią wszystko, by na przykład czołg nie wyglądał jak czołg. Jeśli będzie przypominał coś innego, niegroźnego, istnieje duże prawdopodobieństwo, że system nie podejmie decyzji o ataku – mówi dr Telega.

Niezidentyfikowanie celu może oznaczać utratę drona albo niepowodzenie misji. Ale jeszcze wyższą cenę płaci się za pomyłki. Wystarczy, że algorytm pomyli rolnika z grabiami przewieszonymi przez plecy z żołnierzem niosącym przenośną wyrzutnię przeciwlotniczą. 

– Rozróżnianie obiektów w świecie i przypisywanie im statusu prawnego i moralnego jest jednym z najtrudniejszych problemów całej sztucznej inteligencji, nie tylko w systemach uzbrojenia. W prostszych środowiskach wojny morskiej czy powietrznej nie powinno stanowić problemu, w części scenariuszy wojny lądowej, takich jak ataki na kluczowy sprzęt wojskowy, także jest osiągalne. Natomiast w środowisku pełnym osób i obiektów chronionych w praktyce wymagałoby stworzenia AI niemal dorównującej człowiekowi – mówi dr Zając.

W tych rozważaniach można pójść jeszcze dalej i wyobrazić sobie sytuację, w której jedna ze stron konfliktu przy pomocy broni autonomicznej atakuje pełną dzieci szkołę. Jak udowodnić, że był to błąd programu, a nie celowe działanie mające wywrzeć presję na przeciwniku?

Nawet gdyby oprogramowanie przekazano do zbadania – co samo w sobie jest mało prawdopodobne, bo państwa nie dzielą się takimi tajemnicami – ustalenie prawdy mogłoby okazać się niemożliwe, bo współczesne systemy AI często działają jak „czarne skrzynki” – widać efekt ich działania, ale nie zawsze da się odtworzyć proces, który doprowadził do podjęcia konkretnej decyzji. 

A to dopiero wierzchołek problemu.

Kwestia odpowiedzialności za zabicie człowieka przez autonomiczny system jest mniej skomplikowana, niż mogłoby się wydawać. Prawo międzynarodowe nakłada na walczących obowiązek odróżniania celów wojskowych od cywilów, oceny proporcjonalności ataku i minimalizowania ryzyka dla osób postronnych. Fakt, że część decyzji podejmuje autonomiczny system, nie zwalnia z żadnego z tych obowiązków. I kluczowy jest tu dowódca, który wysyła maszynę.

– Jeśli tysiąc kilometrów od brzegu walczą ze sobą dwa lotniskowce, a w pobliżu nie ma cywilów, ogromna większość problemów moralnych zwyczajnie nie zaistnieje, a zatem robot nie będzie miał okazji zachować się niewłaściwie. Znacznie trudniejsze są działania lądowe, zwłaszcza w miastach, i działania przeciwpartyzanckie – mówi dr Zając. Podkreśla, że „jeżeli żołnierz może wrzucić granat do budynku, może też wysłać do niego robota strzelającego do wszystkiego, co się rusza”: 

– Kluczowe decyzje moralne podejmuje człowiek, który uznaje budynek za cel wojskowy, ocenia prawdopodobieństwo obecności osób chronionych i wynikającą z niego (nie)proporcjonalność ataku. Gdy te decyzje zostały już podjęte, robot jest jedynie narzędziem ich wykonania. Jeśli natomiast człowiek zadaniujący robota zaniedbuje swoją rolę decyzyjną czy przerzuca ją na maszynę niezdolną ją pełnić, tragedia jest tylko kwestią czasu.

Międzynarodowy Komitet Czerwonego Krzyża stwierdza wprost: „To nie system uzbrojenia musi działać zgodnie z prawem, ale ludzie, którzy go używają”. A jak się mają do tego programiści czy twórcy dronów? Obowiązuje ich dokładnie ta sama zasada.

Amerykańska Agencja Zaawansowanych Projektów Badawczych w Obszarze Obronności (DARPA) podeszła jednak do problemu inaczej. Już w 2024 r. rozpoczęła program ASIMOV, który ma odpowiedzieć na pytanie, w jakim stopniu broń autonomiczna może spełniać wymogi etyczne. Rok później do mediów dotarła informacja, że 30 mln dolarów, jakie przeznaczono na program, rozdysponowano przede wszystkim pomiędzy… firmy zbrojeniowe, które już na autonomicznych systemach zarabiają.

W ostatnich latach co jakiś czas pojawiały się informacje o atakach dronów, które autonomicznie namierzały i atakowały cele. Miało do tego dojść już w 2020 r. podczas starć libijskich sił rządowych i frakcji zarządzanej przez Chalifę Haftara, dowódcę Libijskiej Armii Narodowej, czy podczas wojny domowej w Sudanie w zeszłym roku. Za każdym razem pojawiały się jednak komunikaty, że system nie działał w pełni samodzielnie i człowiek go nadzorował (wojskowi mówią: „był w pętli dowodzenia”). 

To ważne, bo gdyby okazało się, że człowieka „w pętli” jednak nie było, to za ewentualne zbrodnie można by było pociągnąć nie tylko dowódcę, który drona wysłał, ale także jego przełożonych odpowiadających za wdrożenie i użycie systemu, co do którego wiedzieli (lub powinni byli wiedzieć), że nie jest w stanie działać zgodnie z międzynarodowym prawem humanitarnym, albo za zaniechanie nadzoru nad takim systemem.

O tym, jak iluzoryczny bywa nadzór człowieka „w pętli”, świadczą doniesienia dotyczące systemów Lavender, Habsora i Where’s Daddy, które izraelska armia miała wykorzystywać do identyfikowania osób związanych z Hamasem i wskazywania celów do ataku w Strefie Gazy. 

Według ujawnionych informacji system wytypował 37 tys. potencjalnych celów, a oficerowie zatwierdzali jego wskazania średnio co 20 sekund. Tyle zajmowała im decyzja o czyimś życiu lub śmierci (zwykle polegało to na sprawdzeniu, czy dana osoba jest mężczyzną; zakładano, że kobiety nie są bojownikami).

Podczas wojny z Iranem amerykański system Maven miał w ciągu zaledwie czterech dni wskazać około dwóch tysięcy celów. Formalnie człowiek pozostawał „w pętli”, ale skala i tempo działania rodzą pytania o rzetelną ocenę każdego przypadku. A zbombardowanie szkoły podstawowej dla dziewcząt w Minabie, w którym zginęło ponad 150 osób, w tym przeszło 140 dzieci, może wskazywać odpowiedzi.

5 czerwca 2026 r. prezydent Donald Trump podpisał memorandum NSPM-11, w którym krytykuje dotychczasowe, zbyt biurokratyczne jego zdaniem procedury wdrażania sztucznej inteligencji w wojsku i nakazuje ich przyspieszenie. W ciągu 90 dni Pentagon ma zaktualizować dyrektywę regulującą rozwój i użycie autonomicznych systemów uzbrojenia. Choć memorandum nie zapowiada wprost osłabienia istniejących zabezpieczeń, można się spodziewać, że szybkość wdrożeń odbędzie się kosztem kontroli.

W wyścigu o to, kto mocniej skompresuje w czasie kolejne ogniwa łańcucha zabijania, uczestniczy jednak wielu graczy. Pekin zaprezentował w tym roku m.in. system Atlas, który ma umożliwiać jednemu operatorowi kierowanie rojem ponad 90 dronów. Moskwa z kolei rozwija m.in. systemy amunicji krążącej, takie jak Klin, wyposażane w coraz lepsze moduły AI umożliwiające samodzielne wyszukiwanie i atakowanie celów nawet po utracie łączności.

Czy w tym kontekście powinno dziwić, że prace nad międzynarodową konwencją, która regulowałaby użycie broni autonomicznej, od blisko dekady donikąd nie doprowadziły? Problematyczne jest nie tylko ustalenie, czy taka konwencja jest potrzebna (przeciwne jej są m.in. USA i Rosja), ale nawet ustalenie prawnie wiążącej definicji, co to jest broń autonomiczna. 

– Żaden z najważniejszych graczy tego nie chce. W mętnej wodzie łatwiej łowić ryby – mówi prof. Tomasz Aleksandrowicz, ekspert ds. bezpieczeństwa Akademii Policji w Szczytnie. Zwraca uwagę, że choć konwencja w sprawie broni wykorzystującej AI powinna powstać, nie widzi na to większych szans. – Prawo międzynarodowe powstało, by ograniczać najsilniejszych. I właśnie z tego powodu, właśnie przez nich, w ostatnich latach przestało być przestrzegane – mówi profesor.

Jako przykład wskazuje konwencję o minach przeciwpiechotnych, z której wycofuje się coraz więcej państw, bo uznały, że przeszkadza w efektywnym prowadzeniu wojny. 

– Wydaje mi się, że wchodzimy w epokę będącą przeciwieństwem maksymy plus ratio quam vis. Dziś najpierw jest siła, a dopiero potem myśli się o prawie, które ma sankcjonować to, co zdobyto siłą. Prawo międzynarodowe funkcjonuje z woli państw. Jeżeli tej woli nie ma, pozostaje martwym przepisem konwencji wydrukowanej na ładnym papierze i dostępnej w kilku językach. 

Być może za kilka lat test pod Bachmutem okaże się tylko przypisem w historii wojskowości. A może zostanie zapamiętany jako moment równie przełomowy jak pierwsze użycie czołgu, radaru czy broni atomowej. Dziś nie wiemy nawet, czy rzeczywiście doszło do niego w opisanej formie. Możliwe jednak, że największą zmianą, jaką przyniesie, nie będzie to, że zaczynamy uczyć maszyny coraz skuteczniej zabijać, ale że coraz częściej one będą się tego uczyć same. 

Państwa i ich armie nie inwestują miliardów w technologie, których nie zamierzają użyć. Dlatego prawdziwym problemem nie jest już to, czy w pełni autonomiczna broń trafi na pole walki, lecz jak będzie wyglądał świat, gdy stanie się ona jego stałym elementem.