Elon Musk przeciw militarnym AI: czy zakazy ONZ mogą coś jeszcze zmienić?

Narody Zjednoczone już od kilkulat dyskutująnad kwestią wykorzystania robotów bojowych w świetle Konwecji CCW(zakazie lub ograniczenia użycia pewnych broni konwencjonalnych).Kampania na rzecz powstrzymania takich broni przyniosła pewne owoce– przynajmniej w sferze symbolicznej. 22 maja br. WysokaPrzedstawiciel ds. Rozbrojenia pani Izumi Nakamitsu wysłała list wimieniu nowego Sekretarza Generalnego ONZ António Guterresa list dojej inicjatorów, w którym możnaprzeczytać:

[quote]Narody Zjednoczone uważnieprzyglądają się rozwojowi systemów uzbrojenia, które mogąautonomicznie wybierać cele i je atakować, w obawie, że postęptechnologiczny może wyprzedzić normatywne obrady (…) krajeczłonkowskie ONZ muszą uczynić znaczący postęp na drodze dowspólnego ustalenia tego, jak najważniejsze wartości wspólnotymiędzynarodowej zostaną w tym kontekście zachowane.

[/quote]Pomocą dla dyplomatów,toczących dyskusje nad dopuszczalnością autonomicznych dronów,czołgów czy choćby wieżyczek strażniczych, ma być listotwarty liderów branży technologicznej, pod którymi podpisalisię m.in. Elon Musk, założyciel Tesla Motors, oraz MustafaSuleyman, współzałożyciel należącego do Google startupuDeepMind – tego samego, który stworzył pierwszą na świeciesztuczną inteligencję, która pokonała ludzkiego mistrza go.

W liście uznane sławy branżyostrzegają, że nowy wyścig zbrojeń, jaki rozpoczyna się wzakresie AI, przyniesie trzecią rewolucję wojenną, po wynalezieniuprochu i broni atomowej. Ich zdaniem, zabójcze autonomiczne bronieuczynią możliwym prowadzenie zbrojnych konfliktów na skalę do tejpory niewyobrażalną, w czasie zbyt krótkim by ludzki rozum mógłto pojąć. Będą to zarówno bronie terroru, które despoci iterroryści użyją przeciwko niewinnym, jak i bronie zhakowane, byzachowywać się w niepożądany sposób. Jeśli na czas tego sięnie powstrzyma, zamknąć tę puszkę Pandory będzie bardzo trudno.

Czasu jest zaś bardzo mało.Eksperci zauważają, że w przeciwieństwie do wielu innych formsztucznej inteligencji, które wciąż pozostają w domenie sciencefiction, autonomiczne systemy uzbrojenia są już dziś realnierozwijane, mają realny potencjał skrzywdzenia niewinnych ludzi, anawet doprowadzenia do globalnej niestabilności. Dlatego też takieinteligentne bronie miałyby zostać zakazane w ramach Konwencji CCWna równi z bronią chemiczną, czy laserami służącymi oślepianiu.

Projektanci autonomicznychsystemów uzbrojenia mogą jednak być zadowoleni. List pod którympodpisał się Elon Musk, potwierdza to, z czego od dawna zdająsobie sprawę: na nowoczesnym polu walki człowiek już przegrał,choć jeszcze sobie z tego nie zdaje sprawy. Problemem jest kiepskiczas reakcji białkowych mózgów – najlepsi ludzie są w staniezareagować w ciągu jednej dziesiątej sekundy, maszyny sąnieporównywalnie szybsze.

Trudno uwierzyć, że ktokolwiek chciałby zrezygnować zprzewagi, jaką oferują wojskowe AI, przewagi daleko istotniejszejniż broń chemiczna czy oślepiające lasery. Autorzy listu mająrację – takie systemy uzbrojenia można porównywać tylko zprochem czy bronią atomową, a wszyscy wiemy, jak szybko powynalezieniu czy to prochu, czy broni atomowej, rozpowszechniły sięone na świecie. Czy ktokolwiek może sobie pozwolić na pozostanie wtyle, za potencjalnymi przeciwnikami?

Dlatego od ponad 20 lat powstają bojowe roboty do walki nalądzie, powietrzu i wodzie, oficjalnie wciąż aktywujące swojeuzbrojenie zdalnie, decyzją ludzkiego operatora, lecz jednocześnieprawie już gotowe do zastąpienia tego operatora przez AI. Wniektórych wypadkach już do tego zastąpienia doszło. Liniidemarkacyjnej między Północną i Południową Koreą pilnująprzecież od południa autonomiczne wieżyczki SGR-A1 firmy SamsungTechwin, uzbrojone w karabin maszynowy. Zestaw sensorów imotywatorów pozwala wieżyczce obracać się i celować w dwóchstopniach swobody, a tryb autonomiczny pozwala zwalczać wszystkiecele, które pojawiłyby się w strefie zdemilitaryzowanej – zpunktu widzenia Korei Południowej każdy wkraczający tam jestwrogiem, więc żadnego systemu rozpoznawania swój-czy-wróg niepotrzeba.

Co szczególnie istotne, dla sił zbrojnych takie systemy sąnadzwyczaj pożądane – roboty mają mnóstwo zalet, można jeposłać na nudne, brudne i niebezpieczne misje, takie, z którychczęść ludzkich żołnierzy wraca w workach. Dowódcy są teżwręcz przekonani, że na robotach można bardziej polegać, niż naludzkich żołnierzach: kierowane „etycznym” oprogramowaniem niebędą zachowywały się w sposób niekorzystny dla wizerunkuprowadzącego wojnę kraju – czego nie można powiedzieć ożołnierzach – z badań własnych armii amerykańskiej, ponadjedna trzecia żołnierzy i marines gotowa była torturowaćprzeciwników, jeśli ocaliłoby to życie ich towarzysza, a jedyniepołowa zgłosiłaby towarzysza za nieetyczne zachowanie wobec cywiliczy jeńców wojennych.