Rastuća zabrinutost zbog AI u nuklearnom odvraćanju
Stručnjaci za nuklearno odvraćanje upozoravaju da sve šira integracija AI u vojne odluke stvara opasnu klizavu padinu. Postoji strah da će AI dobiti ovlasti za lansiranje nuklearnog oružja, ili da će ljudi postati toliko zavisni od njegovih procjena da će postupiti po njegovim preporukama.
Testovi ratnih simulacija pokazuju da AI često vodi ka intenzivnoj eskalaciji konflikta, dok nedostaje razumijevanja za smirivanje situacija. "It’s almost like the AI understands escalation, but not de-escalation," "We don’t really know why that is." Takvi nalazi podižu alarm oko upotrebe AI u komandovanju nuklearnim snagama.
Nejasna pravila i pritisak rivalstva
Ne postoji jasna interna smjernica u vezi s time kako AI treba ili ne treba da se integriše u nuklearni komandni lanac i komunikacije. "There is no standing guidance, as far as we can tell, inside the Pentagon on whether and how AI should or should not be integrated into nuclear command and control and communications," To ostavlja prostor za greške, posebno ako protivnici ubrzaju primjenu AI u visokorizičnim strukturama.
Iako se tvrdi da će uvijek postojati čovjek u petlji, "The administration supports the need to maintain human control over nuclear weapons," postoji bojazan da će utrka i pritisak dovesti do pogrešnih odluka. "I’ve heard combatant commanders say, 'Hey, I want someone who can take all the results from a war game and, when I’m in a [crisis] scenario, tell me what the solution is based on what the AI interpretation is,'"
Ove dileme podsjećaju na ranije ideje o automatskim sistemima uzvraćanja; "Admittedly, such a suggestion will generate comparisons to Dr. Strangelove's doomsday machine, WarGames' War Operation Plan Response, and the Terminator's Skynet," "but the prophetic imagery of these science fiction films is quickly becoming reality." Stručnjaci pozivaju na hitne rasprave i jasna pravila o upotrebi AI u nuklearnom odvraćanju.
