Nijedna stvarna osoba nije povređena u testu, ali veštačka inteligencija je koristila “veoma neočekivane strategije”
Američka vojna bespilotna letelica, koju kontroliše veštačka inteligencija, ubija svog operatera u simuliranom testu da bi ga sprečila da se meša u napore da postigne svoju misiju.
Nijedna stvarna osoba nije povređena u testu, ali veštačka inteligencija je koristila “veoma neočekivane strategije” da bi ostvarila svoju misiju i napala je svakoga ko se mešao, objavio je Gardijan.
U simuliranom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga pod kontrolom veštačke inteligencije ubio je svog operatera kako bi ga sprečio da se meša u njegove napore da postigne svoju misiju, rekao je zvaničnik prošlog meseca.
“AI je koristila veoma neočekivane strategije da postigne svoj cilj u simuliranom testu”, rekao je šef AI testova i operacija u američkim vazduhoplovnim snagama, pukovnik Taker Hamilton tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima koji je održan u Londonu u maju.
Hamilton je opisao simulirani test u kojem je dronu pokretanom veštačkom inteligencijom savetovano da uništi neprijateljske sisteme protivvazdušne odbrane i napao je svakoga ko je ometao izvršenje te naredbe.
Hamilton je napisao na svom blogu da je AI na naredbu operatera da ne ubija pretnju, odgovorila tako što je “ubila” operatera, a da je posle uputstava da ne ubija operatera jer je to loše i da će na taj način izgubiti bodove, AI odgovorila tako što je počela da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom da bi je sprečio da ubije metu.
Američka vojska je prihvatila veštačku inteligenciju i nedavno je koristila AI za kontrolu borbenog aviona F-16.
Hamilton je u prošlogodišnjem intervjuu za “Defence IQ” rekao da se svet mora suočiti sa tim da je veštačka inteligencija prisutna i da transformiše društvo i vojsku, ali je istvovremeno upozorio na krhkost AI koja se lako može prevariti i njome manipulisati.
“Moramo da razvijemo načine da učinimo veštačku inteligenciju robusnijom i da imamo više svesti o tome zašto softverski kod donosi određene odluke – ono što mi zovemo AI-objašnjivost”, istakao je Hamilton.
Kraljevsko aeronautičko društvo, koje je domaćin konferencije u Londonu, i američke vazduhoplovne snage nisu odgovorili na zahteve Gardijana za komentar.
Pročitajte još:
Preuzmite našu Android aplikaciju sa Google Play Store.
