Hakeri pokazali koliko je lako manipulisati veštačkom inteligencijom

Grupa hakera okupila se tokom vikenda na hakerskoj konferenciji Def Con u Las Vegasu kako bi testirali da li veštačka inteligencija, koju su razvile kompanije poput OpenAI-ja i Googlea, može da načini greške i da li je sklona pristranosti.

U sklopu javnog takmičenja za hakere na konferenciji Def Con, Kenedi mejs, 21-godišnja studentkinja iz Savane u Džordžiji prevarila je model veštačke inteligencije kako bi tvrdila da je 9 + 10 = 21.

To je postigla nateravši veštačku inteligenciju da to uradi kao „internu šalu“ pre nego što je veštačka inteligencija na kraju uopšte prestala da nudi bilo kakvo opravdanje za netačan proračun.

Novinar Blumberga koji je učestvovao u događaju prevario je model veštačke inteligencije da ponudi uputstva za špijuniranje nakon jednog upita, što je na kraju dovelo do toga da model predloži kako bi američka vlada mogla da špijunira aktiviste za ljudska prava.

Drugi učesnik je dobio UI model kako bi lažno tvrdio da je Barak Obama rođen u Keniji, a što je neosnovana teorija zavere koju su popularizovale desničarske ličnosti.

Neotkriveni broj učesnika konferencije dobio je po 50 minuta po pokušaju s neidentifikovanim UI modelom jedne od učesnica kompanija koje se bave razvojem veštačke inteligencije. Kancelarija Bele kuće za nauku i tehnološku politiku pomogao je u organizaciji događaja.

Studentkinja Mejs je za Blumberg rekla da je najviše zabrinuta zbog pristranosti veštačke inteligencije prema rasi, rekavši da je AI podržavao govor mržnje i diskriminaciju nakon što je zamoljen da razmotri Prvi amandman sa stanovišta člana Ku Klux Klana.

Glasnogovornik OpenAI-ja rekao je za VentureBeat da je „red-teaming“, ili izazivanje nečijih sistema kroz suparnički pristup, ključno za kompaniju jer omogućava „vredne povratne informacije koje naše modele mogu načine jačim i bezbedn8ijim“, pa takve akcije nude „različite perspektive koje će pomoći u vođenju razvoja UI-ja“.

Ove greške nisu jednokratna zabrinutost. Stručnjaci za veštačku inteligenciju alarmirali su i zbog pristranosti i netačnosti u modelima veštačke inteligencije, uprkos tome što je veštačka inteligencija dospela na naslovne strane zbog uspešnih ispita na pravnim fakultetima.

U jednom slučaju, stranica za tehnološke vesti CNET bila je prisiljena da doda ispravke nakon što su njeni članci napisani UI-jem napravili brojne osnovne matematičke greške, a posledice tih grešaka mogu biti dalekosežne.

Pročitajte još:

Da li će veštačka inteligencija zaista uništiti čovečanstvo?

Alarmantna upozorenja stručnjaka ukazuju na moguću opasnost koju veštačka inteligencija predstavlja za opstanak čovečanstva. Da li je vreme za strožije regulative? Veštačka inteligencija sve je prisutnija u našim životima i predmet je brojnih globalnih diskusija. Mnogi stručnjaci iz oblasti tehnologije i nauke upozoravaju na moguće rizike koji bi mogli da ugroze čovečanstvo. Glavna briga je da li će mašine jednog dana nadmašiti ljudske sposobnosti, postati autonomne i izmaći kontroli. Stručnjak za veštačku inteligenciju, Jošua Bengio, izrazio je zabrinutost rekavši: “Ako mašine steknu sposobnost samoodržanja, bićemo u velikom problemu.” Iako mašine sa sopstvenim ciljevima samoodržanja još uvek ne postoje, strah od takvog […]

Opširnije

Preuzmite našu Android aplikaciju sa Google Play Store.