Open AI u ogromnoj dilemi – staviti ili ne staviti oznaku da je tekst pisao program.
Gotovo ne postoji profesija za koju ne mogu da posluže tekstovi pisani uz pomoć veštačke inteligencije. Međutim, paralelno s njenim razvojem, odigrava se pravi mali rat između onih kojima se ta praksa dopada i onih koji ističu da treba naglasiti da je reč o delu programa, a ne čoveka, a naročito jer se pojavljuju moguće zloupotrebe, naročito u domenu školstva.
Open AI već ima tehnologiju prepoznavanja AI tekstova
Tehnologija za detekciju tekstova generisanih pomoću AI alata već postoji, a na čelu ovih inovacija nalazi se niko drugi do OpenAI. Koncept nevidljivog “otiska”, sličnog vodenom žigu na fotografijama, razvijen je da omogući prepoznavanje tekstova generisanih veštačkom inteligencijom sa visokom preciznošću, razlikujući ih od tekstova koje su pisali ljudi. Ovaj napredak otvara mnoga pitanja i izazove koje OpenAI mora razmotriti pre nego što tehnologiju predstavi javnosti.
Moguće posledice
Objavljivanje detektora AI generisanih tekstova ima dalekosežne posledice za korisnike OpenAI-jevog ChatGPT-ja. S jedne strane, javnost zahteva akciju protiv zloupotrebe veštačke inteligencije, dok s druge strane, postoji rizik od ograničavanja slobode i kreativnosti korisnika koji ChatGPT koriste za različite svrhe – od kreativnog izražavanja do poslovne komunikacije.
Tehnički aspekti detekcije AI teksta
OpenAI je razvio detektor zasnovan na sofisticiranoj tehnici vodenog žiga, koji funkcioniše kao digitalni potpis nevidljiv ljudskom oku, ali prepoznatljiv specijalizovanim algoritmima. Ključ izazova je u tome što vodeni žig mora biti suptilan kako ne bi narušio čitljivost i stil teksta, a istovremeno robustan tako da se ne može lako ukloniti ili izmeniti.
“Naši timovi su razvili metodu označavanja teksta vodenim žigom te mi nastavljamo da razmatramo ovu mogućnost dok istražujemo alternative”, saopšteno je iz kompanije OpenAI.
Etički i praktični izazovi
Uvođenje ove tehnologije nosi sa sobom brojne etičke dileme, uključujući pitanja privatnosti i mogućnost zloupotrebe. Na primer, postoji bojazan da bi detektor mogao biti korišćen za diskriminaciju određenih grupa ljudi. Takođe, detekcija teksta generisanog AI-om može biti ključna u obrazovanju i naučnim istraživanjima, ali i izazvati regulatorne intervencije ukoliko ne bude adekvatno njome upravljanoa.
Ne čekati regulatorne organe
Strategija za efikasno upravljanje ovom tehnologijom trebalo bi da uključuje ne samo tehnološka rešenja već i edukaciju, etičke smernice i saradnju sa obrazovnim, naučnim i pravnim institucijama. Proaktivno obrazovanje o AI tehnologijama i njihovim ograničenjima postaje ključno, kao i postavljanje jasnih etičkih smernica za njihovu upotrebu.
Pročitajte još:
