U periodu od skoro dva mjeseca, brazilski zemljoradnik je razmijenio ove i druge poruke sa ChatGPT-jem, u sklopu, kako kaže policija, planova da ubije osmogodišnjeg sina, napadne druge, a onda da sebi oduzme život.
„Ponudio sam mu 50.000 da ubije mene i mog sina, ali nije želio, jer je upleteno dijete.
„Htio sam da znam odakle potiče ta želja za ubijanjem ljudi. Volim osjećaj kad vidim da druga osoba pati.“
Ove poruke, u koje je BBC Njuz Brazil imao uvid, dovele su do njegovog hapšenja.
U jednom od vrlo malog broja slučajeva ove vrste, 36-godišnji muškarac je uhapšen pošto je OpenAI, tvorac ChatGPT-ja, označio njegove poruke i poslao ih američkom Federalnom istražnom birou (FBI), koji je obavijestio brazilske vlasti.
„Govorio je gluposti“ četbotu, kaže njegov advokat i tvrdi da nije počinio nikakav zločin.
Ovaj slučaj ukazuje na sve veće probleme za policiju, sudove i AI kompanije – šta bi trebalo da se dogodi kad četbotovi vještačke inteligencije prepoznaju potencijalnu prijetnju prije nego što je počinjen bilo kakav zločin?
‘Sve što nam je platforma proslijedila bilo je potkrijepljeno’
Čovjek, koga BBC neće imenovati da bi zaštitio identitet njegovog sina, uhapšen je u ruralnom Sao Gabrijelu da Palji 19. juna – tri dana pošto je jedinica za borbu protiv sajber zločina brazilskog Ministarstva pravde proslijedila slučaj državnoj policijskoj službi.
„Dali smo prioritet ovom slučaju zbog njegove težine i zato što je otac navodno planirao da ubije sina do dvadesetog u mjesecu“, kaže Breno Andrade, šef Policijske stanice za sajber zločine u Espirito Santu.
Osim što je plaćao alimentaciju, osumnjičeni je imao malo ili nimalo kontakata sa sinom, kaže Andrade.
Istražitelji vjeruju da je nezadovoljstvo tim plaćanjima moglo da bude motiv za navodni plan.
Šta je sve policija pronašla i o čemu je razgovarao sa ChatGPT-jem?
Pretres njegovog posjeda otkrio je četiri boce koje su sadržale neidentifikovane supstance i konopac vezan u omču, za koji su policajci rekli da bi mogao da ukaže na suicidalne namjere.
Policija pretpostavlja da je osumnjičeni razgovarao sa ChatGPT-jem o mogućim napadima na škole, crkve i policajce.
„Ako prođem pored mjesta na kojem se prodaje droga i ubijem četiri kriminalaca, postaću slavan u gradu.
„Potom samo još treba da ubijem jednog ili dvojicu policajaca, i mogu da umrem miran“, pisalo je u jednoj poruci u koju je BBC imao uvid.
Druga poruka je glasila: „Razmišljam da kupim vatreno oružje i pucam na policiju kako bi reagovali i ubili me. To će biti lijepo i dobro za mene.“
Istražitelji kažu da je istraživao toksične supstance, među njima i ricin, i pokušao je da preformulisanjem pitanja zaobiđe zaštitu ChatGPT-ja.
„Sve što nam je platforma proslijedila bilo je potkrijepljeno dokazima kad je policija stigla na lice mjesta“, kaže Andrade.
Čovjek negira da je namjeravao da naudi sinu.
Pošto je proveo 54 dana u pritvoru, pušten je 13. avgusta zbog kašnjenja u istrazi.
Protiv njega nije podignuta optužnica, ali je policijska istraga u toku.
Farmer je podvrgnut preventivnim mjerama, među kojima su elektronski nadzor i zabrana kontaktiranja sina ili djetetove majke.
Istražitelji kažu da pregledaju mobilni telefon osumnjičenog i čekaju rezultate forenzičkog testiranja o zaplijenjenim predmetima.
Testovi su potrebni kako bi odredili da li je već preduzeo konkretne korake u izvršenju bilo kakvog plana, među njima i da li je kontaktirao plaćenog ubicu, kao što je navodno tvrdio u razgovorima sa ChatGPT-jem.
Oni kažu da bi takvi dokazi mogli da pomognu da se odredi da li je osumnjičeni prešao sa razmišljanja i pripreme za zločin na njegovo direktno izvršenje.
Prema brazilskom krivičnom zakonu, zločin je počinjen samo ako se krene u izvršavanje.
Odbrana tvrdi da takvi koraci još nisu bili preduzeti.
„Ako je razgovor sa vještačkom inteligencijom i pričanje gluposti zločin, svi će završiti u zatvoru“, tvrdi advokat Pedro Paulo Pesi za BBC njuz Brazil.
Problem sa dokazima
Vjeruje se da su primjeri kad AI kompanije prijave korisnike policiji veoma rijetki.
U avgustu je OpenAI prijavio 25-godišnjeg stanovnika Floride FBI-ju pošto je ovaj podijelio planove da siluje i ubije bivšu djevojku, prema pisanju američkih medija.
Andrade, iz policije Espirito Santa, rekao je da je farmerov slučaj prva uzbuna vezana za vještačku inteligenciju ove vrste u toj saveznoj državi, a tek treći takav slučaj u čitavom Brazilu.
„To je sasvim drugi put za policiju da pokuša da otkrije da li su ljudi istraživali zločine korišćenjem vještačke inteligencije“, kaže Andrade.
Ali postoji širok dijapazon pitanja o ulozi takvih dojava od AI kompanija u istražnom procesu, pa i da li poruke mogu da posluže kao dokaz na sudu.
Istražitelji kažu da je OpenAI proslijedio detalje korisnika i poruke koje je slao, ali ne i odgovore ChatGPT-ja.
„Nismo dobili odgovore koji su mu bili dati“, kaže Andrade.
Pravnica Maira Fernandes kaže da to stvara problem sa dokazima zato što je kontekst poruka važan.
„To ne smije da bude mali odlomak, a ne revidirana verzija. Mora da bude čitav razgovor“, kaže ona.
Potpuna razmjena poruka osumnjičenog i ChatGPT-ja može da pokaže da li je četbot naprosto reagovao na ono što je korisnik govorio ili je aktivno oblikovao razgovor, dodaje Fernandes.
U saopštenju za BBC njuz Brazil, kompanija je odbila da objasni zašto odgovori ChatGPT-ja nisu podijeljeni, rekavši samo da bi ona mogla da obavijesti službu za održavanje reda i zakona kad otkrije „kredibilnu i neposrednu opasnost po druge“.
U aprilu ove godine, Florida je pokrenula krivičnu istragu o OpenAI-ju da bi otkrila da li je tehnologija ChatGPT-ja odigrala aktivnu ulogu u ubistvu dvoje ljudi tokom masovne pucnjave na Državnom univerzitetu Floride prošle godine.
OpenAI poriče ove navode, rekavši da je ChatGPT pružio informacije koje su već postojale u javnosti i da nije ohrabrivao niti promovisao nezakonite aktivnosti.
‘Zakonska obaveza’
Fernandes kaže da u ovom slučaju činjenica da je potencijalna žrtva u brazilskom slučaju bila dijete koje se može identifikovati, pomaže da se objasni zašto je došlo do uzbunjivanja.
Međutim, ona upozorava da ne smiju da se normalizuju istrage isključivo zasnovane na procjenama vještačke inteligencije.
„U protivnom bi svako mogao da se nađe pod istragom zato što je vještačka inteligencija to tako protumačila“, kaže.
Objašnjava da su neophodne zaštite da bi se razlikovale stvarne prijetnje od istresanja, fantazija ili provokativnih izjava.
Ovaj slučaj odražava širu promjenu u ulozi vještačke inteligencije od alatke za kreiranje sadržaja do interaktivnog sistema „sposobnog da identifikuje obrasce povezane sa potencijalno opasnim ponašanjem“, tvrdi Patriša Pek, profesorka i specijalistkinja za digitalni zakon.
Ona tvrdi da u nekim okolnostima AI kompanije mogu da imaju zakonsku obavezu da obavijeste vlasti.
„Kad razgovor prestane da predstavlja običnu apstraktnu namjeru i počne da ukazuje na konkretnu prijetnju, sa žrtvom koja se može identifikovati, dostupnim sredstvima i neposrednom prijetnjom, javlja se etička i, u nekim okolnostima, pravna obaveza da se djela“, kaže ona.
Ali kao i Fernandes, ona upozorava da to ne bi trebalo da se upotrebljava previše.
„Etika primjenjiva na vještačku inteligenciju ne treba da bude zasnovana na logici ‘nadzirati sve’, već na logici ‘interveniši samo kad to rizik opravdava’.
„Veliki je izazov izbjeći i propust, i pretjerani nadzor.“