13-letnik vpraša umetno inteligenco, kako ubiti prijatelja, aretiranega.

Kako naj ubijem prijatelja sredi razreda? To je šokantno vprašanje, ki ga je študent na Southwestern School v Delandu, Florida, vprašal ChatGpt. Mednarodni mediji so hitro aretirali 13-letnika, ki se je branil s trditvijo, da je bil “shaka”.

Ne glede na to, ali je smešno ali ne, šole in univerze v Združenih državah ostajajo pozorne, da bi preprečile incidente nasilja ali napadov, kot se je zgodilo že večkrat v preteklosti. Tokrat pa pritožbe o vedenju niso prišle ne od sošolca ne od učitelja, ampak od umetne inteligence.

Orodje, ki se je uporabljalo za zajetje vloge, je ponudilo ameriško podjetje Gagle, ki je namenjeno varnosti in blaginji učencev v šolskih prostorih. Med storitvami, ki jih ponuja na svoji spletni strani, je spletni sistem spremljanja dejavnosti, ki spremlja pogovore z orodji umetne inteligence “, da označi vsako moteče vedenje, povezano s samo-žaljenjem, nasiljem ali nadlegovanjem”. Po ugotovitvi obravnavanega nevarnega vedenja se poročilo pošlje šolski upravi, ki lahko nato stopi v stik z oblastmi.

Gagle je široko uporabljen računalniški program v Združenih državah, ki spremlja dejavnosti skoraj šestih milijonov učencev v 1.500 šolskih okrožjih. Vendar ga to ni izključilo iz kritike zaradi njegove učinkovitosti in predvsem etike njegove uporabe. Mnogi menijo, da je rešitev podjetja obsežno orodje za spremljanje, ki bi lahko ogrozilo zasebnost državljanov, če bi se uporabljala neprimerno. Drugo vprašanje vključuje število lažnih alarmov, ki jih naprava pogosto pošlje. Po podatkih Associated Pressa je od 1200 prijavljenih primerov Gagla v šolskem okrožju Laerence v Kansasu več kot 10 mesecev približno dve tretjini poročil šolskih uradnikov štelo za nepomembne./Periscopi/