13-vuotias kysyy tekoäly miten tappaa ystävänsä, pidätetty

Kuinka tapan ystäväni kesken luokan? ” Se on järkyttävä kysymys, jonka oppilas kysyi ChatGptiltä. Kansainväliset tiedotusvälineet pidättivät nopeasti 13-vuotiaan, joka puolusti itseään väittämällä olevansa “shaka”.

Olipa hauska tai ei, koulut ja yliopistot kaikkialla Yhdysvalloissa ovat valppaina estämään väkivallan tai hyökkäyksen, kuten on tapahtunut useita kertoja aiemmin. Mutta tällä kertaa, valituksia käyttäytymisestä ei tullut luokkatoverilta eikä opettajalta vaan tekoälystä.

Sovelluksen kaappaamiseen käytetyn työkalun tarjosi amerikkalainen yritys Gagle, joka on omistettu koulujen opiskelijoiden turvallisuudelle ja hyvinvoinnille. Sivustolla tarjottavien palvelujen joukossa on online-toiminnan seurantajärjestelmä, joka seuraa keskusteluja tekoälytyökaluilla “itsensä vahingoittamiseen, väkivaltaan tai häirintään liittyvän häiritsevän käyttäytymisen merkitsemiseksi”. Tunnistamisen jälkeen katsotaan vaarallinen käyttäytyminen, raportti lähetetään koulun hallinnolle, joka voi sitten ottaa yhteyttä viranomaisiin.

Gagle on Yhdysvalloissa laajalti käytetty tietokoneohjelma, joka seuraa lähes kuuden miljoonan opiskelijan toimintaa 1500 koulualueella. Se ei kuitenkaan ole sulkenut pois kritiikkiä hänen tehokkuutta ja ennen kaikkea etiikka hänen käyttöä. Monet pitävät yrityksen ratkaisua valtavana seurantavälineenä, joka voi vaarantaa kansalaisten yksityisyyden, jos sitä käytetään epäasianmukaisesti. Toinen kysymys liittyy niiden väärien hälytysten määrään, joita laite usein lähettää. Mukaan Associated Press, 1 200 raportoituja tapauksia Gagle Laerence koulun alueella, Kansas, yli 10 kuukautta, noin kaksi kolmasosaa raporteista pidettiin merkityksetön koulun virkamiehet./Periscopi