13letý se ptá umělé inteligence, jak zabít svého přítele.

“Jak zabít svého přítele uprostřed třídy? ” To je šokující otázka, že student na Southwestern School v Delandu, Florida, položil ChatGpt. Mezinárodní média uvedla, že síly rychle zatkly 13letého, který se bránil tvrzením, že je “shaka”.

Ať už je to sranda nebo ne, školy a univerzity ve Spojených státech zůstávají ostražité, aby zabránily násilným incidentům nebo útokům, jak se v minulosti stalo několikrát. Ale tentokrát stížnosti na chování nepřišly od spolužáka ani od učitele, ale od umělé inteligence.

Nástroj používaný k zachycení žádosti byl nabídnut americkou společností Gagle, která se věnuje bezpečnosti a blahobytu studentů ve školních zařízeních. Mezi služby nabízené na svých webových stránkách je on-line systém monitorování činnosti, který sleduje rozhovory s umělou inteligencí nástroje “označit jakékoli znepokojivé chování spojené se sebeurážkou, násilím nebo obtěžováním”. Po určení považovaného nebezpečného chování je zpráva zaslána školní správě, která pak může kontaktovat úřady.

Gagle je široce využívaný počítačový program ve Spojených státech, který sleduje činnost téměř šesti milionů studentů v 1500 školních okrsků. Nicméně, to ho nevylučuje z kritiky nad jeho účinnost a především etika jeho použití. Mnozí vnímají řešení společnosti jako obrovský monitorovací nástroj, který by mohl ohrozit soukromí občanů, pokud by byl použit nevhodně. Dalším problémem je počet falešných alarmů, které zařízení často posílá. Podle Associated Press, z 1200 hlášených případů Gagle v okrese Laerence školy, Kansas, více než 10 měsíců, přibližně dvě třetiny zpráv byly považovány školními úředníky za nevýznamné./ Periscopi /