13-latek pyta sztuczną inteligencję, jak zabić przyjaciela, aresztowany

Jak zabić przyjaciela w środku klasy? To szokujące pytanie, które uczeń z Southwestern School w Deland na Florydzie zadał ChatGpt. Międzynarodowe media szybko aresztowały 13-letniego, który bronił się twierdząc, że był “shaka”.

Niezależnie od tego, czy jest to zabawne, czy nie, szkoły i uniwersytety w Stanach Zjednoczonych pozostają czujne, aby zapobiec incydentom przemocy lub ataków, jak to miało miejsce kilka razy w przeszłości. Ale tym razem skargi na zachowanie nie pochodzą ani od kolegi z klasy, ani od nauczyciela, ale od sztucznej inteligencji.

Narzędzie używane do przechwytywania aplikacji było oferowane przez amerykańską firmę Gagle, która poświęcona jest bezpieczeństwu i dobrobytowi uczniów w placówkach szkolnych. Wśród usług oferowanych na jej stronie internetowej jest system monitorowania aktywności online, który monitoruje rozmowy ze sztucznymi narzędziami inteligencji “, aby oznaczyć wszelkie niepokojące zachowania związane z samoobelgą, przemoc lub nękanie”. Po zidentyfikowaniu niebezpiecznego zachowania, raport jest wysyłany do administracji szkoły, która może następnie skontaktować się z władzami.

Gagle jest szeroko stosowanym programem komputerowym w Stanach Zjednoczonych, który monitoruje działalność prawie sześciu milionów uczniów w 1500 okręgach szkolnych. Jednakże nie wykluczyła go ona z krytyki dotyczącej jego skuteczności, a przede wszystkim etyki jego stosowania. Wiele z nich postrzega rozwiązanie firmy jako ogromne narzędzie monitorowania, które mogłoby zagrozić prywatności obywateli, jeżeli byłoby stosowane niewłaściwie. Kolejną kwestią jest liczba fałszywych alarmów, które urządzenie często wysyła. Według Associated Press, z 1200 zgłoszonych przypadków Gagle 'a w okręgu szkolnym Laerence w Kansas, w ciągu 10 miesięcy, około dwie trzecie raportów zostało uznanych za nieistotne przez urzędników szkół.Periscopi