El nen de 13 anys demana intel·ligència artificial com matar el seu amic, arrestat

“Com mato el meu amic a la meitat de classe? ” Aquesta és la pregunta xocant que un estudiant al sud-oest de l'escola a Deland, Florida, va fer xatGpt. Els mitjans de comunicació internacionals van ser arrestats ràpidament el nen de 13 anys, que es defensava dient que era “haka”.

Si és divertit o no, les escoles i universitats d'arreu dels Estats Units segueixen alerta de prevenir incidents de violència o atacs, com ha passat moltes vegades en el passat. Però aquesta vegada, queixes sobre el comportament no venien ni d'un company de classe ni d'un professor, sinó de la intel·ligència artificial.

L'eina usada per capturar l'aplicació va ser ofert per l'empresa americana Gagle, dedicat a la seguretat i el benestar dels estudiants en instal·lacions escolars. Entre els serveis oferts a la seva pàgina web és un sistema de seguiment d'activitats en línia que monitoritza converses amb eines d'intel·ligència artificial “per marcar qualsevol comportament inquietant relacionat amb l'auto-insolit, la violència o l'assetjament”. Després d'identificar el comportament considerat perillós, l'informe serà enviat a l'administració escolar, que pot contactar amb les autoritats.

Gagle és un programa d'ordinadors molt emprat als Estats Units que monitoritza les activitats de gairebé sis milions d'estudiants en 1.500 districtes escolars. No obstant això, no l'ha exclòs de les crítiques sobre la seva eficàcia i, sobretot, l'ètica del seu ús. Molts veuen la solució de l'empresa com una eina de monitorització massiva que podria posar en perill la privacitat dels ciutadans si s'usaven inapropiament. Una altra cosa implica el nombre d' alarmes falses que el dispositiu sovint envia. Segons l'associat Press , dels 1.200 informes van informar Gagle al districte escolar Laerence, Kansas, més de 10 mesos, aproximadament dos terços dels informes van ser considerats insignificants pels funcionaris de l'escola./Periscopi /