13-годишният пита изкуствен интелект как да убие приятеля си, арестуван

Как да убия приятеля си по средата на класа? Това е шокиращия въпрос, който един ученик от Югозападното училище в Деланд, Флорида, попита ЧатГпт. Международните медии бързо арестуваха 13-годишния, който се защити, като заяви, че е “shaka”.

Независимо дали са смешни или не, училищата и университетите в Съединените щати са нащрек за предотвратяване на инциденти с насилие или нападения, както се е случвало няколко пъти в миналото. Но този път оплакванията за поведение не идват нито от съученик, нито от учител, а от изкуствен интелект.

Инструментът, използван за улавяне на заявлението, бе предложен от американската компания Gagle, която е посветена на безопасността и благосъстоянието на учениците в учебни заведения. Сред услугите, предлагани на уебсайта му, е онлайн система за мониторинг на дейността, която следи разговорите с инструменти за изкуствен интелект “за отбелязване на всяко смущаващо поведение, свързано със самонараняване, насилие или тормоз”. След идентифициране на считаното за опасно поведение докладът се изпраща до училищната администрация, която след това може да се свърже с властите.

Гагъл е широко използвана компютърна програма в САЩ, която наблюдава дейността на близо шест милиона ученици в 1500 училища. Той обаче не го е изключил от критиките за неговата ефективност и преди всичко етиката на неговата употреба. Мнозина смятат, че решението на компанията е масов инструмент за мониторинг, който би могъл да застраши неприкосновеността на личния живот на гражданите, ако се използва неуместно. Друг проблем е броят на фалшивите аларми, които устройството често изпраща. Според Associated Press , от 1200 докладвани случаи на Gagle в Lareence училище област, Канзас, за 10 месеца, приблизително две трети от докладите са били считани за незначителни от училищни служители./Перископи/