13-летний подросток спросил искусственный интеллект, как убить своего друга

“Как убить друга в середине класса?” Это шокирующий вопрос, который задал студент Юго-Западной школы в Деланде, штат Флорида. Международные СМИ перечислили силы, которые быстро арестовали 13-летнего мужчину, который защищался, утверждая, что это был “shaka”.

Смешно это или нет, но школы и университеты по всей территории Соединенных Штатов по-прежнему бдительны, чтобы предотвратить случаи насилия или нападений, как это происходило несколько раз в прошлом. Но на этот раз жалобы на поведение поступили не от одноклассника или от учителя, а от искусственного интеллекта.

Инструмент, используемый для захвата приложения, предложила американская компания Gagle, которая занимается безопасностью и благополучием учащихся в школьных учреждениях. Среди услуг, предлагаемых на его веб-сайте, есть онлайн-система мониторинга активности, которая отслеживает разговоры с помощью инструментов искусственного интеллекта “, чтобы отметить любое тревожное поведение, связанное с самооскорблением, насилием или домогательствами”. После выявления предполагаемого опасного поведения отчет направляется в администрацию школы, которая затем может связаться с властями.

Gagle является широко используемой компьютерной программой в Соединенных Штатах, которая контролирует деятельность почти шести миллионов студентов в 1500 школьных округах. Однако это не исключало его из критики за его эффективность и, прежде всего, этику его использования. Многие рассматривают решение компании как мощный инструмент мониторинга, который может поставить под угрозу конфиденциальность граждан, если его использовать ненадлежащим образом. Другая проблема связана с количеством ложных тревог, которые устройство часто отправляет. По данным Associated Press, из 1200 зарегистрированных случаев Гэгла в школьном округе Лаэренс, штат Канзас, за 10 месяцев примерно две трети сообщений были сочтены незначительными должностными лицами школы./Перископи/