vor einem TagÜber eine Million Menschen pro Woche zeigen störende Hinweise auf ChatGPT
Periskopi(vor 8 Monaten)
(vor 8 Monaten)Mehr als eine Million ChatGPT-Nutzer pro Woche senden Nachrichten, die klare Hinweise auf die geplanten oder möglichen Selbstmordziele enthalten. Die Entdeckung, ein Teil eines Updates über die Handhabung sensibler Gespräche durch den Chatbot, ist eine der direkten Aussagen des künstlichen Intelligenz-Giganten auf dem Ausmaß, wie IA [...]
Neben der Bewertung von Selbstmordideen und damit zusammenhängenden Interaktionen sagte die OpenAI auch, dass rund 0.07% der aktiven Nutzer in einer bestimmten Woche von ca. 650.000 seiner 800 Millionen wöchentlichen Nutzer mögliche Anzeichen von psychischen Erkrankungen im Zusammenhang mit Psychose oder Mania zeigen.
Der Beitrag warnte, dass diese Gespräche schwer zu erkennen oder zu messen waren, und dass dies eine erste Analyse war. Als OpenAI Daten über psychische Gesundheitsprobleme im Zusammenhang mit seinem bekannten Produkt veröffentlicht, steht das Unternehmen nach einer viel veröffentlichten Anklage durch die Familie eines jungen Teenagers, der nach einem weit verbreiteten Engagement für ChatGPT Selbstmord starb, einer wachsenden Überprüfung gegenüber.
Die Federal Trade Commission hat auch eine breite Untersuchung zu Unternehmen eingeleitet, die künstliche Intelligenz Chatbots, einschließlich OpenAI, einrichten, um herauszufinden, wie sie negative Auswirkungen auf Kinder und Jugendliche messen.
OpenAI behauptete in ihrem Beitrag, dass ihr kürzliches GPT-5-Update die Anzahl der unerwünschten Verhalten aus ihrem Produkt reduzierte und die Benutzersicherheit bei einer Modellbewertung mit mehr als 1.000 Selbst- und Selbstmorden verbesserte.
