een dag geledenMeer dan een miljoen mensen per week vertonen verontrustende aanwijzingen van chats met ChatGPT
Periskopi(8 maanden geleden)
(8 maanden geleden)Meer dan een miljoen ChatGPT-gebruikers per week sturen berichten die duidelijke aanwijzingen van de geplande of mogelijke zelfmoorddoelen bevatten. De ontdekking, onderdeel van een update over hoe de chatbot omgaan met gevoelige gesprekken, is een van de meest directe uitspraken van de kunstmatige intelligentie reus op de schaal van hoe IA [...]
Naast de beoordeling van zelfmoordideeën en gerelateerde interacties, de OpenAI zei ook dat ongeveer 0,07% van de actieve gebruikers in een bepaalde week van ongeveer 650.000 van haar 800 miljoen wekelijkse gebruikers vertonen mogelijke tekenen van geestelijke gezondheid noodsituaties geassocieerd met psychose of manie.
De post waarschuwde dat deze gesprekken moeilijk te detecteren of te meten waren, en dat dit een eerste analyse was. Aangezien OpenAI gegevens publiceert over geestelijke gezondheidsproblemen in verband met haar bekende product, wordt het bedrijf geconfronteerd met een groeiende beoordeling na een veel gepubliceerde aanklacht door de familie van een tienerjongen die stierf aan zelfmoord na een wijdverbreide inzet voor ChatGPT.
De Federal Trade Commission startte ook een uitgebreid onderzoek naar bedrijven die kunstmatige intelligentie chatbots opzetten, waaronder OpenAI, om uit te zoeken hoe ze negatieve effecten op kinderen en tieners meten.
OpenAI beweerde in haar post dat haar recente GPT-5 update het aantal ongewenste gedragingen van haar product verminderde en de veiligheid van de gebruiker verbeterde in een modelbeoordeling met meer dan 1.000 zelflancering en zelfmoord.
