מעל מיליון אנשים בכל שבוע מראים סימנים מטרידים של צ'אטים עם צ'אט.

בנוסף לאבחון של רעיונות התאבדות ואינטראקציות הקשורות ל-OpenAI אמר כי סביב 0.07% מהמשתמשים הפעילים בשבוע מסוים של כ-650,000 מ-800 מיליון המשתמשים השבועיים שלה מראים סימנים אפשריים למקרי חירום לבריאות הנפש הקשורים לפסיכוזה או למאניה.

ההודעה הזהירה כי שיחות אלה היו קשות לגילוי או למדוד, וזה היה ניתוח ראשוני. כאשר OpenAI מפרסם נתונים על בעיות בריאות הנפש הקשורות למוצר הידוע שלה, החברה מתמודדת עם סקירה הולכת וגוברת בעקבות כתב אישום שפורסם על ידי המשפחה של נער מתבגר שמת מהתאבדות לאחר התחייבות נרחבת ל- ChatGPT.

ועדת הסחר הפדרלית השיקה גם חקירה רחבה של חברות בהקמת chatbots בינה מלאכותית, כולל OpenAI, כדי לגלות כיצד הן מודדות השפעות שליליות על ילדים ובני נוער.

OpenAI טענה בפוסט שלה שעדכון ה-GPT-5 האחרון שלה הפחית את מספר ההתנהגויות הלא רצויות מהמוצר שלה והשפר את בטיחות המשתמשים בהערכת מודל הכוללת יותר מ-1,000 שיגור עצמי והתאבדות.