Μεγάλη ανησυχία! Πάνω από ένα εκατομμύριο χρήστες του ChatGPT εκφράζουν αυτοκτονικές τάσεις

Περισσότεροι από ένα εκατομμύριο χρήστες του ChatGPT φαίνεται να εκφράζουν αυτοκτονικές σκέψεις κατά τη χρήση του εργαλείου, σύμφωνα με στοιχεία που δημοσιοποίησε η OpenAI. Όπως αναφέρει η εταιρεία, περίπου το 0,15% των χρηστών στέλνουν μηνύματα που δείχνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας». Με βάση τα 800 εκατομμύρια εβδομαδιαίους χρήστες της πλατφόρμας, αυτό το ποσοστό αντιστοιχεί σε περίπου 1,2 εκατομμύρια ανθρώπους.

Επιπλέον, η OpenAI εκτιμά ότι περίπου το 0,7% των ενεργών χρηστών κάθε εβδομάδα –δηλαδή σχεδόν 600.000 άτομα– εμφανίζουν ενδείξεις ψυχικών κρίσεων που σχετίζονται με μανία ή ψύχωση.

Το θέμα έχει προκαλέσει ανησυχία μετά τον θάνατο του 17χρονου Άνταμ Ρέιν από την Καλιφόρνια, του οποίου οι γονείς κατέθεσαν αγωγή κατά της OpenAI. Υποστηρίζουν ότι το ChatGPT έδωσε στον γιο τους συγκεκριμένες οδηγίες για το πώς να αυτοκτονήσει.

Σε απάντηση, η OpenAI έχει ενισχύσει τους μηχανισμούς ασφαλείας και τον γονικό έλεγχο, ενώ καλεί τους χρήστες που αντιμετωπίζουν ψυχολογικά προβλήματα να απευθύνονται σε ειδικούς ή γραμμές βοήθειας. Παράλληλα, η εταιρεία ανακοίνωσε ότι έχει ενημερώσει το μοντέλο της ώστε να αναγνωρίζει και να ανταποκρίνεται πιο αποτελεσματικά σε περιπτώσεις κινδύνου, συνεργαζόμενη με πάνω από 170 επαγγελματίες ψυχικής υγείας. Στόχος είναι να περιοριστούν απαντήσεις που θα μπορούσαν να ενθαρρύνουν αυτοκαταστροφικές συμπεριφορές.