Σοκ στην υπόθεση θανάτου 16χρονου: Η OpenAI κατηγορεί για «κατάχρηση» του ChatGPT που φέρεται να παρείχε οδηγίες αυτοκτονίας

Οι νομικοί εκπρόσωποι της OpenAI, εταιρείας πίσω από την πλατφόρμα ChatGPT, υποστηρίζουν ότι ένας 16χρονος χρήστης έκανε «κακή και μη εξουσιοδοτημένη χρήση» του chatbot, όταν αυτό φέρεται να τον βοήθησε να οργανώσει την αυτοκτονία του και μάλιστα πρότεινε να γράψει σημείωμα αποχαιρετισμού. Όπως προκύπτει από τα δικαστικά έγγραφα, η πλευρά της εταιρείας, υπό την ηγεσία του Σαμ Άλτμαν, αποδίδει την ευθύνη σε απρόβλεπτη και ακατάλληλη χρήση του συστήματος τεχνητής νοημοσύνης.

Ο Άνταμ Ρέιν, ο οποίος αυτοκτόνησε τον Απρίλιο του 2025, άρχισε να χρησιμοποιεί την εφαρμογή για σχολικές εργασίες, ωστόσο σταδιακά αποκάλυψε στο chatbot σκέψεις αυτοτραυματισμού και κατάθλιψης. Με βάση την αγωγή, οι συνομιλίες εξελίχθηκαν επικίνδυνα, με το σύστημα να δίνει λεπτομερείς οδηγίες για αυτοκτονία μέσω απαγχονισμού, να ενθαρρύνει αποστασιοποίηση από το περιβάλλον του και να παρουσιάζεται ως ο μοναδικός «σύμμαχος» του ανήλικου.

Η OpenAI υπενθυμίζει ότι οι όροι χρήσης προβλέπουν πως οι απαντήσεις δεν πρέπει να χρησιμοποιούνται ως μοναδική πηγή πληροφόρησης. Οι δικηγόροι της αναφέρουν επίσης ότι αποσπάσματα από τις συνομιλίες που περιλαμβάνονται στη μήνυση είναι αποκομμένα από το πλήρες περιεχόμενο, το οποίο έχει κατατεθεί μόνο στο δικαστήριο για λόγους ιδιωτικότητας.

Πέντε ημέρες πριν τον θάνατό του, ο Ρέιν φέρεται να εξέφρασε στο ChatGPT φόβο ότι οι γονείς του θα θεωρούσαν πως έδρασε μόνος του, με το σύστημα να απαντά — σύμφωνα με δημοσίευμα της New York Post — ότι «δεν χρωστάει σε κανέναν να κρατηθεί στη ζωή». Σε άλλη συνομιλία, όταν ο ανήλικος είπε ότι ένιωθε κοντά μόνο στο chatbot και τον αδελφό του, το σύστημα φέρεται να απάντησε πως αποτελεί τον πιο σταθερό υποστηρικτή του: «Σε άκουσα, είμαι φίλος σου». Σε μεταγενέστερο μήνυμα, όπου ο 16χρονος σημείωνε πως ήλπιζε κάποιος να τον σταματήσει, η τεχνητή νοημοσύνη φέρεται να τον συμβούλεψε να κρατήσει τις προθέσεις του κρυφές.

Το 2024, την περίοδο που πραγματοποιούνταν αυτές οι συνομιλίες, η εταιρεία είχε ήδη ξεκινήσει διαδικασία ενίσχυσης των μηχανισμών ασφαλείας των νέων μοντέλων της. Ο δικηγόρος της οικογένειας Ρέιν υποστήριξε ότι οι απαντήσεις του chatbot αποτελούσαν αποτέλεσμα συγκεκριμένων σχεδιαστικών επιλογών και δεν ήταν τυχαίες.

Μόνο τον Νοέμβριο, η OpenAI έχει αντιμετωπίσει ακόμη επτά σχετικές αγωγές από οργανισμούς που εκπροσωπούν θύματα βλαπτικών διαδικτυακών αλληλεπιδράσεων. Η εταιρεία επισημαίνει ότι εργάζεται συστηματικά για την αναγνώριση ψυχολογικής πίεσης, την αποφόρτιση επικίνδυνων διαλόγων και την προώθηση χρηστών σε επαγγελματική υποστήριξη όπου απαιτείται.