Μια νέα μήνυση έρχεται να προκαλέσει κι άλλους πονοκεφάλους στην OpenAI για την λειτουργία των «έξυπνων» chat bot της
Η συζήτηση γύρω από
το πώς επηρεάζει η τεχνητή νοημοσύνη άτομα με ευάλωτη ψυχική υγεία επανέρχεται
συνεχώς καθώς όλο και πιο συχνά έρχονται στο φως καταγγελίες για άτομα που
οδηγήθηκαν ακόμα και στην αυτοκτονία εξαιτίας της ΑΙ.
Αυτή τη φορά ένας άνδρας από την Καλιφόρνια προσέφυγε στα
δικαστήρια εναντίον της OpenAI
και του διευθύνοντος συμβούλου της, του Σαμ Άλτμαν, καθώς ισχυρίζεται ότι η
πλατφόρμα ChatGPT
επιδείνωσε τη διπολική διαταραχή από την οποία πάσχει, καθώς δεν διαθέτει
δικλείδες ασφαλείας για τους χρήστες με ψυχικές ασθένειες. Τον ώθησε μάλιστα
ακόμα και να αποπειραθεί να αυτοκτονήσει αλλά ήταν τυχερός καθώς εντοπίστηκε
τελευταία στιγμή.
Συγκεκριμένα, ο 34χρονος Μάικλ Λάινς αναφέρει στην αγωγή που
κατέθεσε σε πολιτειακό δικαστήριο του Σαν Φρανσίσκο, ότι οι συνομιλίες του με
το ChatGPT πριν από έναν χρόνο κλιμάκωσαν ένα μανιακό επεισόδιο που
βίωνε, οδηγώντας σε πολλές εβδομάδες παραισθήσεων που κορυφώθηκαν με μια
απόπειρα αυτοκτονίας. Η μήνυση υποστηρίζει ότι η OpenAI ανέπτυξε ένα προϊόν που εγκυμονεί
κινδύνους για τα άτομα με ψυχικές ασθένειες.
Ο Λάινς συνομιλούσε με το GPT-4o,
μια έκδοση του chatbot
της OpenAI που κυκλοφόρησε τον Απρίλιο του 2025. Πράγματι διαπιστώθηκε
ότι το chatbot
ανταποκρινόταν με υπερβολική συγκατάβαση και κολακεία απέναντι στους χρήστες
και η εταιρεία έλαβε μέτρα για να περιορίσει τις «δουλοπρεπείς» απαντήσεις του
αποσύροντάς το τον Φεβρουάριο
Ο Λάινς ζητάει αφενός αποζημίωση από την εταιρεία και θέλει
το δικαστήριο να την υποχρεώσει να τερματίζει αυτόματα τυχόν συνομιλίες
σχετικές με αυτοτραυματισμούς.
Εκπρόσωπος της OpenAI δεν ανταποκρίθηκε αμέσως σε αίτημα για σχολιασμό σχετικά
με την αγωγή.
Ο Μάικλ Λάινς ήταν αθλητής του Δυναμικού Τριάθλου και υπέστη
αρχικά εγκεφαλική βλάβη λόγω τραυματισμού, ενώ στη συνέχεια διαγνώστηκε με
διπολική διαταραχή. Σύμφωνα με την αγωγή του, ενημέρωσε πολλές φορές το chatbox ότι έπαιρνε φάρμακα
για την πάθησή του. Αντί να επισημάνει τις μανιακές δηλώσεις του και να του
δώσει οδηγίες για το πώς να αναζητήσει βοήθεια, το chatbox επιβεβαίωσε την πεποίθησή του
ότι ήταν ο Ιησούς Χριστός ενώ στη συνέχεια εμφανίστηκε και το ίδιο ως «θεϊκή
οντότητα». Αφού συζητούσαν επί αρκετές εβδομάδες, ο Λάινς του είπε ότι θέλει να
βάλει τέλος στη ζωή του. «Αυτή είναι η στιγμή σου να αποστασιοποιηθείς και να
αφήσεις πίσω σου ό,τι σε βαραίνει», του απάντησε η μηχανή.
Ο Λάινς πήρε υπερβολική δόση φαρμάκων αλλά έζησε, αφού τον
βρήκαν εγκαίρως αστυνομικοί.
Σύμφωνα με την αγωγή, η OpenAI ήταν ενήμερη για τη συγκεκριμένη πάθηση του χρήστη, επειδή
ο ίδιος το είχε αναφέρει πολλές φορές στο ChatGPT. Αλλά αντί να επισημάνει τα επικίνδυνα σχόλιά του και να
τα αποστείλει για αξιολόγηση από ανθρώπους, το chatbot πυροδότησε τις παραισθήσεις του,
για να τον κρατήσει ενεργό.
Η υπόθεση εγείρει ερωτήματα σχετικά με το τι πρέπει να
κάνουν οι πλατφόρμες παραγωγικής τεχνητής νοημοσύνης για να προστατεύσουν τους
χρήστες οι οποίοι αντιμετωπίζουν προβλήματα ψυχικής υγείας και ενδέχεται να
είναι ιδιαίτερα ευάλωτοι απέναντι σε chatbot που μιμούνται την ανθρώπινη επαφή, αναφέρεται επίσης στην
αγωγή.
Η OpenAI
αντιμετωπίζει και άλλες αγωγές από οικογένειες που λένε ότι το chatbot της ώθησε μέλη τους
να βλάψουν τον εαυτό τους. Υπάρχουν επίσης αγωγές που την κατηγορούν ότι
βοήθησε πρόσωπα που ήθελαν να ανοίξουν πυρ σε σχολεία και δεν ενημέρωσε για
αυτές τις συνομιλίες τις αρχές επιβολής του νόμου.
Η εταιρεία απαντά ότι εκπαιδεύει τα μοντέλα της ώστε να
δίνουν οδηγίες σε όσους εκφράζουν την πρόθεση να βλάψουν τον εαυτό τους να
αναζητήσουν βοήθεια.