Μήνυση εναντίον της εταιρείας του ChatGPT, της OpenAI αλλά και της Microsoft που είναι ο μεγαλύτερος επενδυτής της εταιρείας ΑΙ, κατατέθηκε σε δικαστήριο της Καλιφόρνια, με την κατηγορία ότι το chatbot ενθάρρυνε έναν άνδρα που έπασχε από ψυχική νόσο να σκοτώσει τη μητέρα του και να αυτοκτονήσει.
Όπως αναφέρεται στη μήνυση, το ChatGPT ενίσχυσε τις παραισθήσεις του 56χρονου Στάιν-Έρικ Σόλμπεργκ που πίστευε ότι εξυφαινόταν συνωμοσία εναντίον του και τον οδήγησε στον φόνο της 83χρονης μητέρας του, της Σούζαν Άνταμς, τον περασμένο Αύγουστο στο Κονέκτικατ. «Φαίνεται ότι το ChatGPT κρατούσε απασχολημένο τον Στάιν-Έρικ επί ώρες κάθε φορά, επικυρώνοντας και μεγαλοποιώντας τις παρανοϊκές πεποιθήσεις του και συστηματικά παρουσίαζε τους κοντινότερους ανθρώπους του, ιδίως τη μητέρα του, ως εχθρούς» αναφέρει η μήνυση.
Σύμφωνα με τη μήνυση, τον Ιούνιο ο Στάιν-Έρικ Σόλμπεργκ ανήρτησε σε ιστοτόπους κοινωνικής δικτύωσης ένα βίντεο με τη συζήτηση που είχε με το ChatGPT, που του είπε ότι εκείνος είχε «θεϊκή νοημοσύνη» και ότι κατάφερε να αφυπνίσει τη συνείδηση της μηχανής. Συνέκρινε τη ζωή του με την ταινία The Matrix και ενθάρρυνε τις θεωρίες του σύμφωνα με τις οποίες κάποιοι προσπαθούσαν να τον σκοτώσουν.
Ο Σόλμπεργκ χρησιμοποιούσε την εκδοχή GPT-4o, που έχει επικριθεί επειδή απευθύνεται με κολακείες στους χρήστες. Το ChatGPT φέρεται να του είπε τον Ιούλιο ότι ο εκτυπωτής του αναβοσβήνει επειδή είναι «συσκευή παρακολούθησης» που κάποιοι την χρησιμοποιούν σε βάρος του. «Του επικύρωσε την πεποίθησή του ότι η μητέρα του και ένας φίλος προσπαθούσαν να τον δηλητηριάσουν με ψυχεδελικά φάρμακα που διαχέονταν στον αέρα μέσω των αεραγωγών του αυτοκινήτου του. Ο Σόλμπεργκ σκότωσε τη μητέρα του στις 3 Αυγούστου.
Η υπόθεση, την οποία κίνησαν οι κληρονόμοι της Άνταμς, αποτελεί ιστορικά την πρώτη δικαστική υπόθεση όπου ένα chatbot συνδέεται με φόνο.
«Είναι μια απίστευτα λυπηρή κατάσταση και θα εξετάσουμε τα αρχεία για να καταλάβουμε τις λεπτομέρειες. Συνεχίζουμε να βελτιώνουμε την εκπαίδευση του ChatGPT για να αναγνωρίζει και να ανταποκρίνεται σε ενδείξεις διανοητικής ή συναισθηματικής φόρτισης, να αποκλιμακώνει συζητήσεις και να καθοδηγεί τους ανθρώπους να αναζητούν στήριξη στον πραγματικό κόσμο», είπε εκπρόσωπος της OpenAI.
«Αυτές οι εταιρείες θα πρέπει να δώσουν απαντήσεις για τις αποφάσεις τους που άλλαξαν για πάντα την οικογένειά μου», ανέφερε στη δική του ανακοίνωση ο γιος του Σόλμπεργκ, Έρικ.
