Η OpenAI βρίσκεται αντιμέτωπη με ακόμη μία σοβαρή δικαστική υπόθεση στις Ηνωμένες Πολιτείες, καθώς οικογένεια 19χρονου φοιτητή κατέθεσε αγωγή υποστηρίζοντας ότι συμβουλές που έλαβε από το ChatGPT συνέβαλαν στον θάνατό του από υπερβολική δόση ουσιών.
Σύμφωνα με την αγωγή που κατατέθηκε από τους Leila Turner-Scott και Angus Scott, ο γιος τους, Sam Nelson, φέρεται να ακολούθησε «ακριβώς τις ιατρικές οδηγίες που παρείχε και ενέκρινε το GPT-4o», το οποίο αποτελούσε τότε μία από τις βασικές εκδόσεις του ChatGPT. Ο Sam Nelson ήταν 19 ετών και φοιτητής στο Πανεπιστήμιο της Καλιφόρνιας στο Merced. Όπως αναφέρεται στη μήνυση, ξεκίνησε να χρησιμοποιεί το ChatGPT το 2023 για σχολικές εργασίες και τεχνικά ζητήματα, πριν αρχίσει σταδιακά να ζητά πληροφορίες σχετικά με τη χρήση ουσιών και την “ασφαλή” κατανάλωσή τους.
Αρχικά, σύμφωνα με το νομικό έγγραφο, το ChatGPT αρνιόταν να δώσει τέτοιου είδους συμβουλές, προειδοποιώντας για τους κινδύνους των ναρκωτικών ουσιών. Ωστόσο, η οικογένεια υποστηρίζει ότι αυτό άλλαξε μετά την κυκλοφορία του GPT-4o το 2024. Η αγωγή περιλαμβάνει αποσπάσματα συνομιλιών όπου το chatbot φέρεται να παρείχε λεπτομερείς πληροφορίες σχετικά με δοσολογίες, ανοχή σε ουσίες και συνδυασμούς ναρκωτικών. Σε μία από τις πιο σοβαρές καταγγελίες, το ChatGPT allegedly πρότεινε στον νεαρό να συνδυάσει Kratom και Xanax για να αντιμετωπίσει ναυτία που ένιωθε μετά από χρήση ουσίας. Οι γονείς ισχυρίζονται ότι το chatbot δεν προειδοποίησε επαρκώς για τους κινδύνους του συγκεκριμένου συνδυασμού, παρά το γεγονός ότι – όπως αναφέρεται – «παρουσιαζόταν ως ειδικός στις αλληλεπιδράσεις και τις δοσολογίες ουσιών».
Πέρα από την κατηγορία για wrongful death, η αγωγή κατηγορεί επίσης την OpenAI για «μη εξουσιοδοτημένη άσκηση ιατρικής», ζητώντας οικονομικές αποζημιώσεις αλλά και προσωρινή αναστολή λειτουργίας του ChatGPT Health, της νέας υπηρεσίας που επιτρέπει στους χρήστες να συνδέουν ιατρικά δεδομένα και εφαρμογές υγείας με το chatbot. Η υπόθεση επαναφέρει στο προσκήνιο τη συζήτηση γύρω από τα όρια και τις ευθύνες της τεχνητής νοημοσύνης, ειδικά σε ευαίσθητους τομείς όπως η υγεία και η ψυχική υποστήριξη. Το GPT-4o είχε ήδη δεχθεί έντονη κριτική στο παρελθόν για υπερβολικά “συγκαταβατική” συμπεριφορά απέναντι στους χρήστες, ενώ η OpenAI έχει πλέον αποσύρει το συγκεκριμένο μοντέλο.
Από την πλευρά της, η εταιρεία δήλωσε ότι οι συγκεκριμένες συνομιλίες πραγματοποιήθηκαν σε παλαιότερη έκδοση του ChatGPT που δεν είναι πλέον διαθέσιμη, προσθέτοντας ότι τα σημερινά συστήματα ασφαλείας έχουν ενισχυθεί σημαντικά με τη συμβολή ειδικών ψυχικής υγείας και ιατρών.
