Η OpenAI προχωρά σε μια νέα σημαντική αλλαγή για το ChatGPT, εισάγοντας μια λειτουργία που στοχεύει στην ενίσχυση της ασφάλειας των χρηστών σε περιπτώσεις ψυχολογικής κρίσης. Η νέα δυνατότητα ονομάζεται “trusted contact” και επιτρέπει στους χρήστες να ορίσουν ένα άτομο εμπιστοσύνης που μπορεί να ειδοποιηθεί σε περίπτωση που εντοπιστούν ανησυχητικά σημάδια στις συνομιλίες.
Η λειτουργία αυτή απευθύνεται αποκλειστικά σε ενήλικες χρήστες και ενεργοποιείται μέσα από τις ρυθμίσεις της εφαρμογής. Ο κάθε χρήστης μπορεί να δηλώσει έναν άλλο ενήλικο ως “trusted contact”, καταχωρώντας βασικά στοιχεία επικοινωνίας, όπως email και αριθμό τηλεφώνου. Στη συνέχεια, το άτομο αυτό λαμβάνει πρόσκληση και μπορεί να αποδεχτεί ή να απορρίψει τον ρόλο.
Η ενεργοποίηση της λειτουργίας βασίζεται σε συνδυασμό αυτοματοποιημένων συστημάτων και ανθρώπινης εποπτείας. Όταν τα συστήματα της OpenAI εντοπίζουν πιθανές συζητήσεις που σχετίζονται με αυτοτραυματισμό ή σοβαρή ψυχολογική δυσφορία, το ChatGPT μπορεί να προειδοποιήσει τον χρήστη ότι ενδέχεται να ειδοποιηθεί το άτομο εμπιστοσύνης. Παράλληλα, προτείνει τρόπους επικοινωνίας και ενθαρρύνει τον χρήστη να απευθυνθεί σε υποστηρικτικές υπηρεσίες ή γραμμές βοήθειας.
Η εταιρεία τονίζει ότι η νέα λειτουργία δεν αντικαθιστά την επαγγελματική ψυχολογική υποστήριξη ή τις υπηρεσίες έκτακτης ανάγκης, αλλά λειτουργεί ως ένα επιπλέον επίπεδο προστασίας. Σύμφωνα με την OpenAI, η ανάπτυξη του εργαλείου έγινε με τη συμβολή ειδικών ψυχικής υγείας και οργανισμών πρόληψης αυτοκτονιών, με στόχο να μειωθεί ο κίνδυνος απομόνωσης των χρηστών που βρίσκονται σε ευάλωτη κατάσταση.
Σε περιπτώσεις όπου κρίνεται απαραίτητο, ένα μικρό εξειδικευμένο team της εταιρείας αξιολογεί την κατάσταση πριν προχωρήσει οποιαδήποτε ειδοποίηση προς το trusted contact. Αν ενεργοποιηθεί η ειδοποίηση, το άτομο λαμβάνει μήνυμα μέσω email, SMS ή εφαρμογής, με γενική ενημέρωση ότι υπάρχει πιθανή ανησυχία για την ψυχική κατάσταση του χρήστη, χωρίς να αποκαλύπτονται συνομιλίες ή ευαίσθητα δεδομένα.
Η προσέγγιση αυτή εντάσσεται σε μια ευρύτερη τάση της τεχνολογικής βιομηχανίας, όπου πλατφόρμες όπως τα κοινωνικά δίκτυα και τα AI εργαλεία προσπαθούν να ενσωματώσουν μηχανισμούς πρόληψης ψυχικής κρίσης. Η OpenAI αναφέρει ότι στόχος είναι να ενισχυθεί η ανθρώπινη σύνδεση σε κρίσιμες στιγμές, χωρίς να παραβιάζεται η ιδιωτικότητα των χρηστών.
Η νέα λειτουργία έχει ήδη προκαλέσει συζητήσεις γύρω από τα όρια μεταξύ ασφάλειας και ιδιωτικότητας, καθώς και για το πώς η τεχνητή νοημοσύνη μπορεί να εμπλακεί σε τόσο ευαίσθητα προσωπικά ζητήματα.
