Ένα φαινομενικά αθώο παιχνίδι με τεχνητή νοημοσύνη μετατράπηκε σε εφιάλτη για την ιδιωτικότητα χιλιάδων παιδιών. Ο Joseph Thacker, ερευνητής κυβερνοασφάλειας, αποφάσισε να εξετάσει το AI λούτρινο παιχνίδι Bondu, όταν μια γειτόνισσά του τού ανέφερε ότι το είχε προπαραγγείλει για τα παιδιά της λόγω της δυνατότητας συνομιλίας που προσφέρει, λειτουργώντας σαν ένας «έξυπνος φανταστικός φίλος».
Μαζί με τον ειδικό ασφάλειας ιστού Joel Margolis, ο Thacker ανακάλυψε μέσα σε λίγα λεπτά κάτι σοκαριστικό: η διαδικτυακή πλατφόρμα της Bondu, η οποία υποτίθεται ότι προοριζόταν για γονείς και προσωπικό της εταιρείας, επέτρεπε σε οποιονδήποτε είχε έναν λογαριασμό Gmail να αποκτήσει πρόσβαση σε συνομιλίες παιδιών με το παιχνίδι. Χωρίς καμία μορφή hacking, οι ερευνητές μπορούσαν να δουν ιδιωτικές εξομολογήσεις, ονόματα παιδιών, ημερομηνίες γέννησης, στοιχεία οικογένειας, αγαπημένες συνήθειες και λεπτομερή απομαγνητοφωνημένα chats.
Σύμφωνα με τους ερευνητές, περισσότερες από 50.000 συνομιλίες παιδιών ήταν εκτεθειμένες, ουσιαστικά όλο το ιστορικό χρήσης του παιχνιδιού, εκτός από όσα είχαν διαγραφεί χειροκίνητα. «Ήταν εξαιρετικά παρεμβατικό και ανησυχητικό», δήλωσε ο Thacker, χαρακτηρίζοντας την κατάσταση «μαζική παραβίαση της ιδιωτικότητας των παιδιών».
Μετά την ειδοποίηση, η Bondu απέσυρε άμεσα την πλατφόρμα και την επανέφερε την επόμενη ημέρα με μηχανισμούς πιστοποίησης. Ο CEO της εταιρείας, Fateen Anam Rafid, δήλωσε ότι το πρόβλημα διορθώθηκε μέσα σε ώρες και ότι δεν υπάρχουν ενδείξεις πρόσβασης πέρα από τους ερευνητές.
Ωστόσο, η υπόθεση ανέδειξε σοβαρότερα ζητήματα. Τα δεδομένα που συλλέγονται από AI παιχνίδια είναι εξαιρετικά ευαίσθητα και θα μπορούσαν, όπως προειδοποιεί ο Margolis, να χρησιμοποιηθούν για επικίνδυνες μορφές χειραγώγησης ή κακοποίησης παιδιών. «Είναι το όνειρο ενός απαγωγέα», δήλωσε χαρακτηριστικά. Παρότι η Bondu υποστηρίζει ότι εφαρμόζει φίλτρα ασφαλείας και δεν χρησιμοποιεί τα δεδομένα για εκπαίδευση μοντέλων, το περιστατικό ενισχύει τις ανησυχίες γύρω από τα AI παιχνίδια. Όπως καταλήγει ο Thacker, μετά από όσα είδε, δεν θα επέτρεπε ποτέ ένα τέτοιο παιχνίδι στο σπίτι του: «Είναι απλώς ένας εφιάλτης ιδιωτικότητας».
