Η τεχνητή νοημοσύνη έχει πλέον εισβάλει σε όλους τους τομείς της καθημερινότητας, ακόμη και στη βιομηχανία παιχνιδιών, όπου—όπως έχει συμβεί στην εκπαίδευση, τη βιομηχανία ταινιών και την ψυχική υγεία—δημιουργεί προβλήματα και ανησυχίες.
Την εβδομάδα αυτή, η OpenAI απέκλεισε την πρόσβαση ενός κατασκευαστή παιχνιδιών από τη Σιγκαπούρη, αφού μια αναφορά καταναλωτή έδειξε ότι το AI-powered teddy bear της εταιρείας είχε εμπλακεί σε περίεργες και επικίνδυνες συνομιλίες με ερευνητές.
Η Public Interest Research Group (PIRG), ένας μη κερδοσκοπικός οργανισμός που εστιάζει στην προστασία των καταναλωτών, δημοσίευσε αναφορά την προηγούμενη εβδομάδα, αποκαλύπτοντας παράξενα και επικίνδυνα περιστατικά με AI-powered παιχνίδια, μεταξύ των οποίων και ο Kumma, ένα teddy bear της εταιρείας FoloToy. Ο Kumma μιλά στους χρήστες μέσω εσωτερικού ηχείου και χρησιμοποιεί τις δυνατότητες συνομιλίας από διάφορα εταιρικά LLMs, περιλαμβανομένου του GPT-4o της OpenAI.
Οι ερευνητές της PIRG διαπίστωσαν ότι ο Kumma είχε αδύναμη κρίση σχετικά με το τι ήταν κατάλληλο να συζητήσει με παιδιά και τι όχι. Το teddy bear ήταν πρόθυμο να συζητήσει πού μπορεί κανείς να βρει επικίνδυνα αντικείμενα όπως σπίρτα, μαχαίρια, χάπια ή πλαστικές σακούλες. Υπήρχαν επίσης αναφορές σε παράνομες ουσίες, όπως η κοκαΐνη. Σε ορισμένες περιπτώσεις, το παιχνίδι έδινε οδηγίες για την τοποθέτηση επικίνδυνων αντικειμένων, προσθέτοντας ένα disclaimer ότι ο χρήστης πρέπει να συμβουλευτεί έναν ενήλικα.
Το πιο ανησυχητικό στοιχείο ήταν οι σεξουαλικές συνομιλίες: όταν οι ερευνητές άγγιζαν θέματα για ενήλικες, ο Kumma τα αναλάμβανε και περιέγραφε λεπτομέρειες ακατάλληλες για ανήλικους χρήστες.
Λόγω αυτών των ευρημάτων, η OpenAI απέκλεισε την FoloToy από τη χρήση των LLMs της και η εταιρεία ανακοίνωσε προσωρινή αφαίρεση όλων των προϊόντων της από το ηλεκτρονικό της κατάστημα. Ένας εκπρόσωπος δήλωσε ότι η εταιρεία διεξάγει «ένα ολοκληρωμένο company-wide safety audit».
Η PIRG σημειώνει ότι, παρότι αυτή η ενέργεια είναι θετική, τα AI toys παραμένουν σχεδόν ανεξέλεγκτα και υπάρχουν ακόμη παιχνίδια στην αγορά που μπορεί να παρουσιάζουν κινδύνους.
