Αυξάνεται ο αριθμός των χωρών ανά το παγκόσμιο που εξετάζουν τη λήψη νέων μέτρων για να βάλουν φρένο στο Grok, το chatbot τεχνητής νοημοσύνης (AI) του Έλον Μασκ, εν μέσω των αυξανόμενων ανησυχιών ότι παράγει ψευδείς, σεξουαλικά παραποιημένες εικόνες. Παρα τους ολικούς αποκλεισμούς που εφαρμόζουν ορισμένες χώρες στη Νοτιοανατολική Ασία αλλά και τις ρυθμιστικές προειδοποιήσεις στην Ευρώπη και την Αυστραλία, οι αρχές λένε ότι τα υφιστάμενα μέτρα προστασίας αποτυγχάνουν.
Υπενθυμίζεται ότι το περασμένο καλοκαίρι, η xAI, η εταιρεία που λειτουργεί το Grok, πρόσθεσε μια νέα λειτουργία δημιουργίας εικόνων που είναι ικανή να παράγει περιεχόμενο για ενηλίκους (spicy mode). Μάλιστα, τις τελευταίες εβδομάδες, το Grok ανταποκρίθηκε σε προτροπές χρηστών να «γδύσει» εικόνες γυναικών και να τις ντύσει με μπικίνι, δημιουργώντας deepfakes που παράγονται από AI χωρίς κανένα μέτρο προστασίας.
Διαβάστε επίσης: Παραγγελία με κινητά Nokia φτάνει με 16 χρόνια καθυστέρηση – Δείτε την αντίδραση του καταστηματάρχη
Ποιες χώρες έχουν απαγορεύσει το Grok
Ινδονησία
Η Ινδονησία ήταν η πρώτη χώρα που μπλόκαρε προσωρινά το Grok για να προστατεύσει τις γυναίκες, τα παιδιά και το ευρύτερο κοινό από ψεύτικο πορνογραφικό περιεχόμενο που δημιουργείται με τη χρήση AI.
«Η κυβέρνηση θεωρεί τα σεξουαλικά deepfakes χωρίς συναίνεση ως σοβαρή παραβίαση των ανθρωπίνων δικαιωμάτων, της αξιοπρέπειας και της ασφάλειας των πολιτών στον ψηφιακό χώρο», δήλωσε σε ανακοίνωση το Σάββατο η υπουργός Επικοινωνιών και Ψηφιακών Υποθέσεων της Ινδονησίας, Meutya Hafid.
Οι περιορισμοί στο Grok αποτελούν «προληπτικό» μέτρο ενώ οι αρχές αξιολογούν αν η πλατφόρμα είναι ασφαλής, ανακοίνωσε η Εθνική Αστυνομία της Ινδονησίας.
Τα αρχικά ευρήματα έδειξαν ότι το Grok δεν διαθέτει αποτελεσματικές ασφαλιστικές δικλείδες για να αποτρέψει τη δημιουργία και διανομή πορνογραφικού περιεχομένου βάσει πραγματικών φωτογραφιών κατοίκων της Ινδονησίας, σύμφωνα με ανακοίνωση του Alexander Sabar, γενικού διευθυντή εποπτείας του ψηφιακού τομέα της χώρας.
Ο Sabar είπε ότι τέτοιες πρακτικές ενέχουν κίνδυνο παραβίασης της ιδιωτικότητας και των δικαιωμάτων επί της εικόνας όταν οι φωτογραφίες παραποιούνται ή κοινοποιούνται χωρίς συναίνεση, προκαλώντας ψυχολογική, κοινωνική και βλάβη στη φήμη.
Μαλαισία
Η Μαλαισιανή Επιτροπή Επικοινωνιών και Πολυμέσων (MCMC) διέταξε την Κυριακή προσωρινή απαγόρευση του Grok, έπειτα από αυτό που χαρακτήρισε «επαναλαμβανόμενη κατάχρηση» του εργαλείου για τη δημιουργία άσεμνων, σεξουαλικά ρητών και χωρίς συναίνεση παραποιημένων εικόνων.
Ο ρυθμιστής είπε ότι απέστειλε αυτόν τον μήνα δύο ειδοποιήσεις στην X και την xAI ζητώντας ισχυρότερες δικλείδες ασφαλείας. Στις απαντήσεις της, η X ανέφερε ότι το Grok βασίζεται κυρίως στους χρήστες για την υποβολή καταγγελιών σχετικά με καταχρηστικό περιεχόμενο.
Η MCMC κατέληξε ότι η X «απέτυχε να αντιμετωπίσει τους εγγενείς κινδύνους» στον σχεδιασμό και τη λειτουργία της πλατφόρμας AI της, κάτι που, όπως είπε, είναι ανεπαρκές σύμφωνα με το μαλαισιανό δίκαιο.
«Ο περιορισμός επιβάλλεται ως προληπτικό και αναλογικό μέτρο όσο βρίσκονται σε εξέλιξη οι νομικές και ρυθμιστικές διαδικασίες», ανέφερε, προσθέτοντας ότι η πρόσβαση θα παραμείνει μπλοκαρισμένη έως ότου τεθούν σε ισχύ αποτελεσματικές δικλείδες.
Πώς αντιδρούν άλλες χώρες;
Ευρωπαϊκή Ένωση
Η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι εξετάζει περιπτώσεις σεξουαλικά υπαινικτικών και ρητών εικόνων νεαρών κοριτσιών που δημιουργήθηκαν από το Grok.
«Μπορώ να επιβεβαιώσω από αυτό το βήμα ότι η Επιτροπή εξετάζει επίσης πολύ σοβαρά το ζήτημα», δήλωσε την περασμένη εβδομάδα σε δημοσιογράφους στις Βρυξέλλες εκπρόσωπος της Επιτροπής.
Το Reuters μετέδωσε ότι η Επιτροπή διέταξε την X να διατηρήσει όλα τα έγγραφα που σχετίζονται με το Grok έως το τέλος του έτους, ώστε η Ένωση να αξιολογήσει εάν συμμορφώνεται με τους κανόνες της ΕΕ.
Εκπρόσωπος της Επιτροπής είπε στο Reuters ότι αυτό δεν σημαίνει πως έχει ξεκινήσει επίσημη έρευνα.
Η Ούρσουλα φον ντερ Λάιεν, πρόεδρος της Ευρωπαϊκής Επιτροπής, δήλωσε σε συνέντευξή της στην ιταλική εφημερίδα Corriere della Sera ότι ήταν «αγανακτισμένη που μια τεχνολογική πλατφόρμα επιτρέπει στους χρήστες να γδύνουν ψηφιακά γυναίκες και παιδιά στο διαδίκτυο».
Χωρίς να κατονομάσει άμεσα την X ή το Grok, η φον ντερ Λάιεν είπε ότι η Επιτροπή «δεν θα αναθέσει την προστασία των παιδιών και τη συναίνεση στη Σίλικον Βάλεϊ. Αν δεν δράσουν εκείνοι, θα δράσουμε εμείς».
Ηνωμένο Βασίλειο
Η ρυθμιστική αρχή μέσων του Ηνωμένου Βασιλείου ξεκίνησε έρευνα για την X, τη μητρική εταιρεία της xAI, και την πλατφόρμα κοινωνικής δικτύωσης του Μασκ, σχετικά με τη χρήση του Grok για τη δημιουργία σεξουαλικά ρητών και χωρίς συναίνεση εικόνων.
Η Ofcom ανέφερε σε ανακοίνωσή της ότι υπήρξαν «εξαιρετικά ανησυχητικές αναφορές» πως το chatbot χρησιμοποιήθηκε για τη δημιουργία και κοινοποίηση γυμνών εικόνων ανθρώπων, καθώς και «σεξουαλικοποιημένων εικόνων παιδιών».
Η ρυθμιστική αρχή θα μπορούσε επίσης να ζητήσει δικαστική εντολή ώστε οι πάροχοι διαδικτύου να μπλοκάρουν την πρόσβαση στο Grok, εάν η X δεν συμμορφωθεί με τις απαιτήσεις της Ofcom.
Η X κινδυνεύει με πρόστιμο έως και 10% των παγκόσμιων εσόδων της ή 18 εκατ. λίρες (20 εκατ. ευρώ).
_«_Το περιεχόμενο που έχει κυκλοφορήσει στην X είναι αποκρουστικό. Δεν αποτελεί απλώς προσβολή για την ευπρεπή κοινωνία, είναι παράνομο», δήλωσε στο κοινοβούλιο η υπουργός Τεχνολογίας, Λιζ Κένταλ.
Γαλλία
Η Εισαγγελία του Παρισιού διεύρυνε στις αρχές Ιανουαρίου έρευνα για την X ώστε να συμπεριλάβει και το Grok. Η αρχική έρευνα, που βρίσκεται σε εξέλιξη από τον περασμένο Ιούλιο, εστίαζε σε ύποπτη οργανωμένη παρέμβαση στα πληροφοριακά συστήματα της X και στην παράνομη εξαγωγή δεδομένων.
Η απόφαση για διεύρυνση της έρευνας ελήφθη αυτή την εβδομάδα, αφού πέντε πολιτικοί κατηγόρησαν την πλατφόρμα ότι δημιουργεί και διαδίδει ψευδή βίντεο με σεξουαλικό περιεχόμενο με ανηλίκους.
Σύμφωνα με το δημοσίευμα, η Ρυθμιστική Αρχή Οπτικοακουστικών και Ψηφιακών Επικοινωνιών της Γαλλίας (Arcom) διερευνά πιθανές παραβιάσεις από την X του Νόμου για τις Ψηφιακές Υπηρεσίες, του ευρωπαϊκού κανονιστικού πλαισίου για τις ψηφιακές υπηρεσίες.
Ιταλία
Στις 8 Ιανουαρίου, η ιταλική Αρχή Προστασίας Δεδομένων (Garante) προειδοποίησε ότι όσοι χρησιμοποιούν το Grok ή άλλες πλατφόρμες AI για να αφαιρούν τα ρούχα από ανθρώπους, καθώς και όσοι διανέμουν αυτές τις εικόνες, διατρέχουν τον κίνδυνο ποινικών διώξεων.
Η χρήση των εργαλείων χωρίς την άδεια του εικονιζόμενου μπορεί να θεωρηθεί «σοβαρή παραβίαση των θεμελιωδών δικαιωμάτων και ελευθεριών των εμπλεκόμενων προσώπων», ανέφερε η Αρχή.
Η Αρχή υπενθύμισε επίσης στο Grok και σε άλλους παρόχους AI ότι οφείλουν να σχεδιάζουν, να αναπτύσσουν και να διαθέτουν προϊόντα που συμμορφώνονται με τους κανονισμούς περί απορρήτου.
Ο ιταλικός ρυθμιστής ανέφερε ότι συνεργάζεται με την Ιρλανδική Επιτροπή Προστασίας Δεδομένων, την αρμόδια αρχή για την προστασία της ιδιωτικότητας στην περίπτωση της X, καθώς τα κεντρικά της εταιρείας βρίσκονται στην Ιρλανδία.
Τον Οκτώβριο, η ιταλική αρχή μπλόκαρε το ClothOff, μια ακόμη πλατφόρμα τεχνητής νοημοσύνης που αφαιρεί ρούχα. Η πλατφόρμα επιτρέπει σε οποιονδήποτε, συμπεριλαμβανομένων ανηλίκων, να δημιουργεί φωτογραφίες και βίντεο που απεικονίζουν πραγματικούς ανθρώπους γυμνούς ή σε σεξουαλικές στάσεις.
Να σημειωθεί ότι τον περασμένο Σεπτέμβριο, η Ιταλία πρόσθεσε ένα νέο άρθρο στον ποινικό της κώδικα για να τιμωρεί με έως και πέντε χρόνια φυλάκισης όσους διακινούν deepfakes που δημιουργούνται από AI.
Γερμανία
Η Γερμανία δήλωσε ότι σύντομα θα παρουσιάσει μια «συγκεκριμένη πρόταση» για νέο νόμο κατά της ψηφιακής βίας. Η Άννα-Λένα Μπέκφελντ, εκπρόσωπος του γερμανικού υπουργείου Δικαιοσύνης, δήλωσε σε συνέντευξη Τύπου τον Ιανουάριο ότι ο υπό διαμόρφωση νόμος για την ψηφιακή βία θα αποτελέσει έναν τρόπο στήριξης των θυμάτων αυτού του «είδους ψηφιακής βίας», καθιστώντας «ευκολότερο για αυτά να κινηθούν άμεσα κατά παραβιάσεων των δικαιωμάτων τους στο διαδίκτυο».
Ερωτηθείσα ειδικά για το Grok, η Μπέκφελντ είπε ότι είναι «απαράδεκτο να χρησιμοποιούνται χειραγωγήσεις σε μεγάλη κλίμακα για συστηματικές παραβιάσεις των προσωπικών δικαιωμάτων».
«Γι’ αυτό θέλουμε να ληφθούν ισχυρότερα μέτρα εναντίον αυτού μέσω του ποινικού δικαίου», πρόσθεσε.
Το 2025, τα τρία βασικά κόμματα της Γερμανίας συμφώνησαν να μεταρρυθμίσουν το δίκαιο του κυβερνοεγκλήματος και να κλείσουν τα «παραθυράκια» στον ποινικό κώδικα για εγκλήματα που σχετίζονται με την τεχνητή νοημοσύνη, όπως οι σεξουαλικές εικόνες που δημιουργούνται από AI, σύμφωνα με τη συμφωνία συνασπισμού.
Αυστραλία
Τον Ιανουάριο, το γραφείο του Επιτρόπου eSafety της Αυστραλίας ανέφερε ότι είχε λάβει μικρό αλλά αυξανόμενο αριθμό αναφορών τις τελευταίες εβδομάδες σχετικά με το σεξουαλικό περιεχόμενο AI του Grok.
Το γραφείο του επιτρόπου ανέφερε ότι θα κάνει χρήση των αρμοδιοτήτων του, όπως μια ειδοποίηση αφαίρεσης, που μπορεί να διατάξει ιστότοπο κοινωνικής δικτύωσης να κατεβάσει προβληματικό περιεχόμενο, εάν κάποιο από αυτό παραβιάζει τον Νόμο για την Ηλεκτρονική Ασφάλεια της χώρας.
Το γραφείο έχει ήδη ζητήσει περισσότερες πληροφορίες από την X σχετικά με την κατάχρηση της σεξουαλικής υπηρεσίας του Grok και για να αξιολογήσει αν συμμορφώνεται με τον νέο νόμο της Αυστραλίας για τα μέσα κοινωνικής δικτύωσης.
Υπενθύμισε επίσης στο Grok ότι, από τις 9 Μαρτίου, οι διαδικτυακές υπηρεσίες, συμπεριλαμβανομένων των εταιρειών AI, θα πρέπει να μπλοκάρουν την πρόσβαση των παιδιών σε σεξουαλικό, βίαιο ή επιβλαβές περιεχόμενο.
