Η τεχνητή νοημοσύνη γίνεται ολοένα και πιο ισχυρή, αλλά μαζί με τις δυνατότητές της αυξάνονται και οι κίνδυνοι ασφαλείας. Σε αυτό το πλαίσιο, η OpenAI ανακοίνωσε το νέο «Lockdown Mode» για το ChatGPT, μια λειτουργία που έχει σχεδιαστεί για χρήστες και οργανισμούς που διαχειρίζονται ιδιαίτερα ευαίσθητα δεδομένα και θέλουν να μειώσουν τους κινδύνους από επιθέσεις τύπου prompt injection.
Οι επιθέσεις prompt injection θεωρούνται μία από τις μεγαλύτερες προκλήσεις στη νέα εποχή των AI συστημάτων. Πρόκειται για περιπτώσεις όπου κακόβουλες οδηγίες ενσωματώνονται σε ιστοσελίδες, αρχεία ή άλλο περιεχόμενο που επεξεργάζεται ένα chatbot ή ένας AI agent. Στόχος είναι να παραπλανηθεί το μοντέλο ώστε να αποκαλύψει πληροφορίες, να εκτελέσει ανεπιθύμητες ενέργειες ή να επηρεαστεί η συμπεριφορά του.
Η νέα λειτουργία Lockdown Mode λειτουργεί ως ένα είδος «ψηφιακού ασφαλούς δωματίου». Όταν είναι ενεργοποιημένη, περιορίζει σημαντικά τις δυνατότητες του ChatGPT, αποτρέποντας κάθε λειτουργία που θα μπορούσε να αυξήσει την επιφάνεια επίθεσης.
Συγκεκριμένα, το ChatGPT σε Lockdown Mode δεν μπορεί να περιηγηθεί στο διαδίκτυο, να πραγματοποιήσει λειτουργίες Deep Research, να λειτουργήσει ως AI agent, να κατεβάσει αρχεία ή να αλληλεπιδράσει με άλλα εργαλεία και υπηρεσίες που επεκτείνουν τις δυνατότητές του πέρα από μια απλή συνομιλία. Επιπλέον, περιορίζεται και η εμφάνιση εικόνων στις απαντήσεις του, αν και οι χρήστες εξακολουθούν να μπορούν να ανεβάζουν ή να δημιουργούν εικόνες.
Η OpenAI διευκρινίζει ότι η λειτουργία δεν προορίζεται για όλους τους χρήστες. Αντίθετα, απευθύνεται κυρίως σε επιχειρήσεις, νομικά γραφεία, ερευνητικούς οργανισμούς και επαγγελματίες που διαχειρίζονται δεδομένα υψηλής ευαισθησίας και επιθυμούν ένα επιπλέον επίπεδο προστασίας.
Η εμφάνιση ενός τέτοιου χαρακτηριστικού στο ChatGPT υπογραμμίζει πόσο σοβαρά αντιμετωπίζει πλέον η βιομηχανία της τεχνητής νοημοσύνης το ζήτημα της ασφάλειας. Καθώς τα AI εργαλεία αποκτούν πρόσβαση σε περισσότερες πληροφορίες και περισσότερες λειτουργίες, αυξάνεται και η ανάγκη για μηχανισμούς προστασίας απέναντι σε νέες μορφές κυβερνοεπιθέσεων.
Παράλληλα, η συζήτηση για το κατά πόσο ευαίσθητα προσωπικά ή επαγγελματικά δεδομένα θα πρέπει να εισάγονται σε συστήματα τεχνητής νοημοσύνης παραμένει ανοιχτή. Για πολλούς ειδικούς, η καλύτερη άμυνα εξακολουθεί να είναι η προσεκτική διαχείριση των δεδομένων, ανεξάρτητα από τα επίπεδα προστασίας που προσφέρουν οι πλατφόρμες AI.
