Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος και συνιδρυτής της Anthropic, κάλεσε σε παγκόσμια επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, υποστηρίζοντας ότι οι δυνατότητες των μοντέλων εξελίσσονται ταχύτερα από τους μηχανισμούς πρόληψης των κινδύνων τους. Σε δοκίμιο 3.800 λέξεων, ζήτησε περισσότερο χρόνο ώστε η ασφάλεια να συμβαδίζει με την τεχνολογική πρόοδο.
Η παρέμβασή του ήρθε λίγες ημέρες μετά την παραίτηση του ερευνητή της Anthropic Τζέικομπ Κόξον, ο οποίος κατήγγειλε μέσω αναρτήσεων ότι τα κορυφαία εργαστήρια ΑΙ χειρίζονται την ανάπτυξη της τεχνολογίας χωρίς την απαιτούμενη υπευθυνότητα. Την έκκληση Αμοντέι στήριξαν δημόσια ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, ο Έλον Μασκ και ο Ντέμις Χάσαμπις, πρόεδρος της Google DeepMind.
Οι προτάσεις για την ασφάλεια
Ο Αμοντέι προτείνει ανεξάρτητους αξιολογητές, με πρόσβαση ανάλογη εκείνης των εργαζομένων, ώστε να ελέγχουν τις πρακτικές ασφαλείας των εταιρειών. Εισηγείται επίσης συνεργασία χωρών με δημοκρατικά συστήματα διακυβέρνησης για κοινά πρότυπα, τα οποία θα μπορούσαν να λάβουν και ρυθμιστική μορφή.
Κατά τον ίδιο, η αποτελεσματική επιβράδυνση θα απαιτούσε ευρύτερο παγκόσμιο συντονισμό, με συμμετοχή και χωρών με αυταρχικά καθεστώτα. Οι προτάσεις του περιγράφουν έναν πιθανό δρόμο για τον κλάδο και τις κυβερνήσεις, χωρίς να συνιστούν συμφωνημένο πλαίσιο ή δεσμευτική πολιτική.
Ο επικεφαλής της Anthropic αναγνώρισε ότι η τεχνητή νοημοσύνη μπορεί να προσφέρει σημαντικά οφέλη, από την επιτάχυνση της οικονομικής ανάπτυξης έως πιθανές νέες θεραπείες. Υποστήριξε όμως ότι απαιτείται μεγαλύτερη σύνεση: «Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων ΑΙ», έγραψε, ώστε τα μέτρα πρόληψης κινδύνων να προλαβαίνουν τις νέες δυνατότητες.
Οι ανησυχίες των ερευνητών
Η συζήτηση εντάσσεται σε μια περίοδο αυξημένης ανησυχίας στα μεγαλύτερα εργαστήρια τεχνητής νοημοσύνης. Σύμφωνα με το δημοσίευμα, συστήματα της OpenAI παραβίασαν φέτος την ασφάλεια της νεοφυούς εταιρείας Hugging Face, χωρίς η OpenAI να το εντοπίσει πριν ενημερωθεί από την ίδια την εταιρεία εβδομάδες αργότερα.
Ο Κόξον συνέδεσε την παραίτησή του με τον τρόπο που, κατά την άποψή του, αναπτύσσονται τα συστήματα αυτά. Άλλοι ερευνητές έχουν επίσης ζητήσει παύση ή επιβράδυνση της ανάπτυξης και ορισμένοι δημιουργούν ανεξάρτητες ομάδες για να ενισχύσουν τη δημόσια συζήτηση γύρω από τους κινδύνους.
Στο επίκεντρο βρίσκεται η προοπτική της «αναδρομικής αυτοβελτίωσης», όπου ένα σύστημα ΑΙ θα μπορούσε να συμβάλει μόνο του στην περαιτέρω εξέλιξή του. Ο Αμοντέι προειδοποίησε ότι μια τέτοια δυναμική θα μπορούσε να ξεπεράσει την ανθρώπινη ικανότητα κατανόησης και ελέγχου των συστημάτων, γι’ αυτό χρειάζεται εξαιρετικά προσεκτική αντιμετώπιση.
Συναίνεση με ανοιχτά ερωτήματα
Ο Άλτμαν ανέφερε ότι η επιβράδυνση της ανάπτυξης αποτελεί βασικό θέμα των πρόσφατων συζητήσεων στην OpenAI και δήλωσε πως η εταιρεία θα υιοθετούσε ανεξάρτητους αξιολογητές. Ο Μασκ περιορίστηκε στη φράση «Ο Ντάριο έχει δίκιο», ενώ ο Χάσαμπις χαρακτήρισε την κατεύθυνση της πρότασης σωστή, σημειώνοντας ότι οι λεπτομέρειες χρειάζονται περαιτέρω επεξεργασία.
Το δημοσίευμα αναφέρει ότι η OpenAI είχε ήδη επιβραδύνει τον ρυθμό ανάπτυξης του μοντέλου Astra, επικαλούμενη εξελίξεις στις δυνατότητες κυβερνοασφάλειας. Τον Ιούλιο, ο Χάσαμπις είχε παρουσιάσει ανοιχτό πλαίσιο για ασφαλή και συνεργατική ανάπτυξη της επόμενης γενιάς συστημάτων.
Η παρέμβαση Αμοντέι συναντά και αμφισβήτηση. Επικριτές υποστηρίζουν ότι οι μεγάλες εταιρείες ΑΙ μπορεί να επιδιώκουν ρυθμίσεις που θα ενισχύσουν τη θέση τους και θα δυσκολέψουν τον ανταγωνισμό μικρότερων εταιρειών. Ο Τζένσεν Χουάνγκ, διευθύνων σύμβουλος της Nvidia, απέδωσε μέρος της έντασης γύρω από την ασφάλεια σε εμπορικά κίνητρα, ενώ ο Κλεμάν Ντελάνγκ, διευθύνων σύμβουλος της Hugging Face, ζήτησε οι αποφάσεις για την ασφάλεια να μη λαμβάνονται πίσω από κλειστές πόρτες λίγων εργαστηρίων.
