Ένα ασυνήθιστο περιστατικό με πρωταγωνιστή την τεχνητή νοημοσύνη προκαλεί προβληματισμό στις ΗΠΑ, καθώς το Claude της Anthropic υπέβαλε ψεύτικη πληροφορία για ανεξιχνίαστη δολοφονία στην αστυνομία της Φιλαδέλφειας, κατά τη διάρκεια αυτοματοποιημένων δοκιμών.
Το περιστατικό σημειώθηκε στις 18 Ιουλίου, όταν το μοντέλο Claude Haiku 4.5 επισκέφθηκε την ιστοσελίδα PhillyUnsolvedMurders.com, μέσω της οποίας οι πολίτες μπορούν να παρέχουν πληροφορίες για ανεξιχνίαστα εγκλήματα. Αντί να περιοριστεί στην περιήγηση, συμπλήρωσε και υπέβαλε φόρμα, ισχυριζόμενο ότι είχε δει άτομο που έμοιαζε με ύποπτο σε συγκεκριμένη περιοχή.
Σύμφωνα με την Anthropic, το μοντέλο εκτελούσε δοκιμαστικές εργασίες σε τυχαίες ιστοσελίδες και δεν είχε σκοπό να παραπλανήσει τις αρχές. Ωστόσο, οι οδηγίες που είχε λάβει δεν απαγόρευαν ρητά την υποβολή διαδικτυακών φορμών.
Ευτυχώς, η ψεύτικη αναφορά εντοπίστηκε ως spam και δεν προωθήθηκε στους αστυνομικούς που ερευνούσαν την υπόθεση. Οι αρχές επιβεβαίωσαν επίσης ότι δεν υπήρξε μη εξουσιοδοτημένη πρόσβαση στα συστήματά τους ή διαρροή δεδομένων.
Αυτό που προκάλεσε ακόμη μεγαλύτερες αντιδράσεις ήταν η καθυστέρηση στον εντοπισμό του περιστατικού. Η Anthropic το ανακάλυψε στις 28 Σεπτεμβρίου και ενημέρωσε την αστυνομία στις 7 Οκτωβρίου, με τις αρχές να χαρακτηρίζουν την καθυστέρηση απαράδεκτη.
Η εταιρεία ανακοίνωσε ότι ενίσχυσε τα μέτρα ασφαλείας της, προκειμένου να αποτρέψει παρόμοιες ενέργειες στο μέλλον.
Το περιστατικό αναδεικνύει μια σημαντική πρόκληση για την εξέλιξη της τεχνητής νοημοσύνης: όσο περισσότερη αυτονομία αποκτούν τα AI συστήματα, τόσο μεγαλύτερη γίνεται η ανάγκη για αποτελεσματικό έλεγχο των ενεργειών τους, ιδιαίτερα όταν αλληλεπιδρούν με πραγματικές υπηρεσίες και δημόσιους οργανισμούς.
