Πώς ο Λευκός Οίκος πάγωσε τα πιο ισχυρά μοντέλα AI της Anthropic μέσα σε 24 ώρες
Λευκός Οίκος και Anthropic βρέθηκαν στο επίκεντρο έντονης διαμάχης σχετικά με τα νέα μοντέλα τεχνητής νοημοσύνης, έπειτα από μια σειρά τεταμένων τηλεφωνικών συνομιλιών την Παρασκευή (12/6). Οι επαφές του διευθύνοντος συμβούλου της εταιρείας με κυβερνητικούς αξιωματούχους ανέδειξαν τον τρόπο με τον οποίο η αμερικανική κυβέρνηση επιχειρεί να διαχειριστεί τα ολοένα πιο προηγμένα συστήματα AI.
Η απόφαση του Λευκού Οίκου να εκδώσει οδηγία ελέγχου εξαγωγών ελήφθη μετά από ένα πυρετώδες 24ωρο διαβουλεύσεων. Ανώτεροι κυβερνητικοί αξιωματούχοι προσπάθησαν να πείσουν την Anthropic να αποσύρει δύο από τα μοντέλα της, επικαλούμενοι ανησυχίες για την εθνική ασφάλεια, όπως μετέδωσε το Politico, επικαλούμενο τρεις ανώνυμες κυβερνητικές πηγές.
Η κίνηση αυτή, που ακολούθησε πολλαπλές συνομιλίες μεταξύ του CEO Ντάριο Αμοντέι και αξιωματούχων, δείχνει την προσπάθεια του Λευκού Οίκου να ρυθμίσει τα ταχέως εξελισσόμενα και δυνητικά επικίνδυνα μοντέλα AI. Οι λεπτομέρειες αυτών των συζητήσεων δεν είχαν δημοσιοποιηθεί μέχρι σήμερα.
Ανησυχίες για την ασφάλεια των μοντέλων
Η Ουάσιγκτον επέβαλε περιορισμούς στην πρόσβαση στο προηγμένο μοντέλο Fable λίγες ημέρες μετά την κυκλοφορία του. Αν και η Anthropic είχε διαβεβαιώσει ότι το σύστημα ήταν ασφαλές, κυβερνητικοί αξιωματούχοι εξέφρασαν αμφιβολίες σχετικά με την αποτελεσματικότητα των ενσωματωμένων δικλίδων προστασίας.
Ειδικοί προειδοποιούν ότι τα μοντέλα της κατηγορίας Mythos θα μπορούσαν, εάν χρησιμοποιηθούν κακόβουλα, να ενισχύσουν σύνθετες κυβερνοεπιθέσεις σε κρίσιμους τομείς όπως οι τράπεζες και οι χρηματοπιστωτικές υπηρεσίες.
Δύο ημέρες μετά τη διάθεση του μοντέλου, ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, ενημέρωσε τον Λευκό Οίκο για πιθανά προβλήματα ασφαλείας. Η Amazon, επενδύτρια στην Anthropic, ανταποκρινόταν σε αίτημα της κυβέρνησης για αξιολόγηση, σύμφωνα με πηγές που επικαλείται το Politico. Το ζήτημα έφτασε γρήγορα στα ανώτατα κλιμάκια της αμερικανικής διοίκησης.
Οι κρίσιμες τηλεδιασκέψεις
Ο διευθυντής Κυβερνοασφάλειας του Λευκού Οίκου Σον Κέρνκρος, η προσωπάρχης Σούζι Γουάιλς και άλλοι αξιωματούχοι συναντήθηκαν για να εξετάσουν το θέμα. Ο υπουργός Οικονομικών Σκοτ Μπέσεντ συμμετείχε εξ αποστάσεως. Όταν επιχείρησαν να επικοινωνήσουν με τον Αμοντέι, ενημερώθηκαν ότι δεν ήταν διαθέσιμος λόγω συμμετοχής του σε πρόγραμμα ευεξίας, κάτι που η Anthropic χαρακτήρισε «απολύτως ψευδές».
Τελικά, ο Αμοντέι συμμετείχε σε τρεις τηλεδιασκέψεις με έξι ανώτερους αξιωματούχους, μεταξύ των οποίων οι Κέρνκρος, Μπέσεντ και ο υπουργός Εμπορίου Χάουαρντ Λάτνικ. Κατά τη διάρκεια των συνομιλιών, υπερασπίστηκε τις δικλίδες ασφαλείας του μοντέλου και υποστήριξε ότι η αναφερόμενη παράκαμψη δεν συνιστούσε γενικευμένο «jailbreak».
Η αντίδραση της Anthropic
Σε ανάρτησή της μετά την κυβερνητική εντολή, η εταιρεία ανέφερε πως κανένας δοκιμαστής δεν είχε εντοπίσει «καθολική μέθοδο jailbreak» που να παρακάμπτει συνολικά τις δικλίδες ασφαλείας. Παράλληλα, σημείωσε ότι καμία εταιρεία του κλάδου δεν μπορεί να αποτρέψει πλήρως κάθε πιθανή μέθοδο παράκαμψης.
Ωστόσο, σύμφωνα με αξιωματούχο του Λευκού Οίκου, η Υπηρεσία Εθνικής Ασφάλειας (NSA) θεώρησε επαρκή τα ευρήματα της Amazon. Οι Κέρνκρος και Μπέσεντ κάλεσαν την Anthropic να αποσύρει οικειοθελώς το μοντέλο, όμως ο Αμοντέι ζήτησε περισσότερο χρόνο χωρίς να δεσμευθεί. Ο Μπέσεντ φέρεται να του είπε πως «παίρνει λάθος απόφαση».
Η κυβερνητική παρέμβαση
Λίγο αργότερα, η κυβέρνηση Τραμπ επέβαλε περιορισμούς στα μοντέλα Fable 5 και Mythos 5 για λόγους εθνικής ασφάλειας, απαγορεύοντας τη χρήση τους από αλλοδαπούς υπηκόους. Η Anthropic απενεργοποίησε άμεσα τα μοντέλα για όλους τους πελάτες της ώστε να διασφαλίσει τη συμμόρφωση.
Πηγή κοντά στην εταιρεία δήλωσε ότι ο Λευκός Οίκος έδωσε διορία μόλις 90 λεπτών για την απόσυρση των μοντέλων χωρίς να προσφέρει λεπτομέρειες για την απειλή. Κυβερνητικοί αξιωματούχοι, ωστόσο, υποστήριξαν ότι δεν κατανοούσαν γιατί η εταιρεία δεν αποδέχθηκε μια προσωρινή απόσυρση.
Άλλες εταιρείες τεχνολογίας φέρονται επίσης να εξέφρασαν ανησυχίες για τα μοντέλα της Anthropic. «Εάν η εταιρεία είχε αναστείλει την πρόσβαση και είχε προβεί σε διορθώσεις, αυτό δεν θα είχε συμβεί ποτέ», δήλωσε χαρακτηριστικά πρόσωπο με γνώση των συζητήσεων.
«Δυσανάλογη αντίδραση»
Η Anthropic επέμεινε ότι η παράκαμψη δεν συνιστούσε κατάρρευση των συστημάτων ασφαλείας του Fable 5 και πως είχε συνεργαστεί με την κυβέρνηση πριν από την κυκλοφορία του μοντέλου. Όπως τόνισε, δεν είχαν εκφραστεί αντιρρήσεις τότε.
Σε μεταγενέστερη ανάρτηση, η εταιρεία δήλωσε ότι συμμορφώνεται με την κυβερνητική εντολή, χαρακτηρίζοντας ωστόσο το μέτρο «δυσανάλογο». «Πιστεύουμε ότι η κυβέρνηση πρέπει να εμποδίζει τη μη ασφαλή ανάπτυξη της τεχνητής νοημοσύνης μέσα από μια διαδικασία διαφανή, δίκαιη και βασισμένη σε τεχνικά δεδομένα. Η συγκεκριμένη ενέργεια δεν ανταποκρίνεται σε αυτές τις αρχές», ανέφερε.
Η υπόθεση αναδεικνύει την αυξανόμενη ένταση ανάμεσα στις εταιρείες τεχνητής νοημοσύνης και τις ρυθμιστικές αρχές, σχετικά με το πώς πρέπει να αξιολογούνται οι κίνδυνοι που προκύπτουν από τις τεχνικές παράκαμψης των μηχανισμών ασφαλείας.