Η επιστολή επιβολής της κυβέρνησης των ΗΠΑ προς την Anthropic, η οποία ουσιαστικά ανάγκασε την εταιρεία να αποσύρει offline τα πιο πρόσφατα μοντέλα AI της λίγο πριν το Σαββατοκύριακο, θα έπρεπε να λειτουργήσει ως καμπανάκι για κάθε αμερικανική τεχνολογική εταιρεία — είτε είναι εργαστήριο AI είτε όχι.
Για να σας βάλω στο κλίμα του καταιγισμού ειδήσεων: Το απόγευμα της Παρασκευής, το Υπουργείο Εμπορίου των ΗΠΑ έστειλε στην Anthropic επιστολή επικαλούμενο μια ασαφή οδηγία ελέγχου εξαγωγών, που απαγόρευε σε μη Αμερικανούς, συμπεριλαμβανομένων εργαζομένων της Anthropic, να έχουν πρόσβαση στα Fable 5 και Mythos 5, επικαλούμενο μια μη διευκρινισμένη ανησυχία εθνικής ασφάλειας. Η Anthropic είπε ότι πιστεύει πως η επιστολή σχετίζεται με παράκαμψη των προστατευτικών μηχανισμών (guardrails) του μοντέλου, αλλά δεν είναι σίγουρη, επειδή η επιστολή δεν παρέχει συγκεκριμένες λεπτομέρειες. Η επιστολή δεν έχει δημοσιοποιηθεί.
Σε απάντηση, η Anthropic έκλεισε και τα δύο κορυφαία της μοντέλα για όλους τους πελάτες, ώστε να διασφαλίσει ότι συμμορφώνεται με την οδηγία. Το αποτέλεσμα ήταν ότι η κυβέρνηση των ΗΠΑ κατάφερε να αναγκάσει μια τεχνολογική εταιρεία να αποσύρει τα μοντέλα της offline με μια γρήγορη και μονομερή ενέργεια που δεν φάνηκε να απαιτεί έγκριση δικαστηρίου.
Η παρέμβαση της Παρασκευής από την κυβέρνηση Τραμπ δείχνει ότι ο κλάδος της τεχνητής νοημοσύνης δεν είναι απρόσβλητος από κυβερνητικές παρεμβάσεις. Είναι επίσης προειδοποίηση προς την ευρύτερη τεχνολογική βιομηχανία: συμμορφωθείτε, αλλιώς μπορούμε να κλείσουμε εσάς και τα προϊόντα σας.
Επικαλούμενο πηγές, το Axios περιέγραψε μια τεταμένη κατάσταση το Σαββατοκύριακο μεταξύ των δύο μεγάλων παικτών, λέγοντας ότι οι «διαφορές προσωπικότητας» μεταξύ της Anthropic και της κυβέρνησης Τραμπ οδήγησαν στην οδηγία εξαγωγών, και όχι κάποιο τεχνικό ζήτημα με τα προϊόντα AI.
Νέες λεπτομέρειες για το θέμα που προέκυψαν μέσα στο Σαββατοκύριακο δημιουργούν τώρα ακόμη περισσότερες αμφιβολίες για το ήδη σαθρό σκεπτικό της κυβέρνησης.
Η Katie Moussouris, βετεράνος της κυβερνοασφάλειας και ερευνήτρια που ίδρυσε τη Luta Security, ανέφερε σε ανάρτηση στο blog της ότι η Anthropic μοιράστηκε πρόσφατα μαζί της ένα ιδιωτικό αντίγραφο μιας εργασίας γραμμένης από ερευνητές ασφάλειας που περιγράφει μια φερόμενη παράκαμψη guardrail στο Fable 5. (Η Wall Street Journal αναφέρει ότι οι συγγραφείς της εργασίας είναι ερευνητές ασφάλειας στην Amazon.) Η Moussouris είπε ότι η Anthropic επικοινώνησε μαζί της για να ζητήσει την άποψή της σχετικά με την εργασία.
Η ανάρτηση της Moussouris περιέγραψε πώς οι ερευνητές ενεργοποίησαν την παράκαμψη guardrail, αλλά είπε ότι η ίδια η παράκαμψη «δεν θα έπρεπε ποτέ να έχει ενεργοποιήσει έλεγχο εξαγωγών». Η διαφορά είναι σε μεγάλο βαθμό ανάμεσα στο να ζητά κανείς από ένα μοντέλο AI να «ελέγξει κώδικα για ζητήματα ασφάλειας» έναντι του να του ζητά «διόρθωσε αυτόν τον κώδικα». Το τελικό αποτέλεσμα είναι σε μεγάλο βαθμό το ίδιο, ακόμη κι αν οι ερωτήσεις διατυπώνονται ελαφρώς διαφορετικά.
«Η συμπεριφορά που περιγράφεται στην εργασία δεν μπορεί ουσιαστικά να διορθωθεί, και οποιαδήποτε προσπάθεια θα αποδυνάμωνε μόνο το μοντέλο για αμυντικούς σκοπούς», είπε η Moussouris, η οποία χαρακτήρισε την οδηγία ελέγχου εξαγωγών βιαστική, βαριά και λανθασμένη.
Η Moussouris και δεκάδες άλλοι κορυφαίοι ερευνητές και ειδικοί ασφάλειας έχουν έκτοτε καλέσει την κυβέρνηση Τραμπ να ανακαλέσει την εντολή ελέγχου εξαγωγών, χαρακτηρίζοντας την κίνηση να αποσυρθούν προηγμένες δυνατότητες κυβερνοασφάλειας από τους υπερασπιστές δικτύων στις ΗΠΑ ως «επικίνδυνη».
Προηγούμενες κυβερνήσεις έχουν λάβει σαρωτικές αποφάσεις σχετικά με κενά γνώσης. Για παράδειγμα, η γλώσσα που χρησιμοποιήθηκε από την κυβέρνηση των ΗΠΑ στη δεκαετία του 2010 για να διορθώσει τον εξαγωγικό νόμο που κάλυπτε εργαλεία κυβερνοασφάλειας τα οποία θα μπορούσαν επίσης να χρησιμοποιηθούν για κυβερνοεπιθέσεις ήταν τόσο ευρεία που, άθελά της, παραλίγο να θέσει εκτός νόμου τη νόμιμη έρευνα ασφάλειας και ευπαθειών.
Ωστόσο, η οδηγία της κυβέρνησης Τραμπ φαίνεται αντίποινα.
Ο Justin Hendrix, αρχισυντάκτης του Tech Policy Press, είπε ότι η κίνηση της κυβέρνησης Τραμπ είναι «πιθανό να σημάνει συναγερμό σε ξένες πρωτεύουσες σχετικά με την αξιοπιστία της αμερικανικής AI για κρίσιμες εφαρμογές». Το μήνυμα είναι ότι οι εταιρείες AI στις Ηνωμένες Πολιτείες δεν μπορούν να θεωρηθούν αξιόπιστες να λειτουργούν χωρίς παρεμβάσεις από την κυβέρνηση των ΗΠΑ.
Η κυβέρνηση Τραμπ δεν έχει επιβεβαιώσει γιατί ενεργοποίησε την οδηγία ελέγχου εξαγωγών. Μήπως οι αξιωματούχοι διάβασαν λάθος την αναφορά και πανικοβλήθηκαν; Μήπως ο CEO της Amazon Andy Jassy είπε κάτι σε ανώτερους κυβερνητικούς αξιωματούχους που προκάλεσε την αντίδραση, από προσοχή ή από κακία; Μήπως κάτι χάθηκε στη μετάφραση, ή ήταν ένας τρόπος να πιεστεί η Anthropic, με την οποία η κυβέρνηση έχει ήδη μια ταραχώδη σχέση; Είναι πιθανό ότι ο Λευκός Οίκος αγνοούσε τις εκτεταμένες συνέπειες της απαίτησης της επιστολής και ότι οι αξιωματούχοι τώρα τρέχουν να αναιρέσουν τη ζημιά που οι ίδιοι προκάλεσαν.
Για να παραθέσουμε τον Hendrix, «το κλίμα είναι ένα νέφος καχυποψίας ότι ανώτεροι αξιωματούχοι διαλέγουν αγαπημένους με βάση προσωπικούς και πολιτικούς παράγοντες». Το αποτέλεσμα είναι ότι η κυβέρνηση έθεσε ένα επικίνδυνο προηγούμενο για το πόσο έλεγχο σκοπεύει να ασκήσει στην κυκλοφορία αμερικανικού λογισμικού.
Αυτή τη φορά η κυβέρνηση έβαλε στο στόχαστρο την Anthropic· αύριο θα μπορούσε να είναι οποιοσδήποτε άλλος.
Comments