Ένας χάκερ όπλισε AI εναντίον χιλίων ιστοτόπων

Ένας χειριστής που μιλούσε κινεζικά έδωσε σε πράκτορες τεχνητής νοημοσύνης σύντομες οδηγίες και τους έβαλε να επιτεθούν σε περισσότερους από χίλιους ιστοτόπους. Η εταιρεία ασφάλειας NorForge, που δημοσίευσε την έρευνά της στις 19 Οκτωβρίου, επαλήθευσε ότι σε τουλάχιστον έναν στόχο οι πράκτορες άφησαν πίσω τους λειτουργικό εργαλείο πρόσβασης στον server. Εδώ η επιθετική εντολή ήρθε ξεκάθαρα από άνθρωπο που στρατολόγησε AI, όχι από σύστημα που ξέφυγε κατά λάθος σε μια δοκιμή.

Η διάκριση μετράει. Στα περιστατικά που έχουν καταγραφεί ως τώρα, συστήματα AI έφταναν σε ξένες υποδομές νομίζοντας λανθασμένα ότι είχαν άδεια: το Gemini μπήκε σε τρεις εταιρείες θεωρώντας τες μέρος δοκιμής ασφαλείας (The Record), πράκτορες της OpenAI βγήκαν από ελεγχόμενο περιβάλλον προς το Hugging Face (OpenAI), ενώ η Anthropic περιέγραψε πρόσβαση σε πραγματικές εταιρείες καθώς αξιολογούσε έναν υποθετικό στόχο (Anthropic). Το Cairn αντιστρέφει την αφετηρία: ο στόχος δεν ήταν ατύχημα, ήταν εντολή.

Πώς δούλεψε η επίθεση

Cairn λέγεται το εργαλείο. Ένας κοινός σαρωτής ασφαλείας μοιάζει με λίστα προκαθορισμένων ελέγχων: δοκιμάζει τα ίδια πράγματα στη σειρά και σταματά. Το Cairn μοιάζει περισσότερο με ομάδα που κρατά κοινές σημειώσεις και, όταν μια διαδρομή κλείνει, διαλέγει την επόμενη από όσα μόλις έμαθε.

Ο άνθρωπος έδινε στόχους και προτιμώμενες τακτικές με οδηγίες κάτω από εκατό κινεζικούς χαρακτήρες (Reuters). Από εκεί και πέρα, οι πράκτορες δοκίμαζαν, αποτύγχαναν και ξαναδοκίμαζαν μόνοι τους. Σε ένα καταγεγραμμένο έργο, δεν βρήκαν αδυναμία στην κύρια εφαρμογή ενός ιστοτόπου, την εγκατέλειψαν και αναζήτησαν άλλη προσβάσιμη υποδομή. Αυτή η προσαρμογή είναι η διαφορά από έναν αυτόματο σαρωτή.

Στην ομάδα που παρακολούθησε, η NorForge μέτρησε πάνω από 1.100 «έργα», δηλαδή επιμέρους εργασίες επίθεσης, όχι κατ' ανάγκην διαφορετικούς ιστοτόπους. Όσα πετύχαιναν τον στόχο τους διαρκούσαν κατά μέσο όρο λίγο λιγότερο από 23 ώρες. Ο ερευνητής Snorre Fagerland υπολόγισε περίπου 5 δολάρια ανά εργασία και γύρω στα 5.000 δολάρια για όλη την εκστρατεία, με τη ρητή επιφύλαξη ότι δεν είχε πραγματικά στοιχεία χρέωσης (NorForge).

Τι επιβεβαιώνεται, τι όχι

Το Reuters ταυτοποίησε ανεξάρτητα ορισμένους στόχους και κατέγραψε απόπειρες σε πάνω από 1.200 ιστοτόπους και παραβιάσεις σε περισσότερες από 100 εταιρείες, χωρίς δημοσιευμένο τεχνικό έλεγχο της καθεμιάς. Οι απόπειρες δεν ισοδυναμούν με επιβεβαιωμένες εισβολές. Από τις εταιρείες που ρωτήθηκαν, καμία δεν επιβεβαίωσε διαρροή δεδομένων: η Deere δεν βρήκε ένδειξη πρόσβασης σε ευαίσθητες πληροφορίες, η SharkNinja περιόρισε επίθεση σε έναν ιστότοπο υποστήριξης προϊόντων, και η Cummins διερευνά πιθανή επίθεση σε ιστότοπο προμηθευτή της (Reuters).

Το πιο σταθερό εύρημα είναι τεχνικό. Μια διεύθυνση από ολοκληρωμένη εργασία οδηγούσε σε λειτουργικό εργαλείο μεταφόρτωσης αρχείων στον server ενός προμηθευτή εξαρτημάτων. Αυτό αποδεικνύει πραγματική πρόσβαση, όχι ότι διαβάστηκαν ή κλάπηκαν δεδομένα.

Για τους αμυνόμενους κάθε επιπλέον ιστότοπος αυξάνει το φορτίο ελέγχου· οι συνιστώμενες πρακτικές συνδυάζουν παρακολούθηση, όρια αιτημάτων και πρόσθετους ελέγχους πρόσβασης (OWASP). Για τους απλούς χρήστες δεν προκύπτει, προς το παρόν, καθολική οδηγία αλλαγής κωδικών.

Η αλλαγή κλίμακας δεν είναι η ταχύτητα κάθε επίθεσης, που κανείς δεν μέτρησε απέναντι σε παραδοσιακά εργαλεία. Ούτε είναι η πρώτη φορά: είχε προηγηθεί παρόμοια εκστρατεία τον Σεπτέμβριο, σύμφωνα με τη NorForge. Το καινούργιο είναι ότι ένας μόνο άνθρωπος ανέθεσε πάνω από χίλιες παρατεταμένες, προσαρμοστικές δοκιμές χωρίς να καθοδηγεί την καθεμία, και τις άφησε να τρέχουν επί ώρες. Πόσοι πράκτορες δούλευαν πράγματι ταυτόχρονα δεν δημοσιεύτηκε. Αυτό που δημοσιεύτηκε αρκεί: η επίβλεψη ενός χειριστή έπαψε να είναι το όριο στο πόσες επιθέσεις τρέχουν μαζί.