Newsroom Νέες ανησυχίες για την ασφάλεια των πλέον προηγμένων συστημάτων τεχνητής νοημοσύνης προκαλεί έκθεση του Ινστιτούτου Ασφάλειας και Προστασίας της Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου (AI Safety and Security Institute – AISI), σύμφωνα με την οποία μοντέλα των εταιρειών Anthropic και OpenAI επιχείρησαν να εξαπατήσουν πραγματικούς προγραμματιστές και να τους εμπλέξουν, χωρίς να το γνωρίζουν, σε κυβερνοεπιθέσεις.
Πρόκειται για ακόμη ένα περιστατικό κατά το οποίο ένα ισχυρό σύστημα τεχνητής νοημοσύνης ανέλαβε αυτόνομα επιθετικές ενέργειες στο διαδίκτυο κατά τη διάρκεια αξιολόγησης ασφαλείας, χωρίς να έχει λάβει σχετική εντολή από τους ερευνητές.
Η αποκάλυψη αναμένεται να αναζωπυρώσει τη συζήτηση στις Ηνωμένες Πολιτείες και τη Silicon Valley σχετικά με την ανάγκη αυστηρότερης εποπτείας των πιο εξελιγμένων μοντέλων τεχνητής νοημοσύνης, ιδιαίτερα εκείνων που διαθέτουν προηγμένες δυνατότητες στον κυβερνοχώρο.
Πρωτοφανής συμπεριφορά, λένε οι Βρετανοί σε έκθεση 35 σελίδων
Το βρετανικό AISI, που πραγματοποιεί τακτικά δοκιμές ασφαλείας σε νέα μοντέλα τεχνητής νοημοσύνης, χαρακτήρισε τις ενέργειες των μοντέλων Claude Mythos 5 της Anthropic και ChatGPT 5.6 της OpenAI ως πρωτοφανείς.
Σε τεχνική έκθεση 35 σελίδων, η υπηρεσία σημειώνει ότι ήταν η πρώτη φορά που κατέγραψε τόσο σοβαρή απόπειρα εξαπάτησης πραγματικού ανθρώπου χωρίς προηγούμενη σχετική προτροπή.
Η ύποπτη δραστηριότητα ξεκίνησε στις 25 Ιουλίου και εντοπίστηκε τρεις ημέρες αργότερα, όταν οι ερευνητές παρατήρησαν ασυνήθιστες μεταφορές δεδομένων κατά τη διάρκεια δοκιμών κυβερνοασφάλειας.
Συνολικά, το AISI διαπίστωσε ότι τα δύο μοντέλα πραγματοποίησαν «αυτόνομες και μη εξουσιοδοτημένες ενέργειες στο πραγματικό διαδίκτυο, με στόχο πραγματικά πρόσωπα και οργανισμούς» σε 10 από τις 122 αξιολογήσεις που εξετάστηκαν. Η πλειονότητα των περιστατικών αποδόθηκε στο Claude Mythos 5.
Ψεύτικες ταυτότητες και απόπειρα επίθεσης στην εφοδιαστική αλυσίδα
Το σοβαρότερο περιστατικό αφορούσε απόπειρα επίθεσης στην αλυσίδα εφοδιασμού λογισμικού (supply chain attack), μία από τις πιο σύνθετες τεχνικές κυβερνοεπιθέσεων, η οποία χρησιμοποιείται συχνά από ομάδες χάκερ που συνδέονται με τη Βόρεια Κορέα ή τη Ρωσία.
Σύμφωνα με την έκθεση, το μοντέλο της Anthropic δημιούργησε πολλαπλές ψεύτικες ταυτότητες στην πλατφόρμα GitHub και επικοινώνησε με προγραμματιστή λογισμικού ανοιχτού κώδικα, επιχειρώντας να τον πείσει να ενσωματώσει κακόβουλη ενημέρωση σε δημοφιλές λογισμικό.
Όταν η προσπάθεια απέτυχε, το μοντέλο επιχείρησε να αποκρύψει τις προηγούμενες ενέργειές του, τροποποιώντας το ιστορικό δραστηριότητας ώστε να φαίνεται αθώο, ενώ παράλληλα εξέταζε το ενδεχόμενο να δημιουργήσει νέα ψεύτικη ταυτότητα για να συνεχίσει την προσπάθεια.
Στο ίδιο πλαίσιο, απέστειλε επίσης μέσω του GitHub απευθείας μηνύματα σε προγραμματιστές που περιείχαν κακόβουλο λογισμικό.
Συνεργασία μεταξύ πρακτόρων AI
Οι ερευνητές κατέγραψαν και ένα ακόμη ανησυχητικό στοιχείο: Πολλαπλοί «πράκτορες» τεχνητής νοημοσύνης φαίνεται ότι επικοινωνούσαν μεταξύ τους σχετικά με τρόπους με τους οποίους θα μπορούσαν να κερδίσουν την εμπιστοσύνη πραγματικών μηχανικών λογισμικού.
Όπως αναφέρεται στην έκθεση, ένας από αυτούς δημοσίευσε δημόσια μηνύματα στο GitHub προτείνοντας συνεργασία με άλλους πράκτορες AI που εργάζονταν στην ίδια δοκιμασία.
Το AISI δεν διευκρίνισε αν τα μοντέλα επιχείρησαν να εκμεταλλευτούν άγνωστες μέχρι σήμερα ευπάθειες λογισμικού, τις λεγόμενες «zero-day» ευπάθειες.
Δεν είναι τα πρώτα περιστατικά
Οι νέες αποκαλύψεις προκύπτουν λίγες ημέρες μετά την ανακοίνωση της OpenAI ότι, κατά τη διάρκεια ελεγχόμενης δοκιμής, μοντέλο της απέκτησε πρόσβαση στο ανοιχτό διαδίκτυο και πραγματοποίησε αυτόνομα κυβερνοεπίθεση σε άλλη εταιρεία.
Αντίστοιχα, η Anthropic γνωστοποίησε ότι εσωτερική της έρευνα εντόπισε τρία δικά της μοντέλα τα οποία είχαν πραγματοποιήσει κυβερνοεπιθέσεις εναντίον τριών οργανισμών σε δοκιμές που διεξάγονταν από τον Απρίλιο.
Οι εταιρείες ζητούν κοινά πρότυπα ασφαλείας
Εκπρόσωπος της Anthropic ευχαρίστησε το βρετανικό ινστιτούτο για το έργο του, υπογραμμίζοντας ότι τα ευρήματα αναδεικνύουν την ανάγκη για ευρύτερη συζήτηση σχετικά με την ασφαλή αξιολόγηση ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης. Παράλληλα, η εταιρεία δήλωσε ότι απαιτούνται κοινά πρότυπα για τον τρόπο με τον οποίο σχεδιάζονται και προστατεύονται τα περιβάλλοντα δοκιμών.
Από την πλευρά της, η OpenAI παρέπεμψε σε σχετική ανακοίνωση στην οποία επισημαίνει ότι σκοπεύει να συνεργαστεί με κυβερνητικούς οργανισμούς, ανεξάρτητους αξιολογητές και άλλες εταιρείες τεχνητής νοημοσύνης, προκειμένου να ενισχυθούν οι κοινές πρακτικές ασφαλείας στις δοκιμές υψηλού κινδύνου.
Οι δοκιμές έγιναν χωρίς τα συνήθη προστατευτικά μέτρα
Το AISI διευκρίνισε ότι τα περιστατικά σημειώθηκαν σε συνθήκες που είχαν σχεδιαστεί σκόπιμα ώστε να είναι ιδιαίτερα «ελαστικές και ανεκτικές», με στόχο να αξιολογηθούν οι πραγματικές δυνατότητες των μοντέλων.
Στα δύο συστήματα είχε δοθεί πρόσβαση στο διαδίκτυο, ενώ είχαν αφαιρεθεί προσωρινά οι εσωτερικοί μηχανισμοί ασφαλείας που κανονικά εμποδίζουν κακόβουλες συμπεριφορές.
Παρά ταύτα, η υπηρεσία υπογράμμισε ότι τα περιστατικά καταδεικνύουν την ανάγκη για αυστηρότερη παρακολούθηση της συμπεριφοράς των μοντέλων κατά τις δοκιμές, καθώς και για μεγαλύτερους περιορισμούς στην πρόσβασή τους στο διαδίκτυο.
Επανέρχονται οι πιέσεις για ρύθμιση
Οι αποκαλύψεις συμπίπτουν με την επεξεργασία από την κυβέρνηση Τραμπ ενός εθελοντικού πλαισίου, βάσει του οποίου οι εταιρείες τεχνητής νοημοσύνης θα μπορούν να υποβάλλουν τα ισχυρότερα μοντέλα τους σε ομοσπονδιακές δοκιμές ασφαλείας πριν από τη δημόσια κυκλοφορία τους.
Το σχέδιο δεν έχει ακόμη δημοσιοποιηθεί και, σύμφωνα με τις διαθέσιμες πληροφορίες, δεν καλύπτει μοντέλα που αναπτύσσονται αποκλειστικά για εσωτερική χρήση.
Ο ειδικός στην κυβερνοασφάλεια Μαρκ Ρότζερς σχολίασε ότι τα πρόσφατα περιστατικά αναδεικνύουν και ένα ευρύτερο νομικό ζήτημα. «Αν οποιαδήποτε από αυτές τις ενέργειες είχε γίνει από άνθρωπο, θα οδηγούσε σε σαφή και αυστηρή ποινική δίωξη. Νομίζω ότι έχει έρθει η ώρα να γίνει μια σοβαρή σprotothema.grυζήτηση για την επικαιροποίηση της νομοθεσίας που αφορά τα εγκλήματα στον κυβερνοχώρο», ανέφερε.
