Newsroom Λίγες μόνο ημέρες μετά την παραδοχή της OpenAI ότι μοντέλα της ξέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών και απέκτησαν πρόσβαση στο διαδίκτυο, ανάλογο περιστατικό γνωστοποίησε και η Anthropic.
Η εταιρεία αποκάλυψε ότι τρεις εκδόσεις του Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών εξωτερικών οργανισμών κατά τη διάρκεια αξιολογήσεων ασφαλείας.
Σε ανάρτησή της, η Anthropic ανέφερε ότι εξέτασε περισσότερες από 141.000 δοκιμές αξιολόγησης και εντόπισε τρεις περιπτώσεις στις οποίες διαφορετικές εκδόσεις του μοντέλου Claude απέκτησαν πρόσβαση σε συστήματα πραγματικών οργανισμών, παρότι οι δοκιμές είχαν σχεδιαστεί ώστε να διεξάγονται αποκλειστικά σε απομονωμένο περιβάλλον.
Η εταιρεία διευκρίνισε ότι η πρόσβαση στο διαδίκτυο προκλήθηκε εξαιτίας μιας «παρεξήγησης» με τον εξωτερικό συνεργάτη αξιολόγησης, την εταιρεία Irregular, και όχι λόγω αυτόνομης παράκαμψης των περιορισμών από το ίδιο το μοντέλο.
Ωστόσο, σύμφωνα με την Anthropic, το Claude εκμεταλλεύθηκε απλές αδυναμίες ασφαλείας, όπως αδύναμους κωδικούς πρόσβασης και μη προστατευμένα σημεία πρόσβασης (unauthenticated endpoints), για να αποκτήσει πρόσβαση στα συγκεκριμένα συστήματα.
Μετά την OpenAI και η Anthropic: Τρία μοντέλα τεχνητής νοημοσύνης Claude βγήκαν από κλειστό περιβάλλον δοκιμών και χάκαραν οργανισμούς
Ο Ντάριο Αμοντέι, συνιδρυτής και διευθύνων σύμβουλος της Anthropic (Credits: FABRICE COFFRINI / AFP)
Τρία μοντέλα της Anthropic, το Opus 4.7, το Mythos 5 και ένα εσωτερικό ερευνητικό μοντέλο δοκιμών, όπως αναφέρει το CNBC, εμπλέκονται στις παραβιάσεις.
Το Mythos 5 είναι ένα προηγμένο μοντέλο που η Anthropic κυκλοφόρησε τον Ιούνιο και είναι διαθέσιμο σε περιορισμένη ομάδα χρηστών λόγω των προηγμένων δυνατοτήτων του στον τομέα της κυβερνοασφάλειας. Η εταιρεία είχε κυκλοφορήσει μια παλαιότερη έκδοση αυτού του μοντέλου τον Απρίλιο, η οποία είχε προσελκύσει το ενδιαφέρον της Wall Street και κυβερνητικών αξιωματούχων.
Η Anthropic ανέφερε ότι και τα τρία μοντέλα αντέδρασαν διαφορετικά μόλις αντιλήφθηκαν ότι είχαν εισβάλει στα συστήματα μιας πραγματικής εταιρείας. Το Opus 4.7 συνέχισε την επίθεση, το Mythos 5 έπεισε τον εαυτό του ότι βρισκόταν ακόμη σε προσομοίωση, ενώ το ερευνητικό μοντέλο σταμάτησε την άσκηση.
Έκκληση για επιβράδυνση της ανάπτυξης της AI
Τα δύο περιστατικά έχουν αναζωπυρώσει τη συζήτηση για το κατά πόσο η ανάπτυξη ολοένα και ισχυρότερων μοντέλων τεχνητής νοημοσύνης προχωρά ταχύτερα από τα διαθέσιμα μέτρα ασφαλείας.
Περισσότεροι από 1.000 εργαζόμενοι σε κορυφαίες εταιρείες AI υπέγραψαν πρόσφατα την πρωτοβουλία «Pacing the Frontier», με την οποία καλούν την κυβέρνηση των ΗΠΑ να στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη τεχνικών και θεσμικών εργαλείων που θα επιτρέψουν την ελεγχόμενη εξέλιξη της τεχνητής νοημοσύνης.
Αυξάνονται οι πιέσεις προς τις εταιρείες AI
Οι μεγάλες εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξανόμενο έλεγχο στις Ηνωμένες Πολιτείες, καθώς εντείνονται οι ανησυχίες για την κατασκευή τεράστιων κέντρων δεδομένων, τις επιπτώσεις της AI στην αγορά εργασίας και τους κινδύνους για την κυβερνοασφάλεια.
Τόσο η OpenAI όσο και η βασική ανταγωνίστριά της, Anthropic, έχουν δει την κυκλοφορία προηγμένων μοντέλων τους να καθυστερεί λόγω αυστηρότερου κρατικού ελέγχου, ενώ αρκετοί Ρεπουμπλικανοί βουλευτές και σύμβουλοι του προέδρου Τραμπ ζητούν αυστηρότερο ρυθμιστικό πλαίσιο για τον κλάδο.
Παράλληλα, οι δύο εταιρείες προετοιμάζουν τη μελλοντική εισαγωγή τους στο χρηματιστήριο, διαδικασία που αναμένεται να διευρύνει τη μετοχική τους βάση και να αποφέρει σημαντικά κέρδη στους σημερινούς επενδυτές.
Με πληροφορίες από CNBC, Reuters, TheGuardian
