Αυτή την εβδομάδα, το Ομοσπονδιακό Γραφείο Ερευνών των ΗΠΑ (FBI) αποκάλυψε ότι δύο άνδρες που είναι ύποπτοι για τη βομβιστική επίθεση σε κλινική γονιμότητας στην Καλιφόρνια τον περασμένο μήνα χρησιμοποίησαν τεχνητή νοημοσύνη (AI) για να αποκτήσουν οδηγίες για την κατασκευή βόμβας.
Αυτό το γεγονός θέτει σε πρώτο πλάνο την επείγουσα ανάγκη να καταστεί η AI ασφαλέστερη. Ζούμε σήμερα στην «Αγρια Δύση» της AI, όπου οι εταιρείες ανταγωνίζονται σκληρά για να αναπτύξουν τα ταχύτερα και πιο διασκεδαστικά συστήματα AI. Κάθε εταιρεία θέλει να ξεπεράσει τους ανταγωνιστές της και να κατακτήσει την πρώτη θέση. Αυτός ο έντονος ανταγωνισμός συχνά οδηγεί σε σκόπιμες ή ακούσιες παρακάμψεις, ιδίως όσον αφορά στην ασφάλεια.
Συμπτωματικά, περίπου την ίδια περίοδο με την αποκάλυψη του FBI, ένας από τους «πατέρες» της σύγχρονης τεχνητής νοημοσύνης, ο Καναδός καθηγητής πληροφορικής Yoshua Bengio, ίδρυσε μια νέα μη κερδοσκοπική οργάνωση αφιερωμένη στην ανάπτυξη ενός νέου μοντέλου τεχνητής νοημοσύνης, ειδικά σχεδιασμένου για να είναι ασφαλέστερο από άλλα μοντέλα τεχνητής νοημοσύνης και να στοχεύει εκείνα που προκαλούν κοινωνική βλάβη.
Ποιο είναι λοιπόν το νέο μοντέλο τεχνητής νοημοσύνης του Bengio; Και θα προστατεύσει πραγματικά τον κόσμο από τις βλάβες που προκαλεί η τεχνητή νοημοσύνη;
Μια «ειλικρινής» τεχνητή νοημοσύνη
Το 2018, ο Bengio, μαζί με τους συναδέλφους του Yann LeCun και Geoffrey Hinton, κέρδισε το βραβείο Turing για την πρωτοποριακή έρευνα που είχαν δημοσιεύσει τρία χρόνια νωρίτερα σχετικά με τη βαθιά μάθηση.
Η «βαθιά μάθηση» [deep learning], ένας κλάδος της μηχανικής μάθησης, προσπαθεί να μιμηθεί τις διαδικασίες του ανθρώπινου εγκεφάλου χρησιμοποιώντας τεχνητά νευρωνικά δίκτυα για να μαθαίνει από υπολογιστικά δεδομένα και να κάνει προβλέψεις.
Η νέα μη κερδοσκοπική οργάνωση του Bengio, LawZero, αναπτύσσει το «Scientist AI». Ο Bengio έχει δηλώσει ότι αυτό το μοντέλο θα είναι «ειλικρινές και όχι παραπλανητικό» και θα ενσωματώνει αρχές ασφάλειας από το αρχικό του κιόλας σχεδιασμό.
Πώς θα διαφέρει το νέο σύστημα
Σύμφωνα με ένα προδημοσιευμένο άρθρο που δημοσιεύθηκε στο διαδίκτυο νωρίτερα φέτος, το Scientist AI θα διαφέρει από τα τρέχοντα συστήματα τεχνητής νοημοσύνης σε δύο βασικά σημεία.
Πρώτον, μπορεί να αξιολογεί και να επικοινωνεί το επίπεδο εμπιστοσύνης στις απαντήσεις του, συμβάλλοντας στη μείωση του προβλήματος της τεχνητής νοημοσύνης που δίνει υπερβολικά σίγουρες και λανθασμένες απαντήσεις.
Δεύτερον, μπορεί να εξηγήσει τη συλλογιστική του στους ανθρώπους, επιτρέποντας την αξιολόγηση και τον έλεγχο της ακρίβειας των συμπερασμάτων του.
Είναι ενδιαφέρον ότι τα παλαιότερα συστήματα τεχνητής νοημοσύνης είχαν αυτό το χαρακτηριστικό. Ωστόσο, στην προσπάθεια για ταχύτητα και νέες προσεγγίσεις, πολλά σύγχρονα μοντέλα τεχνητής νοημοσύνης δεν μπορούν να εξηγήσουν τις αποφάσεις τους. Οι προγραμματιστές τους έχουν θυσιάσει την λειτουργία αυτή για χάρη της ταχύτητας.
Ο Bengio σκοπεύει επίσης η «Scientist AI» να λειτουργήσει ως φράγμα προστασίας έναντι της μη ασφαλούς τεχνητής νοημοσύνης. Θα μπορούσε να παρακολουθεί άλλα, λιγότερο αξιόπιστα και επιβλαβή συστήματα τεχνητής νοημοσύνης — ουσιαστικά καταπολεμώντας τη... φωτιά με φωτιά.
Η χρήση ενός συστήματος τεχνητής νοημοσύνης κατά άλλων συστημάτων τεχνητής νοημοσύνης δεν είναι απλώς μια ιδέα επιστημονικής φαντασίας — είναι μια κοινή πρακτική στην έρευνα για τη σύγκριση και τον έλεγχο διαφορετικών επιπέδων νοημοσύνης σε συστήματα τεχνητής νοημοσύνης.
Το 2018, ο Bengio, μαζί με τους συναδέλφους του Yann LeCun και Geoffrey Hinton, κέρδισε το βραβείο Turing για την πρωτοποριακή έρευνα που είχαν δημοσιεύσει τρία χρόνια νωρίτερα σχετικά με τη βαθιά μάθηση / GETTY
Προσθήκη ενός «μοντέλου κόσμου»
Τα μεγάλα γλωσσικά μοντέλα και η μηχανική μάθηση είναι μόνο ένα μικρό μέρος του σημερινού τοπίου της τεχνητής νοημοσύνης.
Μια άλλη σημαντική προσθήκη που κάνει η ομάδα του Bengio στο Scientist AI είναι το «μοντέλο κόσμου», το οποίο προσφέρει στοιχεία όπως η «βεβαιότητα» και η «εξηγήσιμη λειτουργία». Ακριβώς όπως οι άνθρωποι λαμβάνουν αποφάσεις με βάση την κατανόησή τους για τον κόσμο, η τεχνητή νοημοσύνη χρειάζεται ένα παρόμοιο μοντέλο για να λειτουργεί αποτελεσματικά.
Η απουσία ενός μοντέλου κόσμου στα σημερινά μοντέλα τεχνητής νοημοσύνης είναι εμφανής.
Ένα γνωστό παράδειγμα είναι το «πρόβλημα των χεριών»: τα περισσότερα από τα σημερινά μοντέλα τεχνητής νοημοσύνης μπορούν να μιμηθούν την εμφάνιση των χεριών, αλλά δεν μπορούν να αναπαράγουν τις φυσικές κινήσεις των χεριών, επειδή δεν κατανοούν τη φυσική — ένα μοντέλο κόσμου — που κρύβεται πίσω από αυτές.
Ένα άλλο παράδειγμα είναι ο τρόπος με τον οποίο μοντέλα όπως το ChatGPT δυσκολεύονται με το σκάκι, αποτυγχάνοντας να κερδίσουν και κάνοντας ακόμη και... παράνομες κινήσεις.
Αυτό συμβαίνει παρά το γεγονός ότι απλούστερα συστήματα τεχνητής νοημοσύνης, τα οποία περιέχουν ένα «μοντέλο του κόσμου» του σκακιού, νικούν ακόμη και τους καλύτερους ανθρώπινους παίκτες.
Αυτά τα ζητήματα πηγάζουν από την έλλειψη ενός θεμελιώδους μοντέλου του κόσμου σε αυτά τα συστήματα, τα οποία δεν έχουν σχεδιαστεί εγγενώς για να μοντελοποιούν τη δυναμική του πραγματικού κόσμου.
Ο Yoshua Bengio αναγνωρίζεται ως ένας από τους πατέρες της τεχνητής νοημοσύνης / Getty Images
Στο σωστό δρόμο – αλλά θα είναι ανώμαλος
Ο Bengio βρίσκεται στο σωστό δρόμο, με στόχο την κατασκευή ασφαλέστερης και πιο αξιόπιστης τεχνητής νοημοσύνης, συνδυάζοντας μεγάλα γλωσσικά μοντέλα με άλλες τεχνολογίες τεχνητής νοημοσύνης.
Ωστόσο, η πορεία του δεν θα είναι εύκολη. Η χρηματοδότηση των 30 εκατομμυρίων δολαρίων της LawZero είναι μικρή σε σύγκριση με προσπάθειες όπως το έργο 500 δισεκατομμυρίων δολαρίων που ανακοίνωσε ο Πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ νωρίτερα φέτος για την επιτάχυνση της ανάπτυξης της τεχνητής νοημοσύνης.
Αυτό που κάνει το έργο της LawZero πιο δύσκολο είναι το γεγονός ότι η τεχνητή νοημοσύνη για επιστήμονες – όπως και κάθε άλλο έργο τεχνητής νοημοσύνης – χρειάζεται τεράστιες ποσότητες δεδομένων για να είναι ισχυρή, και τα περισσότερα δεδομένα ελέγχονται από μεγάλες εταιρείες τεχνολογίας.
Υπάρχει επίσης ένα εκκρεμές ζήτημα. Ακόμα και αν ο Bengio καταφέρει να δημιουργήσει ένα σύστημα τεχνητής νοημοσύνης που κάνει όλα όσα λέει, πώς θα είναι σε θέση να ελέγχει άλλα συστήματα που ενδέχεται να προκαλέσουν βλάβη;
Ωστόσο, αυτό το έργο, με ταλαντούχους ερευνητές πίσω του, θα μπορούσε να πυροδοτήσει ένα κίνημα προς ένα μέλλον όπου η τεχνητή νοημοσύνη θα βοηθά πραγματικά τους ανθρώπους να ευημερήσουν. Εάν επιτύχει, θα μπορούσε να δημιουργήσει νέες προσδοκίες για την ασφαλή τεχνητή νοημοσύνη, παρακινώντας ερευνητές, προγραμματιστές και υπεύθυνους χάραξης πολιτικής να δώσουν προτεραιότητα στην ασφάλεια.
Κεντρική φωτό: Ο Καναδός καθηγητής πληροφορικής Yoshua Bengio προχωρεί στην ανάπτυξη ενός νέου μοντέλου τεχνητής νοημοσύνης / SHUTTERSTOCK
Μέλος του μητρώου
