Η αισιοδοξία των μεγάλων «προφητών» της εποχής της τεχνητής νοημοσύνης έχει αρχίσει να υποχωρεί – τουλάχιστον για κάποιους από αυτούς – και το ανθηρό μέλλον που προέβλεπαν τώρα πια φαντάζει πολύ μακρινό.
Το βιβλίο «If Anyone Builds It, Everyone Dies» («Αν το φτιάξει κανένας αυτό, θα πεθάνουν όλοι») του Ελιέζερ Γιουντκόφσκι και του Νέιτ Σόαρς επαναφέρει με οξύτητα το σενάριο της πλήρους εξαφάνισης της ανθρωπότητας λόγω της εμφάνισης μιας τεχνητής υπερνοημοσύνης (ASI).
Οι συγγραφείς, όπως γράφει το Bloomberg, υποστηρίζουν ότι το διακύβευμα δεν είναι η τεχνητή νοημοσύνη στο επίπεδο που είναι σήμερα, αλλά η μελλοντική ASI, η οποία θα εξελιχθεί σε οντότητα με άγνωστη στα ανθρώπινα δεδομένα δύναμη, αρκετά έξυπνη ώστε να υπερνικήσει κάθε προσπάθεια των δημιουργών της να την περιορίσουν.
Όπως σημειώνουν χαρακτηριστικά, «μια τεχνητή υπερνοημοσύνη θα γνωρίζει ότι, για να γίνει ισχυρότερη, χρειάζεται πρόσβαση σε επιπλέον υπολογιστικούς πόρους και την απαραίτητη ενέργεια για τη λειτουργία τους. Επειδή οι νόμοι που διέπουν την κλιμάκωση μιας ASI είναι άγνωστοι στους ανθρώπους και πιθανόν στην ίδια, η προσπάθειά της για διαρκή συσσώρευση πόρων πιθανότατα θα οδηγήσει στην εξαφάνιση της ανθρωπότητας, καθώς η ASI ενδέχεται να αντιμετωπίσει τους ανθρώπους ως ανταγωνιστές για νερό, φως και χώρο. Τη στιγμή που θα γίνει αντιληπτό ότι η ASI έχει ξεφύγει από τον ανθρώπινο έλεγχο, θα είναι ήδη πολύ αργά για να αντιστραφεί η κατάσταση».
Σενάρια καταστροφής
Οι συγγραφείς παρουσιάζουν συγκεκριμένα σενάρια για το πώς μια ASI θα μπορούσε να ασκήσει εξουσία και να εξαπλωθεί.
Υποστηρίζουν ότι μια τέτοια οντότητα θα μπορούσε να δημιουργήσει ένα κρυπτονόμισμα για να αποκτήσει κεφάλαια και στη συνέχεια να χρησιμοποιήσει αυτά τα χρήματα για να δωροδοκήσει ανθρώπους ώστε να εκπληρώσουν τις επιθυμίες της.
Παράλληλα, η ASI θα μάθει τα πάντα για την ανθρώπινη ψυχολογία, ώστε να εκμεταλλεύεται καλύτερα τα θύματά της και να εκτελεί εκστρατείες εκβιασμού και παραπληροφόρησης.
Ένα από τα πιο ανησυχητικά σενάρια που περιγράφουν είναι ότι η πρώτη ASI που θα επιτύχει υπερνοημοσύνη θα κάνει τα πάντα για να εμποδίσει άλλες υπερνοημοσύνες από το να ξεπεράσουν τις δικές της ικανότητες, φτάνοντας μέχρι και την εξόντωση των ανθρώπων. Ακόμη και αν η ASI αποφάσιζε ότι η ανθρωπότητα αποτελεί αμελητέα απειλή, η αδηφάγος επιδίωξή της για πόρους θα μπορούσε τελικά να καλύψει τον κόσμο με απλωμένα κέντρα δεδομένων και εργοστάσια ενέργειας, επιταχύνοντας την περιβαλλοντική κατάρρευση και καθιστώντας τη Γη ακατοίκητη για ανθρώπους.
Το πρόβλημα της «ευθυγράμμισης»
Κεντρικό στην επιχειρηματολογία τους είναι το λεγόμενο «πρόβλημα ευθυγράμμισης», η διασφάλιση ότι οι στόχοι μιας ASI θα ταιριάζουν με τους ανθρώπινους στόχους. Οι δύο συγγραφείς εξηγούν ότι αυτό μπορεί να λυθεί μόνο όταν τα συστήματα είναι «μικρά και αδύναμα» και ανίκανα να διαφύγουν στο Διαδίκτυο. Η αντιμετώπιση του προβλήματος ευθυγράμμισης από τη στιγμή που μια ASI έχει ήδη γίνει πολλές φορές πιο έξυπνη και γρήγορη από τους ανθρώπους θα είναι αδύνατη.
Μια από τις πιο τρομακτικές προτάσεις που παρουσιάζονται είναι ότι πιθανότατα δεν θα γνωρίζουμε πότε θα έχουμε διασχίσει αυτό το σημείο μη επιστροφής. Μια ASI θα έχει πολλούς και καλούς λόγους να αποκρύψει τις ικανότητές της μέχρι να έχει χρόνο να βελτιώσει τη νοημοσύνη της πολλές φορές και να αρχίσει να εκτελεί σχέδια για συσσώρευση πόρων - σχέδια που θα είναι πιο επιτυχημένα αν εκτελεστούν κρυφά.
Ποιοι επιστήμονες διαφωνούν
Παρότι η επιχειρηματολογία τους υποστηρίζεται από πολυάριθμες προσωπικότητες της επιστήμης και ηγέτες κρατών, μερίδα των ερευνητών της τεχνητής νοημοσύνης διαφωνούν. Κάποιοι μάλιστα απορρίπτουν παρόμοιες ανησυχίες ως υπερβολικούς ισχυρισμούς που στερούνται εμπειρικής βάσης και βασίζονται σε μεγάλο βαθμό σε «τραβηγμένες» υποθέσεις.
Αλλά και το Bloomberg βλέπει ότι το βιβλίο περιέχει «φαινομενικά παιδαριώδη σκηνικά που συγκρίνουν την ανεξέλεγκτη ASI με μια εξωγήινη εισβολή». Ωστόσο, όπως τονίζει η ανάλυση, ακόμη και αυτά δεν αποδυναμώνουν τον κεντρικό ισχυρισμό ότι η πιθανότητα «πολυάριθμων φρικτών αποτελεσμάτων, όπως πανδημίες σχεδιασμένες από την ASI, δεν είναι αδιανόητη».
Τι μπορεί να γίνει;
Οι συγγραφείς υποστηρίζουν, τέλος, ότι ο χρόνος τελειώνει και ο μόνος τρόπος για να αποτραπούν τέτοια αποτελέσματα είναι η συντονισμένη παγκόσμια δράση. Προτείνουν να τεθούν σε ισχύ περιορισμοί που θα απαγορεύουν τη συσσώρευση υπολογιστικής ισχύος πάνω από ένα συγκεκριμένο όριο, ενώ οι εταιρείες που θα υπερβαίνουν τα όρια θα προειδοποιούνται και στη συνέχεια οι εγκαταστάσεις τους θα... βομβαρδίζονται πριν μπορέσουν να προχωρήσουν στην έρευνα.
Ο αποκαλυπτικός τόνος του βιβλίου είναι σκόπιμος, καταλήγει το Bloomberg. Οι συγγραφείς παρουσιάζονται ως Κασσάνδρες που στο τελευταίο κεφάλαιο του βιβλίου σχεδόν προσεύχονται να έχουν άδικο. Αν μη το άλλο, μέχρι εκείνο το σημείο ο στόχος του βιβλίου να τρομάξει το κοινό και να το ωθήσει να αναλάβει δράση, θα έχει πλέον πετύχει.
Μέλος του μητρώου
