Mythos και πραγματικότητα

Πριν από λίγες μέρες, το μοντέλο τεχνητής νοημοσύνης Claude Mythos κατάφερε να βρει πολυάριθμα ευάλωτα σημεία στα πιο προηγμένα και, υποτίθεται, ασφαλή υπολογιστικά συστήματα. Είναι ένα σημείο καμπής. Κανένα υπολογιστικό δίκτυο δεν μπορεί να αντέξει πια σε ενδεχόμενη κυβερνοεπίθεση εάν είναι κατασκευασμένο από ανθρώπους και όχι από ομοίους του, δηλαδή άλλα συστήματα τεχνητής νοημοσύνης. Η αλλαγή δεν αφορά μόνον τις τεχνικές δυνατότητες και το επίπεδό τους. Αφορά πολύ περισσότερο τον έλεγχο των δυνατοτήτων αυτών και τη χρήση τους.

Στην πυρηνική εποχή, από τα μισά του 20ού αιώνα, εγγύηση της σταθερότητας ήταν η αμοιβαία εγγυημένη καταστροφή. Λειτουργεί ακόμη και σήμερα: η Ρωσία διεξάγει επί τέσσερα χρόνια έναν καταστροφικό και αιματηρό πόλεμο στην Ουκρανία χωρίς να χάσει την αυτοσυγκράτηση στη χρήση του πυρηνικού της οπλοστασίου. Ποιες θα είναι, όμως, οι αυριανές δικλίδες ασφαλείας, όταν η νέα μορφή πολέμου, ο κυβερνοπόλεμος, θα διεξάγεται ανάμεσα σε αυτόνομα (και δυνητικά αυτονομημένα) συστήματα τεχνητής νοημοσύνης; Και ποιος θα έχει την τελική απόφαση εάν, πολύ σύντομα, ένα πυρηνικό οπλοστάσιο για να είναι αποτρεπτικά αποτελεσματικό θα πρέπει κι εκείνο να ελέγχεται από αυτοτελή τεχνητή νοημοσύνη, εξουσιοδοτημένη να ενεργεί σε χρόνους πολύ διαφορετικούς από τα ανθρώπινα μέτρα;

Κι όλα αυτά δεν είναι κάτι μακρινό, γιατί οι ρυθμοί των νέων τεχνολογιών έχουν αλλάξει. Η ταχύτητα εξάπλωσης είναι ήδη εντελώς διαφορετική από οτιδήποτε συνέβη στο παρελθόν. Επιπλέον, καθώς ορατά πια η τεχνητή νοημοσύνη θα αυτοτροφοδοτείται και θα αυτοεξελίσσεται, οι ταχύτητες θα πολλαπλασιαστούν. Πηγαίνοντας πολύ πέρα από τους γνωστούς μηχανισμούς ελέγχου τους από ανθρώπινους μηχανισμούς: κρατικές δομές, θεσμούς, νομικά και πολιτικά συστήματα.

Ταυτόχρονα, ακόμη και η θετική πλευρά της τεχνητής νοημοσύνης, η αύξηση της παραγωγικότητας και η εκτέλεση εργασιών χωρίς να απαιτείται ανθρώπινος μόχθος, μεταβάλλουν δραματικά το εργασιακό τοπίο. Δεν είναι σαφές πώς θα κατανέμεται ο πλούτος που θα παράγεται με ελάχιστη ανθρώπινη παρουσία και σε μεγάλη κλίμακα. Και ήδη διανοούμενοι όπως ο Νικ Λαντ διατυπώνουν ένα κρίσιμο δίλημμα: με την επιτάχυνση του καπιταλισμού μέσω της τεχνολογίας στα ακρότατα όριά του, είναι η δημοκρατία κατάλληλο ή επαρκές σύστημα διακυβέρνησης; Τα ερωτήματα είναι προφανώς πολύ περισσότερα από τις διαθέσιμες απαντήσεις.

Υπάρχει, όμως, ένα κεντρικό και απολύτως καθοριστικό χαρακτηριστικό – το μέγεθος. Δυνατότητες εξέλιξης και όποιες δυνατότητες άσκησης ελέγχου έχουν μόνο πολύ μεγάλες και πολύ πλούσιες χώρες – σήμερα οι ΗΠΑ, η Κίνα και αμφίβολο αν υπάρχει τρίτη. Για τις μικρές χώρες, όπως η Ελλάδα, η ευχέρεια παρέμβασης είναι απλώς ανύπαρκτη.

Για τις «μεσαίες δυνάμεις», όπως τις περιέγραψε στην πρόσφατη ομιλία του στο Νταβός ο καναδός πρωθυπουργός Κάρνεϊ, εδώ βρίσκεται η λυδία λίθος. Χωρίς μια πολύ στενότερη συνεργασία τους, δηλαδή την ενίσχυση δεσμών που πρακτικά να ισοδυναμούν με ενιαία κρατική οντότητα, ανεξάρτητα από τη γεωγραφία, στην οικονομία, στους εξοπλισμούς, στην έρευνα και ανάπτυξη, στην ενιαία αμυντική και εξωτερική πολιτική, σύντομα δεν θα είναι μεσαίες και σίγουρα δεν θα είναι «δυνάμεις». Η Ευρώπη, παρά τους απελπιστικούς και αναντίστοιχους με τις εξελίξεις ρυθμούς της, παραμένει το μόνο υπαρκτό πρόπλασμα μιας τέτοιας εξισορροπητικής συνεργασίας.