Θα ανοίξει το κουτί της Πανδώρας στο άμεσο μέλλον;

Του Άγη Βερούτη

Σε πολλά προηγούμενα σημειώματα της στήλης, έχουμε αναλύσει το ότι ο κόσμος μας βιώνει μια καταιγίδα ανατρεπτικών αλλαγών, σε τεχνολογικό, οικονομικό, κοινωνικό, πολιτιστικό και γεωπολιτικό επίπεδο.

Ακόμα και με τα πιο συντηρητικά σενάρια, σε ελάχιστα χρόνια από σήμερα (συγκριτικά με τον ιστορικό χρόνο και τους ρυθμούς του) τίποτα γύρω μας δεν θα θυμίζει τη σημερινή μέρα. Τίποτα...

Βασική παράμετρος στις ανατροπές αυτές είναι η συγκέντρωση τεράστιας ισχύος για τα ανθρώπινα δεδομένα σε ελάχιστα χέρια, που θα επιτρέψει η εκθετική πρόοδος των σκεπτόμενων μηχανών της Τεχνητής Νοημοσύνης, όταν επιτευχθεί το Artificial General Intelligence, όπου η νοητική ικανότητα μιας μηχανής θα αυξηθεί τόσο ώστε να γίνει δυσδιάκριτο αν κάποιος επικοινωνεί με έναν άνθρωπο ή μια μηχανή.

Ήδη από φέτος, το 2025, βρίσκονται σε λειτουργία σκεπτόμενες μηχανές που μπορούν να επιτύχουν υψηλότερες βαθμολογίες από το 90% των ανθρώπων σε εξετάσεις χορήγησης άδειας άσκησης επαγγέλματος. Ταυτόχρονα, το πεδίο της μάχης μετατίθεται από τα παραδοσιακά πεδία και τα βαρέα οπλικά συστήματα στα ολοένα και πιο αυτόνομα drones, με αποστολή την εύρεση, αναγνώριση, επίθεση και καταστροφή στόχων που έχουν δοθεί από πριν χωρίς την παροχή οδηγιών ή τακτικής.

Η χρήση της Τεχνητής Νοημοσύνης σε πολεμικές μηχανές είναι αναπόφευκτη!

Με μηδενικό χώρο για ειδικές επιτροπές δεοντολογίας ή ειδικούς προγραμματιστές που να στήνουν guardrails για το αν το εκρηκτικό πλοιάριο drone θα εκραγεί επάνω στην εχθρική κορβέτα ή όχι, σε περίπτωση που η νυχτερινή του όραση ανιχνεύσει ότι εκεί υπάρχουν στρατιώτες του εχθρού ή δέκα καρότσια με μωρά μέσα λόγω ανθρωπιστικής αποστολής, ή όμηροι ή οτιδήποτε άλλο.

Με δεδομένη τη σημερινή τεχνολογία και χωρίς τίποτα καινούργιο που ίσως ανακαλυφθεί εντός των επόμενων 3 ετών, σκεφτείτε ένα όχι και πολύ ευφάνταστο σενάριο:

• Είναι 2029, και μια βασική μονάδα αεροπορικής κρούσης drones αποτελείται από ένα σμήνος 8 μεσαίου μεγέθους εναέριων drones τετρακόπτερα, των 5 κιλών ωφέλιμου (εκρηκτικού) φορτίου το καθένα.

• Για εγκέφαλο έχουν 8 μονάδες προηγμένων εμπορικών επεξεργαστών edge AI, Jetson Orin AGX, της NVIDIA, με 2.048 CUDA cores, 64 Tensor Cores και 12-core CPU, που παρέχει έως 275 TOPS (Trillion Operations Per Second) και κοστίζει περί τα €2 χιλιάρικα ο καθένας τους, ενώ καταναλώνει 75 Watt ενέργειας στη λειτουργία του.

• Έχουν σχετικά καλές και ελαφριές μπαταρίες λιθίου που επιτρέπουν μίας ώρας αθόρυβη πτήση και κάλυψη 50-75 χλμ απόστασης. Επιπλέον, κάθε drone έχει τη δυνατότητα να ξεδιπλώνει ένα ρολό από μαλακό φωτοβολταϊκό συλλέκτη, που σε 5-6 ώρες ηλιοφάνειας ξαναγεμίζει τη μπαταρία του.

• Τα drones αυτά λειτουργούν ως σμήνος και πετάνε σε σχηματισμό ενός σμήνους πουλιών.

• Η συνολική επεξεργαστική ισχύς του σμήνους με τα σημερινά δεδομένα θα είναι 2.200 TOPS, δηλαδή όσο ένας supercomputer πριν λίγα χρόνια.

• Το σύστημα επεξεργασίας τους επιτρέπει να λειτουργούν πολύ άνετα ένα Distributed Agentic AI σύστημα αποφάσεων, που θα μαζεύει τις πληροφορίες από όλους τους αισθητήρες μηχανικής όρασης στο οπτικό και υπέρυθρο φάσμα, θα χτίζει την εικόνα από το τρισδιάστατο πεδίο στο έδαφος, θα τη συγκρίνει με αεροφωτογραφίες στη μνήμη του, θα βλέπει και θα αξιολογεί τα τυχόν εμπόδια ή κινδύνους για την αποστολή και θα καθορίζει τη διαδρομή που πρέπει να ακολουθήσει το κάθε drone, χωρίς GPS, χωρίς δορυφορική επικοινωνία με τη βάση του, χωρίς τίποτε πέραν μιας κωδικοποιημένης και πολύ χαμηλής ισχύος επικοινωνίας ανάμεσα στα drones του σμήνους, ένα ασθενές wifi.

• Το συνολικό κόστος κατασκευής αυτού του σμήνους [χωρίς να υπολογίσουμε τον προγραμματισμό του software για το Distributed Agentic AI, που θα ξαναφορτώνεται σε όποιο σμήνος φεύγει σε αποστολή] δεν θα ξεπερνάει τις λίγες δεκάδες χιλιάδες ευρώ, πιθανότατα φθηνότερα και από έναν μόνο πύραυλο Stinger των $150.000.

Δίνεται λοιπόν στο σμήνος αυτό η εντολή, οι κατάλληλες συντεταγμένες, οι χάρτες και οι αεροφωτογραφίες, για να πάει σε μια εχθρική στρατιωτική εγκατάσταση 700 χιλιόμετρα μακριά και να κατεδαφίσει ένα συγκεκριμένο κτίριο, π.χ. αυτό με το ραντάρ.

Το σμήνος, αφού πάρει την εντολή, επεξεργάζεται τα δεδομένα και το Agentic AI του με 100 εξειδικευμένους military grade Agents αποφασίζει από μόνο του να ακολουθήσει τις διαδρομές που ακολουθούν αποδημητικά πουλιά για να πάει στον στόχο του, καθώς η υπογραφή του κάθε drone στο ραντάρ είναι σαν ένα μεσαίου μεγέθους πουλί.

Αποφασίζει να πετάει πάνω από μη κατοικημένες περιοχές και σε ώρες χωρίς φως, όταν δεν υπάρχει ορατότητα από το έδαφος, ενώ προσγειώνεται πριν αδειάσουν οι μπαταρίες του σε βουνοκορφές και περιοχές μη προσβάσιμες σε ανθρώπους, για να ξεδιπλώσει τα φωτοβολταϊκά και να ξαναφορτίσει.

Αν εμφανιστεί κάποιος κίνδυνος όταν είναι προσγειωμένο, τότε σηκώνονται τα drones και πηγαίνουν σε άλλο σημείο που να είναι ασφαλές, σύμφωνα με το σύστημα αποφάσεών του.
Αν δεν είναι δυνατόν να αποφευχθεί ο κίνδυνος, τότε θυσιάζει ένα drone του σμήνους για να καταστρέψει την απειλή και συνεχίζει με τα υπόλοιπα, ώσπου να φτάσει το τελευταίο που θα ολοκληρώσει την αποστολή.

Ακόμα και αν χαλάσουν ή καταρριφθούν δύο ή πέντε ή επτά drones από το σμήνος των 8, η αποστολή θα ολοκληρωθεί. Αν θα πάρει 7 ημέρες ή 17 ημέρες ώσπου να ολοκληρωθεί, θα το αποφασίσει το Agentic AI σύστημα, ανάλογα με τις συνθήκες που θα συναντήσει και με τυχόν αντιδράσεις που θα αντιμετωπίσει. Η επίθεση και καταστροφή κατά πάσα βεβαιότητα θα γίνει νυχτερινές ώρες με συστήματα νυχτερινής όρασης, όταν όλοι θα κοιμούνται, και με μηδενική ορατότητα για κανονικούς ανθρώπους.

Από τη στιγμή που θα φύγει από τη βάση του αυτό το σύστημα με εντολές αποστολής, η καταστροφή του τελικού στόχου είναι μια βεβαιότητα. Το μόνο ερώτημα είναι το πότε θα συμβεί αυτή.

Σήμερα, μια μικρή ομάδα 10 μαθηματικών/προγραμματιστών και 10 μηχανικών, ένα τέτοιο σύστημα μπορεί σε λιγότερο από 12 μήνες να το έχει:

• σχεδιάσει,

• τυπώσει σε τρισδιάστατους εκτυπωτές,

• συναρμολογήσει χρησιμοποιώντας απλά εξαρτήματα του εμπορίου και

• τεστάρει.

Με μια αρχική χρηματοδότηση €5 εκατ. - €10 εκατ. για τη σχεδίαση και κατασκευή των πρωτότυπων, με διάφορες πλατφόρμες drone αέρος, θαλάσσης, εδάφους ή υποβρύχιες, που θα χρησιμοποιούν το ίδιο Agentic AI, μια μικρή χώρα μεγέθους Λιθουανίας θα μπορούσε να εξουδετερώσει μια υπερδύναμη σε λίγες εβδομάδες, χωρίς η υπερδύναμη να καταλάβει καν ποιος της επιτίθεται.

Αυτό το απλό σύστημα μπορεί να το εξελίξει οποιαδήποτε χώρα σήμερα.

Ένα αρνητικό στο σενάριο των αυτόνομων Agentic AI drone swarms είναι ότι, αν δεν υπάρχει μηχανισμός ακύρωσης της αποστολής, θα μπορεί ένα τέτοιο σύστημα να φύγει για αποστολή και, αν δεν βρει το παράθυρο ευκαιρίας, να περιμένει ημέρες, εβδομάδες ή μήνες και να ολοκληρώσει την αποστολή του ίσως λίγους μήνες μετά την υπογραφή μιας ειρηνευτικής συνθήκης.

Άλλο αρνητικό είναι ότι μπορεί στον δρόμο να αποφασίσει ότι ο στόχος του δεν είναι επαρκώς καταστροφικός και να αλλάξει στόχο, π.χ. να πάει να ανατινάξει το προεδρικό μέγαρο ή το Πεντάγωνο της εχθρικής δύναμης.

Το AI εξισώνει την αποτρεπτική ισχύ των μικρών με αυτή των πιο ισχυρών στρατιωτικών δυνάμεων. Αυτό όμως σημαίνει και ότι μια μικρή ομάδα τρομοκρατών με πρόσβαση στην τεχνολογία μπορεί να γονατίσει μια ολόκληρη χώρα, χωρίς ποτέ να μάθει κανείς ποιος έκανε τις καταστροφές.

Το κουτί της Πανδώρας έχει ήδη ανοίξει.

agissilaos@gmail.com