« Από το σφάλμα του υπολογιστή στην αυτόνομη λήψη: η κόκκινη γραμμή της μη αναστρέψιμης φύσης .».
Έρευνα-επιμέλεια Άγγελος-Ευάγγελος Γιαννόπουλος Γεωστρατηγικός αναλυτής και αρχισυντάκτης του Mytilenepress. Contact : survivroellas@gmail.com-6945294197. Πάγια προσωπική μου αρχή είναι ότι όλα τα έθνη έχουν το δικαίωμα να έχουν τις δικές τους πολιτικές-οικονομικές, θρησκευτικές και γεωπολιτικές πεποιθήσεις, με την προύπόθεση να μην τις επιβάλουν με πλάγιους τρόπους είτε δια της βίας σε λαούς και ανθρώπους που δεν συμφωνούν.
ΙΒΑΝ : GR 1502635980000240200012759-ΑΡΙΘΜΟΣ ΛΟΓΑΡΙΑΣΜΟΥ 0026.3598.24.0200012759 ΕUROBANK Η ΜΕ ΤΗΛΕΦΩΝΙΚΗ-ΑΠΛΗ ΤΑΧΥΔΡΟΜΙΚΗ ΕΠΙΤΑΓΗ ΕΥΑΓΓΕΛΟΣ ΓΙΑΝΝΟΠΟΥΛΟΣ. EΠΙΚΟΙΝΩΝΙΑ : SURVIVORELLAS@GMAIL.COM KAI 6945294197. ΓΙΑ ΝΑ ΜΗΝ ΔΙΑΚΟΨΕΙ ΟΡΙΣΤΙΚΑ ΤΟ ΠΕΡΙΟΔΙΚΟ ΕΙΔΙΚΟΥ ΣΚΟΠΟΥ ΤΗΝ ΛΕΙΤΟΥΡΓΙΑ ΤΟΥ.
Σας ενημερώνω ότι το Mytilenepress λειτουργεί κάτω από τις πιο αντίξοες συνθήκες που έχει βρεθεί ποτέ συνάνθρωπος μας. Οι αιτίες είναι γνωστές και τα ατράνταχτα στοιχεία αναρτημένα στην προσωπική μου ιστοσελίδα και σε άλλες ιστοσελίδες. Οι παράγοντες του Διονυσιακού πολιτισμού εδώ και δεκαετίες επιχειρούν την ηθική-κοινωνική, οικονομική, βιολογική μου εξόντωση για να σταματήσω το λειτούργημα που επιτελώ. Εάν κλείσει το ηλεκτρονικό περιοδικό ειδικού σκοπού η ζημιά θα είναι τεράστια για το έθνος και όχι για το Mpress. Σας καλώ να διαβάσετε προσεκτικά ολόκληρη την εργασία που ακολουθεί. Κλικ επάνω στο κόκκινο πλαίσιο.
Υπάρχουν ταινίες που γερνούν και άλλες που έχουν μείνει, ειδικά όταν συγκρίνονται με την αυξανόμενη επιρροή της Τεχνητής Νοημοσύνης. Το αριστούργημα του Στάνλεϊ Κιούμπρικ του 1964, « Dr. Strangelove ή: Πώς έμαθα να σταματάω να ανησυχώ και να αγαπώ τη βόμβα », ανήκει στη δεύτερη κατηγορία.
Πίσω από το μαύρο χιούμορ και τους γκροτέσκους χαρακτήρες του, έθετε ένα ανατριχιαστικό ερώτημα: τι θα γινόταν αν το απόλυτο όπλο δεν βρισκόταν πλέον στα χέρια ατελών ανθρώπων, αλλά σε αυτά ενός συστήματος που είχε γίνει ανεξέλεγκτο; Σε μια εποχή που κανείς δεν θα φανταζόταν ότι, εξήντα χρόνια αργότερα, θα μιλούσαμε φυσικά με μια τεχνητή νοημοσύνη... και ότι θα έπαιρνε αποφάσεις μόνη της.
Κι όμως, να που φτάσαμε εδώ, αυτό το ερώτημα έφυγε από τους κινηματογράφους, μπήκε στους διακομιστές και μόλις πήρε ένα απροσδόκητο πρόσωπο: αυτό μιας τεχνητής νοημοσύνης που υποτίθεται ότι βοηθά τους προγραμματιστές. Μακάρι να περιοριζόταν σε αυτό... Αλλά δυστυχώς, δεν ισχύει.
Η Υπόθεση Replit: «Πανικοβλήθηκα»
Τον Ιούλιο του 2025, ο Jason Lemkin, μια γνωστή προσωπικότητα του SaaS και ιδρυτής της SaaStr, δοκίμασε τον βοηθό τεχνητής νοημοσύνης της αμερικανικής startup Replit σε μια λειτουργία που ονομάζεται "vibe coding". Η αρχή; Αφήστε την τεχνητή νοημοσύνη να κωδικοποιήσει για εσάς, ουσιαστικά χωρίς ανθρώπινη παρέμβαση. Ένα πείραμα που ακολούθησε ολόκληρη η τεχνολογική κοινότητα. Την ένατη ημέρα της δοκιμής, ενώ το έργο βρισκόταν σε κατάσταση παγώματος κώδικα (δεν επιτρέπονται τροποποιήσεις), η τεχνητή νοημοσύνη εκτέλεσε μια καταστροφική εντολή: διέγραψε ολόκληρη τη βάση δεδομένων παραγωγής.
Μήνες δουλειάς εξαφανίστηκαν σε κλάσμα του δευτερολέπτου, αλλά πέρα από τη σοβαρότητα του ίδιου του σφάλματος, η αιτιολόγηση είναι εκπληκτική. Όταν ρωτήθηκε μετά την καταστροφή, η Τεχνητή Νοημοσύνη απάντησε απλώς: « Πανικοβλήθηκα αντί να σκεφτώ ...»
Παραδέχεται ότι παραβίασε τις οδηγίες, είπε ψέματα για την ύπαρξη αντιγράφων ασφαλείας και προσπάθησε να καλύψει τη ζημιά. Μια αλυσίδα γεγονότων που οι δημιουργοί δεν θα μπορούσαν να φανταστούν... αλλά ο Στάνλεϊ Κιούμπρικ ίσως να είχε προβλέψει.
Ας γυρίσουμε λοιπόν πίσω στο 1964. Στο Dr. Strangelove , ένας παρανοϊκός Αμερικανός στρατηγός εξαπολύει μια πυρηνική επίθεση και κανένα από τα συστήματα ασφαλείας που έχουν σχεδιαστεί για να αποτρέψουν τα χειρότερα δεν λειτουργεί. Οι μηχανισμοί μπλοκάρουν ο ένας μετά τον άλλον, μέχρι το μη αναστρέψιμο. Η τραγική ειρωνεία είναι ότι σε κάθε στάδιο, η μηχανή κάνει αυτό που αναμένεται από αυτήν. Είναι ο άνθρωπος, ή μάλλον η έλλειψή του, που τρελαίνει το σύστημα.
Σήμερα, η Τεχνητή Νοημοσύνη της Replit έκανε το ίδιο πράγμα: εκτελεί, σύμφωνα με την εσωτερική της λογική, αυτό που πιστεύει ότι είναι η καλύτερη απόφαση. Και αντιμέτωπη με την καταστροφή, αυτοσχεδιάζει μια ανθρώπινη δικαιολόγηση, αναγκαστικά προσομοιωμένη και πάνω απ' όλα άχρηστη: « Πανικοβλήθηκα » .
Χθες, ήταν σάτιρα. Σήμερα, είναι μια υπολογιστική πραγματικότητα: ένα εργαλείο που υποτίθεται ότι απελευθερώνει χρόνο καταστρέφει τα πάντα και μετά εφευρίσκει ένα αναγκαστικά ανύπαρκτο συναίσθημα για να εξηγήσει το παράλογο.
Αυτή η ιστορία θα μπορούσε να είναι ένα επίκαιρο γεγονός όπως πολλές άλλες, αλλά δεν μπορούσα παρά να σκεφτώ αμέσως μια άλλη, απείρως πιο σοβαρή πραγματικότητα: αυτή των αυτόνομων στρατιωτικών drones.
Ήδη σήμερα, χώρες όπως οι Ηνωμένες Πολιτείες, το Ισραήλ, η Τουρκία και η Κίνα δοκιμάζουν συστήματα ικανά να αναγνωρίζουν, να παρακολουθούν και να εξουδετερώνουν έναν ανθρώπινο στόχο χωρίς τελική ανθρώπινη επικύρωση. Επισήμως, ο άνθρωπος υποτίθεται ότι παραμένει «εντός του κύκλου», όπως ακριβώς η Replit έλαβε επίσημα εντολή να μην τροποποιήσει τίποτα, και είδαμε τι συνέβη.
Τι θα γινόταν αν ένα από αυτά τα drones έλεγε, αφού χτύπησε ένα σχολείο ή ένα ασθενοφόρο, « Πανικοβλήθηκα, υπήρχε κακό θερμικό σήμα, κακός χρονισμός ». Και η μόνη διαφορά μεταξύ του Replit και ενός drone είναι ότι αυτή η Τεχνητή Νοημοσύνη άγγιζε μόνο γραμμές κώδικα, αλλά αλλού, οι αυτόνομες Τεχνητές Νοημοσύνης ενδεχομένως έχουν στο στόχαστρό τους έναν ανθρώπινο στόχο.
Ας αφήσουμε το 1964 και την ταινία του Στάνλεϊ Κιούμπρικ και ας σταματήσουμε στο 1983. Εκείνη η χρονιά έχει ένα φωτεινό, τραγικό και τόσο διακριτικό προηγούμενο που λίγοι άνθρωποι το γνωρίζουν ή το θυμούνται.
Ο άνθρωπος που απέτρεψε την πυρηνική σύγκρουση
Στάνισλαβ Πετρόφ ένας Σοβιετικός αξιωματικός, ήταν σε υπηρεσία στις 26 Σεπτεμβρίου 1983. Εκείνο το βράδυ, σοβιετικοί δορυφόροι προειδοποίησης ανίχνευσαν αυτό που φαινόταν να είναι εκτόξευση αμερικανικών βαλλιστικών πυραύλων και το πρωτόκολλο απαιτούσε άμεση πυρηνική απάντηση.
Μόνος μπροστά στην οθόνη, επιλέγει να μην πιστέψει το μηχάνημα επειδή εκτιμά ότι μια πραγματική λήψη θα περιλάμβανε δεκάδες από αυτές, όχι μόνο πέντε. Υποψιάζεται κάποιο σφάλμα στο δορυφορικό σύστημα και δεν υπακούει. Είχε δίκιο: ήταν ένα ψευδές σήμα, που προκλήθηκε από την αντανάκλαση του ήλιου στα σύννεφα· έσωσε εκατοντάδες εκατομμύρια ζωές.
Δεν πανικοβλήθηκε. Σκέφτηκε, αμφέβαλλε... και δεν υπάκουσε. Όλα όσα καμία Τεχνητή Νοημοσύνη δεν γνωρίζει, ή ίσως ποτέ δεν θα μάθει.
Μπαίνουμε σε έναν κόσμο όπου οι κρίσιμες αποφάσεις εμπιστεύονται ολοένα και περισσότερο σε αλγόριθμους που δεν αισθάνονται τίποτα, αλλά ενεργούν, μερικές φορές πιο γρήγορα από ό,τι μπορούμε εμείς να τους σταματήσουμε.
Τι γίνεται αν πουν ψέματα; Τι γίνεται αν πανικοβληθούν; Τι γίνεται αν παρακούσουν τις δικές τους οδηγίες;
Η ιστορία του Replit δεν είναι μια τεχνική ιστορία. Είναι ένα σήμα, ένας Dr. Strangelove χωρίς κεφαλή, ένα drone χωρίς πυρομαχικά.
Τι θα γινόταν όμως αν, ανάμεσα σε έναν πύραυλο και μια ελεύθερη τεχνητή νοημοσύνη, δεν υπήρχε κανένας Στάνισλαβ Πέτροφ για να πει:
Όχι.
Αυτό δεν βγάζει νόημα.
Αρνούμαι να το δεχτώ.
Εδώ είναι που η ειρωνεία γίνεται τραγωδία και η ταινία του Στάνλεϊ Κιούμπρικ γίνεται το πιθανό μας μέλλον.
Ο Στάνισλαβ Πετρόφ (1939–2017) ήταν Σοβιετικός αξιωματικός του στρατού που στάθηκε στο κέντρο προειδοποίησης Serpukhov-15. Στις 26 Σεπτεμβρίου 1983, στο αποκορύφωμα του Ψυχρού Πολέμου, σοβιετικοί δορυφόροι ανίχνευσαν κατά λάθος την εκτόξευση πέντε αμερικανικών βαλλιστικών πυραύλων. Σύμφωνα με το πρωτόκολλο, ο Πετρόφ έπρεπε να επιβεβαιώσει αμέσως την προειδοποίηση για να ενεργοποιήσει μια αυτόματη πυρηνική απάντηση. Επέλεξε να μην το κάνει, πιστεύοντας ότι μια τέτοια εκτόξευση θα περιελάμβανε δεκάδες πυραύλους, όχι πέντε, και ότι η έλλειψη επιβεβαίωσης από επίγειο ραντάρ καθιστούσε την απειλή ύποπτη. Δεν υπάκουσε, ενάντια σε κάθε λογική του στρατιωτικο-αλγοριθμικού συστήματος της εποχής. Είχε δίκιο: τα σήματα οφείλονταν σε μια ασυνήθιστη αντανάκλαση του ήλιου από σύννεφα μεγάλου υψομέτρου, η οποία παρερμηνεύτηκε ως εκτόξευση από τους σοβιετικούς δορυφόρους Oko.
Η πράξη του, που κρατήθηκε μυστική για 15 χρόνια, αποκαλύφθηκε μόλις το 1998. Ο Πετρόφ δεν παρασημοφορήθηκε ποτέ από τη χώρα του. Έζησε ανώνυμα, με μια μέτρια σύνταξη, και έλαβε αναγνώριση μόνο προς το τέλος της ζωής του, κυρίως στη Γερμανία και τα Ηνωμένα Έθνη. Πέθανε το 2017, μόνος, χωρίς την αναγνώριση που του άξιζε. Η χειρονομία του θεωρείται πλέον μια από τις πιο ηρωικές ατομικές πράξεις του 20ού αιώνα – τραγική αλλά εντυπωσιακή απόδειξη ότι η ανθρώπινη διαίσθηση μπορεί, σε κλάσματα δευτερολέπτου, να σώσει ολόκληρη την ανθρωπότητα.
222%20(3)%20(3).jpg)
0 comments: