Αναδημοσιεύουμε εκτεταμένα αποσπάσματα από το πολύ ενδιαφέρον άρθρο του Δημήτρη Λένη στο kosmodromio.gr, με τίτλο «Πεθαίνοντας στη Γάζα: Το Google και η ορθή χρήση της τεχνητής νοημοσύνης» που περιγράφει πως το Ισραήλ χρησιμοποιεί τεχνητή νοημοσύνη (ΤΝ –ΑΙ) για να δολοφονεί μαζικά στη Γάζα αλλά και το πως όσοι διαμαρτύρονται για τη γενοκτονία λογοκρίνονται και περιθωριοποιούνται.
Του Δημήτρη Λένη
Η ΤΝ που σκοτώνει
Ο ισραηλινός στρατός είναι ίσως ο πιο τεχνολογικά προηγμένος στρατός του κόσμου, αλλά και ένας πολύ ηθικός στρατός. Γιατί, όπως δηλώνουν οι ίδιοι οι εκπρόσωποί του, «ως στράτευμα που δεσμεύεται από τον διεθνή νόμο και έναν ηθικό κώδικα συμπεριφοράς, αφιερώνουμε τεράστιους πόρους προκειμένου να ελαχιστοποιήσουμε τη βλάβη που προκαλούμε σε πολίτες, οι οποίοι χρησιμοποιούνται ως ανθρώπινες ασπίδες από τη Χαμάς. Πολεμάμε τη Χαμάς, όχι τους άμαχους της Γάζας».
Πριν η αναγνώστρια χαμογελάσει πικρά, να της υπενθυμίσουμε ότι γενικά στους στρατούς και ειδικά στον ισραηλινό στρατό επιτρέπονται (πιο σωστά, επιβάλλονται) τα ψεύδη. Αλλά επίσης, ακόμα και αυτά τα ψεύδη σταμάτησαν στις 8 Οκτωβρίου. Γιατί οι ανάγκες του πολέμου και η «απίστευτη, χωρίς προηγούμενο» αγριότητα του χτυπήματος της Χαμάς μείωσαν τα στάνταρντ, επιτρέποντας πλέον, ως φαίνεται, μια χωρίς προηγούμενο απάντηση. Η πραγματικότητα εμφανίστηκε σε όλη την τερατώδη γύμνια της: ο στρατός δεν πολεμάει τη Χαμάς, αλλά τους άμαχους της Γάζας.
Όπως ξέρουμε από το εκτενέστατο ρεπορτάζ της ισραηλινής ιστοσελίδας +972, το υπουργείο Άμυνας ανέπτυξε την ΤΝ «Λεβάντα» για την ταυτοποίηση στόχων στη Γάζα. Το πρόγραμμα λειτουργεί ως εξής: Το σύστημα «μαθαίνει» από τα δεδομένα ήδη γνωστών μαχητών της Χαμάς που έχουν ταυτοποιηθεί, συλληφθεί κ.λπ. Εκτός από τα τυπικά προσωπικά δεδομένα (ονόματα, διευθύνσεις, αριθμοί τηλεφώνου κ.λπ.), σε αυτά περιλαμβάνονται και συνήθειες, συχνότητα αλλαγής τηλεφώνου (οι παράνομοι χρησιμοποιούν πολλά τηλέφωνα και ψευδώνυμα), ειδικές συμπεριφορές (αλλαγή κατοικίας, ώρες που κυκλοφορεί), όπως και δίκτυο γνωριμιών και κοινωνικά μέσα (μια εξαιρετική πηγή δεδομένων).
Κατόπιν η «Λεβάντα» χρησιμοποιεί το τεράστιο κύκλωμα παρακολούθησης της Γάζας με κάμερες και ηλεκτρονικά μέσα, ώστε να εξαγάγει δεδομένα σε πραγματικό χρόνο για πρακτικά όλους τους κατοίκους της, έναν προς έναν: πού μένουν, κάθε πότε βγαίνουν από το σπίτι, πού πάνε, τι τρώνε. Αυτά τα συνδυάζει μέσω της αναγνώρισης προσώπου με τα αποθηκευμένα δεδομένα (αριθμό τηλεφώνου, τα άβαταρ σε κοινωνικά δίκτυα). Η ΤΝ μπορεί από αυτά να κατατάσσει κάθε κάτοικο σε κατηγορίες σχέσης με την Χαμάς, αποδίδοντας σε ένα σκορ από το 1 ως το 100. Το 1 σημαίνει «αθώος», το 100 σημαίνει βεβαιότητα ότι πρόκειται για στέλεχος της Χαμάς. Η μηχανή δηλαδή φτιάχνει μια λίστα στόχων για εξολόθρευση, μια kill list, όπως διεθνώς λέγονται αυτοί οι κατάλογοι θεσμικής τρομοκράτησης πληθυσμών.
Το ρεπορτάζ αναφέρει ότι μέχρι πρόσφατα ο στρατός έβαζε ανθρώπους να τσεκάρουν την ακρίβεια των δεδομένων. Ισχυρίζεται δε ότι η ακρίβεια του συστήματος ήταν της τάξης του 90%, δηλαδή ότι 9 στους 10 στόχους που έδινε η «Λεβάντα» ήταν όντως μαχητές της Χαμάς και μόνο μια φορά στις δέκα έκανε λάθος. Το λάθος μπορεί να οφειλόταν λ.χ. στο ότι ένας πατέρας έδινε το τηλέφωνό του στο γιο του, ή επειδή κάποιος μετακόμιζε συχνά ή ήταν συγγενής με ένα στέλεχος της Χαμάς ή άλλους τυχαίους παράγοντες.
Προφανώς, τον ισχυρισμό περί 90% ακρίβειας δεν υπάρχει τρόπος να τον επαληθεύσουμε, αλλά θα πρέπει να είμαστε ιδιαίτερα επιφυλακτικοί. Γενικά, ένα νευρωνικό δίκτυο μπορεί να έχει ποσοστά επιτυχίας πολύ μεγαλύτερα από 90%, αν και αυτό συμβαίνει σε ελεγχόμενα σύνολα δεδομένων. Μια κοινωνία όπως της Γάζας είναι ένα όχι μόνο περίπλοκο, αλλά και εξελισσόμενο, δυναμικό σύστημα. Η Χαμάς έχει ευρύτατες και διαφόρων βαθμών σχέσεις με τον εν γένει πληθυσμό. Ακούγεται πολύ δύσκολο η «επιτυχία» του συστήματος να είναι τόσο υψηλή υπ’ αυτές τις συνθήκες.
Ένα άλλο ζήτημα, πέρα από την ταυτοποίηση των στόχων, είναι ο τρόπος που αυτοί πλήττονται. Ο ισραηλινός στρατός λέει ότι απέφευγε να χτυπήσει τα χαμηλόβαθμα στελέχη, προκειμένου να αποφύγει «παράπλευρες απώλειες», οι οποίες ήταν αποδεκτές μόνο για τα υψηλόβαθμα στελέχη. Τέλος, συνεχίζει η κυρίαρχη αφήγηση περί «ηθικής του πολέμου», όταν γινόταν η ταυτοποίηση του στόχου, η τεχνολογία ήταν πάντα από τη σωστή πλευρά της ιστορίας: χρησιμοποιώντας «έξυπνα» όπλα, όπως λ.χ. «βόμβες ενός πατώματος» (οι οποίες δεν καταστρέφουν ολόκληρο κτίριο, αλλά μόνο σκοτώνουν όσους βρίσκονται σε έναν όροφο), έκαναν «χειρουργικά» χτυπήματα.
Η πραγματικότητα βέβαια, όπως πάντα, μάς δείχνει την άσχημη φάτσα της στις στιγμές κρίσης. Όσο τα πράγματα ήταν ήσυχα και αρκούσαν μόνο μερικά σποραδικά χτυπήματα, φυσικά και υπήρχε έλεγχος και διπλοτσεκάρισμα των στόχων, χρήση ακριβών πλην έξυπνων όπλων, αποφυγή χτυπήματος χαμηλόβαθμων στελεχών κ.λπ. Η στιγμή της κρίσης ήταν μετά την 7η Οκτωβρίου. Πάνω από 30.000 στόχοι ταυτοποιημένοι από τη «Λεβάντα» χτυπήθηκαν. Μοναδικός έλεγχος που γινόταν ήταν το φύλο του στόχου (η Χαμάς δεν έχει γυναίκες μαχήτριες). Τα περισσότερα χτυπήματα έγιναν με φτηνές «χαζές» βόμβες που ισοπεδώνουν ολόκληρα τετράγωνα: ήταν θέμα εθνικής οικονομίας πλέον, οι έξυπνες βόμβες είναι και πολύ ακριβές και υπερβολικά στοχευμένες – αν ο στόχος βρίσκεται σε άλλον όροφο γλιτώνει. Και το κυριότερο: Για μέγιστη επιτυχία χρησιμοποιήθηκε το πρόγραμμα «Πού ’ναι ο μπαμπάς;», ένα πρόγραμμα παρακολούθησης και επιτήρησης που αποφαίνεται πότε ο στόχος είναι στο σπίτι του. Η απόλυτη πλειονότητα χτυπημάτων έγινε κατά τη διάρκεια της νύχτας, με αποτέλεσμα φυσικά τις περισσότερες φορές να μην χτυπιέται ο στόχος, αλλά η οικογένειά του και οι γείτονες, γυναικόπαιδα και γέροι την ώρα που κοιμούνται, όχι μαχητές της Χαμάς.
Το πιο ενδιαφέρον στοιχείο εδώ είναι η γραφειοκρατία της μεταβίβασης της ευθύνης για τη φρίκη, η «κοινοτοπία του κακού», όπως τη λέμε συνήθως. Η μηχανή είναι προγραμματισμένη να βρίσκει και να σκοτώνει Παλαιστίνιους. Ο αξιωματικός της βάρδιας, που είναι υποχρεωμένος από την ηγεσία να χτυπήσει στόχους, δεν χρειάζεται να πάρει αποφάσεις, να διαλέξει ποιος θα είναι ο επόμενος. Το πρόγραμμα διαλέγει τους στόχους που βρίσκονται σπίτι τους και περνάει τις συντεταγμένες στους πυραύλους πάνω στα αεροπλάνα που έχουν ήδη απογειωθεί. Οι πιλότοι πατάνε τη σκανδάλη από πολλά χιλιόμετρα μακριά, χωρίς να έχουν καν οπτική επαφή με τους στόχους. Όλα γίνονται αυτόματα, από μόνα τους. Δεν χρειάζεται κανένας έλεγχος, δεν υπάρχει λόγος για αμφιβολίες, δεν χρειάζονται αναμονές, είναι σαν να μην υπάρχουν άνθρωποι πουθενά σε αυτήν τη διαδικασία, είτε από την πλευρά που αποφασίζει, είτε από την πλευρά που πεθαίνει. Δεν πρόκειται για ανθρώπινους στόχους, είναι απλώς νούμερα σε μια οθόνη, κουμπιά που πατιούνται από χιλιόμετρα μακριά. Η ΤΝ ξαφνικά έχει αναλάβει την ευθύνη για τις δολοφονίες, στην πραγματικότητα τις διαπράττει κιόλας, οπότε ο στρατιώτης δεν χρειάζεται να ασχοληθεί με το ηθικό μέρος. Και δεν χρειάζεται να τον απασχολήσει ούτε το στατιστικό μέρος, τα λάθη που έκανε η μηχανή, οι παράπλευρες απώλειες, τα αθώα θύματα, οι οικογένειες που σκοτώθηκαν, τα κτίρια που ισοπεδώθηκαν. Ιστορικά, η δικαιολογία για τη διάπραξη θηριωδιών ήταν «δεν φταίω εγώ, ακολουθούσα διαταγές»· στο Ισραήλ μετατρέπεται σε «εγώ δεν έκανα τίποτε, η ΤΝ τους διάλεξε και τους σκότωσε (και ορθώς, αφού είναι εγκληματίες)».
Η μηχανή κάνει λάθη, αλλά κάνει λιγότερα λάθη από άνθρωπο, ξέρει καλύτερα από τον άνθρωπο. Η μηχανή δίνει τη διαταγή και την εκτελεί ταυτόχρονα, ο άνθρωπος εκτελεί ένα μικρό μόνο μέρος της αποστολής. Δεν υπάρχει χώρος για τύψεις, οι μηχανές δεν έχουν τύψεις.
