Η συνεχιζόμενη σύγκρουση στο Ιράν καταδεικνύει την προηγμένη εξάρτηση των ενόπλων δυνάμεων των ΗΠΑ και του Ισραήλ από την στρατιωτική Τεχνητή Νοημοσύνη, ιδίως για τη στόχευση και τον σχεδιασμό επιθέσεων. Ο βομβαρδισμός ενός σχολείου στο Μινάμπ στις 28 Φεβρουαρίου, που παρουσιάστηκε ως σφάλμα στόχευσης και είχε ως αποτέλεσμα τον θάνατο 168 πολιτών, κυρίως παιδιών, υπογραμμίζει τους νομικούς κινδύνους, τις συστημικές ατέλειες και τα ζητήματα λογοδοσίας.
Η ένοπλη σύγκρουση εναντίον του Ιράν που ξεκίνησε στις 28 Φεβρουαρίου από την Ουάσινγκτον και το Τελ Αβίβ χαρακτηρίστηκε γρήγορα ως ο «πρώτος πόλεμος της Τεχνητής Νοημοσύνης ». Αυτός ο ισχυρισμός είναι, στην πραγματικότητα, παραπλανητικός από πολλές απόψεις. Η Τεχνητή Νοημοσύνη όχι μόνο έχει ήδη χρησιμοποιηθεί εκτενώς σε πρόσφατες συγκρούσεις, ιδίως από το Ισραήλ στη Γάζα , αλλά γενικότερα, η Τεχνητή Νοημοσύνη, ως ψηφιακό μέσο επεξεργασίας και ανάλυσης δεδομένων, έχει μακρά ιστορία στις ένοπλες συγκρούσεις, τα τεχνικά θεμέλια των οποίων χρονολογούνται από τον Δεύτερο Παγκόσμιο Πόλεμο .
Βεβαίως, η ιρανική κατάσταση διακρίνεται από το πρωτοφανές επίπεδο πολυπλοκότητας αυτών των δυνατοτήτων και την πρωτοφανή εξάρτηση των ενόπλων δυνάμεων από αυτές. Διαφέρει επίσης από τη σύγκρουση στη Γάζα στο ότι, αυτή τη φορά, η Τεχνητή Νοημοσύνη έχει αναπτυχθεί εναντίον ενός κράτους-αντίπαλου στο πλαίσιο ενός πολέμου υψηλής έντασης. Τέλος, τα κράτη δεν έχουν ποτέ πριν ανακοινώσει τόσο ανοιχτά τη χρήση αυτών των συστημάτων . Αυτή η επικοινωνία, σε συνδυασμό με τις δραματικές συνέπειες ορισμένων επιθέσεων, εγείρει ερωτήματα σχετικά με τη συμβατότητα αυτών των πρακτικών με το διεθνές δίκαιο.
Τα γεγονότα: η χρήση της Τεχνητής Νοημοσύνης στον πόλεμο του Ιράν
Η χρήση Τεχνητής Νοημοσύνης από το Ισραήλ στον πόλεμό του εναντίον της Χαμάς αποκαλύφθηκε από την εφημερίδα +972 . Αυτό το μέσο ενημέρωσης αποκάλυψε αυτό που πολλοί ειδικοί υποψιάζονταν εδώ και αρκετά χρόνια. Στο πλαίσιο της σύγκρουσης με το Ιράν, ωστόσο, οι ίδιες οι αμερικανικές αρχές ανακοίνωσαν τη χρήση της Τεχνητής Νοημοσύνης.
Πράγματι, ο αμερικανικός στρατός παραδέχτηκε ότι χρησιμοποίησε συστήματα τεχνητής νοημοσύνης για να καταρτίσει και να ιεραρχήσει λίστες στόχων με αστραπιαία ταχύτητα. Αυτή η διαδικασία φέρεται να είχε ως αποτέλεσμα πάνω από 1.000 εξαιρετικά ακριβείς επιθέσεις κατά τη διάρκεια των πρώτων 24 ωρών της σύγκρουσης. Χρησιμοποίησαν, μεταξύ άλλων, το Maven Smart System , ένα κοινό έργο που χρησιμοποιεί το λογισμικό επιτήρησης και συλλογής δεδομένων με τεχνητή νοημοσύνη της Palantir, σε συνδυασμό με το σύστημα γενετικής τεχνητής νοημοσύνης Claude της Anthropic.
Ωστόσο, την πρώτη ημέρα του πολέμου, ένα από τα αμερικανικά πλήγματα στόχευσε ένα σχολείο στο Μινάμπ , σκοτώνοντας περίπου 170 πολίτες, κυρίως παιδιά. Οι Ηνωμένες Πολιτείες αναγνώρισαν την ευθύνη τους για αυτό το πλήγμα, το οποίο παρουσίασαν ως λάθος. Το σχολείο βρισκόταν πράγματι κοντά σε μια ναυτική βάση του Σώματος των Φρουρών της Ισλαμικής Επανάστασης (IRGC). Κάποτε αποτελούσε μέρος του ίδιου συγκροτήματος πριν διαχωριστεί από αυτό. Επομένως, ήταν ξεπερασμένες πληροφορίες που οδήγησαν στην έγκριση του πλήγματος.
Ένα τέτοιο λάθος δεν είναι ασήμαντο. Πολυάριθμα μέσα ενημέρωσης και ΜΚΟ γρήγορα διαπίστωσαν τη σύνδεση μεταξύ του σχολείου και της ναυτικής βάσης. Έχει υποστηριχθεί ότι ο αμερικανικός στρατός πιθανότατα στόχευσε αυτό το κτίριο βάσει παρωχημένων δεδομένων, ακολουθώντας τυφλά μια σύσταση από ένα σύστημα τεχνητής νοημοσύνης χωρίς να διεξάγει την απαραίτητη επαλήθευση.
Η νομιμότητα της χρήσης της Τεχνητής Νοημοσύνης
Σε ποιο βαθμό είναι η χρήση της Τεχνητής Νοημοσύνης για την πραγματοποίηση αυτών των επιθέσεων, και το σφάλμα που διαπράχθηκε, νόμιμο βάσει του διεθνούς δικαίου;
Είναι σημαντικό να διευκρινιστεί καταρχάς ότι η Τεχνητή Νοημοσύνη δεν απαγορεύεται αυτή καθαυτή από το δίκαιο των ένοπλων συγκρούσεων (LAC, γνωστό και ως διεθνές ανθρωπιστικό δίκαιο). Προς το παρόν, κανένας νομικός κανόνας δεν ασχολείται ειδικά με το ζήτημα της νομιμότητάς της. Ωστόσο, το ζήτημα δεν υπάρχει σε νομικό κενό. Οι γενικοί κανόνες του LAC ισχύουν για τη διεξαγωγή εχθροπραξιών, ανεξάρτητα από τα μέσα και τις μεθόδους που χρησιμοποιούνται.
Ένας από αυτούς τους κανόνες είναι η αρχή της διάκρισης, σύμφωνα με την οποία μόνο στρατιωτικοί στόχοι μπορούν να δεχθούν επίθεση, ενώ οι πολίτες και η περιουσία των πολιτών πρέπει να προστατεύονται. Η άμεση στόχευση ενός σχολείου, όπως αυτό στο Μινάμπ, ελλείψει οποιουδήποτε στρατιωτικού στόχου εντός αυτού, συνιστά επομένως σαφή παραβίαση αυτής της αρχής. Ωστόσο, είναι απίθανο ο στρατός των ΗΠΑ να είχε σκόπιμη πρόθεση να καταστρέψει το ίδιο το σχολείο. Όπως σημειώθηκε, πιθανότατα πρόκειται για περίπτωση εσφαλμένης αναγνώρισης του στόχου, πιθανώς συνδεδεμένης με ένα σύστημα τεχνητής νοημοσύνης που έχει εκπαιδευτεί με βάση ξεπερασμένα δεδομένα από την εποχή που το κτίριο ήταν ακόμη συνδεδεμένο με τη ναυτική βάση.
Συνεπώς, η παραβίαση σχετίζεται περισσότερο με την αρχή της προφύλαξης. Η αρχή αυτή ορίζει, ειδικότερα, ότι τα εμπλεκόμενα μέρη σε μια σύγκρουση πρέπει να κάνουν ό,τι είναι πρακτικά δυνατό για να επαληθεύσουν ότι οι στόχοι που δέχονται επίθεση είναι πράγματι στρατιωτικοί στόχοι . Στην προκειμένη περίπτωση, ο αμερικανικός στρατός δεν φαίνεται να έχει πραγματοποιήσει τους απαραίτητους ελέγχους για να διασφαλίσει ότι ο στόχος ήταν σχολείο. Μια βασική επαλήθευση, όπως αυτή που πραγματοποίησαν ορισμένα μέσα ενημέρωσης, θα μπορούσε να είχε διαλύσει γρήγορα κάθε αμφιβολία.
Αξίζει να υπενθυμίσουμε ότι, κατά τη διάρκεια του πολέμου στη Γάζα, αναφέρθηκε ότι οι Ισραηλινοί στρατιώτες είχαν μερικές φορές μόνο είκοσι δευτερόλεπτα για να επικυρώσουν έναν στόχο, εγείροντας ερωτήματα σχετικά με την πρακτική σκοπιμότητα της αποτελεσματικής τήρησης αυτής της αρχής. Οι ανησυχίες σχετικά με την στρατιωτική Τεχνητή Νοημοσύνη συχνά επικεντρώνονται στο ζήτημα της αυτονομίας και στον κίνδυνο ένα σύστημα να ορίζει και να εμπλέκει έναν στόχο από μόνο του. Αυτή είναι η ουσία των αυτόνομων θανατηφόρων οπλικών συστημάτων. Αυτό το παράδειγμα, ωστόσο, καταδεικνύει ότι ακόμη και ο τυπικά διατηρούμενος ανθρώπινος έλεγχος μπορεί να είναι απλώς μια απάτη εάν ο χειριστής δεν διαθέτει τον χρόνο και τις δεξιότητες κριτικής σκέψης που είναι απαραίτητες για να αξιολογήσει μια αλγοριθμική σύσταση.
Από την ιρανική πλευρά, πρέπει να σημειωθεί ότι αγνοήθηκε επίσης η αρχή της προφύλαξης. Αυτή η αρχή όχι μόνο επιβάλλει υποχρεώσεις στον επιτιθέμενο, αλλά απαιτεί επίσης από το μέρος που δέχεται την επίθεση να λάβει ορισμένες παθητικές προφυλάξεις: ειδικότερα, τα μέρη πρέπει να κρατούν τους πολίτες και την περιουσία των πολιτών μακριά από στρατιωτικούς στόχους . Στην περίπτωση αυτή, η μετατροπή ενός κτιρίου σε ναυτική βάση σε σχολείο, διατηρώντας το παράλληλα σε άμεση γειτνίαση με το υπόλοιπο στρατιωτικό συγκρότημα, εξέθεσε σκόπιμα αυτήν την πολιτική εγκατάσταση στους κινδύνους που σχετίζονται με τη διεξαγωγή εχθροπραξιών.
Ποιες είναι οι νομικές, πολιτικές και ηθικές ευθύνες;
Ατομική ευθύνη. Η επίθεση δεν συνιστά έγκλημα πολέμου .
Εάν η επίθεση συνιστά παραβίαση του DCA, είναι πιθανό κανένα Αμερικανό μέλος των ενόπλων δυνάμεων να μην καταδικαστεί για τέτοιες πράξεις. Εκτός από τα ζητήματα δικαιοδοσίας, το κύριο εμπόδιο έγκειται στο γεγονός ότι ούτε η παραβίαση της αρχής της προφύλαξης ούτε τα σφάλματα που οδηγούν σε παραβιάσεις του DCA συνιστούν εγκλήματα πολέμου βάσει του διεθνούς ποινικού δικαίου.
Η φυσική πράξη ορίζεται σαφώς, αλλά το στοιχείο της πρόθεσης —δηλαδή, η βούληση για διάπραξη του αδικήματος— απουσιάζει. Το ισχύον διεθνές καθεστώς ποινικής ευθύνης δεν αναγνωρίζει την ευθύνη για αμέλεια σε αυτό το πλαίσιο. Αυτή η ρεαλιστική προσέγγιση θα μπορούσε παρόλα αυτά να εξελιχθεί. Αφενός, εάν τα σφάλματα αλγοριθμικής στόχευσης γίνουν συχνότερα, η «λογικότητα» του σφάλματος θα γίνει ολοένα και πιο δύσκολο να επικαλεστεί κανείς, και η συνειδητή χρήση ενός συστήματος γνωστού για τα ελαττώματά του θα μπορούσε να οδηγήσει σε μια μορφή έμμεσης πρόθεσης στόχευσης αμάχων. Από την άλλη πλευρά, ο νόμος θα μπορούσε να εξελιχθεί στο μέλλον για να επιβάλλει κυρώσεις σε στρατιωτικό προσωπικό που, λόγω αμέλειας, προκαλεί τον θάνατο αμάχων.
Η ευθύνη των εταιρειών τεχνητής νοημοσύνης. Μια διελκυστίνδα μεταξύ οικονομικών και πολιτικών δυνάμεων .
Ένα άλλο σημείο ανησυχίας σχετίζεται με τον ρόλο των ιδιωτικών εταιρειών τεχνητής νοημοσύνης, οι οποίες κατέχουν επί του παρόντος το μεγαλύτερο μέρος της τεχνολογικής εμπειρογνωμοσύνης που αναπτύσσεται στο πεδίο της μάχης. Αυτές οι εταιρείες θα μπορούσαν να θεωρηθούν υπεύθυνες όταν αναπτύσσουν ελαττωματικά συστήματα, αλλά πέρα από αυτήν την ευθύνη, προκύπτει ένα θεμελιώδες ηθικό και πολιτικό ερώτημα σχετικά με την πώληση τεχνολογιών τεχνητής νοημοσύνης για στρατιωτικούς σκοπούς.
Λίγο πριν οι Ηνωμένες Πολιτείες εισέλθουν στον πόλεμο, η Anthropic, η κατασκευάστρια εταιρεία του συστήματος Claude, αντιτάχθηκε στην απεριόριστη συνεργασία με το Πεντάγωνο, ιδίως στα αυτόνομα όπλα, επικαλούμενη τις ηθικές του δεσμεύσεις και τους περιορισμούς της τεχνικής αξιοπιστίας των συστημάτων του για τις προβλεπόμενες χρήσεις. Το Πεντάγωνο κατηγόρησε στη συνέχεια την Anthropic για προδοσία , αν και τα συστήματά της εξακολουθούν να χρησιμοποιούνται από τον στρατό.
Άλλες εταιρείες του κλάδου, όπως η OpenAI, η Google, η Amazon και η Microsoft, φαίνεται να συνεργάζονται πλήρως με τις ένοπλες δυνάμεις, ουσιαστικά καθιερώνοντας τον εαυτό τους ως πραγματικές αμυντικές εταιρείες. Είναι ενδιαφέρον να σημειωθεί ότι οι εταιρείες που συνήθως καθοδηγούνται από το κέρδος έχουν μερικές φορές περισσότερες επιφυλάξεις για αυτό το θέμα από ορισμένα κράτη, τα οποία υποτίθεται ότι είναι οι εγγυητές του δημόσιου συμφέροντος.
Ευθύνη του κράτους. Να λογοδοτείς για τις πράξεις σου και να αποτρέπεις μελλοντικές παραβιάσεις .
Τα κράτη που αναπτύσσουν και χρησιμοποιούν στρατιωτική Τεχνητή Νοημοσύνη φέρουν ιδιαίτερη ευθύνη. Σε αυτήν την περίπτωση, οι Ηνωμένες Πολιτείες φέρουν διεθνή ευθύνη για τη διάπραξη μιας διεθνώς παράνομης πράξης. Αυτή η ευθύνη σίγουρα θα είναι δύσκολο να επιβληθεί στην πράξη. Αλλά πέρα από αυτό, προκύπτει μια νομική και πολιτική ευθύνη. Σύμφωνα με το Άρθρο 1, κοινό στις Συμβάσεις της Γενεύης, τα κράτη έχουν την υποχρέωση να σέβονται και να διασφαλίζουν τον σεβασμό του διεθνούς δικαίου. Ωστόσο, η ανάπτυξη στρατιωτικής Τεχνητής Νοημοσύνης τείνει να υπονομεύει αυτόν τον σεβασμό, ακόμη και να διευκολύνει και να αποκρύπτει παραβιάσεις του διεθνούς δικαίου.
Αρκετοί μηχανισμοί θα μπορούσαν να περιορίσουν αυτό το φαινόμενο, όπως η εκπαίδευση του στρατιωτικού προσωπικού στις ιδιαιτερότητες των συστημάτων Τεχνητής Νοημοσύνης, η ανάπτυξη κανόνων εμπλοκής ειδικών για την Τεχνητή Νοημοσύνη, η παροχή τεχνικών εγγυήσεων για την αξιοπιστία και τη διαφάνεια του συστήματος και η διεξαγωγή τακτικών δοκιμών και αξιολογήσεων. Αρκετές διεθνείς πρωτοβουλίες απαιτούν την ενσωμάτωση τέτοιων μέτρων σε νέα νομικά μέσα. Ωστόσο, απουσιάζει η πολιτική βούληση, ιδίως μεταξύ των κρατών που βρίσκονται στην πρώτη γραμμή της ανάπτυξης και χρήσης στρατιωτικής Τεχνητής Νοημοσύνης.
Έτσι, ο Pete Hegseth, ο Υπουργός Άμυνας των ΗΠΑ, φαίνεται να ενεργεί προς την αντίθετη κατεύθυνση. Πρόσφατα απέλυσε στρατιωτικούς νομικούς συμβούλους, τους οποίους θεωρούσε εμπόδια στην ορθή διεξαγωγή των εχθροπραξιών και χαρακτήρισε τους κανόνες εμπλοκής ανόητους . Γενικότερα, οι Ηνωμένες Πολιτείες αντιτίθενται σε οποιαδήποτε διεθνή νομική ρύθμιση της στρατιωτικής Τεχνητής Νοημοσύνης. Έτσι, η Τεχνητή Νοημοσύνη φαίνεται να αποτελεί τόσο κινητήρια δύναμη όσο και σύμπτωμα μιας βαθιάς διάβρωσης της αεράμυνας.
Ο Ζακ Λακάν είπε: «Το πραγματικό είναι όταν πέφτεις πάνω σε πράγματα». Το ατύχημα στο Μινάμπ είναι ένα δραματικό γεγονός που επιβεβαιώνει τους κινδύνους για τους οποίους προειδοποιούν εδώ και αρκετά χρόνια οι ειδικοί στην στρατιωτική τεχνητή νοημοσύνη και θα έπρεπε να είχε προκαλέσει μια πολύ ισχυρότερη αντίδραση.
Στην πραγματικότητα, αυτές οι πληροφορίες φαίνεται να έχουν επισκιαστεί από άλλες σκέψεις που θεωρούνται πιο επείγουσες και πιο ορατές στο πλαίσιο αυτού του πολέμου, ξεκινώντας από τον πυρηνικό κίνδυνο . Το ατύχημα στο Μινάμπ δεν παρείχε το αναμενόμενο κίνητρο για να ωθήσει τα κράτη να συμφωνήσουν σε ένα συγκεκριμένο νομικό πλαίσιο που θα εφαρμόζεται στην στρατιωτική Τεχνητή Νοημοσύνη. Μένει να δούμε αν ένα τέτοιο κίνητρο είναι ακόμα εφικτό ή ακόμη και επιθυμητό.
PHGH: The Conversation – Λούις Πέρεζ – Μεταδιδακτορικός Ερευνητής στο Διεθνές Δίκαιο, Πανεπιστήμιο Paris-Panthéon-Assas
