Η ανθρωπότητα αντιμετωπίζει μια νέα σοβαρή πραγματικότητα - την άνοδο των αυτόνομων όπλων. Μπορεί να ακούγεται σαν χειρόγραφο του Χόλιγουντ, αλλά ο κίνδυνος είναι πραγματικός: οι άνθρωποι που έχουν απομακρυνθεί από τις επιλογές του πολέμου, ότι η λήψη αποφάσεων για τη ζωή και το θάνατο αφήνεται αποτελεσματικά στους αισθητήρες και το λογισμικό.
Ποιο είδος μελλοντικού αργαλειού αν η λήψη μιας ανθρώπινης ζωής υποβιβάζεται σε αλγόριθμους; Τα ρομπότ και τα συστήματα υπολογιστών δεν έχουν τη ξεχωριστή και μοναδική ανθρώπινη ικανότητα να κατανοούν τόσο το πολύπλοκο περιβάλλον στο οποίο λειτουργούν όσο και τα όπλα που χρησιμοποιούν.Επιπλέον, τα πιο σύνθετα συστήματα όπλων γίνονται - για παράδειγμα ενσωματώνοντας τη μηχανική μάθηση - και με την μεγαλύτερη ελευθερία που τους παρέχεται να αναλάβουν δράση χωρίς ανθρώπινη παρέμβαση, τόσο πιο απρόβλεπτες είναι οι συνέπειες στη χρήση τους.
Εμείς στη Διεθνή Επιτροπή του Ερυθρού Σταυρού πιστεύουμε ότι η ευθύνη για τις αποφάσεις για τη θανάτωση, τον τραυματισμό και την καταστροφή πρέπει να παραμείνει στον άνθρωπο. Είναι ο άνθρωπος στρατιώτης ή μαχητής - όχι μηχανή - που καταλαβαίνει τον νόμο και τις συνέπειες της παραβίασης του και ποιος είναι υπεύθυνος για την εφαρμογή του. Αυτές οι υποχρεώσεις δεν μπορούν να μεταφερθούν σε ένα πρόγραμμα υπολογιστή. Οι κυβερνήσεις - με τη συμβολή της κοινωνίας των πολιτών και της βιομηχανίας τεχνολογίας - δεν πρέπει να χάσουν χρόνο για να συμφωνήσουν στα όρια της αυτονομίας στα οπλικά συστήματα.
Οι τεχνολογικές εξελίξεις αποτελούν μεγάλες ευκαιρίες. Είτε πρόκειται για τομείς της ιατρικής, των μεταφορών, της γεωργίας, του εμπορίου, του χρηματοπιστωτικού τομέα ή σχεδόν οποιουδήποτε άλλου τομέα, η ρομποτική, η AI και η μηχανική μάθηση έχουν μετασχηματιστικό αποτέλεσμα προωθώντας τον τρόπο με τον οποίο αναλύουμε και ενεργούμε βάσει δεδομένων από τον κόσμο γύρω μας. Είναι λογικό να λαμβάνεται υπόψη αυτή η τεχνολογία για λόγους εθνικής ασφάλειας και άμυνας, γι 'αυτό δεν αποτελεί έκπληξη το γεγονός ότι βλέπουμε πολλές χώρες να επενδύουν σε μεγάλο βαθμό σε ΑΙ και σε στρατιωτικά ρομποτικά συστήματα με μεγαλύτερη αυτονομία.
Αλλά όταν πρόκειται για ένοπλη σύγκρουση, δεν πρέπει να ξεχνάμε ότι ακόμη και οι πόλεμοι έχουν όρια. Οι κυβερνήσεις που πρέπει τώρα να καθορίσουν τα όρια για αυτόνομα συστήματα όπλων πρέπει να εξασφαλίσουν τη συμμόρφωση με το διεθνές ανθρωπιστικό δίκαιο και να εδραιωθούν σταθερά στις αρχές της ανθρωπότητας και των υπαγορευμένων της δημόσιας συνείδησης.
Τα καλά νέα είναι ότι όταν η ομάδα κυβερνητικών εμπειρογνωμόνων που είχεεπιφορτιστεί με την εξέταση αυτόνομων συστημάτων όπλων συναντήθηκε τον Απρίλιο του τρέχοντος έτους στη Γενεύη της Ελβετίας, υπήρξε ευρεία συμφωνία ότι ο ανθρώπινος έλεγχος πρέπει να διατηρηθεί σε όπλα συστήματα.
Κατά μία έννοια, όμως, αυτό είναι το εύκολο κομμάτι. Κατά την επόμενη συνεδρίασή τους στα τέλη Αυγούστου, οι κυβερνήσεις πρέπει τώρα να βασιστούν σε αυτή τη συμφωνία για να απαντήσουν στην πιο δύσκολη ερώτηση: Ποιο επίπεδο ανθρώπινου ελέγχου απαιτείται για να διασφαλιστεί η συμβατότητα με τους νόμους μας και η αποδοχή μας στις αξίες μας;
Εικόνα: REUTERS
Η απάντηση στο θέμα αυτό έχει σημασία επειδή ορισμένα συστήματα όπλων με αυτονομία στις «κρίσιμες λειτουργίες» τους επιλογής και επίθεσης στόχων χρησιμοποιούνται ήδη σε περιορισμένες περιπτώσεις για πολύ συγκεκριμένα καθήκοντα, όπως η κατάρριψη των εισερχόμενων πυραύλων ή των ρουκετών.Μετά την ενεργοποίηση από έναν ανθρώπινο χειριστή, το σύστημα όπλων επιλέγει έναν στόχο και ξεκινά μια αντίστροφη προσπάθεια.
Ωστόσο, το εύρος των πιθανών μελλοντικών συστημάτων όπλων με σύστημα AI είναι πολύ ευρύτερο. Περιλαμβάνει το πλήρες φάσμα των οπλισμένων ρομποτικών συστημάτων και, ενδεχομένως, βασίζεται στην τεχνολογία των συστημάτων ελέγχου της λήψης αποφάσεων που ήδη δοκιμάζονται, τα οποία αναλύουν τις ροές βίντεο και ανιχνεύουν πιθανούς στόχους.
Με τις νέες εξελίξεις που συμβαίνουν με ρυθμό ιλιγγιώδη, οι κυβερνήσεις - με την υποστήριξη της επιστημονικής και τεχνικής κοινότητας - θα πρέπει να αναλάβει επείγουσα δράση για να συμφωνήσουν σχετικά με τα όρια που θα διατηρήσει το κρίσιμο ανθρώπινο στοιχείο, χωρίς να καταπνίγει ή να επιβραδύνει την τεχνολογική πρόοδο που φέρνει προφανή οφέλη.
Η εναλλακτική λύση είναι η βαθιά αποθαρρυντικό προοπτική μιας νέας κούρσας εξοπλισμών και ένα μέλλον όπου οι πόλεμοι με αλγόριθμους, με αβέβαια αποτελέσματα για τους πολίτες και μαχητές όσο.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου