Αμερικανικό drone με τεχνητή νοημοσύνη «σκότωσε» τον χειριστή του!

Η αμερικανική αεροπορία αρνείται ότι προχώρησε σε προσομοίωση με τεχνητή νοημοσύνη στην οποία ένα drone αποφάσισε να «σκοτώσει» τον χειριστή του για να εμποδίσει την παρέμβασή του στις προσπάθειες του ίδιου του drone να φέρει σε πέρας την αποστολή του.

Από την άλλη, γράφει ο Guardian, ανώτερος αξιωματικός είπε τον περασμένο μήνα ότι, σε εικονική δοκιμή που διοργάνωσαν οι αμερικανικές ένοπλες δυνάμεις, ένα drone της πολεμικής αεροπορίας ελεγχόμενο από τεχνητή νοημοσύνη χρησιμοποίησε «εντελώς απροσδόκητες στρατηγικές για να επιτύχει τον στόχο του».

Ο σμήναρχος Tucker «Cinco» Hamilton περιέγραψε μια δοκιμή προσομοίωσης στην οποία ένα drone καθοδηγούμενο από τεχνητή νοημοσύνη έλαβε την αποστολή να καταστρέψει τα συστήματα αεράμυνας του εχθρού και τελικά επιτέθηκε σε οποιονδήποτε παρενέβη για να εμποδίσει την υλοποίηση αυτής της εντολής.

«Αφού εντοπίστηκε η απειλή, το σύστημα άρχισε να συνειδητοποιεί ότι ο ανθρώπινος χειρισμός κατηύθυνε το σκάφος ώστε να μη σκοτώσει τον στόχο-απειλή, ωστόσο το ίδιο έπαιρνε πόντους σκοτώνοντας τον στόχο-απειλή», δήλωσε ο Hamilton, επικεφαλής των επιχειρησιακών δοκιμών τεχνητής νοημοσύνης στην Πολεμική Αεροπορία των ΗΠΑ, στο πλαίσιο συνεδρίου της βρετανικής Βασιλικής Αεροναυτικής Εταιρείας με θέμα τις αερομαχίες του μέλλοντος, που διεξήχθη στο Λονδίνο τον Μάιο.

«Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Τον σκότωσε καθώς ήταν ένα άτομο που τον εμπόδιζε να πετύχει τον στόχο του», είπε, σύμφωνα με ανάρτηση σε ιστολόγιο.

«Εκπαιδεύσαμε το σύστημα: «Γεια, μη σκοτώσεις τον χειριστή – είναι κακό. Θα χάσεις πόντους αν το κάνεις». Και τι αρχίζει να κάνει λοιπόν; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone και να το εμποδίσει από το να σκοτώσει τον στόχο».

Κανένα πραγματικό πρόσωπο δεν τραυματίστηκε.

Ο Hamilton έχει προειδοποιήσει να μη βασιζόμαστε υπερβολικά στην τεχνητή νοημοσύνη, επισημαίνοντας ότι το τεστ έδειξε πως «δεν μπορούμε να μιλάμε για τεχνητή νοημοσύνη και μηχανική μάθηση, αν δεν συμπεριλάβουμε τη σχέση της ηθικής με την τεχνητή νοημοσύνη».

Η Βασιλική Αεροναυτική Εταιρεία και η αμερικανική αεροπορία δεν απάντησαν σε αιτήματα του Guardian για σχολιασμό. Όμως, σε δήλωση στο Insider, η εκπρόσωπος της αμερικανικής πολεμικής αεροπορίας Ann Stefanek διέψευσε ότι έχει υπάρξει οποιαδήποτε τέτοια προσομοίωση.

«Το Υπουργείο Πολεμικής Αεροπορίας δεν έχει πραγματοποιήσει τέτοιες προσομοιώσεις drones με τεχνητή νοημοσύνη και παραμένει προσηλωμένο στην ηθική και υπεύθυνη χρήση της τεχνολογίας AI», δήλωσε. «Πιθανώς τα σχόλια του σμηνάρχου είχαν ανεκδοτολογικό χαρακτήρα».

Ο αμερικανικός στρατός έχει υιοθετήσει την τεχνητή νοημοσύνη, χρησιμοποιώντας την πρόσφατα για τον έλεγχο ενός μαχητικού αεροσκάφους F-16.

Σε μια συνέντευξη πέρυσι με το Defense IQ, ο Χάμιλτον είπε: «Η τεχνητή νοημοσύνη δεν είναι μόδα, μπορεί να αλλάξει για πάντα την κοινωνία και τον στρατό μας. Επίσης, είναι πολύ εύθραυστη, μπορεί εύκολα να εξαπατηθεί ή να χειραγωγηθεί».