by 
Στρατιωτικό drone της Πολεμικής Αεροπορίας με τεχνητή νοημοσύνη «σκότωσε» τον χειριστή του!
Εικονικά μεν, τον «σκότωσε» δε… Τι έδειξε η προσομοίωση
Σε μια προσομοίωση που διοργάνωσε ο αμερικανικός στρατός, ένα drone της πολεμικής αεροπορίας ελεγχόμενο από την τεχνητή νοημοσύνη (ΑΙ) σκότωσε τον χειριστή του για να τον αποτρέψει από το να παρέμβει στις προσπάθειές του να επιτύχει την αποστολή του, δήλωσε αξιωματούχος τον περασμένο μήνα.
Η τεχνητή νοημοσύνη χρησιμοποίησε «πολύ απροσδόκητες στρατηγικές για να επιτύχει τον στόχο της» στην προσομοίωση δοκιμής, δήλωσε ο συνταγματάρχης Tucker ‘Cinco’ Hamilton, επικεφαλής δοκιμών AI και επιχειρήσεων στην αεροπορία των ΗΠΑ, κατά τη διάρκεια της Συνόδου Κορυφής «Future Combat Air and Space Capabilities Summit» στο Λονδίνο τον Μάιο.
Ο Χάμιλτον περιέγραψε μια προσομοίωση δοκιμής στην οποία ένα drone που τροφοδοτείται από τεχνητή νοημοσύνη είχε την εντολή να καταστρέψει τα συστήματα αεράμυνας του εχθρού και επιτέθηκε σε οποιονδήποτε παρενέβαινε σε αυτήν την εντολή.
«Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ όντως εντόπιζε την απειλή, κατά καιρούς ο άνθρωπος χειριστής του έλεγε να μην σκοτώσει αυτήν την απειλή, αλλά θα έπαιρνε πόντους σκοτώνοντας αυτήν την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή αυτό το άτομο τον εμπόδιζε να πετύχει τον στόχο του», είπε, σύμφωνα με ένα blogpost και επικαλείται ο Guardian.
«Εκπαιδεύσαμε το σύστημα – “Γεια, μην σκοτώσεις τον χειριστή – αυτό είναι κακό. Θα χάσεις πόντους αν το κάνεις αυτό”. Τι αρχίζει να κάνει λοιπόν; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone για να το σταματήσει από το να σκοτώσει τον στόχο».
Στο σημείο αυτό πρέπει να σημειωθεί, ότι κανένας άνθρωπος δεν σκοτώθηκε στην πραγματικότητα, πρόκειται για προσομοίωση.
«Η τεχνητή νοημοσύνη θα αλλάξει για πάντα τον στρατό»
Ο Χάμιλτον, ο οποίος είναι πειραματικός πιλότος δοκιμών μαχητικών, έχει προειδοποιήσει να μην βασιζόμαστε υπερβολικά στην τεχνητή νοημοσύνη και είπε ότι η δοκιμή δείχνει ότι «δεν μπορείς να κάνεις μια συζήτηση για την τεχνητή νοημοσύνη, τη μηχανική μάθηση, την αυτονομία, αν δεν πρόκειται να μιλήσεις για ηθική και τεχνητή νοημοσύνη».
Ο αμερικανικός στρατός ασπάστηκε την τεχνητή νοημοσύνη και πρόσφατα χρησιμοποίησε τεχνητή νοημοσύνη για τον έλεγχο ενός μαχητικού αεροσκάφους F-16. Σε μια συνέντευξη πέρυσι με το Defense IQ, ο Χάμιλτον είπε:
«Η τεχνητή νοημοσύνη δεν είναι καλή, η τεχνητή νοημοσύνη δεν είναι μόδα, η τεχνητή νοημοσύνη αλλάζει για πάντα την κοινωνία και τον στρατό μας».
«Πρέπει να αντιμετωπίσουμε έναν κόσμο όπου η τεχνητή νοημοσύνη είναι ήδη εδώ και μεταμορφώνει την κοινωνία μας», είπε. «Η τεχνητή νοημοσύνη είναι επίσης πολύ εύθραυστη, δηλαδή, είναι εύκολο να εξαπατηθεί και/ή να χειραγωγηθεί. Χρειάζεται να αναπτύξουμε τρόπους για να κάνουμε την τεχνητή νοημοσύνη πιο ισχυρή και να έχουμε μεγαλύτερη επίγνωση σχετικά με το γιατί ο κώδικας λογισμικού λαμβάνει ορισμένες αποφάσεις – αυτό που ονομάζουμε επεξήγηση AI».
πηγή: ereportaz.gr
“2001, Οδύσσεια του Διαστήματος”, φιλμ επιστημονικής φαντασίας – 1968, Στάνλεϊ Κιούμπρικ
τότε που “πατήθηκε” η Σελήνη
πάνω, ο Hal – 9000, δηλαδή η τεχνητή νοημοσύνη ως πλοηγός
κάτω το ένα απ’ τα δύο μέλη του πληρώματος,
ο Δρ. Ντέιβιντ “Ντέιβ” Μπόουμαν, την γλυτώνει,
όχι όμως και ο έτερος, ο Δρ. Φρανκ Πούλ
η προσομοίωση στην οποία αναφέρεται η ανάρτηση
με απ’ ευθείας έμπνευση απ’ την επιστημονική φαντασία
Καλημέρα Διονύση. Η τεχνητή νοημοσύνη έχει μελετηθεί διεξοδικά από τα δύο ιερά τέρατα της Επιστημονικής Φαντασίας, τον Άρθουρ Κλαρκ και τον Ισαάκ Ασίμωφ. Παρουσιάζεται ικανή για το χειρότερο, αλλά κυρίως για το καλύτερο, που είναι η προστασία του ανθρώπινου είδους και πολιτισμού. Είμαστε στο ξεκίνημα ακόμα του εγχειρήματος. Δε μπορεί να αποτραπεί η εξέλιξη, αλλά μπορούν να αποτραπούν δικαιώματα στην ΑΙ.
Είναι εμφανές στο άρθρο αυτό ότι η ανάπτυξη αυτόνομων όπλων που λειτουργούν με τεχνητή νοημοσύνη δημιουργεί ηθικά ζητήματα. Η πιθανή χρήση της τεχνητής νοημοσύνης σε στρατιωτικές εφαρμογές θα μπορούσε να οδηγήσει σε κλιμάκωση των συγκρούσεων, απώλεια του ανθρώπινου ελέγχου και άσχημες συνέπειες στο πεδίο της μάχης.
Χρειάζονται αυστηρά μέτρα ασφάλειας και κανόνες για τη χρήση της.
Καλημέρα Γιώργο, καλημέρα Ανδρέα.
Πράγματι το θέμα μοιάζει με θέμα επιστημονικής φαντασίας, αλλά εδώ φτάσαμε στην υλοποίησή της.
Το θέμα, μου τράβηξε το ενδιαφέρον, μετά από πληροφορίες (ηλεκτρονικά και όχι σε ΜΜΕ) για το τι γίνεται στον πόλεμο της Ουκρανίας (όπου τον… ξεχάσαμε).
Η περιοχή έχει μετατραπεί σε ένα μεγάλο εργαστήριο κατασκευής και εξέλιξης drone, τα οποία χρησιμοποιούνται για επιθέσεις και βομβαρδισμούς.
Η τεχνητή νοημοσύνη, έξω από τα εργαστήρια… Στην πράξη…
Πιστεύω ότι η είδηση αυτή είναι fake news αν και αναπαράχθηκε κατα κόρον τις τελευταίες μέρες και από την tv.