Ο Ισραηλινός ιστορικός και συγγραφέας Yuval Noah Harari συνέκρινε την τεχνητή νοημοσύνη με τα πυρηνικά όπλα

 Ο ιστορικός συνέκρινε την τεχνητή νοημοσύνη με τα πυρηνικά όπλα        30-4-23

Ο Ισραηλινός ιστορικός και συγγραφέας μπεστ σέλερ του Sapiens: A Brief History of Humankind, ο Yuval Noah Harari μοιράστηκε τις ανησυχίες του σχετικά με την ανάπτυξη των νευρωνικών δικτύων σε ένα άρθρο για το The Economist. Υποστηρίζει ότι η έλλειψη ελέγχου αυτών των προγραμμάτων μπορεί να οδηγήσει σε πιο σοβαρές συνέπειες από τα πυρηνικά όπλα.

Ο Harari πιστεύει ότι τα νευρωνικά δίκτυα μπορούν να αναπτυχθούν χωρίς ανθρώπινη παρέμβαση, σε αντίθεση με τα πυρηνικά όπλα, τα οποία απαιτούν ανθρώπινη συμμετοχή σε κάθε στάδιο. Επιπλέον, η τεχνητή νοημοσύνη (AI) μπορεί να δημιουργήσει μια καλύτερη εκδοχή του εαυτού της και να αρχίσει να παραπληροφορεί τους ανθρώπους δημιουργώντας πολιτικό περιεχόμενο και ψεύτικες ειδήσεις.

Ο Χαράρι ζητά τη χρήση των νευρωνικών δικτύων για καλούς σκοπούς, όπως η επίλυση περιβαλλοντικών προβλημάτων ή η ανάπτυξη φαρμάκων για τον καρκίνο. Τονίζει επίσης τη σημασία της παρακολούθησης της εξέλιξης αυτών των προγραμμάτων για την αποφυγή πιθανών κινδύνων.

Ένα παράδειγμα του πώς τα νευρωνικά δίκτυα μπορούν να χρησιμοποιηθούν χωρίς έλεγχο είναι το πείραμα Κινέζων επιστημόνων με τον διαστημικό δορυφόρο Qimingxing 1. Το πρόγραμμα επέλεξε τα πιο ενδιαφέροντα σημεία στη Γη και ανέθεσε στη συσκευή να τα μελετήσει, κάτι που αποδείχθηκε ότι ήταν προς το συμφέρον του κινεζικού στρατού. Ούτε ένα άτομο δεν παρενέβη στο πείραμα, το οποίο θα μπορούσε να δημιουργήσει επικίνδυνο προηγούμενο.

Υπό το φως αυτών των συνθηκών, ο Harari προτρέπει την κοινωνία και τις κυβερνήσεις σε όλο τον κόσμο να παρακολουθούν στενά την ανάπτυξη των νευρωνικών δικτύων και να λάβουν μέτρα για την προστασία από πιθανές αρνητικές επιπτώσεις τους.

--------------------

30-4-23 Οι αμερικανοί νομοθέτες φοβούνται πυρηνικές επιθέσεις που υποκινούνται από την τεχνητή νοημοσύνη

Ένα δικομματικό νομοσχέδιο στο Κογκρέσο ζητά την απαγόρευση της χρήσης τεχνητής νοημοσύνης για την εκτόξευση κεφαλών

Οι νομοθέτες της Βουλής και της Γερουσίας των ΗΠΑ έχουν σημάνει συναγερμό σχετικά με την πιθανή χρήση τεχνητής νοημοσύνης στο πυρηνικό οπλοστάσιο της Αμερικής, υποστηρίζοντας ότι η τεχνολογία δεν πρέπει να τεθεί σε θέση να εκτοξεύει από μόνη της κεφαλές.

Μια ομάδα τριών Δημοκρατικών και ενός Ρεπουμπλικανού εισήγαγε ένα νομοσχέδιο που ζητά την απαγόρευση της χρήσης της τεχνητής νοημοσύνης με τρόπο που θα μπορούσε να οδηγήσει στην εκτόξευση πυρηνικών όπλων. Εάν θεσπιστεί, η νομοθεσία θα κωδικοποιούσε μια τρέχουσα πολιτική του Πενταγώνου που απαιτεί από έναν άνθρωπο να είναι «ενημερωμένος» σε οποιεσδήποτε αποφάσεις εκτόξευσης.

«Θέλουμε να βεβαιωθούμε ότι υπάρχει ένας άνθρωπος στη διαδικασία εκτόξευσης πυρηνικού όπλου εάν, ανά πάσα στιγμή, χρειαστεί να εκτοξεύσουμε ένα πυρηνικό όπλο», δήλωσε την Παρασκευή ο εκπρόσωπος των ΗΠΑ Κεν Μπακ, Ρεπουμπλικανός από το Κολοράντο, σε συνέντευξη στο Fox News. . «Έτσι, βλέπετε ταινίες επιστημονικής φαντασίας και ο κόσμος είναι εκτός ελέγχου επειδή το AI έχει αναλάβει – θα έχουμε ανθρώπους σε αυτή τη διαδικασία».

Ο Μπακ αναφέρθηκε στην απεικόνιση ενός εφιαλτικού σεναρίου από το Χόλιγουντ στο οποίο τα συστήματα τεχνητής νοημοσύνης αποκτούν τον έλεγχο των πυρηνικών όπλων, όπως απεικονίζεται σε ταινίες όπως το «WarGames» και το «Colossus: The Forbidden Project». Προειδοποίησε ότι η χρήση της τεχνητής νοημοσύνης χωρίς ανθρώπινη αλυσίδα διοίκησης θα ήταν «απερίσκεπτη» και «επικίνδυνη».

Ο εκπρόσωπος Ted Lieu συμφώνησε, λέγοντας: «Το AI είναι εκπληκτικό. Θα βοηθήσει την κοινωνία με πολλούς διαφορετικούς τρόπους. Μπορεί επίσης να μας σκοτώσει». Ο Lieu, Δημοκρατικός στην Καλιφόρνια, είναι ο κύριος υποστηρικτής της νομοθεσίας για την τεχνητή νοημοσύνη, μαζί με δύο άλλους Δημοκρατικούς - τον εκπρόσωπο Don Beyer της Βιρτζίνια και τον γερουσιαστή Edward Markey της Μασαχουσέτης.

Αν και η ιδέα ενός πυρηνικού πολέμου που υποκινείται από την τεχνητή νοημοσύνη μπορεί να είχε απορριφθεί στο παρελθόν ως επιστημονική φαντασία, πολλοί επιστήμονες πιστεύουν ότι δεν αποτελεί πλέον τραβηγμένο κίνδυνο. Μια δημοσκόπηση που κυκλοφόρησε νωρίτερα αυτό το μήνα από το Ινστιτούτο Στάνφορντ για την Ανθρωποκεντρική Τεχνητή Νοημοσύνη διαπίστωσε ότι το 36% των ερευνητών της τεχνητής νοημοσύνης συμφώνησαν ότι η τεχνολογία θα μπορούσε να προκαλέσει μια «καταστροφή σε πυρηνικό επίπεδο».

Η Κεντρική Διοίκηση των ΗΠΑ (CENTCOM) ανακοίνωσε την περασμένη εβδομάδα την πρόσληψη ενός πρώην στελέχους της Google ως πρώτο σύμβουλο τεχνητής νοημοσύνης. Το Πεντάγωνο ζήτησε από το Κογκρέσο χρηματοδότηση 1,8 δισεκατομμυρίων δολαρίων για την έρευνα τεχνητής νοημοσύνης κατά το επόμενο οικονομικό έτος.