Η τεχνητή νοημοσύνη θα μετατρέψει τους ανθρώπους σε «άχρηστο υλικό»; οι άνθρωποι είναι απλά αναντικατάστατοι για ορισμένες εργασίες. Τα όπλα τεχνητής νοημοσύνης αποτελούν απειλή για την ανθρωπότητα, προειδοποιεί ο κορυφαίος επιστήμονας Stuart Russell

Η τεχνητή νοημοσύνη θα μετατρέψει τους ανθρώπους σε «άχρηστο υλικό»; οι άνθρωποι είναι απλά αναντικατάστατοι για ορισμένες εργασίες. Τα όπλα τεχνητής νοημοσύνης αποτελούν απειλή για την ανθρωπότητα, προειδοποιεί ο κορυφαίος επιστήμονας Stuart Russell

άρθρο του Rob Lyons (είναι ένας βρετανός δημοσιογράφος που ειδικεύεται σε θέματα επιστήμης, περιβάλλοντος και υγείας). 

φωτο: 'Slaughterbots' Σκηνοθεσία: Stuart Sugg 

Ένας γκουρού τεχνολογίας προειδοποιεί ότι τα ρομπότ που σκέφτονται μόνα τους μπορεί να κατακτήσουν τον κόσμο και να χρησιμοποιήσουν όπλα μαζικής καταστροφής για να εξαφανίσουν την ανθρωπότητα. Μήπως ήρθε η ώρα να ανησυχείς;

Φέτος, οι διάσημες διαλέξεις Reith του BBC θα παραδοθούν για πρώτη φορά από επιστήμονα υπολογιστών. Ο γεννημένος στο Ηνωμένο Βασίλειο Stuart Russell, καθηγητής επιστήμης υπολογιστών στο Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϋ, θα εξετάσει το «Living with Artificial Intelligence» σε μια σειρά εβδομαδιαίων εκπομπών κατά τη διάρκεια του Δεκεμβρίου.

Σε ένα τρέιλερ για τη σειρά διαλέξεων, ο Russell πήρε συνέντευξη στο BBC Radio 4's Today.  Η συζήτηση κυριαρχήθηκε από ζοφερές προβλέψεις για το τι μπορεί να κάνει η τεχνητή νοημοσύνη στην κοινωνία μας και ακόμη πιο εφιαλτικές πιθανότητες για το μέλλον. Δεν πειράζει να αναπτύσσουμε μηχανές που μπορούν να μάθουν – πρέπει να μάθουμε από την ιστορία των νέων τεχνολογιών για να αντιμετωπίζουμε τόσο τη διαφημιστική εκστρατεία όσο και τον τρόμο με τον ίδιο σκεπτικισμό.

Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη στην κοινωνία. Οι υπολογιστές μπορούν να μαντέψουν τι θα θέλαμε να παρακολουθήσουμε στη συνέχεια στο YouTube, ποια προϊόντα μπορεί να θέλουμε να αγοράσουμε στο Amazon και να μας δείχνουν διαφημίσεις με βάση προηγούμενες αναζητήσεις στο Διαδίκτυο στο Google. Πιο χρήσιμο, ίσως, οι μηχανές μπορούν να μάθουν να εντοπίζουν καρκινικές αναπτύξεις σε ιατρικές σαρώσεις με μεγάλη ταχύτητα και ακρίβεια και να επισημαίνουν πιθανές δόλιες οικονομικές συναλλαγές – κάτι πολύ χρήσιμο όταν τράπεζες και άλλα ιδρύματα εκτελούν συνεχώς εκπληκτικούς όγκους συναλλαγών.

Ο Russell πιστεύει ότι η τεχνητή νοημοσύνη «δεν λειτουργεί απαραίτητα προς όφελός μας και οι αποκαλύψεις που είδαμε πρόσφατα από το Facebook υποδηλώνουν ότι οι εταιρείες μέσων ενημέρωσης γνωρίζουν ότι διαλύει τις κοινωνίες. Αυτοί είναι πολύ απλοί αλγόριθμοι, οπότε το ερώτημα που θα κάνω στις διαλέξεις είναι τι συμβαίνει όταν οι αλγόριθμοι γίνουν πολύ πιο έξυπνοι από ό,τι είναι τώρα».

Αυτός είναι ένας περίεργος τρόπος να βλέπεις τα πράγματα – ότι οι αλγόριθμοι και όχι οι ανθρώπινες πολιτικές είναι το πρόβλημα στην κοινωνία αυτή τη στιγμή. Φυσικά, οι χαζοί αλγόριθμοι που σας ωθούν τις αναρτήσεις στα μέσα κοινωνικής δικτύωσης με βάση το ότι «αν σας άρεσε αυτό, ίσως σας αρέσει αυτό»,  πιθανότατα δεν βοηθούν στο να βγάλετε τους ανθρώπους από τους «θαλάμους ηχούς» τους.  Αλλά οι άνθρωποι που μένουν με τη δική τους «φυλή» όσον αφορά την πολιτική αφορούν κυρίως την προσωπική επιλογή και την απροθυμία να αποδεχτούν ότι οι άνθρωποι με διαφορετική άποψη μπορεί να έχουν ένα θέμα, όχι τη δουλειά των κακών αλγορίθμων υπολογιστών. 

Εκεί που πραγματικά ανησυχεί ο Russell είναι όταν η τεχνητή νοημοσύνη υπερβαίνει τις εφαρμογές που αφορούν συγκεκριμένες εργασίες στη δυνατότητα τεχνητής νοημοσύνης γενικού σκοπού. Αντί να ρυθμίζουν τους υπολογιστές να κάνουν συγκεκριμένα πράγματα –όπως η ανάδευση τεράστιων ποσοτήτων δεδομένων με έναν συγκεκριμένο στόχο και η εκμάθηση πώς να το κάνουν καλύτερα και γρηγορότερα από τους ανθρώπους– τα συστήματα τεχνητής νοημοσύνης γενικής χρήσης θα μπορούν να αναλαμβάνουν μια μεγάλη ποικιλία εργασιών και παίρνουν αποφάσεις μόνοι τους.

Συγκεκριμένα, ο Russell ανησυχεί για τα αυτόνομα όπλα που «μπορούν να βρουν στόχους, να αποφασίσουν ποιους στόχους θα επιτεθούν και στη συνέχεια να προχωρήσουν και να τους επιτεθούν, όλα αυτά χωρίς διαδραστική προσομοίωση». [HITL (μοντέλο που απαιτεί ανθρώπινη αλληλεπίδραση) ειδικό είδος φυσικής προσομοίωσης στην οποία οι φυσικές προσομοιώσεις περιλαμβάνουν ανθρώπους χειριστές, όπως σε μια πτήση ή έναν προσομοιωτή οδήγησης.]

Φοβάται ότι αυτά τα AI WMD θα μπορούσαν να καταστρέψουν ολόκληρες πόλεις ή περιοχές ή να εξαφανίσουν μια ολόκληρη εθνική ομάδα.

Ο Russell συνεργάστηκε σε μια εκπληκτική και τρομακτική ταινία σε στυλ Black Mirror, Slaughterbots , το 2017, δείχνοντας ένα ιδιαίτερα ζοφερό όραμα μικροσκοπικών, σαν μέλισσα drones που επιλέγουν και δολοφονούν όποιον τολμήσει να διαφωνήσει με τις αρχές. 

Όμως, ενώ κάποιος βαθμός μάθησης και αυτονομίας χρησιμοποιείται ήδη – για παράδειγμα, για να απομακρύνουμε τους ανθρώπους από την επικίνδυνη επιχείρηση της εκκαθάρισης ναρκοπεδίων – ο συνδυασμός της ακριβούς αναγνώρισης ατόμων ή ομάδων και λήψης αποφάσεων σχετικά με το ποιος και το πώς θα επιτεθεί είναι πολύ πέρα ​​από τις τρέχουσες δυνατότητες . Όπως έδειξε μια επίθεση αμερικανικού μη επανδρωμένου αεροσκάφους στο Αφγανιστάν τον Αύγουστο – η οποία σκότωσε 10 άτομα, μεταξύ των οποίων επτά παιδιά – έδειξε ότι είναι πιθανό να έχουμε επιθέσεις υψηλής τεχνολογίας, υπό την ηγεσία των μυστικών υπηρεσιών, που πάνε τρομερά στραβά. Επιπλέον, αν οι πολιτικοί και στρατιωτικοί ηγέτες έχουν λίγους ενδοιασμούς για τη δολοφονία αθώων, γιατί να περιμένουμε για φανταστικά αυτόνομα όπλα με τεχνητή νοημοσύνη όταν μπορείτε απλώς να βομβαρδίσετε ολόκληρες περιοχές, είτε είναι η Δρέσδη στον Δεύτερο Παγκόσμιο Πόλεμο είτε η Καμπότζη στη δεκαετία του 70;

Η παντοδύναμη δύναμη της τεχνητής νοημοσύνης είναι, όπως έχουν τα πράγματα, απλώς διαφημιστική εκστρατεία. Πάρτε αυτοκίνητα χωρίς οδηγό. Μόλις πριν από λίγα χρόνια, ήταν το Next Big Thing. Η Google, η Apple, η Tesla και άλλοι έδωσαν δισεκατομμύρια στην προσπάθειά τους να τα αναπτύξουν. Τώρα είναι στο πίσω μέρος γιατί οι δυσκολίες είναι πολύ μεγάλες. Πριν από ένα χρόνο, η Uber – κάποτε ονειρευόταν στόλους ρομποταξί – πούλησε το τμήμα αυτόνομων οχημάτων της . Όσο για τα ρομπότ και την τεχνητή νοημοσύνη που αναλαμβάνουν τις δουλειές μας, στην καλύτερη περίπτωση θα είναι ένα εργαλείο για τη βελτίωση της παραγωγικότητας των ανθρώπων. Η χρήση υπολογιστών για να κάνουμε κομμάτια της δουλειάς μας θα μπορούσε να είναι χρήσιμη, αλλά στην πραγματικότητα η αντικατάσταση δασκάλων, δικηγόρων ή οδηγών είναι ένα εντελώς διαφορετικό παιχνίδι με μπάλα.

Η Silicon Valley φαίνεται να έχει μια σχιζοφρενική στάση απέναντι στη δική της τεχνολογία. Από τη μια πλευρά, η σημασία της τεχνητής νοημοσύνης είναι υπερβολική. Από την άλλη πλευρά, έχουμε καταστροφικές εικασίες σχετικά με τα συστήματα τεχνητής νοημοσύνης που σταδιακά αναλαμβάνουν τον έλεγχο της κοινωνίας, αφήνοντας τα ανθρώπινα όντα, σύμφωνα με τα λόγια του Russell, να απορρίπτονται σαν "άχρηστο υλικό" .  Στην πραγματικότητα, η τεχνητή νοημοσύνη συνεχίζει να επιβεβαιώνει ότι είναι εξαιρετικά χρήσιμη για την εκτέλεση συγκεκριμένων εργασιών και επίσης αρκετά ανόητη έως επικίνδυνη, σε οτιδήποτε πέρα ​​από αυτό. 

Σύμφωνα με τη Melanie Mitchell, " Davis Professor of Complexity" στο Ινστιτούτο Santa Fe, υποφέρουμε από πολλαπλές παρεξηγήσεις σχετικά με την τεχνητή νοημοσύνη. 

Πρώτον, το συγκεκριμένο AI και το γενικό AI είναι εντελώς διαφορετικά επίπεδα δυσκολίας. Για παράδειγμα, το να μεταφράσουν οι υπολογιστές διαφορετικές γλώσσες απαιτούσε τεράστιο όγκο εργασίας, αλλά τα συστήματα που βασίζονται σε κείμενο και φωνή γίνονται αρκετά καλά. Από την άλλη πλευρά, είναι πολύ πιο δύσκολο να θέσεις δύο μηχανές AI, για να συνομιλήσουν. 

Δεύτερον, πολλά πράγματα που οι άνθρωποι βρίσκουν εύκολα είναι πραγματικά δύσκολο να αυτοματοποιηθούν. Για παράδειγμα, έχουμε εξελιχθεί για να σαρώνουμε γρήγορα τον κόσμο, να επιλέγουμε διαφορετικά πράγματα και να καταλαβαίνουμε τι είναι σημαντικό αυτήν τη στιγμή. Οι υπολογιστές το βρίσκουν εξαιρετικά δύσκολο. 

Τρίτον, οι άνθρωποι έχουν μια πλούσια εμπειρία του φυσικού κόσμου μέσω των αισθήσεών μας, η οποία, όπως διαπιστώνουν οι ερευνητές, έχει σημαντικό αντίκτυπο στον τρόπο σκέψης μας. Τέταρτον, υποστηρίζει ο Mitchell, τα ανθρώπινα όντα αναπτύσσουν την κοινή λογική, βασισμένα στην εμπειρία και την πρακτική. Τα συστήματα τεχνητής νοημοσύνης μπορούν να αποσπάσουν ολοένα και μεγαλύτερες ποσότητες επεξεργαστικής ισχύος σε προβλήματα, αλλά δυσκολεύονται να το αναπαραγάγουν. 

Ο Έλον Μασκ απέτυχε στην προσπάθειά του να αυτοματοποιήσει πλήρως τα εργοστάσιά του στην Tesla – οι άνθρωποι ήταν απλώς αναντικατάστατοι για ορισμένες εργασίες.

Αν μπορούσαμε να κόψουμε την ενίσχυση σχετικά με την τεχνητή νοημοσύνη, θα μπορούσαμε να δούμε μια χρήσιμη ομάδα τεχνολογιών που μπορούν να μας βοηθήσουν με συγκεκριμένους τρόπους για να κάνουμε τη ζωή μας πιο εύκολη. 

Ομοίως, θα χαλούσε το παραμύθι, όλων εκείνων των καταστροφέων που πιστεύουν ότι τα συστήματα AI θα κατακτήσουν τον κόσμο. Τελικά, εξακολουθούμε να έχουμε τον έλεγχο των μηχανών και δεν πρόκειται να μας αντικαταστήσουν σύντομα. Με λίγη ιστορική προοπτική, μπορούμε να δούμε ότι η ανησυχία σχετικά με την τεχνητή νοημοσύνη είναι απλώς η τελευταία σε μια φαινομενικά ατελείωτη σειρά με κρίσεις πανικού, σχετικά με τη νέα τεχνολογία.

 1-12-21

https://www.rt.com/op-ed/541856-ai-turns-humans-waste-product/