Το Υπουργείο Εσωτερικής Ασφάλειας ( DHS ) ήθελε να παρακολουθεί τους χρήστες του διαδικτύου με «βαθμολογία κινδύνου» - think tank

7 Jun, 2023
Το Υπουργείο Εσωτερικής Ασφάλειας ( DHS ) ήθελε να παρακολουθεί τους χρήστες του διαδικτύου με «βαθμολογία κινδύνου» - think tank
Το πρόγραμμα «Night Fury» προσπάθησε να χρησιμοποιήσει αυτοματοποιημένες μεθόδους για τον εντοπισμό υποτιθέμενων «φιλοτρομοκρατικών» λογαριασμών στα μέσα κοινωνικής δικτύωσης

Το Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ λειτουργούσε ένα πρόγραμμα που επεδίωκε να αυτοματοποιήσει τον χαρακτηρισμό των χρηστών των μέσων κοινωνικής δικτύωσης ως «φιλοτρομοκρατών» με βάση τη χρήση ορισμένων λέξεων-κλειδιών και την αλληλεπίδραση με άλλους στοχευμένους χρήστες, σύμφωνα με έγγραφα που έλαβε το Brennan Center for Justice και δημοσιεύθηκαν την Τρίτη.
Το Project Night Fury, μια συνεργασία μεταξύ του DHS και του Πανεπιστημίου της Αλαμπάμα στο Μπέρμιγχαμ, προσπάθησε να αποδώσει σε δυνητικά «φιλοτρομοκρατικούς» λογαριασμούς μια «βαθμολογία κινδύνου» που στη συνέχεια θα επηρέαζε άλλους λογαριασμούς με τους οποίους αλληλεπιδρούσαν. Το πανεπιστήμιο είχε συμφωνήσει να αναπτύξει αυτοματοποιημένες μεθόδους για να καθορίσει εάν ένας λογαριασμός που συνδέεται με έναν ήδη υπό παρακολούθηση ήταν ο ίδιος «φιλοτρομοκρατικός», χρησιμοποιώντας κριτήρια όπως «συγκρίσεις συνόλων λέξεων-κλειδιών». Ο αλγόριθμος, όχι ένας άνθρωπος, θα καθορίσει εάν ένας χρήστης θα μπορούσε να χαρακτηριστεί «φιλοτρομοκρατικός» επειδή απλώς έκανε κλικ στο «like» σε μια ανάρτηση στο Facebook ή έκανε retweet έναν λογαριασμό που είχε ήδη λάβει αυτήν την ετικέτα.
Παρά τα γνωστά όρια της τεχνητής νοημοσύνης όταν διαμορφώθηκε αυτό το σύστημα το 2018, ολόκληρη η διαδικασία θα ήταν αυτοματοποιημένη, σύμφωνα με τα έγγραφα. Το πανεπιστήμιο ανέλαβε να δημιουργήσει μοντέλα για τον «εντοπισμό βασικών παραγόντων επιρροής της φιλοτρομοκρατικής σκέψης» και να δημιουργήσει ένα αυτοματοποιημένο σύστημα για την αποκάλυψη bots «που δημιουργούνται μέσω προγραμματισμού για να ασκήσουν επιρροή» για τη διάδοση τόσο της «τρομοκρατικής προπαγάνδας» όσο και των «εκστρατειών ξένης επιρροής». Στη συνέχεια, θα συνέτασσαν μια λίστα ύποπτων λογαριασμών και θα τους παρέδιδαν στο DHS, μαζί με τα ονόματα, τα μηνύματα ηλεκτρονικού ταχυδρομείου, τους αριθμούς τηλεφώνου, τις φωτογραφίες και τις αναρτήσεις τους.
Από τις συμβάσεις έλειπαν ορισμοί για σημαντικές έννοιες όπως τι πραγματικά σήμαινε «φιλοτρομοκράτης» - ή τι θα μετρούσε μια «βαθμολογία κινδύνου», αν ήταν ο κίνδυνος να γίνει κάποιος τρομοκράτης ή απλώς να συμπάσχει με έναν - ή μια εξήγηση για το πώς μια αυτοματοποιημένη διαδικασία θα μπορούσε να κάνει τέτοιες διακρίσεις απουσία σαφών ορισμών.
Δεν είναι επίσης σαφές πώς το πρόγραμμα θα έκανε διάκριση μεταξύ περιεχομένου που γειτνιάζει με την τρομοκρατία και υλικού που σχετίζεται με τη διακίνηση ναρκωτικών και την «παραπληροφόρηση», την οποία επίσης προσπάθησε να παρακολουθήσει. Από την ημερομηνία των συμβάσεων που είδε το Brennan Center, το DHS δεν είχε καταλάβει πώς να ποσοτικοποιήσει τις τρομοκρατικές συμπάθειες και ζητούσε βοήθεια από πανεπιστημιακούς ερευνητές για να «εντοπίσει σχετικά χαρακτηριστικά».
Ο Γενικός Επιθεωρητής του DHS ενημερώθηκε για πιθανές παραβιάσεις της ιδιωτικής ζωής στο Project Night Fury το 2018 και μέχρι να ικανοποιηθεί [εκπληρωθεί ] το αίτημα FOIA του Brennan Center, όλα όσα ήταν γνωστά για το έργο προέρχονταν από την έκθεση του OIG του 2019, η οποία διαπίστωσε ότι οι πράκτορες που συμμετείχαν [εμπλέκονται] στο έργο δεν συμμορφώνονταν με τις πολιτικές του τμήματος που διέπουν την ιδιωτικότητα και την προστασία ευαίσθητων πληροφοριών.
Ενώ το DHS υποτίθεται ότι σταμάτησε να εργάζεται στο Night Fury το 2019, δεν είναι γνωστό πόσο μακριά ήταν το έργο ή αν τα περιουσιακά του στοιχεία μεταφέρθηκαν αλλού εντός του μηχανισμού επιβολής του νόμου. Η Υπηρεσία Τελωνείων και Προστασίας των Συνόρων βρέθηκε πρόσφατα να χρησιμοποιεί ένα παρόμοιο εργαλείο τεχνητής νοημοσύνης που ονομάζεται Babel X για να κατασκοπεύει τους λογαριασμούς των ταξιδιωτών στα μέσα κοινωνικής δικτύωσης στα σύνορα των ΗΠΑ.