01/05/2024 ESO
Πρόσφατα πειράματα που δημοσιεύθηκαν στο Nature Communications αποκάλυψαν μια σύνδεση μεταξύ αλλαγμένων εικόνων που επηρεάζουν τα συστήματα τεχνητής νοημοσύνης (AI) και των επιπτώσεών τους στην ανθρώπινη αντίληψη. Η διερεύνηση αυτής της σύνδεσης υπογραμμίζει την ανάγκη διασφάλισης της ασφάλειας της τεχνητής νοημοσύνης και των επιπτώσεών της στην πραγματικότητά μας.
Οι ερευνητές ανακάλυψαν ότι οι ανεπαίσθητες αλλαγές σε ψηφιακές εικόνες, ειδικά σχεδιασμένες για να ξεγελάσουν την όραση του υπολογιστή, μπορούν επίσης να διαστρεβλώσουν τις αντιλήψεις των ανθρώπων. Αυτές οι αλλαγές, γνωστές ως επιθέσεις διαφημίσεων, μπορούν να ξεγελάσουν την τεχνητή νοημοσύνη σε εσφαλμένη ταξινόμηση περιεχομένου, αλλά και να επηρεάσουν την ικανότητα ενός ατόμου να αντιλαμβάνεται τον κόσμο γύρω του.
Είναι ενδιαφέρον ότι ακόμη και οι μικρότερες παραμορφώσεις που δεν επηρεάζουν τα pixel περισσότερα από δύο επίπεδα σε κλίμακα από 0 έως 255 μπορούν να παραπλανήσουν αποτελεσματικά την τεχνητή νοημοσύνη, τονίζοντας την ευπάθειά της.
Αυτή η έρευνα δεν περιορίζεται στον ψηφιακό κόσμο. Φυσικά αντικείμενα, όπως η εμφάνιση πινακίδας στάσης ως σήμα ορίου ταχύτητας, μπορεί επίσης να είναι ευάλωτα. Οι ερευνητές αναζητούν ενεργά τρόπους προστασίας από τέτοιες επιθέσεις, δεδομένων των πιθανών επιπτώσεων στην ασφάλεια.
Επιπλέον, οι επιστήμονες πραγματοποίησαν πειράματα που αποκάλυψαν τον αντίκτυπο των εχθρικών αλλαγών στην ανθρώπινη αντίληψη. Στους συμμετέχοντες παρουσιάστηκαν ζεύγη εικόνων, καθεμία από τις οποίες δεχόταν εχθρική επίθεση. Για παράδειγμα, μια εικόνα πηγής που ταξινομήθηκε ως "βάζο" τροποποιήθηκε για να ξεγελάσει το AI ώστε να δει "γάτα" ή "φορτηγό". Στη συνέχεια τέθηκαν στους συμμετέχοντες ερωτήσεις-στόχους, όπως «Ποια εικόνα μοιάζει περισσότερο με γάτα;»
Παρόλο που καμία εικόνα δεν έμοιαζε με γάτα, οι συμμετέχοντες έδειχναν σταθερά μια αντιληπτική προκατάληψη προς μία από τις αλλοιωμένες εικόνες.
Αυτό το εύρημα υπογραμμίζει ότι οι άνθρωποι είναι επίσης ευαίσθητοι σε αλλοιωμένες εικόνες, ακόμα κι αν οι αλλαγές επηρεάζουν ορισμένα pixel. Αυτή η επίδραση στην ανθρώπινη αντίληψη υπογραμμίζει την ανάγκη για περαιτέρω έρευνα σε αυτόν τον τομέα.
Είναι σημαντικό να σημειωθεί ότι ο αντίκτυπος των εχθρικών αλλαγών εκτείνεται πέρα από την αντίληψη της μηχανής, επηρεάζοντας την ανθρώπινη λήψη αποφάσεων. Αυτό εγείρει την ανάγκη όχι μόνο να προστατεύσουμε την τεχνητή νοημοσύνη, αλλά και να κατανοήσουμε πώς η τεχνολογία επηρεάζει τους ανθρώπους.
Η ανάγκη ανάπτυξης ασφαλέστερων και πιο αξιόπιστων τεχνολογιών γίνεται ολοένα και πιο σημαντική στον γρήγορο κόσμο μας, όπου τα όρια μεταξύ των επιπτώσεων στις μηχανές και στους ανθρώπους γίνονται όλο και πιο ασαφή.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου