.jpg)
Επιστήμη δεδομένων ανοιχτού κώδικα: Πώς να μειώσετε την προκατάληψη στο AI
14 Οκτωβρίου 2022
Η επιστήμη δεδομένων ανοιχτού κώδικα μπορεί να βοηθήσει στη μείωση της προκατάληψης και να φέρει περισσότερη δικαιοσύνη και ισότητα στον κόσμο. Εικόνα: Unsplash/Max Duzij
Άμπι Σενέορ Chief Technology Officer , Citibeats
Matteo Mezzanotte Υπεύθυνος Επικοινωνίας , Citibeats
Η προκατάληψη είναι ένα εγγενές ανθρώπινο χαρακτηριστικό και μπορεί να αντικατοπτρίζεται και να ενσωματώνεται σε οτιδήποτε δημιουργούμε, ιδιαίτερα όταν πρόκειται για τεχνολογία.
Η επιστήμη δεδομένων ανοιχτού κώδικα θα μπορούσε να βοηθήσει στην αντιμετώπιση του ζητήματος της μεροληψίας στην ανάπτυξη της τεχνητής νοημοσύνης (AI).
Η υιοθέτηση μιας ανοιχτής και συνεργατικής προσέγγισης στην επιστήμη των δεδομένων μπορεί να ανοίξει το δρόμο για δικαιότερο και πιο δίκαιο κόσμο.
Στο βιβλίο του Don't Think of an Elephant , ο γλωσσολόγος και φιλόσοφος George Lakoff υποστηρίζει ότι: «Τα πλαίσια είναι νοητικές δομές που διαμορφώνουν τον τρόπο που βλέπουμε τον κόσμο. Ως αποτέλεσμα διαμορφώνουν τους στόχους που επιδιώκουμε, τα σχέδια που κάνουμε, τον τρόπο που ενεργούμε και τι μετράει ως καλό ή κακό αποτέλεσμα των πράξεών μας».
Υπό αυτό το πρίσμα, οι προκαταλήψεις μπορούν να λειτουργήσουν ως εγγενές πλαίσιο για τα ανθρώπινα όντα και είναι παρούσες στην πραγματική ζωή. Ορίστε μερικά παραδείγματα:
Μια πρόσφατη μελέτη εντόπισε προκατάληψη στο σύνολο δεδομένων των αισθητήρων παλμικής οξυμετρίας, που υπολογίζουν την ποσότητα οξυγόνου στο αίμα ενός ατόμου. Σε μαύρους ασθενείς, οι αισθητήρες δεν μέτρησαν με ακρίβεια και δεν ανίχνευσαν χαμηλή οξυγόνωση του αίματος, οδηγώντας σε δυνητικό αυξημένο κίνδυνο για υποξαιμία – ένα επίπεδο οξυγόνου κάτω από το φυσιολογικό. Πράγματι, η μελέτη έδειξε ότι οι μαύροι ασθενείς είχαν σχεδόν τριπλάσια συχνότητα κρυφής υποξαιμίας που δεν ανιχνεύθηκε με παλμική οξυμετρία από τους λευκούς ασθενείς.
Σε ένα νέο πείραμα αίτησης δανείου που διεξήχθη από την Παγκόσμια Τράπεζα σε 77 τουρκικές τράπεζες, το 35% των υπαλλήλων δανείων ήταν προκατειλημμένος κατά των γυναικών αιτούντων, με τις γυναίκες να λαμβάνουν ποσά δανείων 14.000 $ χαμηλότερα κατά μέσο όρο σε σύγκριση με τους άνδρες.
Τεχνητή νοημοσύνη και προκατάληψη
Προκατάληψη στην τεχνητή νοημοσύνη είναι όταν το μηχάνημα δίνει σταθερά διαφορετικές εξόδους για μια ομάδα ανθρώπων σε σύγκριση με μια άλλη, όπως περιγράφεται στο παραπάνω παράδειγμα οξυγόνωσης αίματος.
Συνήθως αυτές οι προκαταλήψεις ακολουθούν κλασικές κοινωνικές προκαταλήψεις όπως φυλή, φύλο, βιολογικό φύλο, εθνικότητα ή ηλικία.
" Η μεροληψία στους αλγόριθμους μπορεί να προέρχεται από μη αντιπροσωπευτικά ή ελλιπή δεδομένα εκπαίδευσης ή από την εξάρτηση από λανθασμένες πληροφορίες που αντικατοπτρίζουν ιστορικές ανισότητες. Εάν δεν ελεγχθούν, οι προκατειλημμένοι αλγόριθμοι μπορούν να οδηγήσουν σε αποφάσεις που μπορεί να έχουν συλλογικό, ανόμοιο αντίκτυπο σε ορισμένες ομάδες ανθρώπων, ακόμη και χωρίς την πρόθεση του προγραμματιστή να κάνει διακρίσεις. "
Η αναγνώριση προσώπου και οι φυλετικές προκαταλήψεις στην υγειονομική περίθαλψη είναι δύο κλασικά παραδείγματα. Τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση αυτών των συστημάτων λείπουν από παραδείγματα ατόμων με σκούρο χρώμα δέρματος, επομένως δεν αναγνωρίζουν τους έγχρωμους ανθρώπους. Εάν εισάγετε κακά και κακά δεδομένα , βγάζετε κακά και φτωχά δεδομένα.
Όσον αφορά την αλγοριθμική μεροληψία , υπάρχουν δύο βασικά ζητήματα που πρέπει να αντιμετωπιστούν: τα δεδομένα και ο ορισμός της επιτυχίας. Είναι πλήρη τα διαθέσιμα δεδομένα; Είναι αντιπροσωπευτικό όλων των ανθρώπων; Εάν αυτό δεν συμβαίνει, η πρόβλεψη που γίνεται από τον αλγόριθμο θα είναι αναπόφευκτα μεροληπτική.
Αλλά στην πραγματικότητα, το πραγματικό ζήτημα είναι ότι εμείς, ως άνθρωποι, και ως υπεύθυνοι για το σχεδιασμό συστημάτων AI, είμαστε φυσικά, ασυνείδητα προκατειλημμένοι. Και η μη προκατάληψη των ανθρώπων είναι πιο δύσκολη από την μη προκατάληψη συστημάτων τεχνητής νοημοσύνης.
14-10-22
======================
το σχετικό δημοσίευμα
Περισσότερες αποδείξεις ότι υπάρχουν φυλετικές ανισότητες στη χρήση παλμικού οξύμετρουΝέα έρευνα δείχνει ότι τα δεδομένα που συλλέχθηκαν από τις μετρήσεις οξυγόνου του αρτηριακού αίματος και τα παλμικά οξύμετρα διέφεραν για τους λευκούς και μαύρους ασθενείς και θα μπορούσαν να επηρεάσουν τη θεραπεία της απόκρυφης υποξαιμίας.
.
14 Ιουλίου 2022- Μια μελέτη που δημοσιεύτηκε στο The BMJ δείχνει ότι οι διαφορές στα αποτελέσματα από τις μετρήσεις των αερίων του αρτηριακού αίματος και τη παλμική οξυμετρία οδήγησαν σε φυλετικές ανισότητες στη φροντίδα, εμποδίζοντας τους μαύρους να λάβουν την απαραίτητη θεραπεία για απόκρυφη υποξαιμία ή χαμηλά επίπεδα κορεσμού οξυγόνου στο αίμα.
Οι ερευνητές διεξήγαγαν μια αναδρομική μελέτη κοόρτης χρησιμοποιώντας δεδομένα EMR από την Υπηρεσία Υγείας Βετεράνων. Χρησιμοποίησαν την κρυφή υποξαιμία ως πρωταρχικό μέτρο, η οποία υπολογίστηκε χρησιμοποιώντας μετρήσεις κορεσμού οξυγόνου στο αρτηριακό αίμα και παλμική οξυμετρία.
Η αξιολόγηση των ανισοτήτων στον τομέα της υγείας γίνεται κοινή πρακτική στην υγειονομική περίθαλψη, καθώς η παρουσία τους έγινε πιο έντονη κατά τη διάρκεια της πανδημίας COVID-19.
Σε αυτή τη μελέτη, οι ερευνητές προσπάθησαν να προσδιορίσουν εάν υπήρχαν διαφορές στη θεραπεία της απόκρυφης υποξαιμίας μεταξύ ατόμων διαφορετικών φυλών.
σχετικά δημοσιεύματα
Υπάρχουν φυλετικές ανισότητες στις μετρήσεις του παλμικού οξύμετρου
Εσφαλμένες μετρήσεις παλμικής οξυμετρίας Καθυστέρησε τη φροντίδα του COVID-19 για μειονοτικές ομάδες
Η κρυφή υποξαιμία ορίστηκε ως κορεσμός οξυγόνου του αρτηριακού αίματος μικρότερο από 88 τοις εκατό παρά την ένδειξη παλμικής οξυμετρίας 92 τοις εκατό ή περισσότερο.
Συνολικά, 30.039 ζεύγη παλμικής οξυμετρίας και μετρήσεων κορεσμού οξυγόνου αρτηριακού αίματος πραγματοποιήθηκαν στην ερευνητική διαδικασία. Από αυτά τα ζευγάρια, το 73 τοις εκατό ανήκε σε μη Ισπανόφωνους Λευκούς, το 21,6 τοις εκατό σε μη Ισπανόφωνους Μαύρους και το 5,4 τοις εκατό σε Ισπανόφωνους ή Λατίνους.
Σε λευκούς ασθενείς, τα επίπεδα παλμικής οξυμετρίας που ξεπέρασαν το 92 τοις εκατό συσχετίστηκαν με 15,6 τοις εκατό πιθανότητα κρυφής υποξαιμίας, όπως μετρήθηκε με κορεσμό οξυγόνου του αρτηριακού αίματος μικρότερο από 88 τοις εκατό. Αυτή η μέτρηση του παλμικού οξύμετρου συνδέθηκε επίσης με πιθανότητα 19,6 τοις εκατό για κρυφή υποξαιμία με μέτρηση κορεσμού οξυγόνου σε μαύρους ασθενείς και 16,2 τοις εκατό σε ισπανόφωνους ή λατίνους ασθενείς.
Έτσι, οι μαύροι ασθενείς είχαν υψηλότερες πιθανότητες από τους λευκούς ομολόγους τους να έχουν κρυφή υποξαιμία όπως μετρήθηκε από τον κορεσμό οξυγόνου του αρτηριακού αίματος αλλά δεν ανιχνεύθηκε με παλμική οξυμετρία.
Οι ερευνητές σημείωσαν επίσης ότι οι λευκοί ασθενείς με παλμική οξυμετρία και μετρήσεις κορεσμού οξυγόνου αρτηριακού αίματος που πραγματοποιήθηκαν εντός 5 λεπτών και 2 λεπτών είχαν 2,7 τοις εκατό πιθανότητα μελλοντικής μέτρησης κορεσμού οξυγόνου στο αρτηριακό αίμα χαμηλότερο από 88 τοις εκατό σε συνδυασμό με μέτρηση παλμικής οξυμετρίας 92 τοις εκατό . Οι μαύροι ασθενείς, ωστόσο, είχαν μεγαλύτερη πιθανότητα στο 12,9%.
Υπάρχουν αρκετοί περιορισμοί στη μελέτη, κυρίως ότι οι μετρήσεις παλμική οξυμετρία γίνονται πιο συχνά από το οξυγόνο του αρτηριακού αίματος, η έλλειψη σαφήνειας κατά τη συλλογή δεδομένων σχετικά με τη φυλή και το γεγονός ότι όλοι οι συμμετέχοντες στη μελέτη είχαν βιογραφικό που περιείχε στρατιωτική θητεία.
Ωστόσο, με βάση αυτά τα αποτελέσματα, οι ερευνητές κατέληξαν στο συμπέρασμα ότι οι μαύροι ασθενείς είχαν περισσότερες πιθανότητες από τους λευκούς ασθενείς να έχουν κρυφή υποξαιμία που μετρήθηκε με κορεσμό οξυγόνου του αρτηριακού αίματος αλλά όχι με παλμική οξυμετρία. Οι διαφορές μεταξύ των δύο μετρήσεων μπορεί να οδηγήσουν σε μαύρους ασθενείς που αντιμετωπίζουν εμπόδια κατά την πρόσβαση σε περίθαλψη.
Τα κλινικά στοιχεία που δείχνουν φυλετικές αποκλίσεις στη χρήση της παλμικής οξυμετρίας αυξάνονται.
Μια μελέτη που δημοσιεύθηκε τον Ιούνιο περιέγραψε πώς η χρήση παλμικό οξύμετρων οδήγησε σε ανισότητες στη φροντίδα, εμποδίζοντας τις μειονοτικές ομάδες να λάβουν φροντίδα για τον COVID-19. Αφού συγκέντρωσαν ασθενείς με κρυφή υποξαιμία, οι ερευνητές τους χώρισαν ανά φυλή και εθνικότητα, μόνο για να διαπιστώσουν ότι οι μετρήσεις του παλμικού οξύμετρου για Ασιάτες, μαύρους και ισπανόφωνους ασθενείς υπερεκτίμησαν τα επίπεδα κορεσμού οξυγόνου στο αρτηριακό αίμα.
Μια άλλη μελέτη που δημοσιεύθηκε τον Ιούλιο αποκάλυψε ότι οι ανακριβείς μετρήσεις του παλμικού οξύμετρου οδήγησαν σε διαφορές στην παροχή συμπληρωματικού οξυγόνου στους ασθενείς, επηρεάζοντας κυρίως τους Ασιάτες, τους μαύρους και τους Ισπανόφωνους.
Εσφαλμένες μετρήσεις παλμικής οξυμετρίας Καθυστέρησε τη φροντίδα του COVID-19 για μειονοτικές ομάδες
Η κρυφή υποξαιμία ορίστηκε ως κορεσμός οξυγόνου του αρτηριακού αίματος μικρότερο από 88 τοις εκατό παρά την ένδειξη παλμικής οξυμετρίας 92 τοις εκατό ή περισσότερο.
Συνολικά, 30.039 ζεύγη παλμικής οξυμετρίας και μετρήσεων κορεσμού οξυγόνου αρτηριακού αίματος πραγματοποιήθηκαν στην ερευνητική διαδικασία. Από αυτά τα ζευγάρια, το 73 τοις εκατό ανήκε σε μη Ισπανόφωνους Λευκούς, το 21,6 τοις εκατό σε μη Ισπανόφωνους Μαύρους και το 5,4 τοις εκατό σε Ισπανόφωνους ή Λατίνους.
Σε λευκούς ασθενείς, τα επίπεδα παλμικής οξυμετρίας που ξεπέρασαν το 92 τοις εκατό συσχετίστηκαν με 15,6 τοις εκατό πιθανότητα κρυφής υποξαιμίας, όπως μετρήθηκε με κορεσμό οξυγόνου του αρτηριακού αίματος μικρότερο από 88 τοις εκατό. Αυτή η μέτρηση του παλμικού οξύμετρου συνδέθηκε επίσης με πιθανότητα 19,6 τοις εκατό για κρυφή υποξαιμία με μέτρηση κορεσμού οξυγόνου σε μαύρους ασθενείς και 16,2 τοις εκατό σε ισπανόφωνους ή λατίνους ασθενείς.
Έτσι, οι μαύροι ασθενείς είχαν υψηλότερες πιθανότητες από τους λευκούς ομολόγους τους να έχουν κρυφή υποξαιμία όπως μετρήθηκε από τον κορεσμό οξυγόνου του αρτηριακού αίματος αλλά δεν ανιχνεύθηκε με παλμική οξυμετρία.
Οι ερευνητές σημείωσαν επίσης ότι οι λευκοί ασθενείς με παλμική οξυμετρία και μετρήσεις κορεσμού οξυγόνου αρτηριακού αίματος που πραγματοποιήθηκαν εντός 5 λεπτών και 2 λεπτών είχαν 2,7 τοις εκατό πιθανότητα μελλοντικής μέτρησης κορεσμού οξυγόνου στο αρτηριακό αίμα χαμηλότερο από 88 τοις εκατό σε συνδυασμό με μέτρηση παλμικής οξυμετρίας 92 τοις εκατό . Οι μαύροι ασθενείς, ωστόσο, είχαν μεγαλύτερη πιθανότητα στο 12,9%.
Υπάρχουν αρκετοί περιορισμοί στη μελέτη, κυρίως ότι οι μετρήσεις παλμική οξυμετρία γίνονται πιο συχνά από το οξυγόνο του αρτηριακού αίματος, η έλλειψη σαφήνειας κατά τη συλλογή δεδομένων σχετικά με τη φυλή και το γεγονός ότι όλοι οι συμμετέχοντες στη μελέτη είχαν βιογραφικό που περιείχε στρατιωτική θητεία.
Ωστόσο, με βάση αυτά τα αποτελέσματα, οι ερευνητές κατέληξαν στο συμπέρασμα ότι οι μαύροι ασθενείς είχαν περισσότερες πιθανότητες από τους λευκούς ασθενείς να έχουν κρυφή υποξαιμία που μετρήθηκε με κορεσμό οξυγόνου του αρτηριακού αίματος αλλά όχι με παλμική οξυμετρία. Οι διαφορές μεταξύ των δύο μετρήσεων μπορεί να οδηγήσουν σε μαύρους ασθενείς που αντιμετωπίζουν εμπόδια κατά την πρόσβαση σε περίθαλψη.
Τα κλινικά στοιχεία που δείχνουν φυλετικές αποκλίσεις στη χρήση της παλμικής οξυμετρίας αυξάνονται.
Μια μελέτη που δημοσιεύθηκε τον Ιούνιο περιέγραψε πώς η χρήση παλμικό οξύμετρων οδήγησε σε ανισότητες στη φροντίδα, εμποδίζοντας τις μειονοτικές ομάδες να λάβουν φροντίδα για τον COVID-19. Αφού συγκέντρωσαν ασθενείς με κρυφή υποξαιμία, οι ερευνητές τους χώρισαν ανά φυλή και εθνικότητα, μόνο για να διαπιστώσουν ότι οι μετρήσεις του παλμικού οξύμετρου για Ασιάτες, μαύρους και ισπανόφωνους ασθενείς υπερεκτίμησαν τα επίπεδα κορεσμού οξυγόνου στο αρτηριακό αίμα.
Μια άλλη μελέτη που δημοσιεύθηκε τον Ιούλιο αποκάλυψε ότι οι ανακριβείς μετρήσεις του παλμικού οξύμετρου οδήγησαν σε διαφορές στην παροχή συμπληρωματικού οξυγόνου στους ασθενείς, επηρεάζοντας κυρίως τους Ασιάτες, τους μαύρους και τους Ισπανόφωνους.
πηγή 14-7-22
===========
σχετικό δημοσίευμα
Τα εργαλεία τεχνητής νοημοσύνης αποτυγχάνουν να μειώσουν την προκατάληψη προσλήψεων - μελέτη
λογισμικό τεχνητής νοημοσύνης για την ανάλυση της φωνής και της γλώσσας του σώματος των υποψηφίων κατά την πρόσληψη
υπολογιστές απορρίπτουν την αίτησή σας για εργασία
14-10-22
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου