26 Οκτωβρίου 2023
Η τεχνητή νοημοσύνη μπορεί να βοηθήσει τα συστήματα υγειονομικής περίθαλψης υπό πίεση να διαθέσουν περιορισμένους πόρους, αλλά και να οδηγήσει σε πιο άνιση πρόσβαση. Αυτό αποδεικνύεται από μια ερευνητική συνεργασία μεταξύ του Πανεπιστημίου της Κοπεγχάγης, του Rigshospitalet και του DTU που διερεύνησε εάν η τεχνητή νοημοσύνη μπορεί να εντοπίσει τον κίνδυνο κατάθλιψης εξίσου σε διαφορετικά τμήματα του πληθυσμού. Η έρευνα παρουσιάζει επιλογές για το συνδυασμό αλγορίθμων για προκατάληψη πριν από την ανάπτυξή τους.
Η τεχνητή νοημοσύνη κάνει σίγουρη αλλά σταθερή πρόοδο στο σύστημα υγειονομικής περίθαλψης. Οι μαγνητικές τομογραφίες έχουν ήδη γίνει πιο αποτελεσματικές από την τεχνητή νοημοσύνη και τα νοσοκομεία της Δανίας δοκιμάζουν τώρα την τεχνητή νοημοσύνη για να κάνουν γρήγορες διαγνώσεις στα επείγοντα και καλύτερες διαγνώσεις και θεραπείες καρκίνου. Αλλά αυτό είναι μόνο η αρχή.
Στις 14 Αυγούστου, η υπουργός Εσωτερικών και Υγείας της Δανίας, Sophie Løhde, δήλωσε ότι οραματίζεται ένα μέλλον στο οποίο η τεχνητή νοημοσύνη ανακουφίζει το πολιορκημένο σύστημα υγειονομικής περίθαλψης της Δανίας.
Στα νοσοκομεία και την ψυχιατρική, ένα από τα καθήκοντα που η τεχνητή νοημοσύνη είναι κατάλληλη για τη βελτίωση είναι η κατανομή περιορισμένων κεφαλαίων μέσω αναλύσεων κινδύνου και ταξινομήσεων που μπορούν να εξασφαλίσουν, για παράδειγμα, ότι οι θεραπείες παρέχονται στους ασθενείς όπου μπορούν να είναι πιο αποτελεσματικές.
Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη σε άλλες χώρες για να αξιολογηθεί ποιος πρέπει να λάβει θεραπεία για την κατάθλιψη. Είναι μια εξέλιξη που θα μπορούσε να είναι στο δρόμο για ένα δανικό σύστημα ψυχικής υγείας υπό πίεση.
Τώρα, ωστόσο, οι ερευνητές του Πανεπιστημίου της Κοπεγχάγης καλούν τους πολιτικούς για προβληματισμό, ώστε η τεχνητή νοημοσύνη να μην οδηγήσει σε περισσότερες ανισότητες ή να γίνει εργαλείο ψυχρών οικονομικών υπολογισμών. Επισημαίνουν ότι η απροσεξία θα μπορούσε να κάνει τη βοήθεια σε κακή εξυπηρέτηση.
«Η τεχνητή νοημοσύνη έχει μεγάλες δυνατότητες, αλλά πρέπει να είμαστε προσεκτικοί γιατί η τυφλή εφαρμογή της μπορεί να στρεβλώσει το σύστημα υγειονομικής περίθαλψης με νέους τρόπους που είναι δύσκολο να δούμε, καθώς τα αποτελέσματα μπορεί να φαίνονται σωστά με την πρώτη ματιά», λέει η Melanie Ganz από το Πανεπιστήμιο. του Τμήματος Επιστήμης Υπολογιστών και Rigshospitalet της Κοπεγχάγης.
Αόρατες διακρίσεις
Σε ένα νέο ερευνητικό άρθρο , μαζί με τους συν-συγγραφείς της, καταγράφει πώς κρυφές προκαταλήψεις εισχωρούν σε έναν αλγόριθμο που έχει σχεδιαστεί για τον υπολογισμό του κινδύνου κατάθλιψης.
Γεγονότα: Η κατάθλιψη στη Δανία
Η κατάθλιψη είναι μια πολύ κοινή εξουθενωτική διαταραχή. Η Δανική Υγειονομική Αρχή εκτιμά ότι περίπου 500.000 Δανοί θα υποφέρουν από σοβαρή κατάθλιψη κατά τη διάρκεια της ζωής τους. Ταυτόχρονα, υπάρχει ευρεία συμφωνία ότι οι δανικές ψυχιατρικές υπηρεσίες δεν διαθέτουν τους πόρους για να ανταποκριθούν στις ανάγκες.
Μαζί με συναδέλφους από το Τεχνικό Πανεπιστήμιο της Δανίας (DTU), οι ερευνητές ανέπτυξαν τον αλγόριθμο που βασίζεται στον σχεδιασμό αλγορίθμων που ήδη χρησιμοποιείται στα συστήματα υγειονομικής περίθαλψης. Με βάση τις πραγματικές διαγνώσεις κατάθλιψης, ο αλγόριθμος προβλέπει τον κίνδυνο εμφάνισης κατάθλιψης στα άτομα.
"Σε άλλες χώρες, γίνεται όλο και πιο συνηθισμένο να εξετάζουμε πώς να ανιχνεύσουμε και να αποτρέψουμε την κατάθλιψη σε πρώιμο στάδιο. Στις ΗΠΑ, για παράδειγμα, η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο από ιδιωτικές ασφαλιστικές εταιρείες για να ιεραρχήσουν τους πόρους, μια εξέλιξη που πιθανότατα θα έρθει στη Δανία στο εγγύς μέλλον. Το ερώτημα είναι πόσο δίκαιο θα είναι στην πραγματικότητα η βάση για μια τέτοια ιεράρχηση», λέει η συν-συγγραφέας Sune Holm από το Τμήμα Οικονομικών Τροφίμων και Πόρων.
Οι ερευνητές χρησιμοποίησαν την κατάθλιψη ως μελέτη περίπτωσης για να διερευνήσουν πώς μπορούμε να αξιολογήσουμε τους αλγόριθμους που χρησιμοποιούμε τόσο στο σύστημα υγειονομικής περίθαλψης όσο και αλλού στην κοινωνία, ώστε να μπορούμε να εντοπίσουμε και να προσαρμόσουμε έγκαιρα προβλήματα και να κάνουμε τους αλγόριθμους πιο δίκαιους πριν χρησιμοποιηθούν.
Extra Info: Μια εκκίνηση ως σενάριο
Ως πείραμα, σε ένα υποθετικό σενάριο, οι ερευνητές ανέλαβαν το ρόλο μιας νεοφυούς εταιρείας που προσεγγίζει δήμους και άλλες αρχές της Δανίας με λύσεις τεχνητής νοημοσύνης για να τους βοηθήσει να δώσουν προτεραιότητα σε περιορισμένα κεφάλαια, π.χ. για τον τομέα της υγείας.
Στη Δανία, η τεχνητή νοημοσύνη δεν χρησιμοποιείται ακόμη ως διαγνωστικό βοήθημα για την κατάθλιψη, αλλά υπάρχει διεθνώς, και στη Δανία έχουμε παράδοση στην ανάπτυξη εργαλείων για την υποστήριξη αποφάσεων στο πλαίσιο της διάγνωσης.
"Υπάρχουν ήδη startups στις ΗΠΑ που προσφέρουν λύσεις τεχνητής νοημοσύνης για την ανάλυση και την ταξινόμηση του κινδύνου κατάθλιψης. Με το μεγάλο κοινό σύστημα υγειονομικής περίθαλψης, ένα ρεαλιστικό σενάριο στη Δανία είναι ότι οι περίοδοι ελλείψεων προσωπικού θα απαιτούν λύσεις τεχνητής νοημοσύνης που είναι σε θέση να δώσουν προτεραιότητα στους πόρους. πχ στην ψυχιατρική», λέει η Melanie Ganz.
Γεγονότα: Πώς λειτουργεί ο αλγόριθμος
Χρησιμοποιήθηκαν ιστορικά δεδομένα για έξι εκατομμύρια Δανούς από τη Στατιστική Υπηρεσία της Δανίας και από ιατρικά μητρώα. Από αυτούς, περίπου 200.000 είχαν διάγνωση κατάθλιψης.
Τα δεδομένα περιείχαν μια σειρά από μεταβλητές που επηρεάζουν στατιστικά τον κίνδυνο κατάθλιψης. Περιλάμβανε δημογραφικά δεδομένα, όπως ηλικία, φύλο, εισόδημα, αν το άτομο ζει μόνο του, είναι γεννημένος στη Δανία ή μετανάστης, διαμονή, εκπαίδευση, κοινωνική κατάσταση και αρκετούς άλλους παράγοντες.
Με βάση τα στατιστικά δεδομένα και τις πραγματικές διαγνώσεις κατάθλιψης που γίνονται από επαγγελματίες υγείας, ο αλγόριθμος προσπαθεί στη συνέχεια να προβλέψει εάν οι άνθρωποι διατρέχουν κίνδυνο κατάθλιψης.
Κρύβοντας τη διάγνωση από το AI, οι ερευνητές μπόρεσαν να χρησιμοποιήσουν δεδομένα από τους μισούς Δανούς που είχαν διαγνωστεί για να εκπαιδεύσουν το μηχάνημα να εντοπίζει μοτίβα και δείκτες που θα μπορούσε να χρησιμοποιήσει για τις προβλέψεις του. Το άλλο μισό χρησιμοποιήθηκε για να ελεγχθεί εάν ο αλγόριθμος ήταν στον στόχο.
"Οι σωστοί αλγόριθμοι, εάν εκπαιδευτούν σωστά, μπορούν να γίνουν τεράστια πλεονεκτήματα για οποιονδήποτε δήμο με περιορισμένους πόρους. Όμως η έρευνά μας δείχνει ότι εάν η μηχανική μάθηση δεν γίνεται σωστά, μπορεί να παραμορφώσει την πρόσβαση στη θεραπεία, έτσι ώστε ορισμένες ομάδες να παραβλεφθούν ή ακόμα και να αφεθούν έξω», λέει η Melanie Ganz.
Η μελέτη δείχνει ότι ο αλγόριθμος εντοπίζει ευκολότερα τον κίνδυνο κατάθλιψης σε ορισμένες ομάδες πολιτών από ό,τι σε άλλες με βάση τις μεταβλητές στις οποίες εκπαιδεύονται - π.χ. εκπαίδευση, φύλο, εθνικότητα και μια σειρά από άλλες μεταβλητές. Πράγματι, η ικανότητα του αλγορίθμου να εντοπίζει τον κίνδυνο κατάθλιψης διέφερε έως και 15% μεταξύ των διαφορετικών ομάδων.
«Αυτό σημαίνει ότι ακόμη και μια περιφέρεια ή δήμος, που με καλή πίστη εισάγει έναν αλγόριθμο για να βοηθήσει στην κατανομή των επιλογών θεραπείας, μπορεί να στρεβλώσει οποιαδήποτε τέτοια προσπάθεια υγειονομικής περίθαλψης», λέει η Melanie Ganz.
Ο αλγόριθμος μπορεί να είναι μια μετρήσιμη επιτυχία επειδή κατανέμει πόρους σε όσους έχουν πραγματική ανάγκη. Ταυτόχρονα όμως, θα μπορούσε να έχει κρυφές προκαταλήψεις που αποκλείουν ή υποβαθμίζουν ορισμένες ομάδες, χωρίς να είναι ορατό σε αυτούς που το διαχειρίζονται.
Στη χειρότερη περίπτωση, τα συστήματα AI μπορούν να γίνουν ένα όργανο ψυχρού υπολογισμού. Η επιλογή ορισμένων αλγορίθμων θα μπορούσε να χρησιμοποιηθεί για να αποκρύψει την ιεράρχηση πόρων για ορισμένες κοινωνικές ομάδες έναντι άλλων.
Εργαλείο για τη διασφάλιση δίκαιων αλγορίθμων
Η Sune Holm επισημαίνει ότι η τεχνητή νοημοσύνη παρουσιάζει επίσης ορισμένα θεμελιώδη ηθικά διλήμματα.
Γεγονότα: Εξέταση της δικαιοσύνης
Για να αναλύσουν τη δικαιοσύνη, οι ερευνητές εξέτασαν την ποιότητα του αλγορίθμου σε διάφορα τμήματα του πληθυσμού, υπολογίζοντας τη βαθμονόμηση και τη διακριτική ικανότητα κάθε υποομάδας ξεχωριστά.Η βαθμονόμηση ενός αλγορίθμου μηχανικής εκμάθησης είναι παρόμοια με τη ρύθμιση ενός θερμομέτρου για να διασφαλιστεί ότι παρέχει ακριβείς μετρήσεις. Πρόκειται για να γίνουν οι προβλέψεις του αλγορίθμου πιο αξιόπιστες προσαρμόζοντάς τις καλύτερα στην πραγματικότητα.
Ταυτόχρονα, ένας αλγόριθμος, όπως αυτός που καθορίζει εάν ένα email είναι ανεπιθύμητο ή όχι, πρέπει να είναι καλός στη διάκριση μεταξύ διαφορετικών κατηγοριών. Η ικανότητά του να κάνει διακρίσεις είναι το ταλέντο του να αναγνωρίζει τα λεπτά μοτίβα ή τα χαρακτηριστικά που διακρίνουν τη μια κατηγορία από την άλλη.
Τα αποτελέσματα έδειξαν μια διαφορά στην ποιότητα των προβλέψεων του αλγορίθμου έως και 15% μεταξύ των υποομάδων.
"Εάν αρχίσουμε να χρησιμοποιούμε αυτά τα συστήματα, θα είναι σημαντικό να διευκρινίσουμε ποιος είναι υπεύθυνος για την ιεράρχηση πόρων και μεμονωμένων θεραπευτικών σχημάτων εάν είναι αποτέλεσμα αλγορίθμων. Επιπλέον, μπορεί να είναι δύσκολο για έναν γιατρό να εξηγήσει σε έναν ασθενή γιατί ελήφθη μια απόφαση. γίνεται αν ο ίδιος ο αλγόριθμος είναι ακατανόητος», λέει η Sune Holm.
Ενώ η έρευνα συμβάλλει θεωρητικά σε έναν τομέα μηχανικής μάθησης που ασχολείται με την αλγοριθμική διάκριση μεταξύ των ομάδων, οι μέθοδοι είναι επίσης ένα ισχυρό εργαλείο για τον έλεγχο της ποιότητας της δικαιοσύνης αλγορίθμων.
"Οι μέθοδοι που αναπτύξαμε μπορούν να χρησιμοποιηθούν ως συγκεκριμένη συνταγή για την αξιολόγηση της ορθότητας των αλγορίθμων πριν χρησιμοποιηθούν, για παράδειγμα, σε δήμους και περιφέρειες. Με αυτόν τον τρόπο, ελπίζουμε ότι η έρευνα μπορεί να συμβάλει στην ύπαρξη των κατάλληλων εργαλείων τόπος για το πότε οι αλγόριθμοι κάνουν πραγματικά την είσοδό τους σε αυτήν την περιοχή», λέει η Melanie Ganz.
"Τόσο οι πολιτικοί όσο και οι πολίτες πρέπει να γνωρίζουν όχι μόνο τα οφέλη, αλλά και τις παγίδες που συνδέονται με τη χρήση της τεχνητής νοημοσύνης. Έτσι, μπορεί κανείς να είναι επικριτικός αντί να "καταπιεί απλώς το χάπι" χωρίς περαιτέρω καθυστέρηση", λέει η Sune Holm.
Πιστεύει ότι μπορεί να υπάρχει ανάγκη να διασφαλιστεί ότι η χρήση ενός αλγορίθμου έχει τεκμηριωμένη θετική επίδραση στους ασθενείς πριν επενδύσει στην εφαρμογή του. Για παράδειγμα, θα πρέπει να είναι σαφές πώς μπορεί να προσθέσει αξία στην κλινική πρακτική της οποίας αποτελεί μέρος.
Extra Info: Η νομοθεσία καθ' οδόν
Στο τέλος του έτους θα τεθεί σε ισχύ η νομοθεσία της ΕΕ που ορίζει απαιτήσεις για αλγόριθμους. Ο ερευνητής επισημαίνει ότι μια τέτοια νομοθεσία μπορεί να περιορίσει τις εξελίξεις. Όποτε εμπλέκεται τεχνητή νοημοσύνη υψηλού κινδύνου, όπως στον τομέα της υγείας, υπάρχουν απαιτήσεις τεκμηρίωσης και αναφοράς που εξηγούν τα συμπεράσματα και μπορούν να βοηθήσουν στη διασφάλιση του ανθρώπινου χεριού στις αποφάσεις που βασίζονται σε αλγόριθμους.
Ωστόσο, σύμφωνα με τους ερευνητές, υπάρχουν τόσα πολλά σημεία στο σύστημα υγειονομικής περίθαλψης που πρόκειται να βελτιωθούν με την τεχνητή νοημοσύνη – από ροές εργασίας, διαγνώσεις και θεραπείες μέχρι την παρακολούθηση ασθενών εντατικής θεραπείας και πολλά άλλα – που η χρήση της τεχνητής νοημοσύνης πρέπει να είναι εδώ να μείνετε.
"Μόλις τεθεί σε ισχύ η νομοθεσία, νομίζω ότι θα επιβραδύνει κάπως την ανάπτυξη. Στη συνέχεια, θα υπάρξει μια προσαρμογή, η οποία θα καθορίσει μια κατεύθυνση. Σε ελαφρώς μακροπρόθεσμα, η τεχνητή νοημοσύνη θα χρησιμοποιείται μόνο όλο και περισσότερο. Ως εκ τούτου, είναι επίσης σημαντικό να βοηθήσουμε εμείς ως ερευνητές να επισημάνουμε τυχόν παγίδες, ώστε η νομοθεσία να τις λάβει υπόψη», λέει η Melanie Ganz.
Η τεχνητή νοημοσύνη μπορεί να βοηθήσει τα συστήματα υγειονομικής περίθαλψης υπό πίεση να διαθέσουν περιορισμένους πόρους, αλλά και να οδηγήσει σε πιο άνιση πρόσβαση. Αυτό αποδεικνύεται από μια ερευνητική συνεργασία μεταξύ του Πανεπιστημίου της Κοπεγχάγης, του Rigshospitalet και του DTU που διερεύνησε εάν η τεχνητή νοημοσύνη μπορεί να εντοπίσει τον κίνδυνο κατάθλιψης εξίσου σε διαφορετικά τμήματα του πληθυσμού. Η έρευνα παρουσιάζει επιλογές για το συνδυασμό αλγορίθμων για προκατάληψη πριν από την ανάπτυξή τους.
Η τεχνητή νοημοσύνη κάνει σίγουρη αλλά σταθερή πρόοδο στο σύστημα υγειονομικής περίθαλψης. Οι μαγνητικές τομογραφίες έχουν ήδη γίνει πιο αποτελεσματικές από την τεχνητή νοημοσύνη και τα νοσοκομεία της Δανίας δοκιμάζουν τώρα την τεχνητή νοημοσύνη για να κάνουν γρήγορες διαγνώσεις στα επείγοντα και καλύτερες διαγνώσεις και θεραπείες καρκίνου. Αλλά αυτό είναι μόνο η αρχή.
Στις 14 Αυγούστου, η υπουργός Εσωτερικών και Υγείας της Δανίας, Sophie Løhde, δήλωσε ότι οραματίζεται ένα μέλλον στο οποίο η τεχνητή νοημοσύνη ανακουφίζει το πολιορκημένο σύστημα υγειονομικής περίθαλψης της Δανίας.
Στα νοσοκομεία και την ψυχιατρική, ένα από τα καθήκοντα που η τεχνητή νοημοσύνη είναι κατάλληλη για τη βελτίωση είναι η κατανομή περιορισμένων κεφαλαίων μέσω αναλύσεων κινδύνου και ταξινομήσεων που μπορούν να εξασφαλίσουν, για παράδειγμα, ότι οι θεραπείες παρέχονται στους ασθενείς όπου μπορούν να είναι πιο αποτελεσματικές.
Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη σε άλλες χώρες για να αξιολογηθεί ποιος πρέπει να λάβει θεραπεία για την κατάθλιψη. Είναι μια εξέλιξη που θα μπορούσε να είναι στο δρόμο για ένα δανικό σύστημα ψυχικής υγείας υπό πίεση.
Τώρα, ωστόσο, οι ερευνητές του Πανεπιστημίου της Κοπεγχάγης καλούν τους πολιτικούς για προβληματισμό, ώστε η τεχνητή νοημοσύνη να μην οδηγήσει σε περισσότερες ανισότητες ή να γίνει εργαλείο ψυχρών οικονομικών υπολογισμών. Επισημαίνουν ότι η απροσεξία θα μπορούσε να κάνει τη βοήθεια σε κακή εξυπηρέτηση.
«Η τεχνητή νοημοσύνη έχει μεγάλες δυνατότητες, αλλά πρέπει να είμαστε προσεκτικοί γιατί η τυφλή εφαρμογή της μπορεί να στρεβλώσει το σύστημα υγειονομικής περίθαλψης με νέους τρόπους που είναι δύσκολο να δούμε, καθώς τα αποτελέσματα μπορεί να φαίνονται σωστά με την πρώτη ματιά», λέει η Melanie Ganz από το Πανεπιστήμιο. του Τμήματος Επιστήμης Υπολογιστών και Rigshospitalet της Κοπεγχάγης.
Αόρατες διακρίσεις
Σε ένα νέο ερευνητικό άρθρο , μαζί με τους συν-συγγραφείς της, καταγράφει πώς κρυφές προκαταλήψεις εισχωρούν σε έναν αλγόριθμο που έχει σχεδιαστεί για τον υπολογισμό του κινδύνου κατάθλιψης.
Γεγονότα: Η κατάθλιψη στη Δανία
Η κατάθλιψη είναι μια πολύ κοινή εξουθενωτική διαταραχή. Η Δανική Υγειονομική Αρχή εκτιμά ότι περίπου 500.000 Δανοί θα υποφέρουν από σοβαρή κατάθλιψη κατά τη διάρκεια της ζωής τους. Ταυτόχρονα, υπάρχει ευρεία συμφωνία ότι οι δανικές ψυχιατρικές υπηρεσίες δεν διαθέτουν τους πόρους για να ανταποκριθούν στις ανάγκες.
Μαζί με συναδέλφους από το Τεχνικό Πανεπιστήμιο της Δανίας (DTU), οι ερευνητές ανέπτυξαν τον αλγόριθμο που βασίζεται στον σχεδιασμό αλγορίθμων που ήδη χρησιμοποιείται στα συστήματα υγειονομικής περίθαλψης. Με βάση τις πραγματικές διαγνώσεις κατάθλιψης, ο αλγόριθμος προβλέπει τον κίνδυνο εμφάνισης κατάθλιψης στα άτομα.
"Σε άλλες χώρες, γίνεται όλο και πιο συνηθισμένο να εξετάζουμε πώς να ανιχνεύσουμε και να αποτρέψουμε την κατάθλιψη σε πρώιμο στάδιο. Στις ΗΠΑ, για παράδειγμα, η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο από ιδιωτικές ασφαλιστικές εταιρείες για να ιεραρχήσουν τους πόρους, μια εξέλιξη που πιθανότατα θα έρθει στη Δανία στο εγγύς μέλλον. Το ερώτημα είναι πόσο δίκαιο θα είναι στην πραγματικότητα η βάση για μια τέτοια ιεράρχηση», λέει η συν-συγγραφέας Sune Holm από το Τμήμα Οικονομικών Τροφίμων και Πόρων.
Οι ερευνητές χρησιμοποίησαν την κατάθλιψη ως μελέτη περίπτωσης για να διερευνήσουν πώς μπορούμε να αξιολογήσουμε τους αλγόριθμους που χρησιμοποιούμε τόσο στο σύστημα υγειονομικής περίθαλψης όσο και αλλού στην κοινωνία, ώστε να μπορούμε να εντοπίσουμε και να προσαρμόσουμε έγκαιρα προβλήματα και να κάνουμε τους αλγόριθμους πιο δίκαιους πριν χρησιμοποιηθούν.
Extra Info: Μια εκκίνηση ως σενάριο
Ως πείραμα, σε ένα υποθετικό σενάριο, οι ερευνητές ανέλαβαν το ρόλο μιας νεοφυούς εταιρείας που προσεγγίζει δήμους και άλλες αρχές της Δανίας με λύσεις τεχνητής νοημοσύνης για να τους βοηθήσει να δώσουν προτεραιότητα σε περιορισμένα κεφάλαια, π.χ. για τον τομέα της υγείας.
Στη Δανία, η τεχνητή νοημοσύνη δεν χρησιμοποιείται ακόμη ως διαγνωστικό βοήθημα για την κατάθλιψη, αλλά υπάρχει διεθνώς, και στη Δανία έχουμε παράδοση στην ανάπτυξη εργαλείων για την υποστήριξη αποφάσεων στο πλαίσιο της διάγνωσης.
"Υπάρχουν ήδη startups στις ΗΠΑ που προσφέρουν λύσεις τεχνητής νοημοσύνης για την ανάλυση και την ταξινόμηση του κινδύνου κατάθλιψης. Με το μεγάλο κοινό σύστημα υγειονομικής περίθαλψης, ένα ρεαλιστικό σενάριο στη Δανία είναι ότι οι περίοδοι ελλείψεων προσωπικού θα απαιτούν λύσεις τεχνητής νοημοσύνης που είναι σε θέση να δώσουν προτεραιότητα στους πόρους. πχ στην ψυχιατρική», λέει η Melanie Ganz.
Γεγονότα: Πώς λειτουργεί ο αλγόριθμος
Χρησιμοποιήθηκαν ιστορικά δεδομένα για έξι εκατομμύρια Δανούς από τη Στατιστική Υπηρεσία της Δανίας και από ιατρικά μητρώα. Από αυτούς, περίπου 200.000 είχαν διάγνωση κατάθλιψης.
Τα δεδομένα περιείχαν μια σειρά από μεταβλητές που επηρεάζουν στατιστικά τον κίνδυνο κατάθλιψης. Περιλάμβανε δημογραφικά δεδομένα, όπως ηλικία, φύλο, εισόδημα, αν το άτομο ζει μόνο του, είναι γεννημένος στη Δανία ή μετανάστης, διαμονή, εκπαίδευση, κοινωνική κατάσταση και αρκετούς άλλους παράγοντες.
Με βάση τα στατιστικά δεδομένα και τις πραγματικές διαγνώσεις κατάθλιψης που γίνονται από επαγγελματίες υγείας, ο αλγόριθμος προσπαθεί στη συνέχεια να προβλέψει εάν οι άνθρωποι διατρέχουν κίνδυνο κατάθλιψης.
Κρύβοντας τη διάγνωση από το AI, οι ερευνητές μπόρεσαν να χρησιμοποιήσουν δεδομένα από τους μισούς Δανούς που είχαν διαγνωστεί για να εκπαιδεύσουν το μηχάνημα να εντοπίζει μοτίβα και δείκτες που θα μπορούσε να χρησιμοποιήσει για τις προβλέψεις του. Το άλλο μισό χρησιμοποιήθηκε για να ελεγχθεί εάν ο αλγόριθμος ήταν στον στόχο.
"Οι σωστοί αλγόριθμοι, εάν εκπαιδευτούν σωστά, μπορούν να γίνουν τεράστια πλεονεκτήματα για οποιονδήποτε δήμο με περιορισμένους πόρους. Όμως η έρευνά μας δείχνει ότι εάν η μηχανική μάθηση δεν γίνεται σωστά, μπορεί να παραμορφώσει την πρόσβαση στη θεραπεία, έτσι ώστε ορισμένες ομάδες να παραβλεφθούν ή ακόμα και να αφεθούν έξω», λέει η Melanie Ganz.
Η μελέτη δείχνει ότι ο αλγόριθμος εντοπίζει ευκολότερα τον κίνδυνο κατάθλιψης σε ορισμένες ομάδες πολιτών από ό,τι σε άλλες με βάση τις μεταβλητές στις οποίες εκπαιδεύονται - π.χ. εκπαίδευση, φύλο, εθνικότητα και μια σειρά από άλλες μεταβλητές. Πράγματι, η ικανότητα του αλγορίθμου να εντοπίζει τον κίνδυνο κατάθλιψης διέφερε έως και 15% μεταξύ των διαφορετικών ομάδων.
«Αυτό σημαίνει ότι ακόμη και μια περιφέρεια ή δήμος, που με καλή πίστη εισάγει έναν αλγόριθμο για να βοηθήσει στην κατανομή των επιλογών θεραπείας, μπορεί να στρεβλώσει οποιαδήποτε τέτοια προσπάθεια υγειονομικής περίθαλψης», λέει η Melanie Ganz.
Ο αλγόριθμος μπορεί να είναι μια μετρήσιμη επιτυχία επειδή κατανέμει πόρους σε όσους έχουν πραγματική ανάγκη. Ταυτόχρονα όμως, θα μπορούσε να έχει κρυφές προκαταλήψεις που αποκλείουν ή υποβαθμίζουν ορισμένες ομάδες, χωρίς να είναι ορατό σε αυτούς που το διαχειρίζονται.
Στη χειρότερη περίπτωση, τα συστήματα AI μπορούν να γίνουν ένα όργανο ψυχρού υπολογισμού. Η επιλογή ορισμένων αλγορίθμων θα μπορούσε να χρησιμοποιηθεί για να αποκρύψει την ιεράρχηση πόρων για ορισμένες κοινωνικές ομάδες έναντι άλλων.
Εργαλείο για τη διασφάλιση δίκαιων αλγορίθμων
Η Sune Holm επισημαίνει ότι η τεχνητή νοημοσύνη παρουσιάζει επίσης ορισμένα θεμελιώδη ηθικά διλήμματα.
Γεγονότα: Εξέταση της δικαιοσύνης
Για να αναλύσουν τη δικαιοσύνη, οι ερευνητές εξέτασαν την ποιότητα του αλγορίθμου σε διάφορα τμήματα του πληθυσμού, υπολογίζοντας τη βαθμονόμηση και τη διακριτική ικανότητα κάθε υποομάδας ξεχωριστά.Η βαθμονόμηση ενός αλγορίθμου μηχανικής εκμάθησης είναι παρόμοια με τη ρύθμιση ενός θερμομέτρου για να διασφαλιστεί ότι παρέχει ακριβείς μετρήσεις. Πρόκειται για να γίνουν οι προβλέψεις του αλγορίθμου πιο αξιόπιστες προσαρμόζοντάς τις καλύτερα στην πραγματικότητα.
Ταυτόχρονα, ένας αλγόριθμος, όπως αυτός που καθορίζει εάν ένα email είναι ανεπιθύμητο ή όχι, πρέπει να είναι καλός στη διάκριση μεταξύ διαφορετικών κατηγοριών. Η ικανότητά του να κάνει διακρίσεις είναι το ταλέντο του να αναγνωρίζει τα λεπτά μοτίβα ή τα χαρακτηριστικά που διακρίνουν τη μια κατηγορία από την άλλη.
Τα αποτελέσματα έδειξαν μια διαφορά στην ποιότητα των προβλέψεων του αλγορίθμου έως και 15% μεταξύ των υποομάδων.
"Εάν αρχίσουμε να χρησιμοποιούμε αυτά τα συστήματα, θα είναι σημαντικό να διευκρινίσουμε ποιος είναι υπεύθυνος για την ιεράρχηση πόρων και μεμονωμένων θεραπευτικών σχημάτων εάν είναι αποτέλεσμα αλγορίθμων. Επιπλέον, μπορεί να είναι δύσκολο για έναν γιατρό να εξηγήσει σε έναν ασθενή γιατί ελήφθη μια απόφαση. γίνεται αν ο ίδιος ο αλγόριθμος είναι ακατανόητος», λέει η Sune Holm.
Ενώ η έρευνα συμβάλλει θεωρητικά σε έναν τομέα μηχανικής μάθησης που ασχολείται με την αλγοριθμική διάκριση μεταξύ των ομάδων, οι μέθοδοι είναι επίσης ένα ισχυρό εργαλείο για τον έλεγχο της ποιότητας της δικαιοσύνης αλγορίθμων.
"Οι μέθοδοι που αναπτύξαμε μπορούν να χρησιμοποιηθούν ως συγκεκριμένη συνταγή για την αξιολόγηση της ορθότητας των αλγορίθμων πριν χρησιμοποιηθούν, για παράδειγμα, σε δήμους και περιφέρειες. Με αυτόν τον τρόπο, ελπίζουμε ότι η έρευνα μπορεί να συμβάλει στην ύπαρξη των κατάλληλων εργαλείων τόπος για το πότε οι αλγόριθμοι κάνουν πραγματικά την είσοδό τους σε αυτήν την περιοχή», λέει η Melanie Ganz.
"Τόσο οι πολιτικοί όσο και οι πολίτες πρέπει να γνωρίζουν όχι μόνο τα οφέλη, αλλά και τις παγίδες που συνδέονται με τη χρήση της τεχνητής νοημοσύνης. Έτσι, μπορεί κανείς να είναι επικριτικός αντί να "καταπιεί απλώς το χάπι" χωρίς περαιτέρω καθυστέρηση", λέει η Sune Holm.
Πιστεύει ότι μπορεί να υπάρχει ανάγκη να διασφαλιστεί ότι η χρήση ενός αλγορίθμου έχει τεκμηριωμένη θετική επίδραση στους ασθενείς πριν επενδύσει στην εφαρμογή του. Για παράδειγμα, θα πρέπει να είναι σαφές πώς μπορεί να προσθέσει αξία στην κλινική πρακτική της οποίας αποτελεί μέρος.
Extra Info: Η νομοθεσία καθ' οδόν
Στο τέλος του έτους θα τεθεί σε ισχύ η νομοθεσία της ΕΕ που ορίζει απαιτήσεις για αλγόριθμους. Ο ερευνητής επισημαίνει ότι μια τέτοια νομοθεσία μπορεί να περιορίσει τις εξελίξεις. Όποτε εμπλέκεται τεχνητή νοημοσύνη υψηλού κινδύνου, όπως στον τομέα της υγείας, υπάρχουν απαιτήσεις τεκμηρίωσης και αναφοράς που εξηγούν τα συμπεράσματα και μπορούν να βοηθήσουν στη διασφάλιση του ανθρώπινου χεριού στις αποφάσεις που βασίζονται σε αλγόριθμους.
Ωστόσο, σύμφωνα με τους ερευνητές, υπάρχουν τόσα πολλά σημεία στο σύστημα υγειονομικής περίθαλψης που πρόκειται να βελτιωθούν με την τεχνητή νοημοσύνη – από ροές εργασίας, διαγνώσεις και θεραπείες μέχρι την παρακολούθηση ασθενών εντατικής θεραπείας και πολλά άλλα – που η χρήση της τεχνητής νοημοσύνης πρέπει να είναι εδώ να μείνετε.
"Μόλις τεθεί σε ισχύ η νομοθεσία, νομίζω ότι θα επιβραδύνει κάπως την ανάπτυξη. Στη συνέχεια, θα υπάρξει μια προσαρμογή, η οποία θα καθορίσει μια κατεύθυνση. Σε ελαφρώς μακροπρόθεσμα, η τεχνητή νοημοσύνη θα χρησιμοποιείται μόνο όλο και περισσότερο. Ως εκ τούτου, είναι επίσης σημαντικό να βοηθήσουμε εμείς ως ερευνητές να επισημάνουμε τυχόν παγίδες, ώστε η νομοθεσία να τις λάβει υπόψη», λέει η Melanie Ganz.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου