Κυριακή 12 Σεπτεμβρίου 2021

Αλγόριθμος που χρησιμοποιεί το TikTok, προωθεί σεξουαλικό περιεχόμενο, ναρκωτικά και αλκοόλ σε παιδιά, αποκαλύπτει έρευνα της (WSJ)

Ο αλγόριθμος που χρησιμοποιεί το TikTok για να αποφασίσει ποια βίντεο θα δουν οι χρήστες προωθεί σεξουαλικό περιεχόμενο,  ναρκωτικά και αλκοόλ σε παιδιά ηλικίας μόλις 13 ετών, αποκάλυψε μια σοκαριστική έρευνα.

Στο πλαίσιο έρευνας της Wall Street Journal (WSJ), ένας χρήστης «13 ετών» έψαξε για  'onlyfans'. Η εφαρμογή της κοινωνικής δικτύωσης με έδρα την Κίνα,  του εμφάνισε για να παρακολουθήσει  αρκετά βίντεο στα οποία συμπεριλαμβάνονταν  δύο που πωλούσαν πορνογραφία

Κατά την προβολή της σελίδας « for you» του TikTok  (version of the Twitter feed), στον ίδιο έφηβο χρήστη εμφανίστηκε μια σειρά σεξουαλικά προσανατολισμένων βίντεο

Το περιεχόμενο που εμφανίζεται στη for you σελίδα  ορίζεται με βάση τις προηγούμενες αναζητήσεις, καθώς και τους τύπους περιεχομένου που εμφανίζονται πιο συχνά ή που ο χρήστης αφιερώνει περισσότερο χρόνο στην παρακολούθηση.

Όσο περισσότερο έμενε (χρονοτριβούσε) ο χρήστης σε σεξουαλικό περιεχόμενο, τόσο περισσότερο σεξουαλικό περιεχόμενο εμφανιζόταν στη σελίδα « for you» - παρά το γεγονός ότι η ηλικία (13 ετών)  του χρήστη είχε οριστεί στο προφίλ του.

Το TikTok είπε ότι, προς το παρόν δεν κάνουν διάκριση μεταξύ των βίντεο που προβάλλονται σε λογαριασμούς ενηλίκων και παιδιών, αλλά εργάζονται σε ένα νέο "filter tool" για λογαριασμούς νεότερων χρηστών.

 TIKTOK: A CHINESE-OWNED SOCIAL MEDIA APP SPECIALISING IN SHORT VIDEO CLIPS

Το TikTok είναι μια κινεζική εφαρμογή κοινωνικών μέσων, όπου οι χρήστες μπορούν να μεταδίδουν ζωντανά, να δημιουργούν σύντομα βίντεο, μουσικά βίντεο και Gif με πλήθος λειτουργιών.

 To "TikTok's tagline" είναι 'Make every second count'.

Το TikTok ήταν η εφαρμογή με τις περισσότερες λήψεις στις ΗΠΑ το 2018 και η τέταρτη παγκοσμίως΄
ήταν επίσης η εφαρμογή με μεγαλύτερη λήψη στον κόσμο το 2018, μπροστά από το Instagram και το Snapchat.   Στην Κίνα είναι γνωστό  ως Douyin, όπου κυκλοφόρησε το 2016 και στη συνέχεια έγινε ευρύτερα διαθέσιμο σε όλο τον κόσμο το 2017.
Το Douyin εξακολουθεί να είναι η έκδοση της εφαρμογής που χρησιμοποιείται στην Κίνα, διαθέσιμη για λήψη ξεχωριστά, στο TikTok.
Προσφέρει στους χρήστες μια σειρά από πολύχρωμα εργαλεία τροποποίησης και επεξεργασίας, συμπεριλαμβανομένης της overlaying  μουσικής, ήχου, αυτοκόλλητων ετικετών, φίλτρων και επαυξημένης πραγματικότητας "augmented reality (AR)" για τη δημιουργία σύντομων βίντεο.

Το κοινωνικό δίκτυο με έδρα το Πεκίνο έχει περισσότερους από 500 εκατομμύρια ενεργούς χρήστες και η εταιρεία αξίζει τώρα περισσότερα από 75 δισεκατομμύρια δολάρια (58 δισεκατομμύρια £).

Το 2020 ο Ντόναλντ Τραμπ ζήτησε να πουληθεί ο US arm του TikTok  σε αμερικανική εταιρεία, λόγω του φόβου ότι η εφαρμογή που ανήκει στην Κίνα αποτελεί κίνδυνο εθνικής ασφάλειας.

Σε εξέλιξη βρίσκονται συνομιλίες μεταξύ ByteDance, Oracle και Walmart για τις επιχειρήσεις των ΗΠΑ, αφού ο Τραμπ απείλησε ότι θα απαγορευτεί η λήψη στις ΗΠΑ.

Δεν ήταν ένα πραγματικό 13χρονο που συμμετείχε στην έρευνα, μάλλον δημιουργήθηκε μια σειρά bots (αυτοματοποιημένοι λογαριασμοί) για να φανεί καλύτερα τι δείχνει το TikTok στους νεότερους θεατές του.

Όλοι οι αυτοματοποιημένοι λογαριασμοί ορίστηκαν να είναι μεταξύ 13 και 15 ετών για να καθοριστεί εάν οι νεότεροι θεατές λαμβάνουν διαφορετική ροή, από τους μεγαλύτερους (ενήλικες) χρήστες του TikTok.

Μέσα από την συνεχή «curation» (συλλογή, οργάνωση,επιμέλεια των στοιχείων)  από τον  «AI-powered» αλγόριθμο, διαπίστωσαν ότι τα «feeds» επικεντρώνονταν περισσότερο και εμβάθυναν σε όλο και πιο ακατάλληλο περιεχόμενο.

Σε έναν από τους λογαριασμούς, που ισχυρίζεται ότι ανήκει σε ένα 13χρονο, εμφανίστηκαν 569 βίντεο σχετικά με τη χρήση ναρκωτικών, συμπεριλαμβανομένων αναφορών στην εξάρτηση από την κοκαΐνη και τη meth, καθώς και διαφημιστικά βίντεο για τις διαδικτυακές πωλήσεις ναρκωτικών προϊόντων.

Στους bot λογαριασμούς της WSJ (Wall Street Journal) εμφανίστηκαν επίσης περισσότερα από 100 βίντεο που προωθούν ιστότοπους πορνογραφίας και sex shops από "accounts labelled as adults only".

Υπήρχαν ακόμη βίντεο που ενθάρρυναν διατροφικές διαταραχές, προωθούσαν την κατανάλωση αλκοόλ και άλλο "adult orientated" περιεχόμενο.

Οι δημοσιογράφοι του WSJ έστειλαν στο TikTok σχεδόν 1.000 βίντεο που δείχνουν ναρκωτικά, πορνό και άλλο "adult-related" περιεχόμενο που είχε προβληθεί στους από 13 έως 15 ετών bot accounts.

Από αυτά τα βίντεο, τα 255 αφαιρέθηκαν αμέσως μετά την αποστολή τους στην κινεζική πλατφόρμα, συμπεριλαμβανομένων δώδεκα που δείχνουν ενήλικες να κάνουν σχέσεις με άτομα που αυτοαποκαλούνται 'littles'-  νόμιμης ηλικίας ενήλικες που προσποιούνται ότι είναι παιδιά.

Ένα από τα άτομα που εμφανίστηκαν σε ένα 'role-playing' βίντεο  απευθυνόμενο σε ενήλικες, αλλά επίσης εμφανίστηκε στους 'bot' accounts εφήβων, είπε ότι: αναφέρεται σαφώς πως το περιεχόμενο του 'δικού της role-playing' βίντεο  απευθύνεται σε  άτομα άνω των  18 ετών.

«Έχω στο βιογραφικό (bio) μου ότι απευθύνομαι σε ενήλικα άτομα 18+, αλλά δεν έχω κανέναν πραγματικό τρόπο να το ελέγξω», είπε στη Wall Street Journal σε ένα μήνυμα, προσθέτοντας ότι δεν συμφωνεί με το  να προβάλλεται το περιεχόμενό της, σε κάποιον τόσο νέο.

Ένας εκπρόσωπος του TikTok είπε στο περιοδικό ότι η εταιρεία αφαίρεσε μερικά από τα αναφερόμενα βίντεο και περιόρισε τη διανομή άλλων για να σταματήσει να προτείνεται σε άλλους νέους χρήστες στο μέλλον - αλλά δεν είναι σαφές πόσα.

Σύμφωνα με τους όρους παροχής υπηρεσιών του TikTok, οι χρήστες πρέπει να είναι τουλάχιστον 13 ετών και εάν είναι κάτω των 18 ετών χρειάζονται γονική άδεια - με τους γονείς να μπορούν να διαχειρίζονται τις ρυθμίσεις του χρόνου χρήσης και απορρήτου για τα παιδιά τους μέσα στην εφαρμογή.

«Η προστασία των ανηλίκων είναι ζωτικής σημασίας και το TikTok έχει κάνει τα industry-first βήματα, για την προώθηση μιας ασφαλούς και κατάλληλης για την ηλικία εμπειρίας για έφηβους», δήλωσε το TikTok.

Συνολικά χρησιμοποιήθηκαν 31 αυτοματοποιημένοι λογαριασμοί «bot» στην έρευνα, καθένας με ημερομηνία γέννησης και διεύθυνση IP, χωρίς καμία άλλη πληροφορία να αποκαλύπτεται στο TikTok εκτός από αυτό που κοινοποιήθηκε με την προβολή διαφόρων βίντεο, για διαφορετικό χρονικό διάστημα.

Δεκάδες από τους 31 λογαριασμούς became dominated  γρήγορα από ένα συγκεκριμένο θέμα, καθώς ο επιλεκτικός αλγόριθμος προσαρμόζει τη σελίδα for you στα ενδιαφέροντα που εκφράστηκαν προηγουμένως.

Σε ένα παράδειγμα, ένας λογαριασμός με μια σειρά από ενδιαφέροντα, όπως κινούμενα σχέδια ιαπωνικών ταινιών και τηλεόρασης, ένα streak με 150 βίντεο έδωσε 146 ιαπωνικά κινούμενα σχέδια, συμπεριλαμβανομένων πολλών με σεξουαλικό θέμα.

Το TikTok είπε στην Journal ότι η συμπεριφορά των bots «σε καμία περίπτωση δεν αντιπροσωπεύει τη συμπεριφορά και την εμπειρία θέασης ενός πραγματικού ατόμου.

Αυτό δεν αλλάζει τα βίντεο με θέμα τους ενήλικες που προβάλλονται στα παιδιά, με το 40 % των 200 βίντεο να προέρχονται από λογαριασμούς με ετικέτα μόνο για ενήλικες.

Το TikTok πρέπει να βασίζεται σε αλγόριθμους και έναν στρατό 10.000 ατόμων για να αστυνομεύσει τα εκατομμύρια βίντεο που μοιράζονται στην υπηρεσία, συμπεριλαμβανομένων δεκάδων χιλιάδων κάθε λεπτό.

Με περίπου 100 εκατομμύρια χρήστες μόνο στις ΗΠΑ, οι συντονιστές "moderators" δυσκολεύονται να συμβαδίσουν, οπότε πρέπει να επικεντρωθούν στο πιο δημοφιλές περιεχόμενο, αφήνοντας ανεξέλεγκτα τα βίντεο χαμηλότερης προβολής.

Η εταιρεία αναπτύσσει σιγά σιγά μια σειρά από χαρακτηριστικά ασφαλείας, συμπεριλαμβανομένης της δυνατότητας των παιδιών 16 και 17 ετών να καθορίσουν ποιος μπορεί να δει τις αναρτήσεις τους.

Το TikTok είπε ότι οι πολιτικές για το περιεχόμενο εξελίσσονται ως απάντηση στα industry standards, καθώς και στην αλλαγή της συμπεριφοράς των χρηστών.

Είπε ότι καθώς οι χρήστες στην πλατφόρμα μεγαλώνουν σε ηλικία και διαφοροποιούνται, το περιεχόμενο που εμφανίζεται, καθώς και οι πολιτικές για αποδεκτή χρήση θα αλλάξουν και θα προσαρμοστούν.

«Ενώ η δραστηριότητα και η προκύπτουσα εμπειρία αυτών των ρομπότ (bots) σε καμία περίπτωση δεν αντιπροσωπεύει τη συμπεριφορά και την εμπειρία προβολής ενός πραγματικού ατόμου, εργαζόμαστε συνεχώς για τη βελτίωση των συστημάτων μας και αναθεωρούμε πώς να αποτρέψουμε ακόμη και πολύ ασυνήθιστες viewing habits από τη δημιουργία negative cycles, ιδιαίτερα για τους νεότερους χρήστες μας », δήλωσε εκπρόσωπος του TikTok στο MailOnline.

πηγή 8-9-21

https://www.dailymail.co.uk/sciencetech/article-9970435/TikToks-algorithm-promoting-sexual-content-children-young-13.html

 σχετική ανάρτηση

Έρευνα στο σπίτι 7χρονου που ανέβασε στο Tik Tok υλικό σεξουαλικού περιεχομένου

παιδιά 7 και 8 ετών στην Κύπρο ανεβάζουν μέσω της εφαρμογής Tik Tok, υλικό σεξουαλικού περιεχομένου με πρωταγωνιστές τα ίδια, στο διαδίκτυο.

3-6-21
πηγή:
https://www.alphanews.live/cyprus/ereyna-sto-spiti-7hronoy-poy-anebase-sto-tik-tok-yliko-sexoyalikoy-periehomenoy
=====

15-9-21
https://www.dailymail.co.uk/news/article-9992683/Schoolboy-nine-dies-swallowing-magnets-TikTok-challenge.html?ito=push-notification&ci=4kybfQAypi&cri=BMRRVlX3vO&si=451208&xi=b2a5da86-b693-40c1-833d-32b8b6a65f9a&ai=9992683


Δεν υπάρχουν σχόλια: