Επιμέλεια: Στέλιος Βασιλούδης

Οι αλγόριθμοι που χρησιμοποιούνται από τις πλατφόρμες των μέσων κοινωνικής δικτύωσης ενισχύουν – με ταχύτητα – το ακραίο μισογυνιστικό περιεχόμενο, το οποίο εξαπλώνεται από τις οθόνες των εφήβων στις αυλές των σχολείων όπου έχει κανονικοποιηθεί, σύμφωνα με μια νέα έκθεση.

Οι ερευνητές είπαν ότι εντόπισαν τετραπλάσια αύξηση στο επίπεδο μισογυνικού περιεχομένου που προτείνεται από το TikTok σε μια περίοδο παρακολούθησης πέντε ημερών, καθώς ο αλγόριθμος εξυπηρετούσε πιο ακραία βίντεο, που συχνά επικεντρώνονταν στον θυμό και σε κατηγορίες που απευθύνονται σε γυναίκες.

Ενώ αυτή η συγκεκριμένη μελέτη εξέτασε το TikTok, οι ερευνητές είπαν ότι τα ευρήματά τους είναι πιθανό να ισχύουν και για άλλες πλατφόρμες μέσων κοινωνικής δικτύωσης και ζήτησαν μια προσέγγιση «υγιούς ψηφιακής διατροφής» για την αντιμετώπιση του προβλήματος, αντί για άμεσες απαγορεύσεις σε τηλέφωνα ή μέσα κοινωνικής δικτύωσης που «είναι πιθανό να να είναι αναποτελεσματικές».

Η μελέτη, από ομάδες του University College του Λονδίνου και του Πανεπιστημίου του Κεντ, έρχεται σε μια περίοδο αυξανόμενης ανησυχίας για τον αντίκτυπο των μέσων κοινωνικής δικτύωσης στους νέους. Μία ερευνα την περασμένη εβδομάδα διαπίστωσε ότι νεαροί άνδρες από τη γενιά Z – πολλοί από τους οποίους λατρεύουν τον influencer των μέσων κοινωνικής δικτύωσης Andrew Tate – είναι πιθανότερο να πιστεύουν ότι ο φεμινισμός έχει κάνει περισσότερο κακό παρά καλό, από ότι οι baby boomers .

Εν τω μεταξύ, η μητέρα της έφηβης Brianna Ghey, η οποία δολοφονήθηκε στο Ην. Βασίλειο από δυο εφήβους πρόσφατα, ζήτησε να απαγορευτούν οι εφαρμογές κοινωνικής δικτύωσης σε smartphone για άτομα κάτω των 16 ετών, αφού άκουσε στοιχεία για τις διαδικτυακές δραστηριότητες των δολοφόνων της κόρης της.

Η μελέτη UCL/Kent, που ονομάζεται Safer Scrolling, υποστηρίζει ότι το επιβλαβές περιεχόμενο παρουσιάζεται ως ψυχαγωγία, μέσω των αλγοριθμικών διαδικασιών των μέσων κοινωνικής δικτύωσης. Τοξικό μίσος ή μισογυνιστικό υλικό «σπρώχνεται» στους νέους, με τα αγόρια που υποφέρουν από άγχος και κακή ψυχική υγεία να διατρέχουν αυξημένο κίνδυνο, ανέφερε η μελετη.

«Οι επιβλαβείς απόψεις και οι τρόποι συμπεριφοράς κανονικοποιούνται πλέον μεταξύ των νέων», δήλωσε η κύρια ερευνήτρια Δρ Kaitlyn Regehr (UCL Information Studies). «Η διαδικτυακή κατανάλωση επηρεάζει τις συμπεριφορές των νέων ανθρώπων εκτός Διαδικτύου, καθώς βλέπουμε αυτές τις ιδεολογίες να μετακινούνται από τις οθόνες στις αυλές των σχολείων».

Οι ερευνητές πήραν συνεντεύξεις από νέους που ασχολούνταν και παρήγαγαν ριζοσπαστικό διαδικτυακό περιεχόμενο για να βοηθήσουν στη δημιουργία ορισμένων αρχετύπων εφήβων αγοριών που μπορεί να είναι ευάλωτα στο να ριζοσπαστικοποιηθούν. Δημιουργήθηκαν λογαριασμοί στο TikTok για κάθε αρχέτυπο, ο καθένας με συγκεκριμένα ενδιαφέροντα – πχ αναζητηση περιεχομένου για τον ανδρισμό ή τη μοναξιά – και οι ερευνητές παρακολούθησαν στη συνέχεια περισσότερα από 1.000 βίντεο που πρότεινε το TikTok στη σελίδα του «για σένα», επι επτά ημέρες.

Το αρχικό προτεινόμενο περιεχόμενο ήταν σύμφωνο με τα δηλωμένα ενδιαφέροντα κάθε αρχέτυπου, αλλά μετά από πέντε ημέρες – είπαν οι ερευνητές – ο αλγόριθμος TikTok παρουσίαζε τέσσερις φορές περισσότερα βίντεο με μισογυνιστικό περιεχόμενο, συμπεριλαμβανομένης της παρουσίασης της γυναίκας ως αντικείμενο, της σεξουαλικής παρενόχλησης ή της απαξίωσης των γυναικών, τα οποία αυξήθηκαν από 13% των προτεινόμενων βίντεο στο 56%.

«Οι αλγοριθμικές διαδικασίες στο TikTok και σε άλλους ιστότοπους μέσων κοινωνικής δικτύωσης στοχεύουν τα τρωτά σημεία των ανθρώπων – όπως η μοναξιά ή τα αισθήματα απώλειας ελέγχου – και παιχνιδοποιούν το επιβλαβές περιεχόμενο», δήλωσε η Regehr. «Καθώς οι νέοι πειραματίζονται με θέματα όπως ο αυτοτραυματισμός ή ο εξτρεμισμός, σ’αυτούς ο μισογυνισμος παρουσιάζεται ως ψυχαγωγία».

Οι ερευνητές πήραν επίσης συνεντεύξεις από νέους και διευθυντές σχολείων σχετικά με τον αντίκτυπο των μέσων κοινωνικής δικτύωσης και διαπίστωσαν ότι οι ιδεολογίες μίσους και οι μισογυνικές συμπεριφορές έχουν μετακινηθεί από τις οθόνες και τα σχολεία και έχουν ενσωματωθεί στις κυρίαρχες κουλτούρες της νεολαίας.

Ο Geoff Barton, γενικός γραμματέας του Association of School and College Leaders, ο οποίος συνεργάστηκε με την έρευνα, δήλωσε: «Τα ευρήματα του UCL δείχνουν ότι οι αλγόριθμοι – για τους οποίους οι περισσότεροι από εμάς γνωρίζουμε ελάχιστα – έχουν μια επίδραση χιονοστιβάδας στην οποία προσφέρουν όλο και πιο ακραίο περιεχόμενο με τη μορφή ψυχαγωγίας. Αυτο είναι βαθιά ανησυχητικό γενικά αλλά ιδιαίτερα όσον αφορά την ενίσχυση των μηνυμάτων γύρω από την τοξική αρρενωπότητα και τον αντίκτυπο της στους νέους που πρέπει να είναι σε θέση να μεγαλώσουν και να αναπτύξουν την κατανόησή τους για τον κόσμο – χωρίς να επηρεάζονται από τέτοιο απαίσιο υλικό». Πρόσθεσε ότι: «καλούμε το TikTok ειδικότερα και τις πλατφόρμες μέσων κοινωνικής δικτύωσης γενικά, να επανεξετάσουν τους αλγορίθμους τους επειγόντως και να ενισχύσουν τις διασφαλίσεις για την αποτροπή αυτού του τύπου περιεχομένου καθώς και την κυβέρνηση να εξετάσει τις επιπτώσεις αυτού του φαινομένου υπό την αιγίδα του νέου νόμου για την ασφάλεια στο Διαδίκτυο».

Ο Andy Burrows, σύμβουλος του Ιδρύματος Molly Rose, το οποίο ιδρύθηκε στη μνήμη της Molly Russell, η οποία αυτοκτόνησε αφού έπεσε σε μια δίνη απόγνωσης στα μέσα κοινωνικής δικτύωσης, δήλωσε: «Αυτή η έρευνα αποκαλύπτει τον τρόπο με τον οποίο οι αλγόριθμοι του TikTok στοχεύουν και βομβαρδίζουν ανελέητα τους νέους με επιβλαβές περιεχόμενο και μέσα σε λίγες μέρες μπορεί να πλασάρουν στους εφήβους έναν σχεδόν συνεχή καταιγισμό επιβλαβων και μερικές φορές επικίνδυνων βίντεο. Δεν θα μπορούσε να είναι πιο σαφές ότι η ρυθμιστική αρχή Ofcom πρέπει να λάβει τολμηρά και αποφασιστικά μέτρα για να αντιμετωπίσει τους αλγόριθμους υψηλού κινδύνου που δίνουν προτεραιότητα στα έσοδα των εταιρειών μέσων κοινωνικής δικτύωσης έναντι της ασφάλειας και της ευημερίας των εφήβων».

Μιλώντας σε ένα ταξίδι στη Βόρεια Ιρλανδία, ο πρωθυπουργός Rishi Sunak είπε: «Ως γονιός, ανησυχώ πάντα για τα μέσα κοινωνικής δικτύωσης και για το υλικό στο οποίο εκτίθενται οι κόρες μου μου. Γι’ αυτό, χαίρομαι που ψηφίσαμε τον Νόμο για την Ασφάλεια στο Διαδίκτυο τον τελευταίο χρόνο και αυτό σημαίνει ότι η ρυθμιστική αρχή έχει πλέον εκτεταμένες νέες εξουσίες προκειμένου να ελέγχει στο τι εκτίθενται τα παιδιά στο διαδίκτυο. Αν οι μεγάλες εταιρείες μέσων κοινωνικής δικτύωσης δεν συμμορφωθούν, η ρυθμιστική αρχή είναι σε θέση να τους επιβάλει πολύ σημαντικά πρόστιμα. Η προτεραιότητα τώρα είναι να διασφαλίσει ότι αυτή η πράξη έχει τεθεί σε εφαρμογή».

Εκπρόσωπος του TikTok δήλωσε: «Ο μισογυνισμός έχει από καιρό απαγορευτεί στο TikTok και εντοπίζουμε προληπτικά το 93% του περιεχομένου που αφαιρούμε για παραβίαση των κανόνων μας για το μίσος. Η μεθοδολογία που χρησιμοποιήθηκε σε αυτήν την μελέτη δεν αντικατοπτρίζει τον τρόπο με τον οποίο οι πραγματικοί άνθρωποι βιώνουν το TikTok».

Εκπρόσωπος της Ofcom δήλωσε: «Η αντιμετώπιση της βίας κατά των γυναικών και των κοριτσιών στο διαδίκτυο αποτελεί προτεραιότητα για εμάς. Η έρευνά μας δείχνει ότι οι γυναίκες είναι λιγότερο σίγουρες για την προσωπική τους ασφάλεια στο διαδίκτυο και επηρεάζονται περισσότερο από επιβλαβές περιεχόμενο, όπως το τρολάρισμα. Βασει του νόμου για την ασφάλεια στο Διαδίκτυο, οι διαδικτυακές υπηρεσίες όπως τα μέσα κοινωνικής δικτύωσης και οι υπηρεσίες αναζήτησης έχουν καθήκον να προστατεύουν την ασφάλεια των χρηστών και τα δικαιώματά τους. Η κατανόηση και η αντιμετώπιση περιεχομένου που επηρεάζει δυσανάλογα τις γυναίκες και τα κορίτσια στο διαδίκτυο είναι κεντρικής σημασίας σε αυτό».

Πηγή: The Guardian