Για χρόνια, οι ομάδες αξιολόγησης της Meta εξέταζαν πιθανούς κινδύνους κάθε φορά που κυκλοφορούσαν νέες λειτουργίες στο Instagram, WhatsApp και Facebook, αξιολογώντας ανησυχίες όπως απειλές κατά του απορρήτου των χρηστών, βλάβες σε ανήλικους ή την εξάπλωση παραπληροφόρησης ή τοξικού περιεχομένου. Οι αξιολογήσεις σχετικά με το απόρρητο και την ακεραιότητα πραγματοποιούνταν κυρίως από ανθρώπους αξιολογητές. Ωστόσο, έγγραφα εσωτερικής προέλευσης που αποκτήθηκαν από το NPR αποκαλύπτουν ότι η Meta σχεδιάζει να αυτοματοποιήσει έως και το 90% αυτών των αξιολογήσεων κινδύνου σύντομα. Αυτό σημαίνει ότι κρίσιμες ενημερώσεις αλγορίθμων, νέες λειτουργίες ασφάλειας και αλλαγές στη διαμοίραση περιεχομένου θα εγκρίνονται κατά κύριο λόγο από συστήματα τεχνητής νοημοσύνης, χωρίς την τυπική επιτήρηση του προσωπικού που λαμβάνει υπόψη απροσδόκητες συνέπειες ή κατάχρηση. Στη Meta, αυτή η αλλαγή θεωρείται ως πλεονέκτημα για τους προγραμματιστές προϊόντων, καθώς επιταχύνει την κυκλοφορία ενημερώσεων και λειτουργιών. Ωστόσο, τρέχοντες και πρώην εργαζόμενοι ανησυχούν ότι αυτή η αυτοματοποίηση μπορεί να οδηγήσει σε ελλιπή εκτίμηση του κινδύνου, με πιθανή συνέπεια την πραγματική βλάβη. Πρώην διευθυντής της Meta εξέφρασε ανησυχία ότι οι ταχύτερες κυκλοφορίες με λιγότερο αυστηρή αξιολόγηση αυξάνουν την πιθανότητα αρνητικών αποτελεσμάτων, καθώς ενδέχεται να μην ανιχνευθούν εγκαίρως πολλά προβλήματα. Η Meta παρουσίασε πως έχει επενδύσει δισεκατομμύρια για την προστασία του απορρήτου των χρηστών και ότι οι νέες αλλαγές στην αξιολόγηση κινδύνου αποσκοπούν στην επιτάχυνση της λήψης αποφάσεων, διατηρώντας την ανθρώπινη εμπειρογνωμοσύνη σε νέες ή πολύπλοκες περιπτώσεις. Δεσμεύεται ότι μόνο αποφάσεις με “χαμηλό κίνδυνο” θα αυτοματοποιούνται. Ωστόσο, έγγραφα εσωτερικής προέλευσης δείχνουν ότι η αυτοματοποίηση μπορεί να επεκταθεί σε ευαίσθητους τομείς όπως η ασφαλής χρήση τεχνητής νοημοσύνης, ο κίνδυνος για νέους και η συνολική ακεραιότητα της πλατφόρμας, που καλύπτει βίαιο περιεχόμενο και παραπληροφόρηση. Η νέα διαδικασία περιλαμβάνει συμπλήρωση ερωτηματολογίου από τις ομάδες προϊόντων για λήψη “άμεσης απόφασης” από την τεχνητή νοημοσύνη, η οποία περιγράφει τους κινδύνους και τις απαραίτητες mitigations. Παλαιότερα, οι εκτιμητές κινδύνου έπρεπε να εγκρίνουν τις ενημερώσεις προϊόντων πριν από την κυκλοφορία· τώρα, οι μηχανικοί αξιολογούν κυρίως μόνοι τους τους κινδύνους, εκτός αν ζητήσουν συγκεκριμένα ανθρώπινη αξιολόγηση. Αυτή η αλλαγή δίνει περισσότερη δύναμη στους μηχανικούς και τις ομάδες προϊόντων—που συχνά δεν είναι ειδικοί σε απορρήτου—να κάνουν κρίσεις, προκαλώντας ανησυχίες για την ποιότητα των αξιολογήσεων.

Ο Ζβίκα Κρίγκερ, πρώην διευθυντής υπεύθυνης καινοτομίας στη Meta, προειδοποίησε ότι οι ομάδες προϊόντων αξιολογούνται κυρίως βάσει ταχύτητας στην κυκλοφορία, όχι ασφάλειας, και ότι οι αυτοματοποιημένες αξιολογήσεις κινδύνου μπορεί να είναι απλές τυπικές διαδικασίες που παραβλέπουν σοβαρά ζητήματα. Αναγνώρισε ότι υπάρχει χώρος για αυτοματοποίηση, αλλά προειδοποίησε ότι η υπερβολική εξάρτηση από την τεχνητή νοημοσύνη θα μπορούσε να υποβαθμίσει την ποιότητα των αξιολογήσεων. Η Meta απέδωσε τους φόβους σε μικρό βαθμό, σημειώνοντας ότι πραγματοποιεί ελέγχους στις αποφάσεις της τεχνητής νοημοσύνης χωρίς ανθρώπινη παρέμβαση. Οι ευρωπαϊκές της επιχειρήσεις, που λειτουργούν υπό αυστηρούς κανονισμούς όπως ο Νόμος για τις Ψηφιακές Υπηρεσίες, θα διατηρούν ανθρώπινη εποπτεία από τα κεντρικά της στην Ιρλανδία. Ορισμένες αλλαγές συμπίπτουν με το τερματισμό του προγράμματος ελέγχου γεγονότων και την ευθυγράμμιση με την πολιτική απομάκρυνσης ρατσιστικού λόγου, σηματοδοτώντας μια ευρύτερη στροφή της εταιρείας προς ταχύτερες ενημερώσεις και λιγότερους περιορισμούς περιεχομένου—μια ελάφρυνση των μακριών πολιτικών φραγμών που αποσκοπούσαν στην πρόληψη κατάχρησης της πλατφόρμας. Αυτή η προσέγγιση ακολουθεί τις προσπάθειες του διευθύνοντος συμβούλου Μαρκ Ζούκερμπεργκ να εναρμονιστεί με πολιτικά πρόσωπα, όπως ο πρώην πρόεδρος Τραμπ, η εκλογή του οποίου ο Ζούκερμπεργκ περιέγραψε ως “πολιτισμική καμπή”. Η ώθηση προς την αυτοματοποίηση σχετίζεται επίσης με τη μακροπρόθεσμη στρατηγική της Meta να χρησιμοποιεί τεχνητή νοημοσύνη για την επιτάχυνση των λειτουργιών εν μέσω ανταγωνισμού από το TikTok, την OpenAI και άλλους. Πρόσφατα, η Meta αύξησε την εξάρτησή της από την τεχνητή νοημοσύνη για την επιβολή κανόνων περιεχομένου, χρησιμοποιώντας μοντέλα γλώσσας που ξεπερνούν τους ανθρώπους σε ορισμένες πολιτικές περιοχές. Αυτό επιτρέπει στους ανθρώπινους αξιολογητές να εστιάσουν σε πιο πολύπλοκες περιπτώσεις. Η Κέιτι Χάρμπαθ, πρώην ειδική σε πολιτική δημόσιας εικόνας στο Facebook, στηρίζει τη χρήση της τεχνητής νοημοσύνης για αύξηση της ταχύτητας και της αποτελεσματικότητας, αλλά τονίζει την ανάγκη για ανθρώπινους ελέγχους. Αντίθετα, ένας άλλος πρώην εργαζόμενος στη Meta questioned αν η επιτάχυνση των αξιολογήσεων κινδύνου είναι σοφή, αναδεικνύοντας ότι τα νέα προϊόντα υπόκεινται σε εντατικό έλεγχο, ο οποίος συχνά εντοπίζει παραλείψεις. Ο Μισελ Πρότι, επικεφαλής προστασίας προσωπικών δεδομένων προϊόντων στη Meta, περιέγραψε τις αλλαγές ως ενίσχυση των ομάδων προϊόντων και εξέλιξη στη διαχείριση κινδύνων για απλούστευση των αποφάσεων. Η υλοποίηση της αυτοματοποίησης επιταχύνθηκε κατά τη διάρκεια Απριλίου και Μαΐου 2024. Ωστόσο, μερικοί εσωτερικοί επικριτές διαφωνούν με αυτήν την περιγραφή, τονίζοντας ότι η αφαίρεση ανθρώπων από την αξιολόγηση κινδύνου υπονομεύει την κριτική ανθρώπινη οπτική σχετικά με πιθανές βλάβες, χαρακτηρίζοντας αυτή την κίνηση “ανεύθυνη” σε σχέση με την αποστολή της Meta. Συνολικά, η Meta μεταβαίνει από μια διαδικασία αξιολόγησης κινδύνου που ηγείτο ανθρώπινο δυναμικό σε μια που βασίζεται κυρίως στην τεχνητή νοημοσύνη, με στόχο την επιτάχυνση της καινοτομίας, αλλά με σοβαρές ανησυχίες εσωτερικά για την υποστελέχωση της κριτικής διαδικασίας, πιθανούς κινδύνους και την επάρκεια της τεχνητής νοημοσύνης στην αντιμετώπιση πολύπλοκων ηθικών και ασφαλείας ζητημάτων.