Facebook reformerar Cross-Check-programmet selektivt

Meta har gått med på att ändra korskontrollprogrammet för Facebook och Instagram, som undantar välkända användare från företagets automatiserade modereringssystem.

Företaget svarade på övervakningsstyrelsens förslag i ett uppdaterat blogginlägg som publicerades på fredagen. 

Det sa att det skulle ändra kriterierna som det använder för att lägga till människor till programmet "för att bättre ta hänsyn till mänskliga rättigheter och rättvisa" och göra korskontrollsystemet "mer transparent genom regelbunden rapportering."

I december förra året gav tillsynsstyrelsen, eller det "oberoende organet", totalt 32 rekommendationer om hur Meta skulle kunna förbättra sitt korskontrollprogram. 11 av dessa rekommendationer har antagits helt av Meta och 15 har bara delvis antagits.

Korskontroll på Facebook och Instagram hamnade i brand efter att en Wall Street Journal-rapport från 2021 avslöjade att Meta hade använt det för att skydda politiker, kändisar och välkända idrottare från dess automatiserade modereringssystem.

Systemet, enligt Meta, gör det möjligt för företaget att lägga till "ytterligare nivåer av mänsklig granskning" till högprofilerade personers inlägg i ett försök att förhindra att de oavsiktligt tas bort.

Tillsynsstyrelsen kritiserade programmet och sa att det "verkar mer direkt strukturerat för att tillfredsställa affärsproblem" i motsats till att främja företagets "åtaganden om mänskliga rättigheter" som det tidigare hävdat.

Som en del av sitt svar samtyckte Meta till att genomföra förslag som kräver att det agerar omedelbart på innehåll som korskontrollerats och "identifierats som potentiellt allvarligt kränkande."

Den lovade också att ta itu med eftersläpningen i korskontrollprogrammet, som tillsynsstyrelsen hade upptäckt kan tillåta att skadligt innehåll förblir online längre än det borde.

De fem rekommendationerna, som inkluderar en för att "offentligt markera" några av de siffror som drar nytta av programmet, implementeras inte av Meta, som fortfarande "bedömer genomförbarheten" av en regel som skulle tillåta siffror att välja bort korset -kolla programmet.

Dessutom avvisade den tillsynsstyrelsens förslag att användare informeras om att om de rapporterar ett inlägg från en deltagare i programmet för att korskontrollera, kan Meta ta längre tid att svara. 

Du kan läsa hela listan med förslag samt Metas svar på var och en här.

Samtidigt som de beskriver Metas svar som ett "landmärke ögonblick" i en Twitter-tråd, är övervakningsstyrelsen inte helt nöjd med de justeringar som verksamheten är beredd att göra.

Tillsynsstyrelsen hävdar att "Metas svar inte har gått så långt som vi rekommenderade för att uppnå ett mer transparent och rättvist system" på ett antal områden.

Styrelsen föreslog att Meta skulle tillåta förtjänta användare att ansöka om korskontrollskydden, men Meta avvisade idén. Under de kommande dagarna och veckorna kommer vi att fortsätta att svara på Metas specifika svar.