Kontroverza oko automatske moderacije na Instagramu
Instagram korisnici su bili zatečeni kada je naizgled bezazlena ilustracija s jagodama i natpisom "immigrants make the country great" bila označena i skrivena oznakom moderacije. Na obavještenju stoji: "We use technology or a review team to identify content that should be covered," i "This post doesn't go against our Community Standards, but may contain images that some people might find upsetting." Drugi korisnici su vidjeli poruku "This photo may contain graphic or violent content," iako post nije bio uvredljiv.
Ilustraciju je ranije objavila kompanija Mazapán Paper Co. Saopštenje uz objavu glasilo je: "This is a country of immigrants," i "No one is illegal on stolen land." Meta je kasnije navela da je riječ o grešci automatskog procesa: "That screen was incorrectly applied as a result of an automated process and had already been removed."
Korisnici su optuživali platformu za cenzuru progresivnih poruka i kritikovali Meta i izvršnog direktora. Mnogi su istakli probleme u sistemima za automatsko označavanje i postavili pitanje kako moderacija na Instagramu obrađuje poruke podrške imigrantima. Pored toga, ranije su uočene greške u filtrima koji pogrešno ograničavaju pristup određenim hashtagovima i propusti u otkrivanju štetnog AI sadržaja.
Ovaj slučaj ponovo otvara debatu o pouzdanosti automatizovane moderacije, transparentnosti Meta pravila i uticaju grešaka na vidljivost sadržaja koji podržava imigrante. Instagram moderacija, automatska moderacija i flagovanje osjetljivog sadržaja ostaju u fokusu korisnika i aktivista.
