Az Instagramot elárasztották a lefejezések, halálos balesetek és pornográf tartalmak, ami miatt a Meta sajnálkozását fejezte ki.
Elég rossz napja volt azoknak, akik szerdán elkezdték pörgetni a Reels-videókat az Instagramon, hogy hozzájussanak a szokásos agyrohasztó és/vagy cukiállatos tartalmaikhoz. A platformon világszerte rengeteg felhasználónak dobált be az algoritmus a megszokott tartalmak helyett lefejezős, gyilkolászós, brutális balesetes vagy pornográf videókat. A Meta csütörtökön már azt írta, javították a problémát okozó hibát, de több felhasználónál még mindig feltűnnek ezek a videók, és az eddig feltöltötteket sem törölték.
Az Instagram kényes tartalmak szabályozásáról részletes információkat ide kattintva találhatsz. Az alapvető üzenet az, hogy bizonyos típusú tartalmak, mint például az erőszakos, szexuális jellegű, vagy a szabályozott termékekkel (mint a dohány, alkohol vagy gyógyszerek) kapcsolatos posztok, nem kapnak ajánlást az algoritmus által. Ezeket a tartalmakat figyelmeztetések kísérik, és a felhasználóknak külön rányomniuk kell, ha valóban meg akarják nézni őket. A szélsőségesen erőszakos vagy nyíltan pornográf tartalmak azonban még így sem férnek bele a platform kereteibe; ha valaha is felkerülnének, azokat azonnal eltávolítják. Legalábbis ez a hivatalos álláspont.
Ez alapján világosan látszik, hogy az Instagram működésében szerdán súlyos zavar lépett fel. Az érzékeny tartalmakra figyelmeztető jelzések mellett olyan brutális jelenetek bukkantak fel, mint a lefejezések, véres leszámolások és pornográf anyagok. Például, könnyedén rátalálhattunk egy elefántra, ami éppen egy embert taposott agyon, vagy olyan autós balesetekre, ahol frontálisan ütköztek a járművek. Továbbá, volt olyan videó is, ahol egy kamion elsodorta a vonatot, ami aztán felrobbant, illetve nyílt lábtöréseket is láthattunk, amelyekre még a figyelmeztetés sem vonatkozott.
Az egész olyan érzést keltett, mintha az ember a LiveLeak vagy a 4chan hírhedt /b/ fórumát böngészné 2010 táján, ám itt mindez a világ egyik legfelkapottabb platformján zajlott, ahol az emberek nem feltétlenül azért látogatnak el, hogy brutális kivégzéseket nézegessenek.
Az Instagram nem hivatalos alredditjén olyan videók bukkantak fel, amelyek azt mutatják, hogy az emberek Reels-hírfolyamában szinte kizárólag érzékeny tartalmak sorakoztak, a megszokott cicás felvételek helyett. Ezzel kapcsolatosan a Threadsen is sokan megosztották tapasztalataikat, és többen jelezték, hogy a megszokott aranyos cicák helyett meglepő, szívszorító tartalmakkal találkoztak. A Telex szerkesztőségében végzett gyors felmérésem során úgy tűnt, hogy ez a jelenség főként azokra a felhasználókra volt jellemző, akik nem szoktak rendszeresen Reels-t nézni. Náluk még csütörtökön is tapasztalható volt ez a furcsa helyzet, annak ellenére, hogy a Meta, többek között a Business Insidernek is, már csütörtökön bejelentette, hogy orvosolták a problémát.
Az utóbbiak közül egyesek azonnal a lefejezés brutalitásával találkoztak, míg mások a végtelen mennyiségű, különösen furcsa tartalomra bukkantak. Nálam viszont a súlyos sérülések mellett a farmon dolgozó, repülőgépet irányító és tépett ruhájú, mesterséges intelligencia által kreált LeBron Jamesek váltakoztak. Azóta is többször próbálkoztam, és úgy tűnik, hogy mostanra az algoritmusom stabilan a durva közúti balesetekre fókuszál; gyakorlatilag minden második videó ilyen, mindez pedig figyelmeztetés nélkül. Bár ez még mindig elmarad a szerdai videók borzalmaitól, ahol konkrétan emberek vesztették életüket, ezek a felvételek sem tűntek el, hiszen bár figyelmeztetést kaptak, továbbra is megtekinthetők.
A Meta nem árulta el, hogy konkrétan milyen hiba áll a jelenség háttérben, így erre vonatkozóan csak találgatni lehet. Nem ez az első eset, hogy az Instagramon ilyesmi fordult elő, a Washington Post pont két éve írt arról, hogy a platform erőszakos tartalmakat ajánl a felhasználóknak - részben azért, mert a Meta platformjain, akárhogy is csavargatták az algoritmust az elmúlt években, mindig a gyűlöletkeltő, erőszakos, konteókat terjesztő, vagyis a megosztó tartalmak szállították a legtöbb interakciót. Így ezek is termelik a legtöbb pénzt, hiába károsak, és ássák alá a platformba vetett bizalmat.
Nem is említettük eddig, hogy a januárban bejelentett moderációs szabályok módosításaiban már eleve benne rejlik, hogy az ilyen jellegű tartalmakat nehezebb lesz kiszűrni a Meta platformjain. Ezeket a rendszereket már korábban is rendkívül nehéz volt hatékonyan moderálni, még proaktív intézkedések mellett is. Egy friss tanulmány szerint évente 277 millióval nőhet a gyűlöletbeszédet és erőszakot tartalmazó posztok száma a Facebookon és az Instagramon. Bár a Meta vitatja ezt a számot, a jelenlegi helyzet alapján, még a hibák kijavítása után is, lehet benne valami igazság.
Az incidens különösen kínos helyzetet teremt a Metának, különösen azok után, hogy csütörtökön kiderült, Adam Mosseri, az Instagram vezetője, a héten a munkatársainak arról beszélt, hogy tervezik a Reels-videók áthelyezését egy különálló, a TikTokhoz hasonló platformra. Noha az év elején a TikTok jövője bizonytalan volt, még mindig sok kérdőjel lebeg a levegőben az Egyesült Államokban. Nehezen tudják majd felvenni a versenyt a TikTokkal, ha a Reels-videók minden második epizódjában valakit "kivégeznek".
