Una recente anomalia su Instagram ha sconvolto gli utenti: improvvisamente i loro feed Reels sono stati invasi da video violenti e inappropriati raccomandati dall’algoritmo, contenuti che normalmente verrebbero filtrati, come il video elefante.
Questa diffusione improvvisa di clip scioccanti, alcune contrassegnate come “contenuti sensibili” e altre apparse senza alcun avvertimento – ha generato sconcerto e proteste tra gli utenti sui social
L’incidente ha costretto Meta, società madre di Instagram, a intervenire con scuse pubbliche e ad attivarsi rapidamente per correggere il problema tecnico alla base
Video elefante: l’origine del problema
L’origine dell’anomalia è stata ricondotta a un malfunzionamento tecnico interno di Instagram. In pratica, per un errore dell’algoritmo o dei filtri di moderazione automatica, la piattaforma ha iniziato a raccomandare massivamente contenuti che violavano le linee guida in materia di violenza e nudità.
Video caratterizzati da violenza esplicita, come sparatorie mortali, accoltellamenti, aggressioni, e perfino scene sessuali esplicite, hanno iniziato ad apparire nei Reels di numerosi utenti, inclusi minorenni.
Questa falla nei sistemi di Instagram ha bypassato i normali controlli: contenuti che di norma sarebbero stati bloccati o oscurati sono invece finiti nei feed pubblici.
Le cause tecniche precise non sono state dettagliate da Meta, ma gli esperti e le testate tech concordano che potrebbe essersi trattato di un bug.
In altre parole, un malfunzionamento dell’AI che scansione i post per contenuti sensibili o un errore in un recente aggiornamento dell’algoritmo di raccomandazione avrebbe impedito il corretto filtraggio dei video proibiti.
Questa ipotesi spiegherebbe perché all’improvviso contenuti normalmente bloccati siano stati “liberati” nei suggerimenti di Reels.
Va notato che i video comparsi provenivano da account che gli utenti non seguivano direttamente, segno che il problema risiedeva nell’algoritmo di raccomandazione di Instagram.
Video elefante: la reazione degli utenti e le discussioni sui social
La reazione degli utenti è stata immediata e veemente. In poche ore, su piattaforme come X (Twitter) e Reddit sono comparsi centinaia di messaggi di persone allarmate dal contenuto dei propri feed Instagram
Molti descrivevano Instagram Reels come “diventato un campo di battaglia”, riferendosi al susseguirsi di video con “solo risse, sangue e caos” invece dei soliti contenuti leggeri.
Alcuni utenti si sono chiesti se fossero soli a vedere quei video o se fosse un bug o un cambio dell’algoritmo.
“Mi sono trovato video di sparatorie nelle scuole, aggressioni e scene traumatiche nel feed”, scrive un utente. Mentre un altro lamenta “Instagram Reels è improvvisamente pieno di video violenti, è successo a qualcun altro?”
Particolarmente preoccupante è che molti di questi filmati comparivano nonostante gli utenti avessero attivato l’opzione di Controllo dei contenuti sensibili al livello massimo
In teoria, questa impostazione avrebbe dovuto prevenire la visione di materiale grafico, ma ha fallito: diversi utenti hanno segnalato di aver visto tali video anche con i filtri attivi e dopo aver premuto su “Non mi interessa”.
Noi ne parliamo in questo video.
Ciò ha sollevato dubbi sull’efficacia dei meccanismi di sicurezza della piattaforma.
Le discussioni sui social sono rapidamente diventate virali. L’hashtag #Instagram ha visto un insolito volume di segnalazioni in quelle ore, con utenti che condividevano screenshot dei contenuti oscurati con l’avviso “contenuto sensibile” oppure descrivevano il loro shock nel trovarsi davanti a clip di incidenti reali e violenza cruda.
Alcuni genitori e creator hanno espresso preoccupazione per i minori, consigliando di tenere i ragazzi lontani da Instagram fino a risoluzione del problema. Altri ancora hanno ironizzato amaramente sulla situazione, paragonando la propria sezione Reels a siti gore o a feed di cronaca nera. In sintesi, la fiducia degli utenti è stata scossa e molti chiedevano a gran voce spiegazioni e interventi immediati da parte di Instagram/Meta.
Dichiarazioni ufficiali di Meta e contromisure
Di fronte al montare delle segnalazioni, Meta è intervenuta pubblicamente nel giro di poche ore. Un portavoce dell’azienda ha rilasciato un comunicato in cui ha chiesto scusa agli utenti per l’accaduto, riconoscendo il problema e assicurando che il glitch era stato risolto
Nella nota, Meta ha dichiarato: «Abbiamo risolto un errore che faceva sì che alcuni utenti vedessero contenuti nel loro feed Instagram Reels che non avrebbero dovuto essere raccomandati. Ci scusiamo per l’errore»
In altre parole, la società ha ammesso che quei video non dovevano comparire e che la loro apparizione è stata dovuta a un malfunzionamento inatteso. Meta non ha reso pubblico il numero esatto di persone colpite, limitandosi a dire che si trattava di “alcuni utenti” a livello globale
Tuttavia, dati i tweet e post provenienti da varie parti del mondo, è chiaro che l’anomalia ha avuto una portata piuttosto ampia.
Nella sua dichiarazione, Meta ha assicurato di aver rimosso i contenuti incriminati dai feed e di aver riportato la situazione alla normalità una volta individuato l’errore
L’azienda ha spiegato che i video fuori luogo erano collegati ad account che gli utenti non seguivano, confermando che il problema risiedeva nell’algoritmo di raccomandazione e non nelle preferenze personali di ciascuno
Contestualmente alle scuse, Meta ha fatto sapere di aver avviato indagini interne per capire le cause profonde del glitch e prevenire future ripetizioni
“Stiamo indagando sull’origine di questo malfunzionamento”, hanno fatto sapere i portavoce, senza però fornire ulteriori dettagli tecnici al pubblico
Meta non ha divulgato pubblicamente informazioni specifiche su cosa abbia scatenato l’errore (ad esempio, se sia stato un aggiornamento difettoso o un guasto di un filtro AI)
Va sottolineato che Meta dispone di un team enorme dedicato alla moderazione: circa 15.000 moderatori umani assistiti da sistemi di Intelligenza Artificiale monitorano i contenuti della piattaforma
Ciò nonostante, l’incidente ha evidenziato che nessun filtro è infallibile. Meta ha ribadito il proprio impegno a far rispettare le Norme comunitarie di Instagram, che vietano espressamente video violenti e grafici se non accompagnati da avvisi o giustificati da contesto informativo (ad es. sensibilizzazione su abusi di diritti umani)
In questo caso tali contenuti hanno aggirato le regole per un errore, e l’azienda ha assicurato di averli rimossi/non più raccomandati non appena scoperti. “Ci scusiamo per il disagio”, ha concluso Meta nel suo messaggio, consapevole del turbamento causato agli utenti.
Implicazioni e possibili ripercussioni future sulla moderazione
Questo incidente ha scatenato un dibattito sulle politiche di moderazione di Instagram e, più in generale, dei social media. Da un lato, evidenzia i rischi legati all’eccessiva dipendenza dai sistemi automatizzati: quando un algoritmo commette un errore, espone milioni di persone a contenuti inappropriati in breve tempo. Probabilmente, Instagram rivedrà internamente i suoi filtri AI e i protocolli di sicurezza per evitare il ripetersi di un malfunzionamento simile. Ad esempio, il malfunzionamento del Controllo dei contenuti sensibili costringerà Meta a migliorarne l’efficacia.
Quando gli utenti con il filtro attivo vedono ancora scene cruente, diventa chiaro che i sistemi di sicurezza vanno migliorati.
Instagram deve raffinare sia gli algoritmi di riconoscimento dei contenuti violenti sia le procedure di testing prima degli aggiornamenti.
Potrebbe introdurre controlli extra o meccanismi di sicurezza per prevenire la diffusione di contenuti inappropriati.
Se gli utenti segnalano troppi contenuti in poco tempo, il sistema potrebbe bloccare temporaneamente quelle raccomandazioni.
Un controllo umano dovrebbe verificare rapidamente la situazione per evitare problemi simili in futuro.
Instagram dovrà riconquistare la fiducia degli utenti migliorando la trasparenza sulle dinamiche del feed.
Gli utenti devono sapere come proteggersi da contenuti indesiderati attraverso impostazioni e strumenti di moderazione.
Questo episodio è arrivato in un momento critico per Meta sul fronte della moderazione.
All’inizio del 2025, Mark Zuckerberg ha annunciato un cambiamento nella strategia di moderazione delle piattaforme di Meta.
L’azienda ridurrà l’intervento dei fact-checker esterni e la rimozione proattiva dei contenuti.
Si affiderà invece a sistemi come le Community Notes, simili a quelle di X/Twitter, per segnalare contenuti discutibili.
Questo cambiamento punta a garantire una maggiore libertà di espressione sulla piattaforma.
Questo cambiamento, ideato per evitare quella che alcuni definiscono “censura”, introduce però un approccio più permissivo. Meta si concentrerà solo sulle violazioni più gravi (terrorismo, abusi su minori, frodi) e lascerà agli utenti il compito di segnalare il resto.
Il glitch di Instagram Reels dimostra i pericoli di questa scelta. Se Meta allenta troppo i controlli, anche involontariamente, rischia di lasciare che più contenuti dannosi sfuggano ai filtri e raggiungano il pubblico prima di essere fermati.
Molti esperti tech e utenti hanno espresso preoccupazione per la gestione della moderazione su Instagram.
L’incidente rafforza l’idea di chi chiede a Meta di mantenere controlli più rigidi sui contenuti.
“Più libertà” non deve significare “assenza di regole” nelle raccomandazioni dell’algoritmo.
Instagram era già stato criticato per il funzionamento del suo sistema di suggerimenti nei Reels.
Un’inchiesta del Wall Street Journal ha rivelato che i Reels potevano suggerire video per adulti.
Alcuni utenti, inclusi minori, ricevevano contenuti sessualizzati dopo aver seguito giovani influencer
Episodi come questo dimostrano che i sistemi automatici possono presentare bias o falle con conseguenze gravi, aumentando la pressione su Meta affinché bilanci meglio l’esperienza utente con la sicurezza e la protezione delle fasce più vulnerabili.
Nel prossimo futuro, questo incidente potrebbe spingere Instagram a introdurre policy più rigide o nuove funzionalità di sicurezza.
Meta potrebbe introdurre nuovi livelli di revisione per i contenuti sensibili prima che appaiano nei feed.
L’azienda potrebbe investire in algoritmi più avanzati per distinguere con maggiore precisione i video consentiti da quelli vietati.
Potrebbe anche rafforzare i meccanismi di segnalazione degli utenti, semplificando il processo di denuncia dei contenuti inappropriati.
In questo modo, il team di moderazione potrebbe intervenire più rapidamente in situazioni simili.
Meta dovrà anche gestire le pubbliche relazioni e riconquistare la fiducia degli utenti.
Dopo essersi scusata pubblicamente, dovrà dimostrare con i fatti di aver imparato la lezione.
Potrebbe condividere almeno in parte cosa è andato storto e quali correzioni ha implementato.In caso di incidenti tecnici significativi, aziende come Meta solitamente effettuano audit interni e coinvolgono team di sicurezza per verificare l’assenza di intrusioni esterne. Finora, però, non esistono indicazioni di un hackeraggio, ma solo di un errore interno.
Infine, le conseguenze di questo incidente vanno oltre Instagram: altre piattaforme social analizzeranno attentamente l’accaduto.
Servizi come TikTok, YouTube o lo stesso X (Twitter) basano la loro esperienza utente su algoritmi di raccomandazione e un evento simile su Instagram rappresenta un campanello d’allarme per tutti. Probabilmente, altre società tech riesamineranno i propri sistemi di moderazione automatica, magari introducendo test più rigorosi per evitare scenari simili.
In un ecosistema social basato sulla fiducia, nessuna piattaforma vuole giustificare la diffusione di contenuti violenti o inappropriati.
Il caso di Instagram Reels potrebbe spingere le piattaforme a essere più caute nei cambiamenti algoritmici.
Le aziende potrebbero rafforzare le politiche di moderazione per evitare problemi simili su Instagram e altre piattaforme.
Meta potrebbe rallentare la riduzione dei controlli umani, bilanciando meglio l’automazione con sistemi di backup efficaci.
La lezione è chiara: garantire un’esperienza sicura agli utenti deve restare una priorità assoluta.
Ogni modifica ai sistemi di moderazione va valutata attentamente per evitare conseguenze negative.
Se vuoi restare sempre aggiornato sul mondo digitale Accedi gratuitamente alla nostra community, ti aspettiamo.
