El horror del triple crimen de Florencio Varela, en el que Brenda del Castillo (20), Morena Verdi (20) y Lara Morena Gutiérrez (15) fueron brutalmente asesinadas en el marco de una presunta venganza narco, dejó al descubierto un costado tan inquietante como el hecho en sí: parte de la brutalidad fue transmitida en vivo a través de Instagram.
Según confirmaron los investigadores, al menos 45 personas vieron la sesión de tortura y asesinato en tiempo real desde una cuenta privada, en lo que los fiscales interpretan como un acto de disciplinamiento mafioso.
El caso encendió una alarma que ya venía sonando en la industria tecnológica: ¿hasta dónde llegan los controles de las plataformas frente a la violencia explícita cuando esta se transmite en vivo?
A diferencia de un posteo editado, que puede revisarse y bajarse con posterioridad, los streams en vivo representan un desafío mucho mayor. En minutos, las imágenes pueden multiplicarse, descargarse y circular por fuera del alcance de los moderadores.
Ante la consulta de Clarín, Meta no se promulgó de forma oficial sobre el hecho, ni mucho menos reconoció una potencial falla técnica de sus sistemas.
Violencia en vivo: el talón de Aquiles de las redes
Las víctimas: Brenda del Castillo, Morena Verdi y Lara Gutiérrez.Las redes sociales tienen normas estrictas sobre contenido gráfico. En su reglamento, por ejemplo, TikTok señala que elimina cualquier transmisión que muestre desmembramientos, degollaciones, ejecuciones o vísceras expuestas, además de restringir la visibilidad de escenas violentas bajo etiquetas de advertencia.
En Meta, dueña de Instagram, se aplican criterios similares: prohíben la publicación de contenido que incite al odio o muestre violencia extrema, con un monitoreo que combina algoritmos e intervención humana.
Quedan fuera de sus normas comunitarias, también, los videos que muestren desmembramientos, vísceras expuestas, degollaciones, ejecuciones o personas quemadas, así como también cualquier tipo de crueldad animal extrema, suicidios o abusos sexuales.
Si este tipo de contenidos aparecen en una transmisión en vivo, Meta interrumpe el stream de manera inmediata y puede aplicar sanciones a la cuenta responsable.
Existen, sin embargo, algunas excepciones. El sistema contempla que ciertos materiales sensibles puedan ser difundidos con advertencias de contenido o limitaciones de edad, por ejemplo en el caso de cirugías, emergencias médicas o coberturas periodísticas de conflictos armados o catástrofes.
En estas situaciones, la plataforma aplica etiquetas de aviso y permite que solo los usuarios mayores de 18 años decidan si quieren ver esas imágenes. Todo lo que no entre en esas categorías —como transmisiones cotidianas de música, deportes, entretenimiento o información— está permitido siempre que no se vulneren otras políticas de la red social.
La transmisión en vivo también cuenta con moderadores y herramientas de reporte en tiempo real, aunque se trata de filtros que funcionan mejor sobre contenido ya consolidado que frente a un stream donde cada segundo cuenta.
Antecedentes en Nueva Zelanda y México
Brenton Harrison Tarrant, el responsable de la masacre de Nueva Zelanda. (Foto: AFP)No es la primera vez que un crimen transmitido en directo desata críticas globales. En marzo de 2019, un supremacista blanco asesinó a 50 personas en dos mezquitas de Christchurch, Nueva Zelanda, y transmitió los ataques por Facebook Live. Las imágenes circularon a gran velocidad y la red social tardó horas en eliminarlas, mientras copias editadas se replicaban sin control en otras plataformas.
La ola de indignación obligó a Facebook (hoy Meta) a endurecer sus reglas de transmisión en vivo.
Entre otras medidas, la compañía restringió el acceso a la función para usuarios que hubieran violado previamente las normas comunitarias, e invirtió en software capaz de identificar y bloquear rápidamente versiones editadas de videos violentos. Aun así, el episodio dejó en claro que ningún filtro es infalible cuando se trata de frenar la difusión de imágenes atroces en tiempo real.
El tema se volvió todavía más urgente tras el asesinato de la tiktoker Valeria Márquez, ocurrido en México en 2024, cuando fue atacada a balazos mientras realizaba una transmisión en vivo.
La joven, que acumulaba miles de seguidores en TikTok, murió frente a la cámara mientras sus seguidores observaban en directo lo sucedido. El crimen conmocionó a la opinión pública y reavivó los reclamos para que las plataformas actúen con mayor rapidez ante situaciones de violencia extrema que ocurren en tiempo real.
Valeria Marquez, la tiktoker asesinada durante un vivo. El caso Márquez expuso dos dilemas centrales: la capacidad técnica de TikTok para cortar transmisiones en vivo cuando se detecta contenido violento y la responsabilidad ética de las redes en no permitir que hechos de sangre se conviertan en espectáculo digital.
A pesar de que la compañía eliminó el video poco después, el material ya se había replicado en otras cuentas, mostrando las limitaciones de los sistemas actuales.
El debate sobre el rol de las plataformas se intensificó nuevamente a comienzos de 2025, cuando Meta pidió disculpas tras un error en Instagram que recomendó a ciertos usuarios videos gráficos en la sección Reels, donde se mostraban escenas de personas asesinadas o mutiladas.
Según publicó The Wall Street Journal, algunos de esos videos ni siquiera incluían la advertencia de “contenido sensible”, lo que impulsó masivamente sus visualizaciones.
La compañía reconoció que se trató de una falla en sus sistemas de recomendación y aseguró haber solucionado el problema. Sin embargo, el episodio encendió las alarmas porque expuso cómo los algoritmos de recomendación pueden amplificar, en segundos, contenido que las propias normas comunitarias prohíben.
Aunque Meta aclaró que el incidente no estaba vinculado a la decisión de terminar con el programa de verificación externa de datos —reemplazado por el modelo de notas comunitarias en Facebook, Instagram y Threads—, el error dejó en evidencia que los controles automáticos y humanos no siempre alcanzan para frenar la circulación de imágenes violentas.
El dilema de la inmediatez
Casos como el triple crimen de Florencio Varela vuelven a dejar en evidencia la tensión entre la libertad de expresión y la protección de la comunidad.
Las empresas tecnológicas justifican el formato en vivo como un espacio de autenticidad y conexión directa con la audiencia, pero reconocen que se trata del escenario más difícil de controlar.
En paralelo, especialistas en derecho digital sostienen que los filtros actuales no son suficientes frente a organizaciones criminales que buscan exhibir su violencia como forma de disciplinamiento.
Para algunos, el caso podría acelerar cambios regulatorios que obliguen a las plataformas a implementar mecanismos de “corte automático” en transmisiones donde se detecte violencia extrema, algo que hoy está en fase experimental.
SL
