India ha ordenado a las plataformas de redes sociales que intensifiquen el seguimiento de los deepfakes y otras suplantaciones generadas por IA, al tiempo que reducen significativamente el tiempo que tienen para cumplir con las órdenes de eliminación. Es una medida que podría remodelar la forma en que las empresas tecnológicas globales moderan el contenido en uno de los mercados de servicios de Internet más grandes y de más rápido crecimiento del mundo.
Los cambios, publicado (PDF) Martes en forma de enmiendas a Reglas de TI de la India para 2021someter los deepfakes a un marco regulatorio formal, exigiendo el etiquetado y la trazabilidad del contenido audiovisual sintético, al tiempo que reduce los plazos de cumplimiento para las plataformas, incluido un plazo de tres horas para las órdenes oficiales de eliminación y una ventana de dos horas para ciertas quejas urgentes de los usuarios.
La importancia de la India como mercado digital amplifica el impacto de las nuevas reglas. Con más de mil millones de usuarios de Internet y una población predominantemente joven, el país del sur de Asia es un mercado clave para plataformas como Meta y YouTube, lo que hace probable que las medidas de cumplimiento adoptadas en la India influyan en las prácticas globales de moderación y productos.
Según las reglas modificadas, las plataformas de redes sociales que permiten a los usuarios cargar o compartir contenido audiovisual deben exigir que el material se genere sintéticamente, implementar herramientas para verificar estas afirmaciones y garantizar que los deepfakes estén claramente etiquetados e integrados con datos de procedencia rastreables.
Ciertas categorías de contenido sintético, incluidas suplantaciones engañosas, imágenes íntimas no consentidas y contenido relacionado con delitos graves, están totalmente prohibidas en las reglas. El incumplimiento, particularmente en los casos denunciados por las autoridades o los usuarios, puede exponer a las empresas a una mayor responsabilidad legal al poner en peligro sus protecciones bajo la ley india.
Las normas dependen en gran medida de sistemas automatizados para cumplir estas obligaciones. Las plataformas deben implementar herramientas técnicas para verificar las divulgaciones de los usuarios, identificar y etiquetar los deepfakes y, en primer lugar, evitar la creación o el intercambio de contenido sintético prohibido.
“Las reglas de TI modificadas marcan un enfoque más calibrado para regular los deepfakes generados por IA”, dijo Rohit Kumar, socio fundador de la firma consultora de políticas The Quantum Hub, con sede en Nueva Delhi. “Los tiempos de resolución de quejas significativamente reducidos, como los tiempos de eliminación de dos a tres horas, aumentarán significativamente las cargas de cumplimiento y merecerán una cuidadosa consideración, especialmente porque el incumplimiento está vinculado a la pérdida de protecciones de puerto seguro”.
Aprajita Rana, socia de AZB & Partners, una importante firma de abogados de negocios de la India, dijo que las reglas ahora se centran en el contenido audiovisual generado por IA en lugar de toda la información en línea, al tiempo que establecen excepciones para usos rutinarios, cosméticos o relacionados con la eficiencia de la IA. Sin embargo, advirtió que exigir a los intermediarios que eliminen el contenido dentro de las tres horas posteriores a tener conocimiento del mismo se desvía de los principios establecidos de libertad de expresión.
“La ley, sin embargo, sigue exigiendo a los intermediarios que eliminen el contenido tan pronto como se den cuenta o realmente se den cuenta de él, y eso también dentro de las tres horas”, dijo Rana, y agregó que los requisitos de etiquetado se aplicarían a todos los formatos para frenar la difusión de materiales de abuso sexual infantil y contenido engañoso.
Internet Freedom Foundation, grupo de defensa digital con sede en Nueva Delhi dicho las reglas corren el riesgo de acelerar la censura al reducir drásticamente los tiempos de eliminación, dejando poco espacio para la revisión humana y empujando a las plataformas hacia una eliminación excesiva y automatizada. En un comunicado publicado el
“Estos plazos increíblemente cortos eliminan cualquier revisión humana significativa”, dijo el grupo, advirtiendo que los cambios podrían socavar la libertad de expresión y las protecciones del debido proceso.
Dos fuentes de la industria dijeron a TechCrunch que los cambios siguieron un proceso de consulta limitado, con solo un conjunto limitado de sugerencias reflejadas en las reglas finales. Aunque el gobierno indio parece haber considerado propuestas para limitar el alcance de la información cubierta (centrándose en contenido audiovisual generado por IA en lugar de todo el material en línea), no se han adoptado otras recomendaciones. La escala de los cambios entre el borrador y las reglas finales justificó una nueva ronda de consultas para brindar a las empresas una orientación más clara sobre sus expectativas de cumplimiento, dijeron las fuentes.
Los poderes de retirada del gobierno ya han sido un punto de discordia en la India. Las plataformas de redes sociales y los grupos de la sociedad civil han criticado durante mucho tiempo alcance y opacidad de las órdenes de eliminación de contenidoe incluso el de Elon Musk desafió a Nueva Delhi en los tribunales seguro Pautas para bloquear o eliminar mensajes.argumentando que equivalían a extralimitaciones y carecían de salvaguardias adecuadas.
Meta, Google, Snap, X y el Ministerio de TI de la India no respondieron a las solicitudes de comentarios.
Los últimos cambios se producen pocos meses después de que el gobierno indio, en octubre de 2025, reducido el número de funcionarios autorizados a ordenar la eliminación de contenidos en Internet en respuesta a una desafío legal por sobre el alcance y la transparencia de los poderes de retirada.
Las reglas modificadas entrarán en vigor el 20 de febrero, lo que dejará poco tiempo para que las plataformas ajusten los sistemas de cumplimiento. El despliegue coincide con la celebración por parte de la India de Cumbre sobre el impacto de la IA en Nueva Delhi del 16 al 20 de febrero, lo que debería atraer altos ejecutivos de tecnología global y responsables políticos del país.
