ALa conciencia sobre el daño causado por la pornografía en línea está aumentando. El mes pasado, el gobierno cedió ante la presión de los activistas y se comprometió a ilegalizar las representaciones de estrangulamiento. Las investigaciones que muestran que la mayoría de los niños han visto este tipo de material son extremadamente inquietantes, especialmente porque ver “asfixia” hace que las personas (en su mayoría hombres) sean más propensas a hacerlo en la vida real. Esta semana, The Guardian examinó los angustiosos efectos de la pornografía deepfake en las escuelas y entrevistó a las mujeres detrás de la exitosa campaña para criminalizar la creación no consensuada de imágenes íntimas deepfake.
Por lo tanto, parece oportuno el anuncio de Ofcom de que ha multado a la empresa de pornografía AVS Group, con sede en Belice, con £1 millón. Oliver Griffiths, director de seguridad en línea del regulador, habló en la radio de la BBC sobre un “cambio de rumbo” con la entrada en vigor de los poderes de aplicación de la Ley de Seguridad en Línea. Los controles de edad aplicados en los sitios web de AVS para proteger a los niños no se consideran suficientemente eficaces. Si la empresa no paga, Griffiths dijo que decidiría si bloquea el sitio.
Algo en lo que todos los involucrados en la regulación en línea están de acuerdo es en que la tecnología está evolucionando a un ritmo increíble. El peligro es que las empresas y los sistemas que utilizamos para gestionar el riesgo no logren seguir el ritmo. Si bien es alentador ver a Ofcom tomar medidas, es alarmante que otras 90 empresas (83 de las cuales administran sitios pornográficos) también estén siendo investigadas y se cree que es inminente que se impongan nuevas multas. Liz Kendall, la secretaria de tecnología, advirtió el mes pasado que el regulador corre el riesgo de perder la confianza del público si no acelera la implementación de la Ley de Seguridad en Línea y controla las amenazas emergentes.
La regulación y el cumplimiento en el espacio en línea son complicados. Cuando Ofcom multó al controvertido foro 4chan con £ 20.000, las empresas detrás de él y otro foro, Kiwi Farms, presentó una denuncia legal. Quieren que un tribunal estadounidense dictamine que las leyes y códigos de conducta de seguridad en línea del Reino Unido no se aplican a ellos.
Estos desafíos dificultan la tarea de Ofcom. Pero no deberías intimidarlo. Activistas como Ian Russell, cuya hija Molly se suicidó después de ver material dañino, tienen razón al enfatizar el imperativo moral de hacer que Internet sea más seguro para los niños. Quieren que se imponga un nuevo “deber de franqueza” a los funcionarios públicos, así como a las empresas de tecnología, y que el regulador sea más proactivo y menos pasivo.
Todo esto se vuelve aún más urgente por las preocupaciones emergentes sobre la IA agente, o chatbots, a los que se acusa de actuar como “entrenadores suicidas” en varias demandas en Estados Unidos. Si la señora Kendall cree que hay lagunas en las leyes actuales de seguridad en líneacomo dijo el miércoles, debe cerrarlos. Beeban Kidron, compañero y defensor de la seguridad en línea, ha presentado enmiendas al proyecto de ley sobre crimen y vigilancia policial del gobierno que lograrían este objetivo. Los ministros no deberían demorarse, como ocurrió con las imágenes deepfake.
La seguridad en línea no es la única área en la que se ha acusado a Ofcom de inacción dañina. También se ha mostrado reacio a abordar el racismo y la desinformación sobre la política climática en GB News. La supervisión regulatoria de las noticias y otros medios siempre ha sido importante. Pero en una era de computadoras portátiles, tecnologías cambiantes y polarización política, las preguntas sobre el desempeño de Ofcom –particularmente en lo que respecta a los niños– nunca han sido tan apremiantes.
