Fue preocupante, pero desafortunadamente no sorprendente, leer un artículo de The Guardian que informaba que las escuelas del Reino Unido están siendo chantajeadas con imágenes de abuso sexual infantil generadas por IA, creadas a partir de fotografías compartidas en sitios web escolares y páginas de redes sociales (las escuelas del Reino Unido deberían eliminar las fotos en línea de los estudiantes a medida que aumenta la amenaza de chantaje por IA, dicen los expertos, 8 de mayo). señor russellDurante los debates de 2024 sobre el proyecto de ley de datos (uso y acceso), se destacó el potencial de la IA para extraer imágenes de sitios web escolares y redes sociales. Sus comentarios se basan en investigaciones realizadas por defender mi digitalcual encontrar Datos de estudiantes en conjuntos de datos de entrenamiento de IA disponibles públicamente.
Gobierno de Gales consejo advierte a las escuelas que “tengan extrema precaución al compartir públicamente imágenes o videos de estudiantes en plataformas de redes sociales debido al riesgo potencial de uso indebido del contenido”. Señala que las plataformas de redes sociales son vulnerables al web scraping y que la recopilación a gran escala de información publicada en línea y la consiguiente pérdida de control sobre las imágenes pueden exponer a los estudiantes a riesgos de privacidad. El único consejo que el Departamento de Educación da a las escuelas sobre el uso de imágenes de los estudiantes aparece en su consejos de protección de datos. Este establece que el uso de las redes sociales “a menudo requiere especial precaución” y que las escuelas deben “hacer que los estudiantes, así como los padres o tutores, sean conscientes de que las redes sociales implican un intercambio más amplio y pueden conllevar mayores riesgos para la privacidad”.
Mi investigación confirma que muchas autoridades educativas ofrecen orientación sobre el uso de las fotografías de los alumnos y aconsejan periódicamente a los centros escolares que obtengan el consentimiento de los padres antes de compartir imágenes en línea. Sin embargo, sólo el 7% de las autoridades que divulgaron sus directrices mencionaron que publicar fotografías en las redes sociales podría representar un riesgo para la privacidad de los niños. Por lo tanto, se pide a los padres que den su consentimiento para compartir fotografías en línea sin ser informados de los riesgos que estas publicaciones pueden presentar.
El web scraping no es lo único que supone un riesgo para los niños. La escuela a la que asiste un niño se puede inferir de las publicaciones de la escuela en las redes sociales. Muchos niños son identificables para extraños incluso si los nombres de los estudiantes o de las escuelas no aparecen junto a las imágenes. Al publicar en línea imágenes faciales de niños, las escuelas pueden comprometer involuntariamente la privacidad de los niños, poniéndolos en riesgo de robo de identidad, acoso y aseoy explotación por plataformas.
Dra. Claire Bessant
Profesor asociado, Facultad de Derecho de Northumbria, Newcastle upon Tyne
