Según se informa, Apple amenazó con eliminar Grok de Elon Musk de su App Store por quejas de que la aplicación de inteligencia artificial no estaba haciendo lo suficiente para evitar que los usuarios crearan deepfakes desnudos o demasiado sexualizados, un golpe potencialmente importante ya que Grok enfrentaba un escrutinio internacional por el contenido que solía crear.
La amenaza, que surgió en una misiva recientemente revelada a los senadores estadounidenses, se produjo después de que Apple determinara que Grok, así como el sitio de redes sociales X de Musk, violaban las reglas de Apple que prohíben el material abiertamente sexual.
Apple tomó la medida drástica después de pedirles a X y Grok que tomaran medidas enérgicas contra las funciones que permiten a los usuarios crear deepfakes sexualizados, según una carta del 30 de enero. citado por NBC News.
Apple había determinado que los esfuerzos de Grok para resolver el problema, que incluían el uso de inteligencia artificial para eliminar imágenes de personas con su consentimiento, no habían ido lo suficientemente lejos, según se informó, Apple escribió a los senadores demócratas Ben Ray Luján de Nuevo México, Ed Markey de Massachusetts y Ron Wyden de Oregon.
X había anunciado una represion sobre el uso de IA para eliminar imágenes el 14 de enero, diciendo que la restricción “se aplica a todos los usuarios, incluidos los suscriptores pagos”.
Y, según se informa, Apple dijo que pidió a X y Grok que idearan un plan para mejorar la moderación de contenido, aunque resultó insuficiente.
“Apple… determinó que
Tras la amenaza de Apple, Grok envió un nuevo código al gigante tecnológico, según NBC News, aparentemente resolviendo la disputa por el momento.
“Tras un compromiso adicional y los cambios realizados por el desarrollador de Grok, hemos determinado que Grok ha mejorado significativamente y, por lo tanto, hemos aprobado su última presentación”, escribió Apple a los senadores.
La carta, firmada por Timothy Powderly, director senior de asuntos gubernamentales de Apple, sugiere que Grok estuvo más cerca de lo esperado de perder el acceso a los más de 2 mil millones de dispositivos conectados al mercado de software de Apple.
La misiva sigue a la indignación pública por las imágenes sexualizadas de IA tomadas por Grok y publicadas en X, y las autoridades francesas, británicas y de la Unión Europea iniciaron investigaciones sobre X. Musk calificó las investigaciones como intentos de censura.
Antes de eso, X y xAI, que dirige Grok, demandaron a Apple en agosto por acusaciones de que “alargaron” el proceso de revisión de las actualizaciones de Grok, según NBC News, una acusación que Apple niega.
Según se informa, la amenaza de Apple surgió después de que el trío demócrata le pidiera a él y a Google que eliminaran a X y Grok de los mercados.
Wyden dijo a NBC News que estaba “decepcionado de que Google no haya tratado este problema con la misma seriedad que Apple, dada la naturaleza espantosa de las imágenes que producen estas aplicaciones”.
“Sigue siendo impactante que el Departamento de Justicia de Trump no haya tomado ninguna medida para responsabilizar a X por la producción y distribución de grandes cantidades de material vil”, añadió.
No está claro si Google emitió una amenaza similar a la de Apple, señaló NBC. Según se informa, Google dijo a los senadores que “inmediatamente se comprometió” con los equipos de Musk “para enfatizar la importancia de seguir las políticas y recibir garantías de que estaban comprometidos a combatir la promoción de contenido dañino”.
El Post solicitó comentarios de Apple, Google, X, Grok y Luján, Markey y Wyden.
