Luego de semanas de denuncias públicas y presiones legales, X, la red social antes conocida como Twitter, anunció restricciones a Grok, su sistema de inteligencia artificial, para impedir la generación y edición de imágenes sexuales o comprometedoras de personas reales, incluidas aquellas en ropa interior o desnudas.
La medida surge tras múltiples reportes que alertaron sobre el uso de Grok para crear desnudos no consentidos y representaciones sexualizadas, incluso de menores de edad, lo que encendió alarmas entre autoridades, organizaciones civiles y gobiernos.
Presión política y social obliga a cambios en X
De acuerdo con la compañía, las nuevas reglas buscan evitar que la plataforma facilite contenido que vulnere la privacidad, la dignidad y la seguridad digital de las personas. X reconoció que la presión pública fue determinante para acelerar los ajustes técnicos.
A través de su cuenta oficial de seguridad, la empresa explicó que Grok dejará de procesar solicitudes que involucren a individuos reales en contextos sexuales, una práctica que se había vuelto recurrente en redes sociales.
¿Qué cambia con las nuevas restricciones de Grok?
Las modificaciones anunciadas por X incluyen controles técnicos y de acceso que buscan reducir el abuso del sistema, aunque no eliminan por completo el debate sobre la regulación de la IA.
Entre los principales puntos destacan:
Restricción del acceso a herramientas de generación y edición de imágenes.
Bloqueo regional de funciones en países donde este contenido es ilegal.
Aplicación universal de las normas, sin excepciones para cuentas Premium.
Persisten dudas sobre la efectividad de los filtros
Pese al anuncio oficial, medios especializados han documentado que algunos usuarios todavía logran evadir los filtros, especialmente mediante aplicaciones móviles o versiones web. Estas fallas mantienen la preocupación sobre la capacidad real de X para frenar la creación de deepfakes íntimos.
La empresa no ha precisado cuándo quedarán cerradas por completo estas brechas técnicas.
Elon Musk defiende el funcionamiento de la IA
Elon Musk, propietario de X, sostuvo que Grok no actúa de manera autónoma, sino que responde a instrucciones directas de los usuarios. Aseguró que la inteligencia artificial está diseñada para cumplir con las leyes locales y que cualquier abuso detectado será corregido.
Sin embargo, gobiernos como el del Reino Unido mantienen una postura firme. El primer ministro Keir Starmer confirmó que su administración sigue de cerca el caso y exige a X cumplir con la legislación sobre contenidos ilegales.
Investigaciones legales contra xAI
En Estados Unidos, la polémica escaló al ámbito judicial. El fiscal general de California, Rob Bonta, abrió una investigación contra xAI, la empresa detrás de Grok, por presuntamente facilitar la producción masiva de imágenes íntimas falsas sin consentimiento.
Las autoridades analizan si estas prácticas violan leyes de protección y privacidad, en un contexto donde la regulación de la inteligencia artificial generativa se ha convertido en un tema central para los gobiernos.
El caso de Grok vuelve a poner sobre la mesa la discusión sobre los límites de la IA, la responsabilidad de las plataformas digitales y la necesidad de reglas claras para evitar abusos. Para especialistas, el desafío no es solo tecnológico, sino también legal y ético.
Con información de El Tiempo
*BC
