X admite fallas y restringe Grok tras pol茅mica por desnudos falsos
Luego de semanas de denuncias p煤blicas y presiones legales, X, la red social antes conocida como Twitter, anunci贸 restricciones a Grok, su sistema de inteligencia artificial, para impedir la generaci贸n y edici贸n de im谩genes sexuales o comprometedoras de personas reales, incluidas aquellas en ropa interior o desnudas.
La medida surge tras m煤ltiples reportes que alertaron sobre el uso de Grok para crear desnudos no consentidos y representaciones sexualizadas, incluso de menores de edad, lo que encendi贸 alarmas entre autoridades, organizaciones civiles y gobiernos.
Presi贸n pol铆tica y social obliga a cambios en X
De acuerdo con la compa帽铆a, las nuevas reglas buscan evitar que la plataforma facilite contenido que vulnere la privacidad, la dignidad y la seguridad digital de las personas. X reconoci贸 que la presi贸n p煤blica fue determinante para acelerar los ajustes t茅cnicos.
A trav茅s de su cuenta oficial de seguridad, la empresa explic贸 que Grok dejar谩 de procesar solicitudes que involucren a individuos reales en contextos sexuales, una pr谩ctica que se hab铆a vuelto recurrente en redes sociales.
驴Qu茅 cambia con las nuevas restricciones de Grok?
Las modificaciones anunciadas por X incluyen controles t茅cnicos y de acceso que buscan reducir el abuso del sistema, aunque no eliminan por completo el debate sobre la regulaci贸n de la IA.
Entre los principales puntos destacan:
Restricci贸n del acceso a herramientas de generaci贸n y edici贸n de im谩genes.
Bloqueo regional de funciones en pa铆ses donde este contenido es ilegal.
Aplicaci贸n universal de las normas, sin excepciones para cuentas Premium.
Persisten dudas sobre la efectividad de los filtros
Pese al anuncio oficial, medios especializados han documentado que algunos usuarios todav铆a logran evadir los filtros, especialmente mediante aplicaciones m贸viles o versiones web. Estas fallas mantienen la preocupaci贸n sobre la capacidad real de X para frenar la creaci贸n de deepfakes 铆ntimos.
La empresa no ha precisado cu谩ndo quedar谩n cerradas por completo estas brechas t茅cnicas.
Elon Musk defiende el funcionamiento de la IA
Elon Musk, propietario de X, sostuvo que Grok no act煤a de manera aut贸noma, sino que responde a instrucciones directas de los usuarios. Asegur贸 que la inteligencia artificial est谩 dise帽ada para cumplir con las leyes locales y que cualquier abuso detectado ser谩 corregido.
Sin embargo, gobiernos como el del Reino Unido mantienen una postura firme. El primer ministro Keir Starmer confirm贸 que su administraci贸n sigue de cerca el caso y exige a X cumplir con la legislaci贸n sobre contenidos ilegales.
Investigaciones legales contra xAI
En Estados Unidos, la pol茅mica escal贸 al 谩mbito judicial. El fiscal general de California, Rob Bonta, abri贸 una investigaci贸n contra xAI, la empresa detr谩s de Grok, por presuntamente facilitar la producci贸n masiva de im谩genes 铆ntimas falsas sin consentimiento.
Las autoridades analizan si estas pr谩cticas violan leyes de protecci贸n y privacidad, en un contexto donde la regulaci贸n de la inteligencia artificial generativa se ha convertido en un tema central para los gobiernos.
El caso de Grok vuelve a poner sobre la mesa la discusi贸n sobre los l铆mites de la IA, la responsabilidad de las plataformas digitales y la necesidad de reglas claras para evitar abusos. Para especialistas, el desaf铆o no es solo tecnol贸gico, sino tambi茅n legal y 茅tico.
Con informaci贸n de El Tiempo
*BC