Musk cede ante la presión: límite a las imágenes en Grok

X cede ante la presión global y restringe la generación de imágenes explícitas en su IA Grok

La compañía propiedad de Elon Musk ha anunciado medidas de bloqueo geográfico para su chatbot de inteligencia artificial. Tras una serie de investigaciones regulatorias en Europa y Estados Unidos, la plataforma impedirá la creación de representaciones de desnudos de personas reales en jurisdicciones donde dicho contenido infringe la ley. La decisión busca mitigar las críticas sobre la seguridad digital y el cumplimiento de normativas internacionales.

Infórmate en DiarioPampero.com – La red social X comunicó que bloqueará en Grok la función de crear imágenes sexuales en zonas donde sea ilegal. Esta acción responde a la presión de reguladores de Estados Unidos, Reino Unido y la Unión Europea tras la viralización de deepfakes. La empresa usará geolocalización para cumplir las leyes, mientras enfrenta investigaciones y prohibiciones en países asiáticos que exigen frenar la difusión de material explícito generado sin consentimiento, protegiendo la seguridad digital.

La plataforma de redes sociales X ha confirmado la implementación de nuevas barreras de seguridad en su chatbot de inteligencia artificial, Grok, con el objetivo de impedir la generación de imágenes sexualizadas y desnudos de personas reales. Esta determinación, comunicada el miércoles por la noche, establece que la restricción se aplicará mediante tecnologías de bloqueo geográfico en aquellas jurisdicciones donde la creación y difusión de este tipo de material se encuentre tipificada como ilegal. La medida surge como respuesta directa a la creciente presión ejercida por organismos reguladores internacionales y el rechazo generalizado ante la proliferación de contenido explícito generado por IA en la plataforma.

El anuncio se produce en un contexto de escrutinio intensificado hacia las operaciones de xAI, la división de inteligencia artificial de Elon Musk. Durante la última semana, diversas autoridades alrededor del mundo han iniciado expedientes formales contra la herramienta. Investigadores del estado de California han comenzado a indagar si Grok ha incurrido en violaciones a las leyes estatales, mientras que Ofcom, el ente regulador de seguridad en línea del Reino Unido, abrió su propia investigación el lunes pasado. Si bien el organismo británico calificó las nuevas restricciones como un avance positivo, aclaró que su proceso de fiscalización formal continúa vigente, conservando la potestad de solicitar órdenes judiciales contra proveedores de pagos si la empresa no se ajusta a la legalidad.

El conflicto regulatorio internacional y las limitaciones de las nuevas medidas de seguridad

A pesar del comunicado oficial de X, donde asegura utilizar el «geobloqueo» para cumplir con las solicitudes legales, existen matices en la aplicación de la norma. Las restricciones anunciadas parecen afectar únicamente a la integración del chatbot dentro de la red social, sin quedar claro si se extienden a la aplicación y sitio web independientes de Grok. La empresa ha reiterado su compromiso con la seguridad, afirmando tener «tolerancia cero» hacia la explotación sexual infantil y la desnudez no consentida. Sin embargo, medidas previas, como limitar la generación de imágenes exclusivamente a suscriptores de pago, resultaron insuficientes para calmar a los organismos de control.

La situación ha escalado a nivel diplomático y legal en varios frentes. Países como Indonesia y Malasia han optado por prohibir el uso del chatbot, mientras que la Unión Europea ha profundizado sus pesquisas sobre los «deepfakes» explícitos. Ursula von der Leyen, presidenta de la Comisión Europea, expresó su rechazo contundente, calificando de inconcebible que una plataforma permita «desnudar digitalmente» a mujeres y niños. Bajo la Ley de Servicios Digitales, la UE posee herramientas para sancionar a las grandes tecnológicas que no monitoreen adecuadamente sus contenidos, una postura que ha generado fricciones con sectores políticos estadounidenses que consideran estas normas como una forma de censura.

En el marco de estas investigaciones, los reguladores europeos han ordenado a Grok la preservación de documentos vinculados al funcionamiento del chatbot. La preocupación central radica en la legalidad de las imágenes generadas, dado que la posesión o distribución de material sexual de menores es un delito grave en gran parte del mundo, y muchas legislaciones, incluidas las de Estados Unidos y el Reino Unido, penalizan específicamente la difusión de imágenes íntimas sin consentimiento. La política interna de X prohíbe este tipo de contenido, pero la capacidad de su herramienta para crearlo ha puesto a la compañía en una posición delicada frente a la justicia global.