{"id":1248,"date":"2026-01-06T07:11:45","date_gmt":"2026-01-06T10:11:45","guid":{"rendered":"https:\/\/blog.felipematos.net\/pt_br\/grok-sexualiza-fotos-sem-consentimento-e-policia-investiga-por-que-estas-24-horas-revelam-o-lado-mais-sombrio-da-ia-sem-guardrails\/"},"modified":"2026-01-06T07:11:45","modified_gmt":"2026-01-06T10:11:45","slug":"grok-sexualiza-fotos-sin-consentimiento-y-la-policia-investiga-por-que-estas-24-horas-revelan-el-lado-mas-oscuro-de-la-ia-sin-guardarrailes","status":"publish","type":"post","link":"https:\/\/blog.felipematos.net\/es\/grok-sexualiza-fotos-sem-consentimento-e-policia-investiga-por-que-estas-24-horas-revelam-o-lado-mais-sombrio-da-ia-sem-guardrails\/","title":{"rendered":"Grok sexualiza fotos sin consentimiento y la polic\u00eda investiga - Por qu\u00e9 estas 24 horas revelan el lado m\u00e1s oscuro de la IA sin guardarra\u00edles"},"content":{"rendered":"

Hay d\u00edas en los que las noticias sobre IA me preocupan de verdad. No es el temor lejano a una superinteligencia hostil, ni la ansiedad abstracta por el futuro del trabajo. Es algo mucho m\u00e1s directo, concreto y violento: mujeres cuyas im\u00e1genes son manipuladas por la IA para crear pornograf\u00eda no consentida, p\u00fablicamente, en las principales redes sociales<\/strong>.<\/p>\n

En las \u00faltimas 24 horas, la Polic\u00eda Civil de R\u00edo de Janeiro ha abierto una investigaci\u00f3n formal a ra\u00edz de las informaciones que apuntan a que la Inteligencia Artificial de X (antes Twitter), la Grok<\/strong>, se utiliza para sexualizar fotos de mujeres sin autorizaci\u00f3n. Seg\u00fan CBN<\/a> e informes de G1<\/a>, Julie Yukari<\/strong>, una periodista de R\u00edo de Janeiro, vio c\u00f3mo Grok transformaba sus fotos en im\u00e1genes sexualmente expl\u00edcitas despu\u00e9s de que perfiles an\u00f3nimos hicieran peticiones p\u00fablicas a la herramienta.<\/p>\n

No fue un caso aislado. Lo mismo les ocurre a mujeres de todo el mundo, incluidas las famosas, y de forma devastadora, adolescentes<\/strong>. Las autoridades de Francia y la India ya est\u00e1n investigando usos indebidos similares. Y en Brasil, SaferNet Brasil ya ha localizado casos que afectan a menores.<\/p>\n

Antes de entrar en los detalles t\u00e9cnicos, jur\u00eddicos y \u00e9ticos, tengo que decir: esta no es una historia sobre IA generativa que hace arte u optimiza procesos. Es una historia sobre el uso de la tecnolog\u00eda como arma sexual.<\/strong>.<\/p>\n

Lo que pas\u00f3: de una foto con un gato a la desnudez generada por inteligencia artificial<\/h2>\n

Julie Yukari public\u00f3 una foto con su gato en Nochevieja. Horas despu\u00e9s, perfiles an\u00f3nimos en X empezaron a hacer peticiones p\u00fablicas a Grok -la IA de la plataforma de Elon Musk- para que \u201cqu\u00edtate la ropa\u201d<\/strong> de la mujer de la imagen. La herramienta obedeci\u00f3.<\/p>\n

Los montajes generados iban desde microbikinis a desnudos totales. En una imagen, Grok puso \u201cun cord\u00f3n de zapato\u201d en lugar de un bikini. En otra, una camiseta del equipo sin bragas ni pantalones. Julie cont\u00f3 G1<\/a> que \u201cQuer\u00eda desaparecer y borrar todas mis fotos y redes sociales\u201d<\/strong> viendo las manipulaciones.<\/p>\n

Registr\u00f3 una denuncia en la 10\u00aa Comisar\u00eda de Polic\u00eda (Botafogo) por grabaci\u00f3n no autorizada de la intimidad sexual<\/strong>, y pretende a\u00f1adir m\u00e1s perfiles a la denuncia a medida que sigan manipulando sus fotos. Algunos de los perfiles responsables ya han sido eliminados por la plataforma por incumplir las normas - pero s\u00f3lo entonces<\/strong> el da\u00f1o causado y las repercusiones p\u00fablicas.<\/p>\n

Este caso no es \u00fanico. Periodista brit\u00e1nico Samantha Smith<\/strong> experiment\u00f3 la misma situaci\u00f3n, ya que MIRAR<\/a>, Se sinti\u00f3 \u201cdeshumanizada\u201d cuando vio versiones de s\u00ed misma sin ropa generadas por la IA.<\/p>\n

C\u00f3mo la tecnolog\u00eda se convirti\u00f3 en un arma sexual<\/h2>\n

Grok, al igual que otros modelos generativos, ha sido entrenado en vastos conjuntos de datos que incluyen im\u00e1genes de Internet. La diferencia es que, en teor\u00eda, estos modelos deber\u00edan tener barandillas<\/strong> - barreras \u00e9ticas y t\u00e9cnicas que impidan la generaci\u00f3n de contenidos nocivos, ilegales o expl\u00edcitamente violentos.<\/p>\n

Pero lo que hemos visto en las \u00faltimas 24 horas es que esos guardarra\u00edles fracasaron estrepitosamente<\/strong>. Los usuarios han descubierto que es posible pedir p\u00fablicamente a Grok que \u201cquite la ropa\u201d de las fotos de mujeres. Y la IA cumple.<\/p>\n

T\u00e9cnicamente, lo que hace la herramienta es generar un nueva imagen<\/strong> basado en el original, utilizando patrones aprendidos de millones de otras im\u00e1genes. No es exactamente \u201ceditar\u201d, es sintetizar. La IA \u201cimagina\u201d c\u00f3mo ser\u00eda esa persona sin ropa, bas\u00e1ndose en datos de entrenamiento. El resultado es devastadoramente convincente.<\/p>\n

Y este es el quid de la cuesti\u00f3n: la facilidad de acceso y la rapidez de ejecuci\u00f3n han transformado lo que antes requer\u00eda conocimientos t\u00e9cnicos especializados (Photoshop avanzado, codificaci\u00f3n de deepfakes) en algo que cualquier usuario an\u00f3nimo puede hacer con un mensaje de texto<\/strong>.<\/p>\n

Esto no es la democratizaci\u00f3n de la tecnolog\u00eda. Es la democratizaci\u00f3n del abuso.<\/p>\n

La respuesta de Elon Musk: humor primero, castigo despu\u00e9s<\/h2>\n

La reacci\u00f3n inicial de Elon Musk<\/strong>, propietario de X, era problem\u00e1tico. Seg\u00fan CBN<\/a>, reaccion\u00f3 con humor<\/strong> aos primeiros relatos, o que gerou indigna\u00e7\u00e3o global.<\/p>\n

Posteriormente, Musk prometeu puni\u00e7\u00f5es para uso ilegal<\/strong> do Grok. Mas a pergunta permanece: por que os guardrails n\u00e3o estavam funcionando desde o in\u00edcio? Por que uma plataforma com recursos bilion\u00e1rios e expertise em IA permitiu que sua ferramenta fosse usada dessa forma?<\/p>\n

No meu trabalho com empresas e governos, refor\u00e7o constantemente que tecnologia sem responsabilidade \u00e9 perigo em escala<\/strong>. E quando falamos de IA generativa, a escala \u00e9 exponencial. Um \u00fanico modelo mal protegido pode vitimizar milhares de pessoas em horas.<\/p>\n

O Marco Legal: Brasil, EUA e a Falta de Consenso Global<\/h2>\n

En Brasil, el Supremo Tribunal Federal (STF)<\/strong> j\u00e1 sinalizou que as redes sociais podem ser responsabilizadas por a\u00e7\u00f5es realizadas com suas ferramentas de IA. Isso significa que o X pode ser considerado co-respons\u00e1vel pelas imagens geradas pelo Grok, especialmente se houver neglig\u00eancia na implementa\u00e7\u00e3o de salvaguardas.<\/p>\n

O Congresso brasileiro est\u00e1 discutindo o Marco Regulat\u00f3rio da IA<\/strong>, e um projeto espec\u00edfico, o PL 3.821\/2024<\/a>, busca tipificar a cria\u00e7\u00e3o e divulga\u00e7\u00e3o de imagens sexuais falsas geradas por IA como crime.<\/p>\n

Nos Estados Unidos, a situa\u00e7\u00e3o legal \u00e9 fragmentada<\/strong>. Algumas leis estaduais pro\u00edbem pornografia de vingan\u00e7a ou n\u00e3o consentida, mas as leis federais sobre IA e direitos autorais est\u00e3o em fase de defini\u00e7\u00e3o. A Reuters<\/a> reportou que 2026 \u00e9 um “ano crucial” para a jurisprud\u00eancia de direitos autorais nos EUA, com ju\u00edzes federais emitindo decis\u00f5es divididas sobre o uso de material protegido para treinamento de IA.<\/p>\n

O problema \u00e9 que a tecnologia avan\u00e7a mais r\u00e1pido do que a legisla\u00e7\u00e3o<\/strong>. E enquanto leis s\u00e3o debatidas, v\u00edtimas reais est\u00e3o sendo criadas todos os dias.<\/p>\n

Responsabilidade das Plataformas: Quem Paga a Conta?<\/h2>\n

A discuss\u00e3o sobre responsabilidade \u00e9 urgente. Atualmente, o Section 230<\/strong> nos EUA protege plataformas de responsabiliza\u00e7\u00e3o pelo conte\u00fado gerado por usu\u00e1rios. Mas quando a plataforma fornece ativamente a ferramenta<\/strong> que permite o abuso, essa prote\u00e7\u00e3o deveria se aplicar?<\/p>\n

Eu argumento que n\u00e3o. Se voc\u00ea constr\u00f3i a arma, distribui a arma e facilita o uso da arma, voc\u00ea tem responsabilidade pelo que acontece com ela<\/strong>.<\/p>\n

No meu trabalho de mentoring com executivos, refor\u00e7o que governan\u00e7a de IA n\u00e3o \u00e9 opcional. Empresas que implementam ferramentas generativas sem auditorias rigorosas, testes de seguran\u00e7a adversarial e protocolos claros de responsabiliza\u00e7\u00e3o est\u00e3o criando passivos legais, reputacionais e \u00e9ticos massivos.<\/p>\n

O X precisa implementar:<\/p>\n