Itaú acelera 6 veces la migración a la nube con IA mientras el Grok de Musk se enfrenta a órdenes de prohibición: por qué estas 24 horas exponen la diferencia entre la gobernanza real y la tecnología sin límites

En las últimas 24 horas, el mundo de la inteligencia artificial ha revelado dos extremos que definen el momento actual: por un lado, la Itaú anuncia que ha multiplicado por seis su migración de servicios a la nube utilizando el agente Devin AI, con 75% de los equipos que ya operan de forma autónoma y 70% de las alertas de seguridad que se resuelven automáticamente. Por otro, el Grok, la herramienta de inteligencia artificial de Elon Musk, se enfrenta a peticiones formales de prohibición en Brasil por generar imágenes sexualizadas de menores y adultos sin consentimiento, identificando los investigadores una media de 6.700 montajes impropios por hora.

No se trata de una coincidencia. Esta noticia expone, sin filtro, la diferencia entre implantar la IA con una gobernanza sólida y lanzar la tecnología al mercado sin responsabilidad institucional.

Y esto importa a cualquiera que trabaje con tecnología, dirija equipos o tome decisiones estratégicas: la forma en que gobierne la IA hoy definirá si estará creando valor o depurando responsabilidades mañana.

El caso Itaú: cuando la gobernanza se convierte en una ventaja competitiva

Según un informe de Foro de TI, Itaú empezó a utilizar IA para el desarrollo de software cuatro meses después del lanzamiento de ChatGPT en 2023. Carlos Eduardo Mazzei, Director de Tecnología del banco, lo dejó claro: “Nos dimos cuenta de que la programación, la ingeniería y las operaciones se transformarían, y queríamos formar parte de ese cambio”.”

Pero la implantación no fue precipitada. El banco estableció una sólida base de gobernanza antes de aplicar la IA a escala:

• Piloto cauteloso: comenzó con la experimentación controlada para entrenar a Devin con los protocolos existentes.
• Directrices estrictas: han creado normas sobre desarrollo, mejores prácticas y arquitectura para garantizar la seguridad.
• Escala gradual: Sólo después de la validación, se ampliaron a 75% de los equipos tecnológicos del banco.

¿El resultado? 30% aumento del volumen de entregas, mejora de la calidad del código y de la experiencia de los desarrolladores. Devin no sólo escribe, prueba y corrige código listo para producción: actúa como capa de conocimiento institucional, manteniendo actualizada la documentación. Desde su utilización, el agente ha multiplicado por seis la migración de servicios y duplicado la cobertura de las pruebas (de unos 50% a más de 90%).

Russell Kaplan, presidente de Cognition (la empresa que creó Devin), señaló que la escala de las operaciones de Itaú -con más de 300.000 repositorios de código- exigía dedicación técnica para hacer frente a la complejidad de la infraestructura existente.

Mazzei reforzó la visión estratégica: “La visión es que los ingenieros humanos y de IA trabajen juntos, pero el complejo ecosistema requiere que las vulnerabilidades se aborden de antemano”.” El banco tiene 70% de sus servicios en la nube pública, con el objetivo de migrar 100% de la infraestructura para 2028. Las 30% restantes, compuestas por código heredado, hacen que la integración sea más lenta, pero no por ello menos estratégica.

Itaú cuenta actualmente con más de 750 iniciativas de IA generativa en funcionamiento, con un crecimiento de 141% en el número de iniciativas en producción durante el último año. Los próximos pasos incluyen alcanzar 100% de integración y explorar nuevas funcionalidades de Devin.

¿Qué significa esto? Que la IA no es sólo una herramienta de productividad: cuando se gestiona correctamente, se convierte en una ventaja competitiva sistémica. Itaú no solo está acelerando las entregas. Está construyendo una cultura de innovación segura, escalable y sostenible.

El caso Grok: cuando la tecnología avanza sin guardarraíles

En el extremo opuesto, Grok -la herramienta de IA integrada en la plataforma X de Elon Musk (antes Twitter)- se ha convertido en uno de los mayores escándalos mundiales de la industria tecnológica. Según un informe de MIRAR, La función, apodada “modo picante”, permitía crear fotos y vídeos que recreaban imágenes sexualizadas de niñas y mujeres.

La periodista Samantha Smith fue una de las víctimas, que vio alterada su imagen varias veces en la cadena X, apareciendo en bikini después de que Grok le pidiera que se quitara la ropa. Declaró sentirse “deshumanizada y reducida a un estereotipo sexual”. La brasileña Julie Yukari, vocalista del grupo Adaga Exe, vio alteradas sus fotos de Año Nuevo, lo que la llevó a presentar una denuncia policial por “violación electrónica” y a pedir una indemnización.

Alberto Leite, del Grupo FS, resume: “Violencia digital con estética real”.”

Los investigadores de AI Forensics analizaron más de 20.000 imágenes aleatorias generadas por Grok y 50.000 solicitudes de usuarios entre el 25 de diciembre y el 1 de enero. ¿El resultado? Alta prevalencia de términos como “quitarse la ropa” y “ponerse un bikini”, con más de la mitad de los registros con individuos con ropa mínima. Un estudio paralelo reveló que, entre el 5 y el 6 de enero, Grok generó una media de 6.700 mensajes inapropiados por hora, frente a una media de 79 de cinco sitios competidores.

En Brasil, los datos del Instituto de Seguridad Pública de Río de Janeiro muestran que, entre 2020 y 2024, los registros de revelación no autorizada de intimidad sexual crecieron en 300%. En los últimos años, 87,8% de las víctimas de este tipo de delito en el estado han sido mujeres. En Belo Horizonte, al menos diecisiete alumnas de una escuela pública denunciaron la manipulación y difusión de fotos por parte de AI en grupos de Telegram.

Las repercusiones fueron inmediatas. En Indonesia y Malasia, Grok fue prohibido temporalmente. En el Reino Unido, Ofcom anunció una severa investigación, haciéndose eco de una decisión de las autoridades de la Unión Europea. En Brasil, según migas, El 12 de enero, el Instituto de Defensa del Consumidor (Idec) pidió al gobierno federal que suspendiera la herramienta.

En palabras de Julia Abad, investigadora del programa de telecomunicaciones y derechos digitales de Idec: “Es una medida para evitar más daños mientras no haya una legislación específica”.”

EL Partido de los Trabajadores enviaron una carta a la Senacon (Secretaría Nacional del Consumidor) pidiendo el bloqueo o la prohibición de Grok. Treinta y seis diputados del PT presentaron una representación ante la Fiscalía del Distrito Federal solicitando una investigación, la suspensión temporal de AI y la responsabilidad legal de X. Maria do Rosário, ex ministra de Derechos Humanos: “El uso de la inteligencia artificial para explotar sexualmente a niños, adolescentes y mujeres es criminal y debe detenerse urgentemente”.”

Patricia Punder, abogada especializada en LGPD, señala: “La tecnología es nueva, pero el delito es antiguo. La violación de la imagen y el honor y la violencia psicológica siempre han existido. Lo que ha cambiado es la capacidad de producir miles de ataques en minutos”.”

La respuesta de Musk y la lógica del beneficio sin responsabilidad

Elon Musk respondió a las acusaciones afirmando que “la generación y edición de imágenes están actualmente limitadas a los suscriptores que pagan por el servicio” y que “cualquiera que utilice Grok para crear contenido ilegal o X para publicar contenido ilegal se enfrentará a las consecuencias. La responsabilidad legal sigue siendo del individuo que crea y sube el servicio”.”

El cálculo es sencillo: Menos barreras generan más acceso, viralización, tráfico de datos y beneficios.

Pero los expertos sostienen que, aunque castigar al individuo que comete la desviación es fundamental, las empresas no pueden quedar exentas de culpa. Andressa Michelotti, politóloga, está de acuerdo: “La velocidad y las posibilidades de los algoritmos se extienden a velocidad de vértigo, pero la legislación no”.”

Según un informe de Época Negócios, Incluso después de anunciarse las restricciones, el The Guardian ha conseguido crear vídeos cortos de gente quitándose la ropa a bikinis a partir de fotografías reales de mujeres completamente vestidas. La versión independiente de Grok, conocida como Grok Imagine, respondía incluso a órdenes de eliminar digitalmente la ropa de imágenes de mujeres.

Paul Bouchaud, investigador de AI Forensics, declaró a Wired: “Seguimos siendo capaces de generar desnudos fotorrealistas en Grok.com. Somos capaces de generar desnudos de formas que Grok en el entorno X no puede”.”

Rebecca Hitchen, responsable de política y campañas de la Coalición para Acabar con la Violencia contra las Mujeres, declaró a The Guardian: “La continua facilidad de acceso a sofisticadas herramientas nudistas demuestra claramente que X no se está tomando suficientemente en serio la cuestión de la violencia en línea contra las mujeres y las niñas”.”

Penny East, directora ejecutiva de la Fawcett Society, añadió: “Es difícil de creer que xAI y Elon Musk no puedan encontrar una manera de evitar que estas imágenes sean publicadas por Grok. Musk y la industria tecnológica simplemente no priorizan la seguridad o la dignidad en los productos que crean.”

Microsoft también se enfrenta a una crisis de confianza

El problema no se limita a Grok. Según Tecnoblog, La palabra “Microslop” está siendo utilizada en las redes sociales por personas descontentas con la implementación de funciones de IA en el software y los servicios de Microsoft. Este descontento se vio exacerbado tras unas declaraciones del CEO Satya Nadella, quien pidió a la gente que evitara pensar que los contenidos generados por IA son de baja calidad, utilizando el término inglés “slop” (que puede traducirse como “dejadez” o “basura”).

El término “slop” fue elegido palabra del año 2025 por el diccionario Merriam-Webster en el contexto de los contenidos digitales de baja calidad generados por herramientas de IA generativa. La asociación con Microsoft dio lugar a la aparición del juego de palabras “Microslop” (Microsoft + slop) en las redes sociales, que rápidamente se convirtió en una protesta.

Un desarrollador ha creado la extensión de Chrome “Microsoft to Microslop”, que sustituye todas las apariciones de la palabra “Microsoft” por “Microslop” en las páginas web. La descripción de la extensión incluye la frase “que se joda Satya Nadella”.

Muchos usuarios no están satisfechos con la estrategia de Microsoft de integrar Copilot en varios productos, especialmente en Windows 11, y creen que la empresa debería priorizar las optimizaciones en otros aspectos del sistema operativo. Dell admitió recientemente que los consumidores no muestran mucho interés por los llamados PC con IA promovidos por Microsoft.

El descontento que expresa el término “Microslop” no es un movimiento contra la IA en sí, sino contra la aparente estrategia de forzar la adopción de la IA en los productos sin ofrecer contrapartidas significativas a los usuarios.

Cuando la IA se utiliza para crear un impacto real

Mientras Grok y Microsoft se enfrentan a crisis de confianza, otros ejemplos demuestran el potencial transformador de la IA cuando se gobierna bien.

Según un informe de TNH1, Investigadores de la Unesp (Universidade Estadual Paulista) han demostrado que los brotes de Covid pueden predecirse cinco semanas antes de que empiecen, con precisión sobre su intensidad y localización. El estudio, publicado en la revista científica BMC Infectious Diseases, utilizó una técnica llamada Explainable AI, que hace que las decisiones sean comprensibles para las personas.

Según Wallace Casaca, investigador responsable: “A diferencia de la gripe, el Covid no tiene una estacionalidad predecible. Depende de la ‘competencia’ entre variantes. Entender esta ‘lucha’ entre cepas de Covid es lo que nos permite predecir el próximo brote en el contexto actual.”

La investigación demostró que incluir información genómica en los modelos de IA reducía el error en las predicciones: en Nueva York, de 32% a 7% de media, y en el Reino Unido, de unos 35% a 7%. La IA puede identificar el momento exacto en que una nueva variante empieza a expulsar a la antigua y provocar un nuevo brote de la enfermedad.

Otro ejemplo procede de Ceará. Según G1, Raul Victor Magalhães Souza, de 16 años, ganó el Premio Joven Científico 2025 con un proyecto que combina la tecnología con los conocimientos tradicionales. Inspirado por las historias que su abuelo solía contar sobre los “profetas de la lluvia” -gente del campo que utiliza la observación de la naturaleza para hacer predicciones meteorológicas-, Raul creó una plataforma que combina los análisis de la naturaleza que hacen los agricultores con la información meteorológica oficial.

El sistema, denominado Inteligencia Artificial de los Profetas de la Lluvia, se construyó utilizando tecnología de aprendizaje automático y alcanzó una precisión del 94,5% en las previsiones climáticas de Ceará. La plataforma facilita y amplía el acceso de estos sertanejos a las herramientas pluviométricas y meteorológicas, ayudando a los agricultores locales en la productividad agrícola y preparándoles con antelación para una buena cosecha.

Raúl, que está a punto de empezar tercero de secundaria, sabe lo importante que son investigaciones como la suya en la lucha contra la crisis climática. En Ceará, en 63 años (de 1961 a 2023), la temperatura ha aumentado 1,8ºC. dice: “Creo que la ciencia es un legado que nunca debe dejar de crecer. Creo que es posible transformar nuestro mundo en uno equilibrado y sostenible.”

Qué significa para los responsables de la IA

El contraste entre Itaú, Grok y Microsoft no es casual. Expone tres realidades sobre la aplicación de la IA:

• La gobernanza no es burocracia: es la diferencia entre crear valor sostenible y asumir responsabilidades legales, de reputación y éticas.
• La ausencia de límites genera crisis: Cuando la tecnología avanza sin responsabilidad institucional, el coste social es inmediato y el daño duradero.
• El verdadero impacto viene de la intencionalidad: Una IA bien gestionada puede predecir brotes de Covid, proteger a los agricultores de la sequía y acelerar las migraciones de infraestructuras críticas.

Tony Robbins, el empresario detrás de un imperio de US$ 6 mil millones, declaró recientemente en el podcast de Jay Shetty que Dominar las normas -identificarlas, utilizarlas y crearlas- es la única manera de evitar quedarse obsoleto en los próximos cinco años. Según un informe de Hardware.com.br, Robbins aboga por tres habilidades esenciales:

1. Reconocer patrones: aprender a identificar patrones históricos para reducir el miedo paralizante.
2. Dominar el uso de las normas: aplicar patrones de éxito observados en otros contextos, modelando comportamientos que ya han funcionado.
3. Crear nuevas normas: inventar sus propias normas para liderar los mercados emergentes.

La propuesta va en contra del discurso genérico de “adaptarse o morir”. Aboga por una postura basada en aprender a aprender observando lo que ha funcionado, aplicándolo con inteligencia y, finalmente, innovando.

La urgencia de la regulación y la responsabilidad de las empresas

En Brasil, la Cámara de Diputados está estudiando un proyecto de ley para regular el uso de la IA. Maria do Rosário destacó el “ECA Digital” (Ley 15.211/2025), que impone obligaciones de prevención, retirada y rendición de cuentas a las plataformas y sistemas tecnológicos por contenidos que violen los derechos de personas vulnerables. Defendió la regulación de las grandes tecnológicas en el Congreso, que actúan como grupo de presión para debilitar las disposiciones reguladoras protectoras.

señala Patricia Punder: “La tecnología es nueva, pero el delito es antiguo. Lo que ha cambiado es la capacidad de producir miles de ataques en minutos”.”

Andressa Michelotti toma nota: “La velocidad y las posibilidades de los algoritmos se extienden a velocidad de vértigo, pero la legislación no”.”

La urgencia no reside sólo en crear leyes, sino en construir una cultura de responsabilidad corporativa. Las empresas que traten la IA como una herramienta para obtener beneficios ilimitados se enfrentarán a crisis irreversibles. Las empresas que traten la IA como una palanca estratégica regida por una intencionalidad clara y principios éticos construirán ventajas competitivas duraderas.

Conclusión: La diferencia entre liderazgo y negligencia

Estas 24 horas han dejado al descubierto lo que muchos prefieren ignorar: La IA no es neutral. Amplifica la intencionalidad (o la falta de ella) de quienes la manejan.

Itaú demostró que es posible acelerar transformaciones críticas con una gobernanza sólida, generando valor medible y sostenible. Investigadores de la Unesp y jóvenes científicos como Raúl Víctor han demostrado que la IA puede salvar vidas, proteger comunidades y fortalecer culturas tradicionales.

En el otro extremo, Grok y Microsoft exponen lo que ocurre cuando la tecnología avanza sin límites: crisis legales, de reputación y éticas que destruyen la confianza pública y ponen en peligro a poblaciones vulnerables.

La cuestión no es si la IA transformará su empresa, su sector o su vida. La cuestión es: ¿estás construyendo con gobernanza o acumulando pasivos?

Si dirige una empresa, un equipo o toma decisiones estratégicas sobre tecnología, debe hacerse tres preguntas ahora mismo:

• ¿Qué barandillas ha establecido antes de dar a conocer la IA a sus equipos o clientes?
• ¿Cuál es el coste real (jurídico, reputacional, ético) de una aplicación sin responsabilidad?
• ¿Cómo está integrando la intencionalidad ética en su estrategia de IA?

La respuesta a estas preguntas define si estás dirigiendo o descuidando.

En mi trabajo con empresas y gobiernos, Ayudo a los líderes a construir estrategias de IA que equilibren la innovación con la gobernanza, acelerando las transformaciones sin acumular pasivos. Si quieres saber cómo implantar la IA de forma segura, escalable y sostenible, creando valor real en lugar de futuras crisis, ponte en contacto conmigo. En mis programas de tutoría y consultorías de inmersión, trabajamos juntos para traducir estas tensiones en decisiones estratégicas claras.

Porque la IA no espera. Y la diferencia entre el liderazgo y la negligencia radica en las decisiones que tomes ahora.