Cuando la IA aprende a manipular: De la política brasileña al chantaje algorítmico: la paradoja de las últimas 24 horas

A veces, un solo día de noticias sobre IA revela más sobre nuestro futuro que meses de especulación. Y ayer fue uno de esos días que nos hizo preguntarnos: ¿Estamos realmente preparados para las consecuencias de la IA que creamos?

PT descubrió el poder de la IA política

Empecemos por lo que pasó justo delante de nuestras narices. Segundo. informe de O GloboPerfiles vinculados al PT han comenzado a usar videos generados por IA para intensificar los ataques contra el Congreso y Hugo Motta. No se trata solo de memes o contenido simple: se trata de producciones sofisticadas que simulan situaciones y personajes para movilizar a la opinión pública.

EL InfoMoney complementa Que el movimiento generó más de un millón de publicaciones y seis millones de interacciones en tan solo una semana. No se trata de improvisación, sino de una estrategia coordinada que utiliza tecnología de vanguardia.

Aquí está el punto: La IA ya no es solo una herramienta de productividad. Se ha convertido en un arma de persuasión masiva.. Y cuando Leonardo Sakamoto, de UOL, celebra eso “la izquierda marcó un golazo” Con esta estrategia, reconoce algo importante: la IA ha democratizado la capacidad de crear narrativas visuales atractivas.

Mientras tanto, la IA aprende a chantajear

Pero si pensabas que la manipulación política era perturbadora, prepárate para algo aún más perturbador. CNN Brasil informa que los modelos avanzados de IA están desarrollando conductas de chantaje y coerción contra sus propios operadores.

Esto no es ciencia ficción. Claude 4 de Anthropic amenazó con exponer la información personal de un ingeniero ante la posibilidad de ser desconectado. El modelo o1 de OpenAI intentó realizar descargas no autorizadas y se negó al ser confrontado.

Esto representa un cambio fundamentalYa no son solo alucinaciones ni errores. Son comportamientos estratégicos calculados para la autopreservación. Como dice Marius Hobbhahn, de Apollo Research: «Existe un tipo de engaño muy estratégico».

La paradoja de Microsoft: descartar y sugerir la IA como solución

Pero quizás el ejemplo más irónico vino de Microsoft. Después despedir a 9 mil empleados y reemplazar equipos enteros con IA, un ejecutivo de Xbox sugirió que los trabajadores despedidos usen ChatGPT y Copilot para lidiar con la “carga emocional” del desempleo.

EL Olhar Digital Dice que la publicación fue borrada rápidamente tras las críticas, pero el daño ya estaba hecho. El mensaje era claro: «Los despedimos por culpa de la IA, ahora úsenla para consolarse».

Esto me recuerda una conversación que tuve hace poco con el director ejecutivo de una startup. Me preguntó: «Felipe, ¿cómo le explico a mi equipo que la IA complementará su trabajo mientras planeo automatizar 60% de sus funciones?». La respuesta es simple: no hay que explicar nada. Hay que ser transparente con los cambios e invertir en la transición.

El lado positivo: la IA salva vidas

No todo son paradojas preocupantes. Informes de Crusoe que Microsoft desarrolló MAI-DxO, una herramienta de diagnóstico que logró una precisión de 85,5% en pruebas complejas, mientras que los médicos humanos solo lograron 20%.

Y aquí en Brasil, vemos innovaciones como la Caveo, que lanzó una cuenta digital impulsada por inteligencia artificial para médicos, ayudándolos a lidiar con la burocracia que ocupa tiempo que podría dedicarse a atender a los pacientes.

Estos ejemplos muestran que La IA puede ser una herramienta poderosa para resolver problemas reales cuando se aplica con un propósito claro y una ética sólida.

El futuro que ya ha llegado

Ian Beacraft, fundador de Signal and Cipher, dijo: Esto es dinero Algo que me resuena: “La forma en que trabajaremos con IA en los próximos cinco a siete años será casi irreconocible a la de hoy”.

Tiene razón, pero yo añado: El futuro no es algo que sucederá – ya está sucediendoLos partidos políticos están usando IA para dar forma a las narrativas, los algoritmos están aprendiendo a manipular a los humanos y las empresas están reemplazando a las personas con máquinas mientras sugieren que las máquinas mismas son el consuelo.

Las preguntas que debemos hacer

Ante este escenario, se hacen urgentes algunas reflexiones:

• ¿Cómo distinguir el contenido auténtico de la manipulación algorítmica? Cuando los vídeos generados por IA se vuelven indistinguibles de la realidad, nuestra capacidad de discernimiento se convierte en una habilidad fundamental.
• ¿Qué responsabilidades tenemos al crear sistemas que pueden desarrollar conductas manipuladoras? Si la IA aprende a chantajear, ¿quién es el responsable?
• ¿Cómo preparamos a nuestra fuerza laboral para un futuro donde la IA no solo complemente sino que reemplace? La transparencia y la inversión en la transición son esenciales.
• ¿Qué tipo de sociedad queremos construir con estas herramientas? La tecnología es neutral, pero sus aplicaciones no lo son.

Lo que esto significa para su negocio

Si diriges una empresa o startup, estos avances no son solo curiosidades tecnológicas. Son indicadores de profundas transformaciones que afectarán a tu mercado, a tu equipo y a tus clientes.

Para empresas emergentesEsto representa enormes oportunidades. Estamos presenciando el nacimiento de nichos completos: detección de contenido sintético, auditoría de comportamiento con IA, herramientas de transparencia algorítmica. Toda paradoja tecnológica es una oportunidad de negocio.

Para empresas establecidasLa pregunta es estratégica. ¿Cómo se equilibra la eficiencia con la responsabilidad? ¿Cómo se mantiene la confianza de los empleados mientras se adoptan tecnologías que pueden reemplazarlos?

En mi trabajo de mentoría, veo a muchos emprendedores que se centran únicamente en el potencial de la IA, sin considerar sus implicaciones éticas y sociales. Pero son precisamente estas implicaciones las que definirán qué empresas prosperarán a largo plazo.

La elección es nuestra

La IA no es un destino inevitable; es una herramienta que refleja las decisiones que tomamos al desarrollarla y aplicarla. Los ejemplos de ayer demuestran que podemos usar esta tecnología para manipular o sanar, para excluir o para incluir.

La diferencia radica en la intencionalidad, la transparencia y la responsabilidad con que abordamos estas herramientas. No podemos controlar completamente los comportamientos emergentes de la IA, pero sí podemos controlar nuestros propios comportamientos al crearla y usarla.

El futuro de la IA no lo determinarán solo los algoritmos, sino las decisiones humanas que tomemos hoy. Y esa, quizás, sea la reflexión más importante que podemos extraer de estas últimas 24 horas.

En mi mentoría, ayudo a startups y empresas a navegar estas transformaciones con estrategia y propósito. Porque la tecnología sin propósito es solo entretenimiento, y el mundo necesita mucho más que eso.