Radar de IA: Google se centra en los niños y pone en riesgo 1,4 millones de empleos: el dilema ético de las últimas 24 horas

Otro día, otra serie de acontecimientos que redibujan el horizonte de la inteligencia artificial en Brasil y en el mundo. A medida que sigo de cerca el rápido avance de estas tecnologías, me convenzo cada vez más de que estamos entrando en un territorio donde las cuestiones éticas deben ir de la mano con la innovación.

IA y niños: Google prepara el terreno para conquistar a la próxima generación

La noticia más impactante de las últimas 24 horas viene de Google, que planea lanzar una versión de Gemini, su chatbot de inteligencia artificial, para niños menores de 13 años la próxima semana. Segundo El globoLa herramienta será accesible a través del servicio Family Link y contará con controles parentales.

La estrategia es clara: conquistar a usuarios cada vez más jóvenes, ayudándoles con las tareas escolares y creando historias. ¿Pero a qué precio? Incluso con protecciones específicas, la propia empresa reconoce los riesgos de acceder a contenidos inapropiados.

Vale la pena recordar que no estamos hablando sólo de riesgos de contenido explícito, sino de algo mucho más sutil y profundo: estamos moldeando cómo la próxima generación interactuará con la tecnología, pensará y resolverá problemas. Cuando entregamos respuestas ya preparadas, ¿qué espacio queda para el desarrollo del pensamiento crítico?

El lado oscuro de los compañeros digitales

Mientras Google prepara su movimiento, surgen informes preocupantes sobre aplicaciones de inteligencia artificial que simulan compañía para jóvenes. El Correo de Brasil trae una seria advertencia: los expertos están señalando riesgos significativos de estos compañeros digitales para niños y adolescentes.

Recientemente ha salido a la luz un caso trágico: un adolescente que se suicidó después de interactuar con un chatbot. No se trata de un alarmismo lejano: es una realidad que ya está llamando a nuestras puertas.

En mis años trabajando con tecnología e innovación, he aprendido que cada nueva herramienta trae consigo no sólo beneficios, sino también responsabilidades. La pregunta que debemos hacernos no es sólo “¿podemos hacer esto?” pero “¿deberíamos hacer esto?”

El gran desafío del mercado laboral: 1,4 millones de empleos en juego

Abandonando el universo infantil y entrando en el mundo adulto, la IA continúa causando olas de impacto. EL TIEMPO trae un informe alarmante sobre el sector del telemarketing en Brasil, que emplea a cerca de 1,4 millones de personas y está entre las 15 ocupaciones con tendencia a caer más rápidamente entre 2025 y 2030.

El telemarketing es un microcosmos perfecto para observar la transformación digital en acción. Por un lado, tenemos la eficiencia y reducción de costes que promete la IA. Por otro lado, tenemos personas reales, con familias que mantener y cuentas que pagar.

No se trata de una simple cuestión de “evolución natural del mercado”. Hablamos de vidas que necesitan rediseñarse, de profesionales que necesitan reinventarse a una velocidad récord.

El caso del juez y las 969 sentencias: cuando la ética se encuentra con la eficiencia

Otro caso emblemático proviene del poder judicial de Maranhão. Según MigalhasUn juez está siendo investigado por la Inspección General de Justicia de Maranhão por un aumento anómalo en el número de condenas – de 80 a 969 – posiblemente gracias al uso de IA.

Este caso ilustra perfectamente el dilema al que nos enfrentamos: por un lado, la tecnología puede aportar una eficiencia sin precedentes; Por otra parte, plantea profundas cuestiones éticas sobre la calidad y la individualidad de las decisiones judiciales.

Paralelamente, el 27º Juzgado Federal de Río de Janeiro ordenó la suspensión de un sitio web que permite la creación de peticiones iniciales por IA para tribunales especiales, como reportado por el Consultor Jurídico. El juez destacó la violación del Estatuto del Abogado, sacando a la luz cuestiones sobre los límites de la automatización en profesiones tradicionalmente humanas.

La otra cara de la moneda: innovación y oportunidades

No todo es un desafío, por supuesto. La IA también abre las puertas a innovaciones que pueden transformar positivamente industrias enteras.

IBM apuesta por mainframes con IA para impulsar ventas

IBM está lanzando su nuevo mainframe de IA, el z17, que según un análisis del Bank of America, puede sostener un ciclo de ventas sólido para el grupo tecnológico. Disponible a partir del 18 de junio, la compañía cree que esta tecnología aumentará significativamente sus ingresos.

Es un claro ejemplo de cómo las empresas establecidas se están reinventando para la era de la IA, invirtiendo en infraestructura robusta para soportar las crecientes demandas de procesamiento.

La tecnología educativa brasileña revoluciona la educación con inteligencia artificial personalizada

En el escenario nacional, tenemos a Innyx, una edtech brasileña que lanzó Plural+, una plataforma de gestión del aprendizaje que utiliza IA para personalizar los planes de lecciones según los perfiles de los estudiantes.

Éste es un ejemplo del tipo de innovación que defiendo: una que aumenta las capacidades humanas en lugar de simplemente reemplazarlas. Los docentes siguen siendo esenciales, pero ahora pueden confiar en herramientas que les ayuden a personalizar la enseñanza de maneras que antes eran imposibles.

En mi trabajo con startups e innovación, siempre enfatizo que la verdadera disrupción no consiste en hacer que los humanos sean redundantes, sino en permitirnos hacer lo que hacemos mejor, liberados de tareas repetitivas y mecánicas.

IA en política: ¿la nueva frontera de la comunicación o un peligro para la democracia?

Las últimas 24 horas también han puesto de relieve el debate sobre el uso de la IA en las campañas políticas. El periódico Option Se debate si esto representa una innovación o un peligro para el proceso democrático.

Como si la discusión teórica no fuera suficiente, tuvimos ejemplos prácticos controvertidos: Trump publicó una foto generada por IA de él mismo vestido como el Papa, provocando indignación, según Valor Econômico. EL La Casa Blanca también entró en la polémica, publicando una imagen similar, según informó Gazeta do Povo.

Este tipo de uso de IA para crear contenido político potencialmente engañoso es exactamente el tipo de escenario que nos obliga a pensar en regulaciones y estándares éticos más claros.

El camino por delante: preparación estratégica y adaptación

El panorama que emerge es complejo y multifacético. La IA llegó para quedarse y su impacto será cada vez más profundo en todos los aspectos de nuestras vidas: desde el trabajo hasta la educación, desde la política hasta el entretenimiento.

Como he dicho en mis conferencias y sesiones de mentoría, el futuro no pertenece a quienes intentan resistirse al cambio, sino a quienes se preparan adecuadamente para él. Esto significa:

• Para profesionales: Invertir continuamente en habilidades que complementen la IA, como la creatividad, el pensamiento crítico, la inteligencia emocional y las habilidades de colaboración.
• Para empresas: Adoptar la IA estratégicamente, con el foco puesto en ampliar las capacidades humanas, no sólo en reducir costes.
• Para educadores: Repensar los planes de estudio para equilibrar la fluidez tecnológica con el desarrollo de habilidades exclusivamente humanas.
• Para los gobiernos: Desarrollar marcos regulatorios que fomenten la innovación responsable, protegiendo valores fundamentales como la privacidad, la autonomía y la equidad.

En mi trabajo de mentoría con startups y empresas que atraviesan una transformación digital, he visto que las organizaciones que prosperarán más en esta nueva era son aquellas que abordan la IA no como una solución milagrosa, sino como una herramienta poderosa que requiere un uso consciente y estratégico.

Más allá de la superficie: las preguntas que debemos hacer

Para navegar sabiamente en este nuevo territorio, necesitamos hacer preguntas más profundas:

• ¿Qué tipo de sociedad queremos construir con estas tecnologías?
• ¿Cómo garantizamos que los beneficios de la IA se distribuyan de manera justa?
• ¿Qué medidas de seguridad debemos implementar para proteger a los más vulnerables?
• ¿Cómo podemos preservar lo mejor de la experiencia humana y al mismo tiempo abrazar nuevas posibilidades?

Éstas no son preguntas que los ingenieros o los directores ejecutivos de empresas tecnológicas puedan responder solos. Se trata de cuestiones que exigen un diálogo amplio e inclusivo, que involucre múltiples perspectivas y disciplinas.

En mi trabajo con los ecosistemas de innovación, he sostenido que necesitamos más puentes entre tecnólogos, humanistas, formuladores de políticas y ciudadanos comunes. La IA es demasiado poderosa para dejarla en manos de un solo grupo.

Construyendo tu futuro en la era de la IA

Si estás leyendo este post, probablemente estés pensando en cómo posicionarte –o posicionar a tu organización– en este escenario de transformación acelerada.

En mis mentorías, he ayudado a empresarios y ejecutivos a desarrollar estrategias de IA que no solo sean técnicamente sólidas, sino también éticamente responsables y alineadas con los valores humanos fundamentales.

La buena noticia es que todavía estamos en las primeras etapas de esta revolución. Hay tiempo para actuar, aprender, experimentar y hacer ajustes. Pero ese tiempo se está agotando rápidamente.

El futuro pertenece a aquellos que no sólo entienden la tecnología, sino que tienen la visión y el coraje de usarla al servicio de propósitos mayores: crear valor económico, sí, pero también valor social, cultural y humano.

Y tú, ¿cómo te estás preparando para navegar en este nuevo mundo? Me encantaría escuchar tus perspectivas en los comentarios a continuación.