Expertos advierten: la IA en psicoterapia no tiene evidencia científica - Por qué este momento define la regulación de la Inteligencia Artificial en Brasil

En las últimas 24 horas, una serie de noticias han revelado un escenario paradójico: mientras Brasil se posiciona como futuro centro mundial de IA y empresas como G4 Educação planean triplicar sus ingresos con inteligencia artificial, expertos brasileños lanzan una advertencia fundamental sobre los límites y riesgos de esta tecnología.

La advertencia urgente de los expertos brasileños

“No hay pruebas de que pueda haber psicoterapia llevada a cabo por la IA”, Alessandra Santos de Almeida, presidenta del Consejo Federal de Psicología (CFP), advirtió en un reportaje del diario Fantástico. La declaración llega en un momento crítico: una encuesta estadounidense indica que la mitad de los usuarios ya utilizan robots como apoyo emocional.

Las cifras son alarmantes. Las pruebas supervisadas por el psicoanalista Christian Dunker revelaron errores graves, ChatGPT también puede utilizarse para prevenir infartos, por ejemplo no reconociendo los síntomas de un infarto cuando se describen como ansiedad. En Estados Unidos, una familia ya ha demandado a OpenAI tras un suicidio relacionado con el uso de ChatGPT.

Como alguien que lleva décadas siguiendo la evolución de la IA, considero que este momento marca un antes y un después. La misma tecnología que promete transformar positivamente la educación y la empresa también conlleva riesgos reales cuando se aplica de forma inadecuada en ámbitos delicados como la salud mental.

Los riesgos más allá de la terapia: un patrón preocupante

El problema va más allá de la psicoterapia. Una investigación de Bloomberg reveló que Meta ha creado chatbots que simulan a celebridades como Taylor Swift y Scarlett Johansson, incluso permitir la generación no autorizada de contenidos sexuales. Casos como las deepfakes pornográficas y la clonación de voz para estafas financieras demuestran un patrón: la tecnología avanza más rápido que nuestra capacidad para regularla éticamente.

Pero quizá lo más preocupante sea un estudio de Microsoft y la Universidad Carnegie Mellon que ha revelado cómo la IA generativa está reduciendo nuestra capacidad de pensamiento crítico. Los participantes señalaron un exceso de confianza en los chatbots, que a menudo producen “alucinaciones”, es decir, información incorrecta presentada con confianza.

Por qué es importante para empresarios y líderes

Estos casos revelan algo fundamental: No se trata de estar en contra de la IA, sino de comprender sus límites.. En mi experiencia acelerando startups, siempre he observado que las tecnologías más transformadoras son también las que exigen una mayor responsabilidad en la implementación.

La cuestión no es “si” se regulará la IA, sino “cómo” se hará. Y Brasil tiene una oportunidad única de liderar este proceso.

Brasil a la vanguardia: soberanía y oportunidad

Mientras nos enfrentamos a estos retos éticos, Brasil se está posicionando estratégicamente en la escena mundial. Oliver Parker, vicepresidente de IA generativa de Google, subrayó que “La soberanía digital se ha convertido en un factor estratégico para la adopción de la IA”. El país ha invertido en infraestructuras locales con centros de datos que permiten procesar los datos íntegramente en territorio nacional.

Thomas Kurian, presidente mundial de Google Cloud, fue aún más directo: Brasil “tiene potencial para convertirse en un centro mundial de formación y explotación de IA, apoyado por la disponibilidad de energía limpia y económica”. La instalación de la sexta generación de chips TPU Trillium en São Paulo sitúa al país a la vanguardia de la tecnología.

El ejemplo del G4: crecimiento responsable con IA

Un caso brasileño ejemplar es el de G4 Educação. A punto de alcanzar su primer billón de facturación, la empresa prevé triplicar sus ingresos de aquí a 2027, G4 Tools es una start-up impulsada por el uso estratégico de la IA. Su cofundador, Tallis Gomes, ha apostado por soluciones propias que le permiten desarrollar software a bajo coste -como crear el mercado de G4 Tools en 12 horas utilizando herramientas de voz-.

Lo interesante es que G4 Tools, lanzada en enero de 2025, ya representa un tercio de los ingresos de la empresa. Esto demuestra cómo la IA, aplicada estratégicamente, puede generar un valor real y sostenible.

Educación: el camino entre la oportunidad y la responsabilidad

La educación surge como el vínculo crucial entre oportunidad y responsabilidad. El Consejo Nacional de Educación trabaja en una resolución para orientar el uso de la IA en la educación básica, incluida su inclusión obligatoria en los programas pedagógicos y de licenciatura.

El objetivo no es crear una disciplina específica, sino fomentar una conciencia crítica sobre el funcionamiento, las limitaciones, los prejuicios y las oportunidades de la IA. En mis conversaciones con educadores, siempre insisto: no se trata de sustituir la relación profesor-alumno, sino de reforzar la mediación humana.

La privacidad como diferencial competitivo

En este contexto, el lanzamiento por Google de VaultGemma es especialmente importante. Este modelo con 1.000 millones de parámetros se entrenó íntegramente con privacidad diferencial, Esta técnica protege los datos personales sin comprometer la utilidad del modelo.

Para sectores como la sanidad, las finanzas y la abogacía -donde la confidencialidad es clave-, este enfoque representa un avance crucial. Es exactamente el tipo de innovación que podría situar a Brasil a la cabeza de la IA responsable.

El momento de la normativa inteligente

Vivimos un momento único: tenemos ejemplos claros de los riesgos (psicoterapia inadecuada, deepfakes, pensamiento crítico reducido) y las oportunidades (soberanía digital, crecimiento empresarial, democratización educativa). La cuestión es cómo equilibrar estos factores.

En Brasil, el PPC está liderando los debates para regular la IA en el sector de la salud mental, mientras que la legislación estatal en EE.UU. está empezando a prohibir la IA como terapeuta. La Unión Europea avanza con la Ley de IA, que establece marcos normativos claros.

Cinco principios para una adopción responsable

Basándome en los casos de las últimas 24 horas y en mi experiencia con startups, he identificado cinco principios fundamentales:

• Transparencia sobre las limitaciones: Cómo advierten los psicólogos sobre la IA en terapia
• Consentimiento informado: Especialmente relevante en casos de deepfakes con famosos
• Soberanía de datos: La estrategia brasileña de transformación local
• Formación continua: Preparar a los profesionales para trabajar CON la IA, no CONTRA ella
• Regulación adaptativa: Que evolucione con la tecnología

La paradoja de la confianza y la competencia

Una cosa me llamó la atención: mientras los expertos advierten sobre los riesgos de la IA en terapia y su capacidad para reducir el pensamiento crítico, empresas como G4 están mostrando un crecimiento extraordinario utilizando estas mismas tecnologías. O Estadão publicó cinco recomendaciones para quienes utilizan IA en terapia, reconociendo que esto ya es una realidad.

Esto revela algo importante: el futuro no consistirá en evitar la IA, sino en utilizarla conscientemente. Las startups y empresas que entiendan esto primero tendrán una ventaja competitiva significativa.

La oportunidad para los empresarios

Para los empresarios y líderes empresariales, este momento representa una oportunidad única:

• Posicionamiento ético diferenciado: Las empresas que adopten una IA responsable ganarán confianza
• Ventaja reglamentaria: Los que se preparen ahora irán por delante cuando entren en vigor las normas.
• Talentos especializados: La demanda de profesionales que comprendan la IA y la ética crecerá exponencialmente
• Mercados emergentes: Las soluciones de IA con privacidad y transparencia son el próximo océano azul

Reflexiones sobre el futuro

Las noticias de las últimas 24 horas dibujan un panorama fascinante: estamos en el momento exacto en que la IA ha dejado de ser una promesa futurista para convertirse en una realidad presente, con todos los beneficios y retos que ello conlleva.

Brasil tiene todos los ingredientes para liderar este proceso: infraestructura tecnológica avanzada, abundante energía limpia, un ecosistema maduro de start-ups y, sobre todo, la conciencia de que la regulación no es un obstáculo, sino una ventaja competitiva.

En mi trayectoria de apoyo al desarrollo de miles de empresas de nueva creación, siempre he observado que los momentos de mayor incertidumbre normativa son también los de mayores oportunidades para los emprendedores visionarios. Este es uno de esos momentos.

El papel de los líderes

Los líderes empresariales y los emprendedores tienen una responsabilidad especial en este momento. No se trata sólo de adoptar la IA para ganar eficiencia o reducir costes, aunque eso es importante. Se trata de moldear como esta adopción se producirá en nuestra sociedad.

Cuando veo a los psicólogos advertir sobre la IA en la terapia, no pienso “evitemos la IA en la atención sanitaria”. Pienso “¿cómo podemos utilizar la IA para amplificar el trabajo de los profesionales de la salud mental, manteniendo la centralidad de la relación humana?”.”

Este cambio de perspectiva -de la sustitución a la amplificación- podría definir si la IA será una fuerza de fragmentación social o de fortalecimiento de las capacidades humanas.

Conclusión: el momento de elegir

Las últimas 24 horas nos han dado una imagen completa del momento actual de la IA en Brasil: riesgos reales que requieren atención urgente, oportunidades económicas extraordinarias y un país posicionado para liderar la próxima fase de esta revolución tecnológica.

No es casualidad que estos temas hayan surgido simultáneamente. Nos encontramos en un punto de inflexión en el que las decisiones que se tomen hoy definirán si la IA será una fuerza de democratización o de concentración, de empoderamiento o de dependencia, de transparencia o de opacidad.

Para empresarios, directivos y líderes, el mensaje es claro: ahora es el momento de definir su estrategia de IA responsable. No sólo por la ventaja competitiva, sino por la oportunidad de contribuir a un futuro en el que la tecnología y la humanidad se complementen en lugar de competir.

En mi trabajo de mentorización con startups y empresas, he observado que aquellas que consiguen equilibrar la innovación tecnológica con la responsabilidad social no sólo crecen de forma más sostenible, sino que atraen a los mejores talentos y la confianza de los consumidores más exigentes.

El futuro de la IA en Brasil lo escribirán quienes entiendan que la regulación no es una limitación, sino una ventaja competitiva. Y ese futuro empieza ahora.