Por qué la regulación de la IA podría acabar con las startups en Brasil

La regulación de la inteligencia artificial (IA) ha ganado prominencia global, y los países buscan establecer pautas claras para el desarrollo y aplicación de esta tecnología. En Brasil, esta discusión avanza con la tramitación del Proyecto de Ley nº 21/2020 en el Senado Federal. Como emprendedor tecnológico y especialista en startups, sigo de cerca estos debates, reconociendo la importancia de una regulación que promueva la innovación sin imponer barreras excesivas al desarrollo tecnológico.

El citado proyecto de ley tiene como objetivo establecer fundamentos, principios y lineamientos para la IA en el país. Si bien la iniciativa busca crear un marco regulatorio, es crucial analizar cómo sus disposiciones específicas pueden impactar el ecosistema de startups y la innovación tecnológica en Brasil.

Puntos Específicos del PL 21/2020 y sus Impactos:

• Fundamentos y principios:
  • El PL establece principios como el centrado en lo humano, la no discriminación, la transparencia y la explicabilidad. Aunque fundamental, la falta de claridad sobre su aplicación práctica puede generar incertidumbre para desarrolladores y emprendedores.
• Definiciones amplias de agentes de IA:
  • El proyecto de ley define a los “agentes de IA” como aquellos involucrados en el desarrollo y operación de sistemas de IA, sin especificar claramente las responsabilidades de cada parte. Esta generalización puede generar inseguridad jurídica, especialmente para las startups que colaboran con terceros para desarrollar soluciones de IA.
• Definición poco clara de “alto riesgo”:
  • El PL menciona la necesidad de medidas de gobernanza para los sistemas de IA clasificados como de “alto riesgo”. Sin embargo, no especifica claramente los criterios que determinan esta clasificación, generando incertidumbre a los desarrolladores y empresarios al intentar identificar las obligaciones regulatorias aplicables a sus sistemas.
• Requisitos de auditoría y mapeo de datos:
  • Para los sistemas de IA, especialmente aquellos con alto riesgo, el proyecto sugiere realizar análisis de impacto y mapear los riesgos asociados con los usos esperados del sistema, así como las posibles formas de mal uso. Además, propone la gobernanza de los datos utilizados para la capacitación, prueba y validación del sistema, así como el control y auditoría continuos. Estos requisitos pueden resultar inviables para las empresas emergentes debido a los costos y recursos necesarios para implementar procesos complejos de cumplimiento, documentación y auditoría. En algunos casos, dependiendo de la arquitectura del modelo de IA, puede resultar técnicamente imposible mapear en detalle todos los datos utilizados, especialmente cuando se utilizan modelos de aprendizaje profundo que funcionan como “cajas negras”.
• Informe de Impacto de la Inteligencia Artificial (RIIA):
  • De manera similar al Informe de Impacto de la Protección de Datos Personales de la LGPD, el PL propone que la RIIA documente el ciclo de vida de los sistemas de IA y las medidas de mitigación de riesgos. Preparar este informe puede resultar costoso y complejo para empresas emergentes con recursos limitados.
• Sanciones y Penalidades:
  • El proyecto prevé sanciones que van desde advertencias hasta multas importantes y la suspensión de actividades relacionadas con el sistema de IA en caso de incumplimiento. Para las empresas emergentes, estas sanciones pueden ser desproporcionadas y amenazar la viabilidad del negocio.
• Indicación de Normas Adicionales:
  • El texto del PL indica que aún es necesario crear regulaciones adicionales para detallar ciertos aspectos. Esta necesidad de regulaciones futuras crea incertidumbre para las empresas emergentes y los desarrolladores, quienes pueden enfrentar dificultades en la planificación y el desarrollo de sus sistemas de IA sin pautas claras y establecidas.

Implicaciones para las empresas emergentes y la innovación:

La falta de claridad y detalle sobre puntos cruciales del PL 21/2020 podría dar lugar a un entorno regulatorio incierto, desalentando a las startups y las innovaciones en el sector de la IA. Las empresas emergentes pueden enfrentar desafíos para interpretar y cumplir principios vagos, así como lidiar con posibles responsabilidades legales mal definidas. Para que la regulación de la IA en Brasil sea efectiva y promueva la innovación, es fundamental que el proyecto se mejore con directrices claras y aplicables, elaboradas en diálogo con el ecosistema tecnológico y la sociedad civil.