El primer tratado mundial jurídicamente vinculante sobre inteligencia artificial (IA) ya es una realidad. El acuerdo conocido como Framework Convention acaba de ser firmado por la Unión Europea, Estados Unidos, Reino Unido y seis países más. Su objetivo es garantizar que el desarrollo y uso de esta tecnología “sea plenamente compatible” con los derechos humanos, la democracia y los principios de legalidad.

 

El convenio fue elaborado por el Consejo de Europa (CDE), una organización internacional que promueve la democracia y la protección de las garantías individuales. Marija Pejčinović Burić, secretaria general de la entidad, asegura que el compromiso está diseñado para asegurar que el auge de la IA respete y no socave los estándares civiles que mantienen el equilibrio en la sociedad. “Es un texto sólido y equilibrado, fruto del enfoque abierto e inclusivo con el que se redactó. Se benefició de las perspectivas de múltiples expertos. Framework Convention es un tratado abierto con un alcance potencialmente mundial”.

 

 

¿Qué establece el primer tratado mundial sobre la IA?

 

El pacto ha sido también firmado por Andorra, Georgia, Islandia, Noruega, la República de Moldavia, San Marino e Israel. Los firmantes tendrán que ratificar el acuerdo individualmente. Cuando este proceso concluya, deberán pasar tres meses para que las disposiciones entren en vigor. A partir de ahora, cualquier otra nación interesada podrá sumarse a la iniciativa.

 

Los términos que incluye el escrito proporcionan un marco jurídico que abarca “todo el ciclo de vida de los sistemas IA” y obliga a los cosignatarios a cumplir ciertas normas de regulación y supervisión para mitigar posibles riesgos. Los preceptos fueron negociados por 46 Estados europeos y 11 países no miembros del bloque, incluidos México, Argentina, Canadá, Costa Rica, la Santa Sede, Uruguay y Perú.

 

Los países que participan en el Framework Convention se han comprometido a realizar evaluaciones “de manera iterativa” sobre las posibles amenazas que el uso de la IA puede representar para las garantías fundamentales, la democracia y el estado de derecho. Deberán establecer medidas preventivas y de mitigación al respecto, así como habilitar a las autoridades correspondientes para que “introduzcan prohibiciones o moratorias sobre determinadas aplicaciones de sistemas de inteligencia artificial”.

 

Los estatutos obligan a establecer mecanismos locales dedicados a documentar y poner a disposición del público la información más relevante sobre los sistemas de IA y su uso. Estos datos “deben ser suficientes” para que las personas puedan entender, al menos en términos generales, cómo funcionan y cómo se emplea en diferentes ámbitos sociales, políticos y de interés general. Si los usuarios consideran que las decisiones adoptadas mediante el uso de un algoritmo o “basadas sustancialmente en él” son injustas, discriminatorias o erróneas, deberán tener la posibilidad de presentar una reclamación.

 

El cumplimiento de estos mandatos estará vigilado por la Conferencia de las Partes de las Naciones Unidas. El órgano rector “facilitará la cooperación, incluso mediante audiencias públicas" para garantizar la aplicación efectiva del Framework Convention”. Regular el desarrollo y uso de sistemas de IA se ha convertido en un asunto prioritario. Gobiernos de todo el mundo están evaluando diversas propuestas legislativas al respecto. El marco regulatorio impuesto por la Unión Europea es considerado como uno de los proyectos más sólidos. Hasta ahora, estas iniciativas parecen desarrollarse de manera aislada. Expertos anticipan que bajo dichas condiciones, el éxito de los esfuerzos está comprometido.

 

En marzo, la Asamblea General de las Naciones Unidas adoptó por unanimidad la primera resolución global no vinculante sobre inteligencia artificial. La resolución tiene como objetivo fomentar la protección de datos personales, mejorar las políticas de privacidad, garantizar un seguimiento estrecho de la IA para detectar riesgos potenciales y defender los derechos humanos. Surgió de una propuesta de Estados Unidos y recibió el respaldo de Rusia, China y otros 121 países.