“Mientras trabajamos para desarrollar nuevas leyes que regulen la propia IA, es esencial que capacitemos a jueces, fiscales y funcionarios públicos para que puedan protegernos ahora de los daños relacionados con la IA”, escribe Tawfik Jelassi.

Por fin ha llegado el momento, por fin todos estamos de acuerdo: es hora de una regulación ética y basada en los derechos humanos de la inteligencia artificial.

La disrupción causada por la IA generativa ha obligado a los países y a las empresas a tomar nota.

Este año, los responsables políticos de todo el mundo de repente se dieron cuenta del daño que puede causar el uso no regulado de la IA. Además, el sector privado, que antes era reacio a regular, ahora acoge con agrado la supervisión gubernamental del uso de los sistemas de IA.

La UE y los países de América del Norte están avanzando en la definición de principios regulatorios y proponiendo leyes para abordar algunos de los desafíos más apremiantes.

Tomará un poco de tiempo

La Recomendación de la UNESCO sobre la ética de la IA, adoptada por los 193 estados miembros de la UNESCO a finales de 2021, sirve como un modelo integral y sólido para construir sistemas regulatorios basados ​​en valores y principios universalmente aceptados.

Los gobiernos de todo el mundo están considerando medidas regulatorias para abordar los riesgos asociados con el uso de la IA.

Este año, la UNESCO apoyará a 50 países en el diseño de políticas éticas de IA. Para que estas nuevas directrices se implementen eficazmente, es necesario preparar cuidadosamente el trabajo preliminar.

La UNESCO evaluará primero la resiliencia de las leyes nacionales existentes y luego las capacidades técnicas de los funcionarios e instituciones.

Chile está impulsando este proceso y en junio de 2023 presentó una nueva estrategia de IA desarrollada junto con la UNESCO. Pero se necesita tiempo para crear regulaciones e instituciones sólidas.

Los jueces pueden actuar inmediatamente

Entonces, ¿cómo podemos proteger a la persona que ha sido identificada falsamente mediante la tecnología de reconocimiento facial utilizada por la policía, o al artista que cree que su propiedad intelectual ha sido robada por desarrolladores de IA generativa?

Bueno, los jueces y fiscales juegan un papel crucial; Con sus fallos sobre casos individuales, pueden sentar poderosos precedentes legales que permitan a un país dar un salto adelante en un área particular del derecho.

Casos judiciales recientes han demostrado que el poder judicial puede confiar en las normas internacionales de derechos humanos, las garantías constitucionales y las leyes de protección de datos para protegerse contra sistemas de IA discriminatorios y sesgados.

El Instituto de Protección al Consumidor de Brasil ha cuestionado el uso de vallas publicitarias inteligentes, afirmando que predicen las emociones, la edad y el género de los usuarios del metro para ofrecerles “mejor publicidad”. Los tribunales multaron a la línea de metro por violar la privacidad de los usuarios.

La autoridad italiana de protección de datos ha multado a una aplicación de entrega de alimentos por utilizar sistemas automatizados de toma de decisiones discriminatorios contra sus repartidores y por no cumplir con los estándares adecuados de transparencia y confidencialidad. Confidencialidad.

Y en un fallo histórico, el Tribunal Europeo de Derechos Humanos dictaminó que el uso de tecnología de reconocimiento facial por parte de un Estado para localizar y arrestar a un manifestante pacífico violaba el derecho de un individuo a la privacidad y la libertad de expresión.

Para que los jueces desempeñen esta importante función de manera efectiva, debemos fortalecer su conocimiento y comprensión sobre cómo funcionan los sistemas de IA y cómo se pueden aplicar las normas internacionales de derechos humanos a la IA.

Hasta la fecha, la UNESCO ha capacitado a más de 5.400 actores de la justicia de más de 140 países sobre los beneficios, desafíos y riesgos de los sistemas de IA para apoyarlos en su papel como defensores de los derechos humanos y las libertades fundamentales.

Funcionarios: regular la IA en la vida cotidiana y desarrollar una regulación

Los gobiernos utilizan cada vez más sistemas de inteligencia artificial para mejorar la prestación de servicios públicos y así mejorar la distribución de la protección social. Sin embargo, el sesgo del algoritmo puede tener consecuencias mortales.

En Australia, el sistema “Robodebt”, utilizado para detectar fraudes en los pagos de asistencia social a los beneficiarios, negó erróneamente asistencia social a miles de personas debido a un algoritmo mal diseñado, dejando a algunos en deudas graves.

En los Países Bajos, un sistema similar contra el fraude fiscal etiquetaba incorrectamente a las personas como defraudadores.

Existe una necesidad urgente de desarrollar capacidades de IA en las instituciones públicas para garantizar el uso responsable de la inteligencia artificial en el gobierno y guiar su gobernanza.

El año pasado, la UNESCO lanzó el marco final para las habilidades y competencias que los funcionarios públicos necesitan para utilizar las tecnologías digitales. Con nuestro programa de desarrollo de capacidades, ahora estamos apoyando a los países en su camino hacia la transformación digital.

Mientras trabajamos para desarrollar nuevas leyes para regular la IA, que es un proyecto a largo plazo, es esencial que capacitemos a jueces, fiscales y funcionarios públicos para que puedan protegernos ahora de los daños asociados con la IA.