Proyecto de ley 181.

La inteligencia artificial (lA) es una tecnología computacional basada en sistemas inteligentes, lenguajes de máquina ("machine learning") o aprendizaje profundo ("deep leaming"), similares a los empleados por la mente humana, con una muy alta capacidad de procesamiento, aprendizaje, precisión y habilidades cognitivas que permiten resolver problemas, crear contenido y tomar decisiones por su propia cuenta, incluso en situaciones muy complejas, superando las capacidades del ser humano. La lA está cambiando la forma en que interactuamos las personas con las computadoras, y su impacto se extiende a todos los ámbitos de la vida, incluyendo la economía, el empleo, la movilidad, la salud y la educación, entre muchos otros, ya sea en el sector privado o público. Si bien la lA puede mejorar la eficiencia, la productividad y la calidad de vida a través de sus algoritmos, alta capacidad computacional y redes de información, también tiene el potencial de brindar información errónea o malintencionada, así como tomar decisiones sesgadas y no éticas, con efectos sobre las personas.

Es cierto que el funcionamiento interno de la lA, en general, sigue siendo en gran parte algo desconocido, además de tratarse de una tecnología emergente, especialmente debido a su conectividad con otras redes o capas, conocidas como neuronales, en las que se puede perder el control y se convierte en un mecanismo totalmente autónomo. Los algoritmos de lA han demostrado su potente capacidad para aprender de manera autónoma a través de datos y patrones, produciendo resultados impresionantes en una variedad de tareas en distintos campos; no obstante, los detalles de cómo se toman las decisiones y se generan los resultados siguen siendo dificiles de comprender.

Como motivos para abordar la lA con una ley marco, frente a los acelerados e innovadores avances que se están dando en estas tecnologías, podemos mencionar la importancia de desarrollar un ecosistema tecnológico en beneficio de la sociedad y su desarrollo, y para que el usuario de las plataformas conozca de manera expresa la lógica de sus aplicaciones, los fundamentos de sus algoritmos y las fuentes de información que le permitan ponderar sus resultados para su uso y la toma de decisiones personales, mitigando, mediante un sistema de clasificación de riesgos, los perjuicios que puedan surgir con la penetración de estas tecnologías.

Así como la lA, aún en su infancia, presenta un sinnúmero de beneficios comprobados, también se están evidenciando casos en los que se ha demostrado que la lA puede presentar errores, riesgos y peligros para la sociedad. Por ejemplo, aquellos casos en que, a través del uso de variadas técnicas y aplicaciones de lA, se producen o modifican imágenes, textos y audios que son reproducidos con fines malintencionados en las redes sociales, entre otros, para difundir información falsa, conocidos como "fake news", que son dañinos y perjudiciales para la sociedad, especialmente cuando se trata de la suplantación de identidad, el chantaje, la incidencia en procesos electorales o la gestión de alguna crisis. Estos pueden tener graves consecuencias para la privacidad y la seguridad de las personas. Por lo tanto, es importante que Panamá adopte principios y regulaciones adecuadas para evitar que las plataformas basadas en tecnología de lA, con algoritmos supervisados o no supervisados, se utilicen para producir acciones o difundir información que sea perjudicial y discriminatoria para la sociedad en su conjunto.

Otro peligro es el uso de la lA en aplicaciones como drones autónomos y sistemas de reconocimiento facial, vigilancia o seguridad inteligente. Si estos sistemas están mal diseñados o se utilizan de manera inadecuada, pueden causar daño y sufrimiento innecesario a la población civil. Además, la lA puede ser utilizada para la vigilancia masiva y el monitoreo de la población, lo que podría erosionar las libertades civiles e invadir el derecho a la privacidad de las personas. La lA también será utilizada para tomar decisiones importantes en áreas como la consulta y atención médica, así como en la justicia, lo que podría resultar en discriminación, sesgos y errores que deben ser regulados por la autoridad competente.

Las lA que conducen vehículos, conocidos como vehículos autónomos, se basan en algoritmos de aprendizaje automático para tomar decisiones en tiempo real en la carretera, pero dependen de un necesario ecosistema de infraestructura, telecomunicaciones y reglas de movilidad. Estos algoritmos están diseñados para interpretar la información que recogen los sensores del vehículo y tomar decisiones en función de los datos recopilados. Sin embargo, estos algoritmos no siempre pueden anticipar todos los posibles escenarios en la carretera, incluso en óptimas condiciones del entorno en que se opera. Esto puede llevar a situaciones peligrosas, como colisiones con otros vehículos o peatones. Además, como la lA no tiene la misma capacidad que los conductores humanos para tomar decisiones éticas en situaciones críticas, como elegir entre impactar a un peatón o a un objeto, podría tomar decisiones inapropiadas que resultan en accidentes fatales, para lo cual habría que deslindar responsabilidades. En este caso, le corresponde a la autoridad competente en materia de tránsito regular integralmente esta materia.

La tecnología de lA continúa evolucionando de manera exponencial y muy disruptiva, incorporándose en múltiples ámbitos e integrándose en dispositivos de todo tipo, incluyendo su rápida adopción en empresas para la asistencia en sus procesos de toma de decisiones y de atención a clientes o segmentos de mercado, así como lo están haciendo los ciudadanos para sus estudios y consultas.

En cuanto a la tecnología, existen dos tipos de algoritmos de aprendizaje para la lA: los supervisados y los no supervisados. Los algoritmos supervisados se alimentan de grandes conjuntos de datos etiquetados, donde cada dato viene con una etiqueta que indica qué salida se espera para esa entrada en particular. En el caso de los algoritmos no supervisados, el modelo se alimenta con datos sin etiquetar y debe aprender a encontrar patrones y estructuras por sí mismo. Esto puede ayudar a identificar características importantes de los datos que no son evidentes a simple vista.

Tanto los humanos como las aplicaciones de lA pueden aprender por ensayo y error, aunque el proceso es diferente. En el caso de los humanos, este tipo de aprendizaje se conoce como aprendizaje por experiencia, y se basa en la capacidad de los individuos para reconocer patrones y adaptar su comportamiento en función de los resultados de sus acciones previas. Tanto los humanos como las aplicaciones de lA utilizan una estructura similar a la de las neuronas del cerebro para procesar información, aprender y tomar decisiones ponderadas según las reglas establecidas. En el caso de la lA, las neuronas son simuladas a través de modelos matemáticos que se ejecutan en procesadores muy potentes, los cuales a su vez consumen mucha energía.

Las tecnologías basadas en lenguaje natural son muy versátiles y pueden ser utilizadas para expresar una amplia gama de ideas y emociones. El procesamiento del lenguaje natural es una rama de la lA que se enfoca en la comprensión y generación de lenguaje humano por parte de las máquinas. Esta disciplina ha evolucionado significativamente, haciendo que su producto sea casi indistinguible del de un humano, según los distintos niveles de resultados deseados, que pueden ir desde un escrito o traducción con el mínimo de errores, con un lenguaje básico y el uso de jerga, hasta el más experimentado y refinado.

En el caso particular de las aplicaciones Chat-GPT, Bing o Copilot, para mencionar las más populares, estas se fundamentan en una tecnología de procesamiento de lenguaje natural que se está desarrollando a un ritmo vertiginoso con capacidad de producir a manera de ejemplo escritos, como la redacción de contratos y documentos legales complejos de manera más rápida y eficiente que los abogados; realizar tareas contables y financieras mejor que los contadores o financistas; crear contenido de obras literarias o musicales; o generar diseños artísticos a solicitud de los usuarios para fines propios o comerciales, entre otras soluciones disponibles según la demanda.

La lA tiene el potencial de mejorar significativamente la calidad de vida de las personas en muchas áreas, desde la atención médica, la educación, la facilitación del trabajo y la recreación hasta la seguridad y la sostenibilidad ambiental. Sin embargo, como cualquier otra tecnología, también puede ser utilizada para causar daño y de manera descontrolada a través del uso de sus redes neuronales sobre las cuales se puede perder el control. Es importante abordar estos problemas y garantizar que la implementación de la tecnología de lA se haga de manera segura y equitativa.

Existen legítimas preocupaciones sobre cómo la lA podría tener efectos adversos en el futuro si no se regula adecuadamente acorde a riesgos. Por ejemplo, si se permite que las empresas utilicen la lA para tomar decisiones importantes sin supervisión humana adecuada, esto podría llevar a decisiones sesgadas o discriminatorias que afecten negativamente a ciertos segmentos de personas; en la conducción de vehículos autónomos, que se tengan accidentes; o en temas médicos se tomen decisiones equivocadas o discriminatorias.

Los "chat bots" (robots incorporados al chat) y el "ChatGPT"

(tecnología Generative Pre-trained Transformer incorporada al chat) basada en lA generativa, son aplicaciones impulsadas por la lA, que también sirven de ejemplo de cómo esta tecnología puede ser empleada para reemplazar a trabajadores a gran escala en ciertas tareas que por ahora son repetitivas, pero que en un futuro, con la capacidad de generación de conocimiento y de aprendizaje de la lA, atenderá tareas más únicas, sofisticadas y muy complejas para los humanos resolver. Estas aplicaciones son capaces de generar resultados como lo serían texto, imágenes o sonidos coherentes, precisos y relevantes en respuesta a una pregunta o un estímulo dado, lo que podría desplazar a trabajadores en áreas como el servicio al cliente, el soporte técnico, la seguridad y la salud.

En conclusión, la regulación de la Inteligencia Artificial es fundamental para garantizar que los sistemas y tecnologías de lA sean utilizados de manera confiable, segura y ética en beneficio de la sociedad en general y de las personas. Sin una regulación apropiada, la lA puede ser peligrosa y dañina en muchos aspectos como los ya observados de desplazamiento de trabajadores, crear videos falsos, llamadas y audios falsos, y utilización de una gran cantidad de datos personales que pueden ser procesados sin consentimiento. Además, las lA mal entrenadas pueden incluso causar daños físicos o psicológicos a las personas.

Al regular la lA, se pueden establecer normas éticas y legales para asegurar que la lA sea desarrollada, utilizada y mantenida de manera responsable. A través de una ley marco como la que se propone sobre la lA, a las autoridades competentes en cada materia le correspondería establecer regulaciones, cónsonas con otras leyes y disposiciones existentes, para proteger la salud, los datos de carácter personal e información sensible, la propiedad intelectual, evitar la discriminación y el sesgo, la intimidad y la violación de otros derechos ciudadanos, así como la apertura de conjuntos de datos gubernamentales que puedan ser accedidos con las debidas seguridades por las aplicaciones de lA, tanto por funcionarios como por ciudadanos y empresas, como fuente de información veraz para su procesamiento.

Asimismo, proponemos con esta Ley marco el que se establezcan mecanismos e incentivos para el desarrollo del ecosistema tecnológico y las competencias necesarias en lA para que sea utilizada en mejorar la calidad de vida de las personas y de la economía en general, lo cual sería abordado a través de una Agenda Nacional de Inteligencia Artificial como las que han estado adoptando los países a nivel global y en la región. Por lo tanto, es necesario que las entidades gubernamentales y las empresas trabajen juntos para establecer el entorno propicio para el fomento, desarrollo, regulación y uso responsable de soluciones de lA.

Siendo conscientes de que Panamá no es un país líder en esta tecnología, sino que la adoptamos acorde a nuestras necesidades, pudiendo eventualmente al dar apoyo a la academia y con los incentivos apropiados para la industria convertirnos en un proveedor regional o global de soluciones basadas en lA, y por lo incipiente que es aún la lA, proponemos la creación de una Comisión de Alto Nivel con funciones de prospectiva, observación, orientación, desarrollo, definición de políticas públicas, fomento y regulación general en esta materia, que esté integrada por autoridades representantes de los tres órganos del Estado, el sector productivo y la academia, cuyo objetivo sea el de estimular en Panamá dentro del marco de esta Ley el uso correcto de la lA, el desarrollo de aplicaciones con el fin de aportar al bienestar ciudadano y el establecimiento de medidas legales que protejan a: los derechos ciudadanos, laborales y de empresas que puedan ser vulnerados mediante el uso de aplicaciones de lA.

El proyecto de ley ha sido redactado tomando en cuenta leyes de otros países, referencia a los principios y derechos señalados en la ley modelo propuesta por el Parlamento Latinoamericano y Caribeño (PARLATINO), y desarrollada de manera agnóstica permitiendo, como 10 fue el caso de la Ley 51 denominada de Comercio Electrónico de 2008, el que tenga una extensa vigencia ante la rápida evolución de estas tecnologías con aplicaciones cambiantes que son difíciles de predecir hacia futuro.

Se reconoce que, aunque la lA tiene el potencial de mejorar la calidad de vida, eficiencia y la productividad en los distintos ámbitos y profesiones, incluyendo aplicaciones gubernamentales, no debe hacerlo a expensas de los derechos ciudadanos y de los usuarios de los sistemas, de los trabajadores y de la ciudadanía en general. Es por ello que la presente Ley marco busca garantizar que el avance tecnológico sea compatible con el bienestar humano y la justicia social.

Por los motivos expuestos presentamos ante esta augusta cámara la presente iniciativa de Ley, y amparados en el artículo 108 del Reglamento Orgánico del Régimen Interno de la Asamblea Nacional para que esta iniciativa ciudadana se pueda convertir en Ley de la República.

Diputado de la República Circuito 13-1