Cambios civilizacionales, peligros existenciales y pérdidas irreparables: el acuerdo europeo sobre inteligencia artificial

• A Europa (Te) le importa / 3 Hacia Europa 3.0: los retos de la década digital

El proceso de toma de decisiones en la Unión Europea es lento, complicado, lleno de pasos, directrices, reuniones y desvíos, pero en general siempre es muy similar. Puede que lleve más o menos tiempo, puede que sea más o menos difícil, pero la lógica se repite constantemente. Casi siempre. El pasado viernes 8 de diciembre, al filo de la medianoche, los negociadores de la Presidencia española del Consejo de la UE y el Parlamento Europeo alcanzaron un acuerdo para la realización de la primera Ley de Inteligencia Artificial del planeta., lo que debería servir para regular en los próximos años tanto tecnologías como GPT Chat como el uso de sistemas de identificación biométrica remota y en tiempo real como el reconocimiento facial. El pacto fue entre actores comunes y corrientes, en la sala ordinaria, pero en todo ese proceso, en aquellos días de aislamiento hasta batir el récord de duración de la UE, apenas hubo nada ordinario.

La escalera dice que la Comisión Europea hace una propuesta legislativa y luego el Consejo (gobiernos nacionales), por un lado, y luego la Cámara Europea, por el otro, establecen sus posiciones, antes de iniciar negociaciones junto con la Comisión Europea (registros). para cerrar textos de compromiso. Sin embargo, cuando OpenAI lanzó Chat GPT al mercado a finales de noviembre de 2022, se produjo un cambio global tal que no cambió por completo las reglas, sino el campo de juego. Bruselas había comenzado hace tiempo a regular la inteligencia artificial, pero se ha retrasado, languideciendo. La importancia de la tecnología crecía, pero no parecía urgente. Hasta ese día.

En cuestión de semanas, el planeta se volvió loco. Sólo se podía hablar de IA, de los modelos básicos, de ChatGPT, de las enormes posibilidades, de lo increíble que era capaz de hacer, de su sencillo manejo. Pero también los riesgos, los peligros, el miedo a un fin apocalíptico del mundo provocado por máquinas con conciencia propia capaces de prescindir de los humanos. Y lo que era secundario pasó a ser prioridad absoluta, especialmente para la Unión Europea, ansiosa por contar con el primer corpus de regulación del planeta.

Esa repentina oleada cambió el curso normal. La pelota quedó entonces en la Eurocámara, que logró un protagonismo insólito en aquella fase. Había llegado el momento de reescribir de repente todo el libro de reglas, porque se habían vuelto obsoletos, irrelevantes. Así que se pusieron manos a la obra y hablaron con expertos de todo el planeta. Teóricos, docentes, empresas, pero también sociedad civil, ONG, activistas y organizaciones que advierten del riesgo de dar vía libre a una empresa o a un Estado frente a un instrumento cuyo poder apenas podemos vislumbrar hoy.

Este poder hizo que las negociaciones de los trologs se volvieran anormalmente ruidosas. En su quinta y última sesión, diputados, diplomáticos y técnicos Pasaron 24 horas en una habitación sin salir ni dormir. Pararon por las normas laborales de las instituciones y retomaron otras 16 horas sin interrupción. Pero más que la duración histórica, lo que llamó la atención fue la presión. Por un lado, el sector tecnológico ha advertido, advertido, que cualquier regulación estricta tendría consecuencias devastadoras. Que Europa quedará relegada, relegada, abandonada. Que todas las empresas se irían a Asia o América y los europeos estaríamos en una lucha desigual, como si fuera palos y piedras contra aviones de combate en la guerra. No es lo mismo legislar cuando ambos bandos hablan en términos de cambios civilizacionales, peligros existenciales o pérdidas irreparables.

Por otro lado, asociaciones y activistas de derechos. Movilizados como nunca, con lenguaje superlativo, advirtiendo de la adopción de un racismo tecnológico institucionalizado, una pérdida de libertades como nunca antes en la historia. Acusando a los diputados de haberse rendido, capitulado, de vender a los ciudadanos a cualquier rumor sobre la posibilidad de que acepten cruzar las líneas rojas. El consejo, encabezado por los españoles Carmen Artigasquien esta semana anunció que dejaría el cargo de secretario de Estado y regresaría al sector privado, abogó por regulaciones más flexibles.

Aún más sorprendente fue que, en un proceso casi sin precedentes, los mismos países que antes y con más fuerza habían pedido que se regulara algo que no entendían del todo se habían convertido de repente en partidarios feria lassez posible. Berlín, París y Roma pidieron a la Presidencia española que eliminara todo lo que pudiera de la lista de usos prohibidos de la tecnología y pasara del Artículo 5 (de difícil acceso) al Anexo 3 (más fácil de cambiar y mover). El Parlamento, por el contrario, quería lo contrario. Y logró una prominencia inusual y, aparentemente, una victoria, especialmente en temas tan poderosos y controvertidos.

“Es el mejor acuerdo al que pudimos llegar. Creemos que está mucho más cerca de las posiciones del Parlamento que de las del Consejo, especialmente en los temas más importantes. Esto provocará fricciones antes de su aprobación definitiva, pero no lo reabriremos”, afirma Brando Benifei, coponente del expediente para Eurocamera.

Su historia es la de una lucha larga, tensa y altamente técnica con una presión de lobby muy fuerte, lo cual no es inusual. Benifei cree que este acuerdo abrirá la puerta a un intento de regulación internacional, que no tendrá impacto en el desarrollo tecnológico del Viejo Continente. Y, sobre todo, que se tomen las salvaguardias suficientes para evitar el uso y abuso por parte de las autoridades públicas. “No habrá ningún impedimento para el desarrollo, ningún obstáculo para el código abierto“pero hay límites claros para que esta tecnología no se utilice de forma irregular”, apunta, en referencia a los controles biométricos remotos, el estudio de las emociones (una tecnología de dudosa fiabilidad) o la segmentación por raza, credo u orientación sexual.

“Fuimos los primeros en el mundo en establecer una regulación real para la IA y para el futuro mundo digital liderado por la IA, guiando el desarrollo y la evolución de esta tecnología en una dirección centrada en el ser humano”, afirma el rumano. Drago Tudoracheel otro narrador. “Es una salvaguardia para nuestros ciudadanos y nuestras democracias contra cualquier abuso de tecnología por parte de las autoridades públicas. Protege a nuestras pymes y fortalece nuestra capacidad para innovar y liderar en IA. Y protege a sectores vulnerables de nuestra sociedad. la economía. La Unión Europea es un proyecto que ha hecho contribuciones impresionantes al mundo; La Ley de IA es una de ellas, con un impacto significativo en nuestro futuro digital”.

En cualquier caso, el proceso sigue abierto.. No sólo por la falta de ratificación y las dudas de algunos gobiernos, sino también porque el propio pacto prevé revisiones en un plazo de dos horas, que pueden implicar cambios en la lista de prohibiciones o alto riesgo mediante actos delegados de la Comisión. Pero también porque los avances explosivos, como Chart GPT o Bard, pueden replicarse. La ley europea no entrará plenamente en vigor hasta 2026, más tiempo de lo habitual. “Es por la enorme dificultad técnica de implementar este reglamento. Tendremos que formar ejércitos de expertos, abogados, técnicos, para su aplicación en medicina. Tendremos que generar estructuras nuevas y fuertes, agencias nacionales. En España estamos un poco por delante, pero tienen “músculo”, concluye Iban García del Blanco (PSOE), el único español en la fase final de los carros.