Lo sabemos: la tecnología avanza tan rápido que, en muchas ocasiones, como ciudadanos y como sociedad, corremos el riesgo de que algunos de nuestros derechos queden desprotegidos. Por eso estamos de enhorabuena, porque el Parlamento Europeo ha tomado la iniciativa y ha aprobado un texto pionero a nivel mundial. Un documento que comienza a marcar el terreno de juego para una de estas innovaciones del siglo XXI que supone un cambio de paradigma en muchos sentidos y que, hoy en día, no tiene restricciones: la Inteligencia Artificial (IA).
Dado el gran impacto que tiene en la sociedad la IA, necesitamos generar confianza. Para ello hay un requisito indispensable: que esta tecnología se centre en el ser humano. No debe sustituir a la autonomía humana ni asumir la pérdida de la libertad individual, y ha de atender principalmente a las necesidades de la sociedad y el bien común.
El impulso de su desarrollo, su uso, y la adopción de la IA, no deben implicar que renunciemos a la protección de la salud, la seguridad, los derechos fundamentales, la democracia, el Estado de Derecho o el medio ambiente.
Con el fin de fomentar el desarrollo de los sistemas de IA y en consonancia con los valores de la Unión Europea, sin olvidarnos de las características de nuestro tejido empresarial, tenemos la responsabilidad de abordar las principales lagunas y barreras que bloquean el potencial de la transformación digital. Así, no debemos olvidarnos de la escasez de trabajadores con competencias digitales, las preocupaciones en materia de ciberseguridad, la falta de inversión y de acceso a la misma, o las lagunas existentes y potenciales entre las grandes empresas, las pymes y las empresas emergentes.
En la Comunidad de Madrid hemos puesto las bases para ser el nodo digital de Europa y, sin duda, seremos una voz muy relevante en el proceso de diálogo con los países de la Unión Europea para perfilar los detalles de esta normativa. Sin embargo, ya tenemos un primer marco de referencia sobre el que establecer controles y garantías que, sin impedir la tan necesaria innovación, permitan al mismo tiempo garantizar los derechos y libertades fundamentales que con tanto esfuerzo hemos logrado consolidar en Europa.
A modo de ejemplo, se prohibirá el uso de IA en sistemas de identificación biométrica en tiempo real y se limitará su uso en grabaciones previas a fuerzas de seguridad que cuenten con una autorización judicial. También impedirá que los vídeos grabados por cámaras de seguridad se puedan utilizar para extraer contenido con el que entrenar sistemas de reconocimiento facial.
Por otro lado, se pone el foco en la transparencia, de modo que los contenidos generados por sistemas de IA (como CHatGPT o Bard), tendrán que ser identificables con marcas de agua o sistemas similares.
En definitiva, desde Madrid trabajaremos para lograr unas normas claras y firmes a la hora de proteger los derechos fundamentales, apoyar nuevas soluciones innovadoras y posibilitar un ecosistema europeo de agentes públicos y privados que creen sistemas de IA en consonancia con nuestros principios y valores consagrados en nuestro ordenamiento jurídico.