Noticias

En julio de 2022, la dimensión que acompaña a la Economía del Dato dio un salto cualitativo con la adopción, por parte del Consejo de la UE, de las "Conclusiones sobre la diplomacia digital de la UE" cuyo objetivo era el de establecer acciones prioritarias para reforzar la acción de la UE en los asuntos digitales internacionales.

La Comisión Europea ha presentado una serie de posibles acciones para fomentar la innovación, la seguridad y la resiliencia de las infraestructuras digitales.

El Rolling Plan para la normalización de las TIC proporciona un puente único entre las políticas de la UE y las actividades de normalización relativas a las tecnologías de la información y la comunicación (TIC).

El Ministerio para la Transformación Digital y de la Función Pública y Microsoft han firmado un protocolo de actuación conjunta para el impulso de la Inteligencia Artificial ética y responsable y la ciberseguridad en empresas y administración pública.

La creciente importancia de los datos abiertos junto con la profusión de normativa relacionada y el despliegue de iniciativas de todo tipo aconsejan realizar una revisión que actualice el estado de la cuestión.

La Ley de Servicios Digitales (DSA, por sus siglas en inglés) tiene como objetivo hacer que el entorno en línea sea más seguro, justo y transparente.

Publicado el Real Decreto 141/2024, de 6 de febrero, por el que se modifica el Reglamento de Población y Demarcación Territorial de las Entidades Locales, que permitirá la sincronización en tiempo real de los datos de empadronamiento local.

El Consejo adopta su posición sobre la directiva de modificación para ampliar y mejorar aún más el uso de herramientas y procesos digitales en el derecho de sociedades. 

Los datos son un activo clave, del que dependen cada día multitud de pequeñas y grandes decisiones de empresas, organismos públicos, entidades sociales y ciudadanos.

Desde la Oficina del Dato, se ha generado una metodología conceptual general, orientada a la creación de ecosistemas de datos de todo ámbito.

El espacio de datos se configura como el escenario ideal para desplegar diversas tecnologías avanzadas con que hacer una exploración eficiente de conjuntos de datos, convirtiéndolos en información.

El teléfono del Incibe atenderá consultas para ofrecer recomendaciones y evitar que los niños se vean expuestos a contenidos inadecuados.

El Parlamento Europeo ha aprobado por amplia mayoría la propuesta de Ley de Europa Interoperable en su primera lectura.

Uno de los grandes pilares de la IA actual, el procesamiento del lenguaje, lleva años haciendo aportes de valor a la comunicación clara y, en concreto, al lenguaje claro.

El Centro de Operaciones de Ciberseguridad de la Administración General del Estado y sus Organismos Públicos y la División de Planificación y Coordinación de Ciberseguridad fueron galardonados con sendas distinciones por su labor y trayectoria por Socinfo Digital.

Con el fin de impulsar el desarrollo de los espacios de datos, el Programa Digital Europeo (DIGITAL) de la Comisión Europea financia una serie de Acciones de Apoyo Coordinado (CSA por sus siglas en inglés) para impulsar su desarrollo

La segunda edición de este informe evalúa los esfuerzos de los países para una transformación digital del sector público coherente y centrada en el ser humano.

Este reconocimiento, otorgado por la revista Sociedad de la Información Digital y que ha recogido el subdirector general del Centro Criptológico Nacional, pone en valor el impulso del CCN a la colaboración público-privada en el ámbito de la ciberseguridad.

Hacia una IA en salud más segura. La Inteligencia Artificial tiene un potencial innegable que ya está siendo aplicado. Su impacto sobre la sociedad, la economía y la atención médica ya se está haciendo sentir, como abordaremos muy pronto en la IX Jornada de ASD. Sin embargo, advierten los expertos, es necesario desarrollar mecanismos de control de los posibles riesgos de una tecnología revolucionaria. Como todas las tecnologías revolucionarias, la IA tiene lo que los anglosajones llaman «teething problems». Esto es, problemas de crecimiento.

A fin de identificar y solucionar tales problemas, y desarrollar una IA más segura en medicina, un equipo de investigadores del Instituto de Tecnología de Massachusetts (MIT) ha buscado inspiración en los procedimientos de las industrias más seguras del mundo: la industria aeronáutica.

Un interesante artículo publicado en la página web del MIT nos explica el estudio de Marzyeh Ghassemi, experta en ciencias de ingeniería médica, y Julie Shah, profesora de aeronáutica y astronáutica en el MIT. Ambas comparten interés en los retos de la transparencia en modelos de IA. Tras una primera conversación en 2023, vieron que la aviación podía servir de modelo para evitar que los pacientes fueran perjudicados por modelos sesgados de IA. Esto les llevó a estudiar más a fondo la cuestión.

Problemas y soluciones paralelos

Según su estudio, la IA en salud de hoy día guarda paralelismos con la industria aeronáutica de hace un siglo. En la década de los años veinte del siglo XX, pese a que fue la edad de oro de la aviación, con constantes récords y la generalización del transporte aéreo. Sin embargo, hubo una cifra inquietante de accidentes mortales.

Por otra parte, el avance hacia la automatización de la aeronáutica es similar al de la IA. El problema de la llamada «caja negra» de la IA, esto es, de explicar cómo llega a sus conclusiones, es parecido a la automatización aeronáutica de la década de los setenta. En estos años, los sistemas de piloto automático que avisaban de posibles riesgos a los pilotos experimentaron problemas de crecimiento: los pilotos no siempre comprendían del todo lo que hacía la automatización. Hoy día, ser capitán de un avión de línea comercial requiere 1 500 horas de vuelo. Este proceso exhaustivo y riguroso supone años de entrenamiento y copilotaje. Los investigadores consideran que este exitoso sistema de entrenamiento podría ser un modelo para la formación de doctores en el uso de herramientas de IA en un entorno clínico.

Reportar herramientas inseguras

El estudio, por otra parte, anima a reportar herramientas de IA inseguras del mismo modo que la Agencia Federal de Aviación (FAA) de los Estados Unidos hace con los pilotos, vía «inmunidad limitada» que permite a los pilotos mantener su licencia de vuelo después de hacer algo inseguro, siempre y cuando lo hagan de forma no intencionada. Según un reporte de la OMS de 2023, uno de cada 10 pacientes sufre un evento adverso al recibir atención hospitalaria en países de alto nivel de ingresos. No obstante, en la práctica clínica diaria, los profesionales suelen evitar reportar errores médicos, entre otros motivos porque el sistema actual enfatiza la responsabilidad individual y el castigo, como por ejemplo la pérdida de la licencia para ejercer la medicina, en lugar de buscar reformar un sistema que incrementa las posibilidades de errores médicos.

Una agencia reguladora específica

El estudio también aboga por la creación de una autoridad auditora independiente, similar a la NTSB (Junta Nacional de Seguridad en el Transporte) estadounidense, que analice la seguridad de los sistemas de IA en salud. En el caso de los Estados Unidos, advierten los expertos, desde la década de los años noventa no existe una entidad que evalúe el impacto de la tecnología.

Como ya hemos comentado en varias ocasiones, uno de los grandes retos de las tecnologías emergentes es que el desarrollo científico avanza a un ritmo más rápido que la normativa. En este sentido, la importancia de la IA y sus potenciales beneficios y riesgos han conducido, en especial en el campo de la atención sanitaria, a una oleada de intentos de regulación. La agencia federal del medicamento (FDA) de los EE. UU ha emitido una serie de guías y libros blancos al respecto. El marco normativo está avanzando con rapidez. Vemos, por ejemplo, la orden ejecutiva 14110 de la Casa Blanca en aras de un desarrollo seguro y fiable de la IA, así como el acta sobre IA de la Unión Europea aprobada en junio de 2023. Esta normativa será la piedra angular de la futura regulación, que debe garantizar la seguridad sin sofocar la innovación.

Abordaremos el futuro marco normativo en la mesa 5 de nuestra IX Jornada de ASD. Inmaculada Castelló, M.ª del Pilar Jiménez, Lorena López y Ana Miquel Gómez tratarán los aspectos éticos y legales de la (R)evolución de la IA en salud. (Pueden consultar el programa completo en el siguiente enlace).

La entrada Hacia una IA en salud más segura se publicó primero en Asociación Salud Digital.

La Comisión adoptó ayer el primer sistema europeo de certificación de ciberseguridad, en consonancia con la Ley de Ciberseguridad de la UE. El sistema ofrece un conjunto de normas y procedimientos a escala de la Unión sobre cómo certificar productos de TIC en su ciclo de vida y así hacerlos más confiables para los usuarios.