Este documento expone la visión del Open Data Institute (ODI) para la inteligencia artificial (IA) en el Reino Unido, subrayando la necesidad de una infraestructura de datos robusta, gobernanza y fundamentos éticos para apoyar el ecosistema tecnológico. Se ha prestado mucha atención a los riesgos existenciales de la IA, muchos de los cuales están relacionados con las llamadas tecnologías AGI (inteligencia artificial general), que aún están por desarrollar. Dieciocho meses después de este ‘Verano de la IA’, estos riesgos existenciales aún no se han materializado, y los expertos discrepan sobre cuándo —y de hecho, si— veremos la AGI. Los sistemas de IA generativa existentes e inminentes y los grandes modelos de lenguaje (LLM) como ChatGPT, Llama, Palm y Claude presentan oportunidades y desafíos inmediatos. Requieren una infraestructura sólida de IA.
La investigación de ODI 2024 pone de manifiesto debilidades significativas en la infraestructura de IA, especialmente en la gobernanza de datos, con implicaciones tanto presentes como futuras. La rápida evolución de la IA ha llevado a que se pasen por alto los fundamentos de los datos, con gobiernos y organizaciones descuidando infraestructuras críticas de datos. La IA centrada en los datos es la respuesta a esto. A medida que los problemas se vuelven imposibles de ignorar, la comunidad está empezando poco a poco a trabajar en los retos específicos relacionados con la calidad de los datos, la gobernanza y las evaluaciones de modelos centrados en datos.
La investigación del ODI muestra fallos que podrían provocar el colapso de modelos y empresas, debido a la falta de transparencia de los datos y a las malas prácticas de intercambio de datos que amenazan derechos y medios de vida. Si el Reino Unido quiere beneficiarse de las extraordinarias oportunidades que ofrecen las innovaciones en este campo, debe mirar más allá del ciclo de bombo y volver a los fundamentos de los datos que son tan esenciales para construir un ecosistema robusto de datos e IA, y un mercado fuerte y equitativo que beneficie a todos y minimice el daño.
El ODI es una de las pocas organizaciones de la sociedad civil que trabajan hoy en el ámbito de la IA centrada en datos en el Reino Unido. En este libro blanco, el ODI presenta sus primeros hallazgos, para la atención del nuevo Gobierno del Reino Unido y de todos aquellos que estén interesados en este tema — y que quieran contribuir a nuestro trabajo — sobre cómo situar los datos en el centro y asegurar que el Reino Unido se beneficie de la revolución de la IA; creciendo económicamente, mientras mitiga cualquier riesgo potencial.
Para lograr estos resultados, la ODI recomienda cinco intervenciones políticas:
● Garantizar un acceso amplio a datos públicos y privados de alta calidad y bien gobernados para fomentar un mercado de IA diverso y competitivo;
● Hacer cumplir la protección de datos y los derechos laborales en la cadena de suministro de datos;
● Empoderar a las personas para que tengan más voz en el intercambio y uso de datos para la IA;
● Actualizar el régimen de propiedad intelectual para asegurar que los modelos de IA se entrenan de manera que prioricen la confianza y el empoderamiento de los interesados;
● Aumentar la transparencia sobre los datos utilizados para entrenar modelos de IA de alto riesgo.
1: Aprovechar las oportunidades de la IA con acceso a datos de alta calidad y bien gestionados
Las tecnologías emergentes de IA ofrecen oportunidades en muchos sectores, desde el diagnóstico y el mapeo humanitario, hasta la educación personalizada. Para potenciar estas oportunidades, debe centrarse en los datos que las sustentan.
Lograr los beneficios de la IA requiere conjuntos de datos de alta calidad y bien gestionados. Aunque ejemplos como la base de datos oftálmica INSIGHT impulsan el bien social mediante una gobernanza eficiente de datos que apoya la investigación médica, existen grandes deficiencias en los datos disponibles para fines como la imagen médica para enfermedades raras. Para agravar este problema, la revisión detallada de las prácticas de gobernanza de datos por parte del ODI reveló una brecha crítica en la infraestructura de gobernanza que permite el acceso a conjuntos de datos a lo largo del desarrollo de sistemas de IA.
Los actores políticos de todo el mundo están invirtiendo cada vez más en conjuntos de datos públicos accesibles e infraestructuras de apoyo para la IA responsable (RAI). Por ejemplo, la Autoridad de Competencia y Mercados del Reino Unido ha pedido un mayor acceso a los datos de modelos de IA. De manera similar, la Ley de IA de la UE aborda el acceso a los datos exigiendo a los proveedores de sistemas de IA de alto riesgo que aseguren que las autoridades nacionales tengan acceso a los datos utilizados para desarrollarlos. El recién introducido Proyecto de Ley de Seguridad y Metrología de Productos en el Reino Unido permite el uso del nuevo marco de seguridad de productos para introducir controles en quienes producen los modelos de IA más potentes.
Más allá del acceso, una buena gobernanza de los datos requiere recursos para garantizar que los datos sean y sigan siendo relevantes, y puedan ser reutilizados y vinculados a datos de otras fuentes. Sin apoyo, el aumento del precio de los datos de entrenamiento en IA de alta calidad excluye a muchos innovadores potenciales como pequeñas empresas e investigadores académicos. Como se propone en el manifiesto del Partido Laborista del Reino Unido de 2024, y con el apoyo del presidente ejecutivo de ODI, Sir Nigel Shadbolt, las propuestas políticas emergentes para crear una biblioteca nacional de datos deberían ampliarse para considerar cómo los datos podrían estar preparados para la IA y abordar estos desequilibrios.
2: La infraestructura para lograr beneficios en IA y mitigar daños
Como demuestran los ejemplos anteriores, poner los datos a disposición y estar listos para la IA es fundamental para ofrecer el valor de la IA de manera eficaz y responsable, y depende de la creación de una infraestructura de datos sólida y fiable. Los ingenieros de IA dedican el 80% de su tiempo a preparar los datos para prepararlos para su uso en aplicaciones de IA. Las inversiones recientes en Centros de IA buscan hacer que los hallazgos, tecnologías y datos sean accesibles y utilizables.
La infraestructura de datos está compuesta por componentes clave como estándares de datos — por ejemplo, formatos recomendados por el W3C como RDF y JSON-LD — ontologías — por ejemplo, Croissant, un esquema de metadatos para conjuntos de datos — e identificadores únicos — por ejemplo, Identificadores de Objetos Digitales — DOIs — que facilitan la interoperabilidad y reutilización de datos en múltiples contextos.
Los avances globales en IA dependen de numerosos conjuntos de datos, incluidos aquellos con posibles problemas de protección de datos y derechos laborales. Por ejemplo, conjuntos de datos como ImageNet y MS-Celeb-1M han sido objeto de escrutinio por preocupaciones sobre la privacidad y prácticas problemáticas de etiquetado. La investigación del ODI ha encontrado que, con pocas excepciones, los conjuntos de datos de entrenamiento de IA suelen carecer de medidas de gobernanza robustas a lo largo del ciclo de vida de la IA, lo que plantea desafíos de seguridad, protección, confianza y ética.
Además, deben abordarse desafíos significativos relacionados con la interoperabilidad entre fuentes de datos. En el Reino Unido, los problemas de calidad de los datos y los compartimentos polares actualmente dificultan las aplicaciones de IA en el NHS, como se detalla en el estudio de caso a continuación.
Un cuerpo considerable de trabajo describe los requisitos para una infraestructura de datos robusta impulsada por IA. Establecer instituciones de datos y estructuras de gobernanza impulsadas por IA es crucial para fomentar la confianza en los sistemas de IA. Además, son esenciales protecciones exigibles para quienes se ven afectados por el uso de datos basados en IA y las cadenas de suministro de datos habilitadas por IA.
El trabajo humano oculto en la cadena de suministro de datos es un área a menudo pasada por alto que necesita protección. Salvaguardar los derechos laborales es vital para avanzar en la agenda de seguridad de la IA en el Reino Unido. Los riesgos para la privacidad también persisten a lo largo de toda la cadena de suministro de datos, lo que requiere protecciones más sólidas.
Las leyes de protección de datos están diseñadas para proteger la privacidad como un derecho fundamental. El Reglamento General de Protección de Datos (RGPD) de Europa, por ejemplo, se aplica a todos los datos relacionados con una ‘persona física identificable’, incluyendo nombres, fotos, números de identificación y tipos menos evidentes de datos como la información de ubicación. Según el RGPD, el tratamiento de datos personales requiere una base legal clara y debe estar sujeto a medidas de seguridad rigurosas.
A pesar de, o quizás debido a, un consumo de datos sin precedentes, debe evitarse la Brecha de Aplicación de Protección de Datos 1 respecto a la IA fundamental. Durante la anterior administración del Reino Unido, el ODI expresó su decepción porque el entonces propuesto Proyecto de Ley de Protección de Datos e Información Digital (DPDI) habría debilitado la transparencia, los derechos y las protecciones, y no reconoció la importancia de mantener la confianza pública. Doce agencias nacionales de protección de datos, incluida la Oficina del Comisionado de Información (ICO) del Reino Unido, publicaron una declaración conjunta aclarando que, incluso cuando la información personal es accesible públicamente, sigue estando sujeta a las leyes de protección de datos y que la extracción masiva de información personal de la web para entrenar IA puede constituir una brecha de datos que se reporta en muchas jurisdicciones.
El Proceso de IA de Hiroshima del G7 apoya este esfuerzo, con principios rectores y un código de conducta voluntario que subraya la necesidad de «medidas adecuadas de entrada de datos y protecciones para los datos personales y la propiedad intelectual». En marzo de 2023, la autoridad italiana de protección de datos suspendió temporalmente a ChatGPT por preocupaciones sobre el procesamiento de datos personales para entrenar el sistema. En Estados Unidos, una demanda californiana afirmó que los modelos fundamentales de OpenAI han sido entrenados ilegalmente sobre «conversaciones privadas, datos médicos e información sobre niños». Además, los investigadores han demostrado que es posible hacer que ChatGPT ‘filtre’ datos sobre los que se ha entrenado su modelo subyacente, como direcciones de correo electrónico reales y números de teléfono, mediante el uso de indicaciones específicas.
Como se indica en un reciente Manifiesto de Políticas, la ODI insta a los responsables políticos a redoblar sus esfuerzos contra el debilitamiento de los derechos de protección de datos. Además de debatir los riesgos de usar datos personales ilegalmente para entrenar modelos de IA, deben tomarse medidas para abordar los riesgos continuos de que los modelos filtren datos personales. En los últimos años han surgido nuevas tecnologías que pueden ayudar a abordar estos problemas. Las tecnologías sólidas y otras que mejoran la privacidad tienen un gran potencial para ayudar a salvaguardar los derechos y la privacidad de las personas a medida que los modelos de IA se vuelven más prevalecentes.
3: Priorizar la confianza y el empoderamiento
Generar confianza en la IA requiere la implicación y el empoderamiento de las personas afectadas. Además, al aumentar la alfabetización y el compromiso con IA, se puede crear una sociedad donde los deepfakes y otras tecnologías engañosas sean menos eficaces y fáciles de detectar. Herramientas de IA generativa como ChatGPT y Claude pueden mejorar la alfabetización digital y la infraestructura de datos públicos automatizando la recopilación, procesamiento y análisis de datos.
La participación ciudadana en iniciativas como OpenStreetMap y Wikipedia ha creado conjuntos de datos fundamentales de confianza. A nivel de política, el Instituto de Seguridad de IA debería incluir una participación más amplia; un concepto apoyado públicamente por el presidente ejecutivo de ODI, Sir Nigel Shadbolt, tras diversas iniciativas para involucrar a más personas en proyectos de datos y IA del sector público.
Es esencial promover y comprometerse con organizaciones de la sociedad civil fuertes e independientes para representar los intereses del público en este ámbito —incluidas aquellas organizaciones con experiencia en la implementación de enfoques participativos— para igualar las poderosas voces del gobierno y las grandes tecnológicas.
El empoderamiento no solo afecta al público general, sino también a las comunidades profesionales. Por ejemplo, en las industrias creativas, las demandas de alto perfil y la acción sindical demuestran lo que la acción colectiva puede lograr. La protección de la propiedad intelectual es solo una parte de garantizar datos fiables y un régimen de gobernanza de la IA que proteja los intereses públicos.
Como se destaca en este libro blanco, las crecientes preocupaciones sobre los sistemas de IA requieren una intervención más amplia. Las políticas deben abordar incidentes como los deepfakes dañinos y las desigualdades en el sistema judicial. Sin embargo, como se discute en el Manifiesto de Políticas del ODI, los datos y la política digital del Reino Unido han priorizado recientemente el crecimiento de la industria, a menudo descuidando las preocupaciones de la comunidad.
Una preocupación clave de política es el consenso de que los modelos opacos requieren una intervención significativa. La legislación de la UE ahora exige transparencia para la mayoría de los modelos de IA, respondiendo a las llamadas globales de cambio de política. Los usuarios, despegadores y profesionales de la IA deben saber cuándo confiar en las predicciones de la IA y cuándo usar su propio criterio, apoyando la responsabilidad del sistema y la investigación.
Investigaciones recientes han demostrado el alcance de la mala transparencia en IA, identificando la transparencia sobre los datos como significativamente rezagada respecto a la mayoría de las demás áreas. La investigación del ODI destaca que la información clave sobre transparencia sobre fuentes de datos, derechos de autor e inclusión de información personal y más, rara vez se incluye en los sistemas de IA señalados en la base de datos de Incidentes de IA de la Partnership for AI.
El ODI está desarrollando un ‘índice de transparencia de datos de IA’ para destacar y monitorizar el estado de la transparencia de datos de IA e incentivar la mejora de las prácticas. Para abordar los daños actuales y restaurar la confianza, los esfuerzos internacionales emergentes de transparencia deben reforzarse junto con la introducción de prácticas estrictas de gobernanza y explicabilidad.
Observaciones finales
Construir un futuro mejor con los datos y la IA requiere un compromiso colectivo con prácticas éticas, transparentes e innovadoras. Este documento técnico describe los pasos críticos necesarios para fortalecer la infraestructura de datos sobre la que se construye la IA, permitiéndole alcanzar todo su potencial como fuerza para el bien económico y social en el Reino Unido; desde garantizar un acceso amplio a datos de alta calidad y bien gobernados para conjuntos de datos clave, hasta hacer cumplir la protección de datos y los derechos de propiedad intelectual.
Sectores como la sanidad, las finanzas y el transporte tienen importantes oportunidades en materia de IA. Pero las personas y comunidades deben ser empoderadas para asegurarse de tener voz en cómo se utilizan los datos en estos sectores y más allá. Aunque la transparencia por sí sola no genera confianza, las intervenciones éticas y las prácticas inclusivas son esenciales para fomentar la confianza pública y fomentar la innovación. La ODI está comprometida a promover estos principios, realizar investigaciones y defender políticas que equilibren la innovación con los derechos de los proveedores y usuarios de datos.
Para garantizar que el camino hacia la preparación para la IA de datos beneficie a todos, el ODI invita a vuestros comentarios y opiniones sobre los hallazgos y recomendaciones presentados en este documento técnico. En la siguiente fase de este trabajo, el ODI investigará el diseño e implementación de estrategias para superar riesgos y maximizar los beneficios de las nuevas tecnologías de IA. El ODI también continuará fomentando alianzas que permitan una innovación impactante en IA.
El ODI espera trabajar juntos para crear un ecosistema de datos robusto que maximice los beneficios de la IA para todos.