En las jurisdicciones de todo el mundo, las nuevas iniciativas de políticas y regulaciones relacionadas con la gobernanza de los datos y la IA señalan el fin de la autorregulación y el surgimiento de una nueva supervisión. A medida que el entorno regulatorio continúa evolucionando a buen ritmo, las organizaciones líderes están abordando la ética y la gobernanza de la IA de manera proactiva en lugar de esperar a que se les impongan los requisitos.
A lo largo de 2020, hemos visto la IA implementada para ayudar a las organizaciones a anticipar mejor el impacto de COVID-19 en todo el mundo y los sectores de la industria, para que puedan responder a él con mayor resiliencia. En 2020, también hemos visto un enfoque revitalizado en el papel que desempeñan la tecnología y la IA en el panorama ambiental, social y de gobernanza (ESG). Esto incluye casos de uso y aplicaciones de IA en atención médica, educación, aplicación de la ley y servicios financieros, entre otros. La relativa expansión de los casos de uso impulsados por la IA ha puesto de relieve tanto los beneficios como los riesgos potenciales de la IA, en particular la cuestión de la confianza en la tecnología. Si bien la confianza ha sido durante mucho tiempo un factor definitorio en el éxito o el fracaso de una organización, el riesgo de la IA ahora va más allá de la reputación y la satisfacción del cliente: está desempeñando un papel descomunal en la formación de las personas, el bienestar futuro, incluso cuando pocos dentro o fuera de la empresa entienden completamente cómo funciona. Este documento técnico examina los temas regulatorios actuales en torno a la gobernanza de la IA de todo el mundo y proporciona a las organizaciones una serie de recomendaciones sobre cómo establecer confianza en la IA.
Para que las soluciones de IA sean transformadoras, la confianza es imperativa. Esta confianza se basa en cuatro pilares principales: integridad, comprensibilidad, equidad y resiliencia. Estas cuatro guías ayudan a las organizaciones a garantizar la gobernanza adecuada de los algoritmos.
- Integridad: integridad del algoritmo y validez de los datos, incluido el linaje y la idoneidad de cómo se utilizan los datos.
- Comprensibilidad: transparencia a través de la comprensión del proceso algorítmico de toma de decisiones en términos comerciales simples
- Equidad: garantizar que los sistemas de IA sean éticos, libres de sesgos, libres de prejuicios y que no se utilicen atributos protegidos.
- Resiliencia: robustez técnica y cumplimiento de su IA y su agilidad en todas las plataformas y resistencia contra los malos actores.
La forma de la gobernanza de la IA por venir
En las jurisdicciones de todo el mundo, las nuevas iniciativas de políticas y regulaciones relacionadas con la gobernanza de los datos y la IA señalan el fin de la autorregulación y el surgimiento de una nueva supervisión. A medida que el entorno regulatorio continúa evolucionando al ritmo tradicional, las organizaciones líderes están abordando la ética y la gobernanza de la IA de manera proactiva en lugar de esperar a que se les impongan los requisitos.
COVID-19, y el rápido aumento del trabajo remoto requerido por el virus, ha acelerado el desarrollo y el uso de la IA tanto en las organizaciones como en las interacciones con los consumidores.
A lo largo de 2020, hemos visto la IA implementada para ayudar a las organizaciones a anticipar mejor el impacto de COVID-19 en todo el mundo y los sectores de la industria, para que puedan responder a él con mayor resiliencia. En 2020, también hemos visto un enfoque revitalizado en el papel que desempeñan la tecnología y la IA en el panorama ambiental, social y de gobernanza (ESG). Esto incluye casos de uso y aplicaciones de IA en atención médica, educación, aplicación de la ley y servicios financieros, entre otros.
La relativa expansión de los casos de uso impulsados por la IA ha puesto de relieve tanto los beneficios como los riesgos potenciales de la IA, en particular la cuestión de la confianza en la tecnología. Si bien la confianza ha sido durante mucho tiempo un factor determinante en el éxito o el fracaso de una organización, el riesgo de la IA ahora va más allá de la reputación y la satisfacción del cliente: está desempeñando un papel fundamental en la configuración del bienestar y el futuro de las personas y las comunidades que nos rodean, incluso cuando pocos entienden completamente cómo funciona.
Para que las soluciones de IA sean transformadoras, la confianza es imperativa. Esta confianza se basa en cuatro pilares principales: integridad, comprensibilidad, equidad y resiliencia. Estos cuatro principios (habilitados a través de la gobernanza) ayudarán a las organizaciones a impulsar una mayor confianza, transparencia y rendición de cuentas.
1. Integridad: integridad del algoritmo y validez de los datos, incluido el linaje y la idoneidad de cómo se utilizan los datos
2. Comprensibilidad: transparencia a través de la comprensión del proceso algorítmico de toma de decisiones en términos simples
3. Equidad: garantizar que los sistemas de IA sean éticos, libres de sesgos, libres de prejuicios y que no se utilicen atributos protegidos
4. Resiliencia: solidez técnica y cumplimiento de su IA y su agilidad en todas las plataformas y resistencia contra los malos actores
Un marco de modelo integral de IA para permitir y operacionalizar la confianza, la responsabilidad y la transparencia a menudo es insuficiente o falta en la mayoría de las organizaciones de hoy. Además, hay un acceso limitado a directrices efectivas, prácticas líderes o regulaciones gubernamentales. Las empresas de todo el mundo se encuentran eligiendo entre la velocidad de comercialización con soluciones impulsadas por IA y la creación de capacidades de gobernanza de IA integrales y fundamentales. Si bien son conscientes de la amenaza existencial que plantea la falta de confianza en la IA, las organizaciones se encuentran atrapadas en una «carrera espacial» de IA, ya sean empresas establecidas o nuevas y ágiles, que utilizan la IA para escalar a gran velocidad.
No es de extrañar, entonces, que muchos ejecutivos estén comenzando a considerar cómo la gobernanza efectiva de la IA puede ayudarlos a proteger y obtener una ventaja competitiva, lograr eficiencias operativas y, lo que es más importante, fomentar la confianza entre sus partes interesadas clave, incluidos los clientes. Si bien en los últimos años se han desarrollado marcos regulatorios para abordar los problemas relacionados con la privacidad, falta el progreso hacia un marco más holístico que incorpore la IA. Por su parte, los gobiernos están insinuando que los tecnólogos de IA y los científicos de datos no pueden ser los únicos responsables de la autorregulación efectiva. Los gobiernos han estado redactando una regulación proactiva de la IA para proteger los derechos de los ciudadanos, pero también para atraer nuevas industrias y minimizar la fuga de la propiedad intelectual.
La implementación de un marco de gobernanza para la IA que abarque métodos habilitados por la tecnología puede ayudar a los líderes a abordar los riesgos inherentes de la IA. También puede ayudarles a impulsar un enfoque de gobernanza sostenible. Tanto las empresas como los gobiernos se dan cuenta de que una regulación de la IA exitosa y sostenible depende de la asociación y la colaboración para garantizar que la innovación, el crecimiento empresarial y la confianza en la IA puedan coexistir armoniosamente.
Con eso en mente, hemos producido este documento como una guía para los líderes empresariales que están interesados en, o encargados de, la creación de políticas, la gobernanza y la supervisión de la tecnología de IA. Destaca el valor de la gobernanza proactiva y el monitoreo de las capacidades de IA de su organización y cómo la incorporación de la gobernanza en el desarrollo de la IA conduce a soluciones de IA más confiables, impactantes y más ampliamente adoptadas.
Los desafíos actuales para una regulación exitosa de la IA
En todos los sectores, los líderes empresariales están luchando con la cuestión de cómo sus organizaciones deben abordar la gobernanza de la IA y quién debe ser responsable de los programas y resultados de la IA. Lo están haciendo en un contexto de rápida adopción de la IA en los negocios y la sociedad en general que está destacando los riesgos involucrados y creando cierta urgencia sobre la necesidad inmediata de regulación de la IA.
Varios temas de riesgo han acompañado durante mucho tiempo la innovación de la IA, pero se han vuelto más apremiantes en 2020 en adelante. Entre ellos se incluyen:
La precisión y exactitud de la tecnología
El aumento de la visión por computadora, incluida la detección de objetos y el reconocimiento facial, ahora permite a las computadoras reconocer, analizar y procesar imágenes o videos digitales para inferir y producir información numérica o simbólica en forma de decisiones. Estas capacidades se están utilizando para evaluar a las personas en el aeropuerto, mientras compran y para la gestión de inventario en los minoristas sin la intervención de los empleados, para mejorar el rendimiento y la seguridad de los vehículos autónomos e incluso para ayudar a identificar afecciones médicas y cambios en la salud del paciente. Los beneficios potenciales de la visión por computadora son enormes, pero no exentos de riesgos. Uno de los desafíos es la gran diversidad de la demografía humana en términos de género, edad, etnia, nacionalidad e ingresos que a menudo no se refleja en los conjuntos de datos de capacitación. Además, el contexto de las imágenes de datos de entrenamiento es importante al entrenar los modelos de IA. Estas muchas variables plantean numerosas preocupaciones sobre la capacidad de la tecnología para leer e interpretar con precisión las representaciones visuales.
AI El uso adecuado de los datos del consumidor y la privacidad de los datos para informar a la IA
Los sistemas de IA dependen de grandes cantidades de datos de calidad. Pero, ¿cómo se aseguran las organizaciones de que solo se utilicen datos de calidad y aprobados para entrenar un sistema de IA? A medida que la IA entra cada vez más en la experiencia del consumidor convencional, un enfoque en la privacidad y el uso responsable de los datos será un componente importante de la nueva regulación de la IA. La preocupación por cómo se utilizan los datos personales (incluido el consentimiento requerido para usar los datos de un individuo) ya ha llevado a una regulación global y local (GDPR en la UE y la Ley de Privacidad de California en los EE. UU.) que puede actuar como un bloque de construcción o barrera inicial en ausencia de una gobernanza de IA bien establecida.
Discriminación y sesgo en la toma de decisiones
Los casos de uso de la IA se basan cada vez más en información personal confidencial, lo que ha generado mucha preocupación pública sobre cómo el sesgo social injusto, el sesgo del desarrollador y el sesgo del modelo podrían afectar las decisiones y, en última instancia, conducir a la discriminación contra los consumidores. Por ejemplo, cuando se entrena un modelo de visión por computadora para identificar a los humanos en una imagen, los datos de entrenamiento no deben estar sesgados hacia un cierto género o color de piel. Esto llevará a que los algoritmos aprendan solo un subconjunto y, por lo tanto, induzcan sesgos. Como resultado, los modelos de IA deben ser justos. Las decisiones derivadas de esos modelos deben ser explicables y trazables, y pueden modificarse si es necesario. Es por eso que las empresas y los gobiernos proactivos están evaluando cómo garantizar que las decisiones y los resultados de un sistema de IA no estén inadvertidamente sesgados o sesgados, y cómo se puede usar un conjunto de datos para entrenar un modelo que sea representativo de un escenario deseado. También buscan determinar si los supuestos y la lógica empresarial con la que se construyó un sistema contienen un sesgo social inherente, y cuándo el sesgo debe incluirse en un modelo como un indicador justo del resultado. También el uso de la confianza estadística de las inferencias se vuelve muy esencial a la hora de tomar decisiones de negocio. Por ejemplo, algún sesgo que parece sesgado hacia un grupo puede ser apropiado si puede ofrecer un indicador preciso del resultado, como cuando se evalúa la probabilidad de contracción de la enfermedad en función del género o la etnia.
Ayudar a cerrar la brecha de confianza a través de la regulación
Como resultado de los riesgos potenciales destacados anteriormente, actualmente existe una brecha de confianza en el mercado entre lo que las capacidades de IA pueden hacer y cómo los usuarios las experimentan. Esta brecha se ve exacerbada por dos narrativas en competencia en los medios de comunicación: una es que la IA cambiará radical y positivamente el mundo, mientras que la otra pinta una imagen inquietante del daño que la IA podría traer.
Con el fin de cerrar la brecha entre el potencial de la IA y los riesgos existenciales que puede traer, muchas partes interesadas en todo el panorama de la IA están pidiendo una mayor regulación u orientación sobre cómo gobernar las tecnologías y gestionar las implicaciones cuando las decisiones salen mal o los resultados no son intencionados. Se dan cuenta de que la regulación puede proporcionar el marco amplio a través del cual las organizaciones pueden ser proactivas en la forma de gobernar, administrar e infundir confianza en sus tecnologías. Las organizaciones todavía tienen la responsabilidad de proporcionar a los consumidores y usuarios empresariales un nivel adecuado de transparencia y comprensibilidad para garantizar la confianza en estas poderosas tecnologías.
Los gobiernos también están despertando (tardíamente, algunos podrían decir) a las implicaciones de la tecnología de IA después de años de financiar el desarrollo y los conjuntos de habilidades de IA sin comprender completamente o considerar completamente el impacto y los riesgos sociales potenciales.
En el pasado, tanto el gobierno como las empresas han implementado pequeños focos de regulación, pero nada a la escala o alcance para satisfacer las nuevas oportunidades y desafíos planteados por la IA.
Algunas de esas regulaciones anteriores se implementaron en una etapa temprana de la evolución de la tecnología y se consideraron contraproducentes, inhibiendo la innovación. A medida que la tecnología madura y se convierte en parte de cómo funciona la sociedad, regularla de manera efectiva se vuelve cada vez más complicado. Otras complicaciones resultan de la falta de un lenguaje común y definiciones para mejorar las capacidades de automatización (considere las diversas interpretaciones del aprendizaje automático y la IA que existen en el mercado) y las brechas en la alfabetización de IA entre varias partes interesadas.
El resultado es que, después de años de desarrollo acelerado de la IA, tanto las empresas como el gobierno se ven en la necesidad de ponerse al día con el diseño de estándares y regulaciones que generen confianza, protejan los derechos digitales de las personas y fomenten el crecimiento responsable.
El estado actual de la regulación de la IA y lo que sucede a continuación
En la actualidad, la regulación de la IA en todo el mundo es fragmentaria en el mejor de los casos. A excepción de unos pocos países seleccionados, la mayoría de las geografías aún no han desarrollado un conjunto prescriptivo de directrices o legislado leyes específicas de gobernanza de la IA para las empresas y la sociedad. Muchos países, territorios o jurisdicciones aún se encuentran en la etapa exploratoria.
Sin embargo, la investigación global y localizada en torno a la regulación de la IA apunta a algunas tendencias que indican la forma y la dirección potenciales de la regulación de la IA y cómo podría evolucionar. Hemos identificado las siguientes cinco tendencias de adopción y desarrollo de IA que creemos que probablemente desempeñarán un papel importante en la configuración del futuro de la regulación de la IA.
Configurando un futuro regulatorio en torno a la I+D (R&D)
Algunos de los mercados de IA más desarrollados están implementando pautas y regulaciones que protegen y promueven la I+D nacional, incluida la creación de incubadoras de innovación para fomentar el avance de las capacidades de IA. Al hacerlo, estas naciones esperan que la I+D les brinde una ventaja competitiva tanto a nivel regional como mundial.
En los Estados Unidos, la Orden Ejecutiva 13859 firmada en 2019 estableció la Iniciativa Americana de IA. La orden tiene como objetivo desarrollar capacidades de IA dentro de los Estados Unidos e impulsar las invenciones de IA en interés del país. Un objetivo clave es apoyar la I + D a largo plazo en IA a través de un mayor acceso a los datos federales. La intención es impulsar los avances tecnológicos priorizando la inversión en IA y fortalecer el ecosistema de I + D de los Estados Unidos con énfasis en las asociaciones público-privadas para estimular la innovación y mantener el liderazgo del país en tecnologías de IA.
En Singapur, el banco central, la Autoridad Monetaria de Singapur (MAS), trabajó con socios de la industria financiera para crear Veritas, un marco de I + D para promover la adopción responsable de la IA y el análisis de datos asociado. Veritas se considera una parte integral de la estrategia de IA de Singapur, que incluye importantes inversiones en I + D para avanzar en los descubrimientos de IA.
Un objetivo clave de Veritas, que cuenta con 25 miembros formados por grandes instituciones financieras y socios tecnológicos, es fortalecer y hacer cumplir la gobernanza interna en torno al uso de la IA y la gestión y el uso de datos.1
Implicaciones potenciales
Al centrarse en la I+D, los gobiernos esperan obtener beneficios a largo plazo a través de una mayor eficiencia operativa general para los sectores público y privado. También pueden crear propiedad intelectual relacionada con la IA: los países podrán obtener patentes, derechos de autor y marcas comerciales para diversas propiedades intelectuales de IA. Los programas efectivos de I + D también pueden atraer a los mejores talentos (las personas querrán trabajar en un país que está liderando el camino en un campo emergente) y pueden promover la creatividad y la innovación.
Sin embargo, la I+D puede ser compleja, lenta y, a corto plazo, costosa. Uno de los riesgos es que los países no verán el retorno esperado de su inversión con IA. Además, es necesario garantizar que el desarrollo de la IA se mantenga en línea con la política y la regulación actuales. Un equipo de investigación podría pasar meses trabajando en una nueva capacidad de IA solo para que no cumpla con la regulación actual.
Lo mismo es cierto para las demandas siempre cambiantes de los consumidores, algo que COVID-19 ha hecho claramente visible. Dependiendo de cuánto tiempo tome el proceso de I + D, existe la posibilidad de que la demanda de los consumidores pueda cambiar durante el proceso de innovación (es decir, un producto centrado en la IA que se necesitaba anteriormente puede ya no ser relevante para el mercado actual). Esas necesidades o gustos cambiantes de los consumidores también afectan la regulación potencial. Si la regulación de la IA de una nación está demasiado estrechamente vinculada a las empresas de I + D, corre el riesgo de dar forma a la gobernanza que tendrá poca relevancia para la forma en que se utiliza la IA en la sociedad de consumo.
Crear grupos directivos para discutir e idear sobre construcciones de gobernanza, políticas públicas y ética
En 2018, la Comisión Europea creó un grupo directivo denominado Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial, formado por 52 expertos académicos, de la sociedad civil y de la industria para elaborar las Directrices éticas de la UE para una IA fiable.
Las Directrices, publicadas en abril de 2019 después de un año de consultas, identificaron siete requisitos clave que la IA debe cumplir para ser considerada confiable:
— Agencia y supervisión humana
— Robustez técnica y seguridad
— Privacidad y gobernanza de datos
— Transparencia
— Diversidad, no discriminación y equidad
— Bienestar social y medioambiental
— Rendición de cuentas
Una vez acordados los requisitos, el grupo emprendió un proceso piloto en el que todas las partes interesadas podrían participar, con el fin de recopilar comentarios para su mejora. Además, el grupo creó un foro para intercambiar las mejores prácticas para la implementación de una IA confiable.
Un año más tarde, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) lanzó sus Principios sobre IA para promover la innovación que sea confiable y respete los derechos humanos y los valores democráticos. Los principios fueron adoptados por 44 países (37 países miembros y siete países no miembros) para facilitar el debate sobre su incorporación en la política y la reglamentación.
Un elemento central de los Principios de la OCDE son las siguientes recomendaciones concretas para la política y la estrategia públicas:
— La IA debe beneficiar a los usuarios impulsando el crecimiento inclusivo y el desarrollo sostenible
— Los sistemas de IA deben diseñarse de manera que respeten el Estado de Derecho, y deben incluir salvaguardias adecuadas
— Debe haber transparencia y divulgación responsable en torno a los sistemas de IA
— Los sistemas de IA deben funcionar de forma robusta, segura y protegida
— Las organizaciones y las personas que desarrollan, despliegan u operan sistemas de IA deben rendir cuentas por su correcto funcionamiento de acuerdo con los principios.
Para acompañar al grupo directivo de los Principios sobre IA, la OCDE lanzó el Observatorio de Políticas de IA, una plataforma de discusión en línea y conocimiento de mejores prácticas para ayudar a «los países a habilitar, nutrir y monitorear el desarrollo responsable de sistemas confiables de inteligencia artificial (IA) para el beneficio de la sociedad».
La plataforma involucra a los gobiernos y a un amplio espectro de partes interesadas, incluidos socios de la comunidad técnica, el sector privado, el mundo académico, la sociedad civil y otras organizaciones internacionales, y proporciona un centro para el diálogo y la colaboración. Cada país participante tiene su propio panel de control en la plataforma que permite a otros usuarios conocer sus estrategias y políticas de IA publicadas.4
Implicaciones potenciales
Una de las mayores ventajas de crear un grupo directivo o comité es que reúne a un grupo de personas de diversas industrias, tanto públicas como privadas, que son expertos en la materia (PYME) o tienen experiencia en el campo de la IA. Además, la creación de comités directivos muestra que los gobiernos, las empresas y las organizaciones quieren utilizar la tecnología para mejorar la producción económica, pero también tienen el deseo de que la IA se utilice para el bien social y económico.
Dicho esto, siempre existe la posibilidad de que surja el «pensamiento de grupo» dentro del comité. Cuando eso sucede, ¿cómo se determina que la conclusión relacionada con la ética es la mejor decisión frente a la más aceptada? Esto también puede diferir según el país y la industria. Un componente clave del proceso de toma de decisiones del comité es garantizar que las decisiones no se vean comprometidas.
Otra área de preocupación es la falta de rendición de cuentas: ¿quién responsabiliza y responsabiliza al comité de crear construcciones de gobierno y ética? ¿Quién se asegurará de que el comité vele por el bien público?
Crear un foro de discusión y colaboración
En 2018, la Comisión Europea creó un grupo directivo llamado Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial, compuesto por 52 expertos académicos, de la sociedad civil y de la industria para producir las Directrices éticas de la UE para una IA fiable.
Las Directrices, publicadas en abril de 2019 después de un año de consultas, identificaron siete requisitos clave que la IA debe cumplir para ser considerada confiable:
— Agencia y supervisión humana
— Robustez técnica y seguridad
— Privacidad y gobernanza de datos
— Transparencia
— Diversidad, no discriminación y equidad
— Bienestar social y medioambiental
— Rendición de cuentas
Una vez acordados los requisitos, el grupo emprendió un proceso piloto en el que todas las partes interesadas podrían participar, con el fin de recopilar comentarios para su mejora. Además, el grupo creó un foro para intercambiar las mejores prácticas para la implementación de una IA confiable.
Un año más tarde, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) lanzó sus Principios sobre IA para promover la innovación que sea confiable y respete los derechos humanos y los valores democráticos. Los principios fueron adoptados por 44 países (37 países miembros y siete países no miembros) para facilitar el debate sobre su incorporación en la política y la reglamentación.
Un elemento central de los Principios de la OCDE son las siguientes recomendaciones concretas para la política y la estrategia públicas:
— La IA debe beneficiar a los usuarios impulsando el crecimiento inclusivo y el desarrollo sostenible
— Los sistemas de IA deben diseñarse de manera que respeten el Estado de Derecho, y deben incluir salvaguardias adecuadas
— Debe haber transparencia y divulgación responsable en torno a los sistemas de IA
— Los sistemas de IA deben funcionar de forma robusta, segura y protegida
— Las organizaciones y las personas que desarrollan, despliegan u operan sistemas de IA deben rendir cuentas por su correcto funcionamiento de conformidad con los Principios.
Para acompañar al grupo directivo de los Principios sobre IA, la OCDE lanzó el Observatorio de Políticas de IA, una plataforma de discusión en línea y conocimiento de mejores prácticas para ayudar a «los países a habilitar, nutrir y monitorear el desarrollo responsable de sistemas confiables de inteligencia artificial (IA) para el beneficio de la sociedad».
La plataforma involucra a los gobiernos y a un amplio espectro de partes interesadas, incluidos socios de la comunidad técnica, el sector privado, el mundo académico, la sociedad civil y otras organizaciones internacionales, y proporciona un centro para el diálogo y la colaboración. Cada país participante tiene su propio panel de control en la plataforma que permite a otros usuarios conocer sus estrategias y políticas de IA publicadas.
Implicaciones potenciales
Una de las mayores ventajas de crear un grupo directivo o comité es que reúne a un grupo de personas de diversas industrias, tanto públicas como privadas, que son expertos en la materia (PYME) o tienen experiencia en el campo de la IA. Además, la creación de comités directivos muestra que los gobiernos, las empresas y las organizaciones quieren utilizar la tecnología para mejorar la producción económica, pero también tienen el deseo de que la IA se utilice para el bien social y económico.
Dicho esto, siempre existe la posibilidad de que surja el «pensamiento de grupo» dentro del comité. Cuando eso sucede, ¿cómo se determina que la conclusión relacionada con la ética es la mejor decisión frente a la más aceptada? Esto también puede diferir según el país y la industria. Un componente clave del proceso de toma de decisiones del comité es garantizar que las decisiones no se vean comprometidas.
Otra área de preocupación es la falta de rendición de cuentas: ¿quién responsabiliza y responsabiliza al comité de crear construcciones de gobierno y ética? ¿Quién se asegurará de que el comité vele por el bien público?
Esta tendencia se basa en la idea colaborativa del grupo directivo, pero la abre a las principales partes interesadas, agencias, gobierno y el sector privado. Al hacerlo, proporciona una plataforma para la colaboración basada en líderes expertos en el espacio de la IA.
Un buen ejemplo de esto en acción es la Estrategia Pancanadiense de IA, un programa de US $ 125 millones lanzado en 2017 a instancias del gobierno canadiense por la organización de investigación global CIFAR. La estrategia nacional de IA fue la primera de su tipo y un pilar clave es AI & Society, que tiene como objetivo desarrollar un liderazgo de pensamiento global sobre las implicaciones económicas, éticas, políticas y legales de los avances en IA.
Organiza talleres para explorar cómo la IA afectará temas como la medicina ética, el cambio climático y la desigualdad entre las poblaciones vulnerables, así como para reunir a los futuros líderes políticos para discutir cómo la IA afectará las políticas públicas.
La Estrategia Pancanadiense también creó una Red de Soluciones, un equipo global de expertos interdisciplinarios intersectoriales reunidos para diseñar y desarrollar soluciones de IA responsables y beneficiosas. En 2020, uno de los desafíos clave que pretendía resolver era cómo desarrollar soluciones de gobernanza de IA para apoyar la IA responsable en los países de ingresos medios-bajos.
Otro grupo de colaboración dedicado a la colaboración es The Institute of AI, que es una organización global sin fines de lucro que trabaja con legisladores de todo el mundo para comprender mejor el impacto y la regulación de la IA. Las discusiones se centran en las tendencias éticas, sociales y geopolíticas en el desarrollo de la IA, incluido el papel de la IA en la prevención de la propagación de COVID-19. El Instituto organiza mesas redondas y reuniones informativas con legisladores que tienen un interés demostrado en la política tecnológica y comparten contenido a través de su red.
Implicaciones potenciales
La creación de un diálogo para una discusión abierta sobre lo que se necesita para hacer avanzar la IA en el país permite una amplia gama de perspectivas relevantes diferentes y expertas. Estos pueden ayudar a verificar la estrategia actual y hacer una lluvia de ideas sobre formas de mejora e innovación.
También permite la discusión y las ideas del público. Los representantes del sector privado pueden ofrecer áreas de mejora para la IA en función de las necesidades y deseos de los consumidores. Al crear foros y talleres, el gobierno también muestra que el desarrollo de la IA es una prioridad desde el punto de vista económico, social y de gobernanza.
Sin embargo, si bien el objetivo del foro es reunir a varios expertos, existe el riesgo de diferentes prioridades en la forma en que se debe utilizar la IA. Para los reguladores, deberán elegir primero qué prioridades de IA valorar y centrarse.
Construir el ecosistema de IA incluyendo el desarrollo de habilidades, capacidades tecnológicas, asociaciones y colaboración interfuncional
Para construir un ecosistema de IA sostenible y competitivo del futuro, las organizaciones deben dedicar fondos a I + D, estimular el espíritu empresarial y comprometerse con la capacitación de la fuerza laboral. Esto es especialmente importante para los países que buscan reforzar su posición a los ojos de los inversores, los proveedores de IA y los consumidores de IA.
En 2017, China publicó su «Plan de Desarrollo de Inteligencia Artificial de Próxima Generación», una hoja de ruta para convertirse en el líder mundial en inteligencia artificial para 2030.6 Incluye iniciativas para I + D, desarrollo de talento y habilidades e industrialización, así como regulaciones, normas éticas y seguridad.
En el corazón de esta estrategia se encuentra un plan de tres pasos para crear un ecosistema de IA para toda la economía y la sociedad. El primer paso fue poner al día la industria de IA de China para 2020 con los competidores globales mediante el desarrollo de una «nueva generación» de teoría y tecnología de IA. Incluía un conjunto de estándares, políticas y ética para la IA que podrían aplicarse en toda la segunda economía más grande del mundo.
El paso # 2 es convertirse en líder mundial en algunos campos de IA para 2025, mientras que el paso final apunta a establecer a China como el líder mundial en IA con una industria valorada en US $ 150 mil millones.
Para ayudar a lograr el primer paso, China comenzó la construcción de un parque tecnológico de IA de 2.100 millones de dólares en Beijing que albergará a 400 empresas.
Implicaciones potenciales
Muchas naciones quieren ser el líder mundial o regional en IA como parte de la «próxima revolución industrial». Para ello se requerirá un esfuerzo verdaderamente nacional para proporcionar los recursos para capacitar a las personas y construir las herramientas adecuadas. Al dar forma a una visión para todo un ecosistema de IA, es posible volver a capacitar a la fuerza laboral y enfocar la inversión para prepararse para el futuro.
A largo plazo, al invertir en el desarrollo, la capacitación y la tecnología de la IA, los países deberían ver un aumento en la producción (es decir, la fabricación y otros productos), una mayor eficiencia y, con suerte, un retorno de su inversión.
A corto plazo, sin embargo, los países tendrán que invertir en la capacitación de su personal para garantizar que la fuerza laboral esté lista para la revolución de la IA, que puede tener implicaciones sociales.
Los países y los gobiernos no solo están estableciendo marcos de IA, sino que también están creando políticas, leyes y actos.
En 2019, los senadores estadounidenses presentaron la Ley de Responsabilidad Algorítmica8, el primer esfuerzo legislativo federal para regular los sistemas de IA en todas las industrias en los Estados Unidos y un reflejo en el gobierno de la creciente preocupación con respecto a la implementación legal y ética de la IA. La legislación pendiente requeriría que la Comisión Federal de Comercio cree reglas para evaluar sistemas automatizados «altamente sensibles» como la IA. Requeriría que las empresas evalúen si los algoritmos son sesgados o discriminatorios y si ponen en riesgo la seguridad o la privacidad de los consumidores.
La Ley se aplicaría principalmente a las grandes empresas de tecnología y aquellas que tienen al menos 1 millón de personas o información de dispositivos, con ingresos anuales promedios superiores a US $ 50 millones y actúan principalmente como corredores de datos que compran y venden datos de consumidores.
La Ley de Privacidad de Reconocimiento Facial Comercial Bipartidista también se presentó en 2019. El proyecto de ley prohibiría a las empresas comerciales utilizar la tecnología de reconocimiento facial sin el consentimiento explícito de las personas. Los usuarios tendrían que ser notificados cuando sus datos de reconocimiento facial sean utilizados o recopilados por las empresas comerciales. El proyecto de ley también pedía la creación de un tercero independiente para probar la nueva tecnología para garantizar que sea imparcial y no dañe a los consumidores.
No es solo el gobierno federal el que está buscando regular la IA. Los gobiernos estatales y locales también están persiguiendo leyes de contabilidad algorítmica. En 2017, la ciudad de Nueva York se convirtió en la primera legislatura de los Estados Unidos en aprobar un proyecto de ley de transparencia algorítmica, mientras que, en 2019, el Estado de Washington presentó un proyecto de ley destinado a eliminar el sesgo en la toma de decisiones automatizada.
Implicaciones potenciales
Las naciones más pequeñas y emergentes prestarán mucha atención a las acciones de los países que lideran la IA (como los Estados Unidos, el Reino Unido y China). Esto probablemente los alentará o los «empujará» a crear también sus propias políticas y marcos de IA.
Dado el ritmo de adopción de la IA a nivel mundial, bien podríamos ver una prisa por regular en los próximos 7 a 10 años. En este momento, sin embargo, hay un «problema de ritmo»: las capacidades tecnológicas están superando la regulación existente.
¿Cuál es el futuro de la regulación de la IA y cómo pueden desempeñar un papel las empresas?
En la actualidad, las empresas están operando e innovando la IA en una especie de entorno de regulación del «Salvaje Oeste». Algunos países y regiones están configurando activamente las políticas y presentando legislación, mientras que otros están creando los marcos para lo que debería ser la regulación de las mejores prácticas. Sin embargo, la mayoría de las jurisdicciones a nivel mundial aún no han comprendido completamente las implicaciones completas de cómo la IA dará forma a sus economías y sociedades. Además, el ritmo de la innovación de la IA está sucediendo tan rápidamente que incluso los gobiernos más sofisticados tecnológicamente están luchando por mantenerse al día.
El país o la región que puede ayudar a influir en los estándares de las normas globales éticas de la IA y dar forma a la regulación para protegerla, probablemente tendrá una influencia. Sin embargo, algunas naciones continuarán siendo cautelosas sobre la «sobrerregulación» de la IA mientras intentan comprender y mitigar los riesgos e implicaciones de lo que puede salir mal con las capacidades de la IA.
También es poco probable que un conjunto general de regulaciones globales de IA, un enfoque único para todos, pueda ser efectivo. Esto se debe a que la regulación de la IA tiene tanto que ver con la regulación de los valores humanos como con la tecnología. Podemos defender un conjunto de valores humanos universales, pero la forma en que se interpretan y aplican en diferentes culturas y países difiere enormemente. Lo que se considera sesgo o discriminación en una nación bien podría ser la ley en otra.
Lograr el equilibrio adecuado entre regulación e innovación será vital tanto para el gobierno como para las empresas. Por eso es tan importante la transparencia y la colaboración.
Tanto el gobierno como la comunidad empresarial deben unirse en un entorno neutral para tratar de encontrar lo que es mejor para todos y crear algo que sea adaptable pero aplicable. Como hemos visto con algunas de las tendencias descritas anteriormente, eso también implica atraer a partes interesadas externas, como académicos y grupos cívicos. No serán expertos en IA, pero comprenderán los valores que hacen que su sociedad funcione y prospere.
Este tipo de colaboración entre sociedades e intersectoriales también puede crear los bloques de construcción para una regulación futura exitosa, ya sean principios de adopción de IA o la formulación de una serie de estándares de la industria para IA. Cuantas más empresas participen en el diálogo con la sociedad para dar forma a la regulación, más informadas estarán todas las partes.
Lo que las empresas pueden hacer ahora
Si bien es exhaustiva y aplicable, la regulación de la IA puede no surgir a corto plazo; Se puede esperar que los marcos de gobernanza de IA estandarizados, con principios comunes de IA, se materialicen dentro de 2 a 3 años en las economías relativamente maduras de IA. Esto significa que las organizaciones deben ser proactivas y estar preparadas para considerar las implicaciones únicas de gobernanza y riesgo a medida que se embarcan en su viaje de IA, y ayudar a dar forma a esos marcos y principios.
Conclusion
Cualquiera que trabaje en el campo de la IA ya sabe lo transformador que será para las empresas y la sociedad en los próximos años. Hoy en día, las empresas tienen la oportunidad de impulsar innovaciones de IA que darán forma a nuestro mundo a un ritmo y a una escala no vistos desde la invención de la electricidad.
Con este poder viene una gran responsabilidad. En la actualidad, muchos gobiernos se están involucrando y colaborando para comprender mejor el impacto que puede tener la IA. A medida que los reguladores continúan por ese camino, las regulaciones que redactan pueden tratar de influir en el ciclo de innovación y aplicación de la IA en una amplia gama de industrias y casos de uso.
Las empresas que están formulando y poniendo en práctica de manera proactiva sus propias políticas y principios de gobernanza de la IA ahora, que generan confianza y demuestran transparencia y altos estándares éticos, pueden ayudar a los gobiernos a dar forma a la regulación regional y global y estar mejor posicionadas para tener éxito cuando se promulgue la regulación.
Al actuar ahora, las empresas pueden ayudar a enmarcar la regulación de la IA que puede beneficiar a toda la sociedad.