Responsabilidad | Empoderando el liderazgo de la IA

Responsabilidad Empoderando el liderazgo de la IA

Contenido

Introducción | Debida diligencia | Acceso a la información | Estrategia y riesgo | Desempeño, gastos, adquisiciones | Notas finales

Otros módulos:

Introducción

Nuestro análisis sobre las responsabilidades de la junta para la supervisión de la inteligencia artificial se basa en un estándar global para las prácticas de gobierno corporativo: los Principios de Gobierno corporativo del G20/OCDE.[1] Los Principios, emitidos por primera vez en 1999 y actualizados en 2004 y 2015, son un conjunto de directrices para juntas directivas adoptadas por el Consejo de la OCDE y respaldadas por los líderes del G20. La versión 2015 de los Principios fue desarrollada y revisada por el comité de Gobierno Corporativo de la OCDE, con aportes de expertos del Comité de Supervisión Bancaria de Basilea, la Junta de Estabilidad Financiera y el Grupo del Banco Mundial.

Para preparar los instrumentos de supervisión de la IA, el Centro para la Cuarta Revolución Industrial en San Francisco analizó las responsabilidades de la junta descritas en los Principios y las aplicó a la inteligencia artificial. El análisis fue revisado por expertos jurídicos en gobierno corporativo en las empresas miembros del Centro y probado por los directores de las juntas que pusieron a prueba el kit de herramientas.

Los Principios sugieren responsabilidades que son igualmente aplicables a muchos de los 12 módulos en el kit de herramientas de supervisión de la IA. Para evitar repeticiones, hemos reunido estas responsabilidades comunes aquí en el módulo de Responsabilidad. Los principios y las responsabilidades de IA que pertenecen solo a un módulo se describen en el módulo respectivo.

Los valores y la ética deben integrarse en todas las decisiones empresariales, en lugar de tratarse como una idea tardía. Estamos de acuerdo con los autores de los Principios del G20 / OCDE en que

Los altos estándares éticos se encuentran en los intereses a largo plazo de la compañía como un medio para hacerla creíble y confiable, no solo en las operaciones diarias sino también con respecto a compromisos a más largo plazo. (Principio VI: C)

En consecuencia, en este módulo y en otros, incluimos responsabilidades éticas junto a otros en lugar de tratarlos por separado. El módulo de Ética se enfoca en establecer los estándares éticos.

El análisis en este módulo no constituye asesoramiento legal y no pretende abordar los requisitos legales específicos de ninguna jurisdicción o régimen regulatorio. Se anima a las juntas a consultar con sus asesores legales para determinar la mejor manera de aplicar a su compañía los principios discutidos en este módulo.

Debida diligencia

Los miembros de la junta deben actuar de manera totalmente informada, de buena fe, con la debida diligencia y cuidado, y en el mejor interés de la empresa y los accionistas. (Principio VI.A)

Al considerar las preguntas sobre la función de la inteligencia artificial en la estrategia y la gestión de riesgos, los miembros de la junta deben hacer esfuerzos de buena fe para estar completamente informados sobre:

El uso y los planes de la gerencia para aplicar la IA en su estrategia.
Los beneficios anticipados y el progreso en el logro de esos beneficios.
La alineación del uso de la IA con los valores centrales y estándares éticos.
Los riesgos internos y externos asociados con su estrategia de IA.
Los cambios legales y reglamentarios que afectan el uso de IA.

Acceso a la información

Para cumplir con sus responsabilidades, los miembros de la junta deben tener acceso a información precisa, relevante y oportuna. (Principio VI.F)

Para garantizar el acceso a la información requerida para supervisar la aplicación de la IA a la estrategia:

Los miembros de la junta deberían poder obtener de la gerencia, otros empleados y terceros la información necesaria para cumplir con sus responsabilidades de supervisión relacionadas con la IA;
Los miembros de la junta deben tener acceso, sin costo alguno, al asesoramiento oportuno de consultores calificados.

Estrategias y riesgos

La junta debe cumplir ciertas funciones clave, que incluye la revisión y orientación de la estrategia corporativa, los principales planes de acción, las políticas y procedimientos de gestión de riesgos, los presupuestos anuales y los planes comerciales. (Principio VI.D.1)

Los temas relacionados con la IA que las juntas deberían revisar y guiar pueden incluir:

Estrategia corporativa, principales planes de acción, presupuestos:

Visión de la gerencia para usar la IA con el fin de impulsar la estrategia empresarial de la compañía.
El establecimiento de resultados comerciales claros para la IA.
Uso y planes de los competidores para la IA.
Principales acciones y gastos planificados para usar la IA.
La consistencia de los planes de gestión para la AI con los estándares éticos de la compañía, incluidas las cuestiones de anticorrupción y medioambientales.
Conocimiento de las oportunidades emergentes y los recursos para usar la inteligencia artificial con el fin de respaldar la innovación del modelo comercial y operativo, por ejemplo, nuevas fuentes de datos y cambios en el ecosistema de la compañía.
El fortalecimiento de la innovación en toda la organización.

Políticas y procedimientos de la gestión de riesgos:

El conocimiento de la gerencia sobre los riesgos (i) de usar la IA en la estrategia de la organización, (ii) del uso de la IA por parte de los competidores y (iii) de violar la privacidad de los clientes.
Planes y acciones de la gerencia para mitigar esos riesgos.
Riesgos legales, regulatorios y operativos de la IA, si el uso de IA por parte de la compañía cumplirá con las próximas leyes y regulaciones, y qué tan bien la gerencia los entiende.
Riesgos e impactos éticos en la sociedad de los planes de la compañía por usar la IA, y qué tan bien la gerencia los anticipa.
La implementación ética y responsable de los planes de IA de la gerencia.
El equilibrio entre riesgo e innovación, incluyendo lo que constituye riesgos aceptables (experimentos fallidos, interrupciones del servicio, etc.)

Desempeño, gastos, adquisiciones

La junta debe cumplir ciertas funciones clave, incluyendo... el establecimiento de objetivos de desempeño; el monitoreo de la implementación y el desempeño corporativo; y la supervisión de los principales gastos de capital, adquisiciones y desinversiones. (Principio VI.D.1)

Los temas relacionados con la IA que las juntas deberían revisar y guiar pueden incluir:

El establecimiento de objetivos de desempeño, monitoreo de la implementación y el desempeño:

Alineación del uso de IA de la compañía con su estrategia, sus indicadores clave de rendimiento y de riesgo.
Impacto de la IA en los indicadores de valor de los accionistas de la gerencia y otros objetivos de los accionistas.
Progreso hacia la implementación exitosa de los planes de IA.
Si y cómo factorizar el rendimiento de la IA en los objetivos de desempeño para la gerencia.
Adhesión de proveedores y socios a los principios éticos de IA de la compañía.
Efectividad del uso de la gestión de la IA para acelerar procesos clave y mejorar la productividad.

Principales gastos de capital, adquisiciones y desinversiones:

Grandes inversiones en sistemas de IA, servicios y talento.
Impacto de las adquisiciones de la empresa en su capacidad de usar la IA.
Nuevos riesgos comerciales y éticos introducidos por compañías adquiridas.
Garantía de que las organizaciones adquiridas siguen los estándares éticos de IA de la compañía.

Notas finales

[1] OECD (2015), G20/OECD Principles of Corporate Governance, OECD Publishing, París.

Otros módulos:

Appreciate