IBM i Esade advoquen per un govern ètic de la intel·ligència artificial als consells d’administració
Augmentar la intel·ligència humana, mai substituir-la; garantir la transparència i l’explicabilitat dels sistemes, i reconèixer l’autoria de les idees i les dades als seus creadors. Aquests tres principis, concebuts com la base d’un govern ètic de la intel·ligència artificial (IA), articulen la ‘Guía de consejeros para una IA ética’, elaborada pel Centre de Govern Corporatiu d’Esade i IBM i presentada al campus d’Esade a Madrid. El document marca una fita en situar el consell d’administració al centre d’un debat que ha deixat de ser exclusivament tecnològic per convertir-se en una qüestió estratègica, organitzativa i cultural: com assegurar que la IA s’utilitza d’una manera responsable i en coherència amb la identitat i amb els principis de cada organització.
La guia assenyala la urgència que les empreses disposin d’uns marcs sòlids de governança que garanteixin un ús ètic de la IA, transparent i ajustat a la normativa, sempre en coherència amb els valors corporatius que han de guiar qualsevol estratègia d’IA. El document destaca que aquest repte requereix integrar principis com la intel·ligibilitat dels sistemes, la responsabilitat en la presa de decisions i la protecció de dades, junt amb mecanismes que n’assegurin la robustesa tècnica, la supervisió humana i la mitigació dels riscos socials, ambientals i de discriminació. En aquest context, la funció del consell d’administració esdevé crítica: és l’òrgan encarregat d’aprovar les polítiques, de supervisar-ne el compliment i de liderar una estratègia d’IA alineada amb la missió i amb els compromisos de l’empresa.
Per Mario Lara, director del Centre de Govern Corporatiu d’Esade, “la IA ja no es pot considerar un element accessori, sinó un catalitzador que condiciona decisions crítiques. Aquesta realitat exigeix comptar amb uns consellers que siguin capaços de comprendre i de qüestionar els fonaments tècnics i ètics d’aquestes eines, alhora que la pròpia IA ofereix noves oportunitats per incrementar l’eficiència dels processos del consell. Això fa que el repte no tan sols sigui tecnològic, sinó també organitzatiu i cultural”.
Prevenció de riscos i avantatge competitiu
La guia també adverteix dels riscos ètics associats a l’ús de la IA, com els biaixos algorítmics, la manca de transparència, la dificultat d’atribuir responsabilitats o els usos indeguts de les dades, i sosté que una governança seriosa i estructurada no tan sols permet mitigar-los, sinó que pot esdevenir un factor de competitivitat. “Les empreses que situen l’ètica al centre no tan sols redueixen la seva exposició a riscos, sinó que incrementen la productivitat i la competitivitat”, ha assegurat Ana Gobernado, directora general d’IBM Consulting Espanya, Portugal, Grècia i Israel. “Un marc de govern sòlid i adaptable és essencial per impulsar el creixement sostenible i generar valor a llarg termini per a tots els grups d’interès”, ha destacat.
En aquesta línia, la guia elaborada pel Centre de Govern Corporatiu d’Esade i IBM insta els consells d’administració a desenvolupar i aplicar la IA per reforçar la confiança entre els clients, els empleats i els inversors, i per complir amb un entorn regulador cada vegada més exigent. Per a això, els seus autors recomanen als consellers que adoptin un enfocament proactiu i informat, que inclogui, entre d’altres, establir un marc de governança específic, crear un grup de treball o un consell assessor que n’abordi les implicacions ètiques, i assignar unes responsabilitats clares. També aconsellen rebre formació especialitzada, establir unes pràctiques sòlides de governança de dades, promoure la transparència i fer una supervisió i una auditoria contínues.
La presentació de la 'Guia de consellers per a una IA ètica' ha tingut lloc al campus d’Esade a Madrid i ha comptat amb la participació de Mario Lara, director del Centre de Govern Corporatiu d’Esade i d’Esade Madrid, i d’Ana Gobernado, Marta Majoral i Miguel Ángel Morcuende, directora general, directora d’Estratègia i Govern IA, i soci associat, respectivament, d’IBM Consulting Espanya, Portugal, Grècia i Israel. Han participat en la taula rodona Antonio Gómez Ciria, conseller de MAPFRE i Redeia, i Guadalupe de la Mata, consellera d’Hispasat i Redeia, moderats per Emma Fernández, consellera independent de 74Software, IskayPet, Metrovacesa i el Digital Consumer Bank del Santander.
