La IA responsable, clau per transformar la innovació tecnològica en impacte positiu per a la societat
La intel·ligència artificial està ampliant les capacitats humanes i obrint noves oportunitats en àmbits molt diversos, però el seu potencial per generar progrés econòmic i social depèn de com es dissenyi, es desenvolupi i s’utilitzi. Evitar que els seus avenços ampliïn les desigualtats, garantir el respecte dels drets fonamentals i situar les persones al centre de les decisions són alguns dels reptes que han d’afrontar les organitzacions per avançar cap a una IA responsable.
Amb l’objectiu de reflexionar sobre aquests reptes, la Fundació SERES i Esade han celebrat una nova sessió del Cicle de Conferències Esade - Fundació SERES amb el títol "IA responsable per a un impacte significatiu". La trobada ha comptat amb la participació de Mario Lara, director d’Esade Madrid; Ana Sainz, directora general de la Fundació SERES; Jesús Cuesta, AI Lead d’Accenture; Sonia Ruiz, col·laboradora acadèmica de l’Institut d’Innovació Social d’Esade i CEO i sòcia fundadora de NOIMA, Sustainability Strategies; i Ana Torres, directora d’Impacte Social d’Orange Espanya.
La responsabilitat de la IA comença en les decisions de lideratge
Per a Ana Sainz, directora general de la Fundació SERES, "la intel·ligència artificial pot alliberar temps, ampliar capacitats i generar noves oportunitats que es tradueixin en progrés econòmic i social. Però a la Fundació SERES estem convençuts que aquesta transformació no es pot entendre únicament com un projecte tecnològic: les persones han de continuar determinant el propòsit, el context, els límits i la responsabilitat de les decisions".
Mario Lara, director d’Esade Madrid, ha destacat la importància de situar la responsabilitat al centre de la transformació que implica la intel·ligència artificial: "Estem vivint un moment de canvi extraordinari. La intel·ligència artificial ha entrat amb molta força a les nostres empreses, amb una promesa molt atractiva, però també amb riscos. Ens promet més productivitat, més eficiència, més capacitat d’innovació, nous negocis i nous productes i serveis. Però n’hi ha prou que la IA sigui eficaç per a les nostres empreses? Probablement no". També ha recordat que incorporar aquesta tecnologia implica assumir responsabilitats sobre els seus efectes en les persones, la feina i l’ús de les dades, així com sobre qui decideix i respon quan alguna cosa falla: "Podem delegar tasques en la IA, però hi ha una cosa que no podem delegar: la responsabilitat sobre aquestes decisions, que correspon a les persones que formem part dels òrgans de direcció".
La IA responsable, una decisió estratègica que exigeix lideratge i governança
Jesús Cuesta, AI Lead d’Accenture, ha subratllat que el desenvolupament responsable ha de formar part del procés des de l’inici i orientar-se a generar confiança i valor: "La intel·ligència artificial pot ampliar capacitats, eliminar barreres i obrir oportunitats que fins ara semblaven difícils d’assolir. Desenvolupar-la de manera responsable, des del disseny i amb les persones liderant el procés, és el que genera la confiança necessària per escalar-la i aconseguir que els seus beneficis arribin cada vegada a més empreses i al conjunt de la societat".
Cuesta ha assenyalat que les empreses han de partir del problema que volen resoldre i del valor que busquen generar, no de la mera disponibilitat de la tecnologia. Per fer-ho, ha destacat tres claus: definir el valor esperat, identificar els riscos i mesurar l’impacte real de la IA un cop implementada.
En aquesta línia, Sonia Ruiz, col·laboradora acadèmica de l’Institut d’Innovació Social d’Esade i CEO i sòcia fundadora de NOIMA, Sustainability Strategies, ha assenyalat que l’ètica ha d’orientar les decisions de negoci: "Una governança real de la IA també s’hauria de mesurar en la capacitat de dir no a projectes que no estiguin alineats amb aquests principis ètics".
Ruiz també ha advertit que la IA pot ampliar les desigualtats si no va acompanyada d’una formació accessible per a les persones amb menys competències digitals. Així mateix, ha subratllat la necessitat d’incorporar la sostenibilitat al seu desenvolupament, tot recordant que el seu ús té un cost energètic i hídric que les empreses han de tenir en compte: "Les empreses no poden descarbonitzar les seves operacions i ‘carbonitzar’ el núvol".
Per la seva banda, Ana Torres, directora d’Impacte Social d’Orange Espanya, ha defensat que la tecnologia ha de contribuir a reduir les bretxes i respondre a les necessitats de les persones més vulnerables: "En l’era de la intel·ligència artificial, el nostre principal objectiu és assegurar que aquesta eina serveixi per reduir bretxes i no per ampliar-les, dissenyant solucions pensades per i per als col·lectius més vulnerables". A més, ha afegit que "la IA genera tant entusiasme com incertesa i comporta, alhora, riscos i oportunitats. Davant d’aquest escenari, les empreses hem de mantenir un compromís infrangible amb les persones, construir confiança i garantir que la tecnologia estarà sempre al seu servei".
Els participants han coincidit que la IA responsable s’ha d’abordar com una decisió estratègica, amb les persones al centre i una governança que garanteixi transparència i responsabilitat. El repte és aprofitar-ne el potencial per generar oportunitats i contribuir al bé comú sense ampliar les bretxes socials ni ignorar-ne l’impacte ambiental.
Des del 2011, el Cicle de Conferències Esade - Fundació SERES ha reunit 150 ponents en més de 50 trobades per acostar tendències, experiències i bones pràctiques empresarials en l’àmbit social i reforçar el paper de l’empresa com a agent clau del progrés econòmic i social.