Catalunya compta des d’avui amb un organisme que vetllarà pel desenvolupament al país d’una intel·ligència artificial ètica, confiable i amb el benestar de les persones com a finalitat última. Es tracta de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya, impulsat conjuntament pel Departament de Polítiques Digitals i Administració Pública en el marc de l’Estratègia d’Intel·ligència Artificial de Catalunya Catalonia.AI i la Universitat de Girona (UdG), d’acord amb el Pla estratègic UdG2030: la suma d’Intel·ligències.

L’objectiu final de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya és estudiar en detall les conseqüències ètiques i legals i els riscos i oportunitats de la implantació de la IA en la nostra vida diària des d’un punt de vista transversal i vetllar perquè la tecnologia s’apliqui per millorar el benestar de les persones de manera segura, justa i respectant les nostres normes socials i culturals.

El tret de sortida de l’Observatori l’han donat aquest matí el conseller de Polítiques Digitals, Jordi Puigneró, i el rector de la UdG, Quim Salvi, que han presentat el nou organisme en un acte telemàtic davant una nodrida representació d’agents de l’ecosistema de la IA de Catalunya procedents de diferents àmbits.  

L’acte també ha comptat amb la intervenció del vicerector de Projectes Estratègics de la UdG, Josep Calbó, i amb les ponències de la periodista especialitzada en TIC Karma Peiró i de la professora d’Investigació a l’Institut de Robòtica (CSIC-UPC) i escriptora Carme Torras.

Objectius estratègics i àmbits d’actuació de l’Observatori

L’Observatori d’Ètica en Intel·ligència Artificial de Catalunya té com a objectius estratègics, a més dels esmentats com a objectius generals:

• Determinar les mètriques que permetin analitzar l’evolució del desenvolupament de IA a Catalunya.
• Generar bones pràctiques i fomentar el coneixement amb fòrums de debat i reflexió que creïn un entorn de confiança per facilitar la introducció de IA a les empreses i les administracions.
• Assegurar un treball en xarxa amb les institucions del país que tenen algun paper en el desenvolupament i ús de la IA.

Per assolir-los, l’Observatori actuarà sobre diferents àmbits:

• Indicadors i informes: elaboració i publicació dels indicadors i informes propis i de tercers per fer el seguiment del desenvolupament de la IA a Catalunya.
• Espais de reflexió i debat: desenvolupament de jornades i tallers per debatre sobre IA, ètica i regulació amb la participació d’agents de la quàdruple hèlix.
• Conscienciació ciutadana: activitats perquè la ciutadania adquireixi coneixement per opinar sobre les solucions amb IA i les eines de decisió automàtica.
• Col·laboració internacional: establiment de contactes amb diferents grups d’experts sobre ètica en l’ús i aplicacions de la IA a nivell internacional i compartició de les experiències i resultats obtinguts.
• Consell Assessor: creació d’un grup experts amb perfils de diferents entorns (acadèmic, tecnològic, humanístic, legal, econòmic, etc.) perquè puguin orientar les accions desenvolupades en els diferents àmbits d’actuació.

Investigar l’impacte ètic de la IA, interès compartit

L’Observatori d’Ètica en Intel·ligència Artificial de Catalunya és fruit de la col·laboració entre del Departament de Polítiques Digitals i la Universitat de Girona i conseqüència de la confluència d’interessos entre ambdues entitats.

Així, el passat 18 de febrer de 2020, el Govern de la Generalitat de Catalunya va aprovar l’Estratègia d’Intel·ligència Artificial de Catalunya, Catalonia.AI, una estratègia de país transversal, multisectorial i centrada en les persones que vol aprofitar tot el potencial de la IA en benefici de la societat i fer de Catalunya un pol tecnològic mundial en tecnologia d’intel·ligència artificial.

L’estratègia, pionera a tot l’Estat i alineada amb els eixos estratègics de la Comissió europea en aquest àmbit, preveu com a prioritat i estructura essencial la posada en marxa d’un observatori per investigar l’impacte ètic de la IA. Un objectiu amb el qual coincideix la Universitat de Girona en el marc del seu ‘Pla Estratègic UdG2030: la Suma d’Intel·ligències’, que també contempla la creació d’un observatori de l’ètica de la intel·ligència artificial, entre d’altres actuacions destinades a donar valor per als estudiants i la societat en general a la integració de la intel·ligència natural, la intel·ligència artificial i la intel·ligència col·lectiva.

Com a conseqüència d’aquesta confluència d’interessos, Polítiques Digitals i la UdG signen un acord de col·laboració per impulsar conjuntament l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya, que pren la forma d’una càtedra amb seu a la UdG i que neix amb un pressupost de 250.000€ per al període 2020–2022 finançats principalment pel Departament de Polítiques Digitals en el marc de l’estratègia Catalonia.AI.

Per tal de garantir la coordinació de les accions i el seguiment del desenvolupament de l’Observatori, s’estableix un Comitè de Seguiment integrat per dos representants del Departament de Polítiques Digitals i dos representants de la Universitat de Girona.