La UPC posa la primera llavor per definir el nou Comitè Ètic de la Universitat

Gabriel Bugeda, vicerector de Política Científica de la UPC, al debat sobre l'ètica a les universitats politècniques

Cecilio Angulo, director del centre de recerca Intelligent Data Science and Artificial Intelligence (IDEAI) de la UPC, ha moderat el debat

Aposta de la UPC pels valors ètics en Intel·ligència Artificial

En un moment emergent de noves tecnologies com ara la intel·ligència artificial, la UPC aposta per posar sobre la taula la importància d’establir criteris ètics i valors humans sòlids envers aquestes, i d’involucrar a les administracions, universitats i empreses a treballar alineades per prendre consciència de les implicacions ètiques que el seu ús comporta.

En aquesta línia, diferents investigadors experts del nou centre de recerca IDEAI de la UPC participen en les estratègies d’intel·ligència artificial, tant en l’àmbit estatal, com de Catalunya. Així mateix, els sis grups de recerca consolidats que integren aquest centre de recerca treballen actualment en una trentena de projectes en intel·ligència artificial com el que es duu a terme arran del recent conveni marc de la UPC amb el Hub de Digitalització de Siemens, que ha permès la creació del Centre de Competència UPC-Siemens, així com la participació de la UPC en projecte europeu AI4EU, en el qual també prenen part el BSC-CNS i l'IRI. El projecte AI4EU, que involucra també altres 60 centres de recerca punters, marcarà el full de ruta en recerca, desenvolupament i innovació en aquest àmbit a Europa en els propers deu anys. En aquest marc es crearà ‘l'Observatori d'Ètica AI4EU’, que vetllarà pel respecte als valors humans en intel·ligència artificial.

L'Aula Màster del Campus Nord de la UPC, a Barcelona, s’ha omplert aquest dijous, 11 d'abril, amb motiu del debat sobre l'ètica a les universitats politècniques, impulsat pel Rectorat de la UPC. Moderat pel director del centre de recerca Intelligent Data Science and Artificial Intelligence (IDEAI) de la UPC, Cecilio Angulo, ha comptat amb la participació d’investigadors, investigadores i experts i expertes dels àmbits de la sanitat, la biotecnologia, la bioètica, el dret, la psicologia, la robòtica i la intel·ligència artificial.

11/04/2019

La presentació del debat ha anat a càrrec del vicerector de Política Científica de la Universitat Politècnica de Catalunya · BarcelonaTech (UPC), Gabriel Bugeda, que ha destacat “la importància de posar sobre la taula i respondre els interrogants ètics que plantegen els avenços científics i tecnològics, encara més en una universitat referent com la UPC”. Ha donat pas a Cecilio Angulo, director del centre de recerca Intelligent Data Science and Artificial Intelligence (IDEAI) de la UPC, que ha moderat el debat i que ha estat un dels promotors, juntament amb Ulises Cortés, investigador del Departament de Ciències de la Computació i del Barcelona Supercomputing Center – Centro Nacional de Supercomputación (BSC-CBNS). Angulo ha introduït el debat parlant sobre les diferents dimensions de la tecnoètica: la preètica (l’ètica implicada en el desenvolupament de la tecnologia), la postètica (les qüestions ètiques plantejades per la introducció de la tecnologia) i la meta-ètica (el codi ètic dels agents implicats en el desenvolupament tecnològic). Angulo, que s’ha referit a aquest debat com “la primera llavor per començar a treballar la dimensió ètica a la UPC i definir la creació d’un Comitè Ètic a la Universitat de l’estat de les tecnologies”, ha donat pas a les intervencions dels diferents experts.

La primera intervenció ha anat a càrrec de David Cerdán, alumni de la Facultat d’Òptica i Optometria de Terrassa (FOOT) de la UPC i membre el Comitè Ètic d'Investigació Clínica (CEIC) del Centre d'Oftalmologia Barraquer, que ha enumerat els diferents comitès d’ètica actualment existents a Espanya i ha fet una breu introducció del seu origen –com a conseqüència de casos com els abusos en l’experimentació amb éssers humans realitzats a l’època nazi o l’experiment Tuskegee– i de la necessitat de la seva existència. Cerdán ha explicat com la Declaració de Helsinki va significar un abans i un després en la realització de proves amb persones, ja que va introduir una sèrie de principis ètics com són l’autonomia, la beneficiència, la justícia social i la no maleficència. Aquest regulació, segons ha recordat, va portar a la creació dels comitès d’ètica en la investigació (CEI) i dels comitès d’ètica de la investigació amb medicaments (CEIm) i n’ha detallat la seva composició i funcions.

“Considero que és convenient que la UPC tingui un comitè ètic perquè la recerca que s’hi desenvolupa ha de complir uns principis ètics i que hauria de ser un CEI no un CEIm, per la naturalesa dels projectes que la Universitat duu a terme”, ha afirmat Cerdán al final de la presentació, i ha afegit que aquest “hauria d’estar format per persones de diferents àmbits de la UPC i empreses col·laboradores.”

Al seu torn, Marta Díaz, professora del Departament d’Organització d’Empreses i gestora de recerca del Centre d'Estudis Tecnològics per a l'Atenció a la Dependència i la Vida Autònoma (CETpD) de la UPC, ha reflexionat sobre l’ètica en relació amb la recerca, posant èmfasi en tres eixos: a determinar en què s’ha de fer recerca i on posar els esforços com a universitat, tenint en compte criteris ètics; a establir garanties per respectar les persones que hi participen; i a raportar els resultats de la recerca. Ha destacat la particularitat de la innovació tecnològica i la seva enorme capacitat de transformar l’entorn físic i les relacions entre les persones, i ha incidit en la relació entre les persones i els robots, la robòtica social, el seu camp d’especialitat.

La professora i investigadora ha reflexionat sobre qüestions ètiques i morals que planteja l’ús de robots socials, sobretot en persones vulnerables com ara nens hospitalitzats o gent gran, “com ara l’impacte emocional o la dependència que poden provocar aquests robots, la influència en les relacions interpersonals, la connexió amb els animals en els casos de robots-mascotes”, ha assenyalat. Díaz ha alertat que coneixem poc les conseqüències que poden comportar la convivència amb robots i que ens plantegem tot el que podem guanyar amb l’ús del robots, però no del que estem disposats a perdre.

Ha destacat també que la Unió Europea té un creixent interès a crear un marc ètic en el desenvolupament d’aquestes tecnologies, especialment en robòtica i intel·ligència artificial, i ha posat com a exemple el projecte europeu SIENNA, que té com a objectiu ajudar a desenvolupar protocols, codis ètics professionals i millors marcs legals en tres grans àmbits: genòmica humana, perfeccionament humà (human enhancement) i interacció persona-màquina (intel·ligència artificial i robòtica). La investigadora ha acabat la seva intervenció destacant que “la darrera enquesta del Centre d’investigacions Sociològiques (CIS) situava la universitat com la institució més valorada. Com a universitat pública, tenim una responsabilitat immensa en aquesta matèria.”

Ignasi Belda, gestor científic, emprenedor, enginyer i divulgador, actualment director de l’àrea de salut de Diplolicy, fundador de quatre start-ups i exdirector del Parc Científic de Barcelona, ha explicat que en la seva trajectòria professional ha après que l’ètica és un valor molt important a tenir en compte i sobre el qual les persones que estan al mercat laboral actual necessiten estar formades. L’enginyer ha destacat que “prescindir d’uns bons principis ètics pot tenir greus implicacions econòmiques”, especialment en relació als projectes subvencionats que requereixen específicament tenir en compte l’aplicació de la Llei d’Inserció de Persones amb algun tipus de Discapacitat.

Belda també ha afirmat que és important què els comitès ètics vetllin per a que els investigadors desenvolupin la seva tasca científica, però que alhora cal garantir que la resta de personal en una institució o empresa no dugui a terme activitats delictives o il·lícites, la qual cosa no seria ètic. En aquest sentit, ha fet referència a la necessitat que existeixin comitès de Compliance penal, per prevenir infraccions de normes de caràcter penal i evitar sancions que generin responsabilitat a l’empresa o la institució.

Així mateix, Belda ha fet referència a l’aplicació de principis morals a l’hora de treballar amb una empresa o una altra, i en funció de si es considera que es representa uns determinats interessos econòmics o si es defensen causes justes. Belda s’ha mostrat partidari d’“introduir el debat sobre l’ètica en els plans d’estudis a la Universitat, posant exemples reals.”

Per la seva part, Alberto Sanfeliu, professor d’Informàtica i Intel·ligència Artificial de la UPC i director científic de la Unitat d’Excel·lència Maria de Maeztu de l’Institut de Robòtica i Informàtica Industrial (IRI), centre mixt de la UPC i del Consell Superior d'Investigacions Científiques (CSIC), ha reflexionat sobre els aspectes ètics, legals, econòmics i socials (ELES) a tenir en consideració, des d’una triple perspectiva: com a investigadors de l’àmbit de la robòtica i la intel·ligència artificial, com a usuaris d’aquesta tecnologia, i sobre com cal dissenyar els robots i els sistemes intel·ligents per a que segueixin aquests principis ètics.

Sanfeliu ha destacat que aquests aspectes, què s’estan treballant en diferents projectes de recerca amb participació de la UPC com ara TERRInet, AI4EU i Human Centered Robotics, són especialment rellevants a l’hora de dissenyar i desenvolupar vehicles autònoms, drons, robots socials, assistencials, mèdics i per a la rehabilitació, en robots co-treballadors (persona-robot) i de l’àmbit de l’educació, sobretot per la seva capacitat d’adquirir autonomia i d’aprendre, per la forma del suport físic del robot, així com per la seva capacitat d’adaptar el seu comportament a l’entorn i d’interrelacionar-se amb les persones. I ha deixat clar que “hi ha d’haver uns principis ètics tant per als enginyers i dissenyadors de la tecnologia, com per als usuaris de la mateixa.”

L’investigador ha posat sobre la taula algunes de les qüestions que es planegen en l’àmbit de la robòtica i la intel·ligència artificial, i que no estan tan clares de respondre, com ara si els robots han de tenir sentiments; si els experiments d’interacció persona-robot haurien de ser supervisats o quins han de ser els límits en què poden ensenyar els robots, entre d’altres. Així mateix, Sanfeliu ha proposat “crear un comitè d’ètica per a projectes d’intel·ligència artificial i robòtica, fer una enquesta a les universitats sobre temes d’ètica, difondre informació i crear programes d’aprenentatge en aquest àmbit.”

Tot seguit, Itziar de Lecuoana, professora i sotsdirectora de l'Observatori de Bioètica i Dret (OBD) de la Universitat de Barcelona (UB), ha centrat la seva intervenció en la bioètica i la integritat científica, i ha posat l’èmfasi en que “el gran repte no resideix només a crear un comitè d’ètica per avaluar els projectes de recerca liderats per la universitat, sinó també en com es constitueix i en com s’implica a la comunitat universitària per a que l’interioritzi”. Per això “cal crear primer un codi ètic, ara es parla d’integrar l’ètica des del principi, des del punt de vista de la integritat”, ha remarcat Lecuona, que ha explicat l’aposta de la UB per crear un comitè d’ètica el 1995.

També ha afirmat la necessitat de destinar fons per estudiar la temàtica per disciplines, d’introduir estudiants predoc i postdocs en els comitès d’ètica i de crear oficines d’integritat a les universitats per avaluar i resoldre problemes de plagis. D’altra banda, Lecuoana s’ha referit a la importància de la protecció de les dades personals en el desenvolupament i l’ús de la tecnologia, en un moment com l’actual en què prima “el dataïsme” i on les persones hem deixat de ser anònimes. “Cal posar el focus no tant en la tecnologia sinó en garantir la protecció de dades personals: d’on venen les dades, amb quines tècniques s’han recollit, etc.”

Debat obert
Després de les intervencions dels experts, s’ha obert un debat en què s’han plantejat temes com ara la creixent importància del control de les dades de què disposen empreses i institucions; el dumping ètic (traslladar la recerca a un país amb un estàndard ètic més baix); la incorporació de paràmetres culturals en el desenvolupament dels codis ètics; la importància de la independència dels comitès ètics, i de la formació i la implicació de la ciutadania en aquests aspectes; la necessitat d’incorporar la formació ètica en els currículums dels estudis científics i tecnològics, o la dificultat d’exercir un control públic de la recerca en intel·ligència artificial que es desenvolupa en el sector privat. També han sorgit qüestions d’actualitat com el cas Cambridge Analytica o com les que planteja el professor Jose Ignacio Latorre, sobre si cal incorporar la intel·ligència artificial als comitès ètics o dotar personalitat jurídica a les màquines, o la investigadora de l’IRI Carme Torras, citada en diversos moments del debat, i del què ella anomena ‘el gran experiment online de la tecnologia’.