Com pot afectar la intel·ligència artificial (IA) a la democràcia? Utilitzant conceptes de la filosofia política, Mark Coeckelbergh, professor de Filosofia dels Mitjans de Comunicació i Tecnologia de la Universitat de Viena i de la Càtedra ERA a l'Institut de Filosofia de l'Acadèmia Txeca de Ciències de Praga, ha analitzat l'impacte de la IA en els principis democràtics clau, en la seva conferència a la Universitat Politècnica de Catalunya - BarcelonaTech (UPC), titulada ‘AI and the principles of democracy’. El filòsof ha advertit sobre una tendència cap al totalitarisme. Però també ha estimulat la discussió en una direcció més constructiva: com podem utilitzar la IA per millorar la democràcia?

Coeckelbergh és autor de nombrosos articles i llibres, com ara ‘AI Ethics’ (MIT Press), ‘Robot Ethics’ (MIT Press), ‘Introduction to Philosophy of Technology’ (Oxford University Press) i, el més recent, ‘The Political Philosophy of AI’ (Polity Press).  El primer i el darrer d’aquests llibres estan editats en castellà per Càtedra. La seva expertesa se centra en l'ètica i la tecnologia, en particular la robòtica i la intel·ligència artificial, i participa en diversos projectes de recerca nacionals i europeus sobre IA i robòtica. Ha visitat la UPC, el 24 de maig, convidat per l’Institut de Robòtica i Informàtica Industrial (IRI) i el Comitè d’Ètica de la Universitat.

"La intel·ligència artificial posa en perill la llibertat i frega amb qüestions relacionades amb la justícia"

En relació amb el tema del seu últim llibre, ‘The Political Philosophy of AI’, quin paper té la filosofia política en la implementació de la IA?

La IA aixeca no només preguntes ètiques sinó també polítiques, ja que té un gran impacte en la nostra societat. Per exemple, posa en perill la llibertat i frega amb qüestions relacionades amb la justícia. Penseu en les possibilitats que ofereix per manipular les decisions de la gent o en el biaix de la IA. Si volem tractar amb aquestes qüestions, necessitem eines conceptuals apropiades per fer-ho. La filosofia política ens pot ajudar a discutir els temes polítics de fons.

En la conferència, ha dit que el futur de la IA hauria de ser democràtic. Hauríem de tenir por de la IA? Podria afectar la democràcia en un sentit positiu?

Si les nostres democràcies ja són dèbils i impregnades de populisme, la IA pot empitjorar-ho. Penseu en la manipulació de les eleccions i en la difusió de desinformació i de fake news. No hauríem de tenir por de la IA, hauríem de tenir por de l’autoritarisme i del totalitarisme. Si volem fer-hi alguna cosa, hem d’utilitzar la IA d’una forma positiva i constructiva per a la democràcia, per exemple, utilitzant-la perquè ens ajudi en els processos deliberatius. La IA pot informar la gent i ajudar-la a trobar consensos.

Com pot solucionar problemes globals la IA?

La IA ens pot ajudar amb el canvi climàtic, per exemple. Pot predir esdeveniments climàtics extrems i donar suport a un ús més intel·ligent de l’energia. Tot i això, és important tenir en compte l’ètica i la política quan l’utilitzem. La IA pot contribuir en si mateixa als problemes globals. Per exemple, contribueix als problemes mediambientals i climàtics per l'ús d'energia i les emissions de carboni relacionades amb la formació de grans models lingüístics, amb els centres de dades i altres infraestructures i dispositius necessaris per a la IA. És necessari, per tant, abordar aquestes qüestions, tant en l’àmbit tècnic com de regulació.

"Hauríem d’anar amb molt de compte quan deleguem decisions a les màquines, perquè això presenta dilemes de responsabilitat i de rendiment de comptes."

Creu que estem delegant massa poder de presa de decisions a les màquines?

Hauríem d’anar amb molt de compte quan deleguem decisions a les màquines, perquè això presenta dilemes de responsabilitat i de rendiment de comptes. Ens hauríem d’assegurar que els éssers humans es poden fer responsables i respondre per totes les decisions que es prenen. En cas contrari, tenim un dilema moral i també un problema de legitimitat política: els ciutadans tenen el dret de saber per què s’ha pres una decisió concreta. Penseu en la distribució de prestacions socials o en les decisions judicials... La IA pot ajudar, però necessitem mantenir la responsabilitat i el criteri en la banda dels éssers humans.

En la seva conferència, hem vist una sala plena d’estudiants escoltant una lliçó sobre democràcia i filosofia. Tornen a estar de moda la filosofia i l’ètica?

Vivim en un món cada cop més confús i profundament problemàtic per molts motius. Crec que els joves veuen la filosofia com una de les eines que podem utilitzar per entendre millor el món i per reflexionar sobre cap a quina direcció volem anar. No sempre és fàcil trobar les maneres correctes de viure i de conviure amb les tecnologies digitals, avui en dia. Però aquest és precisament el repte clau de la nostra època. Aquí és on ens pot ajudar la filosofia.