Butlletí de notícies

9 de desembre de 2024

Crònica Sopar Tertúlia Humanisme i IA

El passat divendres quinze de novembre a la parròquia de Santa Madrona del Poble Sec, cap a les vuit del vespre,  ens vàrem aplegar al voltant d’una cinquantena de persones  per sentir al Suso Mon, membre del moviment, que ens va fer la xerrada del sopar tertúlia titulada: Humanisme i Intel·ligència Artificial (IA). La doble condició de Informàtic i filòsof d’en Suso va fer que la xerrada transités des de els aspectes més tecnològics cap als desafiaments ètics i polítics que presenta la irrupció de la IA en la nostra  humana condició. Per primer cop a la historia de la humanitat hem creat un artefacte que, en alguns aspectes, te capacitats semblants i fins i tot superiors a la intel·ligència humana.

Tot començant per un article de l’any 2023 de l’economista grec Yanis Varoufakis titulat  «Tot el que la IA pot matar» que mostra tant l’ambivalència ètica de l’aplicació de la IA com la seva potencialitat en el desenvolupament del nou capital en aquesta era, ja no tant industrial, sinó més aviat digital i informacional, el ponent ens va endinsar en la conceptualització dels algorismes i en la comparació entre la IA i la humana, des de la primera concepció de la primera, a finals dels anys cinquanta del segle XX, fins al nostres dies. A destacar en aquest apartat conceptes i temes como ara el test de Turing (1950), la comparació de les habilitats i capacitats d’una IA i una humana, l’aprenentatge automàtic (Machine Learning–ML), l’aprenentatge profund (Deep Learning) i la IA Generativa. També els conceptes d’IA específica i IA general, computació i comprensió (l’habitació xinesa de John Searle -1980), ment i consciència (IA Forta vs. Feble, Roger Penrose-1989).

En el següent bloc es van abordar la qüestió moral de la IA (una IA amoral ?,Noam Chomsky), la política «La IA ha piratejat el sistema operatiu humà» (Yuval Noah), la cognitiva amb l’article de «La lluita per l’ànima de la IA» (de David Brooks),  que varen donar pas a algunes conclusions ètiques i polítiques sobre l’ús de la IA, como ara:

1. La necessitat de posar límits a la IA i tenir el control humà sobre els seus objectius.
2. La necessitat de de formar-nos i educar-nos en la responsabilitat i la reflexió crítica sobre l’ús de les IAs que operen (i de quina manera !!) a les nostres vides: la nostra ment, el nostre cor, la nostra intimitat.
3. L’obligació de que la IA reveli sempre que ho és, i que en el seu desplegament respecti i preservi sempre la intimitat humana
4. El dret a interactuar amb les diferents IAs de manera completament anònima, i la capacitat de decidir si les dades de la nostra interacció podran o no ser utilitzades per la IA

En la última part de la xerrada es va abordar la regulació europea de l’ús de l’IA: llei d’IA de la UE, que classifica la IA en funció del risc, tot prohibint els riscos inacceptables (per ex., els sistemes de puntuació social i la IA manipuladora), i fent èmfasi en la regulació dels sistemes d’IA considerats d’Alt risc. I també el que diu l’Església, el Papa Francesc, sobre l’ús de la IA: entre promeses i riscos, el desafiament ètic i pedagògic de les màquines que aprenen, la necessitat del sentit del límit en el paradigma tecnocràtic i d’una regulació internacional de la IA.

La reflexió i conclusió final al voltant de l’afirmació de Yuval Nohah: «Acabem de trobar una intel·ligència aliena a nosaltres, aquí a la Terra. No en sabem gaires coses, excepte que pot posar en risc la nostra civilització» va donar pas a tancar amb el conegut vers de Hölderlin: «On hi ha el perill, creix també el que salva» que, cal reconèixer, va dir el ponent, afirmo sense gaire convicció, perquè, com deia en el seu article el David Brooks, «és literalment impossible saber si aquesta tecnologia ens porta al cel o a l’infern».