Risc existencial i tecnologia

Introducció

El desenvolupament tecnològic ha ampliat de manera extraordinària la capacitat humana d’intervenir sobre el món. Ha permès reduir malalties, millorar la comunicació, augmentar la producció d’aliments i protegir moltes persones de formes antigues de privació. Tanmateix, aquesta mateixa capacitat també ha incrementat l’abast del dany possible. La tecnologia no només pot alleujar sofriment: també pot multiplicar-lo, accelerar-lo o fer-lo més difícil de controlar.

Dins dels arguments extincionistes no coercitius, el risc existencial associat a la tecnologia ocupa un lloc específic. No afirma que tota tecnologia sigui perjudicial, ni que el progrés tècnic condueixi inevitablement a la catàstrofe. El que sosté és més limitat: quan una espècie vulnerable adquireix poders creixents sense una saviesa moral proporcional, el futur pot contenir riscos de sofriment d’una magnitud molt superior a la del passat.

Risc existencial i risc de sofriment extrem

El terme risc existencial sol designar la possibilitat que una civilització desaparegui, col·lapsi irreversiblement o perdi de manera permanent una part essencial del seu potencial futur. En una ètica centrada en el sofriment, però, el problema no és només la desaparició de la humanitat. També ho és la possibilitat que el futur contingui quantitats molt grans de sofriment intens, sostingut o sistemàtic.

Això obliga a distingir dos tipus de risc. D’una banda, hi ha el risc d’extinció involuntària, en què la humanitat desapareix per guerra, accident, col·lapse ecològic, pandèmia o mal ús tecnològic. De l’altra, hi ha el risc de continuïtat perjudicial, en què la civilització persisteix però genera formes de dany més àmplies, més profundes o més difícils de revertir.

Des d’aquesta perspectiva, la simple supervivència de l’espècie no és necessàriament un bé moral suficient. La pregunta decisiva és quin tipus de futur es preserva i quines formes de vulnerabilitat s’hi continuen produint.

Tecnologies amb capacitat d’amplificació del dany

Algunes tecnologies tenen una característica comuna: amplien l’escala de les conseqüències. Una decisió errònia, una estructura d’incentius defectuosa o una aplicació irresponsable poden afectar no sols individus pròxims, sinó poblacions senceres, ecosistemes o generacions futures.

Aquesta amplificació pot aparèixer en àmbits molt diferents: armament nuclear, biotecnologia, intel·ligència artificial, sistemes de vigilància, automatització militar, enginyeria climàtica, explotació industrial d’animals o eventual expansió de formes de vida vulnerable més enllà de la Terra. No tots aquests riscos tenen el mateix grau de probabilitat ni la mateixa base empírica, però tots mostren una mateixa estructura moral: la capacitat tècnica pot superar la capacitat institucional i moral de control.

El problema, per tant, no és només l’existència de tecnologies poderoses. És la combinació entre poder tècnic, interessos competitius, incertesa, pressa econòmica, rivalitat geopolítica i vulnerabilitat dels subjectes afectats.

La asimetria entre crear risc i suportar-lo

Un element central de l’argument és que sovint els qui prenen decisions tecnològiques no són els mateixos que suporten totes les conseqüències. Empreses, estats o generacions presents poden obtenir beneficis immediats mentre traslladen riscos a persones futures, animals, ecosistemes o subjectes que no han pogut consentir l’exposició al perill.

Aquesta asimetria és especialment greu quan el dany possible és irreversible. Si una tecnologia provoca una pèrdua parcial, el dany pot ser reparable. Però si desencadena una catàstrofe irreversible, un sistema de control permanent o una expansió massiva del sofriment, la possibilitat de correcció queda reduïda o desapareix.

Per això, una ètica del sofriment dona un pes especial a la prudència. No n’hi ha prou amb afirmar que una tecnologia podria produir beneficis futurs. Cal considerar també qui assumeix el risc, qui en pot quedar atrapat i si els possibles afectats han pogut rebutjar aquesta exposició.

Progrés tècnic i insuficiència moral

El progrés tècnic no implica automàticament progrés moral. Una societat pot ser capaç de desenvolupar instruments molt sofisticats i, alhora, mantenir formes persistents de violència, explotació, indiferència o dominació. Aquesta separació entre capacitat tècnica i maduresa moral és una de les fonts principals del risc.

La història mostra que moltes innovacions han tingut usos ambivalents. Han alleujat danys en alguns contextos i n’han produït de nous en altres. Això no permet concloure que la tecnologia sigui intrínsecament dolenta, però sí que impedeix identificar progrés amb millora moral sense una anàlisi crítica.

L’argument extincionista no coercitiu parteix d’aquesta cautela. Si la civilització continua expandint el seu poder sense resoldre la seva disposició a causar sofriment, el futur pot no ser simplement una continuació millorada del present, sinó una ampliació de les seves pitjors possibilitats.

Expansió futura de la sintència vulnerable

Un risc especialment rellevant és l’expansió futura de la sintència vulnerable. Si la vida conscient o sensible s’estén, es replica o es produeix artificialment en nous entorns, també es pot ampliar el nombre de subjectes capaços de patir. Aquesta possibilitat pot aparèixer en escenaris molt diferents: colonització espacial, simulacions conscients, organismes modificats, intel·ligències artificials sensibles o sistemes biotecnològics encara inexistents.

Aquest punt té un grau d’incertesa elevat. No podem afirmar amb seguretat quines formes futures de consciència o sintència existiran. Però la incertesa no elimina la qüestió moral. Precisament perquè no sabem fins on pot arribar la producció de subjectes vulnerables, convé preguntar-se si l’expansió indefinida de la vida sensible és moralment desitjable o si pot comportar una multiplicació imprudent del sofriment.

L’argument extincionista

L’argument extincionista vinculat al risc tecnològic no defensa destruir la civilització ni imposar la desaparició de ningú. Defensa una tesi més restringida: si la continuïtat indefinida de la humanitat comporta una probabilitat significativa de generar sofriment extrem, irreversible o massiu, aleshores aquesta continuïtat no pot ser considerada automàticament un bé moral.

Aquesta tesi qüestiona la idea que preservar el futur humà sigui sempre preferible a permetre una cessació voluntària i no violenta de la reproducció. Si el futur pot contenir riscos molt greus per a subjectes que encara no existeixen i que no poden consentir ser exposats a aquests riscos, la prudència reproductiva adquireix una importància moral especial.

Això no implica que l’extinció voluntària sigui l’única conclusió possible. Però sí que fa visible una pregunta incòmoda: quin dret tenim a projectar indefinidament la vulnerabilitat cap al futur quan no podem garantir que aquesta projecció no derivi en formes molt greus de dany?

Objeccions principals

Una primera objecció sosté que la tecnologia també pot reduir radicalment el sofriment. Podria curar malalties, eliminar la pobresa extrema, substituir l’explotació animal, prevenir catàstrofes i millorar les condicions de vida de molts éssers sensibles. Aquesta objecció és important i no s’ha de descartar.

La resposta extincionista no consisteix a negar aquests beneficis possibles, sinó a remarcar que els beneficis futurs són incerts i que els riscos poden ser irreversibles. Quan una aposta implica subjectes vulnerables que no poden consentir participar-hi, la càrrega moral de la justificació augmenta.

Una segona objecció afirma que renunciar al futur seria abandonar també la possibilitat de millora moral. Però aquesta objecció pressuposa que el futur serà, en conjunt, prou positiu o prou redimible. L’ètica del sofriment no accepta aquesta pressuposició sense examen. La millora possible importa, però no cancel·la automàticament el risc de sofriment extrem.

Conclusió

El risc existencial i tecnològic mostra que el futur no és només un espai d’esperança, sinó també un espai de responsabilitat. Com més gran és el poder d’una civilització, més gran és també la seva capacitat de causar dany. Aquesta capacitat obliga a revisar la idea que la continuïtat indefinida de la humanitat sigui un valor indiscutible.

Des d’una perspectiva centrada en el sofriment, la pregunta decisiva no és si la tecnologia pot produir béns, sinó si és moralment justificable continuar generant subjectes vulnerables dins d’un procés històric que pot escapar al control dels mateixos éssers que el mantenen. L’extincionisme voluntari respon a aquesta pregunta amb una proposta de cessació no violenta, no coercitiva i orientada a evitar la producció futura de dany.