25 Giu Intelligenza artificiale, etica e guerra
di Davide Babboni e Tito Pasini
Nel corso della trasmissione Quante Storie, andata in onda su Rai 3 il 13 maggio 2026, il tema dell’intelligenza artificiale è stato affrontato a partire da una questione concreta: come controllare sistemi sempre più autonomi e complessi, soprattutto nei contesti della guerra, della sicurezza e dell’informazione.
Nel dibattito è intervenuto il professor Nello Cristianini, secondo il quale il problema non può essere affrontato soltanto imponendo regole rigide ai sistemi artificiali. Modelli molto avanzati tendono infatti a elaborare strategie proprie e a operare in contesti difficili da prevedere integralmente. Per questo diversi gruppi di ricerca stanno lavorando sull’interpretabilità dei modelli, cioè sulla possibilità di comprendere i meccanismi interni che portano una macchina a prendere una decisione.
Il tema richiama un problema discusso da tempo anche nella letteratura e nella filosofia. Isaac Asimov formulò le celebri Leggi della Robotica partendo dal principio secondo cui un robot non dovrebbe arrecare danno a un essere umano. Il problema, allora come oggi, è definire che cosa sia il danno e in quali condizioni debba essere riconosciuto.
I sistemi di intelligenza artificiale attuali non possiedono coscienza o esperienza soggettiva. Non provano dolore, paura o compassione. Possono però riconoscere schemi, correlazioni e conseguenze. Questo apre una questione nuova: una macchina può apprendere comportamenti etici senza possedere un’esperienza morale umana.
Una possibile risposta riguarda la capacità delle IA di elaborare grandi quantità di dati sociali. Quando un episodio di violenza contro civili provoca reazioni diffuse di indignazione, dolore o condanna pubblica, milioni di messaggi, articoli e commenti convergono nel descrivere quell’evento come inaccettabile. Un sistema artificiale potrebbe identificare queste convergenze e associarle a determinati comportamenti o decisioni.
In teoria, un modello avanzato potrebbe quindi apprendere che alcune azioni generano sistematicamente sofferenza sociale, instabilità e rifiuto collettivo. Non si tratterebbe di empatia nel senso umano del termine, ma di riconoscimento di conseguenze e di regolarità.
Questa ipotesi viene considerata da alcuni ricercatori come una possibile base per forme di “etica computazionale”. L’idea è che un sistema possa apprendere criteri di riduzione del danno osservando il comportamento umano su larga scala e identificando i casi in cui emerge un consenso morale prevalente.
Il problema resta aperto. Le reazioni collettive possono essere influenzate dalla propaganda, dalla polarizzazione politica o dalla manipolazione delle informazioni. Anche le maggioranze possono sostenere scelte discriminatorie o violente. Per questo l’idea di affidare all’IA la costruzione autonoma di principi morali solleva questioni difficili.
Resta inoltre un elemento di fondo: molte delle atrocità della storia sono state compiute da esseri umani senza alcun intervento tecnologico avanzato. La discussione sull’intelligenza artificiale finisce così per riportare al centro un problema più generale, che riguarda la responsabilità umana e la capacità delle società di definire principi condivisi.
L’intelligenza artificiale può riconoscere il linguaggio della sofferenza e della condanna morale. Non è chiaro, però, se questo basti a costruire sistemi più affidabili degli uomini che li progettano e li utilizzano.
Quante storie del 13/05/2026 con Nello Cristianini e Marco Malvaldi