La Scuola Normale di Pisa ha vinto un ERC-Proof of Concept (PoC) della Comunità europea per “Illume-4-Science”, coordinato dalla professoressa Fosca Giannotti.
Il progetto vuole dimostrare come i metodi di XAI, che consentono di aumentare i suggerimenti degli algoritmi di AI, spesso opachi, con forme di spiegazione umanamente comprensibili, siano uno strumento importantissimo per accelerare il processo scientifico, per validare le ipotesi degli scienziati e per stimolare nuove intuizioni.
Il progetto è la prosecuzione dell’ERC Advanced Grant ‘XAI: science and technology for the eXplanation of AI decision making’, guidato dal 2019 al 2025 ancora dalla Giannotti. La nuova fase punta a due obiettivi principali.
Il primo è l’impatto per la scienza (4-science): Illume sarà applicato a problemi complessi in ambito biomedico, come la ricerca sul cancro e lo sviluppo di nuovi farmaci, già investigati con metodi di AI classica da altri scienziati del gruppo di lavoro, aiutandoli a comprendere meglio i dati e a formulare nuove ipotesi di ricerca.
Il secondo obiettivo è il consolidamento della piattaforma, che sarà resa più efficiente con un’interfaccia intuitiva, e il supporto a nuovi tipi di dati, come quelli genetici e le immagini mediche.
“Quando l’intelligenza artificiale supporta decisioni che incidono sulla salute e sul benessere delle persone, o prevede il possibile scenario di un esperimento scientifico, la sfida non è solo prevedere bene, ma anche spiegare perché – spiega Giannotti -. Questo permette agli scienziati di validare le loro ipotesi, o di costruirne altre, ed alle persone di decidere di accettare o no tale decisione. Illume-4-Science risponde a questa esigenza, promuovendo un’IA trasparente e responsabile, pensata come alleata della ricerca scientifica”.
Il progetto, di cui Fosca Giannotti è principal investigator, coinvolge un team di ricerca che unisce varie istituzioni: Martino Ciaperoni, Margherita Lalli (Scuola Normale Superiore) e Simone Piaggesi (Università di Pisa); i professori Riccardo Guidotti e Dino Pedreschi (Università di Pisa), co-inventori di Illume e Salvatore Rinzivillo (ISTI-CNR) per lo sviluppo di interfacce orientate all’utente.
La validazione scientifica si fonda su collaborazioni consolidate con la comunità biomedica, in particolare con il gruppo di bioinformatica guidato dal prof. Francesco Raimondi del laboratorio BIO@SNS, con il professor Daniele Campa del Dipartimento di Biologia dell’Università di Pisa.