Migliorare la spiegabilità delle reti neurali

L'intelligenza artificiale (AI) guidata dalle reti neurali è fondamentale in molte applicazioni come i sistemi di raccomandazione la traduzione linguistica i social media i chatbot e il controllo ortografico ecc. Tuttavia queste reti sono spesso criticate per essere scatole nere sollevando preoccupazioni sulla loro spiegabilità soprattutto in domini sensibili come la sanità la guida autonoma ecc. I metodi esistenti per migliorare la spiegabilità come l'importanza delle caratteristiche spesso mancano di chiarezza e interpretabilità. Per risolvere questo problema è stata sviluppata la Object-Oriented Neural Network for Improved Explainability (OONNIE). OONNIE utilizza una modellazione orientata agli oggetti per combinare la perdita e il peso della connessione per calcolare l'importanza delle caratteristiche e integra regole specifiche del dominio grazie all'estensibilità di OOP. Il modello enfatizza la trasparenza dell'algoritmo descrivendo in dettaglio ogni fase dell'addestramento. Valutato su funzioni XOR e XNOR OONNIE mostra risultati promettenti per quanto riguarda l'importanza delle caratteristiche la riduzione più rapida delle perdite e il miglioramento delle previsioni dopo l'integrazione delle regole del dominio. Ciò rappresenta un contributo significativo all'IA spiegabile rendendo OONNIE uno strumento prezioso per lo sviluppo di sistemi di IA affidabili.