L’intelligenza artificiale (IA) sta diventando sempre più presente nel nostro quotidiano, influenzando numerosi aspetti della nostra vita. Tuttavia, il suo funzionamento dipende fondamentalmente dalla qualità dei dati utilizzati per addestrare gli algoritmi di machine learning. Un recente studio condotto da un team di ricercatori del Politecnico di Zurigo ha messo in luce un’insidia potenzialmente pericolosa legata alle fonti di questi dati, che potrebbe rappresentare un punto debole nella formazione delle intelligenze artificiali.

Per comprendere l’importanza di questa scoperta, è essenziale ricordare il fondamentale detto in voga tra gli scienziati informatici: “Se inserisci spazzatura, uscirà spazzatura”. Questa massima sottolinea il ruolo cruciale che i database rivestono nell’addestramento degli algoritmi di machine learning. Di fatto, la qualità dei dati utilizzati per istruire un algoritmo nel portare a termine un compito specifico è un elemento di basilare importanza.

I database impiegati in questo processo sono spesso vastissimi e pubblicamente accessibili, costruiti attraverso strumenti automatici che raccolgono informazioni da migliaia di siti web. Tuttavia, il team di ricercatori del Politecnico di Zurigo ha evidenziato come sia possibile, con un investimento relativamente minimo, corrompere una parte dei dati utilizzati per l’addestramento di un algoritmo al punto da comprometterne l’efficacia.

La pratica, teoricamente realizzabile attraverso l’acquisto dei domini di siti web abbandonati ma ancora visitati dai bot che raccolgono dati, potrebbe portare all’inserimento di informazioni scorrette o incongruenti nei database utilizzati per l’addestramento. Alcuni esempi potrebbero includere l’etichettare erroneamente le immagini o manipolare i testi a tal punto da generare risultati fuorvianti in algoritmi come ChatGPT, che è stato addestrato sfruttando l’intera Wikipedia in lingua inglese.

Eppure, sebbene queste scoperte possano destare preoccupazione, non bisogna dimenticare che attualmente non sembra esserci alcuna entità - tra nazioni o aziende rivali - interessata a compromettere il funzionamento di alcuni algoritmi di intelligenza artificiale in modo sistematico. Julian Togelius, ricercatore della New York University, ha infatti evidenziato come la quantità di lavoro richiesta per portare a termine queste operazioni di sabotaggio supererebbe probabilmente i potenziali benefici.

Considerando però l’importanza strategica che molti algoritmi di machine learning rivestono oggi e il loro crescente ruolo nel futuro, non si può ignorare il fatto che l’esistenza di tali vulnerabilità potrebbe aprire scenari inquietanti. La necessità di garantire la qualità e l’affidabilità dei dati utilizzati in questi processi diventa quindi un imperativo cruciale per il progresso dell’intelligenza artificiale e per la sua applicazione efficace e sicura in diversi settori.

L’indagine condotta dai ricercatori del Politecnico di Zurigo sottolinea una sfida importante nella formazione delle intelligenze artificiali. Seppur al momento non si registrino attività di sabotaggio su larga scala, è fondamentale che gli esperti del settore affrontino questo aspetto e mettano in atto strategie di prevenzione e controllo della qualità dei dati. In tal modo, si potranno consolidare i progressi tecnologici nel campo dell’intelligenza artificiale e preservare le basi per un futuro in cui la tecnologia sia sinonimo di sicurezza e affidabilità.