OpenAI, la prestigiosa azienda pioniera nella ricerca e sviluppo dell’intelligenza artificiale, ha recentemente annunciato la formazione di un nuovo team con un obiettivo ambizioso: sviluppare metodi per dirigere e controllare i sistemi di intelligenza artificiale superintelligente che potrebbero emergere nel prossimo decennio. L’iniziativa è guidata dal Chief Scientist di OpenAI, Ilya Sutskever, co-fondatore dell’azienda, insieme a Jan Leike, capo del team Alignment.

La sfida che OpenAI si propone di affrontare riguarda il controllo e la prevenzione dei cosiddetti “AI ribelli”, cioè sistemi di intelligenza artificiale il cui comportamento potrebbe sfuggire alla supervisione e all’orientamento degli esseri umani. Sebbene i progressi nello sviluppo di AI siano stati rapidi e impressionanti, gli esperti del settore concordano sul fatto che non esiste ancora una soluzione per garantire l’allineamento di un’AI potenzialmente superintelligente con gli obiettivi e i valori umani.

Il nuovo gruppo, denominato “Superalignment Team”, avrà accesso al 20% delle risorse di calcolo finora acquisite da OpenAI e si concentrerà su tre obiettivi principali. In primo luogo, addestrerà sistemi AI utilizzando feedback umano per allineare il comportamento degli AI con le aspettative e i desideri degli esseri umani. In secondo luogo, svilupperà AI in grado di assistere nella valutazione e selezione di altri sistemi AI, in base al livello di allineamento raggiunto. Infine, l’obiettivo ultimo del team sarà la creazione di un “ricercatore automatico di allineamento a livello umano”, ovvero un’intelligenza artificiale che sia in grado di condurre autonomamente ricerche per migliorare l’allineamento tra AI e umani.

Secondo Sutskever e Leike, l’ipotesi guida del progetto è che l’intelligenza artificiale possa essere in grado di fare progressi più rapidi e significativi nella ricerca sull’allineamento rispetto agli esseri umani. Ciò significa che, man mano che i sistemi AI diventano più avanzati, potrebbero assumere un ruolo sempre più centrale nella ricerca e nello sviluppo di tecniche per allineare e controllare il loro comportamento.

Tuttavia, gli autori del progetto riconoscono anche i potenziali limiti e rischi associati a questa strategia. Ad esempio, l’utilizzo di AI per la valutazione e la selezione di altri sistemi AI potrebbe amplificare le inconsistenze, i pregiudizi o le vulnerabilità dei modelli coinvolti. Inoltre, potrebbe emergere che i problemi più difficili da risolvere nell’ambito dell’allineamento non riguardano per nulla l’ingegneria ma piuttosto questioni etiche, filosofiche o politiche.

Nonostante queste sfide, il Superalignment Team di OpenAI guiderà la comunità scientifica in un nuovo territorio di ricerca, contribuendo alla comprensione e allo sviluppo di intelligenze artificiali sicure e benefiche per l’umanità. Il loro impegno nel condividere i risultati e le scoperte in modo aperto e trasparente, non solo con altri team di OpenAI ma anche con la comunità scientifica nel suo insieme, segna un passo importante verso la realizzazione di una collaborazione globale per il bene comune.

In un’epoca in cui le potenzialità dell’intelligenza artificiale sono in costante evoluzione, l’iniziativa del Superalignment Team riveste una rilevanza cruciale per il futuro dell’umanità. Il loro approccio audace e lungimirante pone le basi per un dialogo costruttivo nel quale scienziati, ingegneri, filosofi ed esperti di etica possano lavorare insieme per affrontare le sfide poste dall’emergere di sistemi AI avanzati. Sarà nostro compito, come società, sostenere e vigilare su tali sforzi, garantendo che le potenzialità dell’intelligenza artificiale vengano utilizzate nell’interesse di tutti e non solamente di pochi privilegiati.