UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca: capitolo 4


Verso un quadro politico per l’uso dell’IA generativa nell’istruzione e nella ricerca

La regolamentazione del GenAI per sfruttare i potenziali benefici per l’istruzione e la ricerca richiede lo sviluppo di politiche appropriate. I dati del sondaggio del 2023 citati in precedenza indicano che solo pochi paesi hanno adottato politiche o piani specifici per l’uso dell’IA nell’istruzione. La sezione precedente ha delineato una visione, i passi necessari e gli elementi chiave e le azioni che possono essere intraprese da vari stakeholder. Questa sezione fornisce misure che possono essere adottate per sviluppare quadri politici completi e coerenti per regolamentare l’uso del GenAI nell’istruzione e nella ricerca.

Un punto di partenza per questo è il documento del 2022 “IA e istruzione: orientamenti per i decisori politici” (UNESCO, 2022b). Esso propone un insieme completo di raccomandazioni per guidare i governi nello sviluppo e nell’attuazione di politiche settoriali sull’IA e sull’istruzione con un focus sulla promozione dell’istruzione di qualità, dell’equità sociale e dell’inclusione. La maggior parte delle raccomandazioni rimane applicabile e può essere ulteriormente adattata per guidare la formulazione di politiche specifiche sul GenAI nell’istruzione.

Qui vengono proposte otto misure specifiche per la pianificazione di politiche sull’uso del GenAI nell’istruzione e nella ricerca per integrare questa guida esistente.

 

4.1 Promuovere l’inclusione, l’equità, la diversità linguistica e culturale

È necessario riconoscere e affrontare l’importanza critica dell’inclusione durante l’intero ciclo di vita del GenAI. In particolare, gli strumenti GenAI non contribuiranno a risolvere le sfide fondamentali nell’istruzione o a raggiungere gli impegni dell’Obiettivo di Sviluppo Sostenibile 4 a meno che tali strumenti non siano resi accessibili in modo inclusivo (indipendentemente dal genere, dall’etnia, dai bisogni educativi speciali, dallo stato socio-economico, dalla posizione geografica, dallo stato di sfollamento, ecc.) e se non promuovono l’equità, le diversità linguistiche e il pluralismo culturale nella progettazione. Per raggiungere questo obiettivo, vengono raccomandate le seguenti tre misure politiche:

  • Identificare coloro che non hanno o non possono permettersi la connettività a Internet o i dati, e adottare misure per promuovere la connettività universale e le competenze digitali al fine di ridurre le barriere all’accesso equo e inclusivo alle applicazioni AI. Stabilire meccanismi di finanziamento sostenibile per lo sviluppo e la fornitura di strumenti abilitati dall’IA per gli apprendisti con disabilità o bisogni speciali. Promuovere l’uso del GenAI per sostenere gli apprendisti lungo tutto il corso della vita, di tutte le età luoghi e contesti.
  • Sviluppare criteri per la convalida dei sistemi GenAI per assicurare che non siano presenti bias di genere, discriminazioni nei confronti di gruppi marginalizzati o discorsi d’odio incorporati nei dati o negli algoritmi.
  • Sviluppare e attuare specifiche inclusive per i sistemi GenAI e implementare misure istituzionali per proteggere le diversità linguistiche e culturali durante l’implementazione del GenAI nell’istruzione e nella ricerca su larga scala. Le specifiche pertinenti dovrebbero richiedere ai fornitori di GenAI di includere dati in diverse lingue, in particolare lingue locali o indigene, nella formazione dei modelli GPT per migliorare la capacità del GenAI di rispondere a testi multilingue. Le specifiche e le misure istituzionali dovrebbero prevenire rigorosamente che i fornitori di AI rimuovano intenzionalmente o involontariamente lingue minoritarie o discriminino i parlanti di lingue indigene, e richiedere ai fornitori di evitare sistemi che promuovano lingue dominanti o norme culturali.

 

4.2 Proteggere l’agenzia umana

Man mano che il GenAI diventa sempre più sofisticato, un pericolo chiave è il potenziale per minare l’agenzia umana. Man mano che sempre più utenti individuali utilizzano il GenAI per supportare la scrittura o altre attività creative, potrebbero involontariamente finire per fare affidamento su di esso. Ciò può compromettere lo sviluppo delle capacità intellettuali. Sebbene il GenAI possa essere utilizzato per sfidare e ampliare il pensiero umano, non dovrebbe essere consentito di usurparlo. La protezione e l’incremento dell’agenzia umana dovrebbero essere sempre considerate fondamentali quando si progetta e si adotta il GenAI dalle seguenti sette prospettive:

  • Informare gli apprendisti sui tipi di dati che il GenAI potrebbe raccogliere da loro, su come questi dati vengono utilizzati e sull’impatto che potrebbe avere sulla loro istruzione e sulla loro vita in generale.
  • Proteggere la motivazione intrinseca degli apprendisti a crescere e apprendere come individui. Rinforzare l’autonomia umana nei confronti dei propri approcci alla ricerca, all’insegnamento e all’apprendimento nel contesto dell’uso di sistemi GenAI sempre più sofisticati.
  • Evitare l’uso del GenAI dove priverebbe gli apprendisti delle opportunità di sviluppare abilità cognitive e competenze sociali attraverso l’osservazione del mondo reale, le pratiche empiriche come gli esperimenti, le discussioni con altri esseri umani e il ragionamento logico indipendente.
  • Garantire un’adeguata interazione sociale e un’esposizione appropriata a produzioni creative realizzate da esseri umani e impedire che gli apprendisti diventino dipendenti o dipendenti dal GenAI.
  • Utilizzare gli strumenti GenAI per ridurre la pressione dei compiti e degli esami, anziché aumentarla.
  • Consultare ricercatori, insegnanti e apprendisti sulle loro opinioni sul GenAI e utilizzare il feedback per decidere se e come specifici strumenti GenAI dovrebbero essere implementati su scala istituzionale. Incoraggiare gli apprendisti, gli insegnanti e i ricercatori a criticare e mettere in discussione le metodologie dietro i sistemi AI, l’accuratezza dei contenuti prodotti e le norme o pedagogie che potrebbero imporre.
  • Evitare di trasferire l’accountability umana ai sistemi GenAI nella presa di decisioni di grande rilevanza.

 

4.3 Monitorare e convalidare i sistemi GenAI per l’istruzione

Come già detto, lo sviluppo e l’implementazione del GenAI dovrebbero essere etici fin dalla progettazione. Successivamente, una volta che il GenAI è in uso e per tutto il suo ciclo di vita, deve essere attentamente monitorato e convalidato, sia per i rischi etici che per l’appropriatezza pedagogica e la rigorosità, nonché per l’impatto su studenti, insegnanti e relazioni in classe/scuola. A tal fine, vengono raccomandate le seguenti cinque azioni:

  • Costruire meccanismi di convalida per verificare se i sistemi GenAI utilizzati nell’istruzione e nella ricerca sono privi di bias, in particolare bias di genere, e se sono addestrati su dati rappresentativi della diversità (in termini di genere, disabilità, status socio-economico, origine etnica e culturale e posizione geografica).
  • Affrontare la complessa questione del consenso informato, in particolare in contesti in cui i bambini o altri apprendisti vulnerabili non sono in grado di dare un consenso veramente informato.
  • Effettuare un audit per verificare se le uscite del GenAI includono immagini deepfake, notizie false (inaccurate o false) o discorsi d’odio. Se si scopre che il GenAI genera contenuti inappropriati, le istituzioni e gli educatori dovrebbero essere disposti e in grado di adottare misure rapide e robuste per mitigare o eliminare il problema.
  • Esercitare una rigorosa convalida etica delle applicazioni GenAI prima che vengano ufficialmente adottate nelle istituzioni educative o di ricerca (adottando un approccio basato sull’etica fin dalla progettazione).
  • Prima di prendere decisioni sull’adozione istituzionale, assicurarsi che le applicazioni GenAI in questione non arrechino danni prevedibili agli studenti, siano efficaci dal punto di vista educativo e validi per le età e le abilità degli apprendisti target e siano allineate con solidi principi pedagogici (basati sui pertinenti settori di conoscenza e sugli obiettivi di apprendimento attesi e lo sviluppo dei valori).

 

 

4.4 Sviluppare competenze in AI, comprese le competenze legate a GenAI per gli apprendenti

Lo sviluppo delle competenze in AI tra gli apprendenti è fondamentale per un utilizzo sicuro, etico e significativo dell’IA nell’istruzione e oltre. Tuttavia, secondo i dati dell’UNESCO, solo circa 15 paesi avevano sviluppato e implementato, o erano in fase di sviluppo, curricula ufficiali sull’IA nelle scuole all’inizio del 2022 (UNESCO, 2022c). Gli ultimi sviluppi di GenAI hanno ulteriormente rafforzato la necessità urgente per tutti di raggiungere un adeguato livello di alfabetizzazione sia nelle dimensioni umane che tecnologiche dell’IA, comprendendo come funziona in termini generali, nonché l’impatto specifico di GenAI. Per fare ciò, sono ora necessarie le seguenti cinque azioni:

  • Impegno nella fornitura di curricula ufficiali sull’IA approvati dal governo per l’istruzione scolastica, l’istruzione tecnica e professionale, nonché per l’apprendimento lungo tutto il corso della vita. I curricula sull’IA dovrebbero coprire l’impatto dell’IA sulle nostre vite, comprese le questioni etiche che essa solleva, nonché una comprensione appropriata dell’età degli algoritmi e dei dati e le competenze per l’uso corretto e creativo di strumenti AI, comprese le applicazioni GenAI.
  • Sostenere le istituzioni di istruzione superiore e di ricerca per potenziare i programmi finalizzati a sviluppare talenti locali in AI.
  • Promuovere la parità di genere nello sviluppo delle competenze avanzate in AI e creare un pool di professionisti equilibrato dal punto di vista di genere.
  • Sviluppare previsioni intersettoriali sugli spostamenti lavorativi nazionali e globali causati dalle ultime automazioni di GenAI e potenziare le competenze future a tutti i livelli dei sistemi educativi e di apprendimento lungo tutto il corso della vita in base ai cambiamenti previsti nella domanda.
  • Fornire programmi speciali per i lavoratori anziani e i cittadini che potrebbero dover imparare nuove competenze ed adattarsi a nuovi ambienti.

 

4.5 Sviluppare competenze per insegnanti e ricercatori per un uso corretto di GenAI

Secondo i dati del sondaggio del 2023 sull’uso governativo dell’IA nell’istruzione (UNESCO, 2023c), solo alcuni sette paesi (Cina, Finlandia, Georgia, Qatar, Spagna, Thailandia e Turchia) hanno segnalato di aver sviluppato o essere in fase di sviluppo di quadri o programmi di formazione sull’IA per gli insegnanti. Solo il Ministero dell’Istruzione di Singapore ha riferito di aver creato un repository online incentrato sull’uso di ChatGPT nell’insegnamento e nell’apprendimento. Questo mostra chiaramente che gli insegnanti nella maggior parte dei paesi non hanno accesso a una formazione ben strutturata sull’uso dell’IA nell’istruzione, tanto meno sull’uso di GenAI.

Per preparare gli insegnanti all’uso responsabile ed efficace di GenAI, i paesi devono adottare le seguenti quattro azioni:

  • Formulare o adeguare linee guida basate su test locali per aiutare i ricercatori e gli insegnanti a navigare tra gli strumenti GenAI ampiamente disponibili e guidare la progettazione di nuove applicazioni AI specifiche per il dominio.
  • Proteggere i diritti degli insegnanti e dei ricercatori e il valore delle loro pratiche nell’uso di GenAI. In particolare, analizzare i ruoli unici degli insegnanti nel facilitare il pensiero di ordine superiore, organizzare l’interazione umana e favorire i valori umani.
  • Definire l’orientamento valoriale, le conoscenze e le competenze che gli insegnanti devono possedere per comprendere ed utilizzare efficacemente e eticamente i sistemi GenAI. Abilitare gli insegnanti a creare strumenti specifici basati su GenAI per facilitare l’apprendimento in classe e nello sviluppo professionale.
  • Rivedere dinamicamente le competenze necessarie per gli insegnanti per comprendere e utilizzare l’IA nell’insegnamento, nell’apprendimento e nella loro formazione professionale; integrare nuovi insiemi di valori, comprensione e competenze sull’IA nei quadri di competenza e nei programmi per la formazione di insegnanti in servizio e in formazione pre-servizio.

 

4.6 Promuovere opinioni plurali ed espressioni plurali di idee

Come già notato, GenAI non comprende né la richiesta né la risposta. Invece, le sue risposte si basano su probabilità di modelli di linguaggio presenti nei dati (dall’Internet) che ha assorbito quando il suo modello è stato addestrato. Per affrontare alcuni dei problemi fondamentali delle sue uscite, attualmente sono in corso ricerche su nuovi metodi, come il collegamento di GenAI con basi di conoscenza e motori di ragionamento. Tuttavia, a causa del suo funzionamento, dei materiali di origine e delle prospettive tacite dei suoi sviluppatori, GenAI, per definizione, riproduce i punti di vista dominanti nelle sue uscite e compromette le opinioni minoritarie e plurali.

Pertanto, gli utenti devono considerare criticamente le uscite di GenAI. In particolare:

  • Comprendere il ruolo di GenAI come una fonte rapida ma spesso non affidabile di informazioni. Sebbene alcuni plugin e strumenti basati su LLM menzionati in precedenza siano progettati per supportare la necessità di accedere a informazioni convalidate e aggiornate, al momento c’è ancora poco evidenza robusta che questi siano efficaci.
  • Incoraggiare gli apprendenti e i ricercatori a criticare le risposte fornite da GenAI. Riconoscere che GenAI tende tipicamente a ripetere opinioni consolidate o standard, minimizzando così opinioni plurali e minoritarie e espressioni plurali di idee.
  • Fornire agli apprendenti sufficienti opportunità per imparare attraverso il metodo sperimentale, esperimenti empirici e osservazioni del mondo reale.

 

4.7 Testare modelli di applicazione rilevanti a livello locale e costruire una base di evidenze cumulativa

Fino ad ora, i modelli GenAI sono dominati da informazioni provenienti dal Nord Globale e sottorappresentano le voci provenienti dal Sud Globale e dalle comunità indigene. Solo attraverso sforzi determinati, ad esempio sfruttando dati sintetici (Marwala, T. 2023), gli strumenti GenAI saranno resi sensibili al contesto e alle esigenze delle comunità locali, in particolare quelle del Sud Globale. Per esplorare approcci rilevanti alle esigenze locali, collaborando più ampiamente, sono raccomandate le seguenti otto azioni:

  • Assicurare che la progettazione e l’adozione di GenAI siano pianificate strategicamente anziché facilitare un processo di approvvigionamento passivo e non critico.
  • Incentivare i progettisti di GenAI a mirare a opzioni di apprendimento aperte, esplorative e diverse.
  • Testare e scalare casi d’uso basati su evidenze dell’applicazione di AI nell’istruzione e nella ricerca in conformità con le priorità educative, anziché la novità, il mito o l’esagerazione.
  • Guidare l’uso di GenAI per innescare l’innovazione nella ricerca, anche attraverso il leva di capacità di calcolo, dati su larga scala e uscite GenAI per informare e ispirare il miglioramento delle metodologie di ricerca.
  • Rivedere le implicazioni sociali ed etiche dell’incorporazione di GenAI nei processi di ricerca.
  • Stabilire criteri specifici basati su ricerche pedagogiche ed evidenze metodologiche e costruire una base di evidenze per l’efficacia di GenAI nel supporto alla fornitura di opportunità di apprendimento inclusive, al raggiungimento degli obiettivi di apprendimento e alla promozione delle diversità linguistiche e culturali.
  • Intraprendere passi iterativi per rafforzare le evidenze sull’impatto sociale ed etico di GenAI.
  • Analizzare i costi ambientali dell’uso delle tecnologie AI su larga scala (ad esempio, l’energia e le risorse necessarie per addestrare i modelli GPT) e sviluppare obiettivi sostenibili da raggiungere da parte dei fornitori di AI al fine di evitare contributi al cambiamento climatico.

 

4.8 Esaminare le implicazioni a lungo termine in modo intersettoriale e interdisciplinare

Gli approcci intersettoriali e interdisciplinari sono essenziali per l’uso efficace ed etico di GenAI nell’istruzione e nella ricerca. Solo attraverso la mobilitazione di una serie di competenze e il coinvolgimento di diverse parti interessate, saranno individuati tempestivamente e affrontati in modo efficace i principali problemi per minimizzare le implicazioni negative a lungo termine, sfruttando nel contempo i benefici in corso e cumulativi.

Pertanto, sono raccomandate le seguenti tre azioni:

  • Collaborare con fornitori di AI, educatori, ricercatori e rappresentanti dei genitori e degli studenti per pianificare adeguamenti a livello sistemico nei quadri curriculari e nelle metodologie di valutazione, per sfruttare appieno il potenziale e mitigare i rischi di GenAI per l’istruzione e la ricerca.
  • Riunire competenze intersettoriali e interdisciplinari, compresi educatori, ricercatori, scienziati dell’apprendimento, ingegneri AI e rappresentanti di altre parti interessate, per esaminare le implicazioni a lungo termine di GenAI per l’apprendimento e la produzione di conoscenza, la ricerca e il diritto d’autore, il curriculum e la valutazione, e la collaborazione umana e le dinamiche sociali.
  • Fornire consigli tempestivi per informare gli aggiornamenti iterativi di regolamenti e politiche.

 

traduzione libera in italiano tramite
Google BARD, Chat GPT, Perpelixity.ai


Guidance for generative AI in education and research (english version)



TRADUZIONE INTEGRALE (PDF)


capitolo 1 Cos’è l’intelligenza artificiale generativa e come funziona
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 2 Controversie riguardo all’IA generativa e le loro implicazioni per l’istruzione
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 3 Regolamentare l’uso dell’IA generativa nell’istruzione
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 4 Verso un quadro politico per l’uso dell’IA generativa nell’istruzione e nella ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 5 Agevolare l’uso creativo di GenAI nell’istruzione e nella ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 6 GenAI e il futuro dell’istruzione e della ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

Conclusioni
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca



TRADUZIONE INTEGRALE (PDF)


Social media & sharing icons powered by UltimatelySocial