Guidance for generative AI in education and research
TRADUZIONE INTEGRALE (PDF)
INDICE
1.1 Cos’è l’intelligenza artificiale generativa?
1.2 Come funziona l’intelligenza artificiale generativa?
1.2.1 Come funzionano i modelli GenAI di testo?
1.2.2 Come funzionano i modelli GenAI di immagini?
1.3 Ingegneria del prompt per generare output desiderati
1.4 EdGPT emergente e le sue implicazioni
2.1 Aumento della povertà digitale
2.2 Superamento dell’adattamento della regolamentazione nazionale
2.3 Utilizzo di contenuti senza consenso
2.4 Modelli non spiegabili utilizzati per generare output
2.5 Contenuti generati da AI che inquinano Internet
2.6 Mancanza di comprensione del mondo reale
2.7 Riduzione della diversità di opinioni e ulteriore marginalizzazione di voci già marginalizzate
2.8 Generazione di deepfake più profondi
3.1 Un approccio centrato sull’uomo all’IA
3.2 Passi per regolamentare GenAI nell’istruzione
3.3 Regolamenti sull’IA Gen: Elementi chiave
3.3.1 Agenzie di regolamentazione governative
3.3.2 Fornitori di strumenti GenAI
3.3.3 Utenti istituzionali
3.3.4 Utenti individuali
4.1 Promuovere l’inclusione, l’equità, la diversità linguistica e culturale
4.2 Proteggere l’autonomia umana
4.3 Monitorare e validare i sistemi GenAI per l’istruzione
4.4 Sviluppare competenze in materia di IA, comprese le competenze relative a GenAI, per gli studenti
4.5 Costruire la capacità di insegnanti e ricercatori per un uso corretto di GenAI
4.6 Promuovere opinioni plurali e plurali espressioni di idee
4.7 Testare modelli applicativi localmente rilevanti e costruire una base di prove cumulativa
4.8 Rivedere le implicazioni a lungo termine in modo intersettoriale e interdisciplinare
5.1 Strategie istituzionali per facilitare un uso responsabile e creativo di GenAI
5.2 Un approccio “basato sull’uomo e sull’interazione pedagogica appropriata”
5.3 Co-progettazione dell’uso di GenAI nell’educazione e nella ricerca
5.3.1 Intelligenza artificiale generativa per la ricerca
5.3.2 Intelligenza artificiale generativa per facilitare l’insegnamento
5.3.3 Intelligenza artificiale generativa come allenatore 1:1 per l’acquisizione autoguidata di competenze di base
5.3.4 Intelligenza artificiale generativa per facilitare l’apprendimento basato sull’indagine o sul progetto
5.3.5 Intelligenza artificiale generativa per supportare gli studenti con bisogni speciali
6.1 Questioni etiche inesplorate
6.2 Diritti d’autore e proprietà intellettuale
6.3 Fonti di contenuti e apprendimento
6.4 Risposte omogenee versus output diversificati e creativi
6.5 Ripensare la valutazione e i risultati dell’apprendimento
6.6 Processi di pensiero
Lista di tabelle
Tabella 1. Tecniche utilizzate nell’intelligenza artificiale generativa.
Tabella 2. OpenAI GPTs.
Tabella 3. Co-progettazione degli usi di GenAI per la ricerca.
Tabella 4. Co-progettazione degli usi di GenAI per supportare insegnanti e insegnamento.
Tabella 5. Co-progettazione degli usi di GenAI come allenatore 1:1 per l’acquisizione autoguidata di competenze di base nell’apprendimento di lingue e arti.
Tabella 6. Co-progettazione degli usi di GenAI per facilitare l’apprendimento basato sull’indagine o sul progetto.
Tabella 7. Co-progettazione degli usi di GenAI per supportare gli studenti con bisogni speciali.
Acronimi e abbreviazioni
Concetti e tecnologie
AGI – Intelligenza artificiale generale
AI – Intelligenza artificiale
API – Interfaccia di programmazione delle applicazioni
ANN – Rete neurale artificiale
BERT – Rappresentazioni di codificatore bidirezionale da trasformatori
DAI – Intelligenza artificiale distribuita
GAN – Generative Adversarial Networks
GB – Gigabyte
GDPR – Regolamento generale sulla protezione dei dati
GenAI – Intelligenza artificiale generativa
GPT – Generative Pre-Trained Transformer
ICT – Tecnologie dell’informazione e della comunicazione
LaMDA – Modello linguistico per applicazioni di dialogo
LLM – Modello di lingua di grandi dimensioni
ML – Machine Learning
TVET – Formazione e orientamento tecnico e professionale
VAE – Autoencoders varianziali
Organizzazioni
AGCC – AI Government Cloud Cluster (Singapore)
CAC – Cyberspace Administration of China
UE – Unione Europea
OECD – Organizzazione per la cooperazione e lo sviluppo economico
UNCTAD – Conferenza delle Nazioni Unite sul commercio e lo sviluppo
UNESCO – Organizzazione delle Nazioni Unite per l’educazione, la scienza e la cultura (UNESCO)
PREFAZIONE
Gli strumenti di AI generativa (GenAI) disponibili pubblicamente stanno emergendo rapidamente e il rilascio di versioni iterative sta superando l’adattamento dei quadri normativi nazionali. L’assenza di regolamentazioni nazionali sulla GenAI nella maggior parte dei paesi lascia la privacy dei dati degli utenti non protetta e le istituzioni educative largamente impreparate a convalidare gli strumenti.
La prima guida globale dell’UNESCO sulla GenAI nell’educazione mira a sostenere i paesi nell’implementazione di azioni immediate, nella pianificazione di politiche a lungo termine e nello sviluppo della capacità umana per garantire una visione centrata sull’essere umano di queste nuove tecnologie.
La guida presenta una valutazione dei potenziali rischi che la GenAI potrebbe rappresentare per i valori umanistici fondamentali che promuovono l’agenzia umana, l’inclusione, l’equità, l’uguaglianza di genere, le diversità linguistiche e culturali, nonché le opinioni e le espressioni plurali.
Propone passi chiave per le agenzie governative per regolamentare l’uso della GenAI, tra cui l’obbligo di proteggere la privacy dei dati e la considerazione di un limite di età per il loro utilizzo. Esso delineare i requisiti per i fornitori di GenAI per consentire il loro uso etico ed efficace nell’educazione.
La guida sottolinea la necessità per le istituzioni educative di convalidare i sistemi GenAI sulla loro appropriatezza etica e pedagogica per l’educazione. Essa invita la comunità internazionale a riflettere sulle loro implicazioni a lungo termine per la conoscenza, l’insegnamento, l’apprendimento e la valutazione.
La pubblicazione offre raccomandazioni concrete per i responsabili delle politiche e le istituzioni educative su come progettare l’uso degli strumenti GenAI per proteggere l’agenzia umana e beneficiare genuinamente degli studenti, degli insegnanti e dei ricercatori.
I programmi di intelligenza artificiale generativa (GenAI) sono scoppiati nell’attenzione del pubblico a novembre 2022 con il lancio di ChatGPT, che è diventato l’app a crescita più rapida della storia. Con il potere di imitare le capacità umane di produrre output come testo, immagini, video, musica e codici software, queste applicazioni GenAI hanno suscitato scalpore, proprio quando l’hype sull’IA negli ultimi cinque anni sembrava essersi stabilizzato. Milioni di persone ora usano GenAI nelle loro vite quotidiane e il potenziale di adattare i modelli alle applicazioni AI di dominio specifico sembra illimitato, almeno nei prossimi anni.
Queste ampie capacità di elaborazione delle informazioni e produzione di conoscenza hanno implicazioni potenzialmente enormi per l’educazione, in quanto replicano il pensiero di ordine superiore che costituisce la base dell’apprendimento umano. Poiché gli strumenti GenAI sono sempre più in grado di automatizzare alcuni livelli di base di scrittura e creazione di opere d’arte, stanno costringendo i decisori politici e le istituzioni educative a riflettere sulle loro implicazioni a lungo termine per la creazione, l’acquisizione e la validazione della conoscenza. Rivisitare il perché, cosa e come impariamo sono ora considerazioni cruciali per l’educazione in questa nuova fase dell’era digitale.
La presente pubblicazione si propone di supportare la pianificazione di normative, politiche e sviluppo delle capacità umane appropriate, per garantire che GenAI diventi uno strumento che benefici e rafforzi genuinamente insegnanti, studenti e ricercatori. In quanto tale, risponde alle preoccupazioni espresse al primo roundtable ministeriale globale convocato dall’UNESCO a maggio 2023 che ha esplorato le opportunità, le sfide e i rischi immediati e di vasta portata che l’intelligenza artificiale generativa pone ai sistemi educativi.
Propone i passi chiave per le agenzie governative per regolamentare l’uso dell’intelligenza artificiale generativa. Presenta anche framework e esempi concreti per la formulazione di politiche e la progettazione didattica che consentono un uso etico ed efficace della tecnologia nell’educazione. Infine, invita anche la comunità internazionale a considerare le profonde implicazioni a lungo termine dell’intelligenza artificiale generativa su come comprendiamo la conoscenza, definiamo i contenuti, i metodi e i risultati dell’apprendimento, nonché il modo in cui valutiamo e validiamo l’apprendimento.
Costruito sulla Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale del 2021, la guida è ancorata a un approccio umanistico all’educazione che promuove l’autonomia umana, l’inclusione, l’equità, la parità di genere, la diversità culturale e linguistica, nonché opinioni e espressioni plurali. Inoltre, risponde alla chiamata del rapporto del 2021 della Commissione internazionale per i futuri dell’educazione, Reimaginare i nostri futuri insieme: un nuovo contratto sociale per l’educazione a ridefinire il nostro rapporto con la tecnologia, come parte integrante dei nostri sforzi per rinnovare il contratto sociale per l’educazione.
L’IA non deve usurpare l’intelligenza umana. Piuttosto, ci invita a riconsiderare le nostre consolidate understandings di conoscenza e apprendimento umano. Spero che questa guida ci aiuti a ridefinire nuovi orizzonti per l’educazione e a informare il nostro pensiero collettivo e le azioni collaborative che possono portare a futuri di apprendimento digitale incentrati sull’uomo per tutti.
Ringraziamenti
Sotto la guida di Stefania Giannini, Assistente Direttore per l’Educazione, e la supervisione di Sobhi Tawil, Direttore della Divisione per il Futuro dell’Apprendimento e dell’Innovazione all’UNESCO, la redazione della pubblicazione è stata guidata da Fengchun Miao, Capo Unità per la Tecnologia e l’IA nell’Educazione.
Un particolare ringraziamento va a Wayne Holmes, Professore Associato all’Università di Londra, che ha co-redatto la pubblicazione.
Questa pubblicazione è il frutto di un lavoro collettivo di leader educativi ed esperti nel campo dell’IA e dell’educazione.
La pubblicazione ha beneficiato delle intuizioni e dei contributi di molti esperti, tra cui:
Mutlu Cukurova, Professore all’Università di Londra;
Colin de la Higuera, cattedra UNESCO sulle tecnologie per la formazione degli insegnanti con risorse educative aperte all’Università di Nantes;
Shafika Isaacs, ricercatrice associata all’Università di Johannesburg;
Natalie Lao, Executive Director della App Inventor Foundation;
Qin Ni, Associate Professor all’Università Normale di Shanghai;
Catalina Nicolin, esperta di ICT nell’educazione presso il European Digital Education Hub in Romania;
John Shaw-Taylor, cattedra UNESCO sull’IA e professore di statistica computazionale e machine learning all’Università di Londra;
Kelly Shirohira, Executive Manager di Jet Education Services;
Ki-Sang Song, Professore all’Università Nazionale di Educazione della Corea;
Ilkka Tuomi, Chief Scientist di Meaning Processing Ltd in Finlandia. Molti colleghi dell’UNESCO hanno anche contribuito in vari modi, tra cui:
Dafna Feinholz, Capo Sezione di Bioetica ed Etica della Scienza e della Tecnologia;
Francesc Pedró, Direttore dell’Istituto Internazionale di Istruzione Superiore in America Latina e nei Caraibi;
Prateek Sibal, Specialista del programma, Sezione per le politiche digitali e la trasformazione digitale;
Saurabh Roy, Senior Project Officer presso la Sezione per lo sviluppo dei docenti, Divisione per le politiche e i sistemi di apprendimento permanente;
Benjamin Vergel De Dios, Specialista del programma in ICT nell’educazione, Sezione per l’innovazione educativa e lo sviluppo delle competenze nell’Ufficio di Bangkok;
i colleghi dell’Entità per la diversità delle espressioni culturali nel Settore della Cultura;
Mark West, Specialista del programma, Divisione per il Futuro dell’Apprendimento e dell’Innovazione. Si ringrazia anche Glen Hertelendy, Luisa Ferrara e Xianglei Zheng, Unità per la Tecnologia e l’IA nell’Educazione, Futuro dell’Apprendimento e dell’Innovazione, per aver coordinato la produzione della pubblicazione. Si ringrazia anche Jenny Webster per la revisione e la correzione del testo, e Ngoc-Thuy Tran per la progettazione del layout.
Introduzione
Il rilascio di ChatGPT alla fine del 2022, il primo strumento di intelligenza artificiale generativa (GenAI) facile da usare reso ampiamente disponibile al pubblico, seguito da versioni più sofisticate, ha fatto scalpore in tutto il mondo e sta alimentando la corsa tra le grandi aziende tecnologiche per posizionarsi nel campo dello sviluppo di modelli GenAI.
In tutto il mondo, la preoccupazione iniziale in ambito educativo era che ChatGPT e strumenti GenAI simili sarebbero stati utilizzati dagli studenti per barare nei loro compiti, minando così il valore della valutazione dell’apprendimento, della certificazione e delle qualifiche (Anders, 2023). Mentre alcune istituzioni educative hanno vietato l’uso di ChatGPT, altre hanno accolto con cautela l’arrivo di GenAI (Tlili, 2023). Molte scuole e università, ad esempio, hanno adottato un approccio progressista credendo che “piuttosto che cercare di vietarne l’uso, studenti e personale devono essere supportati nell’utilizzo di strumenti GenAI in modo efficace, etico e trasparente” (Russell Group).
Questo approccio riconosce che GenAI è ampiamente disponibile, è probabile che diventi solo più sofisticato e ha sia un potenziale negativo specifico che un potenziale positivo unico per l’educazione.
Infatti, GenAI ha una miriade di possibili utilizzi. Può automatizzare l’elaborazione delle informazioni e la presentazione dei risultati in tutte le principali rappresentazioni simboliche del pensiero umano. Consente la consegna di output finali fornendo prodotti di conoscenza semilavorati. Liberando gli esseri umani da alcune categorie di abilità di pensiero di ordine inferiore, questa nuova generazione di strumenti AI potrebbe avere implicazioni profonde su come comprendiamo l’intelligenza umana e l’apprendimento.
Ma GenAI solleva anche molteplici preoccupazioni immediate relative a questioni come sicurezza, privacy dei dati, copyright e manipolazione. Alcuni di questi sono rischi più ampi legati all’intelligenza artificiale che sono stati ulteriormente aggravati da GenAI, mentre altri sono emersi di recente con questa ultima generazione di strumenti. È ora urgente che ciascuna di queste questioni e preoccupazioni sia pienamente compresa e affrontata.
Questa Guida è stata progettata per rispondere a questa urgente necessità. Tuttavia, un insieme tematico di linee guida su GenAI per l’istruzione non deve essere inteso come una pretesa che GenAI sia la soluzione ai problemi fondamentali dell’istruzione. Nonostante l’iperbole dei media, è improbabile che GenAI da solo risolva uno dei problemi che affliggono i sistemi educativi di tutto il mondo. Nel rispondere a questioni educative di lunga data, è fondamentale sostenere l’idea che la capacità umana e l’azione collettiva, e non la tecnologia, sono il fattore determinante nelle soluzioni efficaci alle sfide fondamentali che le società devono affrontare.
Questa Guida si propone quindi di supportare la pianificazione di regolamenti, politiche e programmi di sviluppo delle capacità umane appropriati, per garantire che GenAI diventi uno strumento che realmente benefici e rafforzi insegnanti, studenti e ricercatori.
Basandosi sulla Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale, la Guida si basa su un approccio centrato sull’uomo che promuove l’autonomia umana, l’inclusione, l’equità, la parità di genere, la diversità culturale e linguistica, nonché opinioni e espressioni plurali.
La Guida prima di tutto esamina cos’è GenAI e come funziona, presentando le diverse tecnologie e modelli disponibili (Sezione 1), prima di identificare una serie di questioni etiche e politiche controverse sia sull’IA in generale, sia su GenAI in particolare (Sezione 2). A questo segue una discussione sui passaggi e gli elementi chiave da esaminare quando si cerca di regolamentare GenAI basandosi su un approccio centrato sull’uomo, che garantisce un uso etico, sicuro, equo e significativo (Sezione 3). La Sezione 4 propone quindi misure che possono essere prese per sviluppare quadri politici coerenti e completi per regolare l’uso di GenAI nell’istruzione e nella ricerca, mentre la Sezione 5 esamina le possibilità di utilizzare creativamente GenAI nella progettazione del curriculum, nell’insegnamento, nell’apprendimento e nelle attività di ricerca. La Sezione 6 conclude la Guida con considerazioni sulle implicazioni a lungo termine di GenAI per l’istruzione e la ricerca.
Guidance for generative AI in education and research
TRADUZIONE INTEGRALE (PDF)
capitolo 1 Cos’è l’intelligenza artificiale generativa e come funziona
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca
capitolo 2 Controversie riguardo all’IA generativa e le loro implicazioni per l’istruzione
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca
capitolo 3 Regolamentare l’uso dell’IA generativa nell’istruzione
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca
capitolo 4 Verso un quadro politico per l’uso dell’IA generativa nell’istruzione e nella ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca
capitolo 5 Agevolare l’uso creativo di GenAI nell’istruzione e nella ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca
capitolo 6 GenAI e il futuro dell’istruzione e della ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca
Conclusioni
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca
TRADUZIONE INTEGRALE (PDF)