Qui sei al sicuro!

Etica

Siamo convinti che la progettazione di sistemi AI richieda una profonda riflessione per quanto riguarda l’impatto etico e sociale sugli utilizzatori, e nel nostro caso educativo.

Per questo motivo ci impegniamo non solo per migliorare le funzionalità tecniche della piattaforma AskLea, ma riteniamo fondamentale rendere i nostri studenti, docenti e genitori consapevoli e coscienti di quelli che siano i punti di forza e di debolezza di un sistema AI, e di quello che c’è dietro ad un sistema di questo tipo.

Abbiamo scelto un framework di riferimento affidabile e ben strutturato, pubblicato dalla Commissione Europea nel 2022, per definire i valori principali da tenere sempre a mente prima di pubblicare qualsiasi nuova funzione o caratteristica di AskLea.

Se vuoi approfondire il framework, ecco i dettagli:

Orientamenti etici per gli educatori sull’uso dell’intelligenza artificiale (IA) e dei dati nell’insegnamento e nell’apprendimento

Ma come abbiamo tradotto questo framework in qualcosa di pratico e tangibile dentro AskLea?

Ecco qua le 7 Aree su cui stiamo lavorando e che rappresentano costantemente la nostra “bussola”. Queste sono delle prime riflessioni che vogliamo condividere con te, a breve presenteremo una versione dettagliata di come intendiamo sviluppare questi concetti in AskLea.

1 - Intervento e sorveglianza umani

Il genitore o il docente potranno sempre monitorare le conversazioni e le attività svolte dallo studente (questa funzione sarà disponibile dal 2024). Questa caratteristica è chiaramente segnalata all’interno di AskLea, in modo da rendere trasparente il funzionamento dello strumento per lo studente. AskLea, come ogni sistema AI basato su LLM (Large Language Models) può essere impreciso, e a volte sbagliare. Lo studente verrà sempre informato su questa possibilità, e per evitare un utilizzo eccessivo dello strumento (che potrebbe sfociare in dipendenza) abbiamo previsto dei limiti chiari e ben definiti di interazioni giornaliere. Genitori, docenti e studenti potranno accedere a delle risorse formative gratuite per poter comprendere tutti i vantaggi e gli svantaggi dei modelli di intelligenza artificiale nel mondo dell’educazione (questa funzione sarà disponibile dal 2024).

2 - Trasparenza

Attraverso i contenuti formativi gratuiti (disponibili dal 2024) e attraverso le FAQ daremo la possibilità di acquisire consapevolezza rispetto ai metodi e alle caratteristiche dei modelli di AI utilizzati da AskLea. Queste istruzioni e informazioni saranno sempre accessibili gratuitamente e presentate in modo chiaro per tutti i nostri stakeholders (studenti, insegnanti e genitori).

3 - Diversità, non discriminazione ed equità

AskLea è stato progettato secondo i principi dell’Universal Design for Learning e offre modalità di interazioni adeguate anche per discenti con disabilità o bisogni educativi speciali: tutte le risposte e le interazioni di Lea possono essere lette da un sintetizzatore vocale, lo studente può registrare le sue richieste utilizzando la voce (non è quindi obbligato all’uso della tastiera), i contenuti vengono adattati all’età dello studente e in caso di contenuti eccessivamente complessi Lea mette sempre in atto un processo di semplificazioni in modo da andare incontro alle esigenze del discente. L’usabilità e l’esperienza utente sono in fase di sperimentazione (vedi la sezione Ricerca) per ogni gruppo di età destinatario. In caso di distorsioni o disuguaglianze percepite l’utente può sempre segnalare il contenuto generato dal sistema, e a quel punto si innesca un processo di verifica interno al nostro team di ricerca e sviluppo.

4 - Benessere sociale e ambientale

Tra gli obiettivi di ricerca che ci siamo posti (in collaborazione al International research center for inclusion and teacher training dell’Università Europea di Roma) c’è l’analisi di eventuali condizionamenti sul benessere sociale ed emotivo di alunni e docenti causati dal nostro sistema. AskLea è stata addestrata in modo da mettere sempre in chiaro che l’interazione sociale è simulata e che essendo un sistema di intelligenza artificiale non riesce a provare sentimenti nè empatia. Le scuole che sceglieranno di utilizzare AskLea avranno la possibilità di coinvolgere i discenti nella compilazione di un questionario, progettato dall’International research center for inclusion and teacher training e dal team di ricerca e sviluppo di TALENT srl, così da valutare eventuali interazioni tra la piattaforma e il benessere degli studenti.

5 - Riservatezza e governance dei dati

AskLea è conforme al GDPR, ossia al regolamento dell'Unione europea in materia di trattamento dei dati personali e di privacy. All’interno di AskLea ricordiamo sempre all’utente di non inserire dati sensibili, in quanto non necessari al corretto funzionamento della piattaforma. I dati raccolti sono archiviati sui server di Aruba SpA e sono accessibili solo al team di sviluppo di TALENT srl. In caso di problematiche riguardanti la riservatezza o la protezione dei dati insegnanti, dirigenti o genitori potranno scriverci all’indirizzo talent@weturtle.org

6 - Robustezza tecnica e sicurezza

AskLea è stata progettata per evitare problematiche di data leak e data breach. La collaborazione con l’International research center for inclusion and teacher training dell’Università Europea di Roma ci permette di monitorare costantemente se AskLea raggiunge gli obiettivi educativi per i quali è stata progettata.

7 - Accountability

L’efficacia e l’impatto di AskLea verranno valutati grazie ai progetti di ricerca e alle sperimentazioni realizzate in collaborazione all’ International research center for inclusion and teacher training.