Ètica i regulació

GenAI a la UVic-UCC

• Presentació
• Introducció a la Intel·ligència Artificial Generativa (GenAI)
• Eines de GenAI i la creació de prompts
• Ensenyament, aprenentatge i GenAI
• Ètica i regulació
• Avaluació i GenAI
• Usos emergents de la GenAI en educació

Preocupacions ètiques per l’ús de la IA en l’educació superior

Tot i que la innovació i creativitat de la IA generativa és emocionant, aquests sistemes no estan exempts de limitacions ni de reptes ètics. Alguns d’aquests desafiaments són específics del context universitari —com la integritat acadèmica— mentre que d’altres tenen implicacions més àmplies per a les comunitats, el medi ambient i la humanitat en general.

Limitacions i riscos generals de la GenAI

Font: Paul R. MacPherson, Institute for Leadership, Innovation and Excellence in Teaching. (CC BY 4.0)

A continuació, resumim alguns dels riscos identificats en anglès a la infografia interactiva anterior.

Desinformació i al·lucinacions. Els models poden generar informació incorrecta o inventada, que pot semblar creïble però no és veraç.

Biaixos i discriminació. Els models poden reproduir o amplificar biaixos presents en les dades amb què han estat entrenats.

Impacte ambiental. L’entrenament i ús de models de gran escala requereix una gran quantitat de recursos computacionals i energia.

Dependència tecnològica. L’ús excessiu de GenAI pot reduir la capacitat crítica i creativa de l’estudiantat si no es guia adequadament.

Privacitat i seguretat de dades. Hi ha riscos associats a la recopilació, emmagatzematge i ús de dades personals o sensibles.

Desigualtat d’accés. No tot l’estudiantat té el mateix accés a eines d’IA, cosa que pot ampliar les bretxes educatives.

En l’àmbit universitari, cal tenir en compte:

Integritat acadèmica. L’ús de GenAI pot facilitar el plagi o la manca d’autoria pròpia si no s’utilitza de manera responsable.

Avaluació justa. Cal revisar com es dissenyen les activitats i avaluacions per garantir que reflecteixin l’aprenentatge real.

Transparència. Tant el professorat com l’estudiantat han de ser clars sobre quan i com s’utilitza la IA.

Gestionant els reptes ètics de la GenAI

El diàleg obert i la transparència són claus per abordar els reptes i oportunitats que la IA presenta en els entorns d’ensenyament i aprenentatge. A continuació presentem estratègies pràctiques per garantir que l’ús de la GenAI s’alineï amb un compromís ètic, tenint en compte l’impacte en diferents disciplines i adaptant les pràctiques pedagògiques en conseqüència.

Responsabilitat compartida i diàleg

Esforç col·lectiu. L’ús ètic de la IA és responsabilitat de tot el col·lectiu educatiu: professorat, estudiantat i personal tècnic. Cal fomentar un entorn on tothom entengui el seu paper en el manteniment d’estàndards ètics.

Implicar l’estudiantat. Parlar de l’ús i l’impacte de la IA pot fomentar una cultura d’integritat i ús responsable. L’estudiantat ha de conèixer tant les possibilitats com les limitacions de la GenAI.

Transparència i consciència

Comunicació oberta. El professorat que utilitzi IA per crear continguts o tasques administratives hauria de ser transparent, establint un model d’ús honest.

Reconèixer els límits. Cal conèixer les capacitats i limitacions de les eines d’IA, i adaptar els materials i les avaluacions segons sigui necessari.

Impacte específic per disciplina

Repensar l’avaluació. Davant les limitacions actuals de les eines de detecció d’IA, cal considerar formats alternatius d’avaluació que potenciïn habilitats com el pensament crític o la creativitat.

Adaptació de les pràctiques pedagògiques

Mètodes docents innovadors. Cal adaptar les estratègies d’ensenyament per aprofitar els punts forts de la GenAI i compensar-ne les debilitats. Per exemple, aprenentatge basat en projectes, exàmens orals, debats, simulacions, i altres activitats que la GenAI no pot replicar fàcilment.

Enfocament en habilitats crítiques. Cal desenvolupar el pensament crític i analític, preparant l’estudiantat per a un món integrat amb IA.

Avaluació crítica de l'output de GenAI

Tot i que les tecnologies GenAI poden generar contingut que sembla exacte i apropiat, pot no ser-ho. És fonamental que l’estudiantat practiqui l’anàlisi crítica del contingut generat per IA. Com a docents, podem modelar aquest procés i incorporar-lo com a activitat d’aprenentatge.

Segons Humber College cal tenir en compte els següents criteris essencials:

Precisió del contingut

Tot i que els models d’IA poden generar textos gramaticalment correctes i aparentment informatius, també poden contenir errors o ser enganyosos. Cal verificar el contingut amb fonts fiables.

Consciència dels biaixos

La GenAI pot generar contingut esbiaixat (per gènere, raça, cultura, capacitats, etc.). Cal avaluar el text per detectar possibles discriminacions o estereotips.

Consideracions ètiques

La GenAI pot crear contingut molt semblant al que generaria una persona, cosa que pot portar a mal ús, com ara la creació de deepfakes o la difusió de desinformació. Cal respectar els límits ètics i fomentar un ús responsable.

Verificació de fonts

Els models com MS Copilot Chat i ChatGPT poden al·lucinar informació incorrecta. Cal comprovar sempre les fonts i contrastar la informació.

Considera aquest exemple de cerca d'informació amb MS Copilot Chat:

Llibres de detectius de John Alwyn Griffiths

La resposta és incorrecta però, quan demanem la relació de títols, no rectifica:

Les novel·les que afirma erròniament MS Copilot que John Alwyn Griffiths ha publicat.

Quan li corregim, dient "Els últims set títols de la llista no existeixen", MS Copilot Chat encerta finalment:

Les novel·les reals publicades per John Alwyn Griffiths

Parlem amb els estudiants

Cal fomentar l’anàlisi del contingut generat per IA. Podem començar amb preguntes com:

• Quina informació es presenta en el text? Quina informació falta en el text? Per què creus que falta aquesta informació?
• Quin tipus de llenguatge i elecció de paraules s'utilitzen per transmetre idees i informació en el text? Com són diferents o similars aquestes eleccions lingüístiques respecte a la manera com escriuen els humans? Per què creus que és així?
• Quin és el públic objectiu del text? Com ho saps?
• Quina fiabilitat, precisió i credibilitat té el text? Com ho has determinat?
• Quines fonts, si n'hi ha, s'han citat? Com d'exactes i rellevants són aquestes fonts?
• Quins biaixos hi ha en el text? Per què podrien existir?
• Quines podrien ser les fonts originals utilitzades per generar aquest text? Fes una cerca a Internet i mira si pots trobar les fonts originals.
• Quines fonts es podrien utilitzar per verificar aquesta informació?
• Hi ha algun biaix evident en aquest text?
• Aquest contingut és èticament acceptable per al seu ús acadèmic?
• Què falta o què podria estar mal interpretat?

Política UVic-UCC sobre l’ús de GenAI i bones pràctiques

En un context de canvis accelerats és poc viable disposar d’una política institucional única sobre l’ús de la GenAI en l’ensenyament, l’aprenentatge o l’avaluació.

En el futur és possible que hi hagi una comissió específica UVic-UCC amb responsabilitat per definir l'estratègia i gobernança de la IA a casa nostra. Fins a nou avís, les decisions es prendran a nivell de centre federat, facultat, programa o assignatura, segons el criteri acadèmic, les normes disciplinàries i els objectius pedagògics. Cal mencionar aquí la realització d'un creixent nombre d'activitats formatives entorn al Centre de Innovació i Formació en Educació (CIFE), la Comissió d'Innovació Docent, la Unitat de Docència Universitària i Tecnologia Educativa, i els propis centres docents.

Integritat acadèmica

L’ús de la GenAI ha d’estar sempre alineat amb els valors acadèmics fonamentals de la UVic-UCC. Els documents clau són:

• Codi ètic de l’estudiantat (i tots els membres de la comunitat).
• El plagi. Pàgina de la Biblioteca de conjunt de consells sobre l'elaboració de treballs acadèmics.
• Decàleg per a una intel·ligència artificial (IA) segura en l'entorn d'aprenentatge universitari (2023). Una guía breu de bones pràctiques, editada pel Vicerectorat d'Ordenació Acadèmica.
• Guia per elaborar citacions bibliografiques en format APA. Quan es permet l’ús de GenAI en el treball de l’estudiantat, cal reconèixer-lo i citar-lo adequadament, seguint les pràctiques acadèmiques habituals. Pàgina de la Biblioteca.
• Declaració d’ús d’Intel·ligència Artificial (IA) en els treballs acadèmics i de recerca (2025). Aquest document de la Biblioteca UVices es fa disponible en versió esborrany. Orientat als estudiants, dóna indicacions de bones pràctiques sobre què s'ha de declara i com, a l'hora de lliurar treballs amb ús (o no) d'eines de la GenAI.

Fomentar la claredat en la pràctica

Per garantir un ús just i coherent de la GenAI cal que el professorat tingui en compte els següents aspectes:

• Comunicar clarament a l’estudiantat què està permès i què no.
• Incloure orientacions en les guies docents i als intercanvis.
• Considerar el paper de la GenAI en el disseny de les avaluacions, especialment pel que fa a l’originalitat, l’autoria i la transparència.
• Si es permet l'ús de la GenAI, cal proporcionar unes indicacions sobre l’ús ètic i responsable de la GenAI i com citar-la correctament. El professorat pot incloure orientacions com ara: La UVic-UCC valora el potencial educatiu de la IA, però en regula l’ús per garantir-ne una aplicació ètica i responsable. En cada activitat d'avaluació d'aquesta assignatura l'estudiant rebrà informació de les eines IA que es permeten utilitzar i com. L’estudiant ha de seguir aquestes indicacions, citar les eines emprades i identificar clarament els continguts generats per IA, que no es poden presentar com a propis. L’ús inadequat de la IA, com fer-la servir quan no està permesa o no citar-la quan cal, pot considerar-se una irregularitat.

Daniel Stanford (The Best AI Syllabus Policies I’ve Seen So Far, 2024) recomana unes bones pràctiques, que inclouen directrius clares sobre l’ús permès de la IA, consideracions ètiques com la privacitat de dades i els biaixos, i els requisits específics de citació per a contingut generat per IA:

• Si l’ús de la IA està prohibit o és obligatori, explica’n el motiu.
• Relaciona l’ús de la IA amb alguna cosa familiar (per exemple, demanar ajuda a un amic o a un tutor).
• Proporciona exemples d’ús acceptable i inacceptable.
• Reconeix qüestions ètiques com la privacitat de les dades, els biaixos, la inexactitud, les violacions de la propietat intel·lectual, l’impacte ambiental, etc.
• Indica els requisits de documentació i citació de l’ús de la IA. Això pot incloure captures de pantalla, transcripcions, documents amb el control de canvis activat i les directrius de citació APA per a IA.
• Explica com es gestionarà un ús indegut. Per exemple, si l'equip docent sospita un ús no autoritzat de la GenAI pot exigir que l'estudiant participi en una defensa oral del seu treball lliurat, amb efectes sobre la nota atorgada.
• Anima l’alumnat a fer preguntes si la política no és clara.

Semàfor (www.freepik.com)

El sistema del semàfor. Algunes institucions recomanen l'ús d'un semàfor per assenyalar als estudiants l'ús permès o no de la GenAI als seus treballs acadèmics. Per exemple, consulta el sistema que es fa servir a la University of Leeds. Vermell vol dir que l'ús es prohibeix, verd vol dir que es permet o que forma part del procés recomanat, i groc (o ambre) vol dir que es permeten certs usos definits.

Lectura recomanada. Per a més idees sobre estratègies d'ús de la GenAI en activitats d'avaluació, integrant o mitigant el seu ús, recomanem consultar

eCampusOntario. (2023). Creating and using generative AI in the college classroom. eCampusOntario Pressbooks.

Regulació nacional i internacional de la IA

El ràpid desenvolupament de les tecnologies d’IA ha generat preocupació i debat a escala global. Tant a Europa com a Espanya i Catalunya s’estan implementant marcs normatius per garantir un ús segur, ètic i centrat en les persones.

• Llei d’IA de la Unió Europea (EU AI Act) És la primera llei integral sobre IA a Europa. Va entrar en vigor l’agost de 2024. Enfocament basat en el risc:
  • Risc inacceptable (prohibits): com el reconeixement biomètric en temps real, la puntuació social o la manipulació subliminal.
  • Alt risc: com l’ús en educació, ocupació, serveis públics o aplicacions mèdiques.
  • Risc limitat i risc mínim: amb requisits més lleugers o sense regulació específica.

A Espanya, l'ús de la Intel·ligència Artificial Generativa (GenAI) està començant a regular-se amb criteris ètics i normatius específics, tant a nivell estatal com autonòmic. L'Anteproyecto de Ley para el buen uso y gobernanza de la IA (2025) busca garantir un ús ètic, inclusiu i beneficiós de la IA. Aquesta llei estableix límits als usos perjudicials de la IA, regula els sistemes d'alt risc i promou la protecció dels drets digitals i la transparència. Així Espanya alinea la seva legislació amb el reglament europeu d’IA, aprovat el 2024.

A Catalunya la Generalitat ha aprovat uns criteris per a l’ús responsable de la GenAI en l’administració pública. Aquests criteris inclouen

• Prohibicions específiques per a empleats públics (ex. no utilitzar GenAI per generar informació sensible o discriminatòria).
• Fase d’avaluació prèvia abans d’usar eines de GenAI.
• Criteris ètics sobre com redactar prompts i com utilitzar els resultats.
• Valors com la transparència, la no discriminació i la protecció de dades.

Cal que el professorat universitari estigui al corrent d’aquestes regulacions en relació amb l’ús de la GenAI a l’aula. Cal vetllar per una integració ètica centrada en les persones, prioritzant valors com la transparència, la inclusió i la responsabilitat en l’ús educatiu de la IA.

Comprova els teus coneixements

Basat en una activitat original d'Andrew Woods, 2024. (CC BY-NC 4.0).