Ètica i regulació

GenAI a la UVic-UCC

• Presentació
• Introducció a la Intel·ligència Artificial Generativa (GenAI)
• Eines de GenAI i la creació de prompts
• Ensenyament, aprenentatge i GenAI
• Ètica i regulació
• Avaluació i GenAI
• Usos emergents de la GenAI en educació

Preocupacions ètiques per l’ús de la IA en l’educació superior

Tot i que la innovació i creativitat de la IA generativa és emocionant, aquests sistemes no estan exempts de limitacions ni de reptes ètics. Alguns d’aquests desafiaments són específics del context universitari —com la integritat acadèmica— mentre que d’altres tenen implicacions més àmplies per a les comunitats, el medi ambient i la humanitat en general.

Limitacions i riscos generals de la GenAI

Font: Paul R. MacPherson, Institute for Leadership, Innovation and Excellence in Teaching. (CC BY 4.0)

A continuació, resumim alguns dels riscos identificats en anglès a la infografia interactiva anterior.

Desinformació i al·lucinacions. Els models poden generar informació incorrecta o inventada, que pot semblar creïble però no és veraç.

Biaixos i discriminació. Els models poden reproduir o amplificar biaixos presents en les dades amb què han estat entrenats.

Impacte ambiental. L’entrenament i ús de models de gran escala requereix una gran quantitat de recursos computacionals i energia.

Dependència tecnològica. L’ús excessiu de GenAI pot reduir la capacitat crítica i creativa de l’estudiantat si no es guia adequadament.

Privacitat i seguretat de dades. Hi ha riscos associats a la recopilació, emmagatzematge i ús de dades personals o sensibles.

Desigualtat d’accés. No tot l’estudiantat té el mateix accés a eines d’IA, cosa que pot ampliar les bretxes educatives.

En l’àmbit universitari, cal tenir en compte:

Integritat acadèmica. L’ús de GenAI pot facilitar el plagi o la manca d’autoria pròpia si no s’utilitza de manera responsable.

Avaluació justa. Cal revisar com es dissenyen les activitats i avaluacions per garantir que reflecteixin l’aprenentatge real.

Transparència. Tant el professorat com l’estudiantat han de ser clars sobre quan i com s’utilitza la IA.

Gestionant els reptes ètics de la GenAI

El diàleg obert i la transparència són claus per abordar els reptes i oportunitats que la IA presenta en els entorns d’ensenyament i aprenentatge. A continuació presentem estratègies pràctiques per garantir que l’ús de la GenAI s’alineï amb un compromís ètic, tenint en compte l’impacte en diferents disciplines i adaptant les pràctiques pedagògiques en conseqüència.

Responsabilitat compartida i diàleg

Esforç col·lectiu. L’ús ètic de la IA és responsabilitat de tot el col·lectiu educatiu: professorat, estudiantat i personal tècnic. Cal fomentar un entorn on tothom entengui el seu paper en el manteniment d’estàndards ètics.

Implicar l’estudiantat. Parlar de l’ús i l’impacte de la IA pot fomentar una cultura d’integritat i ús responsable. L’estudiantat ha de conèixer tant les possibilitats com les limitacions de la GenAI.

Transparència i consciència

Comunicació oberta. El professorat que utilitzi IA per crear continguts o tasques administratives hauria de ser transparent, establint un model d’ús honest.

Reconèixer els límits. Cal conèixer les capacitats i limitacions de les eines d’IA, i adaptar els materials i les avaluacions segons sigui necessari.

Impacte específic per disciplina

Repensar l’avaluació. Davant les limitacions actuals de les eines de detecció d’IA, cal considerar formats alternatius d’avaluació que potenciïn habilitats com el pensament crític o la creativitat.

Adaptació de les pràctiques pedagògiques

Mètodes docents innovadors. Cal adaptar les estratègies d’ensenyament per aprofitar els punts forts de la GenAI i compensar-ne les debilitats. Per exemple, aprenentatge basat en projectes, exàmens orals, debats, simulacions, i altres activitats que la GenAI no pot replicar fàcilment.

Enfocament en habilitats crítiques. Cal desenvolupar el pensament crític i analític, preparant l’estudiantat per a un món integrat amb IA.

Avaluació crítica de l'output de GenAI

Tot i que les tecnologies GenAI poden generar contingut que sembla exacte i apropiat, pot no ser-ho. És fonamental que l’estudiantat practiqui l’anàlisi crítica del contingut generat per IA. Com a docents, podem modelar aquest procés i incorporar-lo com a activitat d’aprenentatge.

Segons Humber College cal tenir en compte els següents criteris essencials:

Precisió del contingut

Tot i que els models d’IA poden generar textos gramaticalment correctes i aparentment informatius, també poden contenir errors o ser enganyosos. Cal verificar el contingut amb fonts fiables.

Consciència dels biaixos

La GenAI pot generar contingut esbiaixat (per gènere, raça, cultura, capacitats, etc.). Cal avaluar el text per detectar possibles discriminacions o estereotips.

Consideracions ètiques

La GenAI pot crear contingut molt semblant al que generaria una persona, cosa que pot portar a mal ús, com ara la creació de deepfakes o la difusió de desinformació. Cal respectar els límits ètics i fomentar un ús responsable.

Verificació de fonts

Els models com MS Copilot Chat i ChatGPT poden al·lucinar informació incorrecta. Cal comprovar sempre les fonts i contrastar la informació.

Considera aquest exemple de cerca d'informació amb MS Copilot Chat:

Llibres de detectius de John Alwyn Griffiths

Si demanem la relació de títols, no rectifica:

Les novel·les que afirma erròniament MS Copilot que John Alwyn Griffiths ha publicat.

Quan li corregim, MS Copilot encerta finalment:

Les novel·les reals publicades per John Alwyn Griffiths

Parlem amb els estudiants

Cal fomentar l’anàlisi del contingut generat per IA. Podem començar amb preguntes com:

• Quina informació es presenta en el text? Quina informació falta en el text? Per què creus que falta aquesta informació?
• Quin tipus de llenguatge i elecció de paraules s'utilitzen per transmetre idees i informació en el text? Com són diferents o similars aquestes eleccions lingüístiques respecte a la manera com escriuen els humans? Per què creus que és així?
• Quin és el públic objectiu del text? Com ho saps?
• Quina fiabilitat, precisió i credibilitat té el text? Com ho has determinat?
• Quines fonts, si n'hi ha, s'han citat? Com d'exactes i rellevants són aquestes fonts?
• Quins biaixos hi ha en el text? Per què podrien existir?
• Quines podrien ser les fonts originals utilitzades per generar aquest text? Fes una cerca a Internet i mira si pots trobar les fonts originals.
• Quines fonts es podrien utilitzar per verificar aquesta informació?
• Hi ha algun biaix evident en aquest text?
• Aquest contingut és èticament acceptable per al seu ús acadèmic?
• Què falta o què podria estar mal interpretat?

Política UVic-UCC sobre l’ús de GenAI i bones pràctiques

En un context de canvis accelerats és poc viable disposar d’una política institucional única sobre l’ús de la GenAI en l’ensenyament, l’aprenentatge o l’avaluació.

En el futur és possible que hi hagi una comissió específica UVic-UCC amb responsabilitat per definir l'estratègia i gobernança de la IA a casa nostra. Fins a nou avís, les decisions es prendran a nivell de centre federat, facultat, programa o assignatura, segons el criteri acadèmic, les normes disciplinàries i els objectius pedagògics.

Integritat acadèmica

L’ús de la GenAI ha d’estar sempre alineat amb els valors acadèmics fonamentals de la UVic-UCC. Els documents clau són:

• Codi ètic de l’estudiantat (i tots els membres de la comunitat).
• El plagi. Pàgina de la Biblioteca de conjunt de consells sobre l'elaboració de treballs acadèmics.
• Decàleg per a una intel·ligència artificial (IA) segura en l'entorn d'aprenentatge universitari (2023). Una guía breu de bones pràctiques, editada pel Vicerectorat d'Ordenació Acadèmica.
• Guia per elaborar citacions bibliografiques en format APA. Quan es permet l’ús de GenAI en el treball de l’estudiantat, cal reconèixer-lo i citar-lo adequadament, seguint les pràctiques acadèmiques habituals. Pàgina de la Biblioteca.

Fomentar la claredat en la pràctica

Per garantir un ús just i coherent de la GenAI cal que el professorat tingui en compte els següents aspectes:

• Comunicar clarament a l’estudiantat què està permès i què no.
• Incloure orientacions en les guies docents i als intercanvis.
• Considerar el paper de la GenAI en el disseny de les avaluacions, especialment pel que fa a l’originalitat, l’autoria i la transparència.
• Si es permet l'ús de la GenAI, cal proporcionar unes indicacions sobre l’ús ètic i responsable de la GenAI i com citar-la correctament. El professorat pot incloure orientacions com ara: La UVic-UCC valora el potencial educatiu de la IA, però en regula l’ús per garantir-ne una aplicació ètica i responsable. En cada activitat d'avaluació d'aquesta assignatura l'estudiant rebrà informació de les eines IA que es permeten utilitzar i com. L’estudiant ha de seguir aquestes indicacions, citar les eines emprades i identificar clarament els continguts generats per IA, que no es poden presentar com a propis. L’ús inadequat de la IA, com fer-la servir quan no està permesa o no citar-la quan cal, pot considerar-se una irregularitat.

Daniel Stanford (The Best AI Syllabus Policies I’ve Seen So Far, 2024) recomana unes bones pràctiques, que inclouen directrius clares sobre l’ús permès de la IA, consideracions ètiques com la privacitat de dades i els biaixos, i els requisits específics de citació per a contingut generat per IA:

• Si l’ús de la IA està prohibit o és obligatori, explica’n el motiu.
• Relaciona l’ús de la IA amb alguna cosa familiar (per exemple, demanar ajuda a un amic o a un tutor).
• Proporciona exemples d’ús acceptable i inacceptable.
• Reconeix qüestions ètiques com la privacitat de les dades, els biaixos, la inexactitud, les violacions de la propietat intel·lectual, l’impacte ambiental, etc.
• Indica els requisits de documentació i citació de l’ús de la IA. Això pot incloure captures de pantalla, transcripcions, documents amb el control de canvis activat i les directrius de citació APA per a IA.
• Explica com es gestionarà un ús indegut. Per exemple, si l'equip docent sospita un ús no autoritzat de la GenAI pot exigir que l'estudiant participi en una defensa oral del seu treball lliurat, amb efectes sobre la nota atorgada.
• Anima l’alumnat a fer preguntes si la política no és clara.

Semàfor (www.freepik.com)

El sistema del semàfor. Algunes institucions recomanen l'ús d'un semàfor per assenyalar als estudiants l'ús permès o no de la GenAI als seus treballs acadèmics. Per exemple, consulta el sistema que es fa servir a la University of Leeds. Vermell vol dir que l'ús es prohibeix, verd vol dir que es permet o que forma part del procés recomanat, i groc (o ambre) vol dir que es permeten certs usos definits.

Sistemes d'avaluació

Si fins ara, hem basat el nostre sistema d'avaluació final d'assignatura en funció d'unes proves de tipus test (opció múltiple), uns problemes per resoldre o unes treballs escrits lliurats, de cop i volta ens trobarem en una situació molt vulnerable. On abans aquestes activitats podien discriminar entre estudiants de diferents nivells de'assoliment, podem trobar que tot l'estudiantat està optant a les màximes notes. I el que és pitjor, ens podem trobar fent feina pesada d'avaluació, que no val res perquè realment estem avaluant les respostes d'una màquina, no pas de l'estudiant.

En aquest nou context, la primera opció podria ser un sistema de detecció de l'ús no permès de la GenAI. Si podem dir a l'estudiant infractor, amb tota seguretat, "Has fet aquest treball fent servir ús indegut o no reconegut de la GenIA", ja haurem trobat l'antídot a l'ús inadequat de la GenAI. Les eines de detecció de coincidències banals (de vegades anomenades "detectors de plagi") van fer aquesta funció amb certa soltura fins a l'aparició dels xatbots de GenAI. Però amb l'aparició de la GenAI les coses s'han complicat. Cada text generat per la GenAI és un text original. Per això, els nous sistemes de detecció de text IA es basen en l'estil de redacció. Suposadament, les plataformes de GenAI escriuen de forma diferent del les persones. (De fet, això ja ho sabem. MS Copilot Chat pot escriure un català formalment perfecte. En això sí que és diferencia del humans. On abans un estudiant determinat feia un error de redacció cada 15 paraules, ara ens pot lliurar textos llargs sense cap falta.) Però els nous detectors de text GenAI no són 100% fiables i això els fa inservibles per detectar un possible frau acadèmic. No podem acusar un estudiant d'haver fet un frau probable. Caldria certesa.

Això no vol dir que les activitats que hem fet servir fins ara per avaluar els estudiants no tinguin cap utilitat. Poden ser molt útils com a activitats formatives, sense tenir en compte, o amb poc pes, de cara a l'avaluació final. Però si volem disposar de recursos fiables per a l'avaluació final, cal fer les coses de forma diferent.

Accions de resiliència a l'avaluació tradicional

L'opció més immediata és mantenir el sistema d'avaluació actual però a la vegada millorar la seva seguretat.

Proves amb paper i bolígraf. A la UVic-UCC hi ha dos sistemes en ús general:

• Per a respostes redactades, proves anomenades "blue book" en la tradició acadèmica dels Estats Units.
• Offline Quiz, una activitat Moodle que permet el reconeixement òptic per escaneig de les respostes dels estudiants a proves d'oció múltiple, i el seu processament automàtic.

Proves en ordinador amb internet capat. A la UVic-UCC disposem a les aules d'informàtica i als portàtils compartits de l'entorn Moodle capat Safe Exam Browser, que permet la configuració de proves en ordinador sense permetre conexions de xarxa no contemplades.

Noves opcions d'avaluació

Ja hem fet esmena anteriorment a diverses opcions d'innovació dsocent, de cara a l'avaluació en temps de GenAI. Aquí recuparem i detallem algunes d'aquestes recomanacions, que en cap cas no són solucions miraculoses. L'enemic real de de l'avaluació fefeient és la massificació. Si els ràtios docent/estudiant i el contacte en situació de pràctiques fos més sostingut, el professorat no tindria dfificultat a l'hora d'avaluar els seus estudiants. El problema neix de la manca de contacte significatiu entre estudiant i docent. Martin Dougiamas, el fundador de Moodle, identifica aquest problema a l'article Thoughts about the impact of AI text on assessment (2022), on afirma que la clau d'una rigurosa avaluació és "long-term engagement" (contacte i compromés a llarg termini). Però és poc probable que els ràtios millorin aviat.

Quines altres opcions tenim? Un recull de propostes molt recent (Kirsty Branch, juliol 2025) és Ensuring assessment survives AI: A menu of tools and resources. A continuació, fem un recull breu de recomanacions de diverses fonts.

Redefinir què s’avalua

• Centrar-se en el procés més que en el producte final: valorar la capacitat d’anàlisi, recerca, presa de decisions i col·laboració.
• Competències transversals com l’ètica digital, el pensament crític i l’aprenentatge autònom han de guanyar pes.
• Interacció amb la GenAI: no penalitzar-ne l’ús, sinó avaluar com s’utilitza de manera crítica, ètica i reflexiva.

Canviar com s’avalua

• Avaluació formativa i contínua: amb feedback regular i seguiment del progrés.
• Portafolis digitals: combinen evidències, reflexions i justificacions d’ús d’eines com MS Copilot Chat. És clau que els continguts del portafolis donin més pes a l'experiència i la reflexió personal, i a la inclusió d'imatges i vídeos del mateix estudiant, i a l'intercanvi amb altres estudiants sobre les seves vivències. Ja no cal donar importància avaluativa a les seccions del portafolis d'explicxació teòrica (que poden generar-se amb la GenAI).
• Activitats d’autenticitat: projectes reals, estudis de cas, resolució de problemes contextualitzats.
• Avaluacions orals o síncrones: entrevistes o defenses per verificar comprensió i autoria.

Integrar la GenAI com a part del procés

• Encàrrecs que impliquin l’ús de GenAI: justificar prompts, verificar informació, millorar respostes generades.
• Anàlisi crítica de la IA: detectar errors, comparar respostes, adaptar-les a contextos nous.
• Feedback assistit per IA: tutors digitals que ofereixin comentaris preliminars o simulacions de rol.

Diversificar les fonts d’evidència

• Autoavaluació i coavaluació: fomenten la responsabilitat i la metacognició. A Moodle disposem de diverses eines i activitats que ens poden ajudar a fomentar aquests processos d'avaluació compartida. Consulta l'article Activitats de l'aula Moodle per veure detalls de Fòrum, Taller, Peerwork, Wiki, Base de dades, Glossari, StudentQuiz,...
• Entrades reflexives: explicar què s’ha après, com i amb quines eines.
• Microavaluacions freqüents: activitats curtes que redueixen la possibilitat de trampes i donen una imatge més precisa del progrés.

Revisar instruments i criteris

• Rúbriques centrades en el raonament i l’originalitat, no només en el format.
• Criteris que valorin l’ús adequat de la GenAI: saber quan i com utilitzar-la, i com citar-la correctament.
• Traçabilitat del procés: evidenciar com s’ha generat el contingut i quines fonts s’han consultat.

Aspectes ètics i d’equitat

• Debat col·lectiu sobre l’ús de la GenAI: establir normes clares amb participació d’estudiants i docents.
• Garantir l’accessibilitat equitativa a les eines digitals per evitar bretxes socials.
• Evitar la dependència passiva de la IA: fomentar la reflexió crítica i l’autonomia.

Lectura recomanada. Per a més idees sobre estratègies d'ús de la GenAI en activitats d'avaluació, integrant o mitigant el seu ús, recomanem consultar

eCampusOntario. (2023). Creating and using generative AI in the college classroom. eCampusOntario Pressbooks.

Regulació nacional i internacional de la IA

El ràpid desenvolupament de les tecnologies d’IA ha generat preocupació i debat a escala global. Tant a Europa com a Espanya i Catalunya s’estan implementant marcs normatius per garantir un ús segur, ètic i centrat en les persones.

• Llei d’IA de la Unió Europea (EU AI Act) És la primera llei integral sobre IA a Europa. Va entrar en vigor l’agost de 2024. Enfocament basat en el risc:
  • Risc inacceptable (prohibits): com el reconeixement biomètric en temps real, la puntuació social o la manipulació subliminal.
  • Alt risc: com l’ús en educació, ocupació, serveis públics o aplicacions mèdiques.
  • Risc limitat i risc mínim: amb requisits més lleugers o sense regulació específica.

A Espanya, l'ús de la Intel·ligència Artificial Generativa (GenAI) està començant a regular-se amb criteris ètics i normatius específics, tant a nivell estatal com autonòmic. L'Anteproyecto de Ley para el buen uso y gobernanza de la IA (2025) busca garantir un ús ètic, inclusiu i beneficiós de la IA. Aquesta llei estableix límits als usos perjudicials de la IA, regula els sistemes d'alt risc i promou la protecció dels drets digitals i la transparència. Així Espanya alinea la seva legislació amb el reglament europeu d’IA, aprovat el 2024.

A Catalunya la Generalitat ha aprovat uns criteris per a l’ús responsable de la GenAI en l’administració pública. Aquests criteris inclouen

• Prohibicions específiques per a empleats públics (ex. no utilitzar GenAI per generar informació sensible o discriminatòria).
• Fase d’avaluació prèvia abans d’usar eines de GenAI.
• Criteris ètics sobre com redactar prompts i com utilitzar els resultats.
• Valors com la transparència, la no discriminació i la protecció de dades.

Cal que el professorat universitari estigui al corrent d’aquestes regulacions en relació amb l’ús de la GenAI a l’aula. Cal vetllar per una integració ètica centrada en les persones, prioritzant valors com la transparència, la inclusió i la responsabilitat en l’ús educatiu de la IA.

Comprova els teus coneixements

Basat en una activitat original d'Andrew Woods, 2024. (CC BY-NC 4.0).