Pour encadrer l'utilisation de l'intelligence artificielle générative dans le domaine académique, l'Université de Montréal a établi plusieurs directives. Ces recommandations ou règlements ont pour objectif de promouvoir une utilisation transparente et responsable de l'IA dans les travaux universitaires.
Balises pour l’utilisation de l’IA générative dans les activités d’enseignement à l’UdeM
Mise à jour des règlements disciplinaires sur le plagiat et la fraude :
L’article 1.2 o) a été ajouté afin d’interdire formellement l’utilisation totale ou partielle, littérale ou déguisée, de toute création générée par un système d’intelligence artificielle (incluant ChatGPT), à moins d’autorisation expresse lors des évaluations.
Les lignes directrices pour une utilisation appropriée de l’intelligence artificielle (IA) générative aux études supérieures à l’Université de Montréal ont été publiées en 2024.
Ces principes directeurs ont pour objectif de favoriser et d’encourager une utilisation éthique et innovante de l’IA dans un contexte de recherche, d'enseignement et d’apprentissage. Ils visent à soutenir la communauté universitaire dans l’adoption de ces technologies tout en assurant une approche responsable et réfléchie.
Comprendre les enjeux sociétaux de l’IAg
Utiliser un outil d’intelligence artificielle générative a des impacts possibles sur notre autonomie, notre capacité de réflexion, notre pouvoir de décision et notre perception du monde. Il est donc essentiel de considérer à la fois la facilité qu’offrent ces outils et les conséquences qu’ils peuvent avoir sur nous et sur les autres.
L’IAg peut être un outil d’assistance pour la rédaction, la révision, la planification ou encore l’apprentissage de nouvelles notions. Elle peut aider à surmonter certaines barrières linguistiques ou cognitives.
Créativité et production
L’IAg peut générer du contenu sur n’importe quel sujet sous forme de texte, d’audio, d’images ou de vidéos.
Biais
Les algorithmes d'IA générative reproduisent et amplifient les biais présents dans les données sur lesquelles ils sont entraînés. Cela peut renforcer des stéréotypes, perpétuer des discriminations et fausser la représentation de la réalité ou des faits.
Fiabilité
Les IAg peuvent générer des informations inexactes, biaisées ou trompeuses, contribuant ainsi à la propagation de fausses croyances et à la désinformation. L’absence de transparence sur l’origine des contenus peut compliquer leur vérification.
Coût humain
L’automatisation accrue peut entraîner des suppressions d’emplois, une précarisation de certaines professions et un déplacement des compétences requises sur le marché du travail.
Environnement
Le développement et l'exploitation des systèmes d'IA causent des dommages environnementaux par la consommation d'énergie des centres de données ou par les matériaux et l'empreinte carbone associés au matériel de l'IA.
Contenu inapproprié
L’IA générative peut créer du contenu nuisible ou violent. On a vu des cas utilisant des hypertrucages ou deepfake mettant en scène des personnalités publiques récitant des discours trompeurs, ce qui participe à une montée de la désinformation. Dans l’industrie musicale, l’hypertrucage vocal, ou deepfake vocal, a été utilisé pour reproduire la voix d’artistes sans leur consentement. Les hypertrucages sont également utilisés dans le cyberharcèlement.
Droit d'auteur
Les IAg peuvent produire des œuvres qui imitent ou reproduisent du contenu protégé par le droit d’auteur sans autorisation. Cela pose des défis pour les créateurs et créatrices quant à la reconnaissance et la protection de leur travail.
Protection de la vie privée
Les outils de l’IA collectent et stockent des données qui peuvent être utilisées pour ajuster les programmes ou leur fonctionnement, mais aussi vendues ou partagées avec des tiers à des fins de marketing, de surveillance ou d’entraînement de nouveaux modèles, à l’insu des personnes qui les ont fournies ou en sont l’objet.
Érosion des compétences
L’utilisation accrue de ces outils limite la réflexion critique et l’autonomie dans la recherche d’information. Notre capacité d’analyser, de rédiger ou de résoudre s’en trouve affectée.