Usage responsable de l’IA

Notre approche

Lumimetrica s’appuie sur des méthodes statistiques sélectionnées et sur des modèles d’apprentissage automatique pour transformer l’activité d’apprentissage en statistiques d’apprenants : estimations de la progression, de la croissance, de l’engagement, des trajectoires, des tendances de cohorte et du risque. Ces résultats peuvent influencer des décisions concernant de vrais apprenants ; la manière dont ils sont produits et utilisés est donc déterminante.

Cette page présente les principes qui guident la conception de Lumimetrica par Graph25 Informatics Limited, ainsi que ce que nous attendons des organisations qui l’utilisent. Elle s’applique à toutes les fonctionnalités statistiques et d’apprentissage automatique de Lumimetrica.

Le jugement humain reste central

Lumimetrica est conçu pour éclairer les éducateurs, non pour les remplacer. Les résultats statistiques constituent une source d’information parmi d’autres. Les éducateurs connaissent leurs apprenants, leur contexte et leurs contraintes mieux qu’aucun jeu de données ne peut le refléter, et les décisions concernant les apprenants leur appartiennent.

Des résultats interprétés dans leur contexte

Une statistique d’apprenant décrit une tendance dans des données. Elle n’explique pas, à elle seule, pourquoi cette tendance existe. Lumimetrica présente les statistiques avec leur contexte — l’historique de l’apprenant, les pairs pertinents et la tendance sous-jacente — afin qu’elles soient lues avec mesure et non comme des verdicts isolés.

Les modèles ne sont pas infaillibles

Tout modèle statistique est une simplification. Les estimations comportent une part d’incertitude, les modèles peuvent se tromper et des tendances passées peuvent ne pas se prolonger. Lumimetrica présente ses estimations avec une indication de leur incertitude et évite de présenter des probabilités comme des certitudes ou des prévisions comme des faits.

Une supervision humaine appropriée

Les signaux émis par Lumimetrica, comme un risque émergent, sont soumis à l’examen de personnes disposant de l’autorité et des connaissances nécessaires pour agir. Les organisations décident qui examine les signaux et de quelle manière, et peuvent adapter l’usage de Lumimetrica à leurs propres processus.

Éviter les décisions automatisées inappropriées

Lumimetrica n’est pas conçu pour prendre, sans examen humain effectif, des décisions produisant des effets juridiques ou des effets similairement importants pour les apprenants — admission, passage au niveau supérieur, sanctions ou éligibilité à un accompagnement, par exemple. Nous demandons aux organisations de ne pas utiliser les résultats de Lumimetrica comme fondement exclusif de telles décisions.

Transparence

Nous nous attachons à expliquer, en termes simples, ce que signifie chaque statistique, sur quelles données elle repose et quelles sont ses limites. Les organisations peuvent demander comment un résultat a été obtenu, et nous expliquerons les méthodes utilisées avec un niveau de détail adapté à la question.

Qualité des données

Les statistiques ne sont fiables que dans la mesure où les données le sont. Des données manquantes, incohérentes ou biaisées peuvent produire des résultats trompeurs. Lumimetrica est conçu pour rendre visible la couverture des données, et nous travaillons avec les organisations pour comprendre la qualité et les limites des données qu’elles transmettent.

Équité

Les tendances observées dans les données d’apprentissage peuvent refléter des inégalités existantes. Nous vérifions si les statistiques et les signaux se comportent différemment selon les groupes d’apprenants, et nous encourageons les organisations à examiner les résultats en gardant cette possibilité à l’esprit, plutôt que de considérer les écarts entre groupes comme inévitables.

Confidentialité

Les données d’apprenants servent à fournir des statistiques d’apprenants à l’organisation qui les a transmises, conformément aux principes décrits dans la page Confidentialité pour les organisations. Nous privilégions les approches qui n’utilisent pas plus d’informations personnelles que les statistiques ne l’exigent.

Sécurité

Les modèles et les données sur lesquelles ils reposent bénéficient des mêmes mesures de sécurité que le reste de Lumimetrica, décrites dans la section Sécurité du site Lumimetrica.

Suivi

Les modèles statistiques peuvent dériver à mesure que les environnements d’apprentissage évoluent. Nous suivons le comportement des modèles de Lumimetrica dans le temps et les réexaminons lorsque leurs résultats ne reflètent plus les données qu’ils décrivent.

Une intervention responsable

Un signal invite à regarder de plus près ; ce n’est pas une instruction d’agir. Lorsque les éducateurs interviennent, nous les encourageons à communiquer avec les apprenants de manière respectueuse, à éviter d’étiqueter un apprenant sur la base d’une statistique et à utiliser la vision longitudinale de Lumimetrica pour vérifier si l’intervention porte ses fruits.

Ce que nous demandons aux organisations

Nous demandons aux organisations qui utilisent Lumimetrica :

• de veiller à ce que les personnes qui utilisent les statistiques d’apprenants comprennent ce qu’elles signifient et ce qu’elles ne signifient pas ;
• de maintenir une personne responsable de chaque décision ayant un effet important sur un apprenant ;
• de fournir des données aussi exactes et complètes que possible ;
• de nous signaler les résultats qui leur paraissent erronés, injustes ou inutiles.

Signaler une préoccupation

Si vous estimez que Lumimetrica a produit un résultat inexact, injuste ou préjudiciable, merci de nous le signaler aux coordonnées ci-dessous. Nous prenons ces signalements au sérieux et nous en servons pour améliorer le système.

Contact

Pour toute question concernant cette page, vous pouvez contacter Graph25 Informatics Limited :

questions@graph25.uk
+256 756 494 518
3rd Floor, Kanjokya House
Plot 90–92 Kanjokya Street
Kampala, Uganda

← Retour à Lumimetrica