Utilização Responsável de IA

A nossa abordagem

A Lumimetrica utiliza métodos estatísticos selecionados e modelos de aprendizagem automática para transformar a atividade de aprendizagem em estatísticas de aprendentes: estimativas de progresso, crescimento, envolvimento, trajetórias, padrões de coortes e risco. Estes resultados podem influenciar decisões sobre aprendentes reais, pelo que a forma como são produzidos e utilizados é importante.

Esta página apresenta os princípios que orientam a conceção da Lumimetrica pela Graph25 Informatics Limited e o que pedimos às organizações que a utilizam. Aplica-se a todas as funcionalidades estatísticas e de aprendizagem automática da Lumimetrica.

O julgamento humano mantém-se central

A Lumimetrica foi concebida para informar os educadores, não para os substituir. Os resultados estatísticos são uma fonte de evidência entre muitas. Os educadores conhecem os seus aprendentes, o contexto e as limitações de formas que nenhum conjunto de dados consegue captar, e as decisões sobre os aprendentes continuam a ser suas.

Resultados interpretados no seu contexto

Uma estatística de aprendente descreve um padrão nos dados. Por si só, não explica porque é que esse padrão existe. A Lumimetrica apresenta as estatísticas com o respetivo contexto — o histórico do aprendente, os pares relevantes e a tendência subjacente — para que sejam lidas com proporção e não como veredictos isolados.

Os modelos não são infalíveis

Qualquer modelo estatístico é uma simplificação. As estimativas têm incerteza, os modelos podem errar e padrões do passado podem não se manter. A Lumimetrica apresenta as estimativas com uma indicação da sua incerteza e evita apresentar probabilidades como certezas ou previsões como factos.

Supervisão humana adequada

Os sinais emitidos pela Lumimetrica, como um risco emergente, são apresentados para análise a pessoas com autoridade e conhecimento para agir. As organizações decidem quem analisa os sinais e de que forma, e podem ajustar a utilização da Lumimetrica aos seus próprios processos.

Evitar decisões automatizadas inadequadas

A Lumimetrica não foi concebida para tomar, sem análise humana efetiva, decisões com efeitos jurídicos ou efeitos igualmente significativos para os aprendentes — como admissão, progressão, sanções ou elegibilidade para apoio. Pedimos às organizações que não utilizem os resultados da Lumimetrica como fundamento exclusivo dessas decisões.

Transparência

Procuramos explicar, em linguagem clara, o que significa cada estatística, em que dados se baseia e quais são as suas limitações. As organizações podem perguntar como foi produzido um determinado resultado, e explicaremos os métodos utilizados com o nível de detalhe adequado à pergunta.

Qualidade dos dados

As estatísticas só são tão fiáveis quanto os dados em que assentam. Dados em falta, inconsistentes ou enviesados podem produzir resultados enganadores. A Lumimetrica foi concebida para tornar visível a cobertura dos dados, e trabalhamos com as organizações para compreender a qualidade e as limitações dos dados que fornecem.

Equidade

Os padrões nos dados de aprendizagem podem refletir desigualdades existentes. Estamos atentos a eventuais diferenças no comportamento das estatísticas e dos sinais entre grupos de aprendentes e incentivamos as organizações a analisar os resultados tendo essa possibilidade em conta, em vez de tratarem as diferenças entre grupos como inevitáveis.

Privacidade

Os dados de aprendentes são utilizados para fornecer estatísticas de aprendentes à organização que os disponibilizou, segundo os princípios descritos em Privacidade para Organizações. Privilegiamos abordagens que não utilizem mais informação pessoal do que as estatísticas exigem.

Segurança

Os modelos e os dados de que dependem estão protegidos pelas mesmas medidas de segurança que protegem o resto da Lumimetrica, descritas na secção Segurança do site da Lumimetrica.

Monitorização

Os modelos estatísticos podem desviar-se à medida que os ambientes de aprendizagem mudam. Monitorizamos o comportamento dos modelos da Lumimetrica ao longo do tempo e revemo-los quando os seus resultados deixam de refletir os dados que descrevem.

Intervenção responsável

Um sinal é um convite a olhar com mais atenção, não uma instrução para agir. Quando os educadores intervêm, incentivamo-los a comunicar com os aprendentes de forma respeitosa, a evitar rotular aprendentes com base numa estatística e a utilizar a visão longitudinal da Lumimetrica para verificar se a intervenção está a ajudar.

O que pedimos às organizações

Pedimos às organizações que utilizam a Lumimetrica que:

• garantam que as pessoas que utilizam estatísticas de aprendentes compreendem o que significam e o que não significam;
• mantenham uma pessoa responsável por cada decisão que afete significativamente um aprendente;
• forneçam dados tão rigorosos e completos quanto possível;
• nos informem quando os resultados parecerem errados, injustos ou pouco úteis.

Comunicar uma preocupação

Se considerar que a Lumimetrica produziu um resultado incorreto, injusto ou prejudicial, informe-nos através dos contactos abaixo. Levamos estas comunicações a sério e utilizamo-las para melhorar o sistema.

Contacto

Questões sobre esta página podem ser enviadas à Graph25 Informatics Limited:

questions@graph25.uk
+256 756 494 518
3rd Floor, Kanjokya House
Plot 90–92 Kanjokya Street
Kampala, Uganda

← Voltar à Lumimetrica