Gabe Teninbaum, professor da Escola de Direito da Universidade de Suffolk, está convocando a ExamSoft para consertar um bug sério em seu software de realização de testes: falha em reconhecer rostos. É um problema que pode atrasar os participantes do teste – ou impedi-los de iniciar os exames por completo – e, de acordo com os relatórios, afeta desproporcionalmente as pessoas com tons de pele escuros.

O software da ExamSoft registra os alunos enquanto eles realizam exames remotos e monitora sinais de desonestidade acadêmica. Relatório de Teninbaum aborda um recurso ExamSoft denominado ExamID, que visa verificar se os participantes do teste são quem dizem ser. Na primeira vez que um aluno se conecta ao portal do exame, ele carrega uma foto de si mesmo (sua “imagem de base”); eles são, então, solicitados a tirar outra selfie antes de iniciar exames futuros, que o software verifica em sua foto original.

Pesquisa descobriu que algoritmos de reconhecimento facial cometem consistentemente mais erros na identificação de rostos negros do que brancos. E embora esses estudos não tenham enfocado especificamente a ExamSoft, não parece ser uma exceção. Em setembro, vários candidatos não brancos disseram ao New York Times que o software não conseguiu identificá-los devido à “iluminação ruim” – um problema que Teninbaum, que tem pele clara, não foi capaz de replicar.

No início deste outono, Teninbaum decidiu encontrar uma solução. Ele acredita que tais erros adicionam estresse indevido a um período de tempo já estressante. “Esses são alunos que estão prestes a fazer um exame de alto risco com muito em jogo, e isso é muito indesejável”, disse Teninbaum em entrevista ao The Verge.

“Sempre que você vai para um exame, você só quer se concentrar nele”, acrescentou ele. “Você não quer sentir que tem esses desafios adicionais.”

Teninbaum também acredita que a ótica é importante; as escolas devem aos alunos marginalizados não confiar em uma categoria de software que é sabidamente discriminatória. “Os alunos merecem sentir que sua instituição está fazendo o que pode para proteger seus direitos, interesses e dignidade”, diz ele.

No dele relatório, que será lançado em The Journal of Robotics, Artificial Intelligence, and Law, Teninbaum descreve a solução alternativa que encontrou.

Ele sugere que as escolas atribuam a cada aluno uma imagem de base genérica idêntica. Em seguida, ele propõe que eles devem pedir ao ExamSoft para habilitar a “identificação adiada”, um recurso embutido no software que permite aos alunos prosseguir com os exames mesmo se a identificação falhar. Esse recurso está basicamente oculto – não é mencionado em nenhum lugar do site da ExamSoft (pelo menos, não que eu conseguisse encontrar). Apenas ExamSoft pode ativá-lo.

Em conjunto, esses ajustes farão com que a ExamSoft identifique incorretamente todos os participantes do teste. Mas eles ainda poderão prosseguir com os exames – ExamSoft enviará os selfies para a escola depois disso, e os instrutores podem verificar todos manualmente. “Sabemos quem são nossos alunos”, diz Teninbaum. “Podemos garantir que os alunos são quem dizem ser e evitar sujeitar os alunos a esse tipo de desafio.”

Ele também sugere que a ExamSoft torne o recurso de “identificação adiada” acessível aos clientes. “O repórter pede que a ExamSoft crie um recurso pelo qual as instituições possam simplesmente ligar / desligar, ignorando o ExamID até o momento em que a tecnologia amadurece em uma que não discrimina”, diz seu relatório.

Teninbaum espera que essas mudanças durem além da pandemia COVID-19 e possam ajudar os alunos a se sentirem mais confortáveis ​​em aulas remotas. “Vai ser um problema crescente à medida que as pessoas ficam cada vez mais online para a sua educação”, diz ele.

Mesmo assim, ele resolveu apenas parte do problema. Os alunos experimentaram um gama de soluços com o software de supervisão da ExamSoft. Mais de 3.000 pessoas que usaram a plataforma para fazer o exame da ordem da Califórnia em outubro tiveram seus vídeos sinalizados por potenciais violações de regras – quase 36 por cento dos candidatos que fizeram o exame online. Os usuários relataram problemas de áudio e outras falhas técnicas também.

Um grupo de seis senadores dos EUA – incluindo Richard Blumenthal, Elizabeth Warren e Corey Booker – escreveu uma carta aberta para ExamSoft em dezembro, destacando potenciais danos a alunos negros e alunos com deficiência, entre várias outras preocupações.

A ExamSoft não respondeu imediatamente a um pedido de comentário.



Fonte: www.theverge.com

Deixe uma resposta