AI.desk
Título
AI.desk
Descrição
| Órgão responsável | Serviço de Perícias de Informática do Instituto Nacional de Criminalística da Polícia Federal |
| Acesso | Informação não fornecida pelo órgão |
| Desenvolvimento da ferramenta | Equipe interna |
| Acesso ao algorítmo da ferramenta | Não |
| Código Aberto | Não |
| Categorias de aplicação | Classificação de imagens (exceto reconhecimento facial), Reconhecimento facial |
| Método estatístico utilizado pela ferramenta | Redes neurais |
| Outputs da ferramenta | Faixa de idade dos rostos identificados, categoria das imagens e probabilidade de nudez |
| Grau de apoio oferecido pela ferramenta | A ferramenta faz diagnósticos e sugere ações. |
| No desenvolvimento e/ou implementação da ferramenta, foi considerada a obrigatoriedade de revisão humana das decisões automatizadas? | Sim |
| Se a resposta anterior foi positiva, descreva as questões envolvidas e a decisão tomada. | O algoritmo classifica imagens e sugere a revisão |
| No desenvolvimento e/ou implementação da ferramenta, foram considerados possíveis vieses em seu desempenho? Por exemplo: sua eficácia é melhor com determinados grupos? | Não |
| Se a resposta anterior foi positiva, descreva os possíveis vieses e a decisão tomada a respeito. | - |
| Foi verificado algum desses impactos no fluxo de trabalho do órgão com a utilização da ferramenta? | Impacto na produtividade do órgão, Impacto na melhora da prestação do serviço público |
| Há métricas para medir a eficácia da ferramenta? | Sim |
| Se a resposta anterior foi sim, descreva a métrica. | Acertos, falsos positivos e falsos negativos |
| Quais são os principais conjuntos de features/variáveis usados como entrada para treinar a ferramenta? Por exemplo: região e IDH de um município para um sistema de estimativa de risco de fraudes; presença no cadastro positivo para concessão de crédito. | Identificação de rostos, classificação de rostos em grupos de idades e identificação de objetos em cenas |
| Existe a necessidade da utilização de dados pessoais para treinar a ferramenta? | Sim |
| Existe a necessidade da utilização de dados sigilosos para treinar a ferramenta? | Sim |
| Comentário do órgão | Treinamento com base nacional de arquivos contendo cenas de abuso sexual infantil |
Arquivos
Referência
“AI.desk,” Catálogo de Uso de Inteligência Artificial por Órgãos Governamentais, acesso em 26 de abril de 2024, https://catalogoia.omeka.net/items/show/33.