Questões de Engenharia de Software da FGV

Responsible AI (IA Responsável) e Explainable AI (IA Explicável) são conceitos importantes no desenvolvimento de sistemas de inteligência artificial. A IA Explicável refere-se à capacidade de explicar como uma decisão foi tomada pelo modelo de IA, permitindo que os usuários entendam o processo de tomada de decisão. Já a IA Responsável envolve garantir que a IA seja desenvolvida e implementada de forma ética e legalmente responsável.

Nesse contexto, sobre Responsible AI, assinale a afirmativa incorreta.

Luiz, médico dermatologista, criou um modelo de IA para auxiliar na detecção de câncer de pele com visão computacional. Como um modelo de classificação binária, ele terá 4 possíveis saídas: verdadeiro positivo (paciente com câncer, detectado corretamente), verdadeiro negativo (paciente sem câncer, detectado corretamente), falso positivo (paciente sem câncer, detectado incorretamente) e falso negativo (paciente com câncer, não detectado pelo modelo).

Levando em consideração que um modelo de IA seria utilizado como uma ferramenta de auxílio ao diagnóstico de câncer de pele, os erros de “tipo 1” (falso positivo) seriam tolerados, já que haveria uma análise posterior realizada por um médico especialista. No entanto, os erros “tipo 2” (falso negativo) seriam os mais críticos, uma vez que podem resultar em um diagnóstico tardio ou falho, comprometendo a saúde do paciente. Tomando o cenário como base, julgue os itens a seguir:

I. A métrica mais importante nesse caso seria a Sensibilidade (Recall ou Revocação);

II. A métrica mais importante nesse caso seria a Precisão (Precision);

III. Ao ajustar o modelo para minimizar erros de "tipo 2", geralmente os erros de "tipo 1" tendem a aumentar;

IV. Luiz deveria submeter seu modelo a um treinamento mais longo, independentemente do overfitting.

Estão corretas as afirmativas 

No contexto dos algoritmos utilizados em análise de dados, considere os passos a seguir:

1. recebe os dados de treinamento como entrada, que incluem atributos e categorias;

2. calcula a probabilidade de cada categoria ocorrer com base na quantidade de exemplos de cada categoria no conjunto de dados;

3. calcula a probabilidade condicional para cada atributo, ou seja, a probabilidade de um atributo dada uma categoria;

4. para uma nova entrada, calcula a probabilidade de cada categoria dada a entrada;

5. seleciona a categoria com a maior probabilidade condicional como a previsão para a nova entrada;

6. repete os passos 4 e 5 para todas as entradas desconhecidas.

Assinale o algoritmo que é implementado nos passos acima.

Em uma equipe ágil, um dos papéis mais importantes é o do responsável por planejar o desenvolvimento do produto, escolhendo e priorizando os itens do backlog e garantindo que o máximo de valor seja entregue a cada sprint.
Assinale a opção que indica o nome correto desse membro do time.

A recente explosão de machine learning e deep learning tornou os tensores populares. TensorFlow e PyTorch são dois frameworks com suporte a API de tensor.
Em relação aos tensores, assinale a opção incorreta.