Adicionar inteligência artificial a um produto pode abrir possibilidades — mas a presença da tecnologia, por si só, não torna a experiência mais útil. Antes de priorizar uma funcionalidade com IA, a equipe precisa entender qual tarefa ela deve melhorar, para quem, com quais dados, que tipo de erro é aceitável e o que acontece quando o resultado não é confiável.
Uma pergunta produtiva não é apenas “dá para usar IA?”. É: “há uma necessidade real que essa abordagem pode atender melhor do que alternativas mais simples, de forma segura e compreensível?”.
IA no processo ou IA no produto?
Uma equipe pode usar ferramentas de IA durante pesquisa, desenvolvimento ou documentação sem que o produto entregue ao cliente contenha IA. São decisões distintas, com usuários, riscos, controles e critérios de valor diferentes. Este artigo trata de uma capacidade que fará parte do produto — por exemplo, recomendar, classificar, resumir, gerar ou responder algo para a pessoa usuária.
O NIST AI Risk Management Framework organiza a gestão de risco em governar, mapear, medir e gerenciar. É um framework voluntário, não uma certificação nem uma lista universal de aprovação. A ideia aplicável ao produto é entender contexto e impactos, avaliar comportamento e planejar acompanhamento durante o ciclo de vida.
1. Qual necessidade concreta a funcionalidade atende?
Descreva a tarefa e o obstáculo com palavras que as pessoas reconheçam. “Queremos um copiloto inteligente” é uma ideia; “a equipe precisa localizar, entre centenas de registros, os casos que exigem análise e justificar a seleção” descreve uma necessidade que pode ser investigada.
- Quem tenta fazer o quê, em que momento e com que frequência?
- Como a tarefa funciona hoje? O que é lento, difícil, repetitivo ou propenso a erro?
- Que evidência mostra que o problema importa?
- Como saberemos se a experiência melhorou?
Compare IA com soluções convencionais: busca, filtros, automação por regras, conteúdo mais claro, reorganização de fluxo ou melhor acesso a dados. Se uma opção mais previsível resolve a tarefa com menos custo e risco, IA pode não ser adequada.
2. O que a IA fará — e o que não fará?
Defina a responsabilidade da capacidade: sugere um rascunho, resume informação, classifica casos, recomenda um próximo passo ou executa uma ação? Quanto maiores as consequências de uma saída, mais importantes são limites, controles e revisão.
- Quais entradas recebe e qual saída apresenta?
- Que ações pode ou não pode executar?
- Quem revisa, corrige ou contesta o resultado?
- Quando deve se abster ou encaminhar para uma pessoa?
- Que limitações e incertezas precisam ser explicadas?
Não descreva um sistema probabilístico como se sempre “soubesse” corretamente. A interface deve ajudar a pessoa a interpretar a saída sem atribuir mais certeza do que o contexto permite.
3. Os dados e o contexto são adequados?
Uma resposta pode parecer convincente e ainda ser errada, incompleta ou inadequada. Investigue a origem dos dados, sua qualidade e atualidade, se representam casos importantes e se o uso é autorizado e apropriado. Pergunte também se há grupos ou cenários pouco representados, informações pessoais ou confidenciais, dependências de conteúdo externo e meios de detectar saídas sem suporte suficiente.
Mais dados não significam automaticamente uma experiência melhor. Dados inadequados podem reforçar desigualdades, expor informações ou levar a recomendações ruins. Produto, tecnologia, segurança, jurídico, operação e pessoas potencialmente afetadas devem participar conforme o risco.
4. Como a qualidade será avaliada?
“Parece bom na demonstração” não é critério suficiente. Defina exemplos representativos, condições de teste e limites aceitáveis. Inclua casos comuns, dados incompletos, pedidos ambíguos, diferentes formas de expressão e situações fora do escopo.
- Correção e utilidade para a tarefa.
- Consistência em casos semelhantes.
- Respostas sem evidência, enviesadas ou potencialmente prejudiciais.
- Tempo de resposta e estabilidade.
- Taxa de correção ou rejeição por quem revisa.
- Comportamento quando a informação é insuficiente.
O perfil de IA generativa do NIST discute riscos específicos de sistemas generativos como complemento ao AI RMF. Um resumo interno revisável e uma recomendação com impacto sobre uma pessoa não têm a mesma consequência nem exigem os mesmos controles.
5. Quem mantém a supervisão e pode corrigir?
“Human in the loop” não pode ser um rótulo decorativo. Se uma pessoa precisa revisar a saída, ela necessita de tempo, contexto, informação suficiente para avaliar e autoridade para corrigir ou interromper o processo. Uma aprovação apressada pode apenas transferir o risco.
Defina quando a revisão é obrigatória, que evidências ajudam a conferir a resposta, como rejeitá-la ou pedir revisão, quando envolver um profissional, e como correções e incidentes serão registrados. Os princípios de IA da OCDE destacam valores centrados nas pessoas, transparência, robustez, segurança e responsabilização. Para o produto, isso significa que as pessoas precisam conhecer limitações relevantes e ter caminhos proporcionais para contestar saídas com impacto.
6. O que acontece quando a IA falha ou não deve responder?
Projete também ausência de dados, indisponibilidade, pedido fora do escopo, resposta contraditória, baixa confiança, demora e necessidade de ajuda. A pessoa entende o que ocorreu? Sabe se algum dado foi alterado? Pode tentar novamente sem duplicar ou perder trabalho? Existe alternativa segura para concluir a tarefa? Sabe quando procurar suporte?
Não esconda falhas com mensagens genéricas nem invente uma resposta para evitar uma tela vazia. Busca tradicional, edição manual ou encaminhamento podem ser partes essenciais do produto.
7. Qual é o custo total e o plano de acompanhamento?
Além da implementação, avalie inferência, infraestrutura, licenças, revisão humana, suporte, monitoramento, privacidade, segurança e manutenção. Mudanças de modelo, dados e contexto podem alterar o comportamento; medir antes do lançamento não encerra o trabalho.
Escolha indicadores de benefício e risco: conclusão da tarefa, tempo poupado com qualidade preservada, taxa de correção, reclamações, incidentes, abstenção adequada e custo por tarefa bem-sucedida. Estabeleça uma linha de base, responsáveis e limites que acionam revisão, mitigação ou suspensão. O NIST recomenda gestão contínua conforme contexto, capacidades, riscos e impactos mudam.
Roteiro: priorizar, testar ou não usar IA?
- Há necessidade evidenciada? Se não, investigue primeiro.
- Uma solução simples resolve bem? Compare sem preferência automática por IA.
- A IA traz benefício verificável? Defina resultado e linha de base.
- Dados e permissões são adequados? Se não, resolva isso antes.
- A equipe consegue avaliar erros e efeitos?
- Existe supervisão, correção, contestação e alternativa?
- Há responsável pelo acompanhamento depois do lançamento?
O resultado pode ser priorizar a IA, fazer um teste limitado e reversível, voltar à descoberta ou escolher outra solução. Todas são decisões válidas quando baseadas em contexto e evidências.
Conclusão
Uma funcionalidade com IA faz sentido quando melhora uma tarefa real de forma demonstrável e quando a equipe consegue compreender seus limites, avaliar qualidade, proteger as pessoas afetadas e responder ao que acontece depois do lançamento. Antes de priorizá-la, esclareça contexto, dados, benefício, revisão humana, riscos e alternativa em caso de falha.
A pergunta não é apenas se a IA consegue fazer algo, mas se essa capacidade torna o produto melhor para quem o utiliza.
