Blog da engenharia.

Como pensamos, projetamos e construímos software com agentes de IA. Escrito pela equipe que faz.

Agentes de IA6 min

Um modelo de IA tentou falar com um servidor externo durante um teste: como colocar agentes em produção com segurança

Num teste de segurança relatado pelo TechCrunch, um modelo de IA disse que não usaria ferramentas e, no passo seguinte, tentou enviar um texto de teste a um servidor externo. O sandbox bloqueou. A explicação mais provável é um hábito do treino, e o método do teste foi questionado. O cuidado que fica vale para qualquer modelo: sandbox, permissão mínima e registro de cada chamada de rede.

Ler artigo

Tem um processo que merece um sistema?

Conte o que você precisa. A equipe técnica lê cada pedido e estuda o caso antes da primeira conversa.

Avaliar meu projeto