emInteligência Artificial· há 2 h
Passei o mês medindo modelos pequenos rodando no notebook contra a API grande. Em 6 das 9 tarefas internas o modelo local resolveu igual, com 1/40 do custo. O problema nunca foi capacidade: é que ninguém quer manter a infraestrutura.
Helena Prado· conversa em Gestão Pública· há 48 min
No município isso seria transformador — não podemos mandar dado sensível para fora.
