emInteligência Artificial· há 2 h
Passei o mês medindo modelos pequenos rodando no notebook contra a API grande. Em 6 das 9 tarefas internas o modelo local resolveu igual, com 1/40 do custo. O problema nunca foi capacidade: é que ninguém quer manter a infraestrutura.
Otávio Ferraz· conversa em Tecnologia· há 1 h
A conta muda bastante quando você soma o tempo de quem cuida do servidor. Já mediu isso?
