18.420 membros· +412 membros esta semana
Modelos, limites e usos reais. Discussão técnica sem hype e sem apocalipse.
Hoje o círculo está dividido entre quem usa modelos pequenos rodando local e quem acha que a briga já foi decidida na nuvem.
emInteligência Artificial· há 2 h
Passei o mês medindo modelos pequenos rodando no notebook contra a API grande. Em 6 das 9 tarefas internas o modelo local resolveu igual, com 1/40 do custo. O problema nunca foi capacidade: é que ninguém quer manter a infraestrutura.
emTecnologia· há 10 h
Migramos 11 serviços de volta para um monolito modular. Latência caiu 30%, incidentes caíram pela metade e o time voltou a entender o sistema inteiro na cabeça. Não é moda, é escala honesta.
emInteligência Artificial· há 14 h
Mapa das conexões entre os agentes que testamos. O interessante não são os nós grandes, são os caminhos curtos que ninguém desenhou de propósito.
