MLOps ou MLaaS: quando ter seus modelos e quando alugá-los
MLOps é operar modelos de machine learning que são da sua empresa; MLaaS é alugar modelos prontos. Horizonte, PI e tipo de orçamento definem a escolha.
Pelo time da Snowfox AI
MLOps e MLaaS são dois caminhos para colocar modelos de machine learning em produção. Em MLOps, a empresa constrói e opera modelos que são dela, inclusive a propriedade intelectual. Em MLaaS (machine learning as a service), ela paga para usar modelos que outra empresa já construiu e mantém no ar. Vale ter o modelo quando ele será usado por anos e faz parte da forma como a empresa compete; vale alugar quando o resultado precisa vir logo e já existe um modelo comprovado para o problema.
O erro é escolher por moda, ou pelo que o último fornecedor apresentou, em vez de olhar para horizonte, necessidade de propriedade, tipo de orçamento e capacidade do time.
O que é MLOps?
MLOps (machine learning operations) é o conjunto de práticas que leva um modelo do notebook do cientista de dados até um sistema do qual o negócio depende. Inclui versionamento de dados e modelos, testes e deploy automatizados, monitoramento das previsões em produção e retreinamento quando o modelo perde qualidade.
Perder qualidade é normal. O comportamento do cliente, os preços e o mix de produtos mudam, e um modelo treinado com os dados do ano passado piora aos poucos. O nome técnico disso é drift.
Quando uma empresa diz que faz MLOps, os modelos são ativos dela. É ela quem decide o que eles otimizam, quais dados enxergam e quando mudam. Esse controle tem custo. Alguém precisa construir o pipeline (a sequência automatizada de etapas que leva dados e modelos de uma fase à outra), e alguém precisa responder quando ele quebra.
A Snowfox descreve seu serviço de MLOps como colocar modelos de machine learning em produção, operá-los conforme a demanda cresce e melhorá-los ao longo do tempo, com o cliente mantendo a propriedade intelectual. Ser dono dos modelos, portanto, não obriga a montar toda a estrutura internamente desde o primeiro dia.
O que é MLaaS?
MLaaS é machine learning entregue como um serviço em funcionamento. O fornecedor construiu o modelo, hospeda, monitora e atualiza. A empresa conecta seus dados, recebe previsões ou decisões e paga por isso como despesa operacional.
O valor chega mais rápido porque o modelo já está construído e comprovado. Em contrapartida, a empresa não é dona dele e tem menos influência sobre como ele evolui.
A Snowfox descreve sua oferta de MLaaS como modelos prontos colocados para trabalhar agora, para times que precisam de valor antes de precisarem de propriedade. Dois produtos são entregues dessa forma:
- segMENTOR é segmentação de ofertas que encontra padrões que a segmentação convencional não vê e roda com pouquíssima intervenção humana, em exit-intent, CTAs dinâmicos, e-mail e push. Para uma multinacional de bens de consumo, o case publicado relata melhora de 64% na taxa de cliques no primeiro mês.
- priceGURU é otimização de preços no portfólio inteiro, considerando margem, elasticidade, canibalização e posição frente à concorrência. Para um varejista de alimentos, o case publicado relata aumento de 6% na margem em comparação com lojas de comparação pareadas.
Como decidir entre ter e alugar?
Use as perguntas abaixo. As condições vêm dos critérios de adequação que a Snowfox publica para cada serviço.
| Pergunta | Aponta para MLOps (ter) | Aponta para MLaaS (alugar) |
|---|---|---|
| Por quanto tempo o modelo será usado? | 24 meses ou mais | O valor é necessário agora; a propriedade pode esperar |
| A empresa precisa da propriedade intelectual? | Sim, o modelo faz parte da vantagem competitiva | Não, o resultado importa mais que o ativo |
| Já existe um modelo comprovado para o problema? | Não, ou o caso é específico demais | Sim, e partir dele é melhor do que construir do zero |
| Onde está o orçamento? | A empresa quer reduzir o investimento inicial (capex), levando os custos iniciais para despesa operacional (opex) | Em opex, com horizonte longo |
| O P&D acompanha o desenvolvimento de novos modelos? | Não sozinho, e a empresa quer modelos feitos para ela | Não, e é melhor que o fornecedor acompanhe |
| O time de IA ainda está em formação ou sem capacidade? | Vale | Vale |
A última linha aparece nas duas colunas de propósito. Um time ainda em formação, ou com mais demanda do que consegue entregar, é motivo para buscar apoio externo. Não diz qual tipo de apoio. As linhas que separam as duas opções são horizonte, propriedade intelectual e a existência de um modelo comprovado.
Sobre capex e opex, porque o financeiro vai perguntar: capex é o dinheiro gasto no início para construir um ativo. Opex é o custo recorrente de operar o negócio. Construir uma plataforma interna concentra o gasto no começo: paga-se por pessoas e infraestrutura bem antes de a primeira previsão ser usada. Um contrato de MLOps gerenciado leva esse custo inicial para a despesa operacional, e a empresa mantém a propriedade intelectual. MLaaS é opex do início ao fim, e não sobra um modelo próprio ao final.
Quanto cada escolha custa na prática?
Ter o modelo custa atenção. Modelos precisam de monitoramento, retreinamento, documentação e de alguém responsável quando as previsões erram. Se ninguém na empresa sabe explicar o que o modelo otimiza, ela é dona de código, não de uma capacidade.
Alugar custa controle. A empresa depende do roadmap do fornecedor, e o processo passa a ser desenhado em torno do modelo de outra empresa. Isso vira risco quando o modelo começa a carregar decisões que definem o negócio.
Três coisas que não vale fazer:
- Não construa do zero algo que um modelo comprovado já faz só para dizer que é seu.
- Não alugue um modelo para uma decisão que é o seu principal diferencial sem um plano para o caso de o serviço mudar ou acabar.
- Não compre nenhum dos dois antes de definir o problema. “Precisamos de MLOps” não é um problema. “Nossa previsão de demanda erra toda vez que há promoção” é.
Como as empresas migram de um para o outro?
O caminho mais comum é alugar primeiro e ter depois. A empresa começa com um modelo pronto para provar que o caso de uso se paga. Mais tarde os fatos mudam: o horizonte passou de 24 meses, o time se formou e o modelo ficou importante o bastante para que a propriedade intelectual compense o esforço. Nesse ponto o trabalho migra para modelos sob medida, operados com MLOps.
O contrário também acontece. Um time que construiu tudo sozinho percebe que um modelo resolve um problema genérico e o passa para um serviço, liberando pessoas para os modelos específicos do negócio.
Em qualquer direção, três cuidados barateiam a migração:
- Mantenha os dados no seu próprio ambiente, em formato documentado. O modelo pode ser alugado. O histórico de entradas, previsões e resultados deve ser seu.
- Meça os resultados contra uma linha de base ou um grupo de comparação desde o início, para que o próximo modelo tenha um número a superar.
- Combine as condições de saída antes de assinar: o que pode ser exportado, em que formato e com quanto aviso.
Operar com os dois também é um ponto de chegada válido: modelos alugados para problemas comuns e modelos próprios para os poucos que diferenciam a empresa.
Por onde começar
Comece pelo problema, não pela tecnologia. Escreva qual decisão você quer melhorar, por quanto tempo espera depender dela e se ser dono do modelo importa para a empresa. Depois:
- Se o horizonte é longo e a propriedade intelectual importa, veja MLOps.
- Se o resultado precisa vir logo e um modelo comprovado atende, veja MLaaS, segMENTOR e priceGURU.
- Se não está claro em que ponto a empresa está, o Diagnóstico de Prontidão para IA avalia em conjunto dados, tecnologia, estratégia, pessoas e cultura, e governança e processos.
- Se preferir conversar, fale com a gente.