Pular para o conteúdo

Treinando Modelos

Treine um modelo de machine learning a partir de qualquer tabela do seu data lake com um único comando.

Terminal window
dataspoc-lens ml train --target <column> --from <table>
FlagDescrição
--targetA coluna que você quer prever
--fromA tabela de origem (camada raw, curated ou gold)
  1. Lê Parquet — carrega a tabela de origem do seu bucket.
  2. Feature engineering — detecta automaticamente os tipos de colunas, codifica categorias, gera features de interação e trata valores ausentes.
  3. Seleção de modelo — avalia múltiplos algoritmos (gradient boosting, random forest, logistic regression, etc.) e seleciona o de melhor performance.
  4. Treinamento — treina o modelo selecionado com hiperparâmetros otimizados.
  5. Salva no bucket — grava artefatos em bucket/ml/models/<model>/.

Após o treinamento, três arquivos são salvos no bucket:

ArquivoDescrição
model.pklO modelo treinado serializado
features.jsonDefinições de features, transformações e mapeamentos de colunas
metrics.jsonMétricas de avaliação (accuracy, precision, recall, AUC, RMSE, etc.)

Esses arquivos ficam em:

bucket/
ml/
models/
<model>/
model.pkl
features.json
metrics.json

Suponha que você tem uma tabela curated/customers/activity com uma coluna churned (1 = churned, 0 = ativo):

Terminal window
dataspoc-lens ml train --target churned --from curated/customers/activity

Saída:

[ML] Loading table curated/customers/activity...
[ML] 45,231 rows, 18 columns
[ML] Feature engineering: 42 features generated
[ML] Evaluating models...
[ML] Best model: GradientBoosting (AUC=0.91)
[ML] Training final model...
[ML] Saved to ml/models/churned_activity/
[ML] Done.

Você pode então inspecionar o modelo com dataspoc-lens ml explain --model churned_activity ou gerar predições com dataspoc-lens ml predict.