Slide SCAD

TEMA:
OTIMIZAÇÃO DE ALGORITMOS
DE ÁRVORES DE DECISÃO PARA
GRANDES CONJUNTOS DE DADOS.
1
INTEGRANTES:
TARIANA FERREIRA Nº-42565
BROLIN SEBASTIÃO Nº -27445
ELIAS ZIMBETI Nº 27592
JOAQUIM MAZEMBA Nº-42595
MIRIAMA MUZINGU Nº-43262
ANDREA PEDRO Nº-40460
ADÃO CARLOS Nº-41612
2
A otimização de algoritmos de árvores de decisão para grandes conjuntos de
dados refere-se ao processo de aplicar técnicas e estratégias com o objetivo de
melhorar a eficiência e o desempenho desses algoritmos ao lidar com conjuntos
de dados volumosos.
As árvores de decisão são modelos de aprendizado de máquina amplamente
utilizados para problemas de classificação e regressão. No entanto, quando
aplicados a grandes conjuntos de dados, podem enfrentar desafios relacionados à
escalabilidade e tempo de processamento.
A otimização desses algoritmos envolve o uso de abordagens como redução da
INTRODUÇÃO dimensionalidade, amostragem do conjunto de dados, poda da árvore, utilização
de algoritmos otimizados para grandes conjuntos de dados, paralelização do
treinamento, implementação eficiente e balanceamento de classes. Essas
estratégias visam melhorar a eficiência computacional, reduzir o tempo de
treinamento e manter ou melhorar o desempenho preditivo do modelo.
Ao otimizar algoritmos de árvores de decisão para grandes conjuntos de dados, é
possível lidar de forma mais eficaz com problemas complexos e aproveitar ao
máximo o potencial desses modelos em cenários de dados volumosos.
3
* uma árvore de decisão é um modelo de aprendizado de máquina que toma decisões com base
em testes realizados em atributos específicos de um conjunto de dados.
1. Escolha do Atributo de Decisão

A escolha é feita com base em critérios como ganho de informação, índice de Gini ou entropia.
O objetivo é encontrar o atributo que melhor separa as classes ou reduz a impureza nos
subconjuntos resultantes.
2. Divisão dos Dados

FUNCIONAMENTO O conjunto de dados é dividido em subconjuntos com base no valor do atributo
escolhido. Cada subconjunto corresponde a um ramo na árvore.
3. Criação de Nós Internos

Os nós internos representam testes de decisão. Cada nó interno contém uma condição
sobre um atributoleva a um ou mais ramos, correspondendo a diferentes valores
possíveis desse atributo.
4
Recursividade:
O processo é repetido recursivamente para cada subconjunto criad
1. ID3 (Iterative Dichotomiser 3): é um dos primeiros algoritmos
2. C4.5: é uma evolução do ID3. Ele utiliza a razão de ganho em
3. CART: é um algoritmo versátil que pode ser usado tanto para p
Algoritmos de árvores
de decisão mais comuns:
5
Random Forests: Random Forests são baseadas em árvores de
Decisão e constroem várias árvores e combinam seus resultados
para melhorar a precisão e evitar overfitting.
Gradient Boosted Trees: Este não é um algoritmo único, mas

que utiliza um conjunto de árvores de decisão fracas.
A ideia é treinar árvores sequencialmente, onde cada nova
Algoritmos de árvore corrige os erros das anteriores.
árvores de XGBoost (Extreme Gradient Boosting): Uma implementação

eficiente do algoritmo de Gradient Boosted Trees, conhecida por
decisão mais sua velocidade e desempenho superior.
comuns: Decision Stump: Um caso especial de árvore de decisão que

consiste em apenas um nó de decisão e duas folhas. Pode ser usado
como um componente em algoritmos mais complexos.
CHAID (Chi-squared Automatic Interaction Detection): Similar ao

C4.5, o CHAID é usado para árvores de decisão em problemas de
classificação e regressão, mas utiliza o teste qui-quadrado para dividir os
dados
6
Algumas estratégias específicas para
otimizar árvores de decisão em grandes
conjuntos de dados:
• Amostragem Eficiente: Algoritmos de Aprendizado Incremental:

• Utilize técnicas de amostragem eficientes, como amostragem Considere o uso de algoritmos de aprendizado incremental
aleatória ou amostragem estratificada, para reduzir o tamanho que permitem atualizações incrementais do modelo à
do conjunto de dados sem perder representatividade. Isso medida que novos dados chegam. Isso é especialmente útil
pode acelerar o generalização do modelo. para conjuntos de dados em constante crescimento.
Paralelização do Treinamento:
• Explore implementações paralelas ou distribuídas do
algoritmo de árvore de decisão para aproveitar o poder de
processamento de sistemas distribuídos. Muitas
bibliotecas de machine learning oferecem suporte a
treinamento paralelo.
7
Algumas estratégias específicas para
otimizar árvores de decisão em grandes
conjuntos de dados:
Poda (Pruning) Eficiente:

Aplique técnicas de poda eficientes para reduzir o tamanho
Profundidade da Árvore:
da árvore após o treinamento. A poda pode eliminar ramos
desnecessários, reduzindo a complexidade da árvore sem
Controle a profundidade da árvore de
decisão. Árvores comprometer a qualidade do modelo.
muito profundas podem levar a um

aumento Algoritmos de Aprendizado Incremental:
significativo no tempo de treinamento. Considere o uso de algoritmos de aprendizado incremental
que permitem atualizações incrementais do modelo à
medida que novos dados chegam.
8
ALGORITMO
• from sklearn.ensemble import RandomForestClassifier
• from sklearn.model_selection import train_test_split
• from sklearn.metrics import accuracy_score
• dados_clima = {
• 'Temperatura': [25, 28, 22, 18, 30, 24, 26, 20, 29],
• 'Chuva': [0, 5, 10, 2, 0, 3, 0, 15, 1],
• 'Passeio': ['Sim', 'Sim', 'Não', 'Não', 'Sim', 'Sim', 'Sim', 'Não', 'Sim']
• }
• import pandas as pd
• df = pd.DataFrame(dados_clima)
• X = df[['Temperatura', 'Chuva']]
• y = df['Passeio']
• X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
• rf_model = RandomForestClassifier(n_estimators=100, random_state=42)
• rf_model.fit(X_train, y_train)
• predictions_rf = rf_model.predict(X_test)
• accuracy_rf = accuracy_score(y_test, predictions_rf)
• print(f'Decisão de Passeio usando Random Forest: {accuracy_rf}')
9
Conclusão
• Em resumo, a otimização de algoritmos de árvores de decisão

para grandes conjuntos de dados envolve uma combinação
de abordagens, desde a manipulação eficiente dos dados até
a escolha criteriosa de hiperparâmetros. Ao empregar
estratégias eficazes de otimização, é possível criar modelos
mais escaláveis, eficientes e capazes de lidar com os desafios
apresentados por conjuntos de dados extensos.
10
OBRIGADO

Slide SCAD

Enviado por

Direitos autorais:

Formatos disponíveis

Slide SCAD

Enviado por

Dados do documento

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Slide SCAD

Enviado por

Direitos autorais:

Formatos disponíveis

TEMA:

1. Escolha do Atributo de Decisão

2. Divisão dos Dados

3. Criação de Nós Internos

2. C4.5: é uma evolução do ID3. Ele utiliza a razão de ganho em

3. CART: é um algoritmo versátil que pode ser usado tanto para p

Gradient Boosted Trees: Este não é um algoritmo único, mas

árvores de XGBoost (Extreme Gradient Boosting): Uma implementação

comuns: Decision Stump: Um caso especial de árvore de decisão que

CHAID (Chi-squared Automatic Interaction Detection): Similar ao

• Amostragem Eficiente: Algoritmos de Aprendizado Incremental:

Poda (Pruning) Eficiente:

muito profundas podem levar a um

• Em resumo, a otimização de algoritmos de árvores de decisão

Você também pode gostar