Algoritmo CHAID per alberi decisionali

Contenuti

El árbol comienza con el nodo raíz que consta de los datos completos y, successivamente, utilizzare strategie intelligenti per dividere i nodi in più rami.

Il set di dati originale è stato diviso in sottoinsiemi in questo processo.

Per rispondere alla domanda fondamentale, il tuo cervello inconscio fa dei calcoli (alla luce delle domande campione registrate di seguito) e finisce per comprare la quantità di latte necessaria. È normale o durante la settimana?

Nei giorni lavorativi che richiediamo 1 litro di latte.

È un fine settimana? Nei fine settimana abbiamo bisogno 1,5 litri di latte.

È corretto dire che oggi anticipiamo gli ospiti? dobbiamo comprare 250 ML di latte aggiuntivi per ogni ospite, e così via.

Prima di saltare all'ipotetica idea degli alberi delle decisioni, Che ne dici di spiegare inizialmente cosa sono gli alberi decisionali?? è più, Perché sarebbe una buona idea per noi usarli??

Perché usare gli alberi decisionali??

Entre otros métodos de apprendimento supervisionato, gli algoritmi basati su alberi eccellono. Questi sono modelli predittivi con maggiore precisione e semplice comprensione.

Come funziona l'albero decisionale??

Esistono diversi algoritmi scritti per assemblare un albero decisionale, che può essere utilizzato per il problema.

Alcuni degli algoritmi più comunemente usati sono elencati di seguito:

• CARRELLO

• ID3

• DO4,5

• CHAID

Ora spiegheremo passo dopo passo l'algoritmo CHAID. Prima di ciò, parleremo un po di chi_square.

chi_square

Chi-Cuadrado es una misura estadística para encontrar la diferencia entre los nodos secundarios y principales. Per calcolare questo, encontramos la diferencia entre los conteos observados y esperados de la variabile objetivo para cada nodo y la suma al cuadrado de estas diferencias estandarizadas nos dará el valor de Chi-cuadrado.

Formula

Per trovare la caratteristica più dominante, utilizzeranno i test chi-quadrato che è anche chiamato CHAID, mentre ID3 utilizza il guadagno di informazioni, C4.5 usa la relación de ganancia y CART usa el indice GINI.

Oggi, la maggior parte delle librerie di programmazione (ad esempio, Panda per Python) usa la metrica di Pearson per la correlazione per impostazione predefinita.

La formula del chi quadrato: –

? ((e – e ')2 / e ')

dove ed è reale e atteso e '.

Set di dati

Creiamo regole decisionali per il set di dati seguente. La colonna delle decisioni è l'obiettivo che vorremmo trovare in base ad alcune funzionalità.

A proposito, Ignoreremo la colonna del giorno perché è solo il numero di riga.

73416screenshot20da202021-04-302001-23-16-4096747

Per leggere il set di dati di implementazione Python dal file CSV riportato di seguito: –

import pandas as pd
data = pd.read_csv("set di dati.csv")

data.head()

Dobbiamo trovare la funzionalità più importante nelle colonne di destinazione per scegliere il nodo per dividere i dati in questo set di dati.

Caratteristica dell'umidità

Esistono due tipi di classe presenti nelle colonne di umidità: alto e normale. Ora calcoleremo i valori chi_square per loro.

NoTotalePrevistoChi-quadrato SìChi-quadrato No
Alto3473,50,2670,267
basso6173,51.3361.336

per ogni riga, la colonna totale è la somma delle decisioni sì e no. La metà della colonna totale è chiamata valori attesi perché c'è 2 classi in decisione. È facile calcolare i valori del chi quadrato in base a questa tabella..

Ad esempio,

chi-quadrato sì per alta umidità è √ ((3– 3,5)2 / 3,5) = 0,267

mentre quello vero è 3 e il previsto è 3,5.

Quindi, il valore chi-quadrato della caratteristica di umidità è

= 0,267 + 0,267 + 1,336 + 1,336

= 3.207

Ora, troveremo anche valori chi-quadrato per altre caratteristiche. La caratteristica con il valore chi-quadrato massimo sarà il punto di decisione. Che dire della funzione vento??

Caratteristica del vento

Ci sono due tipi della classe presenti nelle colonne del vento: debole e forte. La tabella seguente è la tabella seguente.

91463screenshot20dal202021-04-302000-18-19-5628735

Qui, il valore del test chi-quadrato della caratteristica del vento è

= 0,802 + 0,802 + 0 + 0

= 1,604

Anche questo è un valore inferiore al valore chi-quadrato dell'umidità. E la funzione temperatura??

caratteristica di temperatura

Ci sono tre tipi di classe presenti nelle colonne della temperatura: piccante, freddo e liscio. La tabella seguente è la tabella seguente.

49998screenshot20dal202021-04-302000-26-42-2621906

Qui, il valore del test chi-quadrato della caratteristica di temperatura è

= 0 + 0 + 0,577 + 0,577 + 0,707 + 0,707

= 2.569

Questo è un valore inferiore al valore chi-quadrato dell'umidità e anche maggiore del valore chi_quadrato del vento. Che dire della funzione Outlook??

Funzionalità di Outlook

Ci sono tre tipi di classi presenti nelle colonne di temperatura: soleggiato, piovoso e nuvoloso. La tabella seguente è la tabella seguente.

72011screenshot20dal202021-04-302000-31-37-8035648

Qui, il valore del test chi-quadrato della funzione prospettica è

= 0,316 + 0,316 + 1,414 + 1,414 + 0,316 + 0,316

= 4.092

Abbiamo calcolato i valori del chi quadrato di tutte le caratteristiche. Vediamoli tutti a tavola.

35775screenshot20dal202021-04-302000-40-07-9441197

Come appare, la colonna Outlook ha il valore chi-quadrato più alto e più alto. Ciò implica che è la caratteristica principale del componente. Insieme a questi valori, posizioneremo questa funzione nel nodo radice.

47825screenshot20dal202021-04-302000-44-22-3290339

Abbiamo separato le informazioni grezze in base alle classi di Outlook nell'illustrazione sopra. Ad esempio, il ramo offuscato ha semplicemente una decisione affermativa sul set di dati di sottoinformazioni. Ciò implica che l'albero CHAID restituisce S se il panorama è nuvoloso.

Sia i rami soleggiati che quelli piovosi hanno decisioni sì e no. Applicheremo i test chi-quadrato per questi set di dati subinformativi.

Outlook = ramo soleggiato

Questo ramo ha 5 esempi. Attualmente, cerchiamo la caratteristica più predominante. A proposito, ignoreremo la funzione di Outlook ora, visto che sono completamente uguali. Alla fine del giorno, troveremo le colonne più predominanti tra temperature, umidità e vento.

33074screenshot20dal202021-04-302000-51-09-2093971

Funzione umidità per quando il panorama è soleggiato

50266screenshot20dal202021-04-302000-52-10-9787942

Il valore chi-quadrato della caratteristica di umidità per una prospettiva soleggiata è

= 1,225 + 1,225 + 1 + 1

= 4.449

Funzione vento per quando il panorama è soleggiato

81090screenshot20dal202021-04-302000-53-07-7374550

Il valore chi-quadrato della caratteristica del vento per la prospettiva soleggiata è

= 0,408 + 0,408 + 0 + 0

= 0,816

Funzione temperatura per quando il panorama è soleggiato

70847screenshot20dal202021-04-302000-54-06-7874101

Quindi, il valore chi-quadrato della caratteristica di temperatura per la prospettiva soleggiata è

= 1 + 1 + 0 + 0 + 0,707 + 0,707

= 3.414

Abbiamo trovato i valori del chi quadrato per la prospettiva soleggiata. Vediamoli tutti a tavola.

38365screenshot20dal202021-04-302000-56-30-1399006

Attualmente, l'umidità è la caratteristica predominante del ramo soleggiato del gazebo. Metteremo questa caratteristica come regola di decisione.

96005screenshot20dal202021-04-302000-59-53-5395113

Attualmente, entrambi i rami dell'umidità per la prospettiva soleggiata hanno una sola decisione come descritto sopra. L'albero CHAID restituirà NO per una prospettiva soleggiata e un'umidità elevata e restituirà S per una prospettiva soleggiata e un'umidità normale.

Ramo prospettico pioggia

In realtà, questo ramo ha decisioni sia positive che negative. Dobbiamo applicare il test chi-quadrato per questo ramo per trovare una decisione accurata. Questo ramo ha 5 istanze diverse, come dimostrato nel set di dati di raccolta delle sottoinformazioni allegato. Che ne dici di scoprire la caratteristica più predominante tra la temperatura?, umidità e vento?

18553screenshot20dal202021-04-302001-03-59-3273514

Funzione vento per previsione pioggia

Ci sono due tipi di una classe presente nella caratteristica del vento per la prospettiva della pioggia: debole e forte.

28165screenshot20dal202021-04-302001-06-13-6191309

Quindi, il valore chi-quadrato della caratteristica del vento per la prospettiva della pioggia è

= 1,225 + 1,225 + 1 + 1

= 4.449

Funzione umidità per previsione pioggia

Ci sono due tipi di una classe presente nella caratteristica di umidità per la prospettiva della pioggia: alto e normale.

95294screenshot20dal202021-04-302001-08-24-8481698

Il valore chi-quadrato della caratteristica di umidità per la prospettiva della pioggia è

= 0 + 0 + 0.408 + 0.408

= 0,816

Caratteristica della temperatura per la previsione della pioggia

Ci sono due tipi di classi presenti nelle caratteristiche di temperatura per la prospettiva della pioggia, come caldo e freddo.

71686screenshot20dal202021-04-302001-11-06-1374808

Il valore chi-quadrato della caratteristica di temperatura per la prospettiva della pioggia è

= 0 + 0 + 0.408 + 0.408

= 0,816

Abbiamo scoperto che tutti i valori del chi quadrato per la pioggia sono il ramo prospettico. Vediamoli tutti ad un unico tavolo.

57121screenshot20da202021-04-302001-13-00-8279890

Perciò, la funzione del vento è il vincitore della pioggia è il ramo della prospettiva. Inserire questa colonna nel ramo connesso e visualizzare il dataset subinformativo corrispondente.

44631screenshot20da202021-04-302001-15-49-7763127

Come appare, Tutte le succursali dispongono di set di dati sub-informativi con un'unica decisione, come sì o no. In questo modo, possiamo generare l'albero CHAID come illustrato di seguito.

38808screenshot20da202021-04-302001-17-36-9506564

La forma finale dell'albero CHAID.

Implementazione Python di un albero decisionale utilizzando CHAID

from chefboost import Chefboost as cb
import pandas as pd
data = pd.read_csv("/home/kajal/Download/meteo.csv")
data.head()
79402screenshot20da202021-05-012012-47-22-4323771
config = {"algoritmo": "CHAID"}

albero = cb.fit(dati, config)

albero

89872screenshot20da202021-05-012012-59-00-1485956
# test_instance = ['soleggiato','caldo','alto','debole','no']
test_instance = data.iloc[2]

test_instance
94699screenshot20da202021-05-012012-48-40-1194733
cb.predict(albero,test_instance)

produzione:- 'Yes'

#obj[0]: prospettiva, ogg[1]: temperatura, ogg[2]: umidità, ogg[3]: ventoso
# {"caratteristica": "prospettiva", "Istanze": 14, "metric_value": 4.0933, "profondità": 1}

def findDecisione(ogg): 
          se obj[0] == 'piovoso':
          # {"caratteristica": " ventoso", "Istanze": 5, "metric_value": 4.4495, "profondità": 2}
                  se obj[3] == 'debole':
                         return 'yes'
                  elif obj[3] == 'forte':
                         return 'no'
                  else:
                          return 'no'
          elif obj[0] == 'soleggiato':
           # {"caratteristica": " umidità", "Istanze": 5, "metric_value": 4.4495, "profondità": 2}
                 se obj[2] == 'alto':
                        return 'no'
                 elif obj[2] == 'normale':
                         return 'yes'
                 else:
                         return 'yes'
         elif obj[0] == 'nuvoloso':
                      return 'yes'
         else:
                    restituisci 'sì'

conclusione

Perciò, hemos creado un árbol de decisiones CHAID desde cero para terminar en esta publicación. CHAID utilizza una metrica di misurazione chi-quadrato per scoprire la caratteristica più importante e applicarla in modo ricorsivo fino a quando i set di dati sub-informativi non hanno un'unica decisione. Sebbene sia un algoritmo di albero decisionale legacy, è sempre lo stesso processo per l'ordinamento dei problemi.

Il supporto mostrato in questo articolo non è di proprietà di DataPeaker e viene utilizzato a discrezione dell'autore.

Iscriviti alla nostra Newsletter

Non ti invieremo posta SPAM. Lo odiamo quanto te.