Regressionsalgorithmen | 5 Regressionsalgorithmen, die Sie kennen sollten

1. Lineare Regression

2. Entscheidungsbaum

3. Vektorregression unterstützen

4. Schleifenregression

5. Zufälliger Wald

1. Lineare Regression

Die lineare Regression ist ein Machine Learning-Algorithmus, der für die überwachtes LernenÜberwachtes Lernen ist ein Ansatz des maschinellen Lernens, bei dem ein Modell mit einem Satz von beschrifteten Daten trainiert wird. Jede Eingabe im Dataset ist mit einer bekannten Ausgabe verknüpft, So kann das Modell lernen, Ergebnisse für neue Eingaben vorherzusagen. Diese Methode wird häufig in Anwendungen wie der Bildklassifizierung eingesetzt., Spracherkennung und Trendvorhersage, und unterstreicht seine Bedeutung in.... Die lineare Regression übernimmt die Aufgabe, eine abhängige Variable vorherzusagen (Zielsetzung) als Funktion der gegebenen unabhängigen Variablen. Dann, Diese Regressionstechnik findet eine lineare Beziehung zwischen einer abhängigen Variablen und den anderen gegebenen unabhängigen Variablen. Deswegen, der Name dieses Algorithmus ist Lineare Regression.

Im Abbildung"Abbildung" ist ein Begriff, der in verschiedenen Zusammenhängen verwendet wird, Von der Kunst zur Anatomie. Im künstlerischen Bereich, bezieht sich auf die Darstellung menschlicher oder tierischer Formen in Skulpturen und Gemälden. In der Anatomie, bezeichnet die Form und Struktur des Körpers. Was ist mehr, in der Mathematik, "Abbildung" Es hängt mit geometrischen Formen zusammen. Seine Vielseitigkeit macht es zu einem grundlegenden Konzept in mehreren Disziplinen.... anterior, auf der X-Achse ist die unabhängige Variable und auf der Y-Achse ist die Ausgabe. Die Regressionsgerade ist die Linie, die am besten zu einem Modell passt. Und unser Hauptziel bei diesem Algorithmus ist es, die Linie zu finden, die am besten passt.

Vorteile:

• Lineare Regression ist einfach zu implementieren.
• Geringere Komplexität im Vergleich zu anderen Algorithmen.
• Lineare Regression kann zu Überanpassung führen, aber es kann vermieden werden, indem einige Dimensionsreduktionstechniken verwendet werden, Techniken RegulierungDie Regularisierung ist ein administrativer Prozess, der darauf abzielt, die Situation von Personen oder Organisationen zu formalisieren, die außerhalb des gesetzlichen Rahmens tätig sind. Dieses Verfahren ist unerlässlich, um Rechte und Pflichten zu gewährleisten, sowie zur Förderung der sozialen und wirtschaftlichen Inklusion. In vielen Ländern, Die Regularisierung wird in Migrationskontexten angewendet, Arbeit und Steuern, denjenigen, die sich in irregulären Situationen befinden, den Zugang zu Leistungen zu ermöglichen und sich vor möglichen Sanktionen zu schützen.... und Kreuzvalidierung.

Implementierung

numpy als np importieren
aus sklearn.linear_model import LinearRegression
X = np.array([[2, 1], [3, 2], [4, 2], [5, 3]])
# y = 1 * x_0 + 2 * x_1 + 3
y = np.dot(x, np.array([1, 2])) + 3
lr = LinearRegression().fit(x, Ja)
lr.vorhersagen(np.array([[1, 5]]))

Ausgabe
Array([14.])

Entscheidungsbaummodelle können auf alle Daten angewendet werden, die numerische Merkmale und kategoriale Merkmale enthalten. Entscheidungsbäume sind gut darin, die nichtlineare Interaktion zwischen den Merkmalen und der Zielvariablen zu erfassen.. Entscheidungsbäume stimmen in gewisser Weise mit dem Denken auf menschlicher Ebene überein, daher ist es sehr intuitiv, die Daten zu verstehen.

Quelle: https://dinhanhthi.com

Zum Beispiel, wenn wir klassifizieren, wie viele Stunden ein Kind in einem bestimmten Klima spielt, der Entscheidungsbaum sieht auf dem Bild ein bisschen so aus.

Dann, Zusammenfassend, Ein Entscheidungsbaum ist ein Baum, in dem jeder KnotenNodo ist eine digitale Plattform, die die Verbindung zwischen Fachleuten und Unternehmen auf der Suche nach Talenten erleichtert. Durch ein intuitives System, Ermöglicht Benutzern das Erstellen von Profilen, Erfahrungen austauschen und Zugang zu Stellenangeboten erhalten. Der Fokus auf Zusammenarbeit und Networking macht Nodo zu einem wertvollen Werkzeug für diejenigen, die ihr berufliches Netzwerk erweitern und Projekte finden möchten, die mit ihren Fähigkeiten und Zielen übereinstimmen.... stellt ein Merkmal dar, jeder Zweig steht für eine Entscheidung und jedes Blatt steht für ein Ergebnis (Zahlenwert für Regression).

Vorteile:

• Leicht zu verstehen und zu interpretieren, optisch intuitiv.
• Kann mit numerischen und kategorialen Merkmalen arbeiten.
• Benötigt wenig Datenvorverarbeitung: keine One-Hot-Codierung erforderlich, Dummy-Variablen, etc.

Nachteile:

• Neigt zur Überanpassung.
• Eine kleine Änderung der Daten bewirkt in der Regel einen großen Unterschied in der Baumstruktur, was verursacht instabilität.

Implementierung

numpy als np importieren
aus sklearn.tree import DecisionTreeRegressor
rng = np.random.RandomState(1)
X = np.sort(5 * rng.rand(80, 1), Achse=0)
y = np.sin(x).ravel()
Ja[::5] += 3 * (0.5 - rng.rand(16))
# Regressionsmodell anpassen
regr = EntscheidungsbaumRegressor(max_depth=2)
regr.fit(x, Ja)
# Vorhersagen
X_test = np.arange(0.0, 5.0, 1)[:, z.B. newaxis]
result = regr.vorhersage(X_test)
drucken(Ergebnis)

Ausgabe:
[ 0.05236068  0.71382568  0.71382568  0.71382568 -0.86864256]

3. Vektorregression unterstützen

Sie müssen von SVM gehört haben, nämlich, Support-Vektor-Maschine. SVR verwendet auch die gleiche Idee von SVM, aber hier versucht es, die tatsächlichen Werte vorherzusagen. Dieser Algorithmus verwendet Hyperebenen, um die Daten zu trennen. Falls diese Trennung nicht möglich ist, Verwenden Sie dann den Kernel-Trick, bei dem die Abmessungen"Dimension" Es handelt sich um einen Begriff, der in verschiedenen Disziplinen verwendet wird, wie z.B. Physik, Mathematik und Philosophie. Er bezieht sich auf das Ausmaß, in dem ein Objekt oder Phänomen analysiert oder beschrieben werden kann. In der Physik, zum Beispiel, Es ist die Rede von räumlichen und zeitlichen Dimensionen, während es sich in der Mathematik auf die Anzahl der Koordinaten beziehen kann, die notwendig sind, um einen Raum darzustellen. Es zu verstehen, ist grundlegend für das Studium und... und dann werden die Datenpunkte durch eine Hyperebene trennbar.

Nachteile:

• Nicht geeignet für große Datensätze.
• Sie funktionieren nicht sehr gut, wenn der Datensatz mehr Rauschen enthält.

• LASSO steht für Absolute Minimum Selection Shrinkage Operator. Die Kontraktion ist grundsätzlich definiert als eine Attributbeschränkung oder ParameterDas "Parameter" sind Variablen oder Kriterien, die zur Definition von, ein Phänomen oder System zu messen oder zu bewerten. In verschiedenen Bereichen wie z.B. Statistik, Informatik und naturwissenschaftliche Forschung, Parameter sind entscheidend für die Etablierung von Normen und Standards, die die Datenanalyse und -interpretation leiten. Ihre richtige Auswahl und Handhabung sind entscheidend, um genaue und relevante Ergebnisse in jeder Studie oder jedem Projekt zu erhalten.....
• Der Algorithmus arbeitet, indem er eine Einschränkung auf die Attribute des Modells findet und anwendet, die dazu führt, dass die Regressionskoeffizienten einiger Variablen auf Null reduziert werden..
• Variablen mit einem Regressionskoeffizienten von Null werden aus dem Modell ausgeschlossen.
• Deswegen, Die Schleifenregressionsanalyse ist im Grunde eine Methode der Variablenauswahl und -kontraktion und hilft zu bestimmen, welche der Prädiktoren am wichtigsten sind.

Vorteile:

Nachteile:

• LASSO wählt nur ein Feature aus einer Gruppe korrelierter Features aus
• Ausgewählte Funktionen können stark verzerrt sein.

Implementierung

aus sklearn import linear_model
numpy als np importieren
rng = np.random.RandomState(1)
X = np.sort(5 * rng.rand(80, 1), Achse=0)
y = np.sin(x).ravel()
Ja[::5] += 3 * (0.5 - rng.rand(16))
# Regressionsmodell anpassen
lassoReg = linear_model.Lasso(alpha=0,1)
lassoReg.fit(x,Ja)
# Vorhersagen
X_test = np.arange(0.0, 5.0, 1)[:, z.B. newaxis]
lassoReg.predict(X_test)

Ausgabe:
Array([ 0.78305084,  0.49957596,  0.21610108, -0.0673738 , -0.35084868])

5. Zufälliger Waldrückkehrer

Zufällige Wälder sind ein Set (Kombination) Entscheidungsbäume. Es handelt sich um einen überwachten Lernalgorithmus, der zur Klassifizierung und Regression verwendet wird. Eingabedaten werden durch mehrere Entscheidungsbäume geleitet. Sie wird ausgeführt, indem eine andere Anzahl von Entscheidungsbäumen zum Zeitpunkt der AusbildungTraining ist ein systematischer Prozess zur Verbesserung der Fähigkeiten, körperliche Kenntnisse oder Fähigkeiten. Es wird in verschiedenen Bereichen angewendet, wie Sport, Aus- und Weiterbildung. Zu einem effektiven Trainingsprogramm gehört auch die Zielplanung, Regelmäßiges Üben und Bewerten der Fortschritte. Anpassung an individuelle Bedürfnisse und Motivation sind Schlüsselfaktoren, um in jeder Disziplin erfolgreiche und nachhaltige Ergebnisse zu erzielen.... und Generieren der Klasse, die der Modus der (zur Klassifizierung) oder mittlere Vorhersage (für Regression) einzelner Bäume.

Quelle: https://levelup.gitconnected.com

Vorteile:

• Gut zum Erlernen komplexer und nichtlinearer Zusammenhänge
• Sehr leicht zu interpretieren und zu verstehen.

Nachteile:

• Sie neigen zu Überanpassungen
• Die Verwendung größerer Random Forest-Pools für eine höhere Leistung verlangsamt ihre Geschwindigkeit und benötigt dann auch mehr Speicher.

Implementierung

aus sklearn.ensemble importieren RandomForestRegressor
aus sklearn.datasets import make_regression
x, y = make_regression(n_features=4, n_informativ=2, random_state=0, shuffle=Falsch)
rfr = RandomForestRegressor(max_depth=3)
rfr.fit(x, Ja)
drucken(rfr.vorhersage([[0, 1, 0, 1]]))

Ausgabe:
[33.2470716]

Abschließende Anmerkungen