🌳 Die gläserne Blackbox – Entscheidungsbaum-Labor

Trainiere eine KI, entdecke Informationsgewinn und provoziere Overfitting.

📨 Unsere Mission: Wir bauen einen Spamfilter!

Stell dir vor, du bekommst jeden Tag viele E-Mails. Manche sind wichtig – zum Beispiel eine Nachricht von deiner Schule. Andere sind unerwünschte Werbung oder Betrugsversuche. Solche Nachrichten nennt man Spam.

Unser Ziel: Ein Computer soll bei einer neuen, unbekannten Nachricht entscheiden: Spam oder kein Spam? Dafür zeigen wir ihm zuerst Beispiele, bei denen die richtige Antwort schon bekannt ist.

📩 Nachricht A
Betreff: Dein Stundenplan für morgen

„Hallo, der Unterricht beginnt morgen um 8 Uhr.“

✓ Kein Spam
📩 Nachricht B
Betreff: GRATIS! Gewinne SOFORT 1.000 €!

„Nur heute! Klicke jetzt und sichere deinen Preis!“

⚠ Spam

Wie lernt unser Spamfilter?

1. Beispiele zeigen

Wir geben dem Computer viele Nachrichten, die bereits als Spam oder Nicht-Spam markiert sind. Das sind die Trainingsdaten.

2. Muster entdecken

Der Computer sucht nach hilfreichen Fragen, etwa: „Klingt die Nachricht nach einem Angebot?“ oder „Macht sie besonders viel Druck?“ Daraus baut er einen Entscheidungsbaum.

3. Neue Nachrichten prüfen

Danach bekommt er Nachrichten, die er noch nie gesehen hat. An diesen Testdaten prüfen wir, ob er wirklich gute Regeln gelernt hat.

Was bedeuten die Punkte in unserem Labor?

Damit du die Regeln sehen kannst, verwandeln wir jede Nachricht in zwei vereinfachte Zahlen von 0 bis 100: den Angebots-Wert (wie stark sie nach Werbung klingt) und den Dringlichkeits-Wert (wie sehr sie zu schnellem Handeln drängt). Jeder Punkt steht also für eine Nachricht, nicht für ein einzelnes Wort.

Orange bedeutet: als Spam markiert. Grün bedeutet: als kein Spam markiert. Die Farben sind die richtigen Antworten aus den Beispieldaten – der Entscheidungsbaum muss lernen, sie aus den beiden Zahlen vorherzusagen.

🧠 Das spannende Problem: Ein Baum kann so viele Sonderregeln lernen, dass er bei den bekannten Nachrichten fast immer richtig liegt, aber bei neuen Nachrichten viele Fehler macht. Das heißt Overfitting (Überanpassung). Du kannst unten selbst ausprobieren, wann das passiert.

Hinweis: Das Labor verwendet künstlich erzeugte Übungsdaten und nur zwei Merkmale. Echte Spamfilter berücksichtigen viel mehr Informationen. Ein hoher Angebots-Wert bedeutet nicht automatisch Spam.

Dein Auftrag: Starte mit Abschnitt 1, untersuche die Punkte, finde in Abschnitt 2 eine gute Trennfrage und vergleiche in Abschnitt 3 einfache und sehr tiefe Bäume.

🔎 Was bedeuten die Zahlen im Entscheidungsbaum?

Die Zahlen an den Fragen sind keine Gewichtungen. Es sind Grenzwerte, die der Baum beim Training aus den Beispielen lernt. Probiere es an einer erfundenen E-Mail aus!

📨 Neue E-Mail: „Nur heute! Sichere dir das Super-Angebot!“

Unsere vereinfachte Auswertung gibt der Nachricht einen Angebots-Wert zwischen 0 und 100. Stelle ihn selbst ein:

65
1. Wert der Nachricht

Wie stark klingt diese Nachricht nach einem Angebot? 65 von 100.

Dieser Wert beschreibt die E-Mail. Er ist keine Wahrscheinlichkeit.
2. Gelernte Frage

Angebots-Wert ≤ 45?

45 ist der Schwellenwert – die Grenze, die unser Beispielbaum verwendet.

Wichtig: Das ist ein vereinfachter Beispielbaum mit nur einer Frage. Die Grenze 45 ist hier zur Erklärung festgelegt. Der tatsächlich trainierte Baum weiter unten berechnet seine Grenzen aus den Daten und kann mehrere Fragen stellen.

Drei Zahlen – drei unterschiedliche Bedeutungen

Merkmalswert, z. B. 65

Beschreibt die neue E-Mail. Er wird mit der Grenze verglichen.

Schwellenwert, z. B. 45

Ist die gelernte Entscheidungsgrenze im Baum. Ja führt nach links, Nein nach rechts.

Informationsgewinn, z. B. 0,3 Bit

Zeigt, wie stark eine Frage die Unsicherheit der Trainingsdaten verringert. Keine Gewichtung und keine Spam-Wahrscheinlichkeit.

„18 Beispiele · 12 Spam“

Zeigt, wie viele Trainingsnachrichten diesen Knoten erreicht haben und wie viele davon als Spam markiert waren.

In Abschnitt 3 kannst du nach dem Training die echten gelernten Grenzwerte ablesen. In Abschnitt 4 wird beim Prüfen einer neuen Nachricht nun jede Frage mit dem eingesetzten Wert und der Entscheidung erklärt.

1 · Daten entdecken

Jeder Punkt ist eine Nachricht: Orange = Spam, Grün = kein Spam. Die KI kennt nur die Merkmale Angebots-Wert (waagerecht) und Dringlichkeits-Wert (senkrecht). Ein paar Beispiele sind absichtlich falsch oder ungewöhnlich.

Trainingsdaten (blauer Hintergrund)

Unbekannte Testdaten (gelber Hintergrund)

Die Testdaten werden beim Lernen nicht verwendet. Genau damit überprüfen wir, ob die KI wirklich etwas verstanden hat.

2 · Was ist eine gute Frage?

Eine Frage teilt die Daten in zwei Gruppen. Je eindeutiger die Gruppen werden, desto mehr Information gewinnen wir.

Gruppe A: kleiner / gleich

Gruppe B: größer

3 · KI trainieren und Überanpassung beobachten

Gelernte Entscheidungsgrenzen

Hintergrundfarbe = Vorhersage der KI. Punkte = Trainingsbeispiele.

Entscheidungsbaum

4 · Prüfe eine neue Nachricht

Klicke in die Grafik der Entscheidungsgrenzen. Die KI entscheidet anhand der gelernten Fragen.

Noch keinen Punkt ausgewählt.

5 · Forschungsaufträge

  1. Verschiebe den Grenzwert in Abschnitt 2. Wann ist der Informationsgewinn besonders hoch?
  2. Trainiere mit Baumtiefe 1 und danach mit Baumtiefe 9. Vergleiche die Trefferquote auf Trainings- und Testdaten.
  3. Erhöhe das Rauschen auf 30 %. Kann ein tiefer Baum alle Trainingspunkte auswendig lernen?
  4. Stelle „Mindestens Beispiele pro Blatt“ auf 8. Wie verändert sich die Baumstruktur? Das ist eine Form der Begrenzung der Komplexität (Pre-Pruning).
  5. Erzeuge neue Daten und prüfe, ob dieselben Einstellungen immer gleich gut funktionieren.

Modell: vereinfachter binärer Klassifikationsbaum mit Entropie und Informationsgewinn (ID3-inspiriert, numerische Schwellenwerte). Kein vollständiges C4.5 und kein Random Forest. Die Beispiele sind künstlich erzeugt.