Vom Rohdaten-Archiv zum Master-Datensatz
Data-Engineering-Pipeline für das Zürcher Tramnetz (VBZ) | 2023–2025
Die wichtigsten Fakten auf dem Weg zum Master-Datensatz
Projektsuche zum Ende der Fortbildung
Dieses Projekt entstand als Abschlussarbeit einer Data-Science-Fortbildung — der Rahmen war bewusst offen: nicht welches Modell, sondern welches Thema war die große Herausforderung.
Gesucht war ein Thema, an dem sich Data Science nicht abstrakt anfühlt, sondern an einem Alltagsbeispiel mit echtem Impact nachvollziehbar wird.
Ein datengetriebenes Thema mit gesellschaftlicher Relevanz
Daten sollen sinnstiftend eingesetzt werden — mit greifbarem Bezug zum Alltag, zur Lebensqualität, im besten Fall zur Nachhaltigkeit.
Öffentlicher Verkehr trifft das genau: täglich erlebbar, gesellschaftlich relevant, datenreich. Die Recherche führte über den ÖPNV nach Zürich.
Zielsetzung, Scope und Einordnung im Data-Lifecycle
Zusammenführung der fünf Datenquellen zu einem reproduzierbaren Master-Datensatz
Vorgehen der Reduktion in drei Schritten
38 GB schweizweit → VBZ Tram Zürich (~400 Betreiber → 1)
Polars statt Pandas — ~4× schneller und sparsamer, per Benchmark belegt
21 → 10 Spalten, ~11 % Zeilen raus — echte Halte plus Ausfälle
Vier Quellen, ein bemerkenswerter Sonderfall
10 → 26 Spalten — vier gezielt recherchierte Kontextquellen, integriert in den Master-Datensatz.
Vier Quellen über drei Joins zum validierten Master
Analysefertige, reproduzierbare Datengrundlage
vbz_master.parquet — eine Zeile pro Halt (~230 je Fahrt), angereichert mit Fahrplan, Wetter, Events und Stadtkreis. 1:1 reproduzierbar über die 9 Notebooks.
Dokumentierte Scope-Entscheidungen dieser Ausbaustufe
Bewusst dokumentierte Grenzen, nicht übersehene Fehler. Transparenz über Known Issues gehört zu sauberem Data Engineering.
Vom Rohdaten-Archiv zum Master-Datensatz
Data-Engineering-Pipeline für das Zürcher Tramnetz (VBZ) | 2023–2025
Recherche · Reduktion · Anreicherung · Vereinigung
Master-Datensatz als Data-Engineering-Fundament für das Analyse-Projekt zh-tram-flow