# Data Pipeline

User Data Functions ermöglichen es, Business Logic zu implementieren und zu kapseln und sie anschließend in einem Lakehouse, einer Data Pipeline und einem Warehouse wiederzuverwenden. (Stand 2025-04) Die neue Variable Library kann sowohl in Dataflows bzw. Data Pipelines als auch im CI/CD-Kontext genutzt werden, um workspace-spezifische Zielwerte für Variablen abzulegen. (Stand 2025-04) Shortcut Transformations wandeln CSV-, JSON- oder Parquet-Dateien direkt im Shortcut in Delta-Tabellen um, ohne separate ETL-Strecke.

## Aliase

Pipelines, Data Factory, Pipeline

## Nachbarthemen

| Thema | Beziehung (Lesart) | Belastbarkeit | Zitat und Quelle | Gemeinsame Segmente |
| --- | --- | --- | --- | --- |
| [Dataflow](dataflow.md) | Dataflow setzt-voraus Data Pipeline | automatisch extrahiert, Quellenstelle vorhanden | „so eine Datenpipeline zu nehmen und die zwei Dataflows hintereinander zu hängen“ (Microsoft Fabric — braucht das wirklich jemand?) | 28 |
| [Dataflow](dataflow.md) | Dataflow gegensatz Data Pipeline | automatisch extrahiert, Quellenstelle vorhanden | „Bei Dataflus geht's garantiert.“ (Daten-WG Deep Dive Financial Reporting, 2025-05) | 28 |
| [Dataflow](dataflow.md) | Dataflow teil-von Data Pipeline | automatisch extrahiert, Quellenstelle vorhanden | „ich kann Dataflow nehmen und in der Pipeline einbauen“ (600 SQL-Tabellen in Fabric) | 28 |
| [Notebook](notebook.md) | Notebook setzt-voraus Data Pipeline | automatisch extrahiert, Quellenstelle vorhanden | „wenn ich aus der Pipeline heraus das anlege, dann geht's“ (BI Thinkers Talk n.72, 2026-01) | 33 |
| [Microsoft Fabric](microsoft-fabric.md) | Data Pipeline und Microsoft Fabric im selben Segment | Heuristik, gezählt |  | 40 |
| [Power BI](power-bi.md) | Data Pipeline und Power BI im selben Segment | Heuristik, gezählt |  | 36 |
| [Lakehouse](lakehouse.md) | Data Pipeline und Lakehouse im selben Segment | Heuristik, gezählt |  | 27 |
| [SQL](sql.md) | Data Pipeline und SQL im selben Segment | Heuristik, gezählt |  | 24 |
| [Warehouse](warehouse.md) | Data Pipeline und Warehouse im selben Segment | Heuristik, gezählt |  | 23 |
| [Workspace](workspace.md) | Data Pipeline und Workspace im selben Segment | Heuristik, gezählt |  | 21 |
| [Reporting](reporting.md) | Data Pipeline und Reporting im selben Segment | Heuristik, gezählt |  | 19 |
| [OneLake](onelake.md) | Data Pipeline und OneLake im selben Segment | Heuristik, gezählt |  | 18 |
| [Direct Lake](direct-lake.md) | Data Pipeline und Direct Lake im selben Segment | Heuristik, gezählt |  | 15 |
| [Fabric Capacity](fabric-capacity.md) | Data Pipeline und Fabric Capacity im selben Segment | Heuristik, gezählt |  | 15 |
| [Performance](performance.md) | Data Pipeline und Performance im selben Segment | Heuristik, gezählt |  | 13 |

## Kernaussagen

Alle Aussagen sind automatisch aus dem Transkript extrahiert und nicht redaktionell geprüft. „Stelle“ sagt, wie genau der Sprung sitzt: auf die Sekunde (im Transkript wiedergefunden) oder Abschnittsanfang (bis zu drei Minuten vor der Aussage).

| Typ | Dokument | Stand | Zeit | Stelle | Aussage | Beleg |
| --- | --- | --- | --- | --- | --- | --- |
| Fakt | Daten-WG Life-Update \| Fabric Architekturen | 2026-08 | 02:11 | Abschnittsanfang | Beim SAP-Projekt wurden die taeglich abgelegten Delta-Dateien ueber ein Notebook eingelesen, das anhand von Tagesordnern erkennt, welche Tage bereits in der Zieltabelle liegen. | [▶](https://www.youtube.com/watch?v=J-lN5JN-F5I&t=131s) |
| Fakt | Daten-WG Life-Update \| Fabric Architekturen | 2026-08 | 12:40 | auf die Sekunde | Bei einem groesseren SAP-Konzernprojekt wurden Bronze und Silber als Warehouse aufgebaut, weil das Pipeline-Feature zum Refresh der SQL-Endpunkt-Metadaten damals noch nicht existierte. | [▶](https://www.youtube.com/watch?v=J-lN5JN-F5I&t=760s) |
| Fakt | BI Thinkers Talk n.72 | 2026-01 | 37:35 | auf die Sekunde | Eine Connection für Notebooks lässt sich aktuell nicht direkt unter Connections anlegen, sondern nur über den Umweg einer Data Pipeline. | [▶](https://www.youtube.com/watch?v=luk4S4ukKmg&t=2255s) |
| Empfehlung | BI Thinkers Talk nr.67 | 2025-09 | 41:23 | auf die Sekunde | Bei neueren Dataflow-Generationen sind Datenverbindungen an die erstellende Person gebunden, weshalb empfohlen wird, Connections konsequent freizugeben und nach Möglichkeit einen Service Principal für die Verbindung zu nutzen. | [▶](https://www.youtube.com/watch?v=G8s96sHUHac&t=2483s) |
| Fakt | BI Thinkers Talk nr.67 | 2025-09 | 43:22 | auf die Sekunde | Für Business Central existiert kein direkter Connector für Fabric-Pipelines, weshalb der Zugriff stattdessen über einen OData-basierten Dataflow mit Service Principal erfolgen muss. | [▶](https://www.youtube.com/watch?v=G8s96sHUHac&t=2602s) |
| Meinung | Daten-WG Deep Dive Financial Reporting | 2025-05 | 53:12 | auf die Sekunde | Fabric-Pipelines eignen sich vor allem zum Kopieren von Dateien und zum Orchestrieren von Web-APIs, weniger für inkrementelles Laden. | [▶](https://www.youtube.com/watch?v=TYmKrreMO3I&t=3192s) |
| Fakt | Fabric & Power BI Quarterly \| 2025 Q2 | 2025-04 | 21:47 | auf die Sekunde | User Data Functions ermöglichen es, Business Logic zu implementieren und zu kapseln und sie anschließend in einem Lakehouse, einer Data Pipeline und einem Warehouse wiederzuverwenden. | [▶](https://www.youtube.com/watch?v=lAh9ajR2Nrw&t=1307s) |
| Fakt | Fabric & Power BI Quarterly \| 2025 Q2 | 2025-04 | 30:09 | auf die Sekunde | Die neue Variable Library kann sowohl in Dataflows bzw. Data Pipelines als auch im CI/CD-Kontext genutzt werden, um workspace-spezifische Zielwerte für Variablen abzulegen. | [▶](https://www.youtube.com/watch?v=lAh9ajR2Nrw&t=1809s) |
| Empfehlung | Microsoft Fabric — braucht das wirklich jemand? |  | 12:02 | auf die Sekunde | Der erste Quickwin beim Umstieg auf Fabric ist laut Artur, Daten überhaupt persistent abzulegen, statt sie bei jeder Aktualisierung neu zu laden. | [▶](https://www.youtube.com/watch?v=mTVeZzshLzE&t=722s) |
| Fakt | 600 SQL-Tabellen in Fabric |  | 16:45 | auf die Sekunde | Im Projekt orchestrierten etwa acht bis neun Fabric-Pipelines mit einer metadatengetriebenen Architektur rund 600 Quelltabellen zu 150 Zieltabellen. | [▶](https://www.youtube.com/watch?v=RtUiF1J5XEg&t=1005s) |
| Fakt | Fabric & Power BI Quarterly · 2025 Q4 |  | 21:00 | auf die Sekunde | Shortcut Transformations wandeln CSV-, JSON- oder Parquet-Dateien direkt im Shortcut in Delta-Tabellen um, ohne separate ETL-Strecke. | [▶](https://www.youtube.com/watch?v=9TsHkV8sIRo&t=1260s) |
| Fakt | Fabric & Power BI Quarterly · 2026-2 |  | 21:31 | auf die Sekunde | Copy Jobs in der Fabric Data Factory unterstützen jetzt in der Vorschau automatisch Slowly Changing Dimension Typ 2, wodurch manueller Notebook-Code für diesen Zweck überflüssig wird. | [▶](https://www.youtube.com/watch?v=pTTYySb0Cyg&t=1291s) |
| Fakt | Fabric & Power BI Quarterly · 2025 Q3 |  | 32:02 | auf die Sekunde | Dataflows sind mittlerweile vollwertig in Pipelines nutzbar und ihre Ziele lassen sich parametrisieren, sodass Parameter und Variablen aus Pipelines an Dataflows uebergeben werden koennen. | [▶](https://www.youtube.com/watch?v=lZvpCBMKASM&t=1922s) |

## Dokumente

| Dokument | Datum | Abdeckung | Sprungmarken |
| --- | --- | --- | --- |
| [Microsoft Fabric — Einsteiger-Guide](https://datenwgknowledgekitchen.com/fabric_einsteiger_guide_v1.html) | 2026-08-31 | nur-text | [Abschnitt](https://datenwgknowledgekitchen.com/fabric_einsteiger_guide_v1.html#:~:text=Wer%20geht%20wo%20auf%3F) · [Abschnitt](https://datenwgknowledgekitchen.com/fabric_einsteiger_guide_v1.html#:~:text=Die%20Workload-Landkarte%20%28Stand%202026%29) · [Abschnitt](https://datenwgknowledgekitchen.com/fabric_einsteiger_guide_v1.html#:~:text=Die%20Bausteine) |
| [Starting with Microsft Fabric the Skills you need](https://www.youtube.com/watch?v=m3xNYfVih0Q) | 2024-08-01 | nur-zeitstempel | [08:08](https://www.youtube.com/watch?v=m3xNYfVih0Q&t=488s) · [16:07](https://www.youtube.com/watch?v=m3xNYfVih0Q&t=967s) · [17:44](https://www.youtube.com/watch?v=m3xNYfVih0Q&t=1064s) |
| [Fabric & Power BI Quarterly \| 2025 Q2](https://www.youtube.com/watch?v=lAh9ajR2Nrw) | 2025-04-01 | kernaussagen+zeitstempel | [21:39](https://www.youtube.com/watch?v=lAh9ajR2Nrw&t=1299s) · [28:42](https://www.youtube.com/watch?v=lAh9ajR2Nrw&t=1722s) · [29:17](https://www.youtube.com/watch?v=lAh9ajR2Nrw&t=1757s) |
| [Daten-WG Deep Dive Financial Reporting](https://www.youtube.com/watch?v=TYmKrreMO3I) | 2025-05-01 | kernaussagen+zeitstempel | [44:08](https://www.youtube.com/watch?v=TYmKrreMO3I&t=2648s) · [45:48](https://www.youtube.com/watch?v=TYmKrreMO3I&t=2748s) · [52:11](https://www.youtube.com/watch?v=TYmKrreMO3I&t=3131s) |
| [Fabric & Power BI Quarterly · 2025 Q4](https://www.youtube.com/watch?v=9TsHkV8sIRo) | — | kernaussagen+zeitstempel | [27:23](https://www.youtube.com/watch?v=9TsHkV8sIRo&t=1643s) · [30:41](https://www.youtube.com/watch?v=9TsHkV8sIRo&t=1841s) · [49:49](https://www.youtube.com/watch?v=9TsHkV8sIRo&t=2989s) |
| [Realtalk zu Self Service mit Power BI](https://www.youtube.com/watch?v=27rC2zefFOU) | 2024-02-01 | nur-zeitstempel | [20:05](https://www.youtube.com/watch?v=27rC2zefFOU&t=1205s) |
| [Power BI von A bis Z — Einsteiger-Guide (End-to-End)](https://datenwgknowledgekitchen.com/power_bi_einsteiger_guide_v4.html) | 2026-08-31 | nur-text | [Abschnitt](https://datenwgknowledgekitchen.com/power_bi_einsteiger_guide_v4.html#:~:text=Wie%20es%20funktioniert) · [Abschnitt](https://datenwgknowledgekitchen.com/power_bi_einsteiger_guide_v4.html#:~:text=Operationen%2C%20die%20NICHT%20foldet) · [Abschnitt](https://datenwgknowledgekitchen.com/power_bi_einsteiger_guide_v4.html#:~:text=Hover%20f%C3%BCr%20Details) |
| [Fabric & Power BI Quarterly · 2026-1](https://www.youtube.com/watch?v=TYp5xCAU2AU) | 2026-01-01 | kernaussagen+zeitstempel | [31:33](https://www.youtube.com/watch?v=TYp5xCAU2AU&t=1893s) · [50:46](https://www.youtube.com/watch?v=TYp5xCAU2AU&t=3046s) |
| [Fabric & Power BI Quarterly · 2026-2](https://www.youtube.com/watch?v=pTTYySb0Cyg) | — | kernaussagen+zeitstempel | [21:26](https://www.youtube.com/watch?v=pTTYySb0Cyg&t=1286s) |

## Hinweise

Kernaussagen und Beziehungen sind maschinell erzeugt und nicht redigiert. Heuristische Kanten zählen Erwähnungen, keine Bedeutung. Bei Widersprüchen gilt das Video.

So zitieren: Daten-WG, <Dokumenttitel>, <mm:ss>, <url>

- Wiki-Ansicht: https://datenwgknowledgekitchen.com/wissensgraph/#n=tool%3Adata-pipeline
- Graph-Sicht: https://datenwgknowledgekitchen.com/wissensgraph/graph.html#n=tool%3Adata-pipeline&f=tool%3Adata-pipeline
