Übertragungsnetz im Energiesektor
Kraftwerksfahrpläne nach SOGL: eine Datenplattform für den Übertragungsnetzbetrieb
Deutscher Übertragungsnetzbetreiber · Plattformentwicklung und Skalierung
Ausgangslage
Nach der EU-Leitlinie SOGL (EU 2017/1485) melden Kraftwerksbetreiber ihre Einsatzplanung: je Anlage und Tag 96 Viertelstundenwerte für Erzeugung, Regelreserve, Redispatch und Verfügbarkeit. Zu Projektbeginn kamen rund 120.000 Dateien und 26 GB pro Tag an, innerhalb eines Jahres sollten es 2,1 Millionen Dateien werden. Jede Datei muss geprüft, dem Absender quittiert und zuverlässig an Prognose und Netzführung weitergegeben werden.
Lösung
Wir haben eine ereignisgesteuerte Plattform auf Kubernetes in Azure gebaut. .NET-Dienste importieren die Dateien, ein eigener Validierungsdienst prüft sie über Kafka gegen XSD und fachliche Regeln auf Dokument-, Zeitreihen- und Punktebene. Der Absender erhält eine Quittung nach IEC 62325, die einzelne Zeitreihen oder die ganze Nachricht mit Begründungscode ablehnen kann. Gültige Daten liegen in PostgreSQL und gehen über Kafka-Topics und Dateiexporte an die nachgelagerten Systeme.
Skalierung auf das 17-Fache
- Duplikate: 92 % der Zeitreihen kommen unverändert erneut, nur mit neuer Versionsnummer. Ein Hash über die 96 Werte erkennt sie, sie werden nicht erneut gespeichert. Beim Zielvolumen sinkt die Schreiblast rechnerisch von 105.000 auf rund 8.400 Einfügungen pro Sekunde und der Speicherbedarf von 1,36 TB auf rund 110 GB pro Tag.
- Persistenz: Der Lasttest zeigte den Engpass im zeilenweisen Schreiben in eine einzelne Datenbank. Wir haben auf Bulk-Inserts, eine Zeitreihendatenbank mit Kompression und schnelle Hash-Abfragen umgestellt.
- Stille Fehler: Sehr große Validierungsantworten gingen im Message-Broker ohne Fehlermeldung verloren, die betroffenen Dateien blieben in „Prüfung ausstehend“ stehen. Wir haben die Nachrichtengrößen über die gesamte Kette abgestimmt, große Dokumente laufen seitdem vollständig durch.
- Testdaten: Anlagenfahrpläne gelten unter REMIT als Insiderinformationen. Lasttests laufen deshalb mit synthetischen Dateien ohne Duplikate, also im ungünstigsten Fall.
- Prognose: Ein neues, schlankes Austauschformat auf Basis von Protobuf liefert ein Paket je Anlage und Geschäftsart, ohne Stammdaten auf der Leitung.
Ergebnis
Die Plattform prüft und quittiert jede Datei automatisch, über fünf Umgebungen bis in die Produktion. Im Lasttest liefen 80.000 Dateien in gut einer Stunde mit rund 99 % Erfolgsquote durch, ohne Vorteil aus der Deduplizierung. Engpässe und Einsparungen sind mit Zahlen belegt, und die Architektur ist auf das 17-fache Volumen ausgerichtet.
Technologien
- .NET
- Kafka
- Kubernetes
- Azure
- PostgreSQL
- Protobuf
Quelle: veröffentlichter Projektbericht von Lekker Code. Die Kennzahlen beziehen sich ausschließlich auf diesen Fall.