Beschränkte sequenzielle Entscheidungen

Optimierung der Brückenfeldplanung

Ein gemeinsames Brückenlayout-Modell mit erklärbaren Kosten, klassischen Baselines und maskierten RL-Solvern für variable Brückenlängen.

Zeitraum
2024 — 2026
Schwerpunkt
Reinforcement Learning · Combinatorial Optimization · Research Engineering
Kerntechnologien
Python · PyTorch · Beam-DP · DQN

Kurzfassung

Problem
Die Dimension eines vollständigen Layouts ändert sich mit Brückenlänge und Pfeilerzahl. Das Projekt formuliert die Planung als Folge von Spannweitenentscheidungen und entfernt unmögliche Aktionen vor der Auswahl.
Mein Beitrag
Das endliche Brückenproblem als MDP/DAG reformuliert und Masken für zulässige Aktionen entworfen.
Ergebnis / Grenze
Reproduzierbare Trainings- und Inferenzpfade etabliert; Laufzeit-, Kosten- und Optimalitätsvergleiche benötigen noch ein vollständiges gemeinsames Evaluationssetup.
Luftbild einer Eisenbahnbrücke über Fluss und bewaldete Aue.
Kontextbild · Murrumbidgee-River-Eisenbahnbrücke · Bidgee · CC BY-SA 3.0 AU

01 · A

Problem

Die Dimension eines vollständigen Layouts ändert sich mit Brückenlänge und Pfeilerzahl. Das Projekt formuliert die Planung als Folge von Spannweitenentscheidungen und entfernt unmögliche Aktionen vor der Auswahl.

01 · B

Kontext

Random, kostenbewusstes Greedy, begrenztes Beam-DP, tabellarische Verfahren und DQN nutzen dasselbe Domänenmodell; Offline-Training ist für HPC/Slurm vorgesehen.

02

Warum es wichtig ist

Brückenlayouts verbinden harte Ausschlusszonen mit konkurrierenden, verlaufsabhängigen Kosten. Gemeinsame Randbedingungen und erklärbare Baselines machen ungültige Vorschläge sichtbar, zertifizieren aber keinen Entwurf.

Technische Details öffnenDie eigentliche Schwierigkeit · Systempfad · Zentrale Abwägungen
02 · B

Die eigentliche Schwierigkeit

  1. 01

    Brückentyp, Länge, Spannweitenkatalog und Auflösung verändern den Suchraum.

  2. 02

    Flüsse, Straßen und weitere Regionen werden zu Ausschlüssen oder abgestuften Kosten.

  3. 03

    Das vollständige Ziel ist verlaufsabhängig; Beam-DP ist nicht allgemein exakt.

  4. 04

    Illegale Aktionen müssen bei Exploration und Bellman-Zielen maskiert werden.

Problemreformulierung

Ein Ganzlayout koppelt das Modell an die Brückenlänge

Die sequenzielle Formulierung hält ein stabiles Aktionsvokabular: nächste legale Spannweite wählen oder Episode beenden.

01gekoppelt

Ganzlayout-Ausgabe

Größe ändert sich mit Pfeilern und Länge

02Startbias

Pfeiler verschieben

Lange feingranulare Entscheidungsketten

03wiederverwendbar

Nächste Spannweite

Stabiler diskreter Katalog

04variable Länge

Ende-Aktion

Horizont ändert sich, Vertrag bleibt

03

Mein Ansatz

Systempfad

01

Modellieren

Problem, Zonen, legale Spannweiten und Kostenzerlegung kodieren

02

Referenz

Random, Greedy und begrenztes Beam-DP über einen Vertrag ausführen

03

Lernen

Tabellarische Verfahren und DQN mit Replay, Target-Netz und Masken trainieren

04

Validieren

Versionierte Policies auf zurückgehaltenen Problemverzeichnissen vergleichen

Maskierter Entscheidungsschritt

Illegale Spannweiten werden vor der Policy-Auswahl entfernt

Die Maske wird aus Position, Restlänge, Spannweitenkatalog und Ausschlusszonen abgeleitet und für Exploration sowie Bellman-Ziele genutzt.

01beobachtet

Zustand

Problem, Position und Spannweitenverlauf

02Vokabular

Kandidaten

Diskrete Spannweiten plus Ende

03harte Regel

Zulässigkeitsmaske

Ausschlüsse und unmöglichen Rest entfernen

04gemeinsamer Vertrag

Solverwahl

Greedy, Beam-DP, tabellarisches RL oder DQN

05Übergang

Neuer Zustand

Spannweite anhängen und Kosten zerlegen

  • Python
  • PyTorch
  • Beam-DP
  • DQN
  • Action Masking
  • Slurm

Zentrale Abwägungen

01

Sequenzielle Reformulierung

Die nächste Spannweite hält das Aktionsvokabular stabil; die Brückenlänge ändert den Horizont.

02

DP und RL gemeinsam

Begrenztes Beam-DP liefert eine starke erklärbare Referenz; RL untersucht amortisierte Inferenz.

03

Masken sichern Korrektheit

Illegale Aktionen werden vor Auswahl und Bootstrap entfernt.

04 · A

Mein Beitrag

  • Das endliche Brückenproblem als MDP/DAG reformuliert und Masken für zulässige Aktionen entworfen.
  • Gemeinsamen Python-Solververtrag sowie Random-, Greedy-, Beam-DP-, tabellarische RL- und DQN-Pfade entwickelt.
  • Versionierte Policy-Artefakte, Datenverzeichnisse und Regressionstests ergänzt.

04 · B

Umgesetzte Ergebnisse

  • Ein prüfbares Domänenmodell für algorithmische und gelernte Solver umgesetzt.
  • Reproduzierbare Trainings- und Inferenzpfade etabliert; Laufzeit-, Kosten- und Optimalitätsvergleiche benötigen noch ein vollständiges gemeinsames Evaluationssetup.
04 · C

Erkenntnisse

01

Eine gelernte Policy ist nur mit identischen Randbedingungen und Kosten sinnvoll vergleichbar.

02

Schnelle Inferenz ist ein Trade-off, kein Beleg für ein besseres oder sichereres Layout.

Was ich öffentlich teilen kann

Ich implementierte ein gemeinsames Modell, Solverfamilien, Masken, einen DQN-Replay/Target-Netz-Pfad und versionierte Artefakte. Der aktuelle Solver nutzt DQN statt Double DQN; frühere Benchmark-Zahlen lasse ich weg, weil ihr Evaluationssetup unvollständig ist.

Öffentliche Quellen

Foto der Murrumbidgee-River-Eisenbahnbrücke · CC BY-SA 3.0 AU https://commons.wikimedia.org/wiki/File:Aerial_view_of_the_Murrumbidgee_River_Railway_Bridge_in_Wagga_Wagga.jpg