Regelungstechnik-NachhilfeChristian Reinwarth · Jülich & online

Mathematik & Klausur

Least-Squares-Identifikation: Modellparameter aus Messdaten schätzen

Von , Nachhilfe Christian Reinwarth · Nachhilfelehrer seit 2016 · Stand:

Oft kennst du die Struktur eines Modells, aber nicht seine Parameter: Verstärkung, Zeitkonstante, Reibung. Mit der Methode der kleinsten Quadrate (Least Squares) bestimmst du sie aus Messdaten, so dass die Summe der quadrierten Abweichungen minimal wird. Für Klausuren reicht meist ein kleines System, das du von Hand löst.

Klausurrelevant für die RWTH Aachen →

Das Regressionsmodell

Voraussetzung ist ein Modell, das linear in den unbekannten Parametern ist (die Signale selbst dürfen nichtlinear eingehen):

\[ y_k = \boldsymbol\varphi_k^T\,\boldsymbol\theta + e_k \]

\(\boldsymbol\varphi_k\) ist der Regressionsvektor aus bekannten Messwerten, \(\boldsymbol\theta\) der gesuchte Parametervektor, \(e_k\) der Modellfehler. Alle \(N\) Messungen untereinander geschrieben ergeben \(\mathbf y = \boldsymbol\Phi\,\boldsymbol\theta + \mathbf e\) mit der Datenmatrix \(\boldsymbol\Phi\) (je Messung eine Zeile).

Beispiele: Gerade \(y = Ku + c\) mit \(\boldsymbol\varphi = (u, 1)^T\); Reibung \(F = d_1 v + d_2 v^2\) mit \(\boldsymbol\varphi = (v, v^2)^T\); zeitdiskretes Modell erster Ordnung \(y_k = a\,y_{k-1} + b\,u_{k-1}\) mit \(\boldsymbol\varphi_k = (y_{k-1}, u_{k-1})^T\).

Normalgleichung und Lösung

Gesucht ist das \(\hat{\boldsymbol\theta}\), das die Fehlerquadratsumme \(J = \sum e_k^2 = (\mathbf y - \boldsymbol\Phi\boldsymbol\theta)^T(\mathbf y - \boldsymbol\Phi\boldsymbol\theta)\) minimiert. Ableiten und null setzen liefert die Normalgleichung:

\[ \boldsymbol\Phi^T\boldsymbol\Phi\,\hat{\boldsymbol\theta} = \boldsymbol\Phi^T\mathbf y \quad\Rightarrow\quad \hat{\boldsymbol\theta} = \left(\boldsymbol\Phi^T\boldsymbol\Phi\right)^{-1}\boldsymbol\Phi^T\mathbf y \]

Geometrisch ist \(\boldsymbol\Phi\hat{\boldsymbol\theta}\) die Projektion der Messwerte auf den Raum, den die Spalten von \(\boldsymbol\Phi\) aufspannen. Der Residuenvektor steht senkrecht darauf: \(\boldsymbol\Phi^T(\mathbf y - \boldsymbol\Phi\hat{\boldsymbol\theta}) = \mathbf 0\). Daran kannst du ein Ergebnis kontrollieren.

Mit nur einem Parameter (\(y = Ku\)) wird daraus \(\hat K = \dfrac{\sum u_k y_k}{\sum u_k^2}\).

Dynamische Systeme: ARX-Modell

Für ein abgetastetes PT1-Glied gilt exakt \(y_k = a\,y_{k-1} + b\,u_{k-1}\) mit \(a = e^{-T/T_1}\) und \(b = K(1 - a)\). Aus den geschätzten \(\hat a\), \(\hat b\) folgen die physikalischen Parameter:

\[ T_1 = -\frac{T}{\ln\hat a},\qquad K = \frac{\hat b}{1 - \hat a} \]

Für höhere Ordnungen kommen weitere zurückliegende Werte in den Regressionsvektor. Mit der rekursiven Least-Squares-Methode wird die Schätzung bei jeder neuen Messung aktualisiert, ganz ähnlich wie beim Kalman-Filter.

Voraussetzungen und Fallstricke

  • Mehr Messungen als Parameter, sonst ist das Gleichungssystem nicht überbestimmt.
  • \(\boldsymbol\Phi^T\boldsymbol\Phi\) invertierbar: Die Spalten von \(\boldsymbol\Phi\) müssen linear unabhängig sein. Bei dynamischen Systemen heißt das fortwährende Anregung: Ein konstantes Eingangssignal im eingeschwungenen Zustand reicht nicht, um \(a\) und \(b\) zu trennen.
  • Rauschen: Bei weißem Messrauschen in einer statischen Regression ist die Schätzung erwartungstreu. Taucht verrauschtes \(y_{k-1}\) im Regressionsvektor auf (ARX mit farbigem Rauschen), wird sie verzerrt (Bias).
  • Ausreißer gehen quadratisch ein und verfälschen das Ergebnis stark.

Rechenbeispiel: Ausgleichsgerade durch vier Messpunkte

Gegeben: Messpunkte \((u, y)\): (0; 0,9), (1; 3,1), (2; 4,9), (3; 7,1). Modell \(y = Ku + c\).

Datenmatrix: \(\boldsymbol\Phi = \begin{pmatrix} 0 & 1 \\ 1 & 1 \\ 2 & 1 \\ 3 & 1 \end{pmatrix}\), \(\boldsymbol\Phi^T\boldsymbol\Phi = \begin{pmatrix} 14 & 6 \\ 6 & 4 \end{pmatrix}\), \(\boldsymbol\Phi^T\mathbf y = \begin{pmatrix} 34{,}2 \\ 16 \end{pmatrix}\).

Lösung: \(\det = 56 - 36 = 20\), \(\begin{pmatrix} \hat K \\ \hat c \end{pmatrix} = \dfrac{1}{20}\begin{pmatrix} 4 & -6 \\ -6 & 14 \end{pmatrix}\begin{pmatrix} 34{,}2 \\ 16 \end{pmatrix} = \begin{pmatrix} 2{,}04 \\ 0{,}94 \end{pmatrix}\).

Kontrolle: Residuen \(-0{,}04, 0{,}12, -0{,}12, 0{,}04\); ihre Summe und die mit \(u\) gewichtete Summe sind null, wie es die Normalgleichung verlangt.

012302468●●●●yu

Typische Klausuraufgaben mit Musterlösung

Aufgabe 1

Ein abgetastetes System (\(T = 0{,}1\,\mathrm s\)) liefert für \(u_0 \dots u_4 = 1, 1, 1, 0, 0\) die Ausgänge \(y_0 \dots y_5 = 0;\ 0{,}4;\ 0{,}72;\ 0{,}976;\ 0{,}7808;\ 0{,}62464\). Schätze \(a\) und \(b\) des Modells \(y_k = a\,y_{k-1} + b\,u_{k-1}\) und bestimme \(K\) und \(T_1\).

Musterlösung anzeigen

Regressionszeilen \((y_{k-1}, u_{k-1})\) für \(k = 1 \dots 5\). Normalgleichung: \(\begin{pmatrix} 2{,}2406 & 1{,}1200 \\ 1{,}1200 & 3{,}0000 \end{pmatrix}\hat{\boldsymbol\theta} = \begin{pmatrix} 2{,}2405 \\ 2{,}0960 \end{pmatrix}\).

Lösung: \(\hat a = 0{,}800\), \(\hat b = 0{,}400\) (exakt, weil die Daten rauschfrei sind). Damit \(T_1 = -0{,}1/\ln 0{,}8 = 0{,}448\,\mathrm s\) und \(K = 0{,}4/(1 - 0{,}8) = 2\).

Wichtig: Der Eingang springt zwischendurch auf 0. Dadurch sind die beiden Spalten von \(\boldsymbol\Phi\) linear unabhängig.

Aufgabe 2

Ein Praktikant misst nur im eingeschwungenen Zustand: \(u_k = 1\) und \(y_k = 2\) für alle \(k\). Warum kann er \(a\) und \(b\) nicht bestimmen?

Musterlösung anzeigen

Alle Regressionszeilen sind gleich \((2, 1)\). \(\boldsymbol\Phi^T\boldsymbol\Phi = N\begin{pmatrix} 4 & 2 \\ 2 & 1 \end{pmatrix}\) hat die Determinante 0. Jedes Paar mit \(2a + b = 2\) erklärt die Daten perfekt. Es fehlt die Anregung: Der Eingang muss sich ändern, damit die Dynamik in den Daten sichtbar wird. Bestimmbar ist nur die stationäre Verstärkung \(b/(1-a) = 2\).

Aufgabe 3

Bestimme \(K\) im Modell \(y = Ku\) (ohne Achsenabschnitt) aus den Messungen (1; 2,1), (2; 3,9), (4; 8,2).

Musterlösung anzeigen

\(\hat K = \dfrac{\sum u_k y_k}{\sum u_k^2} = \dfrac{2{,}1 + 7{,}8 + 32{,}8}{1 + 4 + 16} = \dfrac{42{,}7}{21} = 2{,}033\). Große Eingangswerte gehen stärker ein, weil ihre Abweichungen quadratisch bestraft werden.

Häufige Fehler

  • Modell nicht linear in den Parametern (z. B. \(e^{-t/T}\) mit unbekanntem T direkt) und trotzdem Least Squares angesetzt.
  • \(\boldsymbol\Phi\boldsymbol\Phi^T\) statt \(\boldsymbol\Phi^T\boldsymbol\Phi\) gebildet: Die Matrix muss die Größe Parameter × Parameter haben.
  • Bei konstantem Eingang identifiziert und die singuläre Matrix nicht bemerkt.
  • Aus \(\hat a\) die Zeitkonstante ohne Abtastzeit berechnet.

Verwandte Themen

Häufige Fragen

Was ist die Methode der kleinsten Quadrate?

Ein Verfahren, das die Parameter eines Modells so wählt, dass die Summe der quadrierten Abweichungen zwischen Modell und Messung minimal wird. Die Lösung ergibt sich aus der Normalgleichung.

Warum braucht man eine ausreichende Anregung?

Nur wenn sich das Eingangssignal genügend ändert, sind die Spalten der Datenmatrix linear unabhängig. Sonst ist die Matrix der Normalgleichung singulär und die Parameter sind nicht eindeutig bestimmbar.

Stand: 2026-11-16 · Christian Reinwarth, Nachhilfe Regelungstechnik seit 2016. Fehler entdeckt? Schreib mir.

WhatsApp