Przewidywanie liniowe - Linear prediction

Predykcja liniowa to operacja matematyczna, w której przyszłe wartości sygnału dyskretnego są szacowane jako liniowa funkcja poprzednich próbek.

W cyfrowym przetwarzaniu sygnałów predykcja liniowa jest często nazywana liniowym kodowaniem predykcyjnym (LPC) i dlatego może być postrzegana jako podzbiór teorii filtrów . W analizie systemowej , poddziedzina matematyki , predykcja liniowa może być postrzegana jako część modelowania matematycznego lub optymalizacji .

Model predykcyjny

Najczęstszą reprezentacją jest

${\ Displaystyle {\ widehat {x}} (n) = \ suma _ {i = 1} ^ {p} a_ {i} x (ni) \}$

gdzie jest przewidywaną wartością sygnału, poprzednimi obserwowanymi wartościami z , oraz współczynnikami predykcyjnymi. Błąd wygenerowany przez to oszacowanie to ${\displaystyle {\widehat {x}}(n)}$${\displaystyle x(ni)}$${\displaystyle p\leq n}$${\displaystyle a_{i}}$

${\ Displaystyle e (n) = x (n) - {\ widehat {x}} (n) \,}$

gdzie jest prawdziwa wartość sygnału. ${\ Displaystyle x (n)}$

Te równania są ważne dla wszystkich typów (jednowymiarowych) predykcji liniowych. Różnice znajdują się w sposobie doboru współczynników predykcyjnych . ${\displaystyle a_{i}}$

W przypadku sygnałów wielowymiarowych metryka błędu jest często definiowana jako

${\ Displaystyle e (n) = \ | x (n) - {\ widehat {x}} (n) \ | \,}$

gdzie jest odpowiednią wybraną normą wektorową . Prognozy, takie jak są rutynowo używane w filtrach Kalmana i wygładzaczach, aby oszacować odpowiednio bieżące i przeszłe wartości sygnału. ${\displaystyle \|\cdot \|}$${\displaystyle {\widehat {x}}(n)}$

Szacowanie parametrów

Najpopularniejszym wyborem w optymalizacji parametrów jest kryterium pierwiastka średniokwadratowego, zwane również kryterium autokorelacji . W tej metodzie minimalizujemy oczekiwaną wartość kwadratu błędu , co daje równanie ${\displaystyle a_{i}}$${\ Displaystyle E [e ^ {2} (n)]}$

${\ Displaystyle \ suma _ {i = 1} ^ {p} a_ {i} R (ji) = R (j)}$

dla 1 ≤ j ≤ p , gdzie R jest autokorelacją sygnału x _n , zdefiniowaną jako

${\ Displaystyle \ R (i) = E \ {x (n) x (ni) \} \}$,

a E jest wartością oczekiwaną . W wielowymiarowej przypadku odpowiada minimalizując L ₂ normę .

Powyższe równania nazywane są równaniami normalnymi lub równaniami Yule-Walkera . W postaci macierzowej równania można równoważnie zapisać jako

${\ Displaystyle \ mathbf {RA} = \ mathbf {r}}$

gdzie macierz autokorelacji jest symetryczną macierzą Toeplitza z elementami , wektor jest wektorem autokorelacji , a wektor parametrów. ${\ Displaystyle \ mathbf {R} }$${\displaystyle p\razy p}$ ${\ Displaystyle r_ {ij} = R (ij), 0 \ leq ja, j<p}$${\displaystyle \mathbf {r}}$${\ Displaystyle r_ {j} = R (j), 0 < j \ leq p}$${\ Displaystyle \ mathbf {A} = [a_ {1} a_ {2} \ cdots \ a_ {p-1} a_ {p}]}$

Innym, bardziej ogólnym podejściem jest minimalizacja sumy kwadratów błędów zdefiniowanych w formularzu

${\ Displaystyle e (n) = x (n) - {\ widehat {x}} (n) = x (n) - \ suma _ {i = 1} ^ {p} a_ {i} x (ni) = -\suma _{i=0}^{p}a_{i}x(ni)}$

gdzie problem optymalizacji przeszukiwania wszystkich musi być teraz ograniczony do . ${\displaystyle a_{i}}$${\displaystyle a_{0}=-1}$

Z drugiej strony, jeśli średni kwadratowy błąd predykcji jest ograniczony do jedności, a równanie błędu predykcji jest zawarte na górze równań normalnych, rozszerzony zestaw równań otrzymuje się jako

${\ Displaystyle \ \ mathbf {RA} = [1,0,...,0] ^ {\ operatorname {T}}}$

gdzie indeks mieści się w zakresie od 0 do , i jest macierzą. ${\displaystyle i}$${\displaystyle p}$${\ Displaystyle \ mathbf {R} }$${\ Displaystyle (p + 1) \ razy (p + 1)}$

Specyfikacja parametrów predyktora liniowego jest szerokim tematem i zaproponowano wiele innych podejść. W rzeczywistości metoda autokorelacji jest najbardziej powszechna i jest wykorzystywana np. do kodowania mowy w standardzie GSM .

Rozwiązanie równania macierzowego jest obliczeniowo stosunkowo kosztownym procesem. Eliminacja Gaussa dla odwrócenia macierzy jest prawdopodobnie najstarszym rozwiązaniem, ale to podejście nie wykorzystuje efektywnie symetrii . Szybszym algorytmem jest rekurencja Levinsona zaproponowana przez Normana Levinsona w 1947 r., która rekurencyjnie oblicza rozwiązanie. W szczególności powyższe równania autokorelacji można skuteczniej rozwiązać za pomocą algorytmu Durbina. ${\ Displaystyle \ mathbf {RA} = \ mathbf {r}}$${\ Displaystyle \ mathbf {R} }$

W 1986 roku Philippe Delsarte i YV Genin zaproponowali ulepszenie tego algorytmu, nazwane podzieloną rekurencją Levinsona, która wymaga około połowy liczby mnożenia i dzielenia. Wykorzystuje specjalną symetryczną właściwość wektorów parametrów na kolejnych poziomach rekurencji. Oznacza to, że obliczenia dla predyktora optymalnego zawierającego terminy wykorzystują podobne obliczenia dla predyktora optymalnego zawierającego terminy. ${\displaystyle p}$${\displaystyle p-1}$

Innym sposobem identyfikacji parametrów modelu jest iteracyjne obliczenie oszacowań stanu przy użyciu filtrów Kalmana i uzyskanie oszacowań maksymalnego prawdopodobieństwa w ramach algorytmów maksymalizacji oczekiwań .

W przypadku wartości o równych odstępach interpolacja wielomianowa jest kombinacją liniową znanych wartości. Jeżeli oszacowano, że dyskretny sygnał czasu jest zgodny z wielomianem stopnia, wówczas współczynniki predykcyjne są podane przez odpowiedni rząd trójkąta dwumianowych współczynników transformacji. Ta ocena może być odpowiednia dla wolno zmieniającego się sygnału o niskim poziomie szumów. Prognozy dla kilku pierwszych wartości are ${\displaystyle p-1,}$${\displaystyle a_{i}}$${\displaystyle p}$

${\ Displaystyle {\ zacząć {tablica} {lcl} p = 1 i: i {\ widehat {x}} (n) = 1 x (n-1) \ \ p = 2 i: i {\ widehat {x}} (n )=2x(n-1)-1x(n-2)\\p=3&:&{\widehat {x}}(n)=3x(n-1)-3x(n-2)+1x(n -3)\\p=4&:&{\widehat {x}}(n)=4x(n-1)-6x(n-2)+4x(n-3)-1x(n-4)\\ \end{tablica}}}$

Zobacz też

• Model autoregresyjny
• Liniowa analiza predykcyjna
• Minimalny błąd średniokwadratowy
• Interwał prognozy
• Filtrowanie Rasta

Bibliografia

Dalsza lektura

• Hayes, MH (1996). Statystyczne przetwarzanie i modelowanie sygnałów cyfrowych . Nowy Jork: J. Wiley & Sons. Numer ISBN 978-0471594314.
• Levinson, N. (1947). „Kryterium błędu Wiener RMS (średniokwadratowy) w projektowaniu filtrów i przewidywaniu”. Czasopismo Matematyki i Fizyki . 25 (4): 261–278.
• Makhoul, J. (1975). „Przewidywanie liniowe: przegląd samouczka”. Postępowanie IEEE . 63 (5): 561-580. doi : 10.1109/PROC.1975.9792 .
• Yule, GU (1927). „O metodzie badania okresowości w seriach zaburzonych, ze szczególnym odniesieniem do liczb plam słonecznych Wolfera” . Phil. Przeł. Roya. Soc. . 226 : 267-298. doi : 10.1098/rsta.1927.0007 . JSTOR  91170 .

Linki zewnętrzne

• PLP i RASTA (oraz MFCC i inwersja) w Matlab