Rekursiv Bayesiansk uppskattning - Recursive Bayesian estimation

I sannolikhetsteori , statistik och maskininlärning är rekursiv Bayesiansk uppskattning , även känd som ett Bayes -filter , en allmän sannolikhetsmetod för att uppskatta en okänd sannolikhetstäthetsfunktion ( PDF ) rekursivt över tid med hjälp av inkommande mätningar och en matematisk processmodell. Processen bygger starkt på matematiska begrepp och modeller som teoretiseras inom en studie av tidigare och bakre sannolikheter som kallas Bayesian statistik .

Inom robotik

Ett Bayes -filter är en algoritm som används i datavetenskap för att beräkna sannolikheten för flera trosuppfattningar för att tillåta en robot att utläsa sin position och orientering. I huvudsak tillåter Bayes -filter robotar att kontinuerligt uppdatera sin mest troliga position inom ett koordinatsystem, baserat på de senast förvärvade sensordata. Detta är en rekursiv algoritm. Den består av två delar: förutsägelse och innovation. Om variablerna är normalt fördelade och övergångarna är linjära blir Bayes -filtret lika med Kalman -filtret .

I ett enkelt exempel kan en robot som rör sig genom ett nät ha flera olika sensorer som ger den information om sin omgivning. Roboten kan börja med säkerhet att den är i position (0,0). Men när den rör sig längre och längre från sin ursprungliga position, har roboten kontinuerligt mindre säkerhet om sin position; med ett Bayes -filter kan en sannolikhet tilldelas robotens tro på dess nuvarande position, och den sannolikheten kan kontinuerligt uppdateras från ytterligare sensorinformation.

Modell

Det sanna tillståndet antas vara en obemärkt Markov -process , och mätningarna är observationerna av en Hidden Markov -modell (HMM). Följande bild visar ett Bayesiansk nätverk av en HMM. ${\ displaystyle x}$${\ displaystyle z}$

På grund av Markov -antagandet är sannolikheten för det nuvarande sanna tillståndet givet det omedelbart föregående villkorligt oberoende av de andra tidigare staterna.

${\ displaystyle p ({\ textbf {x}} _ {k} | {\ textbf {x}} _ {k-1}, {\ textbf {x}} _ {k-2}, \ dots, {\ textbf {x}} _ {0}) = p ({\ textbf {x}} _ {k} | {\ textbf {x}} _ {k-1})}$

På samma sätt är mätningen vid k -th -tidssteget endast beroende av det aktuella tillståndet, så det är villkorligt oberoende av alla andra tillstånd med tanke på det aktuella tillståndet.

${\ displaystyle p ({\ textbf {z}} _ {k} | {\ textbf {x}} _ {k}, {\ textbf {x}} _ {k-1}, \ dots, {\ textbf { x}} _ {0}) = p ({\ textbf {z}} _ {k} | {\ textbf {x}} _ {k})}$

Med hjälp av dessa antaganden kan sannolikhetsfördelningen över alla tillstånd i HMM skrivas helt enkelt som:

${\ displaystyle p ({\ textbf {x}} _ {0}, \ dots, {\ textbf {x}} _ {k}, {\ textbf {z}} _ {1}, \ dots, {\ textbf {z}} _ {k}) = p ({\ textbf {x}} _ {0}) \ prod _ {i = 1}^{k} p ({\ textbf {z}} _ {i} | {\ textbf {x}} _ {i}) p ({\ textbf {x}} _ {i} | {\ textbf {x}} _ {i-1}).}$

När Kalman -filtret används för att uppskatta tillståndet x är emellertid sannolikhetsfördelningen av intresse associerad med de nuvarande tillstånden som är betingade av mätningarna fram till det aktuella tidssteget. (Detta uppnås genom att marginalisera de tidigare tillstånden och dividera med sannolikheten för mätuppsättningen.)

Detta leder till att förutsägelse- och uppdateringsstegen för Kalman -filtret skrivs sannolikt. Sannolikhetsfördelningen som är associerad med det förutsagda tillståndet är summan (integralen) av produkterna av sannolikhetsfördelningen som är associerad med övergången från ( k -1) -tidssteget till k -th och sannolikhetsfördelningen associerad med det tidigare tillståndet, över allt möjligt . ${\ displaystyle x_ {k-1}}$

${\ displaystyle p ({\ textbf {x}} _ {k} | {\ textbf {z}} _ {1: k-1}) = \ int p ({\ textbf {x}} _ {k} | {\ textbf {x}} _ {k-1}) p ({\ textbf {x}} _ {k-1} | {\ textbf {z}} _ {1: k-1}) \, d { \ textbf {x}} _ {k-1}}$

Sannolikhetsfördelningen av uppdateringen är proportionell mot mätningens sannolikhet och det förutsagda tillståndet.

${\ displaystyle p ({\ textbf {x}} _ {k} | {\ textbf {z}} _ {1: k}) = {\ frac {p ({\ textbf {z}} _ {k} | {\ textbf {x}} _ {k}) p ({\ textbf {x}} _ {k} | {\ textbf {z}} _ {1: k-1})} {p ({\ textbf { z}} _ {k} | {\ textbf {z}} _ {1: k-1})}} \ propto p ({\ textbf {z}} _ {k} | {\ textbf {x}} _ {k}) p ({\ textbf {x}} _ {k} | {\ textbf {z}} _ {1: k-1})}$

Nämnaren

${\ displaystyle p ({\ textbf {z}} _ {k} | {\ textbf {z}} _ {1: k-1}) = \ int p ({\ textbf {z}} _ {k} | {\ textbf {x}} _ {k}) p ({\ textbf {x}} _ {k} | {\ textbf {z}} _ {1: k-1}) d {\ textbf {x}} _ {k}}$

är konstant i förhållande till , så vi kan alltid ersätta den med en koefficient , som vanligtvis kan ignoreras i praktiken. Räknaren kan beräknas och sedan helt enkelt normaliseras, eftersom dess integral måste vara enhet. ${\ displaystyle x}$${\ displaystyle \ alpha}$

Ansökningar

• Kalman -filter , ett rekursivt Bayesianskt filter för multivariata normalfördelningar
• Partikelfilter , en sekventiell Monte Carlo (SMC) -baserad teknik, som modellerar PDF -filen med en uppsättning diskreta punkter
• Nätbaserade uppskattare , som delar upp PDF-filen i ett deterministiskt diskret rutnät

Sekventiell Bayesian filtrering

Sekventiell bayesisk filtrering är förlängningen av den bayesiska uppskattningen för fallet när det observerade värdet ändras i tid. Det är en metod för att uppskatta det verkliga värdet av en observerad variabel som utvecklas i tid.

Metoden heter:

filtrering

vid uppskattning av det nuvarande värdet med tanke på tidigare och nuvarande observationer,

glättning

vid uppskattning av tidigare värden som ges tidigare och aktuella observationer, och

förutsägelse

vid uppskattning av ett troligt framtida värde med tanke på tidigare och nuvarande observationer.

Begreppet sekventiell bayesisk filtrering används i stor utsträckning inom kontroll och robotik .

externa länkar

• Arulampalam, M. Sanjeev; Maskell, Simon; Gordon, Neil (2002). "En handledning om partikelfilter för online-icke-linjär/icke-gaussisk Bayesiansk spårning". IEEE -transaktioner om signalbehandling . 50 (2): 174–188. CiteSeerX  10.1.1.117.1144 . doi : 10.1109/78.978374 .
• Burkhart, Michael C. (2019). "Kapitel 1. En översikt över Bayesiansk filtrering". Ett diskriminerande tillvägagångssätt för Bayesiansk filtrering med applikationer för mänsklig neuralavkodning . Providence, RI, USA: Brown University. doi : 10.26300/nhfp-xv22 .
• Chen, Zhe Sage (2003). "Bayesiansk filtrering: Från Kalman -filter till partikelfilter och bortom". Statistik: A Journal of Theoretical and Applied Statistics . 182 (1): 1–69.
• Diard, Julien; Bessière, Pierre; Mazer, Emmanuel (2003). "En undersökning av probabilistiska modeller, med hjälp av den Bayesianska programmeringsmetoden som ett samlande ramverk" (PDF) . cogprints.org.
• Volkov, Alexander (2015). "Noggrannhetsgränser för icke-gaussisk bayesisk spårning i en NLOS-miljö". Signalbehandling . 108 : 498–508. doi : 10.1016/j.sigpro.2014.10.025 .
• Särkkä, Simo (2013). Bayesiansk filtrering och utjämning (PDF) . Cambridge University Press.