Marleen Scriptium- Posted on
Het Theorema van Bayes
Het Theorema van Bayes is een belangrijk principe in de statistiek en waarschijnlijkheidstheorie als alternatief voor frequentistische methoden. Het is genoemd naar de Britse wiskundige en predikant Thomas Bayes. Hij publiceerde zijn theorema niet zelf; het werd postuum gepubliceerd door een vriend en collega genaamd Richard Price. Thomas Bayes overleed in 1761, en zijn bekende werk “An Essay towards solving a Problem in the Doctrine of Chances” werd gepubliceerd in 1763, twee jaar na zijn dood.
Dit theorema beschrijft hoe we onze kennis over een bepaalde gebeurtenis kunnen bijwerken op basis van nieuwe informatie. Het kan ook gaan om de vraag naar de kans op een bepaald verschijnsel, gegeven dat een ander verschijnsel plaats vindt. Er geldt dan een voorwaarde.
Voorwaardelijke kans is een concept in de waarschijnlijkheidstheorie dat verwijst naar de kans van een gebeurtenis A gegeven dat een andere gebeurtenis B heeft plaatsgevonden.
Voorbeeld van Theorema van Bayes
Denk aan het volgende voorbeeld:
Als het regent, wordt het wegdek nat en bij lage temperaturen misschien glad. Wat is de kans op verkeersongelukken op een bepaald traject, gegeven dat het een uur 1,1 mm regent bij een temperatuur rond het vriespunt.
Het wordt vaak geschreven als P(A∣B), en het leest als “de kans op gebeurtenis A gegeven B”. De formule voor de voorwaardelijke kans is als volgt:
Het symbool ∩ lees je als “A én B”. Het symbool ∣ lees je als ” A gegeven B”
In wiskundige termen wordt het Theorema van Bayes vaak als volgt geschreven:
P(A∣B) =
P(B∣A)⋅P(A)
P(B)
Hierbij staat:
Het belang van het theorema van Bayes
Het Theorema van Bayes is om verschillende redenen van belang voor statistiek onderzoek:
Over het algemeen is het Theorema van Bayes een krachtig instrument voor het redeneren over onzekerheid en het nemen van beslissingen op basis van beschikbare informatie, waardoor het een onmisbaar onderdeel is van de statistiek en wetenschappelijk onderzoek.
Statistische toetsen gebaseerd op het Theorema van Bayes
Het Theorema van Bayes wordt niet direct toegepast in traditionele frequentistische statistische toetsen. Het Bayesiaanse statistische raamwerk verschilt van het frequentistische raamwerk in termen van interpretatie van waarschijnlijkheid en het omgaan met onzekerheid.
Noot: Frequentistische statistische toetsen zijn methoden in de statistiek die gebaseerd zijn op de frequentie-interpretatie van waarschijnlijkheid. Deze benadering richt zich op het analyseren van steekproefgegevens en het trekken van conclusies over populatieparameters. Hier is een korte uitleg van de belangrijkste concepten:
1. Hypothesevorming
Verzamelen van gegevens via een steekproef uit de populatie.
3. Statistische Test
Het kiezen van een geschikte statistische test op basis van het type gegevens (bijvoorbeeld t-toets voor gemiddelden, chi-kwadraattoets voor associaties, etc.).
4. Significantieniveau (α)
De kans op het verwerpen van de nulhypothese wanneer deze waar is. Vaak wordt α ingesteld op 0,05.
5. P-waarde
De kans om een teststatistiek te observeren, gegeven dat de nulhypothese waar is. Als de p-waarde lager is dan het gekozen significantieniveau, verwerpen we de nulhypothese.
6. Besluitvorming
Als de p-waarde kleiner is dan het significantieniveau, verwerpen we de nulhypothese en aanvaarden we de alternatieve hypothese. Anders aanvaarden we de nulhypothese.
7. Betrouwbaarheidsinterval
Een interval rond de geschatte parameterwaarde dat een schatting geeft van de onzekerheid in die schatting.
Frequentistische benaderingen richten zich op het herhaaldelijk trekken van steekproeven uit een populatie en het analyseren van de frequentie van geobserveerde uitkomsten. Ze beschouwen parameters als vast en onbekend, en de conclusies zijn gebaseerd op de steekproefgegevens.
Naast deze Frequentistische benaderingen bestaan Bayesiaanse methoden en toepassingen die gebaseerd zijn op het Theorema van Bayes.
Wanneer gebruik je het Theorema van Bayes?
Het theorema van Bayes is een probabilistische benadering die een andere manier biedt om met onzekerheid om te gaan in vergelijking met frequentistische statistische toetsen. Hier zijn enkele aspecten waarin het theorema van Bayes zich onderscheidt en waar het toegevoegde waarde kan bieden ten opzichte van frequentistische benaderingen:
1. Behandeling van onzekerheid
Als je met gegevens werkt die uit verschillende subgroepen bestaan, overweeg dan om de gegevens te stratificeren en afzonderlijke analyses uit te voeren voor elke subgroep. Dit kan helpen bij het beheersen van de kurtosisproblemen in specifieke subpopulaties.
2. Updates van geloof op basis van nieuwe gegevens
3. Kleine steekproefgroottes
Flexibiliteit bij modellering
De keuze tussen frequentistische en Bayesiaanse methoden hangt af van: de aard van het probleem, de beschikbare gegevens en de persoonlijke voorkeur van de onderzoeker. Beide benaderingen hebben hun eigen sterke punten en beperkingen. Daarom is het zinvol om ze als aanvullende tools te beschouwen in de statistische gereedschapskist.
Prior kennis
In bijzondere gevallen verdient een Bayesiaanse methode voor de analyse van data de voorkeur. Dan gaat het vooral om zgn. prior-kennis. Voor je verder gaat naar de praktijkvoorbeelden, iets over “prior-kennis”.
In de Bayesiaanse statistiek verwijst “prior-kennis” naar de informatie die je als onderzoeker hebt of aanneemt over de parameters van een model voordat jij je gegevens analyseert. Het is een belangrijk concept omdat het de basis vormt voor de a priori kansverdeling van de parameters in het Bayesiaanse model. Deze prior-veronderstellingen worden gecombineerd met de likelihood (de kans op het waarnemen van de gegevens gegeven de parameters) om de posterior-verdeling te verkrijgen.
Een prior-verdeling kan verschillende vormen aannemen, afhankelijk van de beschikbare informatie en de overtuigingen van de onderzoeker. Hier zijn enkele veelvoorkomende vormen van prior-kennis:
1. Niet-geïnformeerde (of vage) prior
In gebrek aan specifieke informatie wordt soms een niet-geïnformeerde prior gebruikt, zoals een platte uniforme of een brede normale distributie. Dit geeft geen specifieke voorkeur aan bepaalde waarden van de parameters.
2. Informatieve prior
Onderzoekers kunnen externe informatie hebben die relevant is voor de parameters van het model. Dit kan worden vertaald naar een informatieve prior die de waarschijnlijkheid van bepaalde waarden van de parameters benadrukt.
3. Conjugate prior
Soms wordt een prior gekozen vanwege wiskundige handigheid. Een conjugate prior heeft de eigenschap dat het gecombineerd met een likelihood resulteert in een posterior-verdeling die dezelfde functionele vorm heeft als de prior. Dit vereenvoudigt de wiskundige analyse. Met andere woorden, als je begint met een bepaalde soort verdeling tussen de elementen van een verzameling (bijv. een zak met snoepjes met bepaalde kleuren), dan zal de “conjugate prior” na het toevoegen van nieuwe snoepjes van dezelfde soort op dezelfde manier verdeeld zijn.
4. Empirische prior
Als er eerdere gegevens beschikbaar zijn, kan deze informatie worden gebruikt om een empirische prior te vormen. Dit is vooral nuttig wanneer de eerdere gegevens relevant zijn voor het huidige onderzoek. Dat is bijvoorbeeld, het aantal verkeersongelukken op het wegdek van een bepaald traject bij slecht weer.
Praktijkvoorbeelden van Bayesiaanse methoden
De keuze van de prior is een belangrijk aspect van Bayesiaanse analyse en kan invloed hebben op de resultaten. Het weerspiegelt de subjectieve overtuigingen en kennis van de onderzoeker. Bayesiaanse statistiek staat toe om deze prior-kennis expliciet te modelleren en bij te werken met nieuwe gegevens, wat een flexibele en krachtige benadering biedt voor statistische analyse. Het belang van de prior neemt vaak af naarmate er meer gegevens beschikbaar komen, omdat de likelihood dan meer invloed heeft op de posterior.
Hier zijn enkele algemene voorbeelden:
Bayesiaanse methoden zijn vaak complexer en vereisen meer interpretatie dan frequentistische methoden. Bayesiaanse analyses impliceren het gebruik van voorafgaande of prior-kennis. Dat kan leiden tot subjectiviteit in de analyse. Daarom is een zorgvuldige keuze tussen frequentistische en Bayesiaanse benaderingen op basis van de aard van de gegevens en de onderzoeksvraag belangrijk.
Hulp bij statistiek nodig? Schakel een professionele begeleider van Scriptium in
Heb je moeite met statistiek? Wens je hulp te krijgen bij SPSS, STATA of R? Scriptium heeft 7 dagen per week professionele statistiekbegeleiders beschikbaar. Of je nu hulp bij statistiek in je scriptie wilt hebben, of bijles statistiek nodig hebt, we staan direct voor je klaar. Neem vandaag nog contact met ons op, en we komen snel bij je terug.
De auteur gebruikt statistiek voor het analyseren van productie- en dienstverleningsprocessen. Aan de hand van statistische analyses onderzoekt hij of een bedrijfsproces langs de kortste weg levert wat er bedoeld is en of het proces ook beheersbaar en betrouwbaar verloopt.
