Der Satz von Bayes hilft also, aus \(B\) für \(A\) zu lernen. Beim Beispiel ‘’medizinischer Test’’ war

• a priori, also vor dem Test die Wahrscheinlichkeit, dass der Patient krank ist, bei 2%,
• a Posteriori, also nach positivem Testergebnis, lag die Wahrscheinlichkeit, dass der Patient krank ist, bei 16,2%.

Durch die Beobachtung (des Testergebnisses), haben wir Wissen (Information) hinzugewonnen.

Information wird durch eine Wahrscheinlichkeit, allgemeiner: eine Wahrscheinlichkeitsverteilung, ausgedrückt.

Wir können allerdings nur dann Wissen hinzugewinnen, wenn \(A\) und \(B\) nicht (stochastisch) unabhängig sind. Sind \(A\) und \(B\) unabhängig, gilt nämlich

\[ P(A\cap B)=P(A)P(B) \]

und nach Definition der bedingten Wahrscheinlichkeit

\[ P(A|B) = \frac{P(A\cap B)}{P(B)} = \frac{P(A)P(B)}{P(B)} = P(A) \]

Das heißt, das Eintreten (oder Nicht-Eintreten) von \(B\) ändert die Wahrscheinlichkeit von \(A\) nicht, liefert also keine Information über \(A\).

In einer Fabrik werden Vorprodukte von zwei verschiedenen Firmen (A Productions und B-warez) weiterverarbeitet. Dabei stammen 70% der Vorprodukte von Firma A und 30% von Firma B. Aus langjähriger Erfahrung wissen die Arbeiter der Fabrik:

• Die Ausschußquoten betragen 1% bei Firma A und 5% bei Firma B.

Die Arbeiter finden eine neutrale Kiste des Vorprodukts (mit sehr vielen Teilen) ohne weitere Information über den Hersteller. Sie kontrollieren \(n=100\) Stück und entdecken \(y\) Ausschußstücke. Ist aus diesem Ergebnis ein Rückschluss auf den Produzenten möglich?

Sei also:

• Ereignis \(A\): Los kommt von Firma A Productions
• Zufallsvariable \(Y\): “Anzahl der Ausschußstücke” bei \(n=100\)

Für unsere Beobachtung können wir eine Verteilung angeben, die jedoch vom Eintreten von \(A\) abhängt. Es handelt sich um eine Binomial-Verteilung mit \(n=100\), wobei die Wahrscheinlichkeit des Eintretens \(p\) von \(A\) abhängt:

• Ist \(A\) eingetreten, also die Kiste kommt von Firma A, dann ist die Wahrscheinlichkeit für die Produktion eines Ausschußstückes \(p_A=0.01\)
• Ist dagegen \(\bar{A}\) eingetreten, also die Kiste kommt aus Firma B, dann ist die Wahrscheinlichkeit \(p_B=0.05\)

Bemerkung: Eigentlich wird hier Ziehen ohne Zurücklegen gemacht, sprich wir müssten die Hypergeomatrische Verteilung benutzen. Da wir aber keine Angabe über die Anzahl der Teile in der Kiste haben (nur “sehr viele”), nehmen wir die Binomialverteilung als Annäherung.

Dementsprechend ergibt sich die bedingte Verteilung bzw. Datenverteilung von \(Y\):

• \(Y|A \sim B(n, p_A)\)
• \(Y|\bar{A} \sim B(n, p_B)\)

mit der Wahrscheinlichkeitsdichte der Binomialverteilung:

\[ P(Y=y|A) = {n\choose{y}} p^{y} (1-p)^{n-y} \]

Posteriori-Wahrscheinlichkeiten

Es ergeben sich folgende Posteriori-Wahrscheinlichkeiten:

Je nach Höhe von \(y\) können wir also mehr oder weniger gut angeben, aus welcher Firma das Los wahrscheinlich kommt.

Bei \(y=3\) können wir uns nicht wirklich zwischen den Firmen entscheiden, aber die Posteriori-Wahrscheinlichkeit \(P(A|Y=y)=0.505\) ist kleiner als unsere ursprüngliche Priori-Wahrscheinlichkeit \(P(A)=0.7\).

Neue Posteriori-Wahrscheinlichkeiten

Sehen wir nach den \(y=3\) Stücken Ausschuß unter den ersten 100 untersuchten Stücken unter den nächsten \(100\) untersuchten Stücken erneut \(z\) Stücke Ausschuß, so erhalten wir folgende Posteriori-Wahrscheinlichkeiten:

Zum Beispiel geht bei erneut \(z=3\) Ausschußstücken unsere Tendenz nun klarer in Richtung Firma \(B\).