So, einen schönen guten Tag. Ich sollte vielleicht beginnen mit der Frage,
ist zufällig jemand gestern Abend, um zwischen 15 und 19,
nein, zwischen 17 und 19 Uhr hier im Raum gewesen?
Schade. Da haben sie was verpasst. Da hat man einen Vortrag im Kolloquium über,
oder packen wir so an, von einem Vertreter der Firma Amazon,
der über den Einsatz von grafischen Modellen in verschiedenen Bereichen erzählt hat.
Der hat also es früher bei Microsoft gewesen,
und hat dort an der Xbox-Entwicklung mitgemacht und hat die wesentlichen Grundlagen für die Gestaltung der Online-Plattformen,
wo also Teams und Spieler vermittelt werden,
die gegeneinander antreten können, realisiert.
Also ein System, wo man sich anmeldet,
ich möchte jetzt spielen und wo das System dann dafür sorgt,
dass einem adäquate Spieler zugeteilt werden.
Und zwar unter der Maßgabe,
dass die Zuteilung der Spieler so erfolgt,
dass jeder die Chance hat,
zu ungefähr 50 Prozent zu gewinnen
Also nicht beliebige Spieler, sondern man möchte jedem Spieler die Chance geben,
in der Hälfte an das Spiel gewinnen zu können. Und das ist ein gigantisches,
wahrscheinlich basiertes Modell, wo jetzt genau die Techniken,
über die wir hier reden, zum Einsatz kommen,
nämlich Basic Netze oder Belief Netze oder wie immer man die nennt,
es ist eine andere Form von solchen Netzen gewesen,
aber die grundsätzliche Idee der grafischen Modelle ist genau die Gleiche,
dass ich nämlich die Frage der Abhängigkeitsannahme oder Unabhängigkeitsannahmen,
die ich in eine Modellierung stecken muss,
dass man die anschaulich darstellen kann und dass man
die einsetzen kann,
um die ganze Berechnung überhaupt handhabbar zu machen
Und bei denen geht es also nicht um zwei Variablen
oder um fünf Variablen, sondern um Hunderttausende von Variablen.
Also die haben dann ihre Auswertungen über Zichtausenden von Spielern
zu machen und zwar in Echtzeit. Die Spieler sitzen vor
der Tür und warten darauf, dass ihr Spiel beginnen kann.
Und das war schon ziemlich spannend. Das ist der eine
Teil gewesen und dann hat er noch so kleine Einblicke in die Aufgaben gegeben,
die bei Amazon auf den verschiedenen Ebenen zu erledigen sind von Betrugsdetektionen bis hin zur Warenhaltung.
Also wie kann ich das Risiko minimieren, dass ich Waren
auf Vorrat einkaufe und die dann hinterher nicht loswerde und all solche Fragen.
Alles im Endeffekt propabilistische Modelle. Und gerade bei der Warenhaltung,
ich habe jetzt nicht mehr die genauen Zahlen,
also genaue Zahlen hat er sowieso nicht gesagt,
aber es sind einige hundert Millionen Produkte, die die im Angebot haben.
Also das ist nicht klein, klein,
sondern das sind richtig große Modelle, wo es dann eben darauf ankommt,
die auch effizient auf Maschinen laufen zu lassen.
Da hat man mal so ein bisschen die große Perspektive gesehen,
wo dies, was wir hier im einfachen Fall so mal durchexerzieren,
dann im Endeffekt hinführt und wofür man das benutzen kann
Also war wirklich, war mal, ja,
seit langem hatten wir keinen Vortrag mehr im Koloquium und das war mal wieder eine Highlight.
So, was haben wir gemacht? Wir wollen uns über die Anwendung von Wahrscheinlichkeitsmodellen in der Wissensverarbeitung,
oder wir interessieren uns dafür und die Idee war,
all das, was wir bisher hatten,
über die Modellierung mithilfe der formalen Logik und die Suche in solchen Aktionensystemen nach Aktionen,
die einem helfen, bestimmte Theorien abzuleiten, das zu kombinieren mit einem Maß,
was unterschiedlich interpretiert werden kann, aber zum Beispiel,
und das ist die Sicht, die hier zugrunde gelegt wird, als ein Maß für die Glaubwürdigkeit bestimmter Aussagen.
Also wie viel eine subjektive Einschätzung dafür,
wie viel Vertrauen ich in bestimmte logische Aussagen über die Welt geben.
Und weil das im Gegensatz zu dem häufigkeitsbasierten Ansatz ist,
den man üblicherweise, wenn man sich aus statistischer Perspektive der Sache nähert,
zugrunde legt, ist, dass hier eben eine semantische Fundierung, die in möglichen Welten operiert.
Und wir werden im Weiteren gleich noch sehen,
dass das teilweise, was hirnverdrehend ist, was da passiert.
Das Ziel der ganzen Aktion ist, dass ich auskomme,
dass ich die Grundlagen der Wahrscheinlichkeitstheorie definieren kann,
ohne dass ich darauf zurücksichtlich oder darauf zurückgreifen muss,
dass sich einzelne Ereignisse zähle.
Denn in vielen Fällen, das hatten wir ja gestern diskutiert,
in vielen Fällen bin ich nicht gar nicht in der Lage,
eine Häufigkeitsanalyse zu machen.
Wenn es also um Entscheidungssituationen geht, beispielsweise,
die ich überhaupt nicht reproduzieren kann,
dann kann ich auch nicht eine große Versuchsserie starten und dann
Häufigkeitsanalysen auf dieser Versuchsserie machen.
Also der Ausgangspunkt sind die möglichen Welten
Und wir definieren dann ein Maß für die mögliche Welt,
die wir, wo wir unseren Grad des Vertrauens oder des Glaubens,
in das, was in der Welt,
dass diese Welt tatsächlich realisiert werden kann, nehmen.
Und wenn wir dann die Wahrscheinlichkeit einer Aussage wissen wollen,
dann müssen wir summieren über all diese möglichen Welten, in denen die Aussage wahr ist.
Das ist die Grundidee dabei. Wir können das dann also in dem einfachen Fall,
das sind die Aktionen mit der Wahrscheinlichkeitstheorie, die man überall findet,
also eine Zahl, die kleiner, größer oder gleich null sein muss für den Wahrheitswert.
Truhe haben vereinbart bei dem Wert 1 und für die Disjunktion vereinbaren wir,
dass die Wahrscheinlichkeiten addieren, wenn denn die beiden Aussagen,
die wir haben, bis jungt sind, dass die nicht gleichzeitig gelten können.
Der Trick, der jetzt gemacht wird, ist,
dass man das erweitert auf Mengen, also es ist eine generellere,
ein generelleres Herangehen, dass man das auf Mengen,
also nicht über eine mögliche Welt redet,
sondern über Mengen von möglichen Welten redet und dafür diese Aktionen wieder annimmt,
also die Bewertung, die ich für eine Menge von möglichen Welten angebe,
also mein Grad des Glaubens, den ich in den Wahrheit setze,
muss wieder größer als größer gleich null sein.
Wenn ich alle möglichen Welten Omega ist,
die Menge aller möglichen Welten nehme, dann muss eine davon eintreten,
dann ist also die Wahrscheinlichkeit gleich eins.
Und wenn ich denn zwei solche Mengen miteinander vereinige,
dann werden diese Werte wieder addiert,
wenn denn die Mengen des Jungts sind.
Das ist genau äquivalent zu dieser des Jungtheitsforderungen,
die wir hier haben
Dass sie nicht gleichzeitig auftreten können. Heißt hier,
die beiden Mengen, über die wir hier reden,
müssen mögliche Welten beschreiben, die unterschiedlich sind.
Und das ist dann wieder die Aussage hier,
also die Wahrscheinlichkeit, das Gleiche wieder übertragen auf die Mengeninterpretation,
die Wahrscheinlichkeit eine Aussage ist,
also die Bewertung einer Menge möglicher Welten,
in denen diese Aussage gilt.
Oder war es
Wir brauchen dann Wahrscheinlichkeitsverteilungen und für Wahrscheinlichkeitsverteilung nehmen wir also eine Abbildung an,
die jedem Wert einer Zufallsvajablen eine Wahrscheinlichkeit zuordnet.
Dann ist die Frage für praktische Zwecke, wie sieht eine
solche Wahrscheinlichkeitsverteilung aus? Also wie schreibe ich die auf?
Wie mache ich das? Nehmen wir mal an,
ich habe ein einfaches Problem, ein einfaches Diagnoseproblem.
Ich habe fünf verschiedene Krankheiten und den Zustand,
keine Krankheit liegt vor.
Wie schreibe ich
eine Wahrscheinlichkeitsverteilung auf
Genau, im Idealfall wird der Wahrscheinlichkeitsfunktion, er befindet sie
insgesamt, die entsprechenden Werte, dann die Wahrscheinlichkeit aus.
Ja, im Idealfall. Wie denn? Ganz, ganz
praktisch. Sie sollen ein probabilistisches Modell aufbauen und sie brauchen dafür
die Wahrscheinlichkeitsverteilung für eine gegebene Wahrscheinlichkeitsvariable, für eine Zufallsvariable,
also in diesem Falle die Krankheit.
Ja, ja. Ja, im Normalfall fangen wir zu
bestimmten Standardwahrscheinlichkeiten zur Zweiwahrscheinlichkeit oder raus
zu klopfen
Muss man mal... Also, Moment, halt halt immer langsam. Also,
Normalverteilung haben Sie gesagt, ja, okay, gut,
ich kann eine Verteilungsannahme machen, Sie haben GAUS-Verteilung genannt,
also irgend so etwas wie eine Lockenkurve mit einem Mittelwert und einer Standardabweichung,
die ich hier habe.
Ja, das sind Parameter dieser Verteilungsfunktion. Und ich kann
jetzt annehmen, dass irgendeine Variable dieser Verteilung gehorcht.
Auf welche Form von, auf welche Art von Problemen
ist das anwendbar?
Ja. Normalverteilung
Ja. Aber wir kennen verschiedene Datentypen. Und wir müssen uns fragen,
für welche Datentypen kann ich eine solche Normalverteilung angeben?
Für welche kann ich es nicht? Ja. Ja,
für schneetige Verteilung. Wo die Werte da,
wo an mich festgesetzt hat und auch von zwischendurch.
Ja gut, also kontinuierliche Verteilung sind das, ja.
Das ist das eine Ende. Das eine Ende des Spektrums
. Was ist das andere Ende des Spektrums?
Also nehmen Sie beim Beispiel mit den Krankheiten
Ich will die Wahrscheinlichkeitsverteilung angeben, wie ist die Verteilung von
einer Menge von Krankheiten in der Bevölkerung.
Also wie viel Prozent der Bevölkerung haben eine bestimmte Krankheit?
Da habe ich keine kontinuierliche, keinen kontinuierlichen Raum,
über den ich das definieren kann.
Ja, musst du das diskret sein?
Bitte? Ja, ja, natürlich, ja, ja.
Also diskret ist das andere, Ende des Spektrums.
Und in der Mitte gibt es noch so etwas wie diskret, und geordnet.
Also diskret und geordnet heißt so etwas wie natürliche Zahlen.
Da gibt es eine Ordnungsrelation drüber und ich kann jeweils sagen,
ist die Zahl kleiner als die Nachbarzahlen.
In diesem Fall kann ich auch Standardverteilungen benutzen,
so was wie die Binonialverteilung, das ist beispielsweise etwas,
was ich hier anwenden kann.
Aber wenn ich jetzt wirklich einen diskreten Fall habe,
wie mache ich das, wie gebe ich die Verteidigungsfunktion an?
Oder die Wahrscheinlichkeitsverteilung, wie spezifiziere ich das?
Ja, wir nehmen das
Die wir gezählt haben. Und das ist dann
so die Verteidigung. Antwort da zum Beispiel,
wenn wir bei 100 Leuten die 50 Kranke haben,
weil wir etwas 50 Prozent, muss ich die Fütter.
Ja gut, also wie sieht die Verteilung für diesen zwei,
für diesen zweidimensionalen Fall oder zwei wertigen Fall aus?
Leute sind krank, Leute sind gesund. Wie muss ich
rein praktisch jetzt, ich muss es irgendwie im Rechner modellieren?
Ich kann nicht irgendwie sagen, ja,
das ist so, da sage ich eben 50 Prozent.
Wie sieht die Verteilung aus? Wir reden hier über eine,
über Wahrscheinlichkeitsverteilung. Und wir müssen uns darüber klar werden,
wie schreiben wir das wirklich auf? Die Antwort ist trivial,
aber wir müssen uns darüber klar werden, wie trivial sie ist.
Weil das nämlich die Realisierung und Umsetzung dann ganz wesentlich beeinflusst.
Also eine diskrete Verteilung ist nichts anderes als eine Tabelle.
Es bleibt mir nichts anderes übrig, als die Tabelle aufzuschreiben und zu sagen,
was sind die einzelnen Werteausprägungen, die die Variable annehmen kann?
Und was sind die dazu gehören ihren Wahrscheinlichkeiten?
Also so etwas wie gesund ist 0,9 an Grippe erkrankt,
Und was weiß ich, was man noch an gepalmen Infekt erkrankt sind, 0,6.
Und das Ganze muss ich dann zu eins addieren.
Das ist die Gesamtwahrscheinlichkeit. Genauso wie eben hier
die Fläche unter dieser Verteilung eins sein muss,
damit das Gesetz der Gesamtwahrscheinlichkeit wieder gilt.
Also einerseits kontinuierliche Verteilungen, wo ich mit solchen Verteilungsannahmen arbeiten kann,
aber wir haben bisher ja immer diskrete Welten betrachtet.
Wir haben gesagt, so etwas wie Schalter ist hoch,
Schalter ist drunter. Dafür können wir keine Wahrscheinlichkeitsverteilung angeben.
Wir können nicht sagen,
der Schalter ist drei Viertel hoch oder drei Viertel runter
Er kann nur diskrete Zustände einnehmen. So sind Scheitern nun
mal gebaut. Und dann kann ich eben solche Verteilungsannahmen nicht mehr
machen oder Verteilungsfunktionen angeben, dann muss ich wirklich tabulieren.
Da muss ich alle Varianten, alle Wahrscheinlichkeiten,
die ich entweder gezählt habe, das ist der häufigkeitsbasierte Ansatz,
oder die durch subjektive Einschätzung zustande gekommen sind, dann muss ich die tabulieren,
muss ich sie auflisten und dann kann ich damit tatsächlich arbeiten.
Hier ist nur der erste Fall, also der Obere hier,
des Kontinuierlichen angegeben, wenn das der Fall ist,
dann ist nämlich die Wertemenge, die wir dort haben, unendlich groß.
Und dann muss ich auf Wahrscheinlichkeitsdichtefunktionen zurückgreifen.
Und das ist eine Wahrscheinlichkeitsdichtefunktion. Der Witz einer Wahrscheinlichkeitsdichtefunktion,
das sollte auch klar sein, was ist die Wahrscheinlichkeit,
dass jetzt hier, sagen wir mal, der der 10 auftritt.
Ja. Ja, nahezu null. Er ist null.
Ja, er ist null. Ich kann für Wahrscheinlichkeitsdichtefunktionen keine Punktwahrscheinlichkeiten angeben,
weil ich dann eine Aussage über eine unendlich kleine Fläche unter der Kurve tun muss.
Also die Wahrscheinlichkeit kann ich immer nur für Intervalle angeben.
Ich kann sagen, wie groß ist die Wahrscheinlichkeit,
dass der Wert in das Intervall zwischen 10 und 12 fällt.
Und dann ist das diese Fläche hier unter der Kurve.
Das ist die Wahrscheinlichkeit für die Tatsache,
dass ihr ein bestimmter Wert in diesem Intervall liegt.
Ich kann aus einer dichten Funktion nicht ableiten,
wie groß ist die Wahrscheinlichkeit für einen diskreten Wert.
Für eine diskrete Verteilung kann ich das machen. Wenn in
meiner Tabelle drin steht, 0,9 ist die Wahrscheinlichkeit für gesund,
dann ist es die Wahrscheinlichkeit für gesund
Diesen Unterschied sollte man auch immer im Kopf haben.
Und spätestens bei der basischen Regel kommen wir darauf zu sprechen,
unter welchen Umständen wir überhaupt die basische Regel anwenden können.
Da braucht man das nämlich. So, der wesentliche Punkt ist,
ach so, ja, das hatten wir auch gestern diskutiert,
dass ich eben oftmals in der Wahrscheinlichkeitslehre Fälle von Gleichverteilung betrachte,
dann kann ich natürlich wieder generell angeben,
dass die Wahrscheinlichkeit, dass ich ein bestimmtes Würfelereignis sehe,
egal unabhängig von der Frage,
welches Ereignis es ist,
immer gleich ein Sechsel ist
Aber das ist der uninteressante Fall, weil er über den Mechanismus,
der zum Zustandekommen dieses Ergebnisses beigetragen hat, nichts aussagt.
Und wir wollen eben gerade kausale Modelle beispielsweise aufbauen,
die sagen, wie hängen Ursache und Wirkung zusammen?
Und dann brauchen wir eben Wahrscheinlichkeitsverteilungen,
die deutliche Unterschiede bezüglich der Einzelnen aus der einzelnen Ausgänge haben,
also der Beobachtung, die ich damit erzeugen kann.
Gut, der wesentliche Punkt, den wir brauchen,
sind die bedingten Wahrscheinlichkeiten, Hier immer betrachtet werden,
als vor dem Hintergrund, dass ich meine Annahmen ändere.
Ich habe also Initiale oder Apriori-Annahmen über die Welt,
die ohne genaue Kenntnisse der aktuellen Umstände zustande gekommen sind.
Also ich gehe davon aus, ohne dass ich weiß,
was jetzt um mich herum aktuell gerade passiert,
dass normalerweise um diese Jahreszeit zehn Prozent der Bevölkerung krank sind.
Das ist eine Apriori-Wahrscheinlichkeit. Die ist völlig unabhängig von konkreten Informationen darüber,
wie, welches Wetter haben wir gerade, haben wir gerade
eine Erkältungs-Epidemie oder haben wir keine Erkältungs-Epidemie und dergleichen mehr.
Das ist vollkommen unberücksichtigt. In dem Augenblick,
wo ich jetzt zusätzliche Informationen über die Umwelt bekomme,
also beispielsweise, wie groß war der Erkrankungsgrad gestern,
dann kann ich die heutige Wahrscheinlichkeit konditionieren, oft Informationen,
die den gestrigen Tag betrifft.
Wobei wir in dem Falle sogar gleich ein gutes Beispiel dafür haben,
wir brauchen hier hinten Evidenz und Evidenz muss also wieder etwas sein,
wo ich einen Wahrheitswert war oder falsch zuordnen kann.
Und das ist eben genau das Problem der kontinuierlichen Größen und eine solche Angabe wie,
gestern war der Erkrankungsgrad in einer bestimmten Subpopulation 15 Prozent,
das ist wieder etwas über einer kontinuierlichen Skala.
Und in diesem Falle muss ich dann also wieder Diskritisierungsannahmen machen,
damit ich das überhaupt bearbeiten kann.
Gut, also wir haben die Apriori-Wahrscheinlichkeit und wir haben
andere Informationen und diese andere Information muss immer von irgendwelchen Apriori-Wahrscheinlichkeiten abhängen.
Und wir haben dann alle, als Evidenz wird immer diejenige Information betrachtet,
die dann nachträglich in das System hineingekommen ist und die mich jetzt zwingt,
meine Annahmen über die Welt zu revidieren.
Und das ist genau dieser Revisionseffekt, der hier angesprochen wird.
Also ich habe initiale Annahmen, ich kriege zusätzliche Informationen über
den Zustand der Welt und ich muss meine Annahmen revidieren.
Also beispielsweise die Information, dass zurzeit der Erkrankungsgrad in der Bevölkerung
offensichtlich höher ist, als es sonst gewöhnlicherweise der Fall ist.
Und das wird eben jetzt geschrieben, als die Wahrscheinlichkeit einer
Hypothese gegeben eine bestimmte Evidenz. Heißt also, ich weiß jetzt,
dass dieses hier wahr ist und das muss eben einen Wahrheitswert haben,
was dort hinten steht.
Und damit ist der Bezug zur Logik
auch gegeben
Die Logik können wir das alles nicht betreiben. Also hier
hinten muss ein Ausdruck stehen, der einen Wahrheitswert hat.
Und dann kann ich sagen, ja,
die Wahrscheinlichkeit einer bestimmten Aussage gegeben, diese Evidenz,
die hat dann eine bestimmte Größe.
Und das ist die Postilla-Wahrscheinlichkeit. Also die Wahrscheinlichkeit nach Beobachtung
. Daher kommt der Name. Das ist die Wahrscheinlichkeit vor
der Beobachtung, ehe ich die Evidenz bekommen habe.
Und das ist die Wahrscheinlichkeit danach. Ich habe die Evidenz bekommen,
ich bin jetzt schlauer als vorher und jetzt kann ich
die Evidenz in meine Überlegung mit einbeziehen.
Das ist immer
der Grundgedanke dabei
Und das kann man eben jetzt auf ganz unterschiedliche Art und Weise ausbuchstabieren.
Nehmen wir mal ein Automat, der erkennen soll,
welchen Geld scheinen sie gerade durch den Schlitz gesteckt haben.
Ich kann bezahlen mit unterschiedlichen Geldscheinen. Und das ist jetzt Sache,
dass Automaten herauszubekommen, welcher Geldschein ist dort gerade eingegeben worden.
Da gibt es eine Apriori-Wahrscheinlichkeit, das ist die Häufigkeit,
wie die Geldscheine in der Bevölkerung verteilt sind und nicht nur das,
sondern wie häufig sie in diesem speziellen Automaten
zum Einsatz kommen
Also es wird unwahrscheinlich sein und wahrscheinlich nimmt das nicht an,
dass man auf einem Fahrkartenautomat etwa mit einem 500-Euro-Schein bezahlt.
Das wird nicht gehen. Aber die Wahrscheinlichkeit wird ohnehin sehr,
sehr gering sein, dass das jemals passiert.
Sondern die Scheingröße wird eher in der Größenordnung dessen sein,
was man da bezahlen muss.
Also gibt es eine bestimmte Häufigkeitsverteilung, die ich habe,
die ich weiß, ohne dass ich den Schein überhaupt gesehen habe.
Dann kommt der Schein durch den Schlitz.
Ich kann die Pixelverteilung auf dem Schein etwa messen.
Ich kann geometrische Parameter daran messen und ich habe damit Evidenz gegeben.
Und diese Evidenz zwingt mich dazu, meine Annahme darüber,
welche Art von Schein es denn ist, zu revidieren.
Vorher hatte ich nur die Apriori-Wahrscheinlichkeit und ich konnte beispielsweise davon ausgehen, ja,
der Schein mit der größten Wahrscheinlichkeit wird es wohl sein.
Jetzt weiß ich, was der Schein mit der größten Wahrscheinlichkeit ist,
aber ich habe zusätzliche Evidenz und kann dann meine Entscheidung da entsprechend revidieren.
Also das ist ein typisches Herangehen von basischen Schlussfolgern.
Ich habe Grundannahmen über die Welt,
ich habe eine Evidenz und über diese bedingte Wahrscheinlichkeit ist
die Evidenz mit meinen Hypothesen über die Welt verknüpft
Ja, so eine, wenn ich Evidenz habe,
dann heißt das jetzt in den Begriffen unserer möglichen Welten,
dass bestimmte mögliche Welten gar nicht mehr zulässig sind.
Die werden durch die Evidenz ausgeschaltet. Das ist ja eine logische Aussage,
die einen Wahrheitswert hat und alle Welten,
in denen die Evidenz nicht gilt oder wo sie nicht wahr ist,
die fallen jetzt aus der Betrachtung raus.
Und damit wird der Kreis der möglichen Welten eingeschränkt und
damit werden auch die Wahrscheinlichkeitsverteilungen über den möglichen Welten verändert.
Denn es muss im Endeffekt wieder das Gesetz der Gesamtwahrscheinlichkeit gelten.
Die Wahrscheinlichkeit müssen alle sich Für alle möglichen Welten,
die jetzt noch in Frage kommen, zu eins addieren.
Und deshalb kann man jetzt also sagen, okay,
wir haben jetzt dieses Maß für Mengen von möglichen Welten.
Bisher haben wir nur betrachtet, dass wir sagen,
wie wahrscheinlich ist es, dass diese Menge möglicher Welten tatsächlich auftritt.
Jetzt machen wir doch die Einschränkung zusätzlich unter einer gegebenen Evidenz.
Und dann haben wir eben die Bewertung,
die Belief-Bewertung unserer ursprünglichen Menge irgendwie multipliziert mit einem Korrekturfaktor.
Das ist genau der Faktor, der die Änderung oder der
die Belief-Revision, also die Änderung meines Glaubensgrades,
den ich in die Wahrheit dieser Aussage stelle, modelliert.
Also wenn der größer ist als eins, dann steigt die
Wahrscheinlichkeit eben an, ja, das wird sie immer.
Ich muss ja, ich muss ja üblicherweise durch die Evidenz
hier werden ja mögliche Welten ausgeschlossen.
Das heißt, die Wahrscheinlichkeit auf den verbleibenden Walden muss ansteigen,
damit die Gesamtwahrscheinlichkeit wieder gewährleistet ist.
Und das ist nur dann der Fall, wenn aus dieser,
für alle möglichen Welten, die hier in S enthalten sind,
wenn für alle,
in allen dieser möglichen Welten
die Evidenz e-wahr ist
Wenn nur in einer dieser möglichen Welten, die zuerst gehören,
die Evidenz nicht wahr ist, dann kriegt das die Bewertung null.
So, und daraus kann man jetzt sich überlegen,
wie groß muss wohl dieser Faktor C hier sein, damit die Rechnung aufgeht.
Und das ist eben relativ simpel, herleitbar. Ich muss
also im ursprünglichen Fall das Gesetz der Gesamtwahrscheinlichkeit gewahrt haben.
Das heißt, ich brauche die Wahrscheinlichkeit eins. Das ist
die Bewertung der Der Gesamtmenge an möglichen Welten, das ist gleich eins.
Und das setzt sich ja zusammen aus solchen möglichen Welten,
in denen die Evidenz wahr ist. Ich mache das jetzt mal abgekürzt,
also irgendwie Omega, in denen eh gilt, plus das Mü-E,
ob es, da fehlen noch ein paar Klammern,
das ist jetzt nicht formal nicht ganz sauber,
plus denen,
in denen die Evidenz nicht wahr ist
In denen, wo die Evidenz nicht wahr ist,
da will ich den Wert null zuweisen.
Das heißt, dieser ganze Therm hier fällt weg.
Ach, sorry, ich habe natürlich eins vergessen.
Ach so, ja, halt. Und das soll jetzt
gleich dem Korrekturfaktor, also C, mal dem alten,
dem alten Müh sein, unter dem die Evidenz abgeleitet werden kann.
Und damit haben wir alles zusammen. Das ist im Prinzip
nichts anderes als in dem ursprünglichen Sammlung möglicher Welten
Wahrscheinlichkeit für die Evidenz. Und da eins gleich zehnmal der Wahrscheinlichkeit
der Evidenz ist, ist also dieses, oder andersherum,
dieses C, gleich eins durch die Wahrscheinlichkeit der Evidenz.
Also ich muss es wichtigen mit dem Inversen der Wahrscheinlichkeit für die Evidenz,
die ich betrachte,
dann kriege ich die neuen Wahrscheinlichkeiten für die Mengen heraus,
die ich durch die Evidenz reduzierten Sammlung von möglichen Welten habe.
Das können wir uns hier auch angucken.
Wir haben hier eine Menge möglicher Welten.
Zehn Stück, ja
Noch einmal kurz sagen, was ist genau jetzt die Epidenz für sich?
Irgendeine beliebige Aussage über die Welt. Wir gucken uns das gleich an.
Wir haben hier mögliche Welten und wir machen jetzt eine Einschränkung,
dass wir nur noch über die hier gelb markierten im Original sind,
ist Orange. Aber der Beamer tut es nicht mehr,
dass wir jetzt nur noch über einen Teil dieser Welten sprechen.
Also die Evidenz ist jetzt, wir wissen, dass die Welt,
über die wir reden, nur eine orange Welt sein kann.
Dadurch schränkt sich die Anzahl möglicher Welten ein,
auf genau die, die die Eigenschaft haben, orange zu sein.
Also jedes dieser Symbol hier steht für eine mögliche Welt.
Und jetzt haben wir eben In der ursprünglichen Welt
ist die Wahrscheinlichkeit orange zu sein, gleich vier Zehntel.
Wir haben zehn mögliche Welten und vier davon sind orange.
Und in der Reduzierten, gut, da können wir nicht darüber reden.
Hier sind 100 Prozent orange. Das macht also keinen Sinn
, darüber zu reden. Was wir jetzt, achso,
nee, halt, sorry. Die Wahrscheinlichkeit, dass wir
über orange Objekte reden, ist in der ursprünglichen Welt gleich vierzehnte.
Evidenz ist jetzt irgendein zusätzliches Informationsbestandteil. Also beispielsweise,
wir reden jetzt ab sofort nur noch über Kreise
Nee, oder man kann es so rummachen, man kann es anders machen.
Es sind beliebige Features, die wir haben.
Wir reden also ab sofort über orange Kreise.
Und orange Kreise haben in der ursprünglichen Welt eine Wahrscheinlichkeit von
einem Zehntel. Wenn ich hier zufällig eine Welt auswähle,
dann werde ich mit ein Zehntel Wahrscheinlichkeit eine Welt haben,
die in der orange Kreise enthalten sind.
Jetzt mache ich also die Einschränkung nur auf die Orangenwelten und
dann ändert sich die Wahrscheinlichkeit für orange Kreise.
Die ist nämlich jetzt nur noch ein Viertel. Und wir wissen also,
nach dem Zusammenhang, wie Der Skalierungsfaktor ist zwischen den beiden.
Und wir haben also die Gleichung, dass wir ursprünglich eine Wahrscheinlichkeit von einem Zehntel hatten.
Das ist die Wahrscheinlichkeit für orange Kreise hier oben.
Und jetzt ein Korrekturfaktor anwenden müssen und kommen dann auf die,
nein gerade umgekehrt, ach hey, wir haben die alte Wahrscheinlichkeit,
ist ein Zehntel und der Korrekturfaktor wird darauf multipliziert.
Und dann kriegen wir die Wahrscheinlichkeit unter der neuen Bedingung,
also mit der zusätzlichen Evidenz,
dass wir nur noch über Orange reden und dann haben wir ein Viertel als Wahrscheinlichkeit.
Und das können wir umstellen nach C,
also C es dann gleich zehn Viertel.
Und da wir den Kehrwert für die Wahrscheinlichkeit haben,
ist also vier von zehn die Wahrscheinlichkeit der Evidenz.
Die Evidenz war, wir reden über Orangeobjekte und wir sehen tatsächlich,
dass das genau die Wahrscheinlichkeit ist,
mit der Orangeobjekte in der ursprünglichen Sammlung von Welten auftreten
Oder Welten mit Orangenobjekten. Das sind immer, das sind ja immer
mögliche Welten hier und nicht die Objekte aus den Welten.
Also an der Stelle sehen wir, da können wir uns
an dem Beispiel überzeugen, dass dieser Skalierungsfaktor tatsächlich Sinn macht.
Wenn ich also von dieser Wahrscheinlichkeitsverteilung hier auf diese Wahrscheinlichkeitsverteilung kommen will,
muss ich die alle Werte mit zehn Viertel multiplizieren.
So, das ist der eine Fall für die Apriori-Wahrscheinlichkeiten,
für die bedingten Wahrscheinlichkeiten haben wir jetzt eben dieses Maß,
was wir einer möglichen Welt unter der Evidenz zugewiesen haben.
Jetzt aber, dass wir die Wahrscheinlichkeit für eine Aussage Haar haben wollen.
Also, wir betrachten die Sammlung möglicher Welten, in denen Haar gilt.
Gib mir die Wahrscheinlichkeit dafür, dass Haar wahr ist.
Das ist der Anteil der möglichen Welten an der,
oder nein, die Bewertung der Menge möglicher Welten,
in denen Haar wahr ist
Und das können wir jetzt im Prinzip einsetzen, dass wir
ja einerseits gucken müssen, dass die Evidenz gegeben ist.
Das wäre orange also beispielsweise. Und andererseits die Evidenz Earl
Dess muss wahr sein, dass wir über Kreise reden.
Das heißt, wir müssen die Verbundwahrscheinlichkeit nehmen,
dass sowohl Haar gilt als auch eh gilt.
Und wir müssen das Ganze normalisieren mit genau diesem Normalisierungsfaktor,
den wir hier haben. Und auf die Art und Weise,
das ist jetzt lange Rede, kurzer Sinn,
haben wir ein Grundgesetz der Wahrscheinlichkeitstheorie abgeleitet,
ohne jemals auf irgendwo den Begriff des Zählens zurückgekommen zu sein
Also das Zählen haben wir nur hier benutzt,
um uns davon zu überzeugen, dass diese Betrachtung,
die hier angestellt werden, unter einer,
unter der Sicht der Anteile an möglichen Welten tatsächlich plausibel sind.
Aber wir haben an keiner Stelle jetzt Objekte gezählt,
Häufigkeiten ermittelt und aus den Häufigkeiten Wahrscheinlichkeiten geschätzt.
Das ist nirgendwo passiert. Sondern wir haben dieses Gesetz,
wie ist eine bedingte Wahrscheinlichkeit definiert,
einzig und allein durch Überlegungen auf der Basis möglicher Welten und von Bewertungen,
die wir auf irgendeine magische Art und Weise an diese Welten drangeknöpft haben.
Und diese magische Art und Weise ist eben eine subjektive Einschätzung,
die für jede Person anders ist,
dass ich bestimmten Aussagen mehr Glauben schenke als sie beispielsweise.
Und sie haben Aussagen, denen sieben mehr Glauben schenken als
ich beispielsweise. Das ist so, das ist subjektiv,
da geht man da unterschiedlich ran und muss dann damit leben,
dass dann auch nur subjektive Ergebnisse aus der Berechnung herauskommen.
So, hier mal einfach eine Fingerübung. Wie kann man jetzt
mit Wahrscheinlichkeiten und bedingten Wahrscheinlichkeiten umgehen? Das brauchen wir einfach,
damit eine gewisse Routine entsteht beim Umgang mit bestimmten Wahrscheinlichkeiten.
Hier ist also jetzt eine Tabelle gegeben,
wo die Verbundwahrscheinlichkeit für bestimmte Merkmale einer Situation gegeben ist.
Also jemand hat einen grippalen Effekt ernießt und er schnarcht.
Und dann habe ich eben die Kombination,
alles drei es war und gebe dem diese Bewertung Mühe,
die wir als Wahrscheinlichkeit interpretieren können.
Aber da sie eben nicht statistisch zustande gekommen ist,
ist es eben eine subjektive Bewertung, die wir da drangehangen haben.
Und genauso eben hier, jemand hat einen grippalen Infekt,
ernießt, aber er schnarcht nicht und wir haben wieder eine Bewertung,
wie groß ist die Wahrscheinlichkeit,
dass diese Kombination von Beobachtungen
tatsächlich eintritt
Und das haben wir für alle acht Kombinationen,
die man über einem solchen Billärsystem bauen kann.
Und jetzt sollen wir mal ausrechnen,
was sind die einzelnen Wahrscheinlichkeiten, die man hier hat?
Also hier eine Verbund wahrscheinlich wie Kite, wie groß ist
die Wahrscheinlichkeit, dass jemand Grippe hat und niest.
Wir müssen es nicht ausrechnen, wir müssen nur sagen,
wie man es berechnet. Ja, man muss sich einfach
alle Fälle angucken in dem, sowohl Kippe verwandelt und wir
Wie ist die denn? Ja. Wahrscheinlich wird jeweils agieren
. Also ob das Norm quasi nicht hat.
Genau, ja. Also wir brauchen welche,
wo sowohl Flu als auch Snease jeweils Truhe ist.
Das sind diese beiden Zeilen. Ja,
also wir addieren diese beiden Werte hier und dann kommt,
das geht ja sogar ziemlich gut auf, bringt sowas wie 0,16 raus.
Gut, dann das Nächste, Flu und Notsnis.
Ja, alles will schon. Das ist nichts Wort
Ja, genau, also eine Zeile wäre dieses hier,
ja, Flur ist wahr, aber snease,
as snease, sorry, ich bin ja ein Pfeifenfilm.
Snease is false und die zweite Zeile wäre diese hier.
Also wir müssten diese beiden Werte hier addieren und würden dann
bei 0,04 landen. Die Wahrscheinlichkeit für Flur. Genau,
also die ersten vier Zeilen oder andersherum die beiden Wahrscheinlichkeiten,
die wir hier gerade ausgerechnet haben.
Und da sehen wir einen wesentlichen Effekt, den wir dann benutzen werden,
wenn wir uns angucken werden, wie welche Netze tatsächlich berechnet werden.
Das nennt sich marginalisieren. Ich summiere hier über alle Fälle,
die eine Variable annehmen kann. Also die Varnabel ist Snease,
kann die beiden Werte,
Truhe und Fonds annehmen und indem ich über alle beide addiere,
kriege ich die Wahrscheinlichkeit für die anderen Variablen-Belegungen heraus.
Auf diese Art und Weise kann ich die Komplexität solcher Ausdrücke reduzieren,
wenn es mir gelingt, sie so umzuformen,
dass ich immer eine vollständige Summation über alle Werteausprägungen einer Variablen
da drin habe
Dann verschwindet diese Variable aus der Formel. Das wird das Ziel sein,
wenn wir dann komplexe Ausdrücke sukzessive zerlegen müssen, in einfachere Ausdrücke,
damit wir es mit erträglichem Aufwand tatsächlich berechnen können.
Ansonsten würde herauskommen, dass wir immer die gesamte Komplexität,
die in einer solchen Tabelle drinsteckt,
das ist ja ein kombinatorisches Problem, was wir hier haben,
dass sich immer die Größe der Domänen der Wertedomänen aufmultiplizieren,
diese Komplexität hätten wir in der Berechnung drin und dann wird es nicht mehr beherrschbar.
Und auf diesem Aussummieren über eine Variable beruht der
ganze Effizienzgewinn,
Ja, ja, klar, ja, ja, es geht weiter.
Wir waren hier angekommen. Nächster Auftritt. Sie wollen,
oder? Ja. Also ich wollte eigentlich nicht fragen,
ob das das oder bedeutet, ob man dann alle addieren muss,
außer die beiden letzten Zeiten, weil da, sowohl mies.
Ja gut, also was wäre denn Ihre Hypothese?
Also das ist kein Oder, sorry, das ist
kein Oder, ein Oder wäre dieses Wii, das V.
Das ist eine bedingte Wahrscheinlichkeit, so wie wir sie eben
hier definiert haben. Also eine Hypothese gegeben,
eine Evidenz zu berechnen aus der Verbundwahrscheinlichkeit normalisiert auf die Wahrscheinlichkeit
des Konditionalteils
Gut, dann unter der Bedingung. Ja,
dann finde ich, weil ich schon hart am Überlegen,
wenn wir die, die dann für Dienstliest tue,
ist und auch fundschul ist und durch die Teilen bei denen die Fugen tue ist.
Genau, also das eine haben wir hier oben schon mal ausgerechnet gehabt,
das kommt in den Zähler und alles, was wir,
ach ne, das haben wir auch schon ausgerechnet,
das steht hier.
Also wir teilen das durch das
und kriegen die raus
Nee, das kann nicht sein. Das kann nicht sein.
Also ich weiß nicht, was war denn das hier?
Das war 1,4, nee, 1,6 plus 0,4,
das sind 2, 0,2, dann ist das 0,16 durch 0,2,
wenn es jemand ausrechnen kann.
Gut, wir müssen keine Rechenübungen jetzt machen hier.
Okay, das Fünfte,
Nordflu und Snease
Das ist ja irgendwas Plaggetrunzi wieder wie oben. Wir suchen nach allen,
hoch, viel Kreuztes und du musst dies schulen und erwiesen.
Nochmal, wo Flughaus ist und wo? Ja, okay,
gut. Und wo ist das der Fall? Also Flughfalls,
das sind die unteren hier und gleichzeitig muss Nies True sein,
also diese Zeile. Dass Analogen zu dem hier oben.
Nun hatten wir hier eben das Positive, hier ist das Negative.
Okay, dann Flug gewinnt Snease
Ja. Er wird es dann nicht,
P von Flug geteilt, ich gehe von Sneak.
Nee. Nee, also wir gucken uns die Definition nochmal an.
So. Es muss die Verbundwahrscheinlichkeit von den beiden sein.
Und das ist die gleiche Verbundwahrscheinlichkeit, die wir auch schon hier oben,
ups, nein, das ist die falsche Richtung.
Wie wir auch schon hier oben hatten,
also die Verbundwahrscheinlichkeit von Flug und Sneak,
die haben wir auch hier schon benutzt.
Das ist die, die hier oben steht.
Nur normalisieren wir jetzt eben,
hier haben wir auf die Wahrscheinlichkeit von Flug normalisiert und
jetzt nochmalisieren wir auf die Wahrscheinlichkeit von Sneaks
Und da sehen wir, dass die Reihenfolge natürlich schon relevant ist.
Also die Wahrscheinlichkeit für Snease Given Fluu ist eine andere als
die Wahrscheinlichkeit für Fluu, gewinnt Snease.
Dass diese Interpretation muss eigentlich mir mal klar sein,
es ist die Wahrscheinlichkeit dieser Beobachtung hier gegeben, bestimmte Evidenz,
die hier hinten steht. Also Beobachtung oder Hypothese, ja,
das ist, wenn ich weiß, er hat Fluu,
was ist die Wahrscheinlichkeit dafür, dass er niesen wird?
Oder eben, wenn ich weiß, dass er liest,
was ist die Wahrscheinlichkeit dafür, dass er Fluu hat?
Im Endeffekt, was entspricht diese bedingte Wahrscheinlichkeit dann in
den Begriffen der Logik
Das ist ein wesentlicher Link, den wir brauchen,
um die beiden Gedankenwelten zusammenzubringen.
Welcher logische Connector ist das ja? Wenn da? Ja,
es ist eine Art Implikation, die wir dort haben.
Also eben, was gegeben die Informationen, ich habe Grippe,
mit welcher Wahrscheinlichkeit folgt dann daraus,
dass ich niesen werde
Also das ist eine Schlussfolgerung, die so eine Art Modus Ponens ist.
Ich weiß A und ich weiß, dass aus A,
B folgt und aus der Wahrscheinlichkeit für Arc und der Wahrscheinlichkeit
für diese bedingte oder auf der Kenntnis dieser bedingten Wahrscheinlichkeit,
kann ich die Wahrscheinlichkeit für Niesen ableiten.
Das ist Vorwärtsinferenz durch Modus Moodus Ponens. Wo waren wir
stehen geblieben? Bei dem hier als symmetrischen,
zu diesem, jetzt kommen komplexere Sachen,
was ist die Wahrscheinlichkeit von Snease gegeben,
Flur ins Nohr
Ja, machen Sie mal, ja. Dann müsste ja
alles passen, es ist dies und du. Genau,
das ist eine Zeile in dem Ganzen hier, ja,
die erste. Ja, die Wahrscheinlichkeit von Fluss. Ja,
die Wahrscheinlichkeit von Flu und Snor,
dass es dann eben, wo der war,
es die erste Zeile und die dritte Zeile addiert.
Gut, dann das Letzte noch,
Flu, gegeben Snießen Snor,
ist dann
so ähnlich
Ja, also auch wieder du und es dies uns nahe,
die Wahrscheinlichkeit von Chris. Ja. Okay, gut. Also,
was wir hier gesehen haben, ist,
dass wir einerseits, wie wir es berechnen können,
und als kleinen Seiteneffekt, haben wir schon gesehen,
dass wir also mit diesen bedingten Wahrscheinlichkeiten so etwas machen können,
wie Kausale schließen, aus A folgt B.
Und das ist im Prinzip das,
was wir bisher immer mit der Implikation modelliert haben.
Wir können jetzt diese Definition der bedingten Wahrscheinlichkeit
hier nehmen und verallgemeinern
Haben wir immer nur zwei Konjunkte drin oder mit anderen Worten
eine Hypothese hier gegeben, eine atomare Evidenz.
Wenn wir das jetzt erweitern auf komplexe Konjunktionen,
dann haben wir eben so einen Ausdruck,
was ist die Wahrscheinlichkeit dafür, dass wir fünf aus,
nein beliebig WN-Aussagen miteinander konjunktiv verknüpfen wollen.
Und da können wir eben so tun, ja,
das ist dann eben die Verknüpfung dieser Aussagen miteinander,
konjunktiv verknüpft mit der letzten FN.
Damit haben wir eine Verbundwahrscheinlichkeit wieder aus zwei Thermen, einerseits das FN,
Andererseits die Kombination all dieser anderen Therme, die dort stehen.
Und das können wir jetzt in die Formel für die bedingte Wahrscheinlichkeit einsetzen,
die sollte man also jetzt immer parat haben,
denn die brauchen wir ständig.
Es ist eigentlich, ich bin schon wieder luschig,
eigentlich müsste ich große Ps schreiben. Typischerweise ist in der Literatur
immer die Verwendung, dass man große Ps nimmt,
wenn man von Wahrscheinlichkeiten redet und kleine Ps,
wenn man von Wahrscheinlichkeitsdichten redet.
Also hier müssten es große Ps sein,
weil es keine dichte Funktionen sind
Gut, also wir können hier hingehen und jetzt das Umformen
nach dem Zähler hier und dann haben wir das Produkt aus
der Evidenz für das eine Konjunkt und der Bedingten Wahrscheinlichkeit gegeben,
die Hypothese gegeben, die Evidenz, wie groß ist die Wahrscheinlichkeit für die Hypothese.
Und genau das machen wir,
das fügen wir jetzt hier ein, indem wir sagen,
wir haben hier die bedingte Wahrscheinlichkeit der Hypothese,
das ist unser letztes Konjunkt,
gegeben,
die Konjunktion aller anderen Faktoren
Und das multiplizieren wir jetzt mit der Wahrscheinlichkeit für diese anderen Faktoren.
Also wir tun so, als ob diese ersten Faktoren hier
unsere Evidenz sind, die wir haben.
Und das ist die Hypothese, die wir ableiten wollen.
Und dann kommen wir auf diesen Ausdruck und das kann man jetzt
Schritt für Schritt fortsetzen und deshalb also der Name Kettenregel auch,
weil sich eine ganze Kette davon ergibt.
Wir können jetzt hier wieder so tun, als ob das unsere Hypothese haar ist.
Und wir tun so, als ob die vorderen Faktoren,
die Evidenz sind und setzen das entsprechend ein.
Hups, das war ein bisschen viel auf alle.
Doch, doch, das kommt alles auf einmal.
Und haben jetzt diesen Therm hier wieder zerlegt in dieses Produkt.
Also die Wahrscheinlichkeit für F von N1 gegeben,
alle die anderen Faktoren hier davor, von F1 bis FN
minus 2. Und dem multipliziert mit der Wahrscheinlichkeit für diese übrigen Faktoren.
Und dann können wir wieder hingehen,
dass wir diese Konjunktion hier zerlegen, in ein Produkt der Wahrscheinlichkeit
Das steht jetzt hier nicht mehr, aber wir setzen es fort,
dass wir irgendwann mal die Wahrscheinlichkeit, die bedingte Wahrscheinlichkeit von F3 gegeben,
die letzten beiden Faktoren drin haben.
Und das können wir wieder zerlegen in,
dieses Produkt F2 gegeben F1, mal der Wahrscheinlichkeit von F1.
Und das können wir denn generalisieren dazu,
dass es das Produkt ist von 1 bis N,
von 1 bis N,
jeweils dir die Wahrscheinlichkeit von FI gegeben,
alle Faktoren bis
Also hier haben wir eben die Faktoren im Bedingungsteil bis F0,
gibt es keins. Hier, die bis F-E-Mailus 1,
also bis F1 und so weiter und so fort,
bis ganz oben hin hier die Faktoren von F1 bis FN minus 1.
Das ist dann, wenn wir N für E einsetzen.
So, das ist das Fatale an dieser Kettenregel. Dieser Verbundwahrscheinlichkeit,
die dort oben steht, also die Wahrscheinlichkeit von einer Reihe
von Aussagen über die Welt, die alle gleichzeitig gelten sollen.
Die braucht man ganz, ganz oft für das propabilistische Schließen.
Dass man feststellen will, oder sagen wir, wenn ich die kenne,
so rum ist das die Erklärung eigentlich am besten,
wenn ich die kenne, kann ich jede beliebige andere Wahrscheinlichkeit doch es ableiten.
Aber die zu berechnen, es eben entsetzlich schwierig,
weil ich eben solche schrecklichen Dinge brauche,
dass ich die Wahrscheinlichkeit einer war, ja,
eines Wertes einer Variablen wissen muss,
in Abhängigkeit von den Wertebelegungen aller anderen Variablen.
Also stellen Sie sich nur vor,
diese Variablen hier sind binär
Dann habe ich hier bereits zwei hoch N-Minus 1 Wahrscheinlichkeiten anzugeben.
Wir müssen jetzt nicht überlegen, wie sieht eigentlich,
wir haben ja vorhin die Frage gehabt,
wie sieht eine iskrete Wahrscheinlichkeitsverteilung aus?
Jetzt haben wir bedingte Wahrscheinlichkeiten. Wie sieht eine bedingte Wahrscheinlichkeit
? P, gegeben E-RP von H gegeben E aus.
Jetzt wieder auf der ganz elementaren Ebene.
Wie spezifiziere ich
so etwas
Also vorhin hatten wir eine Tabelle, wo wir eben hier
die Werte drin hatten und hier die Wahrscheinlichkeit der Werteausprägung.
Ja, und dann haben wir eben hier gesund und krank
und dann steht hier eben 0,9 und hier 0,1 drin.
Das war eine Wahrscheinlichkeitsverteilung für diskrete Beobachtung. In diesem Falle 0 und1. Ja,
wenn wir jetzt bedingte Wahrscheinlichkeiten haben, was... Dennis.
Wer, bitte? Was heißt das? Jens Merkmaler hat
ein Rechtsmerkmal stehen haben zum Beispiel. Genau,
also wir haben hier nur zwei, werden wir annehmen,
das sind Atome, dann haben wir eben die Hypothese und die Evidenz.
Also es ist dann eine Tabelle, wo wir haben,
Die Hypot, nehmen wir mal die Werte der,
wie rum machen wir das?
Hier haben wir die Wahrscheinlichkeit so angegeben, okay,
dann nehmen wir hier die Wahrscheinlichkeit für.
Okay, nehmen wir die Wahrscheinlichkeit des Wertes,
hier nehmen wir wieder den Wert für H, also H gleich V.
Und hier die Wahrscheinlichkeit voll V gegeben.
Gegeben, wie machen wir das? Also sollte man
sich vorher überlegen
Gegeben eh gleich Tu und wir haben dann das Gleiche nochmal
P von V gegeben, eh gleich Fords.
Und diese Tabelle müssen wir füllen. Wir haben also hier
wieder die Werte 0-1. Wir gehen wieder im einfachsten
Fall von einem bilären Problem aus und müssen jetzt aufschreiben,
ja,
dann haben wir eben hier die Wahrscheinlichkeit 0,9 und hier die Wahrscheinlichkeit 0,1 und hier die Wahrscheinlichkeit,
ja,
das muss jetzt dem Gesetz der Gesamtwahrscheinlichkeit genügen
Sagen wir mal 0,7 und 0,3. Also wir haben solche Tabellen
und mit solchen bedingten Wahrscheinlichkeitstabellen wären wir dann im Weiteren rechnen müssen.
Das wird dann auch ein Faktor genannt und wir müssen
solche Faktoren miteinander addieren können oder multiplizieren können.
Das sind dann solche Madridson-Operationen, wo ich eben die möglichen
Werte für die Hypothese kombiniere mit den möglichen Werten für die Evidenz hier hinten.
Also, bedingte Wahrscheinlichkeitsverteilungen haben dann immer diesen Tabellencharakter.
Und wenn dieses E eben jetzt hier aus mehreren Variablen besteht,
dann kriege ich eine zusätzliche Dimension hinzu
Das ist das, was wir, was wir,
wir könnten ja diese Tabelle, die wir hier gesehen haben,
auch jetzt mal im Gedanken interpretieren, als eine bedingte Wahrscheinlichkeit,
ja, was ist die Wahrscheinlichkeit von Flu gleich Truh gegeben,
diese Beobachtung, diese Evidenz, ja,
oder die Wahrscheinlichkeit von Flu gleich Truh gegeben,
diese Beobachtung.
Und dann sehen wir, dass wir die volle Kombinatorik hineinbekommen,
wir haben eine dreidimensionale Tabelle, erste Dimension, zweite Dimension, dritte Dimension.
Und das multipliziert sich eben mit der Anzahl der Dimensionen entsprechend nach oben.
Und deshalb ist es so schrecklich, wenn wir also hier
so leicht hin von solchen Wahrscheinlichkeiten reden, Denn das ist eine enddimensionale Tabelle.
Nun abhängig davon, wie viele Werte wir dann jeweils haben,
es ist also Anzahl der Werte hoch N,
als die Anzahl möglicher Wahrscheinlichkeiten, die wir entweder schätzen müssen auf Daten.
Und wenn Sie also davon ausgehen, dass wir für jede,
jeden guten Parameter wenigstens ein paar Instanzen in die Daten haben müssen,
um die jemals gesehen zu haben, dann wissen Sie,
dass wir für einigermaßen komplizierte Probleme bereits Milliarden an Datensätzen brauchen,
um die nötigen Daten bereitzustellen.
Und das ist umso schlimmer, weil in den meisten praktischen Domänen es so ist,
dass die Verteilung der Ereignisse nicht gleichverteilt ist, sondern abfallenden Exponentialverteilungen gehorcht. Wenn Sie also beispielsweise in der Sprache,
und das kann man auf jeder Ebene machen,
das ist auch so jetzt,
das sollte man mal noch stehen lassen, das ist egal,
ob Sie das auf der Ebene der Buchstaben machen oder auf der Ebene der Wörter,
der Ebene der Silben, der Ebene der Laute,
das ist vollkommen egal, Sie kriegen immer eine Verteilung,
die in einer Rangfolge Ungefähr so aussieht,
und ich kann nur eine Rangfolge angeben,
denn Wörter sind keine geordnete Domäne,
dass sie wenige häufige Wörter haben.
Und sehr, sehr viele Wörter, die einmal oder gar kein Mal auftreten.
Und das ist egal, wie groß sie die Datensammlung machen.
Der Schwanz an Wörtern, die nur einmal oder ganz selten
auftreten, ist riesengroß und dominiert das gesamte Problem.
Und sie wollen aber hier, dass alle jemals aufgetreten sind.
Das heißt, auch die ganzen seltenen Fälle hier müssen hinreichend
oft beobachtet worden sein. Das ist die Krux solcher probablistischer Modelle.
Wie kann ich für solche seltenen Ereignisse die Wahrscheinlichkeit noch schätzen.
Denn die meisten dieser Wahrscheinlichkeiten, die ich hier brauche,
werden gleich null sein, weil ich diese Beobachtung nie gesehen habe.
Und die ganze Kunst besteht jetzt darin, durch diese Nullwahrscheinlichkeiten,
die gesamte Berechnung nicht scheitern zu lassen.
Denn eine Wahrscheinlichkeit von null heißt immer, diese Kombination von Ereignissen darf nie auftreten.
Und ja, in diesem Falle wird eben diese Wahrscheinlichkeit null und wir sehen,
sie geht als Produkt in die Berechnung ein.
Das heißt, wenn eine dieser Kombinationen hier von Milliarden,
von Kombinationen gleich null ist,
bringt sie die gesamte Berechnung zu Fall
Und da muss man dann einen großen Aufwand da rein hin stecken,
dass man hier vernünftige Wahrscheinlichkeitsannahmen macht,
die die realen Verhältnisse möglichst gut approximieren, aber gleichzeitig dafür sorgen,
dass an keiner Stelle im Modell mal eine Nullwahrscheinlichkeit auftritt.
Denn in dem Augenblick, wo die auftritt, heißt das,
dieses Ereignis darf nicht sein und man weiß nie,
ob man es nur zufälligerweise nie gesehen hat oder ob es
systematisch nicht möglich ist, dass das auftritt.
Wir gucken uns also noch Beispiele an,
auch in der Übung,
wo wir etwa Wahrscheinlichkeiten von Wörtern auf die Art und Weise
miteinander kombinieren
Gut, das ist also die Krux des Ganzen hier,
dass wir typischerweise nicht in der Lage sind,
all diese Wahrscheinlichkeiten hier zu schätzen.
Und das Gleiche gilt also auch für subjektive Wahrscheinlichkeiten.
Sie werden keinen Menschen finden, der bereit ist,
die Frage nach solchen bedingten Wahrscheinlichkeiten für 5 Millionen Parametern zu beantworten.
Dem wird es nicht geben, den werden sie nicht finden.
Und da muss man irgendwie sich überlegen, wie man trotzdem
noch zu vernünftigen Ergebnissen kommt. Und die Kunst wird jetzt darin bestehen,
dass wir hier Unabhängigkeitsannahmen machen, dass wir sagen,
dieses FN, von dem wir die Wahrscheinlichkeit wissen,
hat mit dem F-1-17 hier überhaupt nichts zu tun
Also wir brauchen das F-17 überhaupt nicht in die Berücht,
in die Berechnung mit einzubeziehen, wenn wir die Wahrscheinlichkeit von FN wissen wollen.
Und das wollen wir natürlich in so vielen Fällen wie möglich
machen oder andersherum, wir wollen nur die Fälle berücksichtigen,
wo wir ein begründetes Annahme darüber haben,
dass dieser Zusammenhang wirklich relevant ist für die Welt.
Und da kommen wir jetzt eben dazu,
dass wir gegenüber diesem vollständigen Modell, was wir hier haben,
ein vereinfachtes Modell machen werden, in dem wir angeben,
welche Zusammenhänge sind relevant und welche können wir eher unberücksichtigt lassen.
Wir können natürlich auch den Extremfall wählen, dass wir sagen,
Wir lassen all diese Abhängigkeiten hier außer Betracht.
Das geht auch, das ist der dann in der Welt der Klassifikation,
etwa der naive BS-Klassifikator, dann vereinfachen wir das Problem in extremer Weise.
Und das führt typischerweise zu sehr relativ schlechtem Verhalten.
Also ein gewisses Maß an Berücksichtigung der relevanten Zusammenhänge ist erforderlich.
Und wir legen es hier in die Hand des Modelldesigners
zu sagen, was ist wichtig, was ist unwichtig.
Das wird also die Aufgabe des Modellierers sein,
diese Entscheidung zu treffen. Und an der Stelle greifen wir
zurück auf die kausalen Modelle,
die wir
gestern behandelt haben
Wir werden also solche kausalen Modelle aufbauen und nur dort,
wo der Modelldesigner sagt,
da gibt es einen Wirkungszusammenhang von Ursache zu Wirkung.
Da berücksichtigen wir hier die Abhängigkeit und in allen anderen Fällen ignorieren wir sie.
Das wird der Gang der weiteren Dinge sein.
Und dann wird das Ganze auch praktikabel und handhabbar. Gut,
zentrale Grundlage des Spaceischen Schließens ist das Spaceship Theorem,
was also auf den englischen Pfarrer Thomas Space zurückgeht.
Wir können es ableiten aus der Definition der bedingten Wahrscheinlichkeit,
indem wir das umstellen auf die Verbundwahrscheinlichkeit zwischen H und E.
Das ist das, was da steht.
Und wir wissen natürlich, dass das Ding kommutativ ist.
Das heißt also, also die Konjunktion ist kommutativ.
Wir können H und E hier vertauschen. Wir können also
genauso gut sagen, dass, na gut,
also wir stellen das hier um nach P von H und E,
ist dann eben gleich der Verbundwahrscheinlichkeit von H gegeben
Multipliziert mit der Wahrscheinlichkeit für E. Und das Gleiche machen wir
jetzt symmetrisch dazu, aus der bedingten Wahrscheinlichkeit von E gegeben,
H, multipliziert mit der Apri-Ori-Wahrscheinlichkeit von H.
Und das ist das basische Theorie,
das können wir dann in verschiedener Art und Weise verwenden.
Typisch wird eine Verwendungsweise sein, die muss jetzt gleich kommen.
Das ist also der eine Schritt,
das ist der andere Schritt, der da drüben steht.
Und solange eben eh ungleich null ist,
können wir das Ganze nach H von E umstellen.
Das ist ja das, was wir hier haben,
auch vorhin schon betrachtet haben und haben das basische Theorie.
Und das sagt uns, wir haben eine Eine Apostereooori-Wahrscheinlichkeit einer Hypothese,
nachdem wir eine Beobachtung in der Welt gemacht haben.
Und das berechnen wir aus einer Apri-Ori-Wahrscheinlichkeit über die Hypothese.
Also wie wahrscheinlich ist es, dass jemand krankes oder gesund ist?
Wie wahrscheinlich ist es, dass das ein 10-Euro-Schein ist,
wie wahrscheinlich ist es, dass ich ein Ziel erreiche,
wenn ich rechts abbiege.
Und das multiplizieren mit einer sogenannten Lightly Hood,
die sagt, wie groß ist eine Beobachtung,
gegeben eine Hypothese
Das ist jetzt ein generatives Modell, was uns sagt,
wir stecken Hypothesen hinein und wir kriegen Beobachtungen raus.
Das generiert uns sozusagen, wie würde die Welt aussehen,
wenn wir bestimmte Annahmen über die Welt machen.
Also, mit anderen Worten, wie sehen typischerweise,
das war ja die Apriori-Wahrscheinlichkeit davon,
sind die Leute krank oder gesund?
Dann ist das, also ich nehme an, die Leute sind gesund.
Wie sehen dann die Beobachtungen gesunder Leute aus?
Oder ich nehme an, die Leute sind krank.
Das sind die Beobachtungen,
die ich an kranken Menschen machen kann
Und, sorry, oder aber umgekehrt, ich weiß,
das ist, ich rede von 10 und 20-Euro-Scheinen.
Ich habe die Hypothese, es ist ein 10-Euro-Schein, wie sehen typische 10-Euro-Scheine aus?
Und an der Stelle können wir schon sehen, dass wir unsere,
dass wir da eine Unsymmetrie drin haben bezüglich der unterschiedlichen Datentypen,
die wir betrachten können und des Aufwandes,
der erforderlich ist,
diese zugrunde liegenden Wahrscheinlichkeiten zu ermitteln.
Wir könnten ja natürlich auch hingehen und direkt
diese Wahrscheinlichkeiten schätzen
In den meisten Fällen wird es so sein, dass wir das nicht effizient machen können. Also stellen Sie sich vor,
wir haben Beobachtungen, da müssen wir alle Kombinationen von Beobachtung,
das ist genau dieses kombinatorische Problem,
was wir gerade durchdiskutiert haben, über die Kettenregel,
da müssen wir alle Kombinationen dieser Beobachtung jemals vorliegen haben,
ehe wir in der Lage sind, zur Schätzen,
wie groß ist die Wahrscheinlichkeit, dass in dieser Welt,
die durch diese Beobachtung beschrieben ist,
diese Hypothese gilt.
Umgekehrt haben wir hier nur eine begrenzte Anzahl von Hypothesen
in praktischen Fällen. Also Diagnose beispielsweise, wir haben drei
verschiedene Krankheiten,
die wir unterscheiden wollen
Im Falle dieser Diagnose im elektrischen System,
haben wir eben drei oder vier verschiedene Annahmen,
die wir machen können über die zu liegenden,
zugrunde liegenden Gründe dafür, dass irgendetwas nicht funktioniert.
Also Sicherung ist durchgebrannt oder Sicherung ist nicht reingeschraubt oder was auch immer. Das heißt also,
hier haben wir nur relativ wenig Fälle zu berücksichtigen,
wenn wir die Hypothesen betrachten, wenn wir die Evidenzen betrachten,
also die Beobachtung in der Welt,
dann ist die Anzahl der Kombinationen typischerweise wesentlich größer.
Also in den meisten Fällen ist es leichter,
dieses hier zu schätzen, als dieses hier zu schätzen.
Und das ist der Grund, weshalb man die basische Regel anwendet.
Es ist einfacher, diese Wahrscheinlichkeiten zu schätzen,
die ist sowieso ziemlich trivial, als diese Wahrscheinlichkeit zu schätzen.
Und für viele Anwendungen ist man gar nicht an der Wahrscheinlichkeit
selber interessiert, sondern nur an der Frage,
ist die Wahrscheinlichkeit für Hypothese A größer als die Wahrscheinlichkeit für Hypothese B.
Also für den Roboter soll ich lieber links rumfahren oder soll
ich lieber rechts rumfahren? Ich will gar nicht wissen,
wie groß die Erfolgswahrscheinlichkeit ist. Ich will nur wissen,
was ist die beste Politik oder die beste Strategie,
die ich jetzt anwenden kann. Und dafür reicht es völlig aus,
dass ich den Zähler dieses Ausdrucks betrachte,
die Wahrscheinlichkeit der Evidenz hier, brauche ich für viele Zwecke nicht,
denn die ist unabhängig von den Hypothesen.
Die ist für alle, alle Hypothesen gleich groß.
Das ist eine Konstante, die in den jeweiligen Entscheidungsfall
eingeht und deshalb kann ich den Zähler üblicherweise vergessen.
Nicht den Zähler vergessen, den Nenner bitte vergessen.
Der hier unten wird dann vernachlässigt,
dann betrachtet man also nur noch die Proportionalität zwischen der Apriori,
der Apostereori-Wahrscheinlichkeit und dem Produkt aus Likely Hood und Apriori-Wahrscheinlichkeit
Das ist also der Kern des besten Schließens.
Und diese, das wird eben dieser basische Regel,
die wird eben in den verschiedensten Gebieten zugrunde gelegt.
Ich hatte ja gestern erwähnt, dass das benutzt wird,
um beispielsweise die Integration von Sinneswahrnehmungen in verschiedenen Kanälen des menschlichen Perzeptionsapparates zu erklären.
Dass ich also Aussagen darüber mache,
wie auf welchen Sinneskanal lege ich mehr Wert gegeben,
die Unsicherheit,
die mit diesem Sinneskanal verbunden ist
Das läuft auch auf die Anwendung dieser basischen Regel zurück.
Fast alle, nein, alle propabilistischen Klassifikatoren basieren auf dieser,
der Anwendung dieser basischen Regel.
Was ich noch vergessen habe zu diskutieren, ist die Frage,
dass wir natürlich hier ein spezielles Problem haben,
wenn wir diese Wahrscheinlichkeiten schätzen wollten,
wenn wir kontinuierliche Modelle verwenden müssen.
Dann ist dieser Raum der Evidenzen hier
unendlich groß
Dann scheitert die direkte Schätzung dieser Wahrscheinlichkeiten vollständig. Während dies hier
, die Hypothesen, sind immer diskret. Eine Hypothese,
die ich über die Welt mache, ist immer eine diskrete Hypothese.
Hier habe ich endlich viele Hypothesen und ich kann diese Wahrscheinlichkeiten
tatsächlich gegeben, die Hypothesen dann abschätzen.
Auch wenn diese Evidenzen hier kontinuierlich sind,
dann habe ich hier eben eine Gaussverteilung,
konditioniert auf eine bestimmte Annahme über die Welt.
Also was weiß ich, wie verteilen sich die Farben
auf dem Geldschein gegeben, dass es einen 100-Euro-Schein sein soll
Und dann habe ich eben hier nur fünf oder sechs verschiedene Geldscheine,
die ich betrachten muss,
während hier müsste ich sämtliche möglichen Kombinationen von Farbverteilungen betrachten.
Und das kann ich nicht. Also es gibt für kontinuierliche Domänen typischerweise
gar keinen richtigen anderen Weg, diese Wahrscheinlichkeiten zu schätzen.
Als dieses generative Modell hier zu bauen und dann über die
basische Regel die Apossio-Wahrscheinlichkeit daraus abzuleiten.
Das ist das typische Herangehen an dieser Stelle
Ja, also, wir haben einerseits die Frage,
warum ist es interessant, dieses mit den basischen Theorien zu arbeiten?
Wir sind eben in der Lage, kausales Wissen und
kausales Wissen schreibt sich in vielen Fällen eben einfacher auf,
als evidenzbasiertes Wissen in Evidenzschlussfolgerung zu benutzen.
Also, wir haben ein Wahrscheinlichkeitsverteilung, welche Symptome beobachte ich gegeben,
eine bestimmte Krankheit. Ja, das kann ich aufschreiben,
weil es eben einen überschaubaren Bereich an Krankheiten gibt,
weil es im Gegensatz dazu,
dass es einen sehr,
sehr großen kombinatorischen Raum von Symptomen gibt
Wenn ich alle Symptome, die ich an einem Menschen
messen und beobachten kann, in kombinatorischer Weise Zusammenfüge,
dann ist das ein entsetzlich großer Wertevorrat, den ich dort habe.
Während das ist überschaubar. Ich möchte es aber trotzdem in der umgekehrten Richtung benutzen,
dass ich also die Wahrscheinlichkeit der Krankheit gegeben, die Symptome berechne.
Denn das brauche ich zur Diagnose. Das kann ich
leicht beobachten, das brauche ich zur Diagnose.
Und den Zusammenhang gibt genau die beste Regel. Das ist nämlich,
diese Abhängigkeit haargegeben, eh umgekehrt, die Wahrscheinlichkeit der Evidenz gegeben,
eine Hypothese umwandelt in die Wahrscheinlichkeit für die Hypothese gegeben,
die Evidenz
Und das ist eben in verschiedenen Anwendungsszenarien, also für diese elektrische Domäne,
kann ich eben die Wahrscheinlichkeit dafür, dass das Licht aus ist,
wenn ich bestimmte Zusammenhänge in der Welt habe,
also wie stehen die Schalter und sind sie in Ordnung oder sind sie nicht in Ordnung und was ich haben will,
ist aber, was ist die Wahrscheinlichkeit der Schalter,
wenn dann das Licht aus ist und die, nein,
was ist der Status, der Schalter,
also sind die Schalter in Ordnung oder nicht,
in Ordnung,
wenn denn das Licht nicht brennt und ich kenne zusätzlich
die Schalterposition
Ja, hier sehen wir also auch,
dass die Schalterposition in beiden Fällen im Bedingungsteil der Wahrscheinlichkeit drinstehen und was nur geschwändert hat,
ist die Beobachtung und die Ursachen für die Beobachtung.
Die haben die Position gewechselt. Das ist das für diesen Feueralarm
. Also ich habe die Beobachtung oder das kausale Wissen,
dass wenn es ein Feuer gibt,
mit großer Wahrscheinlichkeit ein Alarm ausgelöst wird, nicht immer,
aber mit großer Wahrscheinlichkeit.
Und was ich haben möchte, ist,
wenn denn ein Alarm ausgelöst wird,
mit welcher Wahrscheinlichkeit ist tatsächlich
ein Feuer beobachtet
Oder eben Unfallverhütungssachen, ja, ich habe eben die Beobachtung,
dass ein Baum sich vor dem Auto befindet und wie groß ist die Wahrscheinlichkeit,
dass ich gegen den Baum da dran fahre.
Das sind also mögliche Anwendungsszenarien. Das ist die Frage,
warum ist es interessant? Warum brauchen wir es,
die Frage, warum ist es interessant? Die zweite Frage ist,
warum brauchen wir es? Das haben wir schon vorher diskutiert,
dass es also in vielen Fällen nicht möglich ist,
die Wahrscheinlichkeiten für den evidenziellen Zusammenhang tatsächlich zu schätzen,
für den kausalen, es ist typischerweise einfacher und dies gilt insbesondere dann,
wenn wir über kontinuierliche Domänen sprechen.
Wenn wir also Gauss-Verteilungen angeben müssen oder Mischverteilungen angeben müssen,
um Aussagen über die Welt zu machen,
dann ist es eben immer einfacher zu sagen,
wir konditionieren auf die Kategorien und haben hier eine kontinuierliche Verteilung über bestimmten Messwerten.
Und das müssen nicht nur eindimensionale Verteilung sein,
das können hochdimensionale Verteilungen sein.
Also was weiß ich, für die Spracherkennung nehmen wir üblicherweise
sowas um die 40 Dimensionen
Das sind hochgradig dimensionale Räume, die da betrachtet werden.
Okay, das soviel zum Einstieg. Hast du Ornismus hier?
Jetzt kommt der Schritt, wie wir das tatsächlich dieses Engineering machen,
dass wir jetzt eine konkrete Domäne beobachten wollen.
Und dazu machen wir Unabhängigkeitsannahmen. Wir wollen immer sagen,
welche Bajablen in unserem Modell haben nichts miteinander zu tun,
zwischen denen es keinen kausalen Einfluss gibt,
wo der Wert der einen Vajablen den Wert der anderen Vajablen beeinflussen kann.
Und sei es auch nur in einem schwachen, probabilistischen Zusammenhang.
Und das geht auf den Unabhängigkeitsbegriff in der Mathematik zurück.
Wenn ich also eine bedingte Verteilung habe über X gegeben,
eine Kombination aus Y und Z und ich kann feststellen,
durch Beobachtung, wir können das Spießen natürlich umdrehen dann,
ich kann feststellen, dass die Wahrscheinlichkeit,
die ich hier brechne,
nicht beeinflusst wird von den Werten von
Also, ich kann die Werte von Y austauschen, ich kann sie auch ganz weglassen.
Und trotzdem ändert sich an der Wahrscheinlichkeit für X überhaupt nichts.
Die Wahrscheinlichkeit für X ist ausschließlich abhängig von den Werten für Z.
Dann kann ich sagen, dass X und Y unabhängig voneinander sind.
Also, Y hat hier keinerlei Einfluss auf die Wahrscheinlichkeit einer Wertebebelegung für die vaiablen X.
Und das ist eine Unabhängigkeit. Ich kann also so herangehen,
dass ich hier durch die Beobachtungen das nachweise,
dass es natürlich wieder der problematische Weg,
der typische Weg wird sein, dass ich durch Überlegung,
durch Intelligenz versuche, Annahmen darüber zu machen,
wo diese Annahme möglicherweise gerechtfertigt sein wird und an welchen Stellen sie nicht gerechtfertigt sein wird.
Und da fließt eben mein Wissen über die Domäne ein,
was ich habe, dass ich eben über das Auto ungefähr weiß,
wie die verschiedenen Teile dort zusammenwirken und von daher plausible Annahmen machen kann,
dass etwa die Beladung des Kofferraums keinen Einfluss auf die Drehzahl des Motors haben sollte.
Dass aber die Stellung des Gaspedals schon einen Einfluss auf die Drehzahl des Motors haben sollte.
Solche Unterscheidungen kann ich aufgrund der Kenntnisse über die Domäne machen,
da muss ich nicht an dem Auto erst messen,
ob dieser Zusammenhang hier tatsächlich gilt,
dass eben die Beladung des Kofferraums keinen Einfluss auf die Größe der Variablen X hat.
Dass dieser empirische Ansatz, der wird hier zur Definition herangezogen,
ist aber nicht der Weg, den man praktischerweise tatsächlich geht.
Also wir gucken uns wieder diese Schaltungskreisdomäne an, hier mit Schaltern,
Lampen und so weiter und so fort und wollen jetzt,
ups, wollen Fragen der Art beantworten, nein,
wir machen erstmal Annahmen über die Unabhängigkeit,
erstmal sozusagen out of the main annahmen,
dass alles,
was in der Domäne keine Rolle spielt,
als unabhängig angenommen wird
Also hier ist fiktiv die Königin von Kanada genannt, die es natürlich nicht gibt.
Kanada gehört ja zum Commonwealth dazu und hat die britische Krone dadurch als Staatsform,
das hat aber nichts damit zu tun,
ob ein Schalter in einer bestimmten,
ob eine Lampe vorhanden ist oder ob irgendwo Spannung anliegt und so weiter.
Dazwischen kann man Unabhängigkeit annehmen. Also nichts von außerhalb
des Modells hat irgendeinen Einfluss auf die Wirkungsweise des Modells
Alles andere in der Welt ist irrelevant. Das ist sozusagen
wieder eine Art Complete Knowledge Assanction. Dass wir sagen,
alles, was darüber hinaus existiert, das interessiert uns nicht.
Selbst wenn ich also stärker in die Domäne hineingehe,
über Personen in der Domäne ist nichts gesagt.
Also ob da eine Person in dem Raum ist oder nicht drin,
es sollte keinen Einfluss darauf haben,
ob die Lampe brennt und in Abhängigkeit davon habt ihr Schalter eine bestimmte Position hat.
Oder aber die Lampe brennt, sollte unabhängig davon sein,
Von der Schalterposition S2 gegeben, dass in B0 Spannung vorhanden ist.
Und jetzt sehen wir die Bedeutung von bedingten Wahrscheinlichkeiten.
Wir wissen, wir haben die Evidenz.
W0 steht unter Spannung. Und dann sollte die Stellung des
Schalters S2 keinerlei Einfluss haben auf das Brennen der Lampe.
Also wir wissen, wen 0 steht unter Spannung.
Das ist dieses hier. Dann ist das Ganze unabhängig davon,
in welcher Position der Schalter steht. Das ist also ein
ganz wesentlicher Schritt des Schließens in basischen Netzen dann,
dass in dem Augenblick, wo ich diese Information habe,
ist egal,
was hier außenrum
herum passiert
Ich weiß, dass das der Fall ist, also müsste die Lampe eigentlich brennen.
Alles, selbst die Schalterstellung hier ist irrelevant,
das interessiert mich nicht, woher die Spannung kommt.
Sie ist da. Das ist ein Bedingungsteil.
Also wenn ich sage, die Wahrscheinlichkeit von A,
gegeben B, heißt das B, weiß ich sicher.
Und dann ist nur noch zu erklären, welche Auswirkungen hat
dieses sichere Wissen auf die Wahrscheinlichkeit einer bestimmten Beobachtung.
Das ist also dieser Fall. Oder aber generell,
dass jede andere Variable unabhängig davon ist, Wenn denn bekannt ist,
dass in Venull Spannung ist und ich weiß,
dass die Lampe in einem bestimmten Zustand ist.
Dann weiß ich alles über diesen lokalen Teil meines Problems.
Ich kenne den Zustand der Lampe. Ich weiß, dass
hier Spannung da ist. Und daraus kann ich die Wahrscheinlichkeit
vollständig ableiten, ob sie brennt oder ob sie nicht brennt.
Alles, was hier außen drumherum ist, muss ich nicht mit einbeziehen.
Das ist eine ziemlich starke Unabhängigkeitsannahme, die man machen kann.
Und die basiert im Prinzip darauf, dass wir bestimmte Ja,
bestimmte Evidenz über die Welt bekannt ist.
Und das beantwortet Ihre Frage dann von vorhin auch,
was ist Evidenz eigentlich? Evidenz ist jetzt die Beobachtung,
in welcher Position steht der Schalter, oder nein,
hier in diesem Fall hatten wir die Beobachtung,
steht diese Leitung hier unter Spannung, ja oder nein?
Und gegeben dieses Wissen reduziert sich dann,
die reduzieren sich die Anzahl möglicher Welten dramatisch,
weil ich nämlich diese ganzen möglichen Welten,
die sich aus den unterschiedlichen Schalterstellungen und so weiter hier ergeben,
überhaupt nicht mehr betrachten muss.
Das ist der Trick, auf dem das ganze Rieseling
dann beruht
Und das modelliere ich jetzt in Form solcher grafischen Netze und
deshalb heißen die auch Graphical Models. Das war gestern das Thema,
nein, ja doch, gestern Abend das Thema im Kolockwiebungsvortrag,
wie man Graphical Models einsetzen kann für die unterschiedlichen,
für unterschiedlichste Aufgaben im Bereich der sozialen Netze, speziell mit Anwendung auf diesen Spielbereich.
Die Idee ist also immer, dass ich angebe,
dass ich verschiedene Variablen habe hier, das sind die Kreise,
die sagen mir, Draht W0 steht unter Spannung, Draht
W1 steht unter Spannung, Draht W2 steht unter Spannung.
Der Status des Schalters S2 ist ein ganz bestimmter
Die Position des Schalters S2 ist eine ganz bestimmte.
Und die Position des Schalters S2 plus,
der Status des Schalters S2 plus die Spannung in Draht W1,
die beeinflussen die Frage, ob B0 unter Spannung steht.
Ach so, plus auch noch die Frage, ob wir zwei.
Das ist die Wechselschaltung. Wir haben gerade das komplizierteste Problem
am Anfang gestellt. Das ist die Wechselschaltung. Also die Frage,
wie dieser Schalter, ob der in Ordnung ist,
wie er steht und ob hier eine Spannung anlegt und hier eine Spannung anlegt.
Das sind die vier Einflussfaktoren, die bestimmen,
ob wir null unter Spannung steht
Das sind diese vier reinkommenden Pfeile hier. Oder eben die Frage,
ob die Lampe eins brennt oder nicht,
es abhängt nur abhängig davon,
ob Venull unter Spannung steht und in welchem Zustand die Lampe ist.
Ob sie ganz oder kaputt ist. Das gibt dann unsere Beobachtung,
sodass also hier unten als Endknoten des basischen Netzes die Beobachtung haben,
die wir machen können.
Und an den Anfangspunkten des basischen Netzes haben wir die möglichen Ursachen.
Also die Annahmen, die wir über die Welt machen können,
die uns erklären,
warum diese Beobachtung eintritt oder nicht eintritt
So, und in einem solchen Graphen ist dann der Begriff der Elternknoten wesentlich.
Die Elternknoten sind also immer die Vorgängerknoten zu einer gegebenen Vajablen.
Und nur von diesen Elternknoten ist der,
ist die Wahrscheinlichkeitsverteilung an dem Nachfolgeknoten abhängig, von nichts anderem.
Und auf die Art und Weise kann ich die Berechnung im Wesentlichen
auf lokale Zusammenhänge konzentrieren und muss nicht die globale Wertebelegung über das gesamte Netz betrachten.
In dem Augenblick, wo ich diese Wahrscheinlichkeitsverteilung kenne und
diese Wahrscheinlichkeitsverteilung kenne, kann ich über diese bedingten Wahrscheinlichkeiten hier
diese Wahrscheinlichkeitsverteilung ausrechnen
Gut, und, mit anderen Worten, es gibt Unabhängigkeitsannahmen,
also dieses L1 ist unabhängig von den anderen Variablen,
wenn ich weiß, wie diese Werte sind.
Das ist der Kern der Unabhängigkeitsannahme,
immer und Unabhängigkeit kann ich also nicht statisch angeben,
sondern Unabhängigkeit ist immer gerade von meinem aktuellen Wissensstand abhängig.
Wenn ich aus irgendeiner Quelle weiß,
wie der Wert hier ist,
dann ist diese Wahrscheinlichkeitsverteilung hier eine 1-0-Verteilung,
die also sagt,
jawohl,
es steht unter Spannung oder eben gerade nicht
Während ich ohne dieses Wissen hier mit Wageninformationen mit Standardannahmen,
ja zu 90 Prozent,
wird es, wird es wohl unter Spannung stehen,
aber sicher bin ich mir natürlich nicht arbeiten muss.
Und da in dem Augenblick, wo ich das sicher weiß,
dann ist es unabhängig von all dem, was hier außen ist.
Das hat dann keinen Einfluss mehr auf diese Wahrscheinlichkeit,
weil es durch diese Wahrscheinlichkeit praktisch abgeschirmt wird von der Umgebung.
Gut, also was ist ein Beliefnetz oder basisches Netz oder kausales Netz,
die Dinger haben, unendlich viele unterschiedliche Bezeichnungen in der Literatur,
aber laufen im Endeffekt immer wieder auf dieselbe Sache hinaus.
Wir haben eine Menge von Vajablen, die aus irgendeinem Grunde
für uns interessant sind. Wir benutzen die Kettenregel der Wahrscheinlichkeitstheorie.
Wir können zu jedem Knoten seine Elternknoten angeben,
das sind die Vorgängerknoten in dem Grafen und die dann,
wenn ich die Werte kenne,
den aktuellen Knoten von der Umgebung abschirmen,
also von anderen Vorgängerknoten
eine Unabhängigkeit herstellen
Und wenn das so ist,
kann ich jetzt also die Verbundwahrscheinlichkeit, die wir hatten,
das ist die Wahrscheinlichkeit der konjunktiven Verknüpfung all dieser vaiablen Belegungen,
berechnen als das einfache Produkt und jetzt nicht mehr über die Kettenregel,
dass ich hier all diese bedingten Wahrscheinlichkeiten aufzähle,
mit möglicherweise zehn oder zwölf Fairyablen da drin,
sondern nur noch in Abhängigkeit von den Elternknoten.
Ja, ich brauche immer nur noch die bedingte Wahrscheinlichkeit des
aktuellen Wertes von den Werten der Elternknoten.
Und das ist jetzt eine Frage, wie kompliziert ist das Netz?
Da haben wir eben hier die einfachen Fälle,
dass eine vaiable von zwei anderen abhängig ist,
das ist also eine dreidimensionale Tabelle,
die wir haben
Haben wir eine Variable abhängig von vier anderen. Das ist eine fünfdimensionale Tabelle.
Aber es ist wenigstens keine 20-dimensionale Tabelle oder 40-dimensionale Tabelle.
Die Tabellen sind also gegenüber dem allgemeinen Fall der Abhängigkeit alles von allem deutlich reduziert.
Ich muss sie eben jetzt nur noch berücksichtigen,
was ist die Abhängigkeit des aktuellen Knotens oder der Wahrscheinlichkeitsverteilung an
dem aktuellen Knoten von den Wahrscheinlichkeitsverteilungen an den Elternknoten.
Gut, und dann sind eben,
ist das genannte Netz dann schließlich ein Graf, wo die Knoten,
die Zufallsvajablen sind und von den Elternknoten zu den Kinderknoten immer jeweils ein Pfeil geht.
Und dieser Pfeil modelliert einen stochassischen Einfluss vom Elternknoten auf den Kindknoten.
Gut, damit haben wir den Begriff des Netzes auch da. Also im Prinzip,
wenn man das nochmal zusammenfasst, ein gerichteter Art zyklischer Grab,
der sollte arzyklisch sein, weil wir natürlich nicht wollen,
dass wir eine zirkuläre Beeinflussung haben, zirkuläre Beeinflussungen führen immer dazu,
dass entweder ein verstärkender oder abschwächender Effekt entsteht, der das Ganze,
die Wahrscheinlichkeit auf null bringt oder auf eins bringt,
das müssen wir ausschließen.
Deshalb also Ohne Zyklen, wo aber gerichtet,
der Einfluss ist immer von den Ursachen zur Wirkung gerichtet,
also kausale Modelle werden betrachtet.
Wir haben eine Domäne für jede Zufallsvajable, die sagt,
welche Werte sind dort dran zugelassen. Und wir haben bedingte Wahrscheinlichkeiten,
das sind nämlich genau diese Tabellen hier jetzt,
und zwar an jedem Pfeil steht eine solche bedingte Wahrscheinlichkeitstabelle dran,
wo eben jetzt der Zusammenhang zwischen den Werten des Kindknotens
in Abhängigkeit von den Werten der Elternknoten
modelliert ist
Wenn es keine Elternknoten gibt,
dann degeneriert die Tabelle natürlich zu dem Fall der Apri-Ori-Wahrscheinlichkeit.
Dann habe ich keine Abhängigkeit zu irgendwelchen Elternknoten zu berücksichtigen.
Gut, das soll es für heute gewesen sein.
Schönen Dank und bis nächste Woche.