Teorema lui Bayes si inferenta bayesiana

Teorema lui Bayes descrie cum se actualizeaza probabilitatile pe baza de dovezi noi. E fundamentul inferentei bayesiene, al clasificatorului Naive Bayes, si al MCMC. Fara Bayes, machine learning-ul n-ar exista.

Avansat 18 min 06 July 2026
Bayes probabilitate inferenta Naive Bayes MCMC posteriori

Forma generala

P(A|B) = P(B|A)·P(A) / P(B)

P(A) = prior (cunostinte initiale) P(B|A) = likelihood (cat de probabil e B daca A e adevarat) P(A|B) = posterior (cunostinte actualizate) P(B) = evidence (probabilitatea totala a lui B)

Priorul conjugat

O familie de distributii unde priorul si posteriorul au aceeasi forma. Exemplu: Beta prior + binomial likelihood = Beta posterior. Simplifica calculele analitic.

Naive Bayes

Presupune independenta conditionala: P(x₁...xₙ|y) = Π P(xᵢ|y). Desi ipoteza e falsa aproape intotdeauna, clasificatorul functioneaza surprinzator de bine in practica.

Inferenta bayesiana vs frecventista

Bayesiana: parametrul e o variabila aleatoare, avem un prior, calculam posteriorul. Frecventista: parametrul e fix si necunoscut, estimarile sunt variabile aleatoare.