Monsterdiskussion

From ImageWiki

(Difference between revisions)
Jump to: navigation, search
 
Line 3: Line 3:
== Regularisering og sin(x)+10^9 ==
== Regularisering og sin(x)+10^9 ==
-
 
+
Jeg mener det var [[User:Hauberg|
   Note that often the coefficient w_0 is omitted from the regularizer [...]
   Note that often the coefficient w_0 is omitted from the regularizer [...]
Line 12: Line 12:
 +
 +
=== Kommentar af S?ren Hauberg ===
 +
N?r jeg spurgte til sin(x)+10^9 var det et fuldst?ndigt vilk?rligt valg der blot skulle illustrere at at det at regularisere med l?ngden af w er temmeligt vilk?rligt. Mit problem var at bogen (og forel?sningen) pr?senterede f?lgende logik:
 +
 +
giver et d?rligt datafit, hvorfor vi konkluderer at store koefficienter er dumme.
 +
Min pointe var derfor blot at store koefficenter ikke ''n?dvendigvis'' er skidt. Den Bayesianske tilgang gjorde det langt mere klart hvorfor man kunne komme til konklussionen om ''dumme store koefficenter''. Her gjorde man den ''antagelse'' (gennem a priori viden) at koefficentvektoren var normalfordelt med middelv?rdi 0. Udfra denne ''antagelse'' giver det fin mening at straffe store koefficienter, men det er vigtigt at huske at udganspunktet er en ''antagelse''.

Latest revision as of 13:04, 7 February 2007

Personal tools