Sup. Vekt. Maschine Formel < Künstl. Intelligenz < Praktische Inform. < Hochschule < Informatik < Vorhilfe
|
Aufgabe | [mm] \min_{w,b} \frac{1}{2}||w||^2 \\
[/mm]
s.t. [mm] \thinspace\thinspace y_i(\vec{w}\cdot\vec{ x} [/mm] + [mm] b)\ge [/mm] 1, i=1...m |
Hallo!
ich versuche gerade die Formel bei der Support-Vektor-Maschine nachzuvollziehen. Es geht mir hier erstmal nur um den einfachsten linearen Fall ohne Schlupfvariable.
Ich verstehe, dass [mm] y_i(\vec{w} \cdot \vec{ x} [/mm] + b) = [mm] \gamma [/mm] der functional margin ist.
Soweit ich verstehe, wird dieser functional margin durch [mm] \left \| \vec{w} \right \| [/mm] normiert, weil man sonst eine Hyperebene mit kleinstem functional margin ja beliebig skalieren könnte und hätte so das Problem, dass man unendlich viele Hyperebenen hätte und die beste nie findet.
Was ich nicht verstehe, ist, warum man noch festlegt, dass der functional margin 1 sein soll?
Ich habe mir das, unter anderem, hier angeschaut Understanding the mathematics behind Support Vector Machines aber dieser Punkt wird dort nicht so genau erklärt, finde ich. Zumindest kann ich es nich nachvollziehen.
Konkret geht es um diese Aussage: "If we rescale w and b, we are still maximizing M and the optimization result will not change. Let’s rescale w and b and make F=1"
Ich habe diese Frage in keinem Forum auf anderen Internetseiten gestellt.
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 00:58 Mi 31.07.2019 | Autor: | Marc |
Hallo FidelerBudenzauber
> Konkret geht es um diese Aussage: "If we rescale w and b,
> we are still maximizing M and the optimization result will
> not change. Let’s rescale w and b and make F=1"
Meine Gedanken dazu:
Dadurch, dass man doch auch eine Lösung mit F=1 finden kann, wird die Zielfunktion
[mm] $\max_{w,b} [/mm] M$
(die ja noch von w und b abhängt)
vereinfacht zu
[mm] $\max_{w,b} \frac{F}{\|w\|}$ [/mm] bzw. [mm] $\max_{w,b} \frac{1}{\|w\|}$
[/mm]
(was nur von w abhängt)
Das reicht meiner Meinung nach als Motivation für diese Überlegung.
Viele Grüße
Marc
|
|
|
|
|
Status: |
(Mitteilung) Reaktion unnötig | Datum: | 12:20 Do 01.08.2019 | Autor: | matux |
$MATUXTEXT(ueberfaellige_frage)
|
|
|
|