matheraum.de
Raum für Mathematik
Offene Informations- und Nachhilfegemeinschaft

Für Schüler, Studenten, Lehrer, Mathematik-Interessierte.
Hallo Gast! [ einloggen | registrieren ]
Startseite · Forum · Wissen · Kurse · Mitglieder · Team · Impressum
Forenbaum
^ Forenbaum
Status Hochschulmathe
  Status Uni-Analysis
    Status Reelle Analysis
    Status UKomplx
    Status Uni-Kompl. Analysis
    Status Differentialgl.
    Status Maß/Integrat-Theorie
    Status Funktionalanalysis
    Status Transformationen
    Status UAnaSon
  Status Uni-Lin. Algebra
    Status Abbildungen
    Status ULinAGS
    Status Matrizen
    Status Determinanten
    Status Eigenwerte
    Status Skalarprodukte
    Status Moduln/Vektorraum
    Status Sonstiges
  Status Algebra+Zahlentheo.
    Status Algebra
    Status Zahlentheorie
  Status Diskrete Mathematik
    Status Diskrete Optimierung
    Status Graphentheorie
    Status Operations Research
    Status Relationen
  Status Fachdidaktik
  Status Finanz+Versicherung
    Status Uni-Finanzmathematik
    Status Uni-Versicherungsmat
  Status Logik+Mengenlehre
    Status Logik
    Status Mengenlehre
  Status Numerik
    Status Lin. Gleich.-systeme
    Status Nichtlineare Gleich.
    Status Interpol.+Approx.
    Status Integr.+Differenz.
    Status Eigenwertprobleme
    Status DGL
  Status Uni-Stochastik
    Status Kombinatorik
    Status math. Statistik
    Status Statistik (Anwend.)
    Status stoch. Analysis
    Status stoch. Prozesse
    Status Wahrscheinlichkeitstheorie
  Status Topologie+Geometrie
  Status Uni-Sonstiges

Gezeigt werden alle Foren bis zur Tiefe 2

Navigation
 Startseite...
 Neuerdings beta neu
 Forum...
 vorwissen...
 vorkurse...
 Werkzeuge...
 Nachhilfevermittlung beta...
 Online-Spiele beta
 Suchen
 Verein...
 Impressum
Das Projekt
Server und Internetanbindung werden durch Spenden finanziert.
Organisiert wird das Projekt von unserem Koordinatorenteam.
Hunderte Mitglieder helfen ehrenamtlich in unseren moderierten Foren.
Anbieter der Seite ist der gemeinnützige Verein "Vorhilfe.de e.V.".
Partnerseiten
Weitere Fächer:

Open Source FunktionenplotterFunkyPlot: Kostenloser und quelloffener Funktionenplotter für Linux und andere Betriebssysteme
Startseite > MatheForen > Uni-Sonstiges > relative Redundanz
Foren für weitere Schulfächer findest Du auf www.vorhilfe.de z.B. Deutsch • Englisch • Französisch • Latein • Spanisch • Russisch • Griechisch
Forum "Uni-Sonstiges" - relative Redundanz
relative Redundanz < Sonstiges < Hochschule < Mathe < Vorhilfe
Ansicht: [ geschachtelt ] | ^ Forum "Uni-Sonstiges"  | ^^ Alle Foren  | ^ Forenbaum  | Materialien

relative Redundanz: H_{max}?
Status: (Frage) beantwortet Status 
Datum: 22:48 Do 18.01.2007
Autor: Bastiane

Hallo zusammen!

Ich muss bei einer Aufgabe die relative Redundanz [mm] R(Q)=1-H(Q)/H_{max} [/mm] berechnen. Nun bin ich mir aber nicht so ganz sicher, was denn [mm] H_{max} [/mm] ist. Ich dachte eigentlich, dass es der maximale Wert von H(Q) ist (H(Q) habe ich berechnet, das ist eine Summe mit 26 Summanden, und davon wollte ich den größten Summanden nehmen). Aber []hier steht [mm] H_{max}(X) [/mm] = [mm] log_2|26|. [/mm] Ist das richtig? Wenn ja, wie kommt man darauf? Wieso ist das so?

Viele Grüße
Bastiane
[cap]

        
Bezug
relative Redundanz: Antwort
Status: (Antwort) fertig Status 
Datum: 08:46 Fr 19.01.2007
Autor: mathiash

Huludilo Bastiane,

Sturm gut überstanden ? Bin auch nicht vom Rad gefallen.

Zur Frage: [mm] H_{max} [/mm] ist die maximal mögliche Entropie - hier bei einem 26-zeichigen Alphabet -, also die Lösung des
Optimierungsproblems


[mm] \max\sum_{i=1}^{26}-p_i\cdot\log (p_i) [/mm]

unter der Nebenbedingung   [mm] \sum_{i=1}^{26}p_i=1 [/mm]  und [mm] p_i\geq [/mm] 0 [mm] \:\: (1\leq i\leq [/mm] 26),

na ja, und dieses Maximum wird halt genau bei Gleichverteilung erreicht. Nun kann man also die Entropie durch diesen Wert teilen und erhält die relative Entropie.

Lieben Gruss,

Mathias

ps. Wo machst denn Du sowas ? In Neuro etwa ? Oder bei Computer Vision ?




Bezug
Ansicht: [ geschachtelt ] | ^ Forum "Uni-Sonstiges"  | ^^ Alle Foren  | ^ Forenbaum  | Materialien


^ Seitenanfang ^
www.unimatheforum.de
[ Startseite | Forum | Wissen | Kurse | Mitglieder | Team | Impressum ]