Entropiya məlumat qazancı nədir?
Entropiya məlumat qazancı nədir?

Video: Entropiya məlumat qazancı nədir?

Video: Entropiya məlumat qazancı nədir?
Video: Entropy in physics and information theory #TWCShorts 2024, Dekabr
Anonim

Məlumat qazancı = nə qədər Entropiya çıxardıq, yəni

Bu məntiqlidir: daha yüksək Məlumat qazancı = daha çox Entropiya silindi, bizim istədiyimiz budur. Mükəmməl vəziyyətdə, hər bir budaq bölündükdən sonra yalnız bir rəng ehtiva edəcək, bu da sıfır olacaqdır entropiya !

Bundan əlavə, qərar ağacında məlumat qazancı və entropiya nədir?

Məlumat qazancı : The məlumat qazanması azalmasına əsaslanır entropiya verilənlər dəsti atribut üzrə bölündükdən sonra. Tikinti a qərar ağacı ən yüksək qaytaran atributu tapmaqdan ibarətdir məlumat qazanması (yəni, ən homojen budaqlar). Addım 1: Hesablayın entropiya hədəfin.

Eynilə, verilənlərdə entropiya nədir? Məlumat entropiya stoxastik mənbə tərəfindən məlumatın istehsal olunduğu orta sürətdir data . Məlumat ölçüsü entropiya mümkün olan hər biri ilə əlaqələndirilir data dəyər dəyər üçün ehtimal kütlə funksiyasının mənfi loqarifmidir: burada ehtimalla müəyyən edilən gözləntidir.

Bu baxımdan məlumat əldə etmək nə deməkdir?

İnformasiya qazancı verilənlər toplusunun hansısa şəkildə çevrilməsindən entropiyanın və ya sürprizin azalmasını hesablayır. İnformasiya qazancı məlumat dəstini dəyişdirməklə entropiyanın və ya sürprizin azalmasıdır və tez-tez qərar ağaclarının hazırlanmasında istifadə olunur.

Qərar ağacında entropiyanın tərifi hansıdır?

Tərif : Entropiya misallar dəstəsində natəmizlik, nizamsızlıq və ya qeyri-müəyyənlik ölçüləridir.

Tövsiyə: