Hadoop-da məlumatların lokallaşdırılmasına necə nail olunur?
Hadoop-da məlumatların lokallaşdırılmasına necə nail olunur?

Video: Hadoop-da məlumatların lokallaşdırılmasına necə nail olunur?

Video: Hadoop-da məlumatların lokallaşdırılmasına necə nail olunur?
Video: SQL on Hadoop: The Secret 2024, Noyabr
Anonim

Məlumatların lokallaşdırılması in Hadoop . Sözlərin əksəriyyətinin 5 Lacs və ya daha çox dəfə təkrarlandığı nümunə Wordcount nümunəsini götürün. Bu halda, Mapper mərhələsindən sonra hər bir mapper çıxışında 5 Lacs diapazonunda sözlər olacaq. Mapper çıxışının LFS-də saxlanması üçün bu tam proses adlanır Məlumatların Lokallaşdırılması.

Bunu nəzərə alaraq, Hadoop-da məlumatların lokallaşdırılması nədir?

Konsepsiya Data yerlilik Hadoop Məlumatları yerlilik MapReduce hesablamanı faktiki olan yerə yaxınlaşdırmaq qabiliyyətinə aiddir data böyük hərəkət əvəzinə node üzərində yerləşir data hesablamaya. Bu, şəbəkə sıxlığını minimuma endirir və sistemin ümumi ötürmə qabiliyyətini artırır.

Həmçinin, böyük verilənlər necə saxlanılır? Əksər insanlar avtomatik olaraq HDFS və ya Hadoop Paylanmış Fayl Sistemini Hadoop ilə əlaqələndirirlər data anbarlar. HDFS məlumatı daha kiçik bloklardan ibarət klasterlərdə saxlayır. Bu bloklar saxlanılır yerində fiziki saxlama daxili disklər kimi vahidlər.

Beləliklə, Hadoop-da məlumatlar necə saxlanılır?

Üzərində üstündə Hadoop klaster, data HDFS daxilində və MapReduce sistemi klasterdəki hər bir maşında yerləşir. Data edir saxlanılır in data DataNodes-də bloklar. HDFS bunları təkrarlayır data bloklar, adətən 128 MB ölçülüdür və onları paylayır ki, onlar çoxluqda bir neçə qovşaqda təkrarlanır.

HDFS-də fayllar necə saxlanılır?

HDFS ifşa edir a fayl sistem ad sahəsi və istifadəçi məlumatlarının olmasına imkan verir saxlanılır in fayllar . Daxili olaraq, a fayl bir və ya bir neçə bloka bölünür və bu bloklar olur saxlanılır DataNodes dəstində. NameNode yerinə yetirir fayl sistem ad məkanının açılması, bağlanması və adının dəyişdirilməsi kimi əməliyyatlar fayllar və kataloqlar.

Tövsiyə: