Cómo funciona el sistema de procesamiento de datos Hadoop

Share on facebook
Share on twitter
Share on linkedin
Share on telegram
Share on whatsapp

Contenidos

El sistema de procesamiento de datos por Hadoop es un sistema que posibilita el procesamiento distribuido de big data por medio de clústeres de servidores usando modelos de programación simples. Está diseñado para escalar desde servidores individuales a cientos de máquinas, cada una de las cuales ofrece computación y almacenamiento local.

hadoop_data_processing_system.jpg

Créditos fotográficos: ktsimage

En lugar de depender del hardware para ofrecer alta disponibilidad, El propio sistema de procesamiento de datos de Hadoop está diseñado para detectar y manejar fallas en la capa de aplicación., por lo que ofrece un servicio de alta disponibilidad en un grupo de servidores, cada uno de los cuales puede ser propenso a fallar.

Por eso, Es un sistema de procesamiento de datos diseñado para ser robusto, en el que el procesamiento de Big Data continuará funcionando inclusive cuando fallan servidores o clústeres individuales. Y además está diseñado para ser eficiente, dado que no necesita que sus aplicaciones transporten grandes volúmenes de datos por medio de su red.

Cómo funciona exactamente el sistema de procesamiento de datos distribuido de Hadoop

A medida que los bits de información ingresan al sistema de procesamiento de datos distribuidos de Hadoop, el camino que recorren es el siguiente:

  1. División de datos entrantes en segmentos.
  2. Distribución de los segmentos en diferentes nodos. que admiten el procesamiento en paralelo.
  3. Replicación de cada segmento en múltiples nodos de datos de modo que dos copias se alojen en nodos en el mismo bastidor y se envíe una adicional a un nodo en un bastidor distinto.
  4. Agrupar los nodos en clústeres HDFS.

Y lo que es más, Uno de los beneficios del sistema de procesamiento de datos distribuidos de Hadoop es que la replicación que tiene lugar protege la información contra muchos tipos de fallas. Así, si un nodo tuviera problemas y no permitiera el acceso a los datos contenidos en sus segmentos, el procesamiento no se detendría, dado que los nodos de cualquier otro rack podrían seguir utilizándose.

A pesar de esto, no olvide que aún puede haber algunos inconvenientes. La tolerancia a fallos del sistema de procesamiento de datos cuenta con una excepción., Y yo sé necesita un NameNode único y está ubicado en un solo servidorPor eso, en caso de que se produzca una falla que lo afecte, todo el sistema de archivos quedaría inaccesible.

Se podría decir que el sistema estaría cerrado, al menos, hasta que se pudiera reiniciar el servidor gracias a los datos que guarda un NameNode secundario cada vez que realiza una copia de seguridad periódica del principal. Algo que, en ningún caso, serviría para mantener las operaciones en marcha.

Por último, queda citar un componente importante en el sistema de procesamiento de datos distribuidos de Hadoop: MapReduce. Exactamente MapR Technologies anunció recientemente un sistema de archivos compatible con Hadoop y que, entre sus principales características, Tiene un NameNode distribuido que elimina el único punto de falla presente en HDFS.

A pesar de esto, la función por la que se conoce a MapReduce es su función en la administración del procesamiento de datos distribuidos. Su funcionamiento posibilita enviar trabajos a un JobTracker capaz de adjudicar una tarea a un nodo TaskTracker gracias a su conocimiento de la ubicación de cada segmento de datos.

Por eso, El sistema de procesamiento de datos de Hadoop posibilita multiplicar la eficiencia de los procesos Gracias a su naturaleza distribuida, posibilita un trabajo más ágil, en menos tiempo, con un riesgo mínimo y fácilmente escalable.

Suscribite a nuestro Newsletter

No te enviaremos correo SPAM. Lo odiamos tanto como tú.