Stockage interne partagé sur les architectures Hadoop

Contenu

Las arquitecturas Hadoop son la base de un proyecto de software open source que admite aplicaciones distribuidas, diseñado para ser sûr (sin pérdida de datos) y escalable, capaz de almacenar grandes cantidades de datos, por lo que es muy útil para afrontar los retos del Big Data. El almacenamiento interno compartido es sinónimo de Resultados satisfactorios a bajo costo.

istock-634577262-9323708

Crédits photos: Anna_leni

Apache Hadoop hace frente con éxito a las complejidades de alto volumen, vitesse et variété des données, lo que le posibilita cargar, analizar y almacenar petabytes de información a través del análisis por lotes y el procesamiento distribuido.

Para introducir la cuestión de almacenamiento interno compartido en arquitecturas Hadoop, tenemos que centrarnos en el núcleo o corazón de este marco diseñado para operar en la clave de Big Data. Su composición consta de:

  • Una implementación Capa de mapa / disminución o procesamiento: Petite carte procesa grandes cantidades de información de una manera fácil de utilizar, Grace à almacenamiento interno compartido, muy fácil de utilizar, dado que la complejidad está oculta a los usuarios.
  • UNE capa de almacenamiento HDFS (Sistema de archivos distribuidos de Hadoop): es un sistema de archivos distribuido escrito en Java creado por Doug Cutting, que constituye la capa de almacenamiento en un clúster de Hadoop.

Almacenamiento interno compartido, transparente para el usuario

El modelo de programación paralela de datos Map / Reduce está, en effet, diseñado de tal manera que la complejidad de la distribución et tolérance aux pannes permanecer oculto. Este procedimiento en paralelo que no vemos, transparente con Hadoop, le da al sistema una gran accesibilidad y facilidad de uso.

La tecnología de procesamiento paralelo que Map / Reduce sigue la máxima deldivide y conquistaras. Su lógica de procesamiento se despliega en las funciones del mapa y se reduce. D'une part, mapea el problema en partes más pequeñas, dividiendo los datos entre los nodos, con lo que cada máquina procesa su parte y, autre, la etapa Reducir suma los valores parciales de cada clave para obtener el resultado final. .

almacenamiento_interno_compartido_arquitecturas_hadoop-4643288

Crédits photos: anankkml / FreeDigitalPhotos.net

UNE) Et, todas las máquinas procesan la información simultáneamente, por medio de la tecnología de procesamiento paralelo que se almacena en cada una de las computadoras en la etapa Mapa, hasta que el componente Reducir consolide el resultado, junto con ese otro dato para el que además guardan proporcionar confiabilidad al sistema.

Avec Hadoop, Todo este procedimiento en paralelo se ejecuta de forma ajena al usuario, dado que solo tiene que preocuparse de guardar el archivo en el cluster Hadoop. Pourtant, Gracias al procesamiento en paralelo, a ese almacenamiento interno compartido del que Hadoop se encarga automáticamente, es factible procesar grandes volúmenes de datos con mayor rapidez.

La vitesse, tolerancia a fallos (cada máquina procesa una parte y tiene información sobre otra), Facile à utiliser, su rico ecosistema y, depuis lors, su bajo costo, han expandido enormemente el uso de arquitecturas Hadoop, democratizar el tratamiento de big data para obtener información valiosa.

¿Disfruta de las ventajas del almacenamiento interno compartido en su compañía?

Article similaire:

(une fonction(ré, s, identifiant) {
var js, fjs = d.getElementsByTagName(s)[0];
si (d.getElementById(identifiant)) revenir;
js = d.createElement(s); js.id = identifiant;
js.src = “//connect.facebook.net/es_ES/all.js#xfbml=1&état=0”;
fjs.parentNode.insertAvant(js, fjs);
}(document, 'scénario', 'facebook-jssdk'));

Abonnez-vous à notre newsletter

Nous ne vous enverrons pas de courrier SPAM. Nous le détestons autant que vous.