ETL processes with parallelism: operation and types

Contents

La mayoría de herramientas de procedimiento ETL modernas Posibilitan la ejecución en modo paralelo, In other words, la carga no se realiza datos por datos sino por bloques.

Tipos de paralelos

  • Partición de datos. In this circumstance, cada nodo procesa un número específico de datos (as an example, 1000 rows). La oportunidad y el tipo específico de partición depende del tipo de base de datos a la que accedo. En el caso de un Deposit, todo suele estar particionado, debido a que en los discos encontramos trozos de tablas con datos.

  • Canalización. Este tipo de paralelismo posibilita, una vez divididos los datos, particionar además las operaciones que se realizan con ellos, como añadir un campo “Y” a cada fila. In other words, posibilita realizar modificaciones a nivel estructural.

  • Components (edit) (Edit). Se definen componentes que asignan una referencia a un campo, a modo de ejemplo una letra, y se reutilizan cada vez que ese mismo campo tiene que volver a cambiarse en el resto de filas. In other words, este tipo de procedimiento de paralelismo te posibilita crear lógica y reutilizarla.

Ventajas del paralelismo

  • Acorta los tiempos de procesamiento.

  • Impacto positivo en el negocio.

  • Mejor uso de recursos.

A veces no es factible usarlo.

Siempre es deseable, y más aún cuando se trabaja con grandes volúmenes de datos, diseñar procesos ELT para que puedan ejecutarse en modo paralelo. Lo que pasa es que ciertos procesos no lo posibilitan, puesto que necesariamente requieren ejecución secuencial (as an example, un procedimiento “A” que depende de la finalización de un procedimiento “B”).

(function(d, s, id) {
var js, fjs = d.getElementsByTagName(s)[0];
if (d.getElementById(id)) return;
js = d.createElement(s); js.id = id;
js.src = “//connect.facebook.net/es_ES/all.js#xfbml=1&status=0”;
fjs.parentNode.insertBefore(js, fjs);
}(document, ‘script’, 'facebook-jssdk'));

Subscribe to our Newsletter

We will not send you SPAM mail. We hate it as much as you.