Abordagem de código aberto do Google para visualizar grandes conjuntos de dados de alta dimensão usando tSNE

Conteúdo

Visão geral

  • Um estagiário do Google foi pioneiro num método que utiliza tSNE para visualizar conjuntos de dados de alta dimensão.
  • Este método gera gráficos mais rápido do que qualquer outro criado antes, E pode ser aberto no seu navegador!!
  • Ele foi criado e de código aberto na família TensorFlow.js

Introdução

Lidar com dados de alta dimensão sempre foi um grande desafio para cientistas de dados. Espera-se que você procure por recursos ocultos, explorando o vasto terreno do conjunto de dados (em sua maioria) desconhecido, contendo centenas, sim não centenas, de variáveis. Como diabos você começa?

Para lidar com isso, O algoritmo tSNE foi criado. Você com certeza ainda tem PCA de que pode aproveitar, mas quando você tem um conjunto de dados ENORME e deseja procurar um padrão no estilo não linear (um método mais avançado), tSNE provou ser mais eficaz. Mapeia conjuntos de dados multidimensionais em duas ou mais dimensões. Também reduz o número de pacotes que você precisa gerar quando se trata de um grande número de dimensões.

Se você é novo no tSNE ou precisa de uma atualização, consulte este guia que explica de forma abrangente este conceito maravilhoso.

Mas uma das limitações do tSNE é que é computacionalmente muito complexo. Mesmo quando se destina a grandes conjuntos de dados, esta restrição limitou você a conjuntos de dados relativamente pequenos. Então, um estagiário do Google decidiu ser o pioneiro em uma abordagem inovadora para maximizar o uso de tSNE. Seu método depende muito de hardware gráfico moderno.

Esta nova abordagem gera inlays muito mais rápido do que qualquer outra técnica neste espaço.. Mas o que realmente chama a atenção é que ele pode ser executado em um navegador da web!! Como você pergunta? É aqui que o TensorFlow.js vem à tona. O método do Google aproveita os recursos da GPU via WebGL, uma API JavaScript usada para renderizar gráficos 2D e 3D em qualquer navegador. Confira nossa cobertura do TensorFlow.js aqui.

A equipe, liderado por estagiário, ele posteriormente testou sua abordagem no popular conjunto de dados de imagens manuscritas do MNIST. O que eu bebia 15 minutos para calcular agora podem ser feitos em tempo real e no próprio navegador. Fale sobre o progresso!

A imagem acima oferece uma visão geral dessa abordagem.. Eu resumi isso abaixo, tomando um extrair do seu trabalho de investigação:

  • Primeira foto: a minimização da função objetivo é calculada em tempo linear usando um campo escalar
  • Segunda foto: e um campo vetorial bidimensional
  • Terceira e quarta imagens: Os campos são calculados na GPU por meio da projeção de núcleos adequadamente projetados usando a função de mesclagem aditiva do pipeline de renderização moderno. O resto da redução ao mínimo é tratado como um pipeline de cálculo de tensor que é calculado na GPU através do TensorFlow.js

Eu listei alguns recursos abaixo, Eu encorajo você a consultar para obter um entendimento profundo desta abordagem:

Nossa opinião sobre isso

Se você já lidou com conjuntos de dados de alta dimensão, você pode já estar no caminho certo para usar esta abordagem. Essa abordagem tSNE pode ser uma verdadeira virada de jogo para instituições que lidam com grandes conjuntos de dados e não têm muito tempo disponível..

Uma das (alguns) limitações hoje é sua capacidade de gerar apenas visualizações 2D (ainda não funciona com 3D). Mas eu não vejo isso como um obstáculo, uma vez que a maioria das visualizações de dados com que os cientistas trabalham estão no espaço 2D (a menos que você esteja trabalhando com dados geoespaciais).

“Fontes abertas do Google” tornou-se uma frase muito usada nos dias de hoje. Eu adoro que eles abram constantemente os resultados de suas pesquisas para beneficiar a comunidade de ML em geral.. Deixe-me saber o que você acha dessa técnica na seção de comentários abaixo..

Inscreva-se no AVBytes aqui para atualizações regulares de ciência de dados, aprendizado de máquina e inteligência artificial em sua caixa de entrada.

Assine a nossa newsletter

Nós não enviaremos SPAM para você. Nós odiamos isso tanto quanto você.

Datapeaker