Accueil l'audio Comment une «marche aléatoire» peut-elle être utile dans les algorithmes d'apprentissage automatique?

Comment une «marche aléatoire» peut-elle être utile dans les algorithmes d'apprentissage automatique?

Anonim

Q:

Comment une «marche aléatoire» peut-elle être utile dans les algorithmes d'apprentissage automatique?

UNE:

Dans l'apprentissage automatique, une approche de «marche aléatoire» peut être appliquée de diverses manières pour aider la technologie à passer au crible les grands ensembles de données de formation qui fournissent la base de la compréhension finale de la machine.

Une marche aléatoire, mathématiquement, est quelque chose qui peut être décrit de plusieurs manières techniques différentes. Certains le décrivent comme une collection aléatoire de variables; d'autres pourraient appeler cela un «processus stochastique». Quoi qu'il en soit, la marche aléatoire envisage un scénario dans lequel un ensemble de variables prend un chemin qui est un modèle basé sur des incréments aléatoires, selon un ensemble d'entiers: par exemple, une marche sur une droite numérique où la variable se déplace plus ou moins une à chaque étape .

Téléchargement gratuit: apprentissage automatique et pourquoi c'est important

En tant que tel, une marche aléatoire peut être appliquée aux algorithmes d'apprentissage automatique. Un exemple populaire décrit dans un article de Wired s'applique à certaines théories révolutionnaires sur la façon dont les réseaux de neurones peuvent fonctionner pour simuler les processus cognitifs humains. Caractérisant une approche de marche aléatoire dans un scénario d'apprentissage automatique en octobre dernier, l'écrivaine de Wired, Natalie Wolchover, attribue une grande partie de la méthodologie aux pionnières de la science des données Naftali Tishby et Ravid Shwartz-Ziv, qui suggèrent une feuille de route pour différents phases de l'apprentissage automatique. Plus précisément, Wolchover décrit une "phase de compression" qui est liée au filtrage des caractéristiques ou des aspects non pertinents ou semi-pertinents dans un champ d'image selon le but prévu du programme.

L'idée générale est que, au cours d'un processus complexe et en plusieurs étapes, la machine travaille soit à "mémoriser" soit à "oublier" différents éléments du champ d'image pour optimiser les résultats: Dans la phase de compression, le programme pourrait être décrit comme une "remise à zéro" dans "sur les caractéristiques importantes à l'exclusion des périphériques.

Les experts utilisent le terme «descente de gradient stochastique» pour désigner ce type d'activité. Une autre façon de l'expliquer avec une sémantique moins technique est que la programmation réelle de l'algorithme change par degrés ou itérations, pour "affiner" ce processus d'apprentissage qui se déroule selon des "étapes de marche aléatoires" qui mèneront finalement à une certaine forme de synthèse.

Le reste de la mécanique est très détaillé, car les ingénieurs travaillent pour faire passer les processus d'apprentissage automatique à travers la phase de compression et d'autres phases connexes. L'idée plus large est que la technologie d'apprentissage automatique change dynamiquement au cours de la durée de vie de son évaluation des grands ensembles de formation: au lieu de regarder différentes cartes flash dans des cas individuels, la machine regarde les mêmes cartes flash plusieurs fois, ou tire des cartes flash sur aléatoire, en les regardant d'une manière aléatoire, itérative et changeante.

L'approche de la marche aléatoire ci-dessus n'est pas le seul moyen d'appliquer la marche aléatoire à l'apprentissage automatique. Dans tous les cas où une approche aléatoire est nécessaire, la marche aléatoire peut faire partie de la trousse d'outils du mathématicien ou du data scientist, afin d'affiner encore le processus d'apprentissage des données et de fournir des résultats supérieurs dans un domaine qui émerge rapidement.

En général, la marche aléatoire est associée à certaines hypothèses mathématiques et de science des données. Certaines des explications les plus populaires d'une marche aléatoire ont à voir avec le marché boursier et les graphiques boursiers individuels. Comme popularisé dans "A Random Walk Down Wall Street" de Burton Malkiel, certaines de ces hypothèses font valoir que l'activité future d'un stock est essentiellement inconnaissable. Cependant, d'autres suggèrent que les modèles de marche aléatoires peuvent être analysés et projetés, et ce n'est pas un hasard si les systèmes d'apprentissage automatique modernes sont souvent appliqués à l'analyse des marchés boursiers et au day trading. La recherche de connaissances dans le domaine de la technologie est et a toujours été liée à la recherche de connaissances sur l'argent, et l'idée d'appliquer des marches aléatoires à l'apprentissage automatique ne fait pas exception. D'un autre côté, la marche aléatoire en tant que phénomène peut être appliquée à n'importe quel algorithme pour n'importe quel but, selon certains des principes mathématiques mentionnés ci-dessus. Les ingénieurs peuvent utiliser un modèle de marche aléatoire pour tester une technologie ML, ou pour l'orienter vers la sélection de fonctionnalités, ou pour d'autres utilisations liées aux gigantesques châteaux byzantins dans l'air qui sont des systèmes ML modernes.

Comment une «marche aléatoire» peut-elle être utile dans les algorithmes d'apprentissage automatique?