COMPTOIR
register

Intel met des cerveaux dans une clef USB

Après le rachat par Intel en septembre de Movidius, une boite spécialisée dans l'apprentissage automatisée, on pouvait d'ores et déjà se douter que du matos spécialisé aller arriver. Le géant bleu, fort de son expérience en bizarreries USB, en a profité pour sortir le Neural Compute Stick : une sorte de rig de minage USB spécial Machine Learning. Cette dernière permet de sortir 100 GFLOPS pour un consommation non communiquée (mais certainement inférieure à 4,5W, standard maximum pour l'USB 3.0 annoncé), c'est du costaud quand même ! La dissipation est effectuée sans pièces mécaniques, en même temps il serait difficile de les caser dans ses mensurations de 72.5x27x14 mm. Le bouzin s'inscrit dans une catégorie de puces toute récente : les VPU, pour Vision Processing Unit.

À noter qu'il sera possible de relier plusieurs modules ensemble si le besoin s'en fait sentir.

 

 

Niveau software, on se retrouve avec caffe ou plutôt caffe, un framework de développement de deep learning sous license BSD. Il pourrait s'agir d'une solution très avantageuse couplée à un Raspberry ou équivalent afin de booster un projet à base de machine intelligente mobile nécessitant des annalyses poussées d'images. On pense notamment aux voitures autonomes et autres systèmes de surveillance, qui pourraient à terme bénéficier de série de ce genre d'appareil, en version pré-entrainée bien sûr.

 

Cependant, contrairement à ce que la vidéo de présentation laisserait penser, le site officiciel ne fait mention que du suport des machines x86 en 64 bibites équipées au minimum de 4 Go de RAM et d'un petit Go d'espace disque disponible ; mais il ne s'agit peut-être que de la configuration nécessaire pour l'entrainement des neurones et non leur simple utilisation.

Tout le monde se demande alors si Intel a profité de l'occasion pour mieux tester ses puces ! L'information n'est pas communiquée, mais avec un prix contenu annoncé à 79$, nul doute que cette petit clef saura s'ouvrir bien des portes.

Un poil avant ?

De nouveaux pilotes chez Nvidia

Un peu plus tard ...

Test • Intel X299 / Core i9-7900X & Core i7-7740X

Les 12 ragots
Les ragots sont actuellement
ouverts à tous, c'est open bar !
par Un ragoteur qui aime les embusqué, le Mercredi 26 Juillet 2017 à 13h50  
Du coups c'est juste pour l'exploitation de réseaux pré entrainé et dans le cadre d'utilisation bien spécifiques ;-)
par Un ragoteur qui aime les embusqué, le Mercredi 26 Juillet 2017 à 13h48  
Comparer cette clef à un GPU n'a pas de sens. Premièrement un GPU ne limitera pas votre usage à caffe, vous pourrez utiliser Tensorflow par exemple. D'autre part, les station munies de GPU, 1, 2, ou plus, servent à entrainer des réseaux, ce que je vous mal cette clef faire via un accès mémoire par USB. L'entrainement est très dépendant de la bande passante, ici, ce n'est clairement pas le but et vos 100GFLOPS seront bridés par une BP à 100mo/s quand n'importe quelle entrainement va saturer les centaines de go/s de la BP d'une 1080Ti.
par Nicolas D., le Mercredi 26 Juillet 2017 à 09h59  
par Cristallix le Mardi 25 Juillet 2017 à 23h16
VPU ? C'est possible qu'on retrouve ça dans le casque de réalité augmentée de Microsoft ?
Dixit Wikipédia :
"Microsoft hololens includes an accelerator referred to as a Holographic Processing Unit (complimentary to its CPU and GPU), aimed at interpreting camera inputs, to accelerate environment tracking & vision for augmented reality applications"
par Cristallix, le Mardi 25 Juillet 2017 à 23h16  
VPU ? C'est possible qu'on retrouve ça dans le casque de réalité augmentée de Microsoft ?
par Un ragoteur du Centre, le Mardi 25 Juillet 2017 à 12h30  
Vision Processing Unit... Je ne serais pas surpris que les marqueteux du Gros Bleu aient trouvé ce nom après un p'tit buvard... voire deux.
Cependant 100 Gflop dans ce bidule et à 4,5 Watt : je suis assez impressionné.

Et pour un emploi destiné aux psychorigides ? "Neural Compute Stick" est-ce un nom bien approprié pour un objet destiné à une insertion dans l'orifice naturel le plus éloigné du cerveau ?

par Nicolas D., le Mardi 25 Juillet 2017 à 10h38  
par UpsiloNIX le Mardi 25 Juillet 2017 à 10h30
C'est du 100 GFLOPS en FP16 la clé ?
Pour du ML, pas besoin de tant de précision, c'est le nombre de neuronnes qui compte plus c'est pour ça que sur les gammes pro (et Vega) on voit la FP16 mise en avant alors qu'auparant il n'y avait pas de raison .

Reste a espérer que Kevin gamer va pas acheter 5 clefs pour avoir 2x plus de puissance que sa nouvelle 1080ti :P
par UpsiloNIX, le Mardi 25 Juillet 2017 à 10h30  
par Nicolas D. le Mardi 25 Juillet 2017 à 10h27
Justement non, le deep learning utilise massivement du FP16, qui est en 1/64 sur la 1080 ti, donc théoriquement seulement 1.7x plus puissant (à prendre avec des grosses pincettes).
C'est du 100 GFLOPS en FP16 la clé ?

Edit : Ah oui, au temps pour moi : http://www.anandtech.com/show/11649/intel-launches-movidius-neural-compute-stick
par Nicolas D., le Mardi 25 Juillet 2017 à 10h27  
par UpsiloNIX le Mardi 25 Juillet 2017 à 10h24
100GFLOPS, une 1080 Ti en sort 11 000... En gros 1%
Justement non, le deep learning utilise massivement du FP16, qui est en 1/64 sur la 1080 ti, donc théoriquement seulement 1.7x plus puissant (à prendre avec des grosses pincettes).
par UpsiloNIX, le Mardi 25 Juillet 2017 à 10h24  
par Scrabble le Mardi 25 Juillet 2017 à 09h01
Il serait intéressant de pouvoir comparer la puissance de calcul d'une telle clé avec une carte graphique pour le logiciel caffe.
100GFLOPS, une 1080 Ti en sort 11 000... En gros 1%

Mais bon la clé est là pour faire de l'inférence pas de l'apprentissage
par Nicolas D., le Mardi 25 Juillet 2017 à 10h24  
par Un ragoteur de transit d'Ile-de-France le Mardi 25 Juillet 2017 à 10h10
C'est exactement la question que je me posais.
Concrètement ça ressemble à quoi un VPU ? C'est plus proche d'un GPU ou d'un DSP ???
La fiche d'information d'un produit similaire par ici. Concrètement je dirais entre GPU et SOC mobile pour le côté basse conso et intégration.
par Un ragoteur de transit d'Ile-de-France, le Mardi 25 Juillet 2017 à 10h10  
par Scrabble le Mardi 25 Juillet 2017 à 09h01
Il serait intéressant de pouvoir comparer la puissance de calcul d'une telle clé avec une carte graphique pour le logiciel caffe.
C'est exactement la question que je me posais.
Concrètement ça ressemble à quoi un VPU ? C'est plus proche d'un GPU ou d'un DSP ???
par Scrabble, le Mardi 25 Juillet 2017 à 09h01  
Il serait intéressant de pouvoir comparer la puissance de calcul d'une telle clé avec une carte graphique pour le logiciel caffe.