NPU, Késako ?

digitization, digital, circuit board

Bonsoir le Monde !

NPU signifie Neural Processing Unit (ou "puce d'accélération de réseau de neurones" ou encore "accélérateur d'IA" en français) et existe sous forme de puce électronique de la catégorie des microprocesseurs (ou CPU) dédicacée à l'IA (Intelligence Artificielle) qui se retrouve progressivement dans nos PC portables et Smartphones !

Sur les gros serveurs, ce sont les puissantes cartes graphiques (ou GPU) qui se chargent des calculs nécessaires au support de l'Intelligence Artificielle mais c'est plus difficile à implémenter sur un PC domestique et encore plus difficile sur un portable ou Smartphone. C'est ainsi que les NPU font progressivement leur apparition sur nos portables et Smartphones même s'ils sont bien moins puissants que les GPU.

La puissance d'un NPU s'exprime en TOPS (Téra Operations Per Second) et les puces actuelles se situent entre 40 et 50 TOPS alors qu'une carte graphique même grand public dépasse les 1000 TOPS. Un autre paramètre de la puissance d'un NPU est sa précision de INT4 à INT32 avec INT8 étant le plus courant sur les portables/Smartphones.

Cette faible puissance est néanmoins suffisante pour décharger le CPU et la faible carte graphique d'un PC portable ou d'un Smartphone pour les tâches "IA" comme la traduction en live, le sous-titrage automatique et les effets appliqués à la webcam par exemple...

Je vous conseille le lecture de cet article Frandroid pour débuter mais l'Internet est votre ami et "Yaka !" tant que ça reste pas trop cher ni trop censuré !

Li P'ti Fouineu vous salue bien !

 

2 commentaires

  • Cet article a été supprimé par Facebook car soi-disant ne respectant pas les règles de Facebook !

    Je parle d’un truc vrai et l’article contient seulement 3 liens vers des sites sérieux (2 vers Wikipédia et 1 vers Frandroid)…

    Je ne comprends pas et j’ai donc demandé un examen de cette décision… Au passage, il est impossible de fournir une explication écrite à Facebook lors d’une demande d’examen, tu as juste le droit de cocher les 2 cases qui te semblent les plus appropriées pour ton cas. Suivant comment ça va tourner, je ferai un article plus complet sur cet incident.

    C’est la 2e fois que Facebook me fait ce coup-là pour une raison complètement incompréhensible.
    Si cela devait se répéter, je fermerai mon compte Facebook (ce que j’aurais dû faire depuis longtemps…)

    En plus de mon site, tous mes articles sont référencés aussi sur Mastodon, Bluesky et Diaspora* (et Facebook quand pas censurés). On peut aussi s’abonner au flux RSS et à la Newsletter pour les recevoir chez soi lors d’une publication.

    Li P’ti Fouineu

  • Mazette!!! Pas tout compris!! C’est honteux!!
    Suis outrée et cette IA qu’on veut nous imposer presque sans qu’on le sache!
    Bonne journée.
    Bisous
    Jackie

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *