Programming Concurrency on GPUs with Rust : Examine, Run, and Measure GPU Workloads Using CUDA, Streams, and Async Pipelines
Langue : anglais
Edité par Gitforgits, 2026
- Livre broché
- Neuf
Vendeur : AHA-BUCH GmbH, Einbeck, AllemagneAHA-BUCH GmbH
Vendeur AbeBooks depuis 14 août 2006
Etat: Neuf
EUR 84,25
Quantité disponible : 2 disponibles
Ajouter au panierA propos de cet article
nach der Bestellung gedruckt Neuware - Printed after ordering - The bottleneck is not your kernel. In fact, it almost never is.After spending enough time in Nsight, the way you read a timeline becomes as intuitive as a mechanic listening to an engine. The same faults keep cropping up, such as a GPU with thousands of cores sitting idle behind a blocking copy, a single default stream or a host thread frozen at a synchronisation point that was never necessary. This book is about identifying that fault early and eliminating it.Designed for programming professionals, this book is written for GPU developers, Rust engineers and AI practitioners who want their devices to be busy, not just correct. Our approach is to stay in pure Rust throughout, using cuda-oxide for SIMT kernels and cutile-rs for the tile model. We also rely heavily on the type system to ensure that data races fail at compile time rather than at 3 AM during production. We will overlap transfers with compute using streams and pinned memory, build a staging ring that pipelines every stage and feed the GPU through Tokio producers with bounded-channel backpressure. Each technique is profiled, verified against a CPU reference and measured.Key LearningsProfile before you optimise, and let Nsight Systems show you who is actually waiting.Write SIMT kernels in pure Rust where data races fail at compile time.Treat default stream as the enemy of overlap, and fork your own.Overlap copies with compute using pinned memory and a staging ring.Reach for reduction ladder instead of atomics when summing on the device.Express element-wise work as tile kernels, and let compiler map the hardware.Keep the GPU fed with Tokio producers and bounded-channel backpressure.Verify every kernel against CPU reference before you trust its timing.Weigh throughput against latency, since tuning for one quietly taxes the other.Know when to stop, because past a point concurrency only adds bookkeeping.Table of ContentRust's Threads, Timing and OwnershipCPU versus GPU ExecutionSIMT Kernels, Blocks and GridsRace-Free Parallel KernelsAsynchronous GPU ExecutionOverlapping Transfers with StreamsTile Programming with cutile-rsAsync GPU Pipelines with TokioThroughput, Latency and BottlenecksTarget AudienceIf you're a programmer looking for a hands-on guide to GPU programming, Rust techniques and AI principles, this book is for you. It's designed to help you make the most of your device's processing power.…
N° de réf. du vendeur 9788117136058
- Titre
- Programming Concurrency on GPUs with Rust : Examine, Run, and Measure GPU Workloads Using CUDA, Streams, and Async Pipelines
- Auteur
- Zyle Kot
- Éditeur
- Gitforgits
- Année de publication
- 2026
- État de l'article
- Neu
- Reliure
- Taschenbuch
- Langue
- anglais
- ISBN à 10 chiffres
- 8117136058
- ISBN à 13 chiffres
- 9788117136058
- Poids de l'article
- 316 grammes
- Dimensions
- 235x191x9 mm
The bottleneck is not your kernel. In fact, it almost never is.
After spending enough time in Nsight, the way you read a timeline becomes as intuitive as a mechanic listening to an engine. The same faults keep cropping up, such as a GPU with thousands of cores sitting idle behind a blocking copy, a single default stream or a host thread frozen at a synchronisation point that was never necessary. This book is about identifying that fault early and eliminating it.
Designed for programming professionals, this book is written for GPU developers, Rust engineers and AI practitioners who want their devices to be busy, not just correct. Our approach is to stay in pure Rust throughout, using cuda-oxide for SIMT kernels and cutile-rs for the tile model. We also rely heavily on the type system to ensure that data races fail at compile time rather than at 3 AM during production. We will overlap transfers with compute using streams and pinned memory, build a staging ring that pipelines every stage and feed the GPU through Tokio producers with bounded-channel backpressure. Each technique is profiled, verified against a CPU reference and measured.
Key Learnings
- Profile before you optimise, and let Nsight Systems show you who is actually waiting.
- Write SIMT kernels in pure Rust where data races fail at compile time.
- Treat default stream as the enemy of overlap, and fork your own.
- Overlap copies with compute using pinned memory and a staging ring.
- Reach for reduction ladder instead of atomics when summing on the device.
- Express element-wise work as tile kernels, and let compiler map the hardware.
- Keep the GPU fed with Tokio producers and bounded-channel backpressure.
- Verify every kernel against CPU reference before you trust its timing.
- Weigh throughput against latency, since tuning for one quietly taxes the other.
- Know when to stop, because past a point concurrency only adds bookkeeping.
Table of Content
- Rust’s Threads, Timing and Ownership
- CPU versus GPU Execution
- SIMT Kernels, Blocks and Grids
- Race-Free Parallel Kernels
- Asynchronous GPU Execution
- Overlapping Transfers with Streams
- Tile Programming with cutile-rs
- Async GPU Pipelines with Tokio
- Throughput, Latency and Bottlenecks
Target Audience
If you're a programmer looking for a hands-on guide to GPU programming, Rust techniques and AI principles, this book is for you. It's designed to help you make the most of your device's processing power.« Synopsis » peut appartenir à une autre édition de cet ouvrage.
AHA-BUCH GmbH
Einbeck, Allemagne
Vendeur AbeBooks depuis 14 août 2006
Frais d'expédition de Allemagne vers Etats-Unis
| Article | 7 à 10 jours ouvrés | 5 à 7 jours ouvrés |
|---|---|---|
| Premier article | EUR 35,00 | EUR 45,00 |
Modes de paiement
- Chèque
- Paypal
- Virement bancaire
Description de la boutique
Das Unternehmen AHA-BUCH GmbH: Seit der Gründung von AHA-BUCH im Juli 2005 ist unser Hauptziel, zufriedenen Kunden so schnell und so preisgünstig wie möglich ihren Bücherwunsch zu erfüllen. Unsere Firma beschäftigt 16 Mitarbeiter, die nur ein Ziel kennen: den Kunden und seine Wünsche! Auf über 3700 m2 Fläche haben wir über 100.000 Bücher, Modernes Antiquariat und Spiele auf Lager.
Spécialité
Kinderbücher & Kinderhör Casetten, German Books, Software, Natur & Tiere, Ratgeber, Sachbücher, Englische Bücher, Medizin & Gesundheit, Universität & StudiumProfil professionnel du vendeur
AHA-BUCH GmbH
Garlebsen 48
Einbeck, Allemagne 37574
Conditions de vente
Empreinte
Informations sur le vendeur:
AHA-BUCH GmbH
représenté par le directeur général Christel Glass
Garlebsen 48
37574 Einbeck
Alemagne
Téléphone: 055639996039
Fax: 055639995974
E-Mail: abebooks@aha-buch.de
USt-IdNr.: DE261904229
inscrit à Registre du commerce Amtsgerichtes Göttingen
Handelsregisternummer HRB 200691
Modes alternatifs de règlement des différends :
La Commission européenne fournit une plate-forme de règlement extrajudiciaire des litiges en ligne (plate-forme ODR), accessible sous https://ec.europa.eu/odr.
Nous sommes membres de l’initiative « FairCommerce » depuis le 25.05.2018.
Pour plus d’informations, voir www.fair-commerce.de.
Droit de rétractation
Si vous êtes un consommateur, vous pouvez exercer votre droit de rétractation sur le contrat conformément à ce qui suit. Le mot « consommateur » désigne toute personne physique agissant à des fins qui n'entrent pas dans le cadre de son activité commerciale, artisanale ou professionnelle.
Informations concernant le droit de rétractation
Droit statutaire de rétractation
Vous avez le droit d'exercer votre droit de rétractation sur ce contrat dans les 14 jours sans donner de raison.
Le délai de rétractation expirera au bout de 14 jours à compter du jour où vous-même, ou un tiers autre que le transporteur et désigné par vous, prendrez physiquement possession de la dernière marchandise, du dernier lot ou de la dernière pièce.
Pour exercer votre droit de rétractation, remplissez électroniquement et envoyez une déclaration claire sur notre site Web, sous « Vos achats » dans « Votre compte ». Nous vous communiquerons sans délai un accusé de réception de cette rétractation sur un support durable (par exemple, par e-mail).
Pour respecter le délai de rétractation, il vous suffit d'envoyer votre message concernant l'exercice de votre droit de rétractation avant l'expiration du délai de rétractation.
Effets de la rétractation
Si vous exercez votre droit de rétractation sur ce contrat, nous vous rembourserons tous les paiements que vous avez effectués, y compris les frais de livraison (à l'exception des frais supplémentaires résultant du choix d'un mode de livraison autre que le type de livraison standard le moins cher que nous proposons).
Nous pouvons déduire du remboursement la perte de valeur de toute marchandise livrée, si la perte est le résultat d'une manipulation inutile de votre part.
Nous effectuerons le remboursement dans les meilleurs délais, et au plus tard 14 jours après le jour où nous aurons été informés de votre décision d'exercer votre droit de rétractation sur ce contrat.
Nous effectuerons le remboursement en utilisant le même moyen de paiement que celui que vous avez utilisé pour la transaction initiale, sauf si vous en avez expressément convenu autrement ; en tout état de cause, aucuns frais ne vous seront facturés à la suite d'un tel remboursement.
Nous pouvons suspendre le remboursement jusqu'à ce que nous ayons reçu les marchandises ou que vous ayez fourni la preuve que vous avez renvoyé les marchandises, en fonction de la première éventualité.
Vous devez renvoyer les marchandises ou les remettre à AHA-BUCH GmbH, Einbeck, Germany, sans retard injustifié et, en tout état de cause, au plus tard 14 jours à compter du jour où vous nous avez communiqué votre décision de rétractation du présent contrat. Le délai est respecté si vous renvoyez les marchandises avant l'expiration du délai de 14 jours. Vous devrez prendre en charge les frais directs du renvoi des marchandises. Vous n'êtes responsable que de toute diminution de valeur des marchandises résultant d'une manipulation autre que celle nécessaire pour établir la nature, les caractéristiques et le fonctionnement des marchandises.
Exceptions au droit de rétractation
Le droit de rétractation ne s'applique pas à ce qui suit :
- Distribution de journaux, de revues ou de magazines, à l'exception des contrats d'abonnement ; et
- Fourniture d'un contenu numérique qui n'est pas fourni sur un support matériel (par exemple, sur un CD ou un DVD) si vous avez accepté, lors de votre commande, que nous puissions commencer à le livrer et que vous ne puissiez pas exercer votre droit de rétractation une fois la livraison commencée.
Conditions d'expédition
Nous expédions votre commande après les avoir reçues
pour les articles disponibles au plus tard 24 heures,
pour les articles avec un approvisionnement de nuit au plus tard 48 heures.
Dans le cas où nous devons commander un article auprès de notre fournisseur, notre délai d’expédition dépend de la date de réception des articles, mais les articles seront expédiés le jour même.
Notre objectif est d’envoyer les articles commandés de la manière la plus rapide, mais aussi la plus efficace et la plus sécurisée à nos clients.