High-Performance Inference Serving: Batching, Quantization, and Low-Latency Model Deployment.
Langue : anglais
Edité par Independently published, 2026
- Livre broché
- Neuf

Vendeur : California Books, Miami, FL, Etats-UnisCalifornia Books
Vendeur AbeBooks depuis 27 octobre 2023
Etat: Neuf
EUR 37,50
Quantité disponible : Plus de 20 disponibles
Ajouter au panierItem description from seller
Print on Demand.
N° de réf. du vendeur I-9798188217280
- Titre
- High-Performance Inference Serving: Batching, Quantization, and Low-Latency Model Deployment.
- Auteur
- Malcom, Denton; Robinson, Elmer
- Éditeur
- Independently published
- Année de publication
- 2026
- État de l'article
- New
- Reliure
- Couverture souple
- Langue
- anglais
- ISBN à 13 chiffres
- 9798188217280
Training a model is only the first step. Serving it in production, handling massive concurrent requests without bankrupting your infrastructure budget or bottlenecking your application is a hardcore systems engineering discipline. Standard Python wrappers and naive API servers collapse under enterprise loads.
High-Performance Inference Serving is the definitive operational manual for architects and MLOps engineers scaling AI in production. We strip away the introductory data science and dive straight into the physics of model serving. You will master the bare-metal realities of the GPU memory wall, KV cache management, and hardware-sympathetic execution required to squeeze maximum throughput from modern accelerators.
This playbook bridges the gap between model weights and enterprise infrastructure. From deploying state-of-the-art quantization techniques to orchestrating continuous batching and speculative decoding, this book provides the exact blueprints to deploy LLMs and multi-modal models at scale.
Inside this manual, you will execute:
Advanced Batching & Paged Memory: Treating GPU VRAM like virtual memory, deploying PagedAttention, and implementing continuous batching to maximize hardware utilization.
State-of-the-Art Compression: Shrinking massive models via PTQ workflows using GPTQ, AWQ, and SmoothQuant to drastically reduce memory bandwidth requirements.
Speculative & Parallel Decoding: Slashing latency with draft models, Medusa, and Lookahead decoding to multiply token generation speed.
Kernel-Level Optimization: Bypassing compiler-generated kernels to implement Operator Fusion and FlashAttention for zero-overhead memory round-trips.
Enterprise Production Architecture: Containerizing inference engines like vLLM, TensorRT-LLM, and Triton, and deploying autoscaling Kubernetes architectures with strict observability SLOs.
Who is this for?
This manual is engineered exclusively for Senior MLOps Engineers, AI Infrastructure Architects, Backend Systems Programmers, and Technical Leads. If you are responsible for lowering inference costs and crushing latency bottlenecks in production, this is your blueprint.
Stop over-provisioning hardware to compensate for poor architecture. Grab your copy and deploy at scale today.
« Synopsis » peut appartenir à une autre édition de cet ouvrage.
California Books
Miami, FL, Etats-Unis
Vendeur AbeBooks depuis 27 octobre 2023
Frais d'expédition à l'intérieur de ce pays : Etats-Unis
| Article | 3 à 7 jours ouvrés | 2 à 5 jours ouvrés |
|---|---|---|
| Premier article | EUR 0,00 | EUR 10,40 |
Modes de paiement
Description de la boutique
We have 20 years experience selling books worldwide! Friendly customer support. Your satisfaction guaranteed!
Spécialité
All authorized categoriesProfil professionnel du vendeur
Miramar International Services LLC
FL, Etats-Unis
Droit de rétractation
Si vous êtes un consommateur, vous pouvez exercer votre droit de rétractation sur le contrat conformément à ce qui suit. Le mot « consommateur » désigne toute personne physique agissant à des fins qui n'entrent pas dans le cadre de son activité commerciale, artisanale ou professionnelle.
Informations concernant le droit de rétractation
Droit statutaire de rétractation
Vous avez le droit d'exercer votre droit de rétractation sur ce contrat dans les 14 jours sans donner de raison.
Le délai de rétractation expirera au bout de 14 jours à compter du jour où vous-même, ou un tiers autre que le transporteur et désigné par vous, prendrez physiquement possession de la dernière marchandise, du dernier lot ou de la dernière pièce.
Pour exercer votre droit de rétractation, remplissez électroniquement et envoyez une déclaration claire sur notre site Web, sous « Vos achats » dans « Votre compte ». Nous vous communiquerons sans délai un accusé de réception de cette rétractation sur un support durable (par exemple, par e-mail).
Pour respecter le délai de rétractation, il vous suffit d'envoyer votre message concernant l'exercice de votre droit de rétractation avant l'expiration du délai de rétractation.
Effets de la rétractation
Si vous exercez votre droit de rétractation sur ce contrat, nous vous rembourserons tous les paiements que vous avez effectués, y compris les frais de livraison (à l'exception des frais supplémentaires résultant du choix d'un mode de livraison autre que le type de livraison standard le moins cher que nous proposons).
Nous pouvons déduire du remboursement la perte de valeur de toute marchandise livrée, si la perte est le résultat d'une manipulation inutile de votre part.
Nous effectuerons le remboursement dans les meilleurs délais, et au plus tard 14 jours après le jour où nous aurons été informés de votre décision d'exercer votre droit de rétractation sur ce contrat.
Nous effectuerons le remboursement en utilisant le même moyen de paiement que celui que vous avez utilisé pour la transaction initiale, sauf si vous en avez expressément convenu autrement ; en tout état de cause, aucuns frais ne vous seront facturés à la suite d'un tel remboursement.
Nous pouvons suspendre le remboursement jusqu'à ce que nous ayons reçu les marchandises ou que vous ayez fourni la preuve que vous avez renvoyé les marchandises, en fonction de la première éventualité.
Vous devez renvoyer les marchandises ou les remettre à California Books, Fort Wayne, Indiana, U.S.A., sans retard injustifié et, en tout état de cause, au plus tard 14 jours à compter du jour où vous nous avez communiqué votre décision de rétractation du présent contrat. Le délai est respecté si vous renvoyez les marchandises avant l'expiration du délai de 14 jours. Vous devrez prendre en charge les frais directs du renvoi des marchandises. Vous n'êtes responsable que de toute diminution de valeur des marchandises résultant d'une manipulation autre que celle nécessaire pour établir la nature, les caractéristiques et le fonctionnement des marchandises.
Exceptions au droit de rétractation
Le droit de rétractation ne s'applique pas à ce qui suit :
- Distribution de journaux, de revues ou de magazines, à l'exception des contrats d'abonnement ; et
- Fourniture d'un contenu numérique qui n'est pas fourni sur un support matériel (par exemple, sur un CD ou un DVD) si vous avez accepté, lors de votre commande, que nous puissions commencer à le livrer et que vous ne puissiez pas exercer votre droit de rétractation une fois la livraison commencée.