LOCAL LLM INFRASTRUCTURE: The Enterprise Engineer's Playbook: Deploy Ollama & vLLM in Production: GPU Sizing, Private Data Ingestion, and Cost-Efficient Hardware for Compliant, Offline AI Systems
Langue : anglais
Edité par Independently published, 2026
- Livre broché
- Neuf

Vendeur : California Books, Miami, FL, Etats-UnisCalifornia Books
Vendeur AbeBooks depuis 27 octobre 2023
Etat: Neuf
EUR 33,12
Quantité disponible : Plus de 20 disponibles
Ajouter au panierA propos de cet article
Print on Demand.
N° de réf. du vendeur I-9798177225845
- Titre
- LOCAL LLM INFRASTRUCTURE: The Enterprise Engineer's Playbook: Deploy Ollama & vLLM in Production: GPU Sizing, Private Data Ingestion, and Cost-Efficient Hardware for Compliant, Offline AI Systems
- Auteur
- Wei Chen, Ethan
- Éditeur
- Independently published
- Année de publication
- 2026
- État de l'article
- New
- Reliure
- Couverture souple
- Langue
- anglais
- ISBN à 13 chiffres
- 9798177225845
Running an LLM locally is easy.
Running one reliably in production is an infrastructure engineering problem.
You need enough GPU memory for the model and its KV cache. You need to choose the right inference stack. You need to handle concurrency, latency, scaling, authentication, private data, RAG, monitoring, upgrades, failures, and cost.
And when the system handles sensitive enterprise information, “it works on my workstation” is nowhere near enough.
Local LLM Infrastructure: The Enterprise Engineer's Playbook shows you how to design, deploy, secure, observe, and operate self-hosted LLM infrastructure with the discipline expected of a production engineering platform.
Inside, you'll build real, working systems, not toy demos:
- A defensible TCO model comparing hosted APIs vs. self-hosted inference, the exact numbers to bring to leadership
- The complete VRAM sizing formula (model weights + KV cache + overhead) with worked tables across every model size, so you stop guessing and start buying the right GPU the first time
- Production-hardened Ollama and vLLM deployments, including multi-GPU tensor parallelism serving 70B-class models
- A private, compliant RAG ingestion pipeline (PDF, DOCX, Confluence, SharePoint) where document content never leaves your infrastructure boundary
- A full threat model, authentication/audit layer, and HIPAA / GDPR / SOC 2 control mapping, with the caveats a real compliance conversation requires
- Observability, CI/CD, reliability engineering, and cost governance for AI infrastructure, the operational discipline most books skip entirely
- A complete capstone project, "SecureAssist," a full compliant internal AI platform, where every architecture decision is traced back to the exact chapter that justifies it,
Platform and infrastructure engineers, ML infrastructure and MLOps practitioners, DevOps and SRE engineers, solutions architects, security engineers, technical leads, and engineering managers responsible for building or evaluating private AI infrastructure.
You do not need prior experience training machine-learning models. However, this is not a beginner programming book. Familiarity with Linux, Docker, Python, REST APIs, and general infrastructure concepts will help you get the most from it.
Not for you if: you're looking for a beginner's first coding book, or you want model training/fine-tuning theory, this is deployment and infrastructure, cover to cover.
If your organization is moving from “Can we run an LLM locally?” to “Can we operate local AI as production infrastructure?” this book is designed for that transition.
Scroll up and grab your copy now!!!
« Synopsis » peut appartenir à une autre édition de cet ouvrage.
California Books
Miami, FL, Etats-Unis
Vendeur AbeBooks depuis 27 octobre 2023
Frais d'expédition à l'intérieur de ce pays : Etats-Unis
| Article | 3 à 7 jours ouvrés | 2 à 5 jours ouvrés |
|---|---|---|
| Premier article | EUR 0,00 | EUR 10,72 |
Modes de paiement
Description de la boutique
We have 20 years experience selling books worldwide! Friendly customer support. Your satisfaction guaranteed!
Spécialité
All authorized categoriesProfil professionnel du vendeur
Miramar International Services LLC
FL, Etats-Unis
Droit de rétractation
Si vous êtes un consommateur, vous pouvez exercer votre droit de rétractation sur le contrat conformément à ce qui suit. Le mot « consommateur » désigne toute personne physique agissant à des fins qui n'entrent pas dans le cadre de son activité commerciale, artisanale ou professionnelle.
Informations concernant le droit de rétractation
Droit statutaire de rétractation
Vous avez le droit d'exercer votre droit de rétractation sur ce contrat dans les 14 jours sans donner de raison.
Le délai de rétractation expirera au bout de 14 jours à compter du jour où vous-même, ou un tiers autre que le transporteur et désigné par vous, prendrez physiquement possession de la dernière marchandise, du dernier lot ou de la dernière pièce.
Pour exercer votre droit de rétractation, remplissez électroniquement et envoyez une déclaration claire sur notre site Web, sous « Vos achats » dans « Votre compte ». Nous vous communiquerons sans délai un accusé de réception de cette rétractation sur un support durable (par exemple, par e-mail).
Pour respecter le délai de rétractation, il vous suffit d'envoyer votre message concernant l'exercice de votre droit de rétractation avant l'expiration du délai de rétractation.
Effets de la rétractation
Si vous exercez votre droit de rétractation sur ce contrat, nous vous rembourserons tous les paiements que vous avez effectués, y compris les frais de livraison (à l'exception des frais supplémentaires résultant du choix d'un mode de livraison autre que le type de livraison standard le moins cher que nous proposons).
Nous pouvons déduire du remboursement la perte de valeur de toute marchandise livrée, si la perte est le résultat d'une manipulation inutile de votre part.
Nous effectuerons le remboursement dans les meilleurs délais, et au plus tard 14 jours après le jour où nous aurons été informés de votre décision d'exercer votre droit de rétractation sur ce contrat.
Nous effectuerons le remboursement en utilisant le même moyen de paiement que celui que vous avez utilisé pour la transaction initiale, sauf si vous en avez expressément convenu autrement ; en tout état de cause, aucuns frais ne vous seront facturés à la suite d'un tel remboursement.
Nous pouvons suspendre le remboursement jusqu'à ce que nous ayons reçu les marchandises ou que vous ayez fourni la preuve que vous avez renvoyé les marchandises, en fonction de la première éventualité.
Vous devez renvoyer les marchandises ou les remettre à California Books, Fort Wayne, Indiana, U.S.A., sans retard injustifié et, en tout état de cause, au plus tard 14 jours à compter du jour où vous nous avez communiqué votre décision de rétractation du présent contrat. Le délai est respecté si vous renvoyez les marchandises avant l'expiration du délai de 14 jours. Vous devrez prendre en charge les frais directs du renvoi des marchandises. Vous n'êtes responsable que de toute diminution de valeur des marchandises résultant d'une manipulation autre que celle nécessaire pour établir la nature, les caractéristiques et le fonctionnement des marchandises.
Exceptions au droit de rétractation
Le droit de rétractation ne s'applique pas à ce qui suit :
- Distribution de journaux, de revues ou de magazines, à l'exception des contrats d'abonnement ; et
- Fourniture d'un contenu numérique qui n'est pas fourni sur un support matériel (par exemple, sur un CD ou un DVD) si vous avez accepté, lors de votre commande, que nous puissions commencer à le livrer et que vous ne puissiez pas exercer votre droit de rétractation une fois la livraison commencée.