Demystifying Large Language Models: Unraveling the Mysteries of Language Transformer Models, Build from Ground up, Pre-train, Fine-tune and Deployment (Paperback or Softback)
Langue : anglais
Edité par James Chen 4/25/2024, 2024
- Livre broché
- Neuf

Vendeur : BargainBookStores, Grand Rapids, MI, Etats-UnisBargainBookStores
Vendeur AbeBooks depuis 23 janvier 2002
Etat: Neuf
EUR 28,49
Quantité disponible : 5 disponibles
Ajouter au panierA propos de cet article
Demystifying Large Language Models: Unraveling the Mysteries of Language Transformer Models, Build from Ground up, Pre-train, Fine-tune and Deployment.
N° de réf. du vendeur BBS-9781738908486
- Titre
- Demystifying Large Language Models: Unraveling the Mysteries of Language Transformer Models, Build from Ground up, Pre-train, Fine-tune and Deployment (Paperback or Softback)
- Auteur
- Chen, James
- Éditeur
- James Chen 4/25/2024
- Année de publication
- 2024
- État de l'article
- New
- Type de livre
- Book
- Reliure
- Paperback or Softback
- Langue
- anglais
- ISBN à 10 chiffres
- 1738908488
- ISBN à 13 chiffres
- 9781738908486
- Poids de l'article
- 1,02 livre
This book is a comprehensive guide aiming to demystify the world of transformers -- the architecture that powers Large Language Models (LLMs) like GPT and BERT. From PyTorch basics and mathematical foundations to implementing a Transformer from scratch, you'll gain a deep understanding of the inner workings of these models.
That's just the beginning. Get ready to dive into the realm of pre-training your own Transformer from scratch, unlocking the power of transfer learning to fine-tune LLMs for your specific use cases, explore advanced techniques like PEFT (Prompting for Efficient Fine-Tuning) and LoRA (Low-Rank Adaptation) for fine-tuning.
Step into the deployment of LLMs, delivering these state-of-the-art language models into the real-world, whether integrating them into cloud platforms or optimizing them for edge devices, this section ensures you're equipped with the know-how to bring your AI solutions to life.
Whether you're a seasoned AI practitioner, a data scientist, or a curious developer eager to advance your knowledge on the powerful LLMs, this book is your ultimate guide to mastering these cutting-edge models. By translating convoluted concepts into understandable explanations and offering a practical hands-on approach, this treasure trove of knowledge is invaluable to both aspiring beginners and seasoned professionals.
Table of Contents
1. INTRODUCTION1.1 What is AI, ML, DL, Generative AI and Large Language Model
1.2 Lifecycle of Large Language Models
1.3 Whom This Book Is For
1.4 How This Book Is Organized
1.5 Source Code and Resources
2. PYTORCH BASICS AND MATH FUNDAMENTALS
2.1 Tensor and Vector
2.2 Tensor and Matrix
2.3 Dot Product
2.4 Softmax
2.5 Cross Entropy
2.6 GPU Support
2.7 Linear Transformation
2.8 Embedding
2.9 Neural Network
2.10 Bigram and N-gram Models
2.11 Greedy, Random Sampling and Beam
2.12 Rank of Matrices
2.13 Singular Value Decomposition (SVD)
2.14 Conclusion
3. TRANSFORMER
3.1 Dataset and Tokenization
3.2 Embedding
3.3 Positional Encoding
3.4 Layer Normalization
3.5 Feed Forward
3.6 Scaled Dot-Product Attention
3.7 Mask
3.8 Multi-Head Attention
3.9 Encoder Layer and Encoder
3.10 Decoder Layer and Decoder
3.11 Transformer
3.12 Training
3.13 Inference
3.14 Conclusion
4. PRE-TRAINING
4.1 Machine Translation
4.2 Dataset and Tokenization
4.3 Load Data in Batch
4.4 Pre-Training nn.Transformer Model
4.5 Inference
4.6 Popular Large Language Models
4.7 Computational Resources
4.8 Prompt Engineering and In-context Learning (ICL)
4.9 Prompt Engineering on FLAN-T5
4.10 Pipelines
4.11 Conclusion
5. FINE-TUNING
5.1 Fine-Tuning
5.2 Parameter Efficient Fine-tuning (PEFT)
5.3 Low-Rank Adaptation (LoRA)
5.4 Adapter
5.5 Prompt Tuning
5.6 Evaluation
5.7 Reinforcement Learning
5.8 Reinforcement Learning Human Feedback (RLHF)
5.9 Implementation of RLHF
5.10 Conclusion
6. DEPLOYMENT OF LLMS
6.1 Challenges and Considerations
6.2 Pre-Deployment Optimization
6.3 Security and Privacy
6.4 Deployment Architectures
6.5 Scalability and Load Balancing
6.6 Compliance and Ethics Review
6.7 Model Versioning and Updates
6.8 LLM-Powered Applications
6.9 Vector Database
6.10 LangChain
6.11 Chatbot, Example of LLM-Powered Application
6.12 WebUI, Example of LLM-Power Application
6.13 Future Trends and Challenges
6.14 Conclusion
INDEX
REFERENCES
ABOUT THE AUTHOR
« Synopsis » peut appartenir à une autre édition de cet ouvrage.
BargainBookStores
Grand Rapids, MI, Etats-Unis
Vendeur AbeBooks depuis 23 janvier 2002
Frais d'expédition à l'intérieur de ce pays : Etats-Unis
| Article | 4 à 10 jours ouvrés | 4 à 9 jours ouvrés |
|---|---|---|
| Premier article | EUR 0,00 | EUR 35,35 |
Modes de paiement
Description de la boutique
Save up to 90% on your favorite items at BargainBookStores.com! Our 20,000 square foot warehouse in Grand Rapids, Michigan is filled with hundreds of thousands of books and consumer goods, all at the lowest prices! We've been serving internet customers with great deals since 2001. All books ship from Grand Rapids, Michigan. 100% Customer Satisfaction Guaranteed We want to ensure your satisfaction. If you are dissatisfied with your purchase or shopping experience, we would like to hear from you. Please contact us by email: cs@bargainbookstores.com. Please be sure to include your contact information and order number. We do not charge a restocking fee for returns. Your Privacy BargainBookStores.com does not provide, sell or market customer information to other businesses or organizations.…
Spécialité
Out of Print Books, Specializing in Academic and Professional Books, Bargain Books - Save Up to 90% Off Publisher's List Price!, Remainder Books, Store-Wide Range of New Books in all CategoriesProfil professionnel du vendeur
BargainBookStores
3423 Lousma Dr SE
Grand Rapids, MI Etats-Unis 49548
Conditions de vente
BargainBookStores guarantees 100% Customer Satisfaction. We ship worldwide and offer a variety of shipping methods to meet your needs. Please place your order directly via ABEBooks.com. We accept payment by MasterCard and Visa. For more information, contact us by email at cs@bargainbookstores.com. Full contact info is below:
BargainBookStores.com LLC
3423 Lousma Dr SE
Grand Rapids, MI 49548
Droit de rétractation
Si vous êtes un consommateur, vous pouvez exercer votre droit de rétractation sur le contrat conformément à ce qui suit. Le mot « consommateur » désigne toute personne physique agissant à des fins qui n'entrent pas dans le cadre de son activité commerciale, artisanale ou professionnelle.
Informations concernant le droit de rétractation
Droit statutaire de rétractation
Vous avez le droit d'exercer votre droit de rétractation sur ce contrat dans les 14 jours sans donner de raison.
Le délai de rétractation expirera au bout de 14 jours à compter du jour où vous-même, ou un tiers autre que le transporteur et désigné par vous, prendrez physiquement possession de la dernière marchandise, du dernier lot ou de la dernière pièce.
Pour exercer votre droit de rétractation, remplissez électroniquement et envoyez une déclaration claire sur notre site Web, sous « Vos achats » dans « Votre compte ». Nous vous communiquerons sans délai un accusé de réception de cette rétractation sur un support durable (par exemple, par e-mail).
Pour respecter le délai de rétractation, il vous suffit d'envoyer votre message concernant l'exercice de votre droit de rétractation avant l'expiration du délai de rétractation.
Effets de la rétractation
Si vous exercez votre droit de rétractation sur ce contrat, nous vous rembourserons tous les paiements que vous avez effectués, y compris les frais de livraison (à l'exception des frais supplémentaires résultant du choix d'un mode de livraison autre que le type de livraison standard le moins cher que nous proposons).
Nous pouvons déduire du remboursement la perte de valeur de toute marchandise livrée, si la perte est le résultat d'une manipulation inutile de votre part.
Nous effectuerons le remboursement dans les meilleurs délais, et au plus tard 14 jours après le jour où nous aurons été informés de votre décision d'exercer votre droit de rétractation sur ce contrat.
Nous effectuerons le remboursement en utilisant le même moyen de paiement que celui que vous avez utilisé pour la transaction initiale, sauf si vous en avez expressément convenu autrement ; en tout état de cause, aucuns frais ne vous seront facturés à la suite d'un tel remboursement.
Nous pouvons suspendre le remboursement jusqu'à ce que nous ayons reçu les marchandises ou que vous ayez fourni la preuve que vous avez renvoyé les marchandises, en fonction de la première éventualité.
Vous devez renvoyer les marchandises ou les remettre à BargainBookStores, Grand Rapids, Michigan, U.S.A., sans retard injustifié et, en tout état de cause, au plus tard 14 jours à compter du jour où vous nous avez communiqué votre décision de rétractation du présent contrat. Le délai est respecté si vous renvoyez les marchandises avant l'expiration du délai de 14 jours. Vous devrez prendre en charge les frais directs du renvoi des marchandises. Vous n'êtes responsable que de toute diminution de valeur des marchandises résultant d'une manipulation autre que celle nécessaire pour établir la nature, les caractéristiques et le fonctionnement des marchandises.
Exceptions au droit de rétractation
Le droit de rétractation ne s'applique pas à ce qui suit :
- Distribution de journaux, de revues ou de magazines, à l'exception des contrats d'abonnement ; et
- Fourniture d'un contenu numérique qui n'est pas fourni sur un support matériel (par exemple, sur un CD ou un DVD) si vous avez accepté, lors de votre commande, que nous puissions commencer à le livrer et que vous ne puissiez pas exercer votre droit de rétractation une fois la livraison commencée.
Conditions d'expédition
We will ship to all domestic and most international destinations.
Please note: Shipping times are estimated and are not guaranteed by BargainBookStores.