Reliable Evaluations for LLMs and AI Agents
Langue : anglais
Edité par Springer Nature Switzerland AG Okt 2026, 2026
- Livre broché
- Neuf
Vendeur : BuchWeltWeit Ludwig Meier e.K., Bergisch Gladbach, AllemagneBuchWeltWeit Ludwig Meier e.K.
Vendeur AbeBooks depuis 11 janvier 2012
Etat: Neuf
EUR 64,19
Quantité disponible : 2 disponibles
Ajouter au panierA propos de cet article
This item is printed on demand - it takes 3-4 days longer - Neuware -This book gives practitioners a concrete, systematic framework for designing evals that make AI systems safe, robust, and customer-ready before they reach production. Drawing on real-world failures, from chatbots that went off the rails to shopping assistants that hallucinated product information, it shows how seemingly small evaluation gaps can cascade into legal, financial, and reputational crisis, and how to close those gaps with disciplined, systematic testing.Moving from foundational concepts to advanced practice, Reliable Evals for LLMs and AI Agents introduces the four core levers of effective evals: sets, templates, metrics, and evaluators. It then extends these to the unique challenges of autonomous AI agents, where systems perceive, reason, act, and adapt in iterative loops that demand fundamentally different eval approaches. Along the way, it guides readers through benchmark selection, custom eval set design, statistical rigor in metrics, human and LLM-as-a-judge rating strategies, and the infrastructure needed to automate evals at scale.For engineering leaders, applied researchers, data scientists, and product teams shipping LLM- and agent-powered experiences, this volume offers a blueprint for building eval flywheels that continuously improve AI quality. It shows how to progress from ad-hoc checks to production-grade eval systems, align model metrics with real user satisfaction, integrate offline evals with online A/B testing, and design accessible interfaces that democratize rigorous testing across an organization. 193 pp. Englisch.…
N° de réf. du vendeur 9783032267481
- Titre
- Reliable Evaluations for LLMs and AI Agents
- Auteur
- Yueqing Wang
- Éditeur
- Springer Nature Switzerland AG Okt 2026
- Année de publication
- 2026
- État de l'article
- Neu
- Reliure
- Taschenbuch
- Langue
- anglais
- ISBN à 10 chiffres
- 303226748X
- ISBN à 13 chiffres
- 9783032267481
- Poids de l'article
- 318 grammes
- Dimensions
- 235x155x12 mm
This book gives practitioners a concrete, systematic framework for designing evals that make AI systems safe, robust, and customer-ready before they reach production. Drawing on real-world failures, from chatbots that went off the rails to shopping assistants that hallucinated product information, it shows how seemingly small evaluation gaps can cascade into legal, financial, and reputational crisis, and how to close those gaps with disciplined, systematic testing.
Moving from foundational concepts to advanced practice, Reliable Evals for LLMs and AI Agents introduces the four core levers of effective evals: sets, templates, metrics, and evaluators. It then extends these to the unique challenges of autonomous AI agents, where systems perceive, reason, act, and adapt in iterative loops that demand fundamentally different eval approaches. Along the way, it guides readers through benchmark selection, custom eval set design, statistical rigor in metrics, human and LLM-as-a-judge rating strategies, and the infrastructure needed to automate evals at scale.
For engineering leaders, applied researchers, data scientists, and product teams shipping LLM- and agent-powered experiences, this volume offers a blueprint for building eval flywheels that continuously improve AI quality. It shows how to progress from ad-hoc checks to production-grade eval systems, align model metrics with real user satisfaction, integrate offline evals with online A/B testing, and design accessible interfaces that democratize rigorous testing across an organization.
« Synopsis » peut appartenir à une autre édition de cet ouvrage.
À propos de l’auteur
Alexei Robsky is a technology leader with over 15 years of experience building production AI and Machine-Learning systems. As AI Leader at Microsoft, he heads the Fabric Real-Time Intelligence AI team, delivering cloud-scale AI agents and solutions that act on live data streams.
Previously, Alexei led Google's Gemini Core Modeling and Evals Data Science Research organization, driving evaluation research and training-data quality initiatives that shaped the performance, reliability, and safety of Gemini models.
Earlier in his career, he was a Data Science Manager at Twitter, overseeing evaluation of Home Timeline ranking and personalization, and a Principal Data Science Manager at Microsoft, where he guided cross-functional teams that shipped production-level Azure customer-experience solutions.
Alexei co-authored Machine Learning Governance for Managers (Springer, 2024), holds an MBA from Duke University's Fuqua School of Business, and earned a B.Sc. in Electrical Engineering and Computer Science from Tel Aviv University.
Liliya Lavitas is an accomplished Data Science leader with a deep background in statistical modeling and machine learning. Liliiya currently leads a Data Science team in Google Search incorporating AI features in Google Search experience. Previously, under leadership of Alexei, she has been leading a Data Science team at Google DeepMind, responsible for the rigorous evaluation and training of core Gemini capabilities, ensuring their performance and reliability. Prior to her role at Google, Liliya managed Data Science teams at Netflix and Twitter. Liliya earned her Ph.D. in Statistics from Boston University in 2017, with a thesis specializing in Time Series analysis.
Yueqing Wang is a statistician specializing in novel methodology for system evaluation. In recent years, she has developed new techniques and frameworks for Gen AI evaluation for Google Gemini and at Microsoft AI. Earlier, she worked on paid product ecosystem at YouTube, statistical evaluations of startups at Google Ventures, and Media Mix Modeling at Google Ads, among other things. She earned her PhD in Statistics from the University of California, Berkeley in 2012 with Professor Bin Yu.
« A propos de ce titre » peut appartenir à une autre édition de cet ouvrage.
BuchWeltWeit Ludwig Meier e.K.
Bergisch Gladbach, Allemagne
Vendeur AbeBooks depuis 11 janvier 2012
Frais d'expédition de Allemagne vers Etats-Unis
| Article | 5 à 15 jours ouvrés | 5 à 15 jours ouvrés |
|---|---|---|
| Premier article | EUR 23,00 | EUR 23,00 |
Modes de paiement
- Chèque
- Paypal
- Virement bancaire
Profil professionnel du vendeur
BuchWeltWeit Ludwig Meier e.K.
Allemagne
Conditions de vente
BuchWeltWeit Inh. Ludwig Meier e.K.
Inhaber: Ludwig Meier
De-Gasperi-Str. 8
51469 Bergisch Gladbach
Deutschland
Tel.: +49(0)22028659300
Fax: +49(0)22028659301
E-Mail: info@buchweltweit.de
Registergericht: Amtsgericht Köln
Registernummer: HRA 28253
Umsatzsteuer-Identifikationsnummer: DE815259907
Wir sind zur Teilnahme an einem Streitbeilegungsverfahren vor einer Verbraucherschlichtungsstelle weder verpflichtet noch bereit.
Droit de rétractation
Si vous êtes un consommateur, vous pouvez exercer votre droit de rétractation sur le contrat conformément à ce qui suit. Le mot « consommateur » désigne toute personne physique agissant à des fins qui n'entrent pas dans le cadre de son activité commerciale, artisanale ou professionnelle.
Informations concernant le droit de rétractation
Droit statutaire de rétractation
Vous avez le droit d'exercer votre droit de rétractation sur ce contrat dans les 14 jours sans donner de raison.
Le délai de rétractation expirera au bout de 14 jours à compter du jour où vous-même, ou un tiers autre que le transporteur et désigné par vous, prendrez physiquement possession de la dernière marchandise, du dernier lot ou de la dernière pièce.
Pour exercer votre droit de rétractation, remplissez électroniquement et envoyez une déclaration claire sur notre site Web, sous « Vos achats » dans « Votre compte ». Nous vous communiquerons sans délai un accusé de réception de cette rétractation sur un support durable (par exemple, par e-mail).
Pour respecter le délai de rétractation, il vous suffit d'envoyer votre message concernant l'exercice de votre droit de rétractation avant l'expiration du délai de rétractation.
Effets de la rétractation
Si vous exercez votre droit de rétractation sur ce contrat, nous vous rembourserons tous les paiements que vous avez effectués, y compris les frais de livraison (à l'exception des frais supplémentaires résultant du choix d'un mode de livraison autre que le type de livraison standard le moins cher que nous proposons).
Nous pouvons déduire du remboursement la perte de valeur de toute marchandise livrée, si la perte est le résultat d'une manipulation inutile de votre part.
Nous effectuerons le remboursement dans les meilleurs délais, et au plus tard 14 jours après le jour où nous aurons été informés de votre décision d'exercer votre droit de rétractation sur ce contrat.
Nous effectuerons le remboursement en utilisant le même moyen de paiement que celui que vous avez utilisé pour la transaction initiale, sauf si vous en avez expressément convenu autrement ; en tout état de cause, aucuns frais ne vous seront facturés à la suite d'un tel remboursement.
Nous pouvons suspendre le remboursement jusqu'à ce que nous ayons reçu les marchandises ou que vous ayez fourni la preuve que vous avez renvoyé les marchandises, en fonction de la première éventualité.
Vous devez renvoyer les marchandises ou les remettre à BuchWeltWeit Ludwig Meier e.K., Bergisch Gladbach, Germany, sans retard injustifié et, en tout état de cause, au plus tard 14 jours à compter du jour où vous nous avez communiqué votre décision de rétractation du présent contrat. Le délai est respecté si vous renvoyez les marchandises avant l'expiration du délai de 14 jours. Vous devrez prendre en charge les frais directs du renvoi des marchandises. Vous n'êtes responsable que de toute diminution de valeur des marchandises résultant d'une manipulation autre que celle nécessaire pour établir la nature, les caractéristiques et le fonctionnement des marchandises.
Exceptions au droit de rétractation
Le droit de rétractation ne s'applique pas à ce qui suit :
- Distribution de journaux, de revues ou de magazines, à l'exception des contrats d'abonnement ; et
- Fourniture d'un contenu numérique qui n'est pas fourni sur un support matériel (par exemple, sur un CD ou un DVD) si vous avez accepté, lors de votre commande, que nous puissions commencer à le livrer et que vous ne puissiez pas exercer votre droit de rétractation une fois la livraison commencée.
Conditions d'expédition
Der Versand ins Ausland findet IMMER mit DHL statt. Auch nach Österreich verschicken wir nur mit DHL! Daher Standardversand == Luftpost!