Descripción
Va más allá de las discusiones académicas, adentrándose profundamente en la capa de aplicaciones de los Modelos Fundamentales. Este libro práctico ofrece explicaciones claras y ricas en ejemplos sobre cómo funcionan los LLM, cómo puede interactuar con ellos y cómo integrar los LLM en sus propias aplicaciones. Descubra qué hace que los LLM sean tan diferentes del software y el ML tradicionales, aprenda las mejores prácticas para trabajar con ellos fuera del laboratorio y evite errores comunes con consejos experimentados. En LLMs in Production, usted: - Comprenderá los fundamentos de los LLM y la tecnología detrás de ellos
- Evaluará cuándo usar un LLM prefabricado y cuándo construir el suyo propio
- Escaleará eficientemente una plataforma de ML para manejar las necesidades de los LLM
- Entrenará modelos fundamentales de LLM y ajustará un LLM existente
- Desplegará LLM en la nube y en dispositivos de borde usando arquitecturas complejas como PEFT y LoRA
- Construirá aplicaciones que aprovechen las fortalezas de los LLM mientras mitigan sus debilidades LLMs in Production ofrece información vital para la entrega de MLOps, de modo que pueda guiar de manera fácil y fluida un LLM hacia el uso en producción. En su interior, encontrará información práctica sobre todo, desde la adquisición de un conjunto de datos de entrenamiento adecuado para LLM, la construcción de una plataforma y la compensación por su inmenso tamaño. Además, consejos y trucos para la ingeniería de prompts, el reentrenamiento y las pruebas de carga, el manejo de costos y la garantía de seguridad. Prólogo de Joe Reis. La compra del libro impreso incluye un libro electrónico gratuito en formato PDF y ePub de Manning Publications. Sobre la tecnología La mayoría del software empresarial se desarrolla y mejora de forma iterativa, y puede cambiar significativamente incluso después de la implementación. Por el contrario, debido a que los LLM son costosos de crear y difíciles de modificar, requieren una planificación meticulosa inicial, estándares de datos exigentes y una implementación técnica cuidadosamente ejecutada. La integración de LLM en productos de producción impacta en cada aspecto de su plan de operaciones, incluido el ciclo de vida de la aplicación, la tubería de datos, el costo de cómputo, la seguridad y más. Si se hace mal, puede tener un costoso fracaso en sus manos. Sobre el libro LLMs in Production le enseña cómo desarrollar un plan de LLMOps que pueda llevar una aplicación de IA sin problemas desde el diseño hasta la entrega. Aprenderá técnicas para preparar un conjunto de datos para LLM, trucos de entrenamiento rentables como LORA y RLHF, y puntos de referencia de la industria para la evaluación de modelos. En el camino, pondrá sus nuevas habilidades en práctica en tres emocionantes proyectos de ejemplo: crear y entrenar un LLM personalizado, construir una extensión de codificación de IA de VSCode y desplegar un pequeño modelo en una Raspberry Pi. Qué contiene - Equilibrio entre costo y rendimiento
- Reentrenamiento y pruebas de carga
- Optimización de modelos para hardware de consumo
- Despliegue en un clúster de Kubernetes Sobre el lector Para científicos de datos e ingenieros de ML que conocen Python y los conceptos básicos del despliegue en la nube. Sobre el autor Christopher Brousseau y Matt Sharp son ingenieros experimentados que han liderado numerosas implementaciones exitosas de LLM a gran escala. Tabla de contenidos 1 IA generativa: por qué los grandes modelos lingüísticos han captado la atención
2 Grandes modelos lingüísticos: una inmersión profunda en el modelado lingüístico
3 Operaciones de grandes modelos lingüísticos: construcción de una plataforma para LLM
4 Ingeniería de datos para grandes modelos lingüísticos: preparación para el éxito
5 Entrenamiento de grandes modelos lingüísticos: cómo generar el generador
6 Servicios de grandes modelos lingüísticos: una guía práctica
7 Ingeniería de prompts: cómo convertirse en un susurrador de LLM
8 Aplicaciones y agentes: construcción de una experiencia interactiva
9 Creación de un proyecto LLM: reimplementación de Llama 3
10 Creación de un proyecto de copiloto de codificación: integración de un servicio LLM en VS Code con RAG
11 Despliegue de un LLM en una Raspberry Pi: ¿hasta dónde se puede llegar?
12 Producción, un panorama en constante cambio: esto solo está empezando
A Historia de la lingüística
B Aprendizaje por refuerzo con retroalimentación humana
C Espacios latentes multimodales
Autor: Christopher Brousseau, Matt Sharp
Editorial: Manning Publications
Publicado: 02/11/2025
Páginas: 456
Tipo de encuadernación: Tapa blanda
Peso: 1.68lbs
Tamaño: 9.14h x 7.40w x 0.93d
ISBN13: 9781633437203
ISBN10: 1633437205
Categorías BISAC:
- Informática | Inteligencia Artificial | Sistemas Expertos
- Informática | Lenguajes | Python
- Informática | Inteligencia Artificial | Procesamiento del Lenguaje Natural
- Evaluará cuándo usar un LLM prefabricado y cuándo construir el suyo propio
- Escaleará eficientemente una plataforma de ML para manejar las necesidades de los LLM
- Entrenará modelos fundamentales de LLM y ajustará un LLM existente
- Desplegará LLM en la nube y en dispositivos de borde usando arquitecturas complejas como PEFT y LoRA
- Construirá aplicaciones que aprovechen las fortalezas de los LLM mientras mitigan sus debilidades LLMs in Production ofrece información vital para la entrega de MLOps, de modo que pueda guiar de manera fácil y fluida un LLM hacia el uso en producción. En su interior, encontrará información práctica sobre todo, desde la adquisición de un conjunto de datos de entrenamiento adecuado para LLM, la construcción de una plataforma y la compensación por su inmenso tamaño. Además, consejos y trucos para la ingeniería de prompts, el reentrenamiento y las pruebas de carga, el manejo de costos y la garantía de seguridad. Prólogo de Joe Reis. La compra del libro impreso incluye un libro electrónico gratuito en formato PDF y ePub de Manning Publications. Sobre la tecnología La mayoría del software empresarial se desarrolla y mejora de forma iterativa, y puede cambiar significativamente incluso después de la implementación. Por el contrario, debido a que los LLM son costosos de crear y difíciles de modificar, requieren una planificación meticulosa inicial, estándares de datos exigentes y una implementación técnica cuidadosamente ejecutada. La integración de LLM en productos de producción impacta en cada aspecto de su plan de operaciones, incluido el ciclo de vida de la aplicación, la tubería de datos, el costo de cómputo, la seguridad y más. Si se hace mal, puede tener un costoso fracaso en sus manos. Sobre el libro LLMs in Production le enseña cómo desarrollar un plan de LLMOps que pueda llevar una aplicación de IA sin problemas desde el diseño hasta la entrega. Aprenderá técnicas para preparar un conjunto de datos para LLM, trucos de entrenamiento rentables como LORA y RLHF, y puntos de referencia de la industria para la evaluación de modelos. En el camino, pondrá sus nuevas habilidades en práctica en tres emocionantes proyectos de ejemplo: crear y entrenar un LLM personalizado, construir una extensión de codificación de IA de VSCode y desplegar un pequeño modelo en una Raspberry Pi. Qué contiene - Equilibrio entre costo y rendimiento
- Reentrenamiento y pruebas de carga
- Optimización de modelos para hardware de consumo
- Despliegue en un clúster de Kubernetes Sobre el lector Para científicos de datos e ingenieros de ML que conocen Python y los conceptos básicos del despliegue en la nube. Sobre el autor Christopher Brousseau y Matt Sharp son ingenieros experimentados que han liderado numerosas implementaciones exitosas de LLM a gran escala. Tabla de contenidos 1 IA generativa: por qué los grandes modelos lingüísticos han captado la atención
2 Grandes modelos lingüísticos: una inmersión profunda en el modelado lingüístico
3 Operaciones de grandes modelos lingüísticos: construcción de una plataforma para LLM
4 Ingeniería de datos para grandes modelos lingüísticos: preparación para el éxito
5 Entrenamiento de grandes modelos lingüísticos: cómo generar el generador
6 Servicios de grandes modelos lingüísticos: una guía práctica
7 Ingeniería de prompts: cómo convertirse en un susurrador de LLM
8 Aplicaciones y agentes: construcción de una experiencia interactiva
9 Creación de un proyecto LLM: reimplementación de Llama 3
10 Creación de un proyecto de copiloto de codificación: integración de un servicio LLM en VS Code con RAG
11 Despliegue de un LLM en una Raspberry Pi: ¿hasta dónde se puede llegar?
12 Producción, un panorama en constante cambio: esto solo está empezando
A Historia de la lingüística
B Aprendizaje por refuerzo con retroalimentación humana
C Espacios latentes multimodales
Autor: Christopher Brousseau, Matt Sharp
Editorial: Manning Publications
Publicado: 02/11/2025
Páginas: 456
Tipo de encuadernación: Tapa blanda
Peso: 1.68lbs
Tamaño: 9.14h x 7.40w x 0.93d
ISBN13: 9781633437203
ISBN10: 1633437205
Categorías BISAC:
- Informática | Inteligencia Artificial | Sistemas Expertos
- Informática | Lenguajes | Python
- Informática | Inteligencia Artificial | Procesamiento del Lenguaje Natural
Sobre el Autor
Christopher Brousseau es un Ingeniero de Aprendizaje Automático de plantilla en JPMorganChase con experiencia en lingüística y localización. Se especializa en PNL lingüísticamente informada, especialmente con un enfoque internacional, y ha liderado exitosas iniciativas de productos de ML y Datos tanto en startups como en empresas de Fortune 500.