Descripción
Adopte un enfoque de resolución de problemas para aprender todo sobre los transformadores y póngase en marcha en poco tiempo implementando metodologías que construirán el futuro del PNL
Características clave:
- Explore la creación rápida de prototipos con bibliotecas de Python actualizadas para crear soluciones efectivas a problemas industriales.
- Resuelva problemas avanzados de PNL, como el reconocimiento de entidades nombradas, la extracción de información, la generación de lenguaje y la IA conversacional.
- Supervise el rendimiento de su modelo con la ayuda de BertViz, exBERT y TensorBoard.
Descripción del libro:
Los modelos de lenguaje basados en transformadores han dominado los estudios de procesamiento de lenguaje natural (PNL) y ahora se han convertido en un nuevo paradigma. Con este libro, aprenderá a crear varias aplicaciones de PNL basadas en transformadores utilizando la biblioteca Python Transformers.
El libro le presenta los Transformadores mostrándole cómo escribir su primer programa "hola mundo". Luego, aprenderá cómo funciona un tokenizador y cómo entrenar su propio tokenizador. A medida que avance, explorará la arquitectura de los modelos de autocodificación, como BERT, y los modelos autorregresivos, como GPT. Verá cómo entrenar y ajustar modelos para una variedad de problemas de comprensión del lenguaje natural (NLU) y generación de lenguaje natural (NLG), incluida la clasificación de texto, la clasificación de tokens y la representación de texto. Este libro también le ayuda a aprender modelos eficientes para problemas desafiantes, como tareas de PNL de contexto largo con capacidad computacional limitada. También trabajará con problemas multilingües y translingüísticos, optimizará modelos monitoreando su rendimiento y descubrirá cómo deconstruir estos modelos para su interpretabilidad y explicabilidad. Finalmente, podrá implementar sus modelos de transformadores en un entorno de producción.
Al final de este libro de PNL, habrá aprendido a usar los Transformadores para resolver problemas avanzados de PNL utilizando modelos avanzados.
Lo que aprenderá:
- Explore soluciones de PNL de vanguardia con la biblioteca Transformers.
- Entrene un modelo de lenguaje en cualquier idioma con cualquier arquitectura de transformador.
- Ajuste un modelo de lenguaje preentrenado para realizar varias tareas posteriores.
- Seleccione el marco adecuado para el entrenamiento, la evaluación y la producción de una solución de extremo a extremo.
- Obtenga experiencia práctica en el uso de TensorBoard y Weights & Biases.
- Visualice la representación interna de los modelos de transformadores para su interpretabilidad.
A quién va dirigido este libro:
Este libro está dirigido a investigadores de aprendizaje profundo, profesionales de PNL prácticos, así como educadores y estudiantes de ML/PNL que deseen iniciar su viaje con los Transformadores. El conocimiento de aprendizaje automático de nivel principiante y un buen dominio de Python le ayudarán a aprovechar al máximo este libro.
Author: Savaş Yıldırım, Meysam Asgari-Chenaghlu
Publisher: Packt Publishing
Published: 09/15/2021
Pages: 374
Binding Type: Paperback
Weight: 1.41lbs
Size: 9.25h x 7.50w x 0.77d
ISBN13: 9781801077651
ISBN10: 1801077657
BISAC Categories:
- Computers | Artificial Intelligence | Natural Language Processing
- Computers | Data Science | General
This title is not returnable