ساخت مدل‌های ترانسفورمر با PyTorch 2.0 ۲۰۲۴
Building Transformer Models with PyTorch 2.0 2024

کلید شما برای پردازش زبان طبیعی (NLP)، بینایی ماشین، گفتار و چندوجهی‌ها مبتنی بر ترنسفورمر

ویژگی‌های کلیدی

● معماری ترنسفورمر برای روش‌های مختلف و چندوجهی.
● دستورالعمل‌های عملی برای ساخت و تنظیم دقیق مدل‌های ترنسفورمر.
● نمونه کدهای جامع با مستندات مفصل.

توضیحات

این کتاب معماری ترنسفورمر را برای کاربردهای مختلف از جمله پردازش زبان طبیعی، بینایی کامپیوتر، پردازش گفتار و مدل‌سازی پیش‌بینی با داده‌های جدولی پوشش می‌دهد. این منبع ارزشمندی برای هر کسی است که به دنبال استفاده از قدرت معماری ترنسفورمر در پروژه‌های یادگیری ماشین خود است.

این کتاب یک راهنمای گام به گام برای ساخت مدل‌های ترنسفورمر از ابتدا و تنظیم دقیق مدل‌های متن‌باز از پیش آموزش‌دیده ارائه می‌دهد. معماری مدل‌های اساسی، از جمله GPT، ViT، Whisper، TabTransformer، Stable Diffusion و اصول اصلی حل مسائل مختلف با ترنسفورمرها را بررسی می‌کند. این کتاب همچنین یادگیری انتقالی، آموزش مدل و تنظیم دقیق را پوشش می‌دهد و نحوه استفاده از مدل‌های اخیر Hugging Face را مورد بحث قرار می‌دهد. به علاوه، این کتاب به بررسی موضوعات پیشرفته مانند محک‌زنی مدل، یادگیری چندوجهی، یادگیری تقویتی، و استقرار و ارائه مدل‌های ترنسفورمر می‌پردازد.

در پایان، این کتاب یک راهنمای جامع و کامل برای مدل‌های ترنسفورمر و کاربردهای مختلف آن‌ها ارائه می‌دهد.

آنچه خواهید آموخت

● درک معماری اصلی مدل‌های بنیادی مختلف، از جمله تک‌وجهی و چندوجهی.
● رویکرد گام به گام برای توسعه مدل‌های یادگیری ماشین مبتنی بر ترنسفورمر.
● استفاده از مدل‌های متن‌باز مختلف برای حل مشکلات تجاری خود.
● آموزش و تنظیم دقیق مدل‌های متن‌باز مختلف با استفاده از PyTorch 2.0 و اکوسیستم Hugging Face.
● استقرار و ارائه مدل‌های ترنسفورمر.
● بهترین شیوه‌ها و دستورالعمل‌ها برای ساخت مدل‌های مبتنی بر ترنسفورمر.

این کتاب برای چه کسانی است

این کتاب برای دانشمندان داده، مهندسان یادگیری ماشین، توسعه‌دهندگان و معماران نرم‌افزار علاقه‌مند به دنیای هوش مصنوعی مولد مناسب است.

فهرست مطالب

1. معماری ترنسفورمر
2. اکوسیستم Hugging Face
3. مدل ترنسفورمر در PyTorch
4. یادگیری انتقالی با PyTorch و Hugging Face
5. مدل‌های زبانی بزرگ: BERT، GPT-3 و BART
6. وظایف NLP با ترنسفورمرها
7. آناتومی مدل CV: ViT، DETR و DeiT
8. وظایف بینایی کامپیوتر با ترنسفورمرها
9. آناتومی مدل پردازش گفتار: Whisper، SpeechT5 و Wav2Vec
10. وظایف گفتار با ترنسفورمرها
11. معماری ترنسفورمر برای پردازش داده‌های جدولی
12. ترنسفورمرها برای رگرسیون و طبقه‌بندی داده‌های جدولی
13. ترنسفورمرهای چندوجهی، معماری‌ها و کاربردها
14. بررسی یادگیری تقویتی برای ترنسفورمر
15. خروجی مدل، ارائه و استقرار
16. تفسیرپذیری مدل ترنسفورمر و تجسم تجربی
17. مدل‌های PyTorch: بهترین شیوه‌ها و اشکال‌زدایی

Your key to transformer based NLP, vision, speech, and multimodalities

KEY FEATURES  

● Transformer architecture for different modalities and multimodalities.

● Practical guidelines to build and fine-tune transformer models.

● Comprehensive code samples with detailed documentation.

DESCRIPTION 

This book covers transformer architecture for various applications including NLP, computer vision, speech processing, and predictive modeling with tabular data. It is a valuable resource for anyone looking to harness the power of transformer architecture in their machine learning projects.

The book provides a step-by-step guide to building transformer models from scratch and fine-tuning pre-trained open-source models. It explores foundational model architecture, including GPT, VIT, Whisper, TabTransformer, Stable Diffusion, and the core principles for solving various problems with transformers. The book also covers transfer learning, model training, and fine-tuning, and discusses how to utilize recent models from Hugging Face. Additionally, the book explores advanced topics such as model benchmarking, multimodal learning, reinforcement learning, and deploying and serving transformer models.

In conclusion, this book offers a comprehensive and thorough guide to transformer models and their various applications.

WHAT YOU WILL LEARN

● Understand the core architecture of various foundational models, including single and multimodalities.

● Step-by-step approach to developing transformer-based Machine Learning models.

● Utilize various open-source models to solve your business problems.

● Train and fine-tune various open-source models using PyTorch 2.0 and the Hugging Face ecosystem.

● Deploy and serve transformer models.

● Best practices and guidelines for building transformer-based models.

WHO THIS BOOK IS FOR

This book caters to data scientists, Machine Learning engineers, developers, and software architects interested in the world of generative AI. 

TABLE OF CONTENTS

1. Transformer Architecture

2. Hugging Face Ecosystem

3. Transformer Model in PyTorch

4. Transfer Learning with PyTorch and Hugging Face

5. Large Language Models: BERT, GPT-3, and BART

6. NLP Tasks with Transformers

7. CV Model Anatomy: ViT, DETR, and DeiT

8. Computer Vision Tasks with Transformers

9. Speech Processing Model Anatomy: Whisper, SpeechT5, and Wav2Vec

10. Speech Tasks with Transformers

11. Transformer Architecture for Tabular Data Processing

12. Transformers for Tabular Data Regression and Classification

13. Multimodal Transformers, Architectures and Applications

14. Explore Reinforcement Learning for Transformer

15. Model Export, Serving, and Deployment

16. Transformer Model Interpretability, and Experimental Visualization

17. PyTorch Models: Best Practices and Debugging