خطوط لوله داده با آپاچی ایرفلو ۲۰۲۱
Data Pipelines with Apache Airflow 2021

خطوط لوله داده با Apache Airflow به شما می‌آموزد چگونه خطوط لوله داده موثر را بسازید و نگهداری کنید.

یک خط لوله موفق، داده‌ها را به طور کارآمد منتقل می‌کند، مکث‌ها و انسدادها بین وظایف را به حداقل می‌رساند و هر فرآیند را در طول مسیر عملیاتی نگه می‌دارد. Apache Airflow یک محیط سفارشی‌سازی‌شده واحد برای ساخت و مدیریت خطوط لوله داده ارائه می‌دهد و نیاز به مجموعه‌ای درهم و برهم از ابزارها، کدهای منحصربه‌فرد و فرآیندهای خانگی را از بین می‌برد. خطوط لوله داده با Apache Airflow با استفاده از سناریوها و مثال‌های واقعی، به شما می‌آموزد که چگونه خطوط لوله داده را ساده و خودکار کنید، سربار عملیاتی را کاهش دهید و به راحتی تمام فناوری‌های موجود در پشته خود را ادغام کنید.

با خرید نسخه چاپی کتاب، یک نسخه الکترونیکی رایگان در قالب‌های PDF، Kindle و ePub از انتشارات Manning دریافت خواهید کرد.

درباره این فناوری
خطوط لوله داده، جریان داده را از جمع‌آوری اولیه تا تجمیع، پاک‌سازی، تجزیه و تحلیل، مصورسازی و موارد دیگر مدیریت می‌کنند. Apache Airflow یک پلتفرم واحد را ارائه می‌دهد که می‌توانید از آن برای طراحی، پیاده‌سازی، نظارت و نگهداری خطوط لوله خود استفاده کنید. رابط کاربری آسان، گزینه‌های plug-and-play و اسکریپت نویسی پایتون منعطف، Airflow را برای هر کار مدیریت داده‌ای عالی می‌سازد.

درباره این کتاب
خطوط لوله داده با Apache Airflow به شما می‌آموزد چگونه خطوط لوله داده موثر را بسازید و نگهداری کنید. شما رایج‌ترین الگوهای استفاده، از جمله جمع‌آوری چند منبع داده، اتصال به و از دریاچه‌های داده و استقرار ابری را بررسی خواهید کرد. این راهنمای عملی که بخشی مرجع و بخشی آموزش است، تمام جنبه‌های گراف‌های جهت‌دار غیرمدور (DAG) که Airflow را تغذیه می‌کنند و نحوه سفارشی‌سازی آنها را برای نیازهای خط لوله شما پوشش می‌دهد.

آنچه در داخل خواهید آموخت
ساخت، آزمایش و استقرار خطوط لوله Airflow به عنوان DAG
خودکارسازی انتقال و تبدیل داده‌ها
تجزیه و تحلیل مجموعه داده‌های تاریخی با استفاده از backfilling
توسعه اجزای سفارشی
راه‌اندازی Airflow در محیط‌های تولید

درباره خواننده
برای DevOps، مهندسان داده، مهندسان یادگیری ماشین و sysadmins با مهارت‌های متوسط ​​پایتون.

درباره نویسندگان
باس هارنسلاک و جولین دی رویتر مهندسان داده‌ای هستند که تجربه گسترده‌ای در استفاده از Airflow برای توسعه خطوط لوله برای شرکت‌های بزرگ دارند. باس همچنین یک Airflow committer است.

فهرست مطالب

بخش 1 – شروع به کار

1 آشنایی با Apache Airflow
2 تشریح یک DAG در Airflow
3 زمان‌بندی در Airflow
4 الگوبرداری از وظایف با استفاده از Airflow context
5 تعریف وابستگی‌ها بین وظایف

بخش 2 – فراتر از اصول اولیه

6 راه‌اندازی گردش کار
7 ارتباط با سیستم‌های خارجی
8 ساخت اجزای سفارشی
9 تست
10 اجرای وظایف در کانتینرها

بخش 3 – Airflow در عمل

11 بهترین روش‌ها
12 راه اندازی Airflow در محیط تولید
13 ایمن‌سازی Airflow
14 پروژه: یافتن سریع‌ترین راه برای رفت و آمد در نیویورک

بخش 4 – در ابرها

15 Airflow در ابرها
16 Airflow در AWS
17 Airflow در Azure
18 Airflow در GCP

Data Pipelines with Apache Airflow teaches you how to build and maintain effective data pipelines.

A successful pipeline moves data efficiently, minimizing pauses and blockages between tasks, keeping every process along the way operational. Apache Airflow provides a single customizable environment for building and managing data pipelines, eliminating the need for a hodgepodge collection of tools, snowflake code, and homegrown processes. Using real-world scenarios and examples, Data Pipelines with Apache Airflow teaches you how to simplify and automate data pipelines, reduce operational overhead, and smoothly integrate all the technologies in your stack.

Purchase of the print book includes a free eBook in PDF, Kindle, and ePub formats from Manning Publications.

About the technology
Data pipelines manage the flow of data from initial collection through consolidation, cleaning, analysis, visualization, and more. Apache Airflow provides a single platform you can use to design, implement, monitor, and maintain your pipelines. Its easy-to-use UI, plug-and-play options, and flexible Python scripting make Airflow perfect for any data management task.

About the book
Data Pipelines with Apache Airflow teaches you how to build and maintain effective data pipelines. You’ll explore the most common usage patterns, including aggregating multiple data sources, connecting to and from data lakes, and cloud deployment. Part reference and part tutorial, this practical guide covers every aspect of the directed acyclic graphs (DAGs) that power Airflow, and how to customize them for your pipeline’s needs.

What’s inside
Build, test, and deploy Airflow pipelines as DAGs
Automate moving and transforming data
Analyze historical datasets using backfilling
Develop custom components
Set up Airflow in production environments

About the reader
For DevOps, data engineers, machine learning engineers, and sysadmins with intermediate Python skills.

About the author
Bas Harenslak and Julian de Ruiter are data engineers with extensive experience using Airflow to develop pipelines for major companies. Bas is also an Airflow committer.

Table of Contents

PART 1 – GETTING STARTED

1 Meet Apache Airflow
2 Anatomy of an Airflow DAG
3 Scheduling in Airflow
4 Templating tasks using the Airflow context
5 Defining dependencies between tasks

PART 2 – BEYOND THE BASICS

6 Triggering workflows
7 Communicating with external systems
8 Building custom components
9 Testing
10 Running tasks in containers

PART 3 – AIRFLOW IN PRACTICE

11 Best practices
12 Operating Airflow in production
13 Securing Airflow
14 Project: Finding the fastest way to get around NYC

PART 4 – IN THE CLOUDS

15 Airflow in the clouds
16 Airflow on AWS
17 Airflow on Azure
18 Airflow in GCP