Ưu đãi trong tuần: Nhập mã UD50 giảm 50k cho đơn từ 300k!
Trang chủ
Menu

Apache Spark Core and Structured Streaming 3.0 In-Depth

Apache Spark Core và Structured Streaming 3.0 Chuyên Sâu

Apache Spark Core và Structured Streaming 3.0 Chuyên Sâu

Trải nghiệm thực hành chuyên sâu về các tính năng và khái niệm của Spark Core, kèm mẹo tối ưu hiệu suất

4.5
(381 đánh giá)
4,885 học viên
Giảng viên
Amit Ranjan
Phụ đề Việt chất lượng cao Phụ đề tiếng Anh Bán chạy Đánh giá cao
50.000đ 1.179.000đ -96%
✓ Xem giỏ hàng và thanh toán
Bao gồm phụ đề tiếng Việt, tiếng Anh
14.0 giờ video
42 bài giảng
8 bài quiz
Truy cập vĩnh viễn
Học trên mọi thiết bị
Cập nhật: 30/05/2026

Bạn sẽ học được gì

Tập trung mạnh vào tính thực tiễn thông qua nhiều ví dụ thực hành
Phát triển hiểu biết sâu sắc về các khái niệm nền tảng trong lõi Apache Spark
Nắm được cách tối ưu hiệu suất Spark tốt nhất trong môi trường production
Tránh các lỗi phổ biến khi viết ứng dụng Spark
Khám phá chuyên sâu Spark Structured Streaming 3.0 sử dụng Python API
Làm quen tổng quan với Apache Kafka trong quá trình học
Hiểu các điểm tinh tế của Xử lý Luồng Dữ liệu trong Apache Spark
Khám phá các tính năng đa dạng Spark cung cấp sẵn cho Xử lý Luồng

Yêu cầu

Chúng tôi sử dụng Python API trong lập trình Spark. Tất cả chương trình sẽ được giải thích chi tiết, nhưng kiến thức cơ bản về Python sẽ rất hữu ích

Đối tượng phù hợp

Kỹ sư dữ liệu và nhà phát triển muốn tận dụng phân tích tốc độ cao bằng Apache Spark trong môi trường production

Nội dung khóa học

15 phần • 42 bài giảng
1 Kỳ vọng từ Khung Xử lý Dữ liệu
2 Giới thiệu về Map Reduce
1 Liên kết đến tài nguyên
1 Giới thiệu về Spark
2 Giới thiệu về Resilient Distributed Dataset (RDD)
3 Kiến trúc Spark
1 Chương trình Spark đầu tiên của chúng ta
2 Tải xuống và Cài đặt
3 Làm quen đầu tiên với tổng hợp dữ liệu trong Spark
1 Phân tích sâu hơn chương trình Spark đầu tiên
2 Bộ phân vùng (Partitioners)
1 Thao tác trên RDD không liên quan Tổng hợp
2 Tổng hợp trên RDD [Phần 1]
3 Tổng hợp trên RDD [Phần 2]
1 Kết nối (Joining) RDD
2 Biến Phát sóng (Broadcast Variables)
3 Thực hành với Biến Phát sóng | Phân tích Dữ liệu Chứng khoán
4 Bộ nhớ đệm (Caching)
5 Thực hành với Bộ nhớ đệm | Phân tích Bộ dữ liệu Y tế
6 Thực hành với Bộ tích lũy (Accumulators) | Phân tích Dữ liệu Nhật ký
7 Thực hành với combineByKey | Phân tích Giao dịch Thẻ tín dụng
8 Thực hành với Sắp xếp Thứ cấp | Phân tích Dữ liệu Vay mua Ô tô
1 Chạy Spark trên Cụm máy chủ | Phân tích Dữ liệu Chuyến đi Taxi Vàng New York
1 Xác định kích thước phù hợp cho executor
2 Khám phá Cấp phát Động (Dynamic Allocation)
3 Xử lý Dữ liệu Lệch (Skewed Data)
4 Mẹo bổ sung để tối ưu hiệu suất
1 Phỏng vấn với Kỹ sư Dữ liệu Chính
1 Nhu cầu và Thách thức của Xử lý Luồng
2 Khái niệm Spark Structured Streaming
3 Cấu trúc Ứng dụng Spark Structured Streaming
4 Viết ứng dụng Structured Streaming đầu tiên
1 Tài nguyên học tập
1 Hiểu các chế độ đầu ra (output modes)
2 Cửa sổ (Windows) trong xử lý luồng
3 Đánh dấu mức nước (Watermarking) trong xử lý luồng
1 Giới thiệu nhanh về Kafka
2 Watermarking với Nguồn Kafka
3 Tình huống thực tế: Lấy quảng cáo hiện thực hóa bằng cách kết nối các chủ đề Kafka
1 Structured Streaming trong Môi trường Production
2 Thiết kế Hệ thống liên quan đến Spark Structured Streaming
3 Lộ trình trở thành Chuyên gia

Giới thiệu khóa học

Apache Spark has turned out to be the most sought-after skill for any big data engineer. An evolution of MapReduce programming paradigm, Spark provides unified data processing from writing SQL to performing graph processing to implementing Machine Learning algorithms. It effectively uses cluster nodes and better memory management to spread the load across cluster of nodes to get faster results. Apache Spark drives the mission of data-driven-decision-making in thousands of organizations.

In order to fairly appreciate the benefits of the libraries of Apache Spark, it is essential to know the foundations right. This course aims exactly at that part. It starts from the beginner level and gradually explains all the complex concepts in an easy to reflect manner. It gives a profound description of the features and working of the framework through 5 different use cases with detailed hands on implementations. In fact, some hands-on sessions and solutions to the use-cases are explained in a full classroom mode with videos extending over 40 mins. After taking this course, you will gain the expertise on Spark Core and usage of further libraries like Spark SQL, Structured Streaming, Spark ML and GraphX will be much easier to visualize, implement and optimize.


This illustrative course will build your foundational knowledge. You will learn the differences between batch & stream processing, programming model, the APIs and the challenges specific to stream processing. Quickly we'll move to understand the concepts of stream processing with wide varieties of examples & hands-on, dealing with inner working and taking a use case towards the end. All of this activity will be on cloud using Spark 3.0.

Khóa học liên quan

Khám phá thêm các khoá học cùng chủ đề

Hiển thị tất cả khoá học Apache Spark
Hiển thị tất cả khoá học Big Data Processing
Hiển thị tất cả khoá học Data Engineering
Zalo
Tôi có thể tư vấn khoá học cho bạn 😊