Ưu đãi trong tuần: Nhập mã UD50 giảm 50k cho đơn từ 300k!
Trang chủ
Menu

Apache Spark with Scala - Hands On with Big Data!

Apache Spark với Scala - Thực Hành Xử Lý Dữ Liệu Lớn!

Apache Spark với Scala - Thực Hành Xử Lý Dữ Liệu Lớn!

Hướng dẫn Apache Spark kèm 20+ ví dụ thực hành phân tích tập dữ liệu lớn, trên máy tính cá nhân hoặc trên Hadoop với Scala!

4.6
(18,808 đánh giá)
103,846 học viên
Phụ đề Việt chất lượng cao Phụ đề tiếng Anh Bán chạy Đánh giá cao
50.000đ 2.009.000đ -98%
✓ Xem giỏ hàng và thanh toán
Bao gồm phụ đề tiếng Việt, tiếng Anh
9.0 giờ video
73 bài giảng
6 bài quiz
Truy cập vĩnh viễn
Học trên mọi thiết bị
Cập nhật: 05/08/2026

Bạn sẽ học được gì

Phát triển mã phân tán bằng ngôn ngữ lập trình Scala
Biến đổi dữ liệu có cấu trúc với SparkSQL, DataSets và DataFrames
Mô hình hóa bài toán phân tích dữ liệu lớn thành các script Apache Spark
Tối ưu hóa tác vụ Spark thông qua phân vùng, lưu đệm và các kỹ thuật khác
Xây dựng, triển khai và chạy script Spark trên cụm Hadoop
Xử lý luồng dữ liệu liên tục với Spark Streaming
Duyệt và phân tích cấu trúc đồ thị bằng GraphX
Phân tích tập dữ liệu khổng lồ bằng Machine Learning trên Spark

Yêu cầu

Yêu cầu có kinh nghiệm lập trình hoặc viết script trước đó. Khóa học bao gồm phần hướng dẫn cấp tốc về Scala, nhưng bạn cần nắm vững kiến thức cơ bản về lập trình để tiếp thu.
Bạn cần máy tính để bàn và kết nối Internet. Khóa học được thiết kế với Windows, nhưng người dùng MacOS hoặc Linux vẫn có thể sử dụng các công cụ tương tự.
Phần mềm cần thiết cho khóa học đều miễn phí, và tôi sẽ hướng dẫn bạn cách tải về và cài đặt.

Đối tượng phù hợp

Kỹ sư phần mềm muốn mở rộng kỹ năng sang lĩnh vực xử lý dữ liệu lớn trên cụm máy chủ
Nếu chưa có kinh nghiệm lập trình hay viết script, bạn nên học một khóa lập trình nhập môn trước.

Nội dung khóa học

10 phần • 69 bài giảng
1 Udemy 101: Tận Dụng Tối Đa Khóa Học Này
2 Link tải thay thế cho bộ dữ liệu ml-100k
3 CẢNH BÁO: KHÔNG CÀI ĐẶT JAVA 21+ TRONG BÀI HỌC TIẾP THEO
4 Giới thiệu và cài đặt tài liệu khóa học, IntelliJ và Scala
5 Giới thiệu Apache Spark
6 Lưu ý quan trọng
1 [Thực hành] Kiến thức cơ bản về Scala
2 [Bài tập] Điều khiển luồng trong Scala
3 [Bài tập] Hàm trong Scala
4 [Bài tập] Cấu trúc dữ liệu trong Scala
1 Resilient Distributed Dataset
2 Ví dụ Biểu đồ Xếp hạng
3 Kiến trúc bên trong Spark
4 RDD Key/Value và ví dụ Số bạn bè trung bình theo độ tuổi
5 [Thực hành] Chạy ví dụ Số bạn bè trung bình theo độ tuổi
6 Lọc RDD và ví dụ Nhiệt độ thấp nhất theo địa điểm
7 [Thực hành] Chạy ví dụ Nhiệt độ thấp nhất và sửa để tìm nhiệt độ cao nhất
8 [Thực hành] Đếm số lần xuất hiện từ bằng Flatmap()
9 [Thực hành] Cải thiện script Đếm từ bằng Biểu thức chính quy
10 [Thực hành] Sắp xếp kết quả Đếm từ
11 [Bài tập] Tìm Tổng số tiền khách hàng đã chi tiêu
12 [Bài tập] Kiểm tra kết quả và Sắp xếp theo Tổng số tiền đã chi
13 Kiểm tra kết quả và cách triển khai của bạn với của tôi
1 Giới thiệu SparkSQL
2 [Thực hành] Sử dụng SparkSQL
3 [Thực hành] Sử dụng DataSets
4 [Bài tập] Triển khai ví dụ "Số bạn bè theo độ tuổi" bằng DataSets
5 Lời giải: Số bạn bè theo độ tuổi với Datasets
6 [Thực hành] Ví dụ Đếm từ, sử dụng Datasets
7 [Thực hành] Xem lại ví dụ Nhiệt độ thấp nhất với Datasets
8 [Bài tập] Triển khai bài toán "Tổng chi tiêu theo khách hàng" với Datasets
9 Lời giải: Tổng chi tiêu theo khách hàng với Datasets
1 [Thực hành] Tìm bộ phim phổ biến nhất
2 [Thực hành] Sử dụng Biến Broadcast để hiển thị tên phim
3 [Thực hành] Tìm siêu anh hùng phổ biến nhất trong đồ thị xã hội
4 [Bài tập] Tìm những siêu anh hùng ít được biết đến nhất
5 Lời giải: Tìm những siêu anh hùng ít được biết đến nhất
6 Mức độ liên kết của siêu anh hùng: Giới thiệu Tìm kiếm theo chiều rộng (BFS)
7 Mức độ liên kết của siêu anh hùng: Accumulators và Triển khai BFS trong Spark
8 [Thực hành] Mức độ liên kết của siêu anh hùng: Xem lại mã và chạy thử!
9 Lọc cộng tác dựa trên mục trong Spark, cache() và persist()
10 [Thực hành] Chạy script Tìm phim tương tự bằng Trình quản lý cụm của Spark
11 [Bài tập] Cải thiện chất lượng của phim tương tự
1 [Thực hành] Sử dụng spark-submit để chạy driver script Spark
2 [Thực hành] Đóng gói driver script với SBT
3 [Bài tập] Đóng gói một script với SBT và chạy cục bộ bằng spark-submit
4 Lời giải: Sử dụng SBT và spark-submit
5 Giới thiệu Amazon Elastic MapReduce
6 Tạo phim tương tự từ một triệu đánh giá trên EMR
7 Phân vùng
8 Thực hành tốt nhất khi chạy trên cụm máy chủ
9 Xử lý sự cố và Quản lý phụ thuộc
1 Giới thiệu MLLib
2 [Thực hành] Sử dụng MLLib để tạo đề xuất phim
3 Hồi quy tuyến tính với MLLib
4 [Thực hành] Chạy hồi quy tuyến tính với Spark
5 [Bài tập] Dự đoán giá bất động sản với Cây quyết định trong Spark
6 Lời giải: Dự đoán giá bất động sản với Cây quyết định trong Spark
1 API DStream cũ cho Spark Streaming
2 [Thực hành] Giám sát thời gian thực Hashtag phổ biến nhất trên X/Twitter
3 Structured Streaming
4 [Thực hành] Sử dụng Structured Streaming để phân tích log thời gian thực
5 [Bài tập] Thao tác cửa sổ với Structured Streaming
6 Lời giải: URL hàng đầu trong cửa sổ 30 giây
1 GraphX, Pregel và Tìm kiếm theo chiều rộng với Pregel
2 Sử dụng API Pregel với Spark GraphX
3 [Thực hành] Mức độ liên kết của siêu anh hùng sử dụng GraphX
1 Học thêm và Mẹo nghề nghiệp
2 Bài học bổ sung: Các khóa học khác để khám phá!

Giới thiệu khóa học

Completely updated and re-recorded for Spark 3, IntelliJ, Structured Streaming, and a stronger focus on the DataSet API.

“Big data" analysis is a hot and highly valuable skill – and this course will teach you the hottest technology in big data: Apache Spark. Employers including Amazon, EBay, NASA JPL, and Yahoo all use Spark to quickly extract meaning from massive data sets across a fault-tolerant Hadoop cluster. You'll learn those same techniques, using your own Windows system right at home. It's easier than you might think, and you'll be learning from an ex-engineer and senior manager from Amazon and IMDb.

Spark works best when using the Scala programming language, and this course includes a crash-course in Scala to get you up to speed quickly. For those more familiar with Python however, a Python version of this class is also available: "Taming Big Data with Apache Spark and Python - Hands On".

Learn and master the art of framing data analysis problems as Spark problems through over 20 hands-on examples, and then scale them up to run on cloud computing services in this course.


  • Learn the concepts of Spark's Resilient Distributed Datasets, DataFrames, and Datasets.

  • Get a crash course in the Scala programming language

  • Develop and run Spark jobs quickly using Scala, IntelliJ, and SBT

  • Translate complex analysis problems into iterative or multi-stage Spark scripts

  • Scale up to larger data sets using Amazon's Elastic MapReduce service

  • Understand how Hadoop YARN distributes Spark across computing clusters

  • Practice using other Spark technologies, like Spark SQL, DataFrames, DataSets, Spark Streaming, Machine Learning, and GraphX

By the end of this course, you'll be running code that analyzes gigabytes worth of information – in the cloud – in a matter of minutes. 

We'll have some fun along the way. You'll get warmed up with some simple examples of using Spark to analyze movie ratings data and text in a book. Once you've got the basics under your belt, we'll move to some more complex and interesting tasks. We'll use a million movie ratings to find movies that are similar to each other, and you might even discover some new movies you might like in the process! We'll analyze a social graph of superheroes, and learn who the most “popular" superhero is – and develop a system to find “degrees of separation" between superheroes. Are all Marvel superheroes within a few degrees of being connected to SpiderMan? You'll find the answer.

This course is very hands-on; you'll spend most of your time following along with the instructor as we write, analyze, and run real code together – both on your own system, and in the cloud using Amazon's Elastic MapReduce service. over 8 hours of video content is included, with over 20 real examples of increasing complexity you can build, run and study yourself. Move through them at your own pace, on your own schedule. The course wraps up with an overview of other Spark-based technologies, including Spark SQL, Spark Streaming, and GraphX.

Enroll now, and enjoy the course!


"I studied Spark for the first time using Frank's course "Apache Spark with Scala - Hands On with Big Data!". It was a great starting point for me,  gaining knowledge in Scala and most importantly practical examples of Spark applications. It gave me an understanding of all the relevant Spark core concepts,  RDDs, Dataframes & Datasets, Spark Streaming, AWS EMR. Within a few months of completion, I used the knowledge gained from the course to propose in my current company to  work primarily on Spark applications. Since then I have continued to work with Spark. I would highly recommend any of Franks courses as he simplifies concepts well and his teaching manner is easy to follow and continue with!  " - Joey Faherty

Khóa học liên quan

Khám phá thêm các khoá học cùng chủ đề

Hiển thị tất cả khoá học Apache Spark
Hiển thị tất cả khoá học Big Data Processing
Hiển thị tất cả khoá học Data Engineering
Hiển thị tất cả khoá học Scala
Zalo
Tôi có thể tư vấn khoá học cho bạn 😊