AI Infrastructure & Operations (NCA-AIIO)

Hạ tầng & Vận hành AI (NCA-AIIO)

Giải thích rõ ràng về khối lượng công việc AI, GPU, trung tâm dữ liệu, mạng, lưu trữ và vận hành

4.4

(14 đánh giá)

54 học viên

Giảng viên

Cloud Brewery

Phụ đề Việt chất lượng cao Phụ đề tiếng Anh Bán chạy Đánh giá cao

50.000đ 399.000đ -87%

✓ Xem giỏ hàng và thanh toán

Bao gồm phụ đề tiếng Việt, tiếng Anh

4.0 giờ video

47 bài giảng

5 bài quiz

Truy cập vĩnh viễn

Học trên mọi thiết bị

Cập nhật: 31/05/2026

#Ai Infrastructure #Cloud Computing #Deep Learning #Machine Learning Operations

Bạn sẽ học được gì

Phân biệt AI, Machine Learning và Deep Learning với độ chính xác ở cấp độ thi

Hiểu cách khối lượng công việc AI tác động đến GPU, mạng, lưu trữ và trung tâm dữ liệu

So sánh kiến trúc CPU và GPU, giải thích lý do GPU chiếm ưu thế trong khối lượng công việc AI

Nắm vững stack phần mềm AI, bao gồm CUDA, NGC và TensorRT

Tự tin vận hành, giám sát và lý giải về hạ tầng AI cho kỳ thi NCA-AIIO

Yêu cầu

Không yêu cầu kinh nghiệm trước về AI, machine learning, GPU hay trung tâm dữ liệu

Kiến thức IT cơ bản hoặc sự tò mò về kỹ thuật sẽ hữu ích, nhưng mọi thứ đều được giải thích từ những nguyên lý nền tảng

Đối tượng phù hợp

Người mới bắt đầu, chuyên gia IT và kỹ sư hạ tầng hoặc cloud đang chuẩn bị cho chứng chỉ NCA-AIIO

Bất kỳ ai muốn có lời giải thích rõ ràng, không dùng toán học về cách hạ tầng và vận hành AI hoạt động trong môi trường thực tế

Nội dung khóa học

7 phần • 47 bài giảng

1 Giới thiệu khóa học

2 AI, Machine Learning và Deep Learning thực sự là gì?

3 Tại sao Deep Learning thống trị AI hiện đại

4 Training so với Inference

5 Thuật ngữ AI cốt lõi cho hạ tầng: Mô hình, Tập dữ liệu, Tham số, Epoch

6 Tại sao chúng ta cần nói về GPU

7 Nhân GPU, Bộ nhớ và lý do “càng nhiều GPU” không phải lúc nào cũng là câu trả lời

8 Cụm GPU — Từ một GPU đến nhiều GPU

9 Mạng cho cụm GPU — Tại sao tốc độ và độ trễ lại quan trọng

10 Lưu trữ cho AI — Tại sao tốc độ dữ liệu cũng quan trọng như sức mạnh tính toán

1 Các khối lượng công việc AI phổ biến: Computer Vision, NLP, LLM và Hệ thống gợi ý

2 Khối lượng công việc AI dạng Batch so với Real-Time

3 Đường ống dữ liệu trong hệ thống AI — Cách dữ liệu thực sự luân chuyển

4 Các trường hợp sử dụng AI trong doanh nghiệp trên nhiều ngành

1 Tổng quan về stack phần mềm AI

2 Giải thích về CUDA dành cho chuyên gia hạ tầng

3 NGC Containers & AI Frameworks

4 TensorRT & Tối ưu hóa Inference

5 Base Command & Quản lý nền tảng AI

1 Trung tâm dữ liệu AI so với Trung tâm dữ liệu truyền thống

2 Hệ thống GPU mật độ cao — Tổng quan về DGX

3 Các ràng buộc về điện năng, làm mát và không gian trong trung tâm dữ liệu AI

4 Mở rộng hạ tầng AI — Scale-Up so với Scale-Out

5 Lưu lượng East-West trong cụm AI

6 Ethernet so với InfiniBand cho AI

7 Các khái niệm về RDMA và mạng độ trễ thấp

8 Các điểm nghẽn mạng trong quá trình training AI

9 Yêu cầu về lưu trữ cho việc training AI

10 Data Throughput so với IOPS — Hiểu sự khác biệt

11 Model Artifacts và Checkpoints

12 GPUDirect Storage (Khái niệm)

13 GPU Bare Metal so với GPU ảo hóa

14 Giải thích về MIG

15 Cách một GPU có thể cấp nguồn cho nhiều máy ảo (Giải thích về vGPU)

16 Bare Metal so với MIG so với vGPU: Cách hạ tầng AI chia sẻ GPU

17 Hạ tầng AI trên Cloud so với On-Prem: Bạn nên chọn cái nào?

18 Giải thích về Kiến trúc AI Hybrid: Khi nào nên sử dụng Cloud và On-Prem cùng nhau

1 Giải thích về Quản lý cụm AI: Cách GPU và các tác vụ được lập lịch

2 Giải thích về Kubernetes: Cách khối lượng công việc AI được triển khai và mở rộng

3 Slurm so với Kubernetes: Công cụ nào chạy khối lượng công việc AI tốt hơn?

4 Cách cụm AI quyết định ai được sử dụng GPU

5 Làm thế nào để biết GPU của bạn đang bị lãng phí

6 Sử dụng GPU thấp? Có lẽ không phải do GPU (Đây là lý do)

7 Chỉ số AI nào quan trọng? (Throughput so với mức sử dụng GPU)

1 Tại sao chạy hệ thống AI lại khó hơn bạn nghĩ

2 Cách lập kế hoạch năng lực hạ tầng AI (Mà không lãng phí tiền bạc)

3 Điều gì xảy ra khi hệ thống AI gặp sự cố? (Giải thích về Độ tin cậy & Failover)

Giới thiệu khóa học

BEFORE PURCHASING THIS COURSE:

This course uses an AI-generated voiceover for clarity and consistency. Please consider this before purchasing if you prefer human narration.

Artificial Intelligence does not run on algorithms alone — it runs on infrastructure and operations. GPUs, networking, storage, data centers, orchestration platforms, and operational discipline are what determine whether AI systems succeed or fail in the real world.

This course is a complete, beginner-safe guide to AI infrastructure and operations, designed specifically to prepare you for the Certified Associate: AI Infrastructure and Operations (NCA-AIIO) exam.

You do not need prior experience with AI, machine learning, GPUs, CUDA, data centers, or Kubernetes. Every concept is introduced from first principles, explained using clear language and intuitive examples, and then connected directly to how exam expects candidates to reason during the exam.

The course is structured exactly around the three NCA-AIIO domains:

Essential AI Knowledge — understanding AI, machine learning, deep learning, workloads, and terminology with precision
AI Infrastructure — GPUs vs CPUs, AI data centers, networking, storage, virtualization, cloud and hybrid architectures
AI Operations — orchestration, scheduling, monitoring, performance management, and operating AI systems at scale

Rather than focusing on coding or data science theory, this course emphasizes infrastructure behavior, architectural trade-offs, and operational thinking — the mindset required to pass the exam and to support real AI platforms.

Each section highlights common exam traps, clarifies confusing terminology, and explains why certain answers are correct — not just what the answer is.

By the end of this course, you will not only be prepared to pass the NCA-AIIO certification, but you will also be able to confidently explain how modern AI systems are built, scaled, and operated in production environments.