Machine Learning for Embedded Systems with ARM Ethos-U NPU

Học Máy cho Hệ Thống Nhúng với ARM Ethos-U NPU

Tìm hiểu AI, Học Máy, và TensorFlow Lite cho vi điều khiển với ARM NPU

4.8

(84 đánh giá)

3,412 học viên

Giảng viên

Wadix Technologies

Phụ đề Việt chất lượng cao Phụ đề tiếng Anh Bán chạy Đánh giá cao

50.000đ 399.000đ -87%

✓ Xem giỏ hàng và thanh toán

Bao gồm phụ đề tiếng Việt, tiếng Anh

6.0 giờ video

109 bài giảng

5 bài quiz

Truy cập vĩnh viễn

Học trên mọi thiết bị

Cập nhật: 31/05/2026

#Arm #Embedded Systems #Machine Learning #Tensorflow Lite

Bạn sẽ học được gì

Nắm toàn bộ quy trình triển khai mô hình Học Máy siêu nhỏ trên thiết bị nhúng

Hiểu cách thư viện TensorFlow Lite for Microcontroller (TFLM) phân tích và chạy suy luận mô hình Học Máy trên thiết bị nhúng của bạn

Hiểu những hạn chế của mô hình Học Máy tiêu chuẩn trên hệ thống nhúng và sự cần thiết phải có quy trình tối ưu riêng cho thiết bị tài nguyên hạn chế

Tìm hiểu cách ARM đã giúp tạo ra và định nghĩa phần cứng chuyên dụng, kiến trúc và trình biên dịch để cho phép suy luận mô hình Học Máy trên thiết bị nhúng

Bạn sẽ được học về các dòng tăng tốc phần cứng Học Máy dựa trên ARM (Ethos-U) và cách tích hợp các bộ tăng tốc này vào thiết kế System on Chip

Yêu cầu

Bạn nên có hiểu biết cơ bản về thiết bị dựa trên hệ thống nhúng và các hạn chế của chúng

Có kiến thức nền cơ bản về kiến trúc ARM và tích hợp hệ thống

Đối tượng phù hợp

Dành cho lập trình viên hệ thống nhúng muốn bắt đầu học Học Máy cho thiết bị nhúng

Nội dung khóa học

12 phần • 109 bài giảng

1 Hiểu sự khác biệt giữa Huấn luyện mô hình và Suy luận mô hình

2 Suy luận mô hình Học Máy

3 Thiết bị nhúng như sản phẩm đầu cuối cho suy luận mô hình

4 Slide hướng dẫn cài đặt và liên kết kho lưu trữ

1 Quy trình phát triển mô hình Học Máy siêu nhỏ

2 Tổng quan các mô hình Học Máy khác nhau

3 Thách thức của mô hình Học Máy đã huấn luyện tiêu chuẩn trên thiết bị nhúng

4 Mô hình CNN làm trường hợp điển hình cho thiết bị nhúng

5 Tầng Tích chập

6 Tầng Kích hoạt (RELU)

7 Tầng Gộp (Tùy chọn)

8 Xếp chồng nhiều tầng

9 Làm phẳng

10 Tầng Kết nối Đầy đủ

11 SoftMax và Quyết định cuối cùng

1 Quy trình tạo mô hình Học Máy dựa trên Tensor Flow Lite for Microcontroller (TFLM)

2 Giai đoạn huấn luyện trong khung Tensor Flow chính

3 Chuyển đổi file từ H5 sang .TFLite

4 Giai đoạn biên dịch ARM NPU Vela

5 Tổng kết các tác vụ Học Máy TFLM được hỗ trợ

1 Trường hợp sử dụng của trình biên dịch Vela

2 Tổng quan quy trình làm việc của trình biên dịch Vela

3 Yêu cầu trước khi cài đặt trình biên dịch Vela

4 Cài đặt trình biên dịch Vela

5 Tổng kết các dòng lệnh được hỗ trợ của trình biên dịch Vela

6 Tổng quan về file cấu hình hệ thống của trình biên dịch Vela

7 File cấu hình hệ thống: Các chế độ cấu hình bộ nhớ

8 File cấu hình tinh chỉnh của trình biên dịch Vela

1 Tổng kết quá trình tạo file đầu ra .TFLite đã biên dịch bởi Vela

2 Định dạng file Flat Buffer

3 Chuyển đổi Flat Buffer .TFLite đầu ra của Vela sang định dạng file JSON

4 Ví dụ trình bày file Flat Buffer dạng JSON

5 Thành phần Flat Buffer: Phần bảng Opcode

6 Thành phần Flat Buffer: Phần Buffers

7 Thành phần Flat Buffer: Phần SubGraph

8 Thành phần Flat Buffer: Đánh chỉ mục các tác vụ Học Máy Opcodes

9 Thành phần Flat Buffer: Đánh chỉ mục Tensors

10 Thành phần Flat Buffer: Đánh chỉ mục Buffers

11 Tác vụ NPU tùy chỉnh ETHOSU_CONV_2D

12 Luồng dữ liệu tác vụ NPU ETHOSU_CONV_2D

13 Thông tin bộ nhớ nhúng của tác vụ NPU ETHOSU_CONV_2D

14 Thông tin Metadata của file FlatBuffer .TFLite - Phần 1

15 Thông tin Metadata của file FlatBuffer .TFLite - Phần 2 (Sử dụng bộ nhớ)

16 Thông tin Metadata của file FlatBuffer .TFLite - Phần 3 (Cấu hình kiến trúc)

17 Ví dụ tổng kết Metadata của file FlatBuffer .TFLite

1 Tổng quan luồng dữ liệu đầu vào của tác vụ ETHOSU_CONV_2D

2 Lệnh truyền DMA

3 Tổng kết lệnh truyền DMA

4 Thông tin vùng nhớ

5 Tổng quan logic Vòng lặp và Chia nhỏ

6 Logic Chia nhỏ

7 Vi tác vụ NPU

1 Hiệu năng cao so với ARM ETHOS tiêu thụ điện năng thấp (ETHOS-U so với ETHOS-N)

2 Cách sử dụng ARM ETHOS-U tiêu thụ điện năng thấp

3 Tổng quan tích hợp hệ thống phần cứng ARM Cortex-M55 + Ethos-U

4 Ví dụ tích hợp hệ thống phần cứng ARM Cortex-M55 + Ethos-U

5 Các cấu trúc liên kết tích hợp hệ thống ARM Ethos-U & Cortex-M/A

6 Tổng quan sơ đồ khối phần cứng ARM NPU

7 Sơ đồ khối chức năng NPU

1 Luồng cấp cao của TFLM

2 Giai đoạn khởi tạo Trình thông dịch TFLM

3 Khởi tạo TFLM: Cấp phát bộ nhớ Arena

4 Khởi tạo TFLM: Khởi tạo đối tượng Trình thông dịch - Phần 1

5 Khởi tạo TFLM: Khởi tạo đối tượng Trình thông dịch - Phần 2

6 Cấp phát nút TFLM: Cấp phát Tensors - Phần 1

7 Cấp phát nút TFLM: Cấp phát Tensors - Phần 2

8 Cấp phát nút TFLM: Cấp phát Tensors - Phần 3

9 Cấp phát nút TFLM: Cấp phát Tensors - Phần 4

10 Tổng quan về triệu gọi tác vụ TFLM

11 Triệu gọi tác vụ TFLM: Tác vụ dựa trên Kernel và DSP

12 Triệu gọi tác vụ TFLM: Tác vụ tùy chỉnh dựa trên NPU Ethos-U

1 Vai trò của ARM CMSIS-NN trong luồng thực thi Học Máy

2 CMSIS-NN là thư viện mạng nơ-ron cho vi xử lý Cortex-M

3 Thiết kế kiến trúc phần mềm CMSIS-NN

4 Lựa chọn cờ tính năng tại thời điểm biên dịch của CMSIS-NN

5 Tổng kết các API của CMSIS-NN

6 Triển khai cụ thể cho các dòng vi xử lý mục tiêu của CMSIS-NN

1 Sơ đồ khối phần cứng System on Chip Alif E7

2 Alif E7: ARM NPU ETHOS-U55 Hiệu năng cao (HP) so với Hiệu suất cao (HE)

3 Bộ phát triển Alif E7

4 Tổng quan sơ đồ mạch của bộ phát triển Alif E7

5 Cấu hình jumper của bộ phát triển Alif E7

6 Giới thiệu bộ phát triển Alif E7

7 Khởi động bộ phát triển Alif E7

8 Khởi động trực tiếp bộ phát triển ML Alif E7

9 Ví dụ có sẵn trên bộ phát triển Alif E7

1 Slide hướng dẫn cài đặt và liên kết kho lưu trữ

2 Kho lưu trữ ví dụ và bản demo cho Alif E7

3 Cấu hình máy Windows cho Alif E7

4 Cài đặt công cụ cần thiết cho Alif E7 trên máy Windows

5 Cài đặt gói Python > 3.10

6 Nhân bản và thiết lập kho lưu trữ công cụ và dự án ví dụ

7 Cách cấu hình và xây dựng ví dụ Phát hiện từ khóa (KWS)

8 Cách cấu hình và xây dựng ví dụ Phát hiện từ khóa (KWS): Giai đoạn cấu hình

9 Cách cấu hình và xây dựng ví dụ Phát hiện từ khóa (KWS): Giai đoạn xây dựng với Ninja

10 Kiểm tra file .axf đầu ra của ví dụ KWS

11 Trường hợp sử dụng Phân loại ảnh

12 Chuẩn bị chạy các ví dụ Học Máy của chúng ta (KWS & Phân loại ảnh)

13 Chạy ví dụ Phát hiện từ khóa (KWS) trên board ML Alif E7

14 Chạy ví dụ Phân loại ảnh (image_class) trên board ML Alif E7

1 Cấu trúc cấp cao của dự án Alif E7 và các phụ thuộc driver mức thấp

2 Cấp phát vùng nhớ Tensor Arena và giải tham chiếu mảng FlatBuffer

3 Định nghĩa bảng tra cứu TFLMRegistration cho các tác vụ Học Máy

4 Giải thích việc đăng ký các hàm callback TFLMRegistration cho các tác vụ Học Máy

5 Ánh xạ giữa các hàm callback TFLMRegistration và các API cmsis-nn/EThos

6 Bộ cấp phát quản lý bộ nhớ TFLM

7 Xây dựng và khởi tạo đối tượng Trình thông dịch TFLM

8 Gọi hàm API TFLM AllocateTensors

9 Thực thi suy luận mô hình TFLM qua từng hàm Invoke của tác vụ ML

Giới thiệu khóa học

Machine Learning for Embedded Systems with ARM Ethos-U

Are you ready to bring the power of machine learning into the world of embedded systems?
This course takes you on a complete, hands-on journey from building and training models to running them on real ARM-based hardware with dedicated NPUs.

Most ML courses stop at theory or training. This one goes further: you’ll actually deploy and run models on embedded devices, bridging the gap between machine learning and practical engineering.

What you’ll learn

The core ML theory behind embedded AI

Understand the stages of a neural network execution pipeline
Explore convolution, flattening, activation functions, and softmax in CNNs
Learn how ML operations are optimized for resource-constrained devices

Model preparation workflow

Train models in TensorFlow
Convert them into lightweight .tflite models
Optimize and compile with the ARM Vela compiler for the Ethos-U NPU

Running inference on embedded devices

Execute models with TensorFlow Lite Micro (TFLM) in C++
See how ML operations map to CMSIS-NN kernels and the Ethos-U hardware accelerator
Understand the complete inference path — from model to silicon

Hands-on with real hardware

Set up and run the Alif E7 ML Development Kit
Build and deploy Keyword Spotting and Image Classification demos
Observe real-time outputs directly on the device

Why this course is unique

Bridges the gap between ML theory and real embedded deployment
Covers the entire workflow — from training to NPU execution
Practical, hardware-driven approach using the Alif E7 ML dev kit
Projects designed for easy reproduction on a Windows machine

By the end of this course, you’ll have the confidence and skills to run ML models efficiently on modern embedded systems, skills that are in high demand across IoT, robotics, and edge AI applications.

Whether you’re an embedded engineer ready to add AI to your skill set, or a machine learning practitioner eager to deploy models on hardware accelerators, this course will give you a competitive edge in the future of AI and embedded systems.

Enroll now and start building the next generation of embedded AI applications!