AI

Hiểu deep learning từ gốc: từ perceptron đến mạng nhiều lớp (MLP), hàm kích hoạt (ReLU/sigmoid/softmax), forward pass, vì sao 'sâu' & phi tuyến mạnh, và khi nào dùng DL thay vì ML cổ điển.

Mạng học như thế nào: hàm mất mát, lan truyền ngược (backpropagation) & gradient, các optimizer (SGD/Momentum/Adam), learning rate & lịch trình, batch/epoch, và các vấn đề gradient.

Giúp mạng học tốt & tổng quát hoá: dropout, batch normalization, weight decay (L2), early stopping, data augmentation, khởi tạo trọng số, và xử lý vanishing/exploding gradient.

Mạng tích chập cho dữ liệu không gian: phép convolution & filter, pooling, vì sao CNN vượt MLP cho ảnh, các kiến trúc kinh điển (LeNet→ResNet), và transfer learning để dùng lại mô hình đã huấn luyện.

Mô hình cho chuỗi (chuỗi thời gian, văn bản): RNN và trạng thái ẩn, vấn đề trí nhớ dài & vanishing gradient, LSTM/GRU với cổng nhớ, các dạng bài toán chuỗi, và vì sao Transformer dần thay thế RNN.

Kiến trúc thống trị AI hiện đại: self-attention & multi-head attention, positional encoding, khối encoder/decoder, vì sao Transformer thắng RNN, và đây là nền tảng của các LLM.

Bắt tay code deep learning: tensor & autograd, xây model với nn.Module, Dataset/DataLoader, vòng lặp huấn luyện chuẩn, dùng GPU, và so sánh PyTorch với TensorFlow/Keras.

Đưa mô hình DL vào production: serving (batch vs real-time API), định dạng ONNX, tối ưu inference (quantization, mixed precision, batching), GPU vs CPU, giám sát, và khi nào dùng DL vs ML cổ điển vs LLM.