AI

Harness — lớp scaffolding quanh model (vòng lặp, tool, context, memory, verify, sub-agent) — mới là thứ quyết định agent chạy được hay chỉ là demo. Bài này mổ xẻ giải phẫu một harness, 7 kỹ năng cốt lõi khi xây agent, single vs multi-agent (kèm số liệu hiệu quả/chi phí), các repo nên dùng, và một quickstart Python dựng-là-chạy cho bối cảnh ngân hàng.

Phân biệt AI/ML/DL, các kiểu học máy, quy trình ML end-to-end và thuật ngữ nền tảng.

Chất lượng dữ liệu, xử lý thiếu/ngoại lai, mã hoá, chuẩn hoá, tạo đặc trưng và tránh data leakage.

Hồi quy tuyến tính/logistic, cây quyết định & rừng ngẫu nhiên, KNN, SVM, và cách đánh giá mô hình.

Nơ-ron nhân tạo, lan truyền xuôi/ngược, hàm kích hoạt, CNN & RNN, và khi nào dùng deep learning.

Xử lý ngôn ngữ tự nhiên: tokenization, embeddings, cơ chế attention và kiến trúc Transformer.

Mô hình ngôn ngữ lớn hoạt động ra sao, token, context window, tham số sinh, và kỹ thuật viết prompt.

Retrieval-Augmented Generation, vector database, tool calling, agent và MCP để xây ứng dụng LLM thực tế.

Đưa mô hình ra production: phục vụ, giám sát, model/data drift, versioning, và AI có trách nhiệm.

Nền tảng để xây app LLM thực tế: LLM hoạt động thế nào (token, context window, sampling), gọi Claude qua Anthropic SDK, chọn model đúng, và khi nào dùng LLM vs giải pháp truyền thống.

Kỹ thuật viết prompt hiệu quả cho Claude: system vs user, hướng dẫn rõ ràng, few-shot, chain-of-thought, dùng thẻ XML để cấu trúc, prefill, và ép định dạng đầu ra (structured output/JSON).

Nền tảng của tìm kiếm ngữ nghĩa và RAG: embedding là gì, độ đo tương đồng (cosine), tạo embedding (Voyage AI/mô hình mở), lưu & truy vấn trong pgvector, chiến lược chunking, và ANN index (HNSW).

Cho LLM trả lời dựa trên dữ liệu riêng: kiến trúc RAG (ingest → chunk → embed → retrieve → generate), hybrid search & reranking, trích dẫn nguồn, và các mẫu nâng cao cùng lỗi thường gặp.

Cho Claude 'hành động': khai báo tool (function calling), vòng lặp agent (model gọi tool → nhận kết quả → tiếp tục), khi nào cần agent, Model Context Protocol (MCP), và các mẫu điều phối an toàn.

Vì sao 'chạy thử thấy ổn' là chưa đủ: xây bộ eval (dataset + tiêu chí), các cách chấm điểm (exact/heuristic, LLM-as-judge), đo hallucination & faithfulness, đánh giá riêng retrieval của RAG, và eval trong CI.

Vận hành app LLM thật: tối ưu chi phí & độ trễ (chọn model, streaming, prompt caching, batch), giới hạn tốc độ & retry, guardrails & chống prompt injection, quan sát/logging, và bảo mật dữ liệu.

Ba con đường tuỳ biến LLM và khi nào dùng cái nào: prompt engineering, RAG (thêm kiến thức), fine-tuning (thay đổi hành vi); kèm distillation, mô hình nhỏ, và một cây quyết định thực dụng.

Từ bài toán tới mô hình chạy được: khung hoá vấn đề, chia dữ liệu đúng cách (train/val/test), baseline, pipeline scikit-learn, và tránh rò rỉ dữ liệu (data leakage) — nền tảng cho cả series.

Đặc trưng tốt quan trọng hơn thuật toán: xử lý thiếu & ngoại lai, mã hoá biến phân loại, chuẩn hoá/scaling, đặc trưng thời gian & tương tác, và chọn lọc đặc trưng — làm đúng trong pipeline để tránh rò rỉ.

Hai mô hình nền tảng, dễ giải thích: linear regression (dự đoán số) và logistic regression (phân loại/xác suất), hàm mất mát & gradient descent, regularization L1/L2, và cách diễn giải hệ số.

Nhóm mô hình mạnh nhất cho dữ liệu bảng: cây quyết định, bagging/Random Forest, boosting (XGBoost/LightGBM), cách chúng hoạt động, ưu nhược, và khi nào thắng linear/deep learning.

Đo đúng thì cải thiện đúng: train/validation/test & cross-validation, chỉ số phân loại (accuracy/precision/recall/F1/ROC-AUC/PR-AUC) và hồi quy (RMSE/MAE/R²), ma trận nhầm lẫn, ngưỡng quyết định và hiệu chỉnh xác suất.

Tìm cấu trúc khi không có nhãn: phân cụm (K-Means, hierarchical, DBSCAN), giảm chiều (PCA), phát hiện bất thường (Isolation Forest), cách chọn số cụm & đánh giá cụm, và ứng dụng phân khúc khách hàng.

Hai vấn đề thực chiến hay gặp: xử lý lớp mất cân bằng (resampling, class weight, điều chỉnh ngưỡng) và tinh chỉnh siêu tham số (grid/random/Bayesian) cùng chống overfitting bằng regularization & early stopping.

Đưa mô hình ra production và giữ nó khoẻ: đóng gói/serving (batch vs real-time), quản lý phiên bản model & dữ liệu, giám sát hiệu năng & data/concept drift, retraining, feature store, và governance mô hình.

Hiểu deep learning từ gốc: từ perceptron đến mạng nhiều lớp (MLP), hàm kích hoạt (ReLU/sigmoid/softmax), forward pass, vì sao 'sâu' & phi tuyến mạnh, và khi nào dùng DL thay vì ML cổ điển.

Mạng học như thế nào: hàm mất mát, lan truyền ngược (backpropagation) & gradient, các optimizer (SGD/Momentum/Adam), learning rate & lịch trình, batch/epoch, và các vấn đề gradient.

Giúp mạng học tốt & tổng quát hoá: dropout, batch normalization, weight decay (L2), early stopping, data augmentation, khởi tạo trọng số, và xử lý vanishing/exploding gradient.

Mạng tích chập cho dữ liệu không gian: phép convolution & filter, pooling, vì sao CNN vượt MLP cho ảnh, các kiến trúc kinh điển (LeNet→ResNet), và transfer learning để dùng lại mô hình đã huấn luyện.

Mô hình cho chuỗi (chuỗi thời gian, văn bản): RNN và trạng thái ẩn, vấn đề trí nhớ dài & vanishing gradient, LSTM/GRU với cổng nhớ, các dạng bài toán chuỗi, và vì sao Transformer dần thay thế RNN.

Kiến trúc thống trị AI hiện đại: self-attention & multi-head attention, positional encoding, khối encoder/decoder, vì sao Transformer thắng RNN, và đây là nền tảng của các LLM.

Bắt tay code deep learning: tensor & autograd, xây model với nn.Module, Dataset/DataLoader, vòng lặp huấn luyện chuẩn, dùng GPU, và so sánh PyTorch với TensorFlow/Keras.

Đưa mô hình DL vào production: serving (batch vs real-time API), định dạng ONNX, tối ưu inference (quantization, mixed precision, batching), GPU vs CPU, giám sát, và khi nào dùng DL vs ML cổ điển vs LLM.

Chuỗi thời gian (time series) là gì và vì sao nó khác dữ liệu thường: thứ tự thời gian, tự tương quan, không được xáo trộn. Bốn thành phần trend/seasonality/cyclic/noise, mô hình additive vs multiplicative, tần suất & resampling, cùng các ví dụ SQL dựng chuỗi từ dữ liệu giao dịch ngân hàng.

Khám phá dữ liệu chuỗi thời gian: vẽ đường, rolling mean/std, phát hiện trend/seasonality/outlier/khoảng trống. Hiểu tính dừng và vì sao mô hình cần nó, kiểm định ADF/KPSS, biến đổi để đạt dừng (differencing, log/Box-Cox), đọc ACF/PACF và phân rã classical/STL.

Bộ công cụ dự báo cổ điển vẫn thắng nhiều bài toán thực tế: baseline naive/seasonal-naive bắt buộc, họ làm mượt hàm mũ (SES/Holt/Holt-Winters) với alpha/beta/gamma, và họ ARIMA/SARIMA cùng cách đọc ACF/PACF, auto_arima và chẩn đoán phần dư.

Cách biến bài toán dự báo chuỗi thời gian thành hồi quy có giám sát: xây lag features, rolling/expanding statistics, calendar features và Fourier terms mà không rò rỉ tương lai; huấn luyện LightGBM/XGBoost global model; và chọn recursive vs direct cho dự báo nhiều bước.

Các phương pháp dự báo hiện đại: Prophet (mô hình cộng tính trend + seasonality + holiday, thêm được lịch lễ Việt Nam) và deep learning cho chuỗi thời gian (RNN/LSTM/GRU, seq2seq, TCN, Transformer, DeepAR). Bài này chỉ rõ khi nào DL đáng dùng, khi nào cổ điển vẫn thắng, và cách dự báo xác suất bằng quantile.

Đánh giá mô hình dự báo cho đúng: các độ đo sai số (MAE, RMSE, MAPE và bẫy của nó, sMAPE, MASE, bias), chọn độ đo theo chi phí kinh doanh bất đối xứng (pinball loss), tách dữ liệu theo thời gian tuyệt đối không shuffle, backtesting bằng rolling/expanding window và walk-forward, luôn so với baseline naive, đánh giá theo horizon và kiểm tra coverage của khoảng dự báo.

Phát hiện bất thường (anomaly detection) trên chuỗi thời gian: phân loại point/contextual/collective, phương pháp thống kê (3-sigma, IQR, rolling z-score, EWMA/SPC), dựa trên dự báo (residual vượt ngưỡng), phân rã STL, và mô hình chuyên biệt (Isolation Forest, LOF, S-H-ESD, autoencoder). Kèm đánh đổi precision/recall, chống alert fatigue, và ứng dụng ngân hàng: gian lận, giám sát khối lượng, observability, data quality.

Bài tổng kết chuỗi: đưa mô hình dự báo từ notebook vào vận hành thật. Bao gồm pipeline end-to-end (thu thập → feature as-of → retrain → sinh dự báo → phục vụ batch/API), lịch retraining, giám sát sai số và drift, quản lý hàng trăm chuỗi bằng global model, versioning/backfill/dữ liệu trễ, con người trong vòng lặp, và một hệ dự báo tiền mặt ATM đầu-cuối.

MLOps là gì và vì sao ML khác phần mềm thường — hệ thống phụ thuộc đồng thời dữ liệu, mô hình và code. Bài mở series: vòng đời ML end-to-end như một vòng lặp liên tục, technical debt ẩn, training/serving skew, drift, các mức trưởng thành MLOps (Level 0→2 theo Google), và bản đồ các trụ cột sẽ đi sâu.

Vì sao ML hay 'không tái lập được' và cách chữa: ghi lại params/metrics/artifacts/code/data/môi trường cho mỗi run bằng MLflow, so sánh và chọn run tốt nhất, pin seed/dependency/data, container hoá — để giải trình mô hình chấm điểm tín dụng với kiểm toán và thanh tra.

Feature Store giải quyết ba nỗi đau kinh điển của ML sản xuất: training-serving skew, trùng lặp công sức tính feature giữa các team, và rò rỉ nhãn tương lai do thiếu point-in-time correctness. Bài đi từ vấn đề tới kiến trúc offline/online/registry, minh hoạ bằng Feast và các query SQL as-of chạy được cho feature fraud/credit.

Biến vòng đời mô hình từ notebook thủ công thành pipeline tự động: ingest→validate→feature→train→evaluate→gate→register→deploy. Cách chọn orchestrator (Airflow/Kubeflow/Dagster/Metaflow/TFX), continuous training, và CI/CD cho ML khác gì phần mềm — thêm validate data & model gate trước khi lên prod, minh hoạ bằng pipeline retrain mô hình gian lận hàng tuần.

Model registry quản lý phiên bản mô hình đã train (version, stage None/Staging/Production/Archived, metadata, lineage, phê duyệt) — lấy MLflow làm ví dụ. Cách đóng gói mô hình kèm môi trường & signature, bốn mẫu serving (batch/online/streaming/embedded), và chiến lược roll-out an toàn: shadow, canary, blue-green, A/B, champion/challenger, rollback — minh hoạ bằng gian lận real-time và chấm điểm tín dụng batch.

Vì sao mô hình xuống cấp theo thời gian và cách phát hiện sớm: từ operational monitoring, data quality, tới data/feature drift (PSI, KL, KS, chi-square), concept drift và prediction drift. Xử lý bài toán nhãn trễ bằng proxy, theo dõi hiệu năng theo phân khúc, và nối tín hiệu drift vào trigger retrain — minh hoạ bằng giám sát PSI hàng tháng cho mô hình gian lận/tín dụng ở ngân hàng.

Vì sao ngân hàng phải quản trị mô hình chặt hơn phần mềm thường: khung Model Risk Management kiểu SR 11-7 (inventory, validation độc lập, phân tầng, phê duyệt, tái đánh giá), model card, explainability (SHAP/LIME) bắt buộc khi từ chối tín dụng, fairness & bias, quyền riêng tư theo Nghị định 13, human-in-the-loop và xu hướng EU AI Act.

Bài tổng kết series: ghép mọi trụ cột — nguồn dữ liệu, feature store, experiment tracking, pipeline train/CI-CD, model registry, serving, monitoring/drift, retrain loop — thành một kiến trúc tham chiếu MLOps hoàn chỉnh cho ngân hàng, bao quanh bởi governance/security/audit. Kèm build vs buy (OSS tự xây vs SageMaker/Vertex/Databricks/Azure ML), tổ chức đội, và hai use case xuyên suốt: phát hiện gian lận online và chấm điểm tín dụng batch.

Vì sao tìm kiếm từ khoá bỏ sót ý nghĩa, và embedding vector giải quyết ra sao. Bài mở đầu series: độ đo tương đồng (cosine/dot/Euclidean), nearest neighbor & vì sao cần ANN, vector database là gì, các ứng dụng (semantic search, RAG, gợi ý, khử trùng) và định vị pgvector vs DB chuyên dụng.