SQL
7 bài viết
BigQuery là kho dữ liệu phân tích serverless của Google Cloud: tách biệt lưu trữ (Colossus) và tính toán (Dremel/slots), truy vấn petabyte bằng SQL, mô hình không cần quản trị hạ tầng, và khi nào nên dùng.
Cách BigQuery lưu dữ liệu: định dạng cột Capacitor trên Colossus, các loại bảng (native, external/BigLake, partitioned, clustered), dataset & region, cùng views và materialized views.
Những tính năng SQL mạnh của BigQuery: kiểu lồng nhau ARRAY & STRUCT cùng UNNEST, hàm phân tích/window, wildcard & _TABLE_SUFFIX, scripting & procedural, cùng DDL/DML và MERGE.
Giảm dữ liệu quét = giảm chi phí & tăng tốc: phân vùng bảng (theo thời gian, ingestion-time, integer range), clustering (sắp xếp theo cột), partition pruning, và cách phối hợp cả hai cho bảng lớn.
Kiểm soát tiền và tăng tốc trên BigQuery: hai mô hình giá (on-demand theo byte quét vs capacity/slots), giảm byte quét (partition/cluster, tránh SELECT *), materialized views & BI Engine, và đọc query plan.
Đưa dữ liệu vào BigQuery: batch load (GCS/local), external/federated queries, streaming (Storage Write API vs legacy streaming inserts), Data Transfer Service & Dataflow, và mẫu ELT với dbt trên BigQuery.
Hoàn thiện bức tranh BigQuery: phân quyền IAM & authorized views, bảo mật cột/hàng (column/row-level security), BigQuery ML để huấn luyện mô hình bằng SQL, và vận hành (INFORMATION_SCHEMA, giám sát, tích hợp BI/ML).