1. Cuộc cách mạng bắt đầu từ Transformer (2017)
Năm 2017, giới AI chứng kiến bước ngoặt mang tính nền tảng: mô hình Transformer được giới thiệu trong bài báo “Attention is All You Need” của nhóm nghiên cứu Google.
Khác với RNN và LSTM vốn xử lý dữ liệu tuần tự và gặp khó khăn khi học các mối quan hệ dài hạn, Transformer sử dụng cơ chế tự chú ý (Self-Attention) để xử lý toàn bộ chuỗi đầu vào song song, mở ra kỷ nguyên mới cho NLP hiện đại.
Những đột phá kỹ thuật: – Self-Attention: giúp mô hình hiểu ngữ cảnh toàn cục, không bị giới hạn theo trật tự từ.
– Multi-Head Attention: cho phép mô hình “nhìn” một câu từ nhiều góc độ khác nhau.
– Positional Encoding: giải quyết bài toán vị trí từ trong chuỗi mà vẫn giữ khả năng xử lý song song.
– Residual Connections
+ Layer Norm: giữ ổn định khi huấn luyện các mô hình cực sâu. Từ đây, mô hình ngôn ngữ lớn bắt đầu được thiết kế để không chỉ “nhận biết” mà còn “tạo ra” ngôn ngữ.
+ Layer Norm: giữ ổn định khi huấn luyện các mô hình cực sâu. Từ đây, mô hình ngôn ngữ lớn bắt đầu được thiết kế để không chỉ “nhận biết” mà còn “tạo ra” ngôn ngữ.
2. Giai đoạn tiền huấn luyện quy mô lớn (2018–2020): BERT & GPT
– BERT (2018): Đỉnh cao của hiểu ngôn ngữ Google tung ra BERT – mô hình mã hóa 2 chiều (encoder) đầu tiên, được huấn luyện với kỹ thuật Masked Language Modeling và Next Sentence Prediction. BERT không tạo văn bản, mà tập trung hiểu sâu ngữ cảnh, từ đó tạo bước nhảy vọt trên các bài kiểm tra như GLUE, SQuAD.
– GPT & GPT-2 (2018–2019): Sinh văn bản bằng mô hình giải mã Trong khi BERT hướng đến hiểu ngôn ngữ, OpenAI đi theo hướng ngược lại: GPT – mô hình giải mã một chiều (decoder-only), chuyên “viết lách”. GPT-2 với 1.5 tỷ tham số thể hiện năng lực sinh ngôn ngữ linh hoạt, thậm chí có thể trả lời, dịch thuật, viết tiểu luận mà không cần tinh chỉnh theo từng tác vụ.
3. GPT-3 (2020)
Là LLM quy mô lớn đầu tiên, mở ra kỷ nguyên AI tạo sinh Với 175 tỷ tham số, GPT-3 không chỉ lớn, nó khẳng địnhquy mô tạo nên chất lượng. GPT-3 có thể viết mã, sáng tác, trả lời có lý lẽ, làm thơ… chỉ từ một vài ví dụ đánh dấu bước chuyển từ “AI chuyên biệt” sang “AI đa năng”. Song, GPT-3 cũng bộc lộ vấn đề nghiêm trọng: ảo giác (hallucination) khi mô hình nói điều tưởng như thật nhưng hoàn toàn sai.
4. ChatGPT và giai đoạn tinh chỉnh hậu huấn luyện (2021–2022)
Để giải bài toán “hợp tác giữa người và máy”, OpenAI đưa ra hai phương pháp tinh chỉnh quan trọng:
– Supervised Fine-Tuning (SFT): dạy mô hình theo cặp hỏi đáp mẫu do con người cung cấp.
– Reinforcement Learning from Human Feedback (RLHF): xếp hạng các câu trả lời, mô hình học từ “sở thích” của người dùng để phản hồi tự nhiên và có trách nhiệm hơn. Sự kết hợp giữa GPT-3.5, SFT và RLHF tạo nên ChatGPT (cuối 2022) AI hội thoại có khả năng giữ mạch trò chuyện, trả lời đúng trọng tâm và có cảm xúc. Đây được xem là “khoảnh khắc bùng nổ toàn cầu” của AI.
5. Mô hình Đa phương tiện (Multimodal)
GPT-4, GPT-4V và GPT-4o (2023–2024) Tiếp nối thành công của ngôn ngữ, GPT-4 mở rộng ra hình ảnh, âm thanh tạo nên AI có khả năng “nghe – nói – nhìn” như con người:
– GPT-4: hiểu hình ảnh, giải thích biểu đồ, trả lời câu hỏi từ ảnh.
– GPT-4o: tích hợp ngôn ngữ, hình ảnh và âm thanh theo thời gian thực. Điều này mở ra kỷ nguyên AI cảm nhận thế giới như con người, ứng dụng mạnh trong giáo dục, y tế, sáng tạo nội dung.
6. Open Source & Open Weight (2023–2024)
Dân chủ hóa AI Khi mô hình đóng trở nên đắt đỏ và độc quyền, cộng đồng AI phản ứng bằng phong trào mã nguồn mở: – Open Weight như LLaMA, Mistral cho phép tải mô hình về để tùy chỉnh.
– Open Source như BERT, OPT cung cấp cả kiến trúc, code, dữ liệu huấn luyện. Các cộng đồng như Hugging Face, GitHub trở thành “lò ấp” cho hàng trăm mô hình chuyên biệt, tạo đà lan tỏa AI vào y tế, pháp lý, giáo dục…
7. Mô hình suy luận (Reasoning Models)
Tư duy hệ thống 2 (2024) Dựa trên lý thuyết Tư duy kép (System 1 vs System 2), thế hệ mô hình mới như OpenAI-o1, o3 chuyển từ “nói nhanh” sang “nghĩ kỹ”: o1-preview (09/2024): vượt GPT-4o trong các bài thi toán, lập trình. o3 (01/2025): đạt điểm cao hơn con người ở benchmark ARC-AGI, FrontierMath. Các mô hình này có khả năng tự phân tích, phản biện và đưa ra lời giải có logic nhờ vào kỹ thuật Long Chain of Thought và khả năng kiểm soát tính toán linh hoạt theo mức độ khó.
8. DeepSeek-R1 (2025)
Sự trỗi dậy từ Trung Quốc với model rẻ, mạnh và mở trong khi cả thế giới còn đang vật lộn với chi phí cao từ GPT-4o, OpenAI-o1 thì DeepSeek từ Trung Quốc tung ra R1 – mô hình reasoning hiệu quả vượt trội với chi phí chỉ bằng 1/30. Điểm nổi bật:
– Kiến trúc Mixture of Experts (MoE): chia mô hình thành các “chuyên gia” chỉ kích hoạt khi cần.
– Multi-Token Prediction + Multi-Head Latent Attention: sinh văn bản dài mạch lạc hơn với chi phí bộ nhớ thấp hơn.
Đột phá:
– Giá chỉ 2.19 USD / triệu token đầu ra, thấp gấp 20–50 lần các đối thủ lớn.
– Tích hợp nhanh vào hạ tầng AWS, Azure, Google Cloud.
– Có phiên bản nhỏ 1.5B – 70B phù hợp với máy tính phổ thông. DeepSeek -R1 đánh dấu cú lật thế cờ toàn cầu, khi Trung Quốc không chỉ đuổi kịp mà còn dân chủ hóa AI reasoning cho toàn ngành.
Lịch sử phát triển LLMs không chỉ là tiến trình công nghệ mà là cuộc chơi chiến lược xoay quanh 4 trụ cột:
- Transformer (2017): đặt nền móng tư duy mới cho mô hình ngôn ngữ.
- GPT-3 (2020): chứng minh sức mạnh của quy mô (scale).
- ChatGPT (2022): đưa AI vào đời sống và gây bùng nổ toàn cầu.
- DeepSeek-R1 (2025): tái định hình cuộc chơi bằng hiệu quả, khả năng mở và chi phí thấp.
Chúng ta đang bước vào kỷ nguyên mà AI không chỉ hiểu còn có thể lý luận, cộng tác, đồng hành cùng con người. Và trong kỷ nguyên đó, chiến lược phát triển AI không còn là chuyện riêng của các tập đoàn lớn mà là bài toán sống còn cho mọi tổ chức, quốc gia và cá nhân.
