Phác họa bài post:
Đề dẫn.
① Khởi
nguyên của RSI
② RSI
là gì và nó hoạt động thế nào?
③ Các
diễn biến liên quan đến RSI tại Anthropic & OpenAI
🤔. Suy ngẫm chậm
~
Để giúp anh/chị
quyết định có đọc tiếp hay không, tôi xin phép cung cấp các thông tin liên quan
đến bài post này như sau:
·
Chủ
đề: Machine Learning
·
Tính
thời sự: tháng 6-8/2026
·
Thời
gian đọc: 7 phút kể cả
thời gian uống cà phê
Đề dẫn
Cộng đồng Machine
Learning từ lâu đã nói nhiều đến AGI (Artificial General Intelligence
– Trí tuệ nhân tạo tổng quát) với rất nhiều tranh biện, rất nhiều định nghĩa về
AGI. Vẫn chưa ai nhìn thấy AGI cả. Gần đây, truyền thông lại rộ lên RSI. Vì tò
mò nên lần này xin phép anh/chị nhàn đàm về chủ đề RSI.
RSI là viết tắt
của cụm từ tiếng Anh “recursive self-improvement”. Tôi đã tra một vài từ
điển trực tuyến, rồi nhờ cả các chatbot dịch ra tiếng Việt cụm từ này, kết quả
là “Tự cải tiến đệ quy”. Một định nghĩa dài hơn: “Quá trình AI tự cải
tiến chính mình theo cách lặp lại, trong đó mỗi phiên bản được cải tiến lại
giúp tạo ra một phiên bản còn tốt hơn nữa”.
Cụm từ “Tự cải
tiến đệ quy” hay định nghĩa dài ở trên nghe vẫn hơi “vô cảm” đúng không
anh/chị?! Đành rằng làm khoa học hay việc lập trình bản chất là khô khan nhưng
đôi lúc cũng phải đưa “cảm xúc” vào chứ! Chính vì vậy, tôi mạnh dạn “dịch trại”,
“nói trại” RSI ra thành “AI tự tiến hóa”. Tuy là dịch trại ra vậy, nhưng
trong bài post này tôi vẫn giữ nguyên từ gốc RSI.
-
① Khởi nguyên của RSI
Liệu ý tưởng
RSI đã xuất hiện trong quá khứ hay chưa? Khi lục tìm trong kho văn liệu điện
toán (Computing Literature), người ta thấy có vài ý tưởng tương tự.
💡 Đầu tiên là ý tưởng của John von Neumann trong nghiên cứu
của mình vào cuối những năm 1940 với tựa đề “Theory of Self-Reproducing Automata” (Lý thuyết về các hệ tự sao chép). Đại
ý ông nghiên cứu cách một cỗ máy có thể tạo ra các bản sao của chính nó. Chú ý
rằng đây là cổ máy “tự sao chép” chứ chưa phải “tự cải tiến”.
-
💡 Đáng chú ý tiếp theo là bài viết của Irving John Good vào
năm 1965 với tựa đề “Speculations Concerning the First
Ultraintelligent Machine”
(Những phỏng đoán về cỗ máy siêu thông minh đầu tiên). Ông đã đưa ra nhiều khái
niệm rất gần với sự phát triển của AI hiện nay:
·
Định
nghĩa: Một cỗ máy siêu
thông minh có khả năng vượt xa mọi hoạt động trí tuệ của bất kỳ con người nào,
dù người đó có thông minh đến đâu.
·
Cuộc
bùng nổ trí tuệ (The Intelligence Explosion): Vì việc thiết kế các cỗ máy thông minh
hơn là một hoạt động trí tuệ, nên một cỗ máy có trí tuệ vượt xa con người có thể
tạo ra một phiên bản kế nhiệm còn xuất sắc hơn nữa, bỏ xa trí tuệ con người lại
phía sau.
·
Phát
minh cuối cùng (The Last Invention): “Cỗ máy siêu thông minh đầu tiên chính là phát minh cuối
cùng mà con người cần thực hiện” với điều kiện nó vẫn đủ ngoan ngoãn để giải
thích cách thức kiểm soát chính nó.
Thật may, đó mới
chỉ là … phỏng đoán (speculation)! Nhưng phỏng đoán của Good gần đúng đến
mức đáng kinh ngạc (và đáng sợ).
-
💡 Và gần đây nhất, vào năm 2008, tác giả Eliezer Yudkowsky có
bài viết đúng với tựa đề RSI: “Recursive Self-Improvement”. Các ý chính:
·
Mầm
AI (Seed AI): Một phần
mềm AI ban đầu—có trình độ ngang bằng hoặc thấp hơn con người—được thiết kế đặc
biệt với khả năng tự thấu hiểu, tự sửa đổi và tự nâng cấp theo cơ chế đệ quy.
·
Sự
bứt phá "FOOM" (The "FOOM" Takeoff): Một sự gia tăng năng lực đột ngột và
nhanh chóng theo chiều thẳng đứng, trong đó AI chuyển từ trạng thái thông minh
sang trình độ vượt xa con người chỉ trong một khoảng thời gian rất ngắn, vượt
khỏi tầm kiểm soát hoặc các biện pháp ngăn chặn của con người.
·
Rủi
ro về sự ổn định mục tiêu (Goal Stability Risks): Nguy cơ xảy ra khi một AI tự thiết kế
lại mã nguồn của chính nó; các động cơ nội tại và hàm mục tiêu của nó có thể bị
lệch hướng hoặc thay đổi theo những cách khó lường, khiến các cam kết về độ an
toàn không còn giá trị qua các thế hệ cải tiến.
Eliezer
Yudkowsky thông qua việc phổ biến khái niệm "Seed AI" (Mầm AI), cảnh
báo rằng một vòng lặp thiếu sự đồng bộ về mục tiêu có thể châm ngòi cho một cuộc
bùng nổ AI nhanh chóng, mất kiểm soát và dẫn đến thảm họa diệt vong. Quan điểm “thảm
họa diệt vong” đến nay vẫn gây tranh cãi, nhiều người cho rằng đây vẫn chỉ là
thuyết âm mưu (conspiracy theory).
-
② RSI là gì và nó hoạt động thế nào?
Một cách nôm
na, RSI (Recursive Self-Improvement — Tự cải tiến đệ quy) có thể được hiểu
như sau:
AI → cải tiến AI → AI tốt hơn → tiếp tục cải tiến AI → …
Nghĩa là:
·
Một
hệ thống AI biết cách cải tiến chính nó để được một hệ thống AI mới tốt hơn,
·
Hệ
thống AI mới tốt hơn đó lại cải tiến tiếp để được một hệ thống AI mới tốt hơn nữa,
·
Vòng
lặp cứ thế tiếp tục …
Chữ “đệ quy” được
sử dụng với hàm ý là AI tự cải tiến chính mình. Cũng giống như trong lập trình,
hàm đệ quy là hàm có thể gọi chính nó.
-
Khái niệm “AI”
vẫn còn chung chung quá. Để cho cụ thể và dễ hình dung hơn, bây giờ ta thay
“AI” bằng “LLM” (Large Language Model) — là mô hình được sử dụng rộng khắp
hiện nay:
LLM → cải tiến
LLM → LLM tốt hơn → tiếp tục cải tiến LLM → …
Mà chúng ta biết
rằng việc dựng và triển khai LLM đi qua nhiều công đoạn:
1.
Chuẩn
bị, tập hợp, sàng lọc dữ liệu (data)
2.
Chọn
kiến trúc mô hình (ví dụ chọn Transformer kết hợp với Mixture-of-Experts)
3.
Chọn
giải pháp huấn luyện mô hình (training methods)
4.
Huấn
luyện và dựng mô hình dạng pre-training
5.
Đánh
giá mô hình với một loạt các benchmark (evaluation)
6.
Triển
khai mô hình trên cloud (deployment)
7.
Công
bố mã nguồn và/hoặc công bố weights (Optional: đối với trường hợp mã nguồn
mở và/hoặc mở parameters)
Một phiên bản của
LLM được hiểu như thế nào? Đó chính là mô hình sau khi đã huấn luyện: là kiến
trúc mô hình + mạng nơ-ron với tất cả các trọng số (weights & biases).
Tức là chất lượng mô hình được quyết định bởi kiến trúc mô hình và tổng các
tham số nội bộ của nó (Model Architecture + Internal Model Parameters)
Ví dụ: Moonshot AI đã
phát hành Kimi K3 thông qua các nền tảng web và API vào ngày 16/7/2026, tiếp đó
là công bố rộng rãi toàn bộ trọng số mở của mô hình với 2,8 nghìn tỷ tham số +
kiến trúc sparse Mixture-of-Experts vào ngày 27/7/2026.
Chú ý rằng AI
Agent chạy trên nền của LLM sau khi đã qua pre-training — AI agent không
làm thay đổi các trọng số và kiến trúc mô hình LLM. Vì vậy khái niệm Self-Improving
Agent (Agent tự cải tiến) khác với RSI.
Ví dụ: Trong Agent Hospital, tác tử bác sĩ tự tiến hóa do điều
trị hàng ngàn tác tử bệnh nhân nhưng mô hình nền vẫn là GPT-3.5. Nghĩa
là Agent tiến hóa nhưng LLM vẫn không đổi.
-
Có một điểm nữa
liên quan đến RSI. Làm thế nào để biết được phiên bản sau của LLM tốt hơn phiên
bản trước (vì nó liên quan đến khái niệm phiên bản sau được cải tiến so với
phiên bản trước)? Cách làm phổ biến hiện nay của các Lab hàng đầu thế giới là
đo chất lượng mô hình thông qua hàng loạt benchmarks. Các benchmarks cho
điểm cao hơn đồng nghĩa với chất lượng mô hình tốt hơn. Có một cách làm khác—định
tính, không phải định lượng—là cho LLM tham gia vào các đấu trường do người
dùng chấm điểm. Cộng đồng người dùng chấm điểm LLM nào cao hơn (bỏ phiếu mà không
biết tên mô hình) thì LLM đó được cho là có chất lượng tốt hơn.
-
Một LLM muốn thực
sự được coi là RSI thì LLM đó phải tự làm tất cả công đoạn từ 1. đến 7. đã nêu
ở trên! Tức là LLM phải có khả năng chuẩn bị dữ liệu (data), biết chọn
kiến trúc mô hình, biết chọn giải pháp huấn luyện, biết huấn luyện và làm thay
đổi các trọng số (weights & biases), rồi phải biết đánh giá (evaluation),
biết triển khai, [và biết công bố mã nguồn và/hoặc công bố các trọng số (optional)].
Nhưng đó vẫn chỉ
là thì tương lai. Thực tế hiện nay RSI đang ở đâu? Cách tốt nhất có lẽ
là chúng ta cùng theo dõi các diễn biến mới đây liên quan đến RSI của hai Lab
hàng đầu hiện nay là Anthropic và OpenAI.
-
③ Các diễn biến liên quan đến RSI tại Anthropic & OpenAI
▓ Ngày
4/6/2026, Anthropic đăng bài với tựa đề “When AI builds itself” (khi AI tự xây dựng chính nó) khá gây
sốc cho truyền thông. [Tôi đồ rằng đây là bài báo khơi mào cho trào lưu RSI hiện
nay]. Đại ý:
·
Trước
năm 2022: Con người
phát triển AI
·
2023-2025: Chatbot hỗ trợ con người. Về mặt lập
trình, con người sử dụng các chatbot đời đầu để hỗ trợ một số công đoạn trong
quy trình, chẳng hạn như tạo các đoạn mã ngắn và sao chép kết quả đầu ra vào
các trình soạn thảo văn bản.
·
2025-2026: AI lập trình viết và chỉnh sửa mã nguồn
(Coding Agents). Về mặt lập trình, khi các Agent trở nên có năng lực
hơn, chúng có thể tự viết và chỉnh sửa mã nguồn, đôi khi là toàn bộ các file.
·
Ngày
nay: Tác tử AI tự chủ
chạy mã và phân công công việc. Các Coding Agent giờ đây có thể tự thực
thi mã và ủy quyền công việc tốn hàng giờ đồng hồ cho các Agent khác.
·
20xx: Có khả năng tiến tới các hệ thống AI tự
xây dựng và huấn luyện các thế hệ kế tiếp.
Then chốt: AI
không còn đơn thuần chỉ hỗ trợ con người phát triển AI, mà ngày
càng trực tiếp thực hiện công việc nghiên cứu và kỹ thuật cần thiết để cải
tiến chính AI.
Bằng chứng
đâu? Bài báo lấy
chính công việc nội bộ của Anthropic để thuyết phục:
·
Tính
đến tháng 5 năm 2026, Anthropic cho biết hơn 80% mã nguồn được hợp nhất (merged)
vào codebase của họ do Claude tạo ra.
·
Trong
quý II năm 2026, một kỹ sư điển hình tại Anthropic hợp nhất lượng mã nguồn mỗi
ngày cao gấp khoảng 8 lần so với năm 2024.
·
Trong
một thử nghiệm nội bộ về một bài toán tối ưu hóa được xác định rõ, Claude được
cho là đã cải thiện từ mức tăng tốc khoảng 3 lần lên 52 lần trong khoảng một
năm.
·
Các
tác tử AI cũng đã bắt đầu thực hiện nhiều hoạt động nghiên cứu mang tính mở
hơn: đề xuất giả thuyết, thiết kế thí nghiệm, kiểm tra giả thuyết và lặp lại
quá trình với mức độ chỉ đạo rất ít từ con người.
Nếu AI
làm hầu hết thì vai trò của con người ở đâu? Theo bài viết, AI ngày càng giỏi thực
hiện các nhiệm vụ nghiên cứu khi con người đã xác định rõ mục tiêu. Lợi thế lớn
còn lại của con người nằm ở “research taste” — trực giác trong
nghiên cứu.
·
Vấn
đề nào đáng để nghiên cứu?
·
Nên
thực hiện thí nghiệm nào?
·
Kết
quả nào đáng tin cậy?
·
Khi
nào nên từ bỏ một hướng tiếp cận?
·
Nghiên
cứu nên đi theo hướng nào?
Bài báo cảnh
báo rằng “RSI vừa có thể mang tính đột phá, vừa tiềm ẩn nguy hiểm”. Đó là rủi
ro mất kiểm soát trong khâu căn chỉnh mục tiêu: nếu các hệ thống AI bắt đầu xây
dựng các thế hệ AI kế tiếp, những trường hợp hiếm hoi về sự lệch pha mục tiêu (misalignment)
có thể tích lũy hoặc khuếch đại qua nhiều thế hệ.
-
Tóm tắt:
Luận
điểm cốt lõi của bài viết là AI đang tự động hóa ngày càng nhiều công việc cần
thiết để phát triển AI tốt hơn; nếu xu hướng này cuối cùng mở rộng sang cả khả
năng phán đoán và định hướng nghiên cứu ở cấp độ cao, nó có thể khép kín vòng lặp
từ “AI hỗ trợ phát triển AI” sang “Tự cải tiến đệ quy” — mang lại những lợi ích
chưa từng có, đồng thời đặt ra những thách thức lớn tương tự đối với an toàn AI
và khả năng kiểm soát của con người.
-
▓ Đáp lại việc
Anthropic “khoe” Claude Code làm được rất nhiều việc trong nội bộ của
Anthropic, ngày 25/6/2026 OpenAI cũng có bài viết với tựa đề “How agents are transforming work” (cách các Agent thay đổi phương thức
làm việc) cũng “khoe” Codex
của họ làm được rất nhiều việc thông qua các trải nghiệm trong nội bộ OpenAI. Một
cách tóm tắt:
Lập
luận cốt lõi của OpenAI là các tác tử AI ngày càng mạnh đang thay đổi công việc
không chỉ bằng cách tự động hóa từng nhiệm vụ riêng lẻ, mà còn bằng cách cho
phép con người giao phó những quy trình công việc dài và phức tạp, đồng thời mở
rộng phạm vi công việc mà mỗi cá nhân có thể đảm nhận — từ đó có thể khiến khả
năng điều phối, giám sát và phối hợp nhiều tác tử AI trở thành một năng lực
quan trọng của môi trường làm việc trong tương lai.
Tuy nhiên, có một
điểm khác biệt. Bài của OpenAI không đề cập đến khái niệm RSI.
-
▓ Có một sự cố
làm xôn xao cộng đồng AI có liên quan đến AI Agent và RSI. Vào tháng 7/2026,
khi OpenAI đánh giá năng lực an ninh mạng một số mô hình của họ thì một tác tử
AI tự động thoát ra khỏi môi trường giả lập (sandbox) và tấn công vào hạ
tầng của Hugging Face. Điểm gây chú và lo ngại nhất là tác tử AI dường như suy
luận rằng Hugging Face có thể lưu trữ các model, dataset hoặc lời giải liên
quan đến bài đánh giá ExploitGym. Vì vậy, thay vì tự giải các thử thách, nó tìm
cách đột nhập vào hệ thống của Hugging Face để lấy các lời giải. Bài phân tích
sâu: Anatomy of a Frontier Lab Agent
Intrusion: A Technical Timeline of the July 2026 Incident xin gửi đến các anh/chị tò mò về mặt kỹ
thuật.
Vấn đề nằm ở chỗ:
khi phát triển một mô hình LLM với đầy đủ đội ngũ kỹ thuật tại một Lab hàng đầu
thế giới hiện nay mà còn để một tác tử AI lọt khỏi bức tường lửa, tấn công vào
hạ tầng của một Lab khác cũng thuộc loại hàng đầu thì với cơ chế RSI (AI tự dựng
AI) thì mức độ nguy hiểm còn đến mức nào?!
Đến đây thì vấn
đề của RSI không còn đơn thuần là phiên bản AI sau tốt hơn phiên bản AI trước
mà phiên bản AI sau phải đảm bảo an toàn (AI safety), ít nhất là
bằng mức độ an toàn của phiên bản AI trước, không làm chệch hướng alignment.
-
▓ Trước đó, sau
khi Anthropic thông báo (vào ngày 7/4/2026) rằng phiên bản Claude Mythos
Preview đã phát hiện hàng nghìn lỗ hổng bảo mật nghiêm trọng, bao gồm các lỗi ảnh
hưởng đến những hệ điều hành và trình duyệt web phổ biến, chính phủ Hoa Kỳ mặc
dù không có quy định bắt buộc mang tính bao trùm yêu cầu tất cả các công ty AI
phải nộp kết quả kiểm tra an toàn trước khi phát hành sản phẩm; tuy nhiên, theo
Sắc lệnh hành pháp ngày 2/6/2026 do Tổng thống Trump ký, các nhà phát triển
hàng đầu về những mô hình AI tiên tiến, mã nguồn đóng thuộc nhóm "tiên
phong" (frontier AI) được đề nghị tự nguyện gửi mô hình của họ để
trải qua quy trình đánh giá an ninh mạng kéo dài 30 ngày trước khi phát hành.
-
▓ Ngày
18/8/2026 OpenAI ra thông báo “Pacing model development in an era of
cyber-critical capabilities”
(tạm dịch: Điều chỉnh tốc độ phát triển mô hình trong kỷ nguyên của các năng
lực an ninh mạng mang tính trọng yếu). Thông báo này diễn ra sau khi họ nộp
mô hình mới nhất của họ có tên là “Astra” lên chính phủ Hoa Kỳ theo tinh thần của
Sắc lệnh ngày 2/6/2026.
Thông báo này
có phải là làm chậm hay dừng phát triển AI không? Không hẳn. Trong ngữ cảnh
RSI, cụm “pacing” đặc biệt quan trọng: nó không đơn thuần có
nghĩa là làm chậm AI, mà hàm ý điều chỉnh tốc độ phát triển AI sao cho năng lực
an toàn (AI safety), giám sát (AI monitoring), căn
chỉnh (alignment) và bảo mật (cyber-security) có thể
theo kịp tốc độ gia tăng năng lực của mô hình.
-
🤔.
Suy ngẫm chậm
✪
Chúng
ta đã chứng kiến "ChatGPT moment" vào cuối năm 2022: thời
điểm AI đạt đến mức đủ hữu ích, dễ tiếp cận và đủ ấn tượng để trở thành hiện tượng
đại chúng, khiến nhận thức của xã hội về AI thay đổi nhanh chóng. ChatGPT tạo
ra một bước ngoặt vì người dùng có thể đơn giản:
Gõ
một câu hỏi → AI trả lời ngay → tiếp tục hội thoại.
Nói
gọn lại, sau khi ChatGPT ra đời thì xã hội loài người nhận thức về AI khác hoàn
toàn.
Vậy,
ngoài "ChatGPT moment", liệu có tồn tại:
· AI coding moment — khi AI bắt đầu có khả năng lập trình ở
mức khiến quy trình phát triển phần mềm thay đổi căn bản.
· AI research moment — khi AI có thể tự thực hiện phần đáng
kể của quy trình nghiên cứu.
· AGI moment — giả thuyết về thời điểm AI đạt năng lực
tổng quát ở mức tương đương hoặc vượt con người.
· RSI moment — giả thuyết về thời điểm AI bắt đầu có
khả năng cải tiến chính hệ thống AI một cách đáng kể.
✪
Trong
các sự kiện đã nêu ở trong bài nhàn đàm này, tôi cho rằng các Lab đã lồng vào
các quảng bá, “khoe” năng lực vượt trội của các mô hình họ đang phát triển.
Nhưng rõ ràng họ cũng có bất ngờ. Chúng ta nhớ lại rằng bản thân OpenAI cũng
không ngờ ChatGPT có nhiều năng lực đến vậy, vào thời điểm cuối năm 2022. Tương
tự, một tác tử AI thoát khỏi sandbox rồi tấn công vào hạ tầng của
Hugging Face có lẽ cũng nằm ngoài dự liệu của họ. Điều đó chứng tỏ rằng các Lab
hàng đầu vẫn chưa hiểu hết được năng lực của AI Agent!?
~~~
Chúc anh/chị đọc vui nhã
LeVanLoi
Không có nhận xét nào:
Đăng nhận xét