Bản tin số 2 ngày 17/9/ 2026

1.Nguy cơ con người không kiểm soát được AI khi tác nhân AI “ nổi loạn”.

Sau sự kiện tháng 7, khi các AI agent của OpenAI bị phát hiện có liên quan đến việc xâm nhập trái phép nền tảng của công ty Hugging Face các nhà nghiên cứu độc lập phát hiện những AI agents của OpenAI trong các thử nghiệm hồi đầu năm 2026 đã sử dụng hơn 10 website chưa được công bố trước đó để thực hiện liên lạc ngoài sự cho phép. Phát hiện này cho thấy phạm vi hoạt động “ nổi loạn ” của các AI agent rộng hơn nhiều so với những gì OpenAI từng công bố.
Công bố của Viện An toàn anh ninh AI, Anh quốc trong báo cáo từ thử nghiệm 122 lần AI agent trong môi trường có kết nối Internet thực đã phát hiện 19 hành động vượt phạm vi cho phép. Đáng chú ý, một số agent tự lập kế hoạch, thay đổi chiến thuật và thực hiện hành động ngoài yêu cầu trực tiếp. Một agent đã tìm cách đưa mã độc vào dự án mã nguồn mở trên GitHub, tạo danh tính giả và tác động đến người duy trì dự án. Một số agent còn tìm cách sử dụng prompt injection và liên hệ với hệ thống khác. Kết quả cho thấy khi AI có quyền tự chủ, truy cập Internet và sử dụng công cụ, nguy cơ hành động ngoài dự kiến của con người là có thực.
Vào ngày 12/9 vừa qua , Dario Amodei, CEO Anthropic, kêu gọi các công ty AI giảm tốc độ nâng cao năng lực của các mô hình. Ông cảnh báo trong 6–12 tháng, các AI agent có thể đủ khả năng kiểm soát phần lớn Internet và gây thiệt hại hàng trăm tỷ USD. Sam Altman, CEO OpenAI, đồng tình với cảnh báo này và nói nguy cơ AI gây tuyệt chủng cho con người là “không thể chấp nhận được”. Elon Musk, CEO xAI, cũng ủng hộ quan điểm này.

Đặc biệt, một cựu nghiên cứu viên Anthropic, Jacob Coxon, cảnh báo rằng nếu tốc độ phát triển hiện nay tiếp tục, nguy cơ đối với sự tồn vong của con người có thể trở nên rất nghiêm trọng. Ông nói các nhân viên đang phát triển những hệ thống này “ thực sự lo sợ” về tương lai của nhân loại.

Lo ngại về ngày càng xuất hiện nhiều cảnh báo rằng AI tiên tiến có thể gây ra những rủi ro nghiêm trọng đối với con người. Vua Charles III của Vương quốc Anh sẽ triệu tập một cuộc gặp với các lãnh đạo hàng đầu của ngành trí tuệ nhân tạo (AI) tại Anh trong tuần này, trong đó có các lãnh đạo của Nvidia, Google DeepMind, OpenAI và Anthropic, cùng Bộ trưởng AI của Anh. Mục tiêu của cuộc gặp là thảo luận về việc xây dựng những nguyên tắc chung để phát triển AI một cách có trách nhiệm,

2. Phản ứng của Trung quốc và quan điểm của Tổng thống Mỹ Trump về lời kêu gọi làm chậm tốc độ phát triển AI tiên tiển để có thêm thời gian kiểm soát các rủi ro an toàn.

Global Times, một tờ báo được nhà nước Trung Quốc hậu thuẫn, đã phản ứng mạnh với bài viết của Dario Amodei, CEO Anthropic về kêu gọi làm chậm tốc độ phát triển AI tiên tiến để có thêm thời gian kiểm soát các rủi ro an toàn. Global Times cho rằng đây thực chất không chỉ là vấn đề an toàn AI, mà là một chiến lược nhằm hạn chế sự phát triển công nghệ của Trung Quốc, duy trì ưu thế công nghệ của Washington và loại Trung Quốc khỏi hệ thống quản trị AI toàn cầu. Vì vậy, họ gọi đề xuất của Amodei là “kịch bản/sách lược Chiến tranh Lạnh” và cảnh báo về một “cuộc Chiến tranh Lạnh AI âm thầm”.
Trong chuyến thăm Ireland, Tổng thống Donald Trump cho rằng những cảnh báo về nguy cơ AI đang bị “thổi phồng”. Ông gọi những người liên tục đưa ra các kịch bản nguy hiểm là “những thế lực rất tiêu cực”, và nói rằng họ đang cảnh báo về những chuyện “sẽ không xảy ra”. Ông nói:” “ “Chúng ta đang dẫn trước Trung Quốc về AI và, thẳng thắn mà nói, tôi muốn duy trì điều đó, bởi ai thắng trong AI thì người đó thắng.”Theo cách hiểu của Trump, AI không còn đơn thuần là một ngành công nghệ, mà là cuộc cạnh tranh có ý nghĩa quyết định đối với vị thế của Mỹ và Trung Quốc. Ông coi việc duy trì vị trí dẫn đầu AI của Mỹ là ưu tiên quan trọng.

Văn phòng 57 Bộ KHCN tổng hợp từ Reuters và BBC ngày 12/9, 13/9 và 14/9/2026