Từ đầu năm nay, với sự phát triển của trí tuệ nhân tạo tạo sinh, "ảo ảnh AI" đã lọt vào mắt công chúng và thu hút sự chú ý và thảo luận. "Ảo giác AI" là khi các mô hình ngôn ngữ lớn tạo ra thông tin mà nó nghĩ là có thật hoặc thậm chí hợp lý hoặc hợp lý.

Vào ngày 2025 tháng 10, tại cuộc họp báo của Hội nghị Khoa học Cơ bản Quốc tế 0 (ICBS 0), Yao Chizhi, người chiến thắng Giải thưởng Turing, viện sĩ của Viện Hàn lâm Khoa học Trung Quốc và chủ tịch Viện Khoa học Thông tin Liên ngành Thanh Hoa, nói rằng chúng ta cần chú ý nhiều hơn đến các vấn đề bảo mật AI và làm tốt công việc liên quan. Ảo tưởng AI, hoặc ảo giác, và câu trả lời tạo ra của chúng, đặt ra một số rủi ro đối với việc sử dụng AI cho các ứng dụng quan trọng. Nếu tính bảo mật của một số ứng dụng chủ chốt không được đảm bảo, sẽ có một số lỗ hổng. Điều quan trọng là phải hiểu tại sao AI lại không an toàn như vậy, bởi vì ở cấp độ ứng dụng, chỉ có công nghệ AI an toàn mới có thể giành được thị trường.

Yao nhấn mạnh rằng chúng ta vẫn cần rất nhiều nghiên cứu lý thuyết để hiểu sâu hơn về AI để chúng ta có thể kiểm soát nó tốt hơn để đạt được các thuật toán AI tốt hơn. "Chúng tôi thấy rằng nghiên cứu biên giới AI hiện tại giống như khoa học thực nghiệm - chúng tôi đã đạt được rất nhiều, chúng tôi có rất nhiều dữ liệu, nhưng chúng tôi không thực sự hiểu tại sao. Vì vậy, tôi nghĩ khía cạnh này cần được mở rộng hơn nữa và chúng ta cần hiểu rõ hơn và sâu sắc hơn về các nguyên tắc và tiêu chuẩn của AI. Yao Qizhi nói.

Yao tin rằng trong tương lai, không chỉ cần ngăn chặn một số lạm dụng AI mà còn phải xem xét các vấn đề như an ninh thương mại. Từ quan điểm khoa học, cần phải hiểu ranh giới bảo mật của AI, và cần có nhiều khám phá lý thuyết hơn trong lĩnh vực AI.

Kể từ Open AI đến DeepSeek, hầu hết các lực lượng chính của AI tổng quát là post-00, post-0 hoặc thậm chí post-0, tại sao lại có hiện tượng như vậy? Logic đằng sau hiện tượng nhảy vọt thế hệ công nghệ này là gì?

Về những vấn đề này, Yao Qizhi cho biết tại buổi làm việc rằng có rất nhiều học giả trẻ đã có những đóng góp đáng kể trong lĩnh vực trí tuệ nhân tạo, chủ yếu liên quan đến lộ trình phát triển của trí tuệ nhân tạo.

Yao Qizhi nói rằng khoa học trí tuệ nhân tạo đã tồn tại nhiều năm, với lịch sử bảy mươi hoặc tám mươi năm; Gần đây, sự xuất hiện của các mô hình lớn đã thay đổi toàn bộ hình thức của các ngành trí tuệ nhân tạo.

"Sự ra đời của mô hình lớn tương đương với việc tìm ra một con đường mang lại cho chúng ta những khả năng đáng kinh ngạc mà chúng ta đã thử trước đây, và nó thậm chí còn giải quyết được vấn đề ban đầu và quan trọng nhất của bài kiểm tra Turing. Về mặt kỹ thuật, con đường này không đòi hỏi nhiều nền tảng toán học và vật lý phức tạp như toán học và vật lý. Điều này giúp việc bắt đầu và tiếp cận các nghiên cứu tiên tiến trong lĩnh vực trí tuệ nhân tạo trở nên tương đối dễ dàng. "Rất nhiều người trẻ tuổi đã nhìn thấy biên giới của trí tuệ nhân tạo sau khi học các khóa học đại học." Đó là lý do tại sao hơn 100 người trẻ tuyệt vời đằng sau DeepSeek có thể tạo ra những kết quả công việc này. Đây là một sự phát triển rất thú vị và nó mang lại cho Trung Quốc một vị trí vững chắc trong sự phát triển của ngành AI. ”