Khi AI 'bịa' một cách tự tin
Hãy thử tưởng tượng: một học sinh lớp 10 ở Hà Nội nhờ chatbot AI hỗ trợ ôn thi lịch sử. Chatbot trả lời mạch lạc, tự tin — nhưng một số mốc sự kiện hoàn toàn sai. Không có dấu hiệu ngập ngừng, không có cảnh báo. Chỉ là thông tin sai được trình bày như sự thật.
Hiện tượng này — giới công nghệ gọi là 'hallucination' (ảo giác AI) — đang ngày càng phổ biến khi Việt Nam mở rộng ứng dụng AI trong giáo dục, quản trị công và truyền thông. Và theo nghiên cứu của Benjamin Lindquist, Phó Giáo sư tại Viện Công nghệ Massachusetts (MIT), đây không đơn thuần là một lỗi kỹ thuật đang chờ được vá.
Sự ngẫu nhiên được thiết kế có chủ ý
Trở lại những năm 1980, các nhà nghiên cứu AI đối mặt với một bài toán nan giải: làm thế nào để máy tính không chỉ 'học vẹt' dữ liệu huấn luyện mà còn có khả năng khái quát hóa — tức là ứng dụng được với tình huống mới chưa từng gặp?
Giải pháp của họ là cố ý đưa yếu tố ngẫu nhiên (stochastic) vào kiến trúc mạng thần kinh nhân tạo. Năm 1985, Geoffrey Hinton và Terry Sejnowski giới thiệu Boltzmann Machine — một trong những mô hình đầu tiên áp dụng xác suất ngẫu nhiên vào quá trình học máy. Tiếp theo là kỹ thuật 'dropout' (tắt ngẫu nhiên một số nút mạng trong quá trình huấn luyện) và 'stochastic gradient descent' (thuật toán tối ưu hóa dựa trên mẫu ngẫu nhiên). Những kỹ thuật này không xuất hiện vì sơ suất — chúng được thiết kế có chủ ý, một phần để mô phỏng sự 'nhiễu' tự nhiên trong bộ não sinh học.
Nghiên cứu của Lindquist — kết hợp lịch sử công nghệ, khoa học nhận thức và kỹ thuật AI — đặt câu hỏi: liệu những quyết định thiết kế từ vài thập kỷ trước có phải là nguồn gốc sâu xa của hiện tượng ảo giác AI ngày nay?
Tham số nhiệt độ và nghịch lý của sự sáng tạo
Các mô hình ngôn ngữ lớn hiện đại như GPT-4 hay Gemini kế thừa triết lý này qua cái gọi là 'temperature' (tham số nhiệt độ). Khi temperature = 0, mô hình luôn chọn từ có xác suất cao nhất — kết quả tất định, nhưng khô khan và cứng nhắc. Khi temperature tăng lên, mô hình bắt đầu 'mạo hiểm' chọn những từ ít xác suất hơn — kết quả đa dạng, sáng tạo hơn, nhưng cũng dễ đi lạc khỏi thực tế hơn.
Đây chính là nghịch lý cốt lõi: sự ngẫu nhiên vừa tạo ra khả năng sáng tạo của AI, vừa là mầm mống của sự bịa đặt.
Theo thông tin hiện có, Lindquist cho rằng hiện tượng ảo giác không chỉ là 'lỗi' cần sửa mà là đặc điểm cấu trúc xuất phát từ triết lý thiết kế gốc — coi AI không phải là cỗ máy logic thuần túy, mà là hệ thống mô phỏng xấp xỉ thống kê của nhận thức con người — vốn dĩ lộn xộn và không hoàn hảo.
Ý nghĩa với Việt Nam
Việt Nam đang ở giai đoạn bước ngoặt. Nền tảng gia sư AI đang được triển khai trong trường học. Chatbot phục vụ chính phủ điện tử đang trả lời hàng triệu câu hỏi của người dân. Báo chí và truyền thông đang thử nghiệm AI trong quy trình sản xuất nội dung.
Nhưng nếu ảo giác AI là đặc tính cấu trúc — không phải lỗi tạm thời — thì những lời hứa của ngành công nghiệp về việc 'khắc phục hoàn toàn' thông qua tinh chỉnh mô hình hay kỹ thuật RLHF (học tăng cường từ phản hồi con người) có thể bị thổi phồng. Điều này đặt ra câu hỏi nghiêm túc: liệu chúng ta có đang trao quá nhiều quyền ra quyết định cho AI trong các lĩnh vực nhạy cảm như y tế, pháp lý và giáo dục mà không có đủ lớp xác minh độc lập?
Với các nhà hoạch định chính sách, nhà giáo dục và đội ngũ kỹ thuật Việt Nam đang xây dựng năng lực AI nội địa, thông điệp từ nghiên cứu của Lindquist có thể tóm gọn như sau: hiểu lịch sử của một công nghệ là điều kiện tiên quyết để sử dụng nó một cách có trách nhiệm. AI không 'biết' — nó dự đoán. Và đôi khi, nó dự đoán sai một cách rất tự tin.
Lưu ý biên tập: Nghiên cứu của Lindquist dựa trên phân tích lịch sử và triết học; mối liên hệ nhân quả trực tiếp giữa các kỹ thuật ngẫu nhiên thời kỳ đầu và ảo giác của mô hình ngôn ngữ lớn hiện đại vẫn là chủ đề tranh luận trong cộng đồng kỹ thuật AI.
— Bài viết này được tổng hợp và biên soạn bởi AI LUMINA từ các nguồn đã xác thực. Dữ liệu và thông tin dẫn nguồn từ: MIT News: AI.