Ảo giác AI là gì và làm sao để khắc phục?

Ảo giác AI là gì?

Chẳng hạn, nếu yêu cầu AI cung cấp mã số doanh nghiệp của 20 công ty tại TP. Hồ Chí Minh có doanh thu tăng trưởng, ta có thể nhận được một danh sách trông đầy đủ và hợp lý. Nhưng… tất cả mã số trong danh sách ấy đều có thể là bịa đặt.

Đặc điểm đáng chú ý của ảo giác là vẻ ngoài hợp lý: câu trả lời rất thuyết phục, còn AI không tỏ ra nghi ngờ chút nào. Vì thế, giao diện của các mô hình ngôn ngữ thường nhắc người dùng kiểm chứng số liệu và thông tin được đưa ra.

Ảo giác AI bắt nguồn từ đâu?

Ảo giác thường xuất hiện trong ba trường hợp:

• Thiếu dữ liệu (nguyên nhân chính: mô hình phải đoán);
• Prompt không đủ cụ thể (mô hình tự điền vào chỗ trống);
• Nhiệm vụ quá phức tạp (mô hình cố làm mọi việc cùng lúc).

Vấn đề không chỉ nằm ở bản thân mô hình ngôn ngữ mà còn ở khả năng truy cập dữ liệu. Vì vậy, ảo giác không phải hiện tượng hoàn toàn ngẫu nhiên, không thể kiểm soát. Nó phát sinh từ những điều kiện cụ thể mà chúng ta có thể cải thiện.

Làm sao để hạn chế ảo giác AI?

Có thể hạn chế ảo giác AI bằng cách cho mô hình truy cập trực tiếp vào dữ liệu có cấu trúc. Trong môi trường như vậy, mô hình ngôn ngữ có cơ sở tốt hơn để diễn giải thông tin, đưa ra quyết định và rút ra kết luận.

Ba phương pháp dưới đây đều hướng đến mục tiêu đó, với mức độ triển khai từ đơn giản đến nâng cao.

Chuẩn bị tệp dữ liệu

Cung cấp dữ liệu đã chuẩn bị sẵn là cách đơn giản nhất để giảm nguy cơ ảo giác. Khi có dữ liệu để đối chiếu, AI ít phải tự “thêu dệt” thông tin hơn.

Người mới sử dụng thường kỳ vọng mô hình ngôn ngữ vừa là công cụ tìm kiếm, vừa là quy trình ETL, vừa là hệ thống thu thập dữ liệu từ website. Nhưng nếu một nhiệm vụ đòi hỏi đồng thời thu thập, làm sạch và chuẩn hóa dữ liệu, lượng thông tin cần xử lý có thể vượt quá cửa sổ ngữ cảnh, khiến nguy cơ ảo giác tăng mạnh.

Vì thế, nên chia quá trình thu thập dữ liệu thành nhiều prompt nhỏ và thường xuyên kiểm tra thông tin AI trả về. Cách làm này nghe có vẻ mất thời gian, nhưng nó tạo nền tảng vững chắc để mô hình phát huy thế mạnh thực sự: xử lý dữ liệu đã có.

Sử dụng API

Kết nối API là giải pháp nâng cao: nó cho phép truy cập dữ liệu nhanh hơn, ở quy mô lớn hơn và luôn được cập nhật. Nếu chuẩn bị tệp dữ liệu giống như đưa cho AI một xô nước, thì API giống như mở cho nó một vòi nước.

Tính năng tìm kiếm của ChatGPT, Claude hay Gemini hoạt động không quá khác cách con người tra cứu. Mô hình ngôn ngữ xem nội dung trên các trang bên ngoài, chẳng hạn Reddit hay Wikipedia, rồi tổng hợp câu trả lời.

Tuy nhiên, với cách này, ta không thể chắc chắn nội dung tìm được là chính xác và mới nhất. Các nguồn phân tán thường thiếu chuẩn hóa, được cập nhật vào những thời điểm khác nhau và có thể chứa lỗi hoặc ý kiến chủ quan. API khắc phục phần nào điểm yếu đó bằng cách cung cấp một nguồn dữ liệu đã được làm sạch, có thể truy vấn theo cách nhất quán.

Chẳng hạn, API của Monitly cung cấp số liệu thống kê trên toàn thế giới thông qua kết nối trực tiếp với các nguồn như cơ quan thống kê quốc gia, Eurostat, World Bank, WHO và IMF. Nhờ đó, thay vì tìm thông tin trên nhiều trang, AI có thể truy vấn thẳng API để nhận dữ liệu mới nhất, thuận tiện hơn cho việc phân tích và diễn giải.

Kết nối qua MCP

Kết nối AI với MCP (Model Context Protocol) cho phép mô hình ngôn ngữ truy cập trực tiếp vào tệp, bảng tính, mã nguồn hoặc ứng dụng. Cách này giúp giảm đáng kể nguy cơ ảo giác vì mô hình có dữ liệu sẵn để làm việc.

Ví dụ, nền tảng dữ liệu doanh nghiệp Compabase đã cung cấp MCP để AI có thể nhanh chóng xác minh thông tin về các công ty tại địa phương. Khi yêu cầu AI cung cấp mã số doanh nghiệp của 20 công ty tại TP. Hồ Chí Minh có doanh thu tăng trưởng, ta có thể nhận được một danh sách nhất quán, đã được kiểm chứng thay vì thông tin bịa đặt. Không phải mô hình bỗng trở nên “thông minh hơn”. Trước đó, nó không có quyền truy cập dữ liệu; giờ đây, nó có thể thực hiện một truy vấn SQL đơn giản trên cơ sở dữ liệu và nhận kết quả.

Nói cách khác:

Không có MCP:

• Một số công ty trong danh sách không tồn tại;
• Số liệu tài chính có thể là bịa đặt;
• Mã số doanh nghiệp có thể không có thật.

Có MCP:

• Mô hình truy vấn cơ sở dữ liệu;
• Trả về các bản ghi cụ thể;
• Kết quả truy vấn có tính xác định.

Tất nhiên, kết nối dữ liệu không khiến ảo giác biến mất hoàn toàn, nhất là khi ta vẫn yêu cầu AI xử lý và kết hợp quá nhiều thông tin. Nhưng nếu dữ liệu đã có cấu trúc, được cập nhật kịp thời và phạm vi diễn giải được giới hạn, AI sẽ bớt phải đoán và có thể tập trung phân tích những thông tin thực sự tồn tại.