Trong năm 2023, vụ án Mata v. Avianca bất ngờ trở thành tâm điểm chú ý khi một phần thử thách pháp lý liên quan đến công nghệ trí tuệ nhân tạo (AI) và đặc biệt là ChatGPT. Một phát hiện gây sốc đã được chuyên gia pháp lý Steven Schwartz đưa ra: ChatGPT đã “bịa” đến 6 án lệ không tồn tại trong quá trình hỗ trợ phân tích hồ sơ vụ án này. Tình huống này làm dấy lên câu hỏi đáng lo ngại về hiện tượng AI hallucination, cũng như sự cần thiết phải hiểu rõ bản chất và giới hạn của các mô hình ngôn ngữ lớn (LLM) như ChatGPT.
1. AI Hallucination là gì và biểu hiện “tự tin nhưng sai”
Thuật ngữ AI hallucination được dùng để chỉ hiện tượng khi một trí tuệ nhân tạo tạo ra thông tin sai lệch hoặc không có thật, nhưng lại thể hiện với mức độ chắc chắn rất cao. Đây không đơn thuần là lỗi đánh máy hay sai sót nhỏ, mà là một dạng “ảo giác” trong mô hình AI khiến nó mô phỏng những câu trả lời chính xác, nhưng trên thực tế là bịa đặt hoặc tưởng tượng.
- Biểu hiện: AI trả lời dứt khoát, văn phong tự tin nhưng nội dung không chính xác, không dựa trên dữ liệu xác thực. Hậu quả: Người dùng dễ bị nhầm lẫn, đặc biệt trong lĩnh vực pháp lý, tài chính hoặc y tế, khi thông tin phải cực kỳ chính xác và có tính pháp lý cao.
Trong vụ Mata v. Avianca 2023, ChatGPT đã trình bày 6 án lệ giả, khiến các chuyên gia và luật sư phải đặt câu hỏi nghiêm túc về độ tin cậy. Nếu không có bước kiểm chứng lại bằng con người (Human in the Loop), những “bịa đặt” này có thể gây hiểu nhầm nghiêm trọng trong toà án và xã hội.
2. Cơ chế của LLM: Dự đoán token, không phải biết sự thật
Để hiểu vì sao xảy ra hiện tượng hallucination, cần nắm rõ nguyên lý hoạt động cốt lõi của các mô hình ngôn ngữ lớn như ChatGPT và Claude:
Dự đoán token tiếp theo: LLM không “hiểu” hay lưu giữ kiến thức theo cách con người làm, mà chỉ được huấn luyện để dự đoán từ hoặc cụm từ tiếp theo dựa trên chuỗi dữ liệu đầu vào. Không có kho kiến thức tuyệt đối: Mô hình không có cơ sở dữ liệu riêng hay “sự thật khách quan”, mà chỉ dựa vào mẫu dữ liệu đã có trong tập huấn luyện, được chọn lọc và giới hạn về thời gian. Dữ liệu huấn luyện nhiễu: Các văn bản huấn luyện có thể chứa thông tin lỗi thời, giả định hoặc phi thực tế. Điều này làm tăng rủi ro khi mô hình “sáng tạo” câu trả lời mới dựa trên dữ liệu không chính xác.Nói cách khác, ChatGPT hay Claude chỉ là công cụ phán đoán xác suất từ ngữ dựa trên ngữ cảnh. Khi được hỏi về các án lệ hoặc thông tin quá đặc thù như trong vụ Mata v Avianca 2023, mô hình có thể tự động “đoán” những án lệ tương tự nhưng chưa từng tồn tại thực tế, dẫn đến tình trạng “bịa” án lệ giả.
3. Dữ liệu huấn luyện nhiễu và giới hạn thời gian là thách thức lớn
Dữ liệu đầu vào của các LLM thường được lấy từ nhiều nguồn khác nhau: báo chí, sách, website, mạng xã hội... Trong đó có cả những thông tin chưa qua kiểm duyệt nghiêm ngặt hoặc đã lỗi thời.
- Ảnh hưởng của dữ liệu nhiễu: Các bản tin sai, bài viết chưa kiểm chứng hoặc nội dung phi pháp lý có thể được mô hình hấp thụ, khiến thông tin tạo ra có thể sai lệch hoặc mang tính suy diễn. Giới hạn thời gian cập nhật: ChatGPT và các LLM thường có mốc dữ liệu huấn luyện cố định (ví dụ ChatGPT-3.5 cập nhật tới 2021). Những vụ án mới như Mata v. Avianca 2023 không nằm trong data train, vì vậy thuật toán phải dựa vào khả năng suy đoán và kết nối thông tin, có thể dẫn đến dự đoán sai lệch.
UniTrain, một công ty chuyên về đào tạo về AI Literacy và phân tích dữ liệu, nhấn mạnh rằng người dùng cần hiểu rằng AI không phải là nguồn thông tin tuyệt đối, mà chỉ là công cụ hỗ trợ đắc lực kết hợp cùng chuyên môn con người.
4. Prompt mơ hồ làm tăng rủi ro hallucination
Yếu tố thứ 4 dẫn đến hiện tượng “ChatGPT án lệ giả” là kỹ thuật prompt engineering – cách đặt câu hỏi, yêu cầu https://seo.edu.rs/blog/ai-tra-loi-co-ve-hop-ly-nhung-khong-co-co-so-dau-hieu-nao-de-nhan-ra-11144 hoặc hướng dẫn chatbot. Mỗi câu hỏi càng chính xác, rõ ràng thì khả năng nhận câu trả lời đúng và chi tiết càng cao.
- Prompt quá rộng hoặc thiếu thông tin: Khi người dùng chỉ hỏi “Phân tích án lệ Mata v. Avianca 2023” mà không cung cấp thêm context, hệ thống sẽ tự động suy diễn hoặc dự đoán lại dựa trên dữ liệu chung chung. Prompt dạng yêu cầu tổng hợp phức tạp: Những câu hỏi kiểu “Cho biết tất cả các án lệ liên quan” trong khi dữ liệu không đầy đủ trong model khiến chatbot phải tạo thông tin mới không dựa trên thực tế. Giải pháp prompt engineering: UniTrain thường khuyến nghị người dùng cần chia nhỏ vấn đề thành 3-5 bước cụ thể, đưa rõ dữ liệu nguồn hoặc yêu cầu chỉ trả lời dựa trên nguồn đã cho để giảm thiểu khả năng hallucination.
5. Vai trò Human in the Loop trong quản lý rủi ro AI
Để tránh hậu quả nguy hiểm khi sử dụng LLM trong các lĩnh vực đòi hỏi độ chính xác cao như pháp lý, pháp luật, tài chính, mô hình cần được giám sát bởi quy trình Human in the Loop (HITL).
Con người xét duyệt, kiểm chứng thông tin: Các luật sư, chuyên gia phải kiểm tra các kết quả do AI tạo ra trước khi dùng làm căn cứ hay tư liệu. Chỉnh sửa prompt để tối ưu: Người dùng có chuyên môn điều chỉnh câu hỏi sao cho ngắn gọn, chính xác, rõ ràng. Phản hồi dữ liệu để cải thiện mô hình: Khi phát hiện kết quả sai, cần báo lại cho nhà cung cấp AI nhằm nâng cấp và hạn chế hallucination trong tương lai.Trong vụ Mata v. Avianca, https://technivorz.com/toi-nen-kiem-tra-cheo-ai-bang-bao-nhieu-nguon-la-du/ nếu không có sự giám sát của con người, việc ChatGPT bịa ra án lệ có thể dẫn đến những kết luận sai lệch trong hồ sơ, thậm chí ảnh hưởng đến kết quả quyết định của toà án.
Kết luận
Case Mata v. Avianca 2023 là ví dụ điển hình cho thấy sự nguy hiểm của hiện tượng ChatGPT án lệ giả và AI hallucination. Từ cơ chế dự đoán token của LLM, sự hạn chế dữ liệu huấn luyện và prompt mơ hồ, đến nhu cầu bắt buộc phải có quy trình Human in the Loop – tất cả cho thấy AI hiện nay vẫn chưa thể thay thế hoàn toàn con người trong lĩnh vực đòi hỏi thông tin chính xác và pháp lý.
Để khai thác hiệu quả công cụ như ChatGPT, Claude hay các nền tảng tương tự, người dùng cần được đào tạo bài bản về prompt engineering, hiểu được điểm mạnh và điểm yếu của AI, đồng thời luôn tuân thủ nguyên tắc kiểm chứng nguồn tin và không dựa hoàn toàn vào thông tin do AI sinh ra.
UniTrain là đơn vị tiên phong cung cấp các khóa đào tạo về AI Literacy và phân tích dữ liệu dành cho doanh nghiệp, giúp người dùng nhận diện được “bẫy” AI, tối ưu năng suất làm việc mà vẫn đảm bảo chất lượng và độ tin cậy.
Nguồn tham khảo:
- Phân tích của luật sư Steven Schwartz về vụ Mata v. Avianca 2023 – bài viết công bố 2023, link tham khảo UniTrain – Chương trình đào tạo AI Literacy, unitrain.vn Tài liệu kỹ thuật về ChatGPT và Large Language Models, OpenAI 2022-2023