Sự sai lệch đang còn tồn tại trong quá trình hoạt động của ChatGPT

Vào ngày 31/05, OpenAI đã công bố nỗ lực nâng cao khả năng giải quyết vấn đề toán học của ChatGPT. Từ đó giảm thiểu các trường hợp sai lệch trí tuệ nhân tạo (AI) . OpenAI nhấn mạnh việc giảm thiểu sai lệch là một bước quan trọng để phát triển AI.

Vào tháng 3, sự ra đời của phiên bản ChatGPT4 đẩy AI trở thành xu hướng mới. Tuy nhiên, các chatbot AI từ lâu đã phải vật lộn với độ chính xác không cao. Đôi khi vẫn còn tạo ra thông tin sai lệch, thường được gọi là “hallucinations.” Nỗ lực giảm thiểu những sai lệch này đã được công bố trên trang web của OpenAI.

Sai lệch AI ở đây thường trong các trường hợp hệ thống tạo ra kết quả đầu ra không chính xác. Từ đó gây hiểu lầm hoặc không được hỗ trợ bởi dữ liệu trong thế giới thực. Những sai lệch này có thể biểu hiện dưới nhiều hình thức khác nhau. Chẳng hạn như tạo ra thông tin sai lệch, tạo ra các sự kiện hoặc con người không tồn tại. Hoặc cung cấp thông tin chi tiết không chính xác về các chủ đề nhất định.

OpenAI đang nỗ lực để giảm thiểu sai lệch của AI

OpenAI đã tiến hành nghiên cứu kiểm tra hiệu quả của hai loại phản hồi: “giám sát kết quả” và “giám sát quy trình”.

Giám sát kết quả liên quan đến phản hồi dựa trên kết quả cuối cùng. Trong khi giám sát quy trình cung cấp đầu vào cho từng bước trong chuỗi suy nghĩ.

OpenAI đã đánh giá các mô hình này bằng cách sử dụng các bài toán. Họ tạo ra nhiều giải pháp và chọn giải pháp được xếp hạng cao nhất.

Sau khi phân tích kỹ lưỡng, nhóm nghiên cứu nhận thấy rằng việc giám sát quy trình mang lại hiệu suất vượt trội. Bởi vì nó khuyến khích mô hình tuân thủ quy trình được con người phê duyệt. Ngược lại, giám sát kết quả tỏ ra khó khăn hơn để xem xét kỹ lưỡng một cách nhất quán.

OpenAI đã nhận ra rằng ý nghĩa của giám sát quy trình vượt ra ngoài toán học. Nó kết hợp với việc điều tra thêm để hiểu tác động của các lĩnh vực khác nhau. Nếu các kết quả quan sát được áp dụng trong bối cảnh rộng hơn, thì giám sát quy trình có thể mang lại sự kết hợp thuận lợi giữa hiệu suất và sự liên kết. Để tạo điều kiện nghiên cứu, công ty đã công khai bộ dữ liệu hoàn chỉnh về giám sát quy trình. Họ còn gửi lời mời các chuyên gia nghiên cứu trong lĩnh vực này.

Sự sai lệch của AI gây ảnh hưởng trong thực tế như thế nào?

Trong một vụ việc gần đây, luật sư Steven Schwartz trong vụ Mata vs. Avianca Airlines đã thừa nhận dựa vào chatbot như một nguồn tài nguyên nghiên cứu. Tuy nhiên thông tin do ChatGPT cung cấp hóa ra hoàn toàn là bịa đặt. Điều này dường như làm nổi bật vấn đề sai lệch AI hiện tại.

ChatGPT của OpenAI không phải là ví dụ duy nhất về các hệ thống trí tuệ nhân tạo gặp phải sai lệch. Trong buổi trình diễn công nghệ chatbot của mình vào tháng 3, chatbot Bing AI của Microsoft đã kiểm tra các báo cáo thu nhập và tạo ra các số liệu không chính xác cho các công ty như Gap và Lululemon.

Theo Cointelegraph

 

Follow Fanpage chúng tôi tại CoinPlus – Tin tức tiền điện tử tin cậy hàng đầu