Tuyên bố không ảo giác của Jev AI bị xem xét kỹ lưỡng sau khi người tạo RLHF thừa nhận

Diogo Almeida, người tự xưng là 'đồng sáng tạo' của ChatGPT, đang thực hiện một chiến dịch tiếp thị lan truyền cho một AI mới có tên Jev. Mô hình được xây dựng dựa trên công trình của anh ấy với RLHF, công nghệ cốt lõi của chatbot OpenAI.

Tuy nhiên, hiện anh ấy thừa nhận rằng sáng tạo của chính mình có những thiếu sót.

Công ty khởi nghiệp TypeSafe của Almeida đã ra khỏi chế độ ẩn danh trong tháng này, huy động được 40 triệu đô la tài trợ hạt giống. Bản giới thiệu của công ty tuyên bố rằng anh ấy đã giải quyết được vấn đề ảo giác mà anh ấy gặp phải khi làm việc trên ChatGPT.

Nhưng bản giới thiệu cho chính mô hình Jev ít hấp dẫn hơn và gây ra một số nghi ngờ.

Trước hết, khẳng định của anh ấy rằng anh ấy 'đồng sáng tạo ChatGPT' không hoàn toàn chính xác.

Almeida xuất hiện thứ tư trong số 20 tác giả trên bài báo InstructGPT năm 2022, sử dụng RLHF trên các mô hình ngôn ngữ. Bài báo đó chỉ là một trong số nhiều nguồn tài liệu mà các nhà phát triển ChatGPT đã tham khảo.

Vai trò của anh ấy càng bị giảm bớt bởi một chú thích cuối trang trong PDF, liệt kê Almeida là một trong chín tác giả 'chính', không phải là tác giả chủ chốt.

Hơn nữa, bản thân RLHF đã tồn tại gần năm năm trước bài báo đó và phương pháp nền tảng của nó được phát triển bởi sáu nhà nghiên cứu khác nhau.

Jev: Mô hình AI được xây dựng dựa trên một thiếu sót trong sự nghiệp

Almeida đang cố gắng ra mắt Jev và thu hút tài trợ bằng cách thừa nhận rằng RLHF, phát minh của chính anh ấy, 'không hữu ích.'

Anh ấy mô tả ChatGPT là 'không đáng tin cậy nếu không có sự giám sát của con người' và quy cho RLHF các vấn đề như 'bỏ chế độ, quá tự tin và thiếu độ tin cậy tổng thể.'

Almeida cũng nhân cơ hội này khẳng định rằng Jev 'không thể bị ảo giác.'

Tuy nhiên, khẳng định của anh ấy về công nghệ chống ảo giác nhanh chóng bị bóc trần khi xem xét kỹ lưỡng.

Theo tài liệu của Jev, khả năng chống ảo giác của nó đến từ một thiết kế chọn các tùy chọn thay vì tạo câu, với giới hạn nghiêm ngặt là 255 lựa chọn — không phải từ bất kỳ mã hoặc bước nhảy vọt thuật toán đáng chú ý nào.

Jev về cơ bản hoạt động như một bộ chọn quyết định cơ bản, chọn từ một tập hợp các tùy chọn hoặc đầu ra được đặt trước hạn chế, chẳng hạn như ước tính tỷ lệ phần trăm xác suất.

Vì Jev không tạo ra văn bản thông qua một chatbot thông thường, nó không thể bị ảo giác — ảo giác liên quan đến việc tạo ra các cụm từ tạo thành câu hoặc khẳng định thực tế.

Jev chỉ có thể chọn từ các đầu ra được xác định trước và không tạo ra các câu có thể diễn giải. Do đó, Almeida khoe rằng ảo giác về bản chất là không thể trong Jev.

Jev chỉ mới ra đời vài ngày và vẫn trong giai đoạn truy cập sớm. Token đầu vào có giá $42 mỗi tỷ, trong khi token đầu ra hiện miễn phí như một phần của trợ cấp. Almeida nói rằng Jev mang lại lợi thế về tốc độ, chi phí và chất lượng so với các đối thủ.