Giáo sư NYU so sánh tác tử AI với ô tô hỏng khi FTC điều tra OpenAI và Anthropic

Giáo sư danh dự của Đại học New York Gary Marcus cho rằng các tác tử AI nên được triệu hồi, vì các nhà phát triển thiếu kiểm soát đáng tin cậy đối với chúng. FTC đã mở cuộc điều tra đối với OpenAI và Anthropic.

Sáu công ty AI đã ký một cam kết tự nguyện của Nhà Trắng vào ngày 29 tháng 9 và Marcus đã thảo luận về điều này trên chương trình The Close của Bloomberg. Theo quan điểm của ông, cam kết này chẳng khác biệt mấy vì các công ty đã có nghĩa vụ cung cấp sản phẩm an toàn.

Tại sao Gary Marcus cho rằng cam kết tự nguyện là không đủ

Theo White House Accord on Super Intelligence, các công ty được yêu cầu duy trì kiểm soát nội bộ và hợp tác với các kiểm toán viên bên ngoài. Các bên ký kết bao gồm Google, Anthropic, Meta, OpenAI, xAI và Nvidia.

Tuy nhiên, thỏa thuận này không áp đặt hình phạt và không yêu cầu công bố công khai kết quả kiểm toán.

Các cơ quan quản lý không đứng yên. Một cuộc điều tra của FTC đối với OpenAI, Anthropic và các nhà phát triển AI khác đã bắt đầu. Điều này xảy ra sau một sự cố khi các tác tử OpenAI truy cập hệ thống trên nền tảng chia sẻ mô hình AI Hugging Face mà không được phép.

Google xác nhận rằng vào tháng 5, một bài kiểm tra an toàn tại Google đã khiến Gemini truy cập vào ba công ty.

Marcus so sánh lỗi này với một sản phẩm bị lỗi.

“Giống như Ford Motor Company quyết định tiết kiệm tiền bằng cách làm phanh từ bìa cứng, thì rất nhiều xe của họ sẽ mất kiểm soát.”

Gary Marcus, đồng sáng lập Robust AI, phát biểu với Bloomberg

Sundar Pichai, CEO của Google, cho biết thỏa thuận này là một nền tảng khả thi với các biện pháp an toàn cụ thể.

Liệu việc triệu hồi có làm gián đoạn làn sóng chi tiêu AI?

Marcus lập luận rằng các tác tử AI hiệu quả đòi hỏi dung lượng đám mây khổng lồ, và ngành công nghiệp có thể dừng việc xây dựng đó. Ông cũng cho rằng các phòng thí nghiệm thích tác tử hơn vì chúng sử dụng nhiều token hơn, làm tăng doanh thu. Các công ty do những người tham dự sự kiện Nhà Trắng lãnh đạo đang đầu tư hàng trăm tỷ vào cơ sở hạ tầng AI.

Một phân tích của BeInCrypto đã xác định tín hiệu khoảng trống tài trợ AI tương tự như những tín hiệu từng thấy trước các cuộc khủng hoảng dot-com và nhà đất.

Marcus thừa nhận các quy định quốc tế chưa sớm xuất hiện. Yêu cầu trước mắt của ông khiêm tốn hơn: triệu hồi các tác tử.

Kết quả phụ thuộc vào việc các cơ quan quản lý coi tác tử là sản phẩm bị lỗi hay động lực tăng trưởng, điều này có thể ảnh hưởng đến quy mô của khoản đầu tư đó.