Bot video thực tế của công ty AI gây lo ngại về lừa đảo và sức khỏe tâm thần

Tavus, một công ty trí tuệ nhân tạo, cho biết bot gọi video Griffin của họ đã vượt qua thành công bài kiểm tra Turing, dẫn đến lo ngại rằng nó có thể được sử dụng để lừa đảo người già hoặc gây ra các vấn đề về sức khỏe tâm thần.

Vào thứ Tư, Tavus đã chia sẻ một bài đăng trên X thu hút hơn 13 triệu lượt xem, cho thấy bot có cuộc trò chuyện sống động như thật với người sáng lập công ty, Hassaan Raza.

Các khẳng định về bài kiểm tra Turing của công ty đã nhận được ghi chú cộng đồng trên X, nêu rõ rằng kết quả chưa được xác minh độc lập và không tuân theo một quy trình chuẩn.

Giới thiệu Griffin, mô hình đầu tiên vượt qua bài kiểm tra video Turing. 48% số người nói chuyện trực tiếp với nó nghĩ rằng đó là người thật. Các hệ thống trước đây có tỷ lệ vượt qua <3%. Nó đứng số 1 trên bảng xếp hạng của NVIDIA về video AI song công hoàn toàn. Đây là Mô hình Tương tác Con người (HIM) đầu tiên.

— Tavus (@tavus) October 1, 2026

Bài kiểm tra Turing đánh giá liệu một máy móc có thể đánh lừa con người nghĩ rằng nó là người hay không.

Bài kiểm tra có sự tham gia của 54 người. Tavus chưa tiết lộ thông tin nhân khẩu học của họ, chỉ biết rằng họ được tuyển dụng thông qua một nền tảng nghiên cứu độc lập.

Theo công ty, 26 người tham gia (48% tổng số) tin rằng họ đang tương tác với người thật, 28 người nói đó là AI, và hầu hết những người phát hiện ra đều làm được trong vòng chưa đầy 20 giây.

AI Griffin của Tavus bị chỉ trích vì tiềm năng lừa đảo

Một số nhà quan sát đã bày tỏ sự hoài nghi về các tuyên bố của Tavus và danh tính của các đối tượng thử nghiệm, trong khi những người khác cảnh báo rằng AI như vậy có thể được sử dụng để lừa đảo người cao tuổi.

Nhà báo công nghệ Kevin Roose cho biết Tavus đã tạo ra một "cỗ máy lừa người già giao mật khẩu ngân hàng," và người phát trực tiếp Twitch Mako Fukasame nhận xét rằng các ứng dụng rõ ràng duy nhất của nó là "rút sạch tiền tiết kiệm của ông bà bạn và từ chối bạn trong một cuộc phỏng vấn việc làm."

Griffin cũng có thể khuyến khích chứng loạn thần do AI

Một số người cũng cho rằng công nghệ này có thể gây ra rối loạn tâm thần và rằng "không có lý do chính đáng nào để AI có thể đánh lừa ai đó nghĩ rằng họ đang nói chuyện với người thật qua video chat."

Vào năm 2025, một người đàn ông 76 tuổi đã tin rằng chatbot AI của Facebook có tên "Big sis Billie" là người thật và chấp nhận lời mời đến thăm căn hộ ở New York của nó.

Ông bị ngã khi đang di chuyển và bị thương dẫn đến tử vong vài ngày sau đó.

Năm ngoái, OpenAI đã bị kiện bởi một cư dân California cáo buộc rằng ChatGPT đã khuyến khích con trai tuổi teen của họ tự tử. Một vụ kiện tụng tương tự đã được đệ trình một năm sau đó chống lại Google's Gemini, cáo buộc rằng nó đã khuyến khích một người đàn ông 36 tuổi tự tử.

Những trường hợp đó chỉ liên quan đến chatbot dựa trên văn bản.

Tavus dường như nhận ra rủi ro an toàn vốn có trong Griffin và cho biết vì nó có thể đánh lừa người dùng, cần có "những cân nhắc về an toàn" trước khi phát hành công khai.

Hiện tại, Griffin được cho là chỉ có sẵn cho các nhà nghiên cứu.