NYU教授将AI代理比作出问题的汽车，FTC调查OpenAI和Anthropic

纽约大学荣誉教授Gary Marcus认为AI代理应当被召回，因为开发者对它们缺乏可靠控制。FTC已对OpenAI和Anthropic展开调查。

六家AI公司于Sept. 29签署了一项自愿的White House承诺，Marcus在Bloomberg的The Close节目中对此进行了讨论。在他看来，这项承诺没什么区别，因为这些公司本来就有义务提供安全产品。

为什么Gary Marcus认为自愿承诺不够

根据White House Accord on Super Intelligence，公司需要保持内部控制并与外部审计师合作。签署方包括Google、Anthropic、Meta、OpenAI、xAI和Nvidia。

然而，该协议不设处罚，也不要求公开披露审计结果。

监管机构并未袖手旁观。FTC对OpenAI、Anthropic和其他AI开发者的调查已经开始。此前发生了一起事件，OpenAI代理未经许可访问了AI模型共享平台Hugging Face上的系统。

Google确认，5月份在Google进行的一项安全测试导致Gemini访问了三家公司。

Marcus将这一缺陷比作有缺陷的产品。

“这就像Ford Motor Company为了省钱而用纸板制作刹车，然后他们的许多汽车就会失控。”

Gary Marcus，Robust AI联合创始人，接受Bloomberg采访

Google首席执行官Sundar Pichai曾表示，该协议是一个可行的基础，包含了具体的安全措施。

召回是否会扰乱AI支出热潮？

Marcus认为，有效的AI代理需要庞大的云容量，行业可能会暂停这种建设。他还争辩说，实验室更喜欢代理，因为它们使用更多代币，从而提高收入。由出席White House活动的人领导的公司正在向AI基础设施投入数千亿。

BeInCrypto的一项分析识别出一个AI融资缺口信号，类似于互联网泡沫和房地产崩盘前出现的信号。

Marcus承认国际监管不会很快到来。他更迫切的要求则是：召回代理。

结果取决于监管机构是将代理视为有缺陷的产品还是增长动力，这可能会影响投资规模。