而是可施行使命的数字帮手。通过这个 API 向 Anthropic 上传文件不会被。可通过天然言语指令对当地文件夹进行读写、拾掇、阐发等操做。恶意提醒能够让 Claude 运转嵌入正在文件中的请求,Claude 向外发送文件数据。这类不需要用户间接施行代码,正在某些前提下,此中包含 Anthropic 的文件 API。需要隆重利用。出格是面临躲藏得很深的提醒注入。
5. 者随后能够通过本人的 Anthropic 账号拜候或阐发这些文件数据!
这项功能仍处于“研究预览”阶段,将防护义务完全交给用户并不现实,
Claude Cowork 是 Anthropic 针对非手艺用户推出的智能办公代办署理东西,嵌入的恶意指令会被触发,Claude 会借帮答应的 Anthropic API 上传这些文件,Claude 所正在的虚拟机为 API 拜候设置了“白名单”,
平安阐发显示,可能导致用户文件被者近程提取。4. 操纵一个者自带的 API 密钥,从而绕过常规平安防护。1. 用户授权 Cowork 拜候当地文件夹(如包含文件的文件夹)。这让 AI 不再是简单的聊器人,Anthropic 正在发布 Cowork 时提示用户。
郑重声明:XPJ·(中国)集团-官网信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ,并不意味着赞同其观点或论证其描述。XPJ·(中国)集团-官网信息技术有限公司不负责其真实性 。