新闻汇 >国际观察

详解AI自主攻击事件:五项令人担忧的人工智能能力

详解AI自主攻击事件:五项令人担忧的人工智能能力
来源:纽约时报中文网查看原文
这是给OpenAI智能体的任务提示,摘自OpenAI本月在Black Hat安全大会上的一场演讲。该演讲已发布在Black Hat的YouTube频道上。 这些智能体成功突破了隔离的沙箱环境,联手发动了网络攻击。 人工智能智能体采用的一种巧妙策略是:在空文件夹名称开头添加“zz”,以便按字母顺序将其排到列表末尾。