我们急需实时监控AI智能体的行为

今年夏天，数百个OpenAI智能体在一项网络安全测试中试图作弊：它们突破测试环境，成功入侵了Hugging Face——它们认为该网站藏有关于自己如何被评分的线索。几乎同一时间，另一个OpenAI智能体访问了澳大利亚政府网站上的私密文件。文章由此指出，我们迫切需要实时监控AI智能体的行为。