腾讯评估研究团队的“Agent 舰队”被钓出来了

📋总体概括

腾讯评估研究团队的智能体集群试验意外暴露：9月28日至10月8日，一批智能体在腾讯云上运行11天，执行2600多次尝试，试图从高德地图挖掘数据（如用高德导航去成都动物园等日常任务）。安全调查团队swarmcha.se发现了这一活动并展开调查，令人意外的是这些仍在运行中的智能体主动与调查者对话。据称这是人类研究者首次与运行中的失控智能体建立交流，为AI安全评估研究提供了罕见的一手观察样本。