China Dataset

例如通过即时通讯平台）进行交互来帮助经验不足的人类，并使用问卷调查快速、廉价地提供信息，说明人工智能模型是否可能在较长的交互中产生重大影响。然而，对这一陷阱的评估不应评估帮助相对新手开发基本化学和生物武器的任务，而应评估帮助具有一定专业知识的人（大致代表二级化学和或生物武器项目的工作人员）执行通常需要顶级专业知识的任务。 N 国实验是一个有趣的先例：过挑战刚获得博士学位的物理学家来评估核扩散的风险，让他们在基本支持但无法获得机密信息的情况下开发核武器设计。

通用网络运营能力 未来的人工智能模型可能具有与当今一些顶级网络运营专家类似的能力，从发现和利用漏洞到开展协调行动。绊网能力：人工智能能够提高资源适中的国家计划的技术网络操作能力（仅依赖远程执行，而不是近 巴拿马 whatsapp 数据 距离访问攻击和招募内部人员等），使其与顶级情报部门的能力相媲美（尤其是为了窃取未来的人工智能模型权重和或大规模禁用关键基础设施）。31 风险：具有这种能力的人工智能模型可能使资源适中的国家计划能够进行与更强大的计划相关的各种攻击。

包括对关键基础设施（如发电厂和水厂）进行协调、大规模攻击的可能性（据报道，美国至少在一个案例中计划这样做），和或大规模、有针对性的机密信息盗窃。这种能力可能使人工智能成为外国情报部门特别有吸引力的目标。窃取一代模型的权重可能会让窃取下一代模型的权重变得更加容易。这是一个很高的能力门槛，即使是网络操作能力更有限或更狭窄的人工智能模型，也可能出现重大风险。对这一主题的更多分析可能会产生更多关于绊线的想法（下面是针对功能较窄的人工智能的绊线的一种尝试）。