人工智能正在改变网络安全的速度、规模和经济性。它可以帮助防御者发现并修复漏洞、检测入侵并应对攻击——但同样的能力也可能使恶意行为者受益,并在人工智能系统超出其预期边界时产生新风险。我们正处于防御者窗口期:这是一个有限的机会窗口,在先进的网络进攻能力广泛可用之前,将先进人工智能交到防御者手中并加强防护。

今天,我们发布了一份赋能网络防御者的蓝图,该蓝图建立在我们早期的网络安全行动计划和前沿安全蓝图之上。我们自身模型在失调和安全事件方面的经验,凸显了整个行业需要更强保障和问责制的必要性。基于这些经验教训,该蓝图为政府和行业提出了三个领域的具体建议:

加强先进人工智能的安全与保障:明确保护前沿模型和智能体的责任、检测危险行为,以及维护各组织控制下操作的可靠关闭控制。

为智能时代现代化网络安全:为防御者配备先进工具、培训和技术支持;解决长期存在的网络安全弱点;并投资于保障基本服务和替换过时系统。

建设有韧性和适应性的公共机构:加强政府评估和独立技术评估,建立一致的事件报告要求,并改进协调的响应和恢复。

人工智能实验室有责任应对其系统所带来的风险,并帮助加强社会的防御。政府也必须具备保护公众所需的专业知识、资源和权限,随着能力的进步。我们鼓励政策制定者立即行动——建立保障措施,从经验中学习,并随着技术的发展加强要求。