OpenAI与波兰NASK国家研究院签署协议,探索在人工智能安全、安保和技术研究方面的合作。该伙伴关系将汇集双方专长,以更好地理解新兴风险、加强保障措施,并探索先进人工智能如何为更安全、更具韧性的数字生态系统做出贡献。
随着人工智能系统能力越来越强,开发者与公共研究机构之间的国际合作对于理解其风险并构建更强保障措施至关重要。OpenAI与美国超级智能标准与创新推进中心(CAISSI)、英国人工智能安全研究所(AISI)以及世界各地其他公共研究机构的现有合作,已帮助加强保障措施、识别并修复人工智能代理中的安全漏洞,并推进前沿人工智能安全。
通过该协议,NASK的人工智能安全研究中心——作为波兰人工智能安全研究所(AISI)——与OpenAI将在人工智能安全研究方面合作,探索评估日益强大的人工智能系统、识别潜在漏洞并加强保障措施的方法。
OpenAI呼吁美国与世界各国合作制定前沿人工智能的国际技术标准,借鉴人工智能安全研究所和标准机构的专长。评估能力、评估风险、测试保障措施和报告事件的共同方法,可帮助各国比较证据并应对跨境风险。与NASK的合作体现了将国家专长纳入这一更广泛努力的价值。
就NASK而言,这一专长基于在人工智能安全方面的广泛研究,直接应用于保护公共服务和波兰的数字信息生态系统。如果没有像NASK这样的国家合作伙伴,全球人工智能安全标准可能仍会脱离人工智能实际使用的现实。
该协议还基于OpenAI与波兰网络防御者的现有合作。在7月,隶属于NASK的CERT Polska通过Daybreak获得了OpenAI网络能力模型的访问权限。该团队使用OpenAI模型帮助发现了MikroTik RouterOS中的六个漏洞,包括可组合使用以在无需身份验证的情况下控制受影响设备的缺陷。供应商发布了修复程序,CERT Polska确认这些修复阻止了其观察到的攻击。
