拜登签署新人工智能安全标准行政命令

随着人工智能近来的发展速度，有人呼吁立法者采取行动，保护公民免受该技术给社会带来的一些安全问题的影响。美国总统乔·拜登签署了一项重大举措，要求该国人工智能的开发和实施制定更好的安全标准。

拜登的人工智能行政命令是在一份声明中宣布的白宫新闻稿。拜登政府希望通过该命令制定“人工智能安全的新标准，保护美国人的隐私，促进公平和公民权利，维护消费者和工人的利益，促进创新和竞争，提升美国在世界各地的领导地位，还有更多。”白宫提供了以下要点来概述其计划：

• 要求最强大的人工智能系统的开发人员与美国政府分享其安全测试结果和其他关键信息。根据《国防生产法》，该命令将要求开发任何对国家安全、国家经济安全或国家公共健康安全构成严重风险的基础模型的公司必须在训练模型时通知联邦政府，并且必须与联邦政府共享所有红队安全测试的结果。这些措施将确保人工智能系统在公司公开之前是安全、可靠和值得信赖的。
• 开发标准、工具和测试，以帮助确保人工智能系统安全、可靠。美国国家标准与技术研究所将为广泛的红队测试制定严格的标准，以确保公开发布前的安全性。国土安全部将把这些标准应用于关键基础设施部门，并成立人工智能安全委员会。能源部和国土安全部还将解决人工智能系统对关键基础设施的威胁，以及化学、生物、放射性、核和网络安全风险。总之，这些是任何政府为推进人工智能安全领域所采取的最重要的行动。
• 通过制定强有力的生物合成筛选新标准，防范使用人工智能设计危险生物材料的风险。资助生命科学项目的机构将把这些标准作为联邦资助的条件，创造强有力的激励措施，以确保适当的筛查和管理人工智能可能使情况变得更糟的风险。
• 通过建立检测人工智能生成的内容和验证官方内容的标准和最佳实践，保护美国人免受人工智能驱动的欺诈和欺骗。商务部将制定内容认证和水印指南，以明确标记人工智能生成的内容。联邦机构将使用这些工具让美国人轻松知道他们从政府收到的通信是真实的，并为世界各地的私营部门和政府树立榜样。
• 以拜登-哈里斯政府正在进行的人工智能网络挑战为基础，建立先进的网络安全计划，开发人工智能工具来查找和修复关键软件中的漏洞。这些努力将共同利用人工智能潜在的改变游戏规则的网络能力，使软件和网络更加安全。
• 命令制定国家安全备忘录，指导人工智能和安全方面的进一步行动，由国家安全委员会和白宫办公厅主任制定。该文件将确保美国军事和情报界在其任务中安全、合乎道德且有效地使用人工智能，并将指导采取行动反击对手对人工智能的军事使用。

随着美国政府对人工智能的节制采取行动，国际领导人如何应对未来几年人工智能的快速增长将是一件很有趣的事情。欲了解更多世界故事人工智能技术，Shacknews 为您提供帮助。