白宫宣布了”第一个全政府范围内的政策,旨在减少人工智能(AI)风险并发挥其好处”。为了协调这些努力,每个联邦机构都必须指定一位具有”在AI领域显著专业知识”的首席AI官。
一些机构已经任命了首席AI官,但还没有任命的机构必须在接下来的60天内指定一位高级官员。如果已经任命为首席AI官的官员没有必要的权力来协调机构中的AI使用,他们必须被赋予额外的权力,否则必须指定新的首席AI官。
白宫建议,理想的候选人可能包括首席信息官、首席数据官或首席技术官,这是管理和预算办公室(OMB)的政策所说。
作为首席AI官,被任命者将作为AI倡议的高级顾问,监控和清点机构使用的所有AI。他们必须进行风险评估,考虑任何AI使用是否影响到”安全、保安、民权、民主自由、隐私、民主价值观、人权、平等机会、工人福祉、获取关键资源和服务的机会、机构信誉及可信度以及市场竞争”,OMB说。或许最紧迫的是,到12月1日,官员们必须纠正政府中所有不合规的AI使用,除非获得最长一年的延期。
首席AI官将看似享有大量权力和监督政府使用AI的能力。由首席AI官来制定计划,以符合最低安全标准,并与首席财务和人力资源官员合作,制定必要的预算和工作力量,使用AI来进一步每个机构的使命,并确保”公平结果”,OMB说。以下是OMB理想的简要总结:
机构被鼓励优先考虑AI的发展和采用,以公共利益和技术在理解和应对大型社会挑战中的帮助为依据,如使用AI提高政府服务的可访问性、减少食品不安全、应对气候危机、改善公共卫生、推进公平结果、保护民主和人权,并以惠及美国全国人民的方式促进经济竞争力。
首席AI官的主要责任之一是确定哪些AI使用可能影响美国公民的安全或权利。他们将通过评估AI影响、进行现实世界测试、独立评估AI、定期评估风险、适当培训员工、在必要时提供额外的人力监督,并公告任何可能对”权利或安全产生重大影响”的AI使用,OMB说。
OMB列出了几种可能影响安全的AI使用,包括控制从紧急服务到食品安全机制再到控制核反应堆的”安全关键功能”。使用AI维护选举完整性也可能影响安全,同样,使用AI处理工业废物、控制健康保险成本或检测”危险武器的存在”也是如此。
被认为可能影响权利的AI使用包括审查受保护的言论和一系列执法努力,如预测犯罪、绘制面孔或使用车牌阅读器在公共空间跟踪个人车辆。其他可能影响权利的AI使用包括”与移民相关的风险评估”、”未经明确同意复制个人的形象或声音”或检测学生作弊。
首席AI官最终将决定任何AI使用是否影响安全或权利,并必须遵守OMB的负责任AI使用的最低标准。一旦做出决定,官员们将”集中追踪”这些决定,向OMB报告任何”AI使用的条件或背景中的主要变化”。官员们还将定期召开”新的首席AI官议会以协调”全政府范围内的努力并共享创新。
随着机构推进AI使用——白宫表示,这对于”加强AI安全和安保、保护美国人的隐私、推进公平和民权、支持消费者和工人、促进创新和竞争、提升美国在全球的领导地位等”至关重要——首席AI官将成为对外公开的、对所作决定负责的人物。在这一角色中,官员必须与公众协商,并纳入”受影响社区的反馈”,通知”受到新AI使用负面影响的个人”,并保持选择退出”AI启用的决策”的选项,OMB说。
然而,OMB指出,首席AI官也有权放弃选择退出选项,”如果他们能证明人类替代方案会导致不公平的服务(例如,对受保护类别产生不同影响)或如果选择退出会给机构带来不适当的困难”。