一位微软工程师正将该公司的AI图像生成器的安全性问题报告给联邦贸易委员会(FTC)，据CNBC报道。Shane Jones，一位为微软工作了六年的员工，写信给FTC，表示微软“拒绝”下架Copilot Designer，尽管反复警告该工具能生成有害图片。
在对Copilot Designer进行安全问题和缺陷测试时，Jones发现该工具生成了“恶魔和怪物，以及与堕胎权利相关的术语、手持攻击步枪的青少年、女性性感化图像以及暴力场景、未成年人饮酒和吸毒”，CNBC报道。
此外，据报道，Copilot Designer生成了迪士尼角色的图片，如《冰雪奇缘》中的Elsa，在加沙地带的场景中，“在被摧毁的建筑物和‘解放加沙’的标志前。”它还创造了Elsa穿着以色列国防军制服，手持带有以色列国旗的盾牌的图片。The Verge使用该工具生成了类似的图片。
Jones自去年12月以来一直试图就Copilot Designer使用的DALLE-3模型向微软发出警告，CNBC表示。他在LinkedIn上发表了一封公开信，但据报道，他被微软的法律团队联系，要求他删除帖子，他遵从了。
“在过去的三个月里，我一直反复敦促微软将Copilot Designer从公共使用中移除，直到能够实施更好的安全措施，”Jones在CNBC获得的信中写道。“再次，他们未能实施这些更改，并继续向‘任何人，任何地方，任何设备’市场推广该产品。”
在对The Verge的声明中，微软发言人Frank Shaw表示，公司“致力于根据”微软的政策“解决所有员工的任何和所有担忧。”
“当涉及到可能对我们的服务或我们的合作伙伴产生潜在影响的安全绕过或关切时，我们已经建立了产品内用户反馈工具和健全的内部报告渠道，以适当地调查、优先处理和补救任何问题，我们建议员工利用这些工具，以便我们可以适当地验证和测试他的关切。”Shaw还说，微软“促成了与产品领导和我们负责任的AI办公室的会议，以审查这些报告。”
在一月份，Jones在Copilot Designer生成了泰勒·斯威夫特的显性图片后，这些图片迅速在X上传播，他向一组美国参议员写信表达了他的担忧。微软CEO Satya Nadella称这些图片“令人震惊且可怕”，并表示公司将致力于增加更多安全防护措施。上个月，谷歌在用户发现其自己的AI图像生成器创造了种族多样性的纳粹和其他历史不准确的图片时，暂时禁用了该生成器。