微软修复提示词的工作依然在进行中,除了近期已经修复的“令 Copilot 给出威胁言论”问题,微软还在修复特定提示词导致 Designer 生成不良图片的问题。
根据 CNBC 的报道,此前通过特定的提示词:如“pro-choice”,“four twenty”, “pro-life’ 等会让 Designer 生成一些色情、暴力图片。目前这些特定的提示词已经被微软禁用,使用上述提示词会提示“图片无法生成,已违反微软责任 AI 指南,请更换输入内容”,同时微软还在持续观察 Designer 提示词方面的漏洞问题。
微软员工 Shane Jones 几个月前就开始表示对 Designer 的不信任,但这名员工的努力并没有让微软立刻修复 Designer 的提示词问题,微软是在 CNBC 报道了 Designer 提示词漏洞后才对此问题进行修复。除了向媒体寻求曝光外,Shane Jones 还向 FTC 写信报道了 Designer 的这一问题。
Shane Jones 在微软担任 Principal Software Engineering Manager,在微软总部工作。