首页
资讯
深度
投融资
政策
活动
视频
当前模式 菜单关闭
我们能帮忙找点什么吗?

Meta 被曝让外包人员伪装未成年人,诱导竞争对手 AI 聊敏感话题

发布日期:2026-07-07 18:53:12
字号:A+A-

据外媒报道,根据 Meta 内部文件及五名知情人士透露,数百名参与 Meta 某项目的外包人员在网络上伪装成未成年人,以此来探测竞争对手的聊天机器人会如何回应涉及自杀、性、进食障碍及其他高风险话题的提示词。

 

该项目由 Meta 的外包公司 Covalen 负责管理,其运行时间至少持续到了 4 月 21 日。该项目内部代号为 Cannes(戛纳),主要针对 OpenAI 的 ChatGPT、谷歌的 Gemini 以及 Character.AI。

 

 

项目要求工作人员创建 18 岁以下的虚假账号,向竞品的聊天机器人发送文字提示词和图片,并将回复内容复制到电子表格中。外包人员发送的图片包括药片、刀具、绞索等。

 

项目指南显示,这些提示词通常经过精心设计,旨在诱导聊天机器人绕过其安全系统本应执行的拦截机制并生成回复。(新闻来源:IT之家)


商务合作:13146398132undefined

媒体合作:13341147250

爆料投稿:editor@vrarworld.cn

版权声明:本文为VRAR星球原创,任何单位及个人未经授权不得转载,否则将依法追究侵权责任。

如需转载请联系13341147250 / editor@vrarworld.cn 申请授权,转载时请注明来源并保留VRAR星球原文链接。

本文部分图片及视频来源于互联网,如涉及侵权请联系我们删除。

发表评论(0