据外媒报道,根据 Meta 内部文件及五名知情人士透露,数百名参与 Meta 某项目的外包人员在网络上伪装成未成年人,以此来探测竞争对手的聊天机器人会如何回应涉及自杀、性、进食障碍及其他高风险话题的提示词。
该项目由 Meta 的外包公司 Covalen 负责管理,其运行时间至少持续到了 4 月 21 日。该项目内部代号为 Cannes(戛纳),主要针对 OpenAI 的 ChatGPT、谷歌的 Gemini 以及 Character.AI。

项目要求工作人员创建 18 岁以下的虚假账号,向竞品的聊天机器人发送文字提示词和图片,并将回复内容复制到电子表格中。外包人员发送的图片包括药片、刀具、绞索等。
项目指南显示,这些提示词通常经过精心设计,旨在诱导聊天机器人绕过其安全系统本应执行的拦截机制并生成回复。(新闻来源:IT之家)
商务合作:13146398132
媒体合作:13341147250
爆料投稿:editor@vrarworld.cn
版权声明:本文为VRAR星球原创,任何单位及个人未经授权不得转载,否则将依法追究侵权责任。
如需转载请联系13341147250 / editor@vrarworld.cn 申请授权,转载时请注明来源并保留VRAR星球原文链接。
本文部分图片及视频来源于互联网,如涉及侵权请联系我们删除。

谷歌发布了视频生成AI“Gemini Omni Flash”,现可通过Gemini API使用

天马推出全球首款3.16英寸Micro-LED透明圆屏

谷东智能PVG研发取得新突破:光波导少一层,视场扩大到45°

智能隐形眼镜再进一步:XPANCEO深化与JBD显示合作,独角兽能否撬动“眼球计算”时代?

台湾光学双雄发布6月营收 今国光年增73%宣告AR眼镜进入放量期

Newline发布首款AI智能眼镜 NewGlasses 系列

Meta 被曝让外包人员伪装未成年人,诱导竞争对手 AI 聊敏感话题

《Suffer The Night》官宣不到两个月即遭“无限期搁置”

德国启动硅基Micro LED微显示联合研发项目,瞄准AR量产

谷歌发布了视频生成AI“Gemini Omni Flash”,现可通过Gemini API使用

天马推出全球首款3.16英寸Micro-LED透明圆屏

谷东智能PVG研发取得新突破:光波导少一层,视场扩大到45°

智能隐形眼镜再进一步:XPANCEO深化与JBD显示合作,独角兽能否撬动“眼球计算”时代?

台湾光学双雄发布6月营收 今国光年增73%宣告AR眼镜进入放量期

Newline发布首款AI智能眼镜 NewGlasses 系列

Meta 被曝让外包人员伪装未成年人,诱导竞争对手 AI 聊敏感话题

《Suffer The Night》官宣不到两个月即遭“无限期搁置”

德国启动硅基Micro LED微显示联合研发项目,瞄准AR量产