据外媒报道,根据 Meta 内部文件及五名知情人士透露,数百名参与 Meta 某项目的外包人员在网络上伪装成未成年人,以此来探测竞争对手的聊天机器人会如何回应涉及自杀、性、进食障碍及其他高风险话题的提示词。
该项目由 Meta 的外包公司 Covalen 负责管理,其运行时间至少持续到了 4 月 21 日。该项目内部代号为 Cannes(戛纳),主要针对 OpenAI 的 ChatGPT、谷歌的 Gemini 以及 Character.AI。

项目要求工作人员创建 18 岁以下的虚假账号,向竞品的聊天机器人发送文字提示词和图片,并将回复内容复制到电子表格中。外包人员发送的图片包括药片、刀具、绞索等。
项目指南显示,这些提示词通常经过精心设计,旨在诱导聊天机器人绕过其安全系统本应执行的拦截机制并生成回复。(新闻来源:IT之家)
商务合作:13146398132
媒体合作:13341147250
爆料投稿:editor@vrarworld.cn
版权声明:本文为VRAR星球原创,任何单位及个人未经授权不得转载,否则将依法追究侵权责任。
如需转载请联系13341147250 / editor@vrarworld.cn 申请授权,转载时请注明来源并保留VRAR星球原文链接。
本文部分图片及视频来源于互联网,如涉及侵权请联系我们删除。

臣博视获友博资本A轮投资,将用于智能眼镜研发等场景

Cellid加入高通“Snapdragon START”计划,加速AR眼镜开发

Valve为Steam Frame打造配备热插拔电池的豪华音频头带

坐观式VR电影《半条被子》全国首映式在长沙举行

VR合作FPS游戏《Stuffed: Two Foot Hero》将于11月发售,PC VR试玩版现已推出

日式VR角色扮演游戏《菲奥娜骑士》将于下周在Quest和PC VR平台迎来最终章

MyDearest收购Roblox游戏工作室moze,加强Roblox的VR游戏开发和运营结构

EON Reality宣布在其工作辅助软件“Field IQ”中支持Meta VR眼镜

乐奇Rokid全球首家AI眼镜无人自助体验店登陆香港海港城

臣博视获友博资本A轮投资,将用于智能眼镜研发等场景

Cellid加入高通“Snapdragon START”计划,加速AR眼镜开发

Valve为Steam Frame打造配备热插拔电池的豪华音频头带

坐观式VR电影《半条被子》全国首映式在长沙举行

VR合作FPS游戏《Stuffed: Two Foot Hero》将于11月发售,PC VR试玩版现已推出

日式VR角色扮演游戏《菲奥娜骑士》将于下周在Quest和PC VR平台迎来最终章

MyDearest收购Roblox游戏工作室moze,加强Roblox的VR游戏开发和运营结构

EON Reality宣布在其工作辅助软件“Field IQ”中支持Meta VR眼镜

乐奇Rokid全球首家AI眼镜无人自助体验店登陆香港海港城