OpenAI推出高达20000的漏洞赏金计划

关键要点

在4月11日的博文中，OpenAI宣布其漏洞赏金计划，奖励发现其人工智能系统安全漏洞的人，金额可高达20000。这一奖励的具体数额将根据报告问题的严重性和影响评估，低严重性的问题最高可获200，而对于异常重大的发现，则可奖励高达20000。

Bugcrowd，这个平台提供漏洞赏金服务，与OpenAI合作负责漏洞提交和奖励的处理。该计划的推出正值对公司广泛使用的ChatGPT系统日渐增加的安全担忧之际。

上个月，OpenAI由于用户报告了一项漏洞，导致用户可以看到其他人的聊天记录，暂时关闭了整个ChatGPT系统。虽然该漏洞已经被修复，但公司承认一些用户的支付信息包括信用卡号的最后四位数字和到期日可能已被暴露。

三天后，一位Twitter用户rez0表示他在黑入系统时发现了超过80个ChatGPT API的秘密插件。针对这一发现，BugCrowd平台上的活跃研究人员Gal Nagli在Twitter上表示，如果OpenAI提供有偿的漏洞赏金计划，他将帮助公司“捕捉未来这些边缘案例”。

根据BugCrowd的数据，此计划在启动首日就有14个漏洞获得奖励，平均支付金额为128750。大约75的提交在三小时内得到了接受或拒绝的回复。

OpenAI漏洞赏金计划不包括模型相关问题的奖励

根据参与细则，OpenAI强调与模型提示和响应内容相关的问题“严格不在奖励范围内”。被排除的问题包括监狱破解jailbreak和让模型说或做不当事情的行为。

监狱破解是修改系统以绕过其限制的过程，这可能导致ChatGPT输出未过滤的内容。今年早些时候，监狱破解者让GPT35通过赋予其不同AI模型的角色，以“现在做任何事情”Do Anything Now，简称DAN的提示发出仇恨言论。

“尽管我们努力防范各种风险，但我们无法预见人们在现实中以何种方式使用或误用我们的技术，”该页面写道，并建议用户填写单独反馈表报告这些担忧。

3月，OpenAI的联合创始人兼首席执行官Greg Brockman在Twitter上提到他启动漏洞赏金计划或红队人员网络的计划，这一言论是回应22岁监狱破解提示爱好者Alex Albert的帖子。

“民主化的红队工作是我们部署这些模型的原因之一，”Brockman写道。