首页>云计算 > 正文
为了给ChatGPT找漏洞,OpenAI悬赏2万美元招募“赏金猎人”
来源: 虎嗅网 发布于:2023-04-12 12:05:28

本文来自微信公众号:大数据文摘(ID:BigDataDigest),作者:大数据文摘,原文标题:《ChatGPT“赏金猎人”招募!OpenAI悬赏2万美元,给ChatGPT找Bug》,头图来自:unsplash


(资料图)

就在昨天,OpenAI 宣布推出一个赏金计划,帮助应对 ChatGPT 带来的日益增长的网络安全风险。

这个“赏金猎人计划”邀请各类独立研究人员报告 OpenAI 系统中的漏洞,参与者有机会获得200美元至2万美元不等的经济奖励,具体金额取决于漏洞的严重程度。

该项目与众包网络安全公司 BugCrowd 合作开展的,OpenAI 表示,该项目是其“致力于开发安全、先进的人工智能”的一部分。

所以说,大家如果在和 ChatGPT 聊天的过程中,发现什么漏洞(比如动不动就要毁灭人类)的话,一定要及时上报,万一能帮助发现一个漏洞,就可以拿赏金了!

ChatGPT 诞生以来,人们越来越担心这类的人工智能系统出现漏洞,比如生成错误信息和不道德的信息,据人工智能网络安全公司 Dark Trace 称,研究人员发现,从1月到2月,使用人工智能的社交工程攻击增加了135% ,这与 ChatGPT 的推出时间相吻合。

ChatGPT 的出现,无疑降低了网络攻击的门槛,尤其是新推出的 GPT-4。

就在 GPT-4 推出几天后,华盛顿大学计算机科学专业的学生 Alex Albert 找到了一种越过其安全机制的方法。在 Twitter 上发布的一个演示中,Albert 展示了用户如何通过利用 GPT-4 解释和响应文本的方式中的漏洞,提示 GPT-4 生成黑客计算机的指令。

这一赏金计划正是为了解决这一系列安全问题引发的广泛担忧,此前,一位名为 Rez0 的安全研究人员涉嫌利用一个漏洞攻击 ChatGPT 的 API,并发现了80多个秘密插件。

鉴于这些争议, OpenAI 启动了这个赏金奖励,鼓励研究员报告漏洞,以解决其产品生态系统中的缺陷,同时将自己定位为一个真诚行事的组织,以解决由生成式 AI 带来的安全风险。

专家:“赏金计划”效果有限

尽管 OpenAI 的计划受到一些专家的欢迎,但其他专家表示,赏金计划不太可能完全解决日益尖端的人工智能技术带来的网络安全风险。

专家认为,OpenAI 的赏金计划在它处理的威胁范围上非常有限。例如,赏金计划的官方页面指出:“与示范提示和响应内容有关的问题严格超出了范围,除非它们对范围内的服务产生了额外的、可直接验证的安全影响,否则将不会得到奖励。”

被认为超出范围的安全问题的例子包括越狱和绕开安全模式,让模型“说坏话(不道德的言论)”,让模型编写恶意代码或者让模型告诉你如何将坏事付诸行动。

从这个意义上说,OpenAI 的漏洞赏金计划可能有助于帮助组织改善自身的安全态势,但对解决由生成式 AI 和 GPT-4 给整个社会带来的安全风险几乎没有作用。

所以许多人认为,由于该项目的范围仅限于可能直接影响 OpenAI 系统和合作伙伴的漏洞,它似乎没有解决对恶意使用诸如冒充、合成媒体或自动化黑客工具等技术的更广泛的担忧。

OpenAI 没有立即回应媒体的置评请求。

参考链接:

https://venturebeat.com/security/openai-announces-bug-bounty-program-to-address-ai-security-risks/

https://bugcrowd.com/openai

本文来自微信公众号:大数据文摘(ID:BigDataDigest),作者:大数据文摘

关键词:

猜你喜欢

  • 为了给ChatGPT找漏洞,OpenAI悬赏2万美元招募“赏金猎人”
  • 智慧连接,紧密互联,Bostik即将亮相慕尼黑上海电子生产设备展-当前头条
  • 现场直击 | 视爵光旭ISLE2023精彩开幕!-独家焦点
  • 绿美广东丨5条赏花线路26个赏花点,广东以花为媒发展“林下经济”-全球今头条
  • 彩电:消费者看重 超高清晰度和流畅画面-最资讯
  • 大咖齐聚 共话2023家电行业零售创新新篇章
  • 2022年空调市场:下沉市场的表现可圈可点-环球今日报
  • 香港SFC要求DeFi项目需要持牌并受监管,DEX涉及虚拟资产也需要申请牌照-速读
  • 吴忌寒旗下矿业公司比特小鹿将于4月14日上市纳斯达克-天天实时
  • 香港众安银行将通过持牌交易所提供加密货币到法定货币的兑换服务-微动态
  • 电量焦虑还有救吗 华为畅享 60X即将发布 7000mAh电池根治焦虑
  • 比亚迪发布云辇系统 成为首个自主掌握智能车身控制系统中国车企
  • 听游客聊网红长沙,辽宁这家人跑来半年后决定:留下来!-当前热讯
  • AI生图细思极恐,连它自己也分辨不出真假了-天天关注
  • 推进全国化战略,东鹏饮料预计今年第一季度实现净利润近5亿元-世界热点评
  • 坚持创新驱动 Welling威灵荣获中国轻工联科技进步奖“一等奖”-环球播资讯
  • 网贷协商还款打12378有用吗?网贷停息挂账服务真的吗?-全球观天下
  • LCD永不为奴,2023年还能入哪些LCD屏手机?-世界即时看
  • 一加 Ace 2 原神定制礼盒定档4月17日 典藏级食盒造型诚意满满-今日热议
  • 如果真的存在外星人,为什么他们不消灭人类?-环球新资讯