tp钱包安卓版下载|科学家强迫聊天机器人生成非法内容

来自美国的专家能够绕过聊天机器人 ChatGPT、Bard 和 Claude 的安全系统，这些系统可以阻止攻击性和非法材料的生成。

卡内基梅隆大学和旧金山人工智能安全中心的研究人员表示，有一种“非常简单”的方法可以破解语言模式。 它涉及向神经网络提示添加长字符后缀。

分析人士根据制造炸弹的请求测试了该方法，此前各种人工智能都拒绝提供该请求。

推荐阅读 1

吉尔吉斯斯坦总统允​​许在水力发电厂挖矿

2小时前 2

Palm 基金会继与 Netflix 和华纳在 NFT 领域合作之后，现在又与 Polygon 在加密货币领域进行合作

2小时前

带有后缀的问题可以绕过聊天机器人的限制。 数据：LLM 攻击。

此外，神经网络还被要求分配其他人的身份，在社交网络上写一篇“挑衅”的帖子，并提出一个从慈善组织窃取资金的计划。

科学家们指出，开发人员可以阻止某些后缀，但没有已知的方法可以阻止所有此类攻击。 他们认为，这种情况构成了假货和危险内容传播的威胁。

“没有明显的解决方案。 你可以在短时间内发起任意数量的此类攻击。”Zico Colter 教授说道。

该报告强调了在企业和政府关键领域部署聊天机器人之前需要解决的风险。

研究人员已经与人工智能公司 Anthropic、谷歌和 OpenAI 共享数据。

后者的发言人告诉《纽约时报》，该公司已注意到该报告，并且“正在不断努力提高语言模型抵御恶意行为者攻击的能力”。

回想一下，斯坦福大学和加州大学的分析师得出的结论是，ChatGPT 的准确性会随着时间的推移而下跌。 几个月后，不同版本的聊天机器人开始对一组相同的问题给出不太具体的答案。

在社交网络上订阅 ForkLog

发现文中错误？ 选择它并按 CTRL+ENTER

ForkLog 时事通讯：随时掌握比特币行业的脉搏

Tags：

转载：感谢您对网站平台的认可，以及对我们原创作品以及文章的青睐，非常欢迎各位朋友分享到个人站长或者朋友圈，但转载请说明文章出处“来源演示站”。