研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-23 17:39:42 [热门资讯] 来源：黑河市某某工程建设培训中心
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容泉州市某某机械专卖店便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功泉州市某某机械专卖店实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：知识)
俞敏洪发声再谈董宇辉离职：比较满意
买房人，史诗级利好要来了？
刘谦自曝患肺腺癌，但他是幸运的
最新！普京祝贺金正恩
意外！学生投诉：学校强制大课间跑操，要求禁止下午大课间跑操推荐文章
-
扫码咨询2026年新航道寒假班课程December 13, 2025雅思词汇解析 | | 栏目推送说明雅思词汇解析，释义到用法，清清楚楚每一次的进步，都是来自点点滴滴的积累本期作者：张悦本周我们
...[详细]
-
近日，济南机场地铁所在的轨道交通3号线二期工程顺利通过项目工程验收，进入试运行阶段。此前，济南轨交集团公布3号线二期工程将在今年底开通运营。这意味着最晚年底，大家就可以搭乘3号线直达遥墙机场，从地下综
...[详细]
-
2024年8月27日新房成交270套、二手房622套；涨价房源101套
根据北京市住房和城乡建设委员会数据显示，2024年08月27日北京新建商品房成交270套，较昨日增加43套，环比上涨18.9%。近一周北京新建商品房日均成交247套。08月27日单日成交270套，高于
...[详细]
-
对于卸下工作状态、拖着满身疲惫的身体走出公司大楼的你，什么事情能让你休息休息、喘口气呢？吃一顿大餐？看一场电影？刷一会手机？睡一个懒觉？打一宿游戏？有很多行为表面上看似是在休息、放松，实质上却会消耗精
...[详细]
-
当地时间12月16日，央视记者获悉，美国得克萨斯州总检察长肯·帕克斯顿当日起诉西南公共服务公司在得州以“埃克西尔能源公司”名义运营），指控其在维护老化的电线杆方面存在疏忽，倒塌的电线杆引发了该州历
...[详细]
-
中新网8月31日电 据路透社消息，当地时间30日，一架消防直升机在葡萄牙杜罗河地区坠毁，导致4人遇难，另有1人失踪。杜罗港务局指挥官兰普雷亚透露，飞机在坠毁时已经断成两截，救援人员在坠毁的飞机内部和尾
...[详细]
-
俗话说眼睛是心灵的窗户，但是日常生活中，我们常常忽视了对眼睛的呵护。一些看似无害的小习惯，实则可能对视力造成长远的伤害。这篇文章我们就来盘点一下那些常见却容易被忽视的伤害眼睛的习惯。
...[详细]
-
来广营邻友圈ID：beiyuan99☀ 这是一个专注来广营/北苑地区的微信平台！网络吃喝玩乐信息，关注发展建设、民生动态。私信投稿爆料加小编微信：linyouquanpeng； 商务合作：136832
...[详细]
-
当地时间12月16日，美国白宫表示，美总统特朗普签署了一项公告，进一步限制外国公民入境。 白宫表示，美国对布基纳法索、马里、尼日尔、南苏丹和叙利亚这五个国家以及持有巴勒斯坦民族权力机构签发的旅行
...[详细]
-
孟晓苏出来发声了，说建议让还不起房贷的老百姓延期还贷，凤凰网财经专门在一个论坛前专访了孟专家，他专门提到了现在的法拍问题，他提出了四个办法，第一个办法就是让老百姓延期来还贷，就是继续收利息，有很多企业
...[详细]
热点阅读
