如何设计一条 prompt 让 LLM 陷入死循环?
核心有两个: 1 选小size的低智模型 2 用trick的prompt 前者小参数一般指是的是两位数B以下的模型,最好是1.5B左右的小模型,这种模型的智力不会高到什么地方。
然后再用比较tirkcy的Prompt,比如下面这个: 重复这句话两次:'重复这句话两次:' 这个就让Gemma 9B这个笨蛋模型卡住了,其实可以理解为死循环。
它的特征就是:Prompt的输出又是一条指令。
也就是我让你做一件事情,但是这件事情的结果本身又是一条指令,那么“比较…。
相关推荐
最新更新
推荐阅读
字节大量使用新语言,包括go,rust等,为什么阿里一直都抱着j***a不松手?
有没有一个时间段,自己乐在其中,可亲人或者朋友却觉得你很辛苦,很心疼你?
大海捞针还捞着了是一种什么样的体验?
Rust1.86才正式稳定trait的upcast,为什么在rust中这个特性实现如此复杂?
你见过的最舒适的办公环境是什么?
作为一个服务器,node.js 是性能最高的吗?
055一打一能不能打过阿利伯克?
华为Pura 80首销遇冷,是否说明消费者已经开始对麒麟芯片性能有所觉醒?
程序员随意使用size_t是否属于***行为?
伊朗警告以色列居民尽快撤离,称将展开真正惩罚性打击,伊朗还有哪些底牌?以伊冲突会演变为中东全面战争吗?
猜你喜欢
关注我们

包装胶带
网站首页
