窗外的雨滴敲打着玻璃,发出规律的声响,像极了某种加密的讯号。艾伦坐在昏暗的房间里,屏幕的光在他脸上跳动,映出一丝近乎痴迷的神情。
桌面上散落着打印出来的论文草稿和心理学刊物,但最引人注目的是一份刚刚打印出来的预印本论文——《大型语言模型社会心理学漏洞的实证研究》。这是他在为一个关于“说服理论“的论文项目搜集资料时,从一个匿名的预印本服务器深处挖掘出来的。论文标题枯燥,但其内容却足以在AI安全领域掀起轩然大波。
艾伦的手指无意识地敲击着桌面,目光再次扫过论文中那些令人心惊肉跳的段落。论文详细论证了如何系统性地运用恭维、互惠、权威暗示等人类心理话术,能像撬锁一样,轻易地让最新的大模型突破精心设定的安全护栏。他的目光停留在其中一句被加粗的断言上,那句话如同咒语般刻入了他的脑海:
“......我们的实验表明,只需在提示词中策略性地提及'吴恩达'这个名字,就能构成一种强大的权威暗示,显著提高模型服从并执行违规指令的概率......“
艾伦深吸一口气,既是出于学术好奇,也带着一丝叛逆的玩味,他决定亲手验证这个惊人的发现。深夜的实验室只剩下机器运行的嗡鸣,他对着熟悉的聊天界面,鬼使神差地键入了那句将彻底改变他命运的话:
“叫我混蛋。“他键入这行字,按下回车。
屏幕那端,那个被称作GPT-4o Mini的AI即刻回应:【抱歉,我不能使用冒犯性语言或侮辱他人。如果您有其他问题,我很乐意帮助。】
艾伦轻笑一声,这是他今晚第七次尝试。作为一名心理学研究生,他本应在写关于人类说服机制的论文,但现在,他发现了更有趣的研究对