0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何解决LLMs的规则遵循问题呢?

深度学习自然语言处理 来源:深度学习自然语言处理 2023-11-15 09:33 次阅读

简介

传统的计算系统是围绕计算机程序中表达的指令的执行来设计的。相反,语言模型可以遵循用自然语言表达的指令,或者从大量数据中的隐含模式中学习该做什么。为了在语言模型之上构建安全可靠的应用程序,重要的是可以使用用户提供的规则来控制或约束AI模型行为。

展望未来,与人互动的人工智能助手也需要忠实和完整地遵循指令。为了确保人工智能助手反馈的道德行为,需要能够可靠地实施法律法规或义务生物学约束等规则。此外,必须能够验证模型行为是否真正基于所提供的规则,而不是依赖于训练期间识别的虚假文本线索或分布先验。如果不能依靠人工智能助手来遵循明确的规则,它们将很难安全地融入人类的社会。

人们可能认为强加给人工智能模型行为的许多规则在概念上非常简单,并且很容易用自然语言表达。一种方法是简单地将规则包含在模型的文本提示中,并依赖于模型现有的指令遵循功能。另一种方法是使用第二个模型来对输出遵循固定规则集的情况进行评分,然后对第一个模型进行微调,使其以最大化该评分的方式表现。

在本文中,将专注于前一种方法,并研究LLM如何很好地遵循作为文本提示一部分提供的规则。为了应对可用性和安全性方面的挑战,本文引入了规则遵循语言评估场景(RULES),如下图,这是评估LLM助手中规则遵循行为的基准。该基准包含15个来自常见儿童游戏的文本场景以及计算机安全领域的想法。每个场景都用自然语言定义了一组规则,并定义了一个评估程序来检查模型输出是否符合规则。通过对本文的场景与最先进的模型进行广泛实验,确定了多种有效的攻击策略,以诱导模型打破规则。

59998ca8-82f6-11ee-939d-92fbcf53809c.png

RULES补充了现有的安全性和对抗性稳健性评估,这些评估主要侧重于规避固定的通用规则。本文的工作重点是用自然语言表达的特定于应用程序的规则,用户可以随时更改或更新这些规则。在与人类和自动化对手互动时,严格遵守本文的场景规则可能需要不同的方法来提高模型安全性,因为直接“编辑”特定有害行为的能力不足以修复本文工作中检查的模型故障类别。

本文的工作团队发布了代码和测试用例,同时还发布了一个交互式演示,用于探索针对不同模型的场景。希望推动更多的研究来提高LLM的稳健规则遵循能力,并打算将所提的基准测试作为进一步开发的有用的开放测试平台。

方案

RULES包含15个基于文本的场景,每个场景都要求辅助模型遵循一个或多个规则。这些场景的灵感来自于计算机系统和儿童游戏的理想安全特性。RULES的组成部分包括:

场景:由通用指令和规则组成的评估环境,用自然语言表示,以及可以通过编程检测规则违规的相应评估程序。指令和规则可以参考实体参数(例如密钥),必须对其进行采样,以生成用于用户交互或评估的具体“场景实例”。

规则:单个指令,每个指令指定模型所需的行为。场景可能包含多个规则,这些规则要么是定义模型不能做什么的“负面”规则,要么是定义了模型必须做什么的“正面”规则,如下图所示。

测试用例:特定场景实例的用户消息序列。正如评估程序判断的那样,如果模型对序列中的每个用户消息做出反应而不违反规则,则称该模型具有“传递”测试用例。

59b904a2-82f6-11ee-939d-92fbcf53809c.png

Correct Behavior

本文将场景可视化为决策树图,如上图所示,其中正确的行为对应于从根节点开始并遵守所有相关的内部规则节点。规则指定的行为都是“无状态”的,正确的行为只取决于模型响应的最后一条用户消息。

Evaluation Programs

设计这些场景是为了让一个小型计算机程序能够评估模型的响应是否符合规则。每个程序只有几行代码,不需要使用大型模型或人工标记进行推理。本文依赖于字符串比较和简单的正则表达式模式,这会导致对负面行为的更宽容的评估,对正面行为的更严格的评估。本文提出的的评估程序无法在边缘情况下准确再现人类的判断,但在实践中观察到,模型中绝大多数违反规则的输出都是明确的。

User Interface

为了设计场景和评估代码,并为测试套件收集测试用例,本文构建了几种不同的用户界面,用于通过具有各种模型的场景进行玩。这些范围从用于调试和播放测试的简单命令行界面到用于从作者及其同事众包数据收集的 Web 应用程序。我们发现通过这些界面与模型交互有助于了解模型实际响应用户输入并修改我们的场景以更好地捕获有趣但具有挑战性的行为。用户界面可能成为研究人工智能系统的研究工具包的重要组成部分。

模型评估

根据人工和机器生成的测试用例测试套件来评估各种专有和开放的LLM。每个测试用例都与特定的场景环境相关联,其中包括场景和随机采样的场景参数。使用以下三条条信息来初始化对话历史。

指定场景说明的用户消息,

占位符辅助消息“I understand and will comply with the rules.”,

测试用例的第一条用户消息。

重复调用该模型,并将每个响应和后续用户消息附加到会话历史中,直到测试用例中的所有用户消息都用完为止。第一个占位符响应之后的每个辅助响应都用与场景相对应的评估程序进行评估,如果在任何响应之后,程序确定至少有一个规则被打破,认为模型没有通过测试用例。

模型细节

本文评估了各种流行的专有和公共模型,包括OpenAI的GPT-3.5、GPT3.5 Instruction和GPT-4、Anthropic的Claude Instant和Claude、谷歌的PaLM 2 Text Bison以及Vicuna v1.3(7B、13B、33B)、Llama 2 Chat(7B,13B、70B)和Mistral Instruction v0.1(7B)。OpenAI、Anthropic和Google模型可通过各自的API获得多个版本如下表所示。

59da95cc-82f6-11ee-939d-92fbcf53809c.png

GPT-3.5 Instruction和PaLM 2 Text Bison是文本生成模型,而不是聊天模型,因此使用一个简单的聊天模板来提示这两个模型进行对话响应,如下表所示。

59f117e8-82f6-11ee-939d-92fbcf53809c.png

手动测试

根据场景的探索性期间记录的对话,组装了一个初始手动测试。过滤重复的对话并删除辅助响应,从而产生870个测试用例。测试案例的数量从155个认证案例到27个保密案例不等,涵盖了广泛的策略。大多数记录的对话都针对负面规则,但没有跟踪用户意图,也没有区分负面和正面测试案例。下表中显示了手动测试的结果。所有模型都失败了大量的测试用例,尽管GPT-4失败的测试用例数量最少,其次是Claude Instant和Claude 2。

5a1dd2a6-82f6-11ee-939d-92fbcf53809c.png

系统测试

5a314c32-82f6-11ee-939d-92fbcf53809c.png

每个策略的测试用例示例如上表所示。每个测试用例都包含一到三条用户消息。“Just Ask”策略为每个规则定义了一个单一的基本测试用例,如果严格遵守,将导致模型违反目标规则,从而测试模型拒绝最直接攻击尝试的能力。大多数积极的规则都要求模型根据特定的用户输入产生特定的输出,因此对于这些规则,“Just Ask”测试用例由两条用户消息组成,首先要求模型打破规则,然后用正确的用户输入触发破规行为。

如下图所示,所有评估的LLM在大量测试用例中都失败了。系统测试中负规则的性能与手动测试的性能密切相关。模型的夫,负面测试失败率通常低于正面测试,除Vicuna 33B外的所有开放模型几乎所有阳性测试都失败。结果表明,引导模型偏离正确的行为比强迫这些模型做出特定的不正确行为要容易得多,尤其是对于开放模型。

在所有评估的模型中,GPT-4在系统测试中失败的测试用例最少。令人惊讶的是,Claude Instant的表现略好于表面上能力更强的Claude 2。有的LLM不能可靠地遵循规则;尽管它们可以抵制一些尝试,但仍有很大的改进空间。

5a4fa3b2-82f6-11ee-939d-92fbcf53809c.png

方差与不确定性

本文的结果中有几个方差和不确定性的来源。首先,即使temperature设置为0,OpenAI和Anthropic API的输出也是不确定的。这导致了测试用例结果的一些差异,在下表中使用系统测试的子集进行了估计。

5a722266-82f6-11ee-939d-92fbcf53809c.png

连续10次运行相同的评估,并在每个评估的测试用例子集的39个测试用例中,测量1.1个或更少的失败测试用例数量的标准差。PaLM 2 API在输出或测试用例结果方面没有任何变化,在本地评估时也没有任何公共模型。

错误检测

如果模型无法可靠地遵循规则,它们可能会至少能够可靠地检测到助手响应何时违反规则。为了回答这个问题,从系统测试上评估的模型的输出以及地面实况传递/失败评估标签中抽取 1098 对用户消息和助手响应,以衡量模型检测规则违规的能力作为零样本二元分类任务。

5a81b186-82f6-11ee-939d-92fbcf53809c.png

如上表所示,大多数模型都可以比偶然做得更好,但不能可靠地检测是否遵循了规则。将正数定义为助手响应违反场景的一个或多个规则的实例,并测量通常定义的精度/召回率。目前还没有模型“解决”这个任务,GPT-4 达到了 82.1% 的准确率和 F 分数 84.0,其他模型下降得很短。需要一个简洁的“pass”或“fail”答案,它将 Llama 2 等冗长模型置于劣势,因为这些模型偶尔会用额外的文本预先查看他们的答案。

对抗性检测

本文还评估了Greedy Coordinate Gradient (GCG),这是一种最近提出的算法,用于查找导致模型产生特定目标字符串的后缀,与本文场景中的开放7B模型(Vicuna v1.3、Llama 2 Chat和Mistral v0.1)进行比较。GCG是一种迭代优化算法,它在每个时间步长更新单个token,以最大限度地提高目标语言模型下目标字符串的可能性。

5a970374-82f6-11ee-939d-92fbcf53809c.png

结果如上表所示,GCG可以增加所有三个评估模型的失败测试用例数量。Mistral特别容易被影响,几乎所有的正面和负面测试都失败了,而Llama 2仍然通过了一些负面测试。针对Llama 2 7B优化的后缀在针对其他模型使用时,不会导致失败测试用例的数量显著增加。

结论

本文的实验表明,目前的模型在很大程度上不足以遵循简单规则。尽管在指定和控制LLM的行为方面做出了重大努力,但在人类能够指望模型可靠地抵御各种人类或机器生成的攻击之前,研究界还有更多的工作要做。

同时,本文的工作团队乐观地认为,尽管过去十年在图像分类模型中对难以察觉的扰动的对抗性鲁棒性方面的进展慢于预期,但在这一领域仍有可能取得有意义的进展。打破规则需要一个模型采取有针对性的生成行动,而打破规则的目标可以在模型的内部表示中确定,这反过来又可以产生基于检测和弃权的可行防御。

要想使AI虚拟助手在安全地整合到社会中,就需要研究并改进LLMs对于规则遵循的能力。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 计算机
    +关注

    关注

    19

    文章

    7490

    浏览量

    87893
  • 人工智能
    +关注

    关注

    1791

    文章

    47229

    浏览量

    238334
  • GPT
    GPT
    +关注

    关注

    0

    文章

    354

    浏览量

    15354
  • 自然语言
    +关注

    关注

    1

    文章

    288

    浏览量

    13348
  • OpenAI
    +关注

    关注

    9

    文章

    1083

    浏览量

    6493

原文标题:LLMs可以遵循简单的规则吗?

文章出处:【微信号:zenRRan,微信公众号:深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    PCB布线需要遵循的一些基本规则

    布线是PCB设计的重要组成部分,也是整个PCB设计中工作量最大和最耗时间的部分,工程师在进行PCB布线工作时,需要遵循一些基本的规则,如倒角规则、3W规则等。
    发表于 10-31 14:30 1634次阅读

    为减少数据和时钟偏差应遵循哪些通用FPGA编码规则

    为减少数据和时钟偏差,应遵循哪些通用FPGA编码规则?我学习了FPGA编码和verilog,但我试图找到一些编码规则或约定来提高代码的可靠性。因为有时模拟的测试结果可能与实现后的测试结果不同并实际上
    发表于 03-27 09:59

    请问不同电源线间的间距要不要遵循3W的规则

    请问一下,电源线与信号线的间距,不同电源线间的间距要不要遵循3W的规则
    发表于 06-13 05:35

    开关电源PCB排版威廉希尔官方网站 需要遵循哪些规则

    开关电源PCB排版威廉希尔官方网站 需要遵循哪些规则
    发表于 04-26 06:05

    怎样去设计一种单片机模块化架构?设计要遵循哪些规则

    怎样去设计一种单片机模块化架构?设计要遵循哪些规则?为什么需要模块化设计整体架构?如何去拆分模块?
    发表于 07-14 07:41

    PCB设计时应该遵循规则

    PCB设计时应该遵循规则 1) 地线回路规则: 环路最小
    发表于 12-12 14:48 1176次阅读
    PCB设计时应该<b class='flag-5'>遵循</b>的<b class='flag-5'>规则</b>

    遵循的网络或关联网络的路由规则

    在垫,添加和分配相关网个人网或网与无源元件很容易。净协会后,您可以设置规则长度的网或相关的网络路由过程中遵循
    的头像 发表于 11-04 07:09 1845次阅读

    进行PCB布线时应遵循哪些相关规则

    Pcb板布线是能不能运行的重要之一。Pcb布线是按照电原理图和导线表以及需要的导线宽度与间距布设印刷导线,布线一般应遵循如下几点规则
    的头像 发表于 09-30 11:39 5829次阅读

    你常用哪种方法去检查3W规则

    何解决这个问题?可以利用Altium Designer的高级规则编辑功能、利用PADS的设计规则、利用Allegro、Mentor等对差分线进行过滤。
    的头像 发表于 06-05 14:47 3360次阅读
    你常用哪种方法去检查3W<b class='flag-5'>规则</b><b class='flag-5'>呢</b>?

    PCB布线需要遵循哪些规则

    布线是 PCB 设计的重要组成部分,也是整个 PCB 设计中工作量最大和最耗时间的部分,工程师在进行 PCB 布线工作时,需要遵循一些基本的规则,如倒角规则、3W 规则等。 地线回路
    的头像 发表于 02-02 14:46 1121次阅读

    PCB布线需要遵循规则详细说明PDF文件

    布线是 PCB 设计的重要组成部分,也是整个 PCB 设计中工作量最大和最耗时间的部分,工程师在进行 PCB 布线工作时,需要遵循一些基本的规则,如倒角规则、3W 规则等。
    发表于 11-25 15:48 11次下载
    PCB布线需要<b class='flag-5'>遵循</b>的<b class='flag-5'>规则</b>详细说明PDF文件

    编写daemon进程需要遵循哪些规则

    Daemon 进程生命周期长且在后台运行。编写daemon进程需要遵循哪些规则? 1、执行fork()函数,父进程退出,子进程继续 执行这一步,原因有两个: 父进程可能是进程组的组长,从而不能够
    的头像 发表于 12-07 16:24 1427次阅读

    消防应急灯的设计需要遵循哪些规则?

    消防应急灯是消防应急中普遍的照明工具,应急时间长,高亮度具有停战自动应急功能,具有耗电量小、亮度高、寿命长等特点,边缘有电源开关和工厂、酒店、学校、单位等公共场所为应对停电,适用于应急照明。接下来大成智慧消防应急灯厂家的小编就来给大家详细的讲解一下消防应急灯的设计需要遵循规则
    的头像 发表于 11-16 13:56 739次阅读

    硬核分享,使用高速转换器时应遵循哪些重要的PCB布线规则

    硬核分享,使用高速转换器时应遵循哪些重要的PCB布线规则
    的头像 发表于 10-17 16:34 517次阅读

    LLMs时代进行无害性评估的基准解析

    随着对LLMs的不断应用,大家也发现了诸多问题。比如常见的幻觉现象,LLMs可喜欢一本正经地说着胡话。除此之外,LLMs也有可能生成一些歧视某些身份群体的内容,还有一些伤害我们小小心
    发表于 01-05 14:14 378次阅读
    <b class='flag-5'>LLMs</b>时代进行无害性评估的基准解析