NVIDIA以开源方式推出NeMo Guardrails工具软件,协助开发人员限制AI聊天机器人的行为,确保符合企业安全要求。
回想一下当我们教外国朋友中文的时候,是不是都会抱着恶作剧的心情,先教对方说一些“不好的话”。但是如果企业的AI聊天机器人也被开这种玩笑的话,后果可就非同小可。
NVIDIA为了避免这种状况而推出NeMo Guardrails工具软件,可以确保如ChatGPT等以大型语言模型(LLMs)为基础的AI应用程序能够准确、适当、切题且安全地回答问题,避免AI被“玩坏”的情况发生。
NeMo Guardrails主要提供下列3种功能,它的操作相当简单,只需几行程序代码就能快速创建新规则,即使不是机器学习专家也能使用。
NeMo Guardrails功能一览
NeMo Guardrails工具软件以开源方式推出,可以搭配多种大型语言模型使用。
NeMo Guardrails具有主题护栏、安全护栏、保全护栏等功能。
NeMo Guardrails能够限制AI聊天机器人的行为。
NeMo Guardrails的设置只需简单几行程序,操作相当简单。
受益于开放源码的特性,NeMo Guardrails可以与企业应用程序开发人员使用的所有工具配合使用,有利于缩端开发时间,集成第三方应用程序与大型语言模型的强大功能,发挥更大的生产力。