英伟达推出“护栏”软件管理AI系统以防聊天机器人“信口开河”

热点资讯来源 :云掌财经 2023-04-27 14:44:11

【资料图】

英伟达25日推出一款软件，用于管理基于大型语言模型的AI系统，也就是ChatGPT等机器人所使用的学习技术。据报道，这个名为NeMoGuardrails的工具可确保聊天机器人不偏离话题，减少它们提供限制性信息的可能。英伟达表示，该工具还将防止机器人做出错误猜测或采取超出权限的行动。