NVIDIA 的新开源软件旨在防止 AI 陈述不正确的事实和其他错误。
随着世界上越来越多的大公司继续向人工智能技术投入资金和资源，人工智能技术已经出现了令人难以置信的两极分化。围绕人工智能的众多担忧之一是其潜在的虚假信息传播及其对安全的总体威胁。 NVIDIA 长期以来一直坚持支持 AI 的立场，现在推出了 NeMo Guardrails，这是一款新的开源软件，旨在解决 AI 服务中一些最大的长期问题。
NVIDIA 在一篇新闻文章中宣布了 NeMo Guardrails它的网站今天。 NVIDIA 将 Guardrails 分为三个主要功能：安全性、安保性和主题性。安全护栏将防止人工智能向用户提供不准确的信息。最值得注意的是，微软的 Bing AI 声名狼藉在二月份的演示中提供了错误的查询答案，给人工智能技术带来更多不确定性。
资料来源：美联社
NVIDIA 表示，安全护栏将“限制应用程序仅与已知安全的外部第三方应用程序建立连接”。最后，主题护栏将阻止人工智能回答与其服务无关的问题。给出的例子是，从事客户服务工作的人工智能不会回答有关天气的问题。
早在 ChatGPT 热潮在全球最大公司的屁股下点燃人工智能之火之前，NVIDIA 首席执行官黄仁勋就一直是人工智能的支持者。今年二月，他表示这项技术正处于“拐点”。NVIDIA 还在自己的一些产品和服务中使用了 AI，例如 NVIDIA Broadcast 和 DLSS。
随着 NVIDIA 的 NeMo Guardrails 即将推出，看看该技术如何应用于人工智能服务将会很有趣。我们也很想知道还有哪些其他与人工智能相关的软件或产品英伟达可能会在路上介绍。更多关于人工智能及其在科技和游戏行业的实施，Shacknews 拥有您需要了解的一切。
多诺万是一位来自马里兰州的记者。他最早的游戏记忆是周末在他妈妈的桌面上玩睡衣山姆。 《精灵宝可梦翡翠》、《光环 2》和原版《星球大战：前线 2》是唤醒他对电子游戏热爱的最有影响力的游戏。在整个大学期间在 Shacknews 实习后，多诺万于 2020 年从鲍伊州立大学广播新闻专业毕业，并全职加入该团队。他是一个超级电影狂热分子，会整天和你谈论电影和游戏。你可以在推特上关注他@Donimals_
