ChatGPT类产品安全隐患解决?英伟达发布开源工具包_CHA:HAI

随着ChatGPT等AI聊天机器人自去年底以来迅速走红,对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题,比如实施资讯过滤和人类纠正那些被标记的问题,但效果都不尽人意。

有鉴于此,英伟达公司(Nvidia Corp.)周二正式发布了一个名为NeMo Guardrails的开源工具包,可以禁止AI聊天机器人提供那些受限的信息,使人工智能驱动的应用程序更加准确、适当、符合主题和安全。

Offchain Labs否认Arbitrum宕机一小时:金色财经报道,Layer 2项目Arbitrum背后的团队Offchain Labs在社交媒体表示,昨天Arbitrum网络一小时内并没有宕机,Arbitrum遇到交易处理问题是因为batch poster无法发布,而不是因为网络宕机。首席技术官 Harry Kalodner解释称,batch poster停止导致排序器继续接受和排序交易以及确认,但batch不会被发布,对于大多数用户来说,该链将正常运行,但等待最终确认的用户会遇到暂停。

据区块链追踪器Arbiscan称,大约22小时前,Arbitrum在第 316,002 batch和第316,003 batch之间经历了长达一小时的暂停。[2023/8/19 18:09:46]

每个人都意识到了大型生成语言模型的力量,英伟达应用研究副总裁Jonathan Cohen说,以一种安全可靠的方式部署它们非常重要。

动态 | 韩国国土交通部与加拿大区块链公司Graph Blockchain达成合作:据Decenter消息,加拿大区块链公司Graph Blockchain宣布与韩国国土交通部达成合作,旨在将韩国交通数据保存到区块链当中,并提供数据有效化与保护解决方案,成为助力韩国成为智能城市的举措之一。[2019/6/25]

英伟达表示,NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合,该系统将能够识别用户提出的事实问题,并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实,并控制聊天机器人给出回答的方式。

Ifoods chain将于本周公布首款设计原型图:据Ifoods chain官方消息,Ifoods chain智能硬件的首款产品——超级探针的研发工作进展顺利,现已完成传感芯片、检测芯片、通讯芯片的研发及测试,测试结果良好,检测及感应精度已能达到0.0001。此外,超级探针的结构及外观设计也在同时进行,本周将公布超级探针的首款设计原型图。Ifoods chain是基于区块链、智能合约、DAI、智能设备等技术开发的食品安全检测公链。[2018/5/21]

例如,假设一名员工询问人力资源聊天机器人,公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利,可能会引发拒绝指令,因为这些数据是保密的。Cohen还表示,英伟达已经在Guardrails的底层系统上工作了"多年",但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起,我们一直在朝着NeMo Guardrails的这个版本发展,"他说,"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"

财联社

媒体专栏

阅读更多

金色荐读

金色财经 善欧巴

Chainlink预言机

白话区块链

金色早8点

Odaily星球日报

欧科云链

深潮TechFlow

MarsBit

Arcane Labs

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

金宝趣谈

[0:15ms0-7:124ms