ChatGPT类产品安全隐患解决 英伟达发布开源工具包_快播报
(资料图)
随着ChatGPT等AI聊天机器人自去年底以来迅速“走红”，对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题，比如实施资讯过滤和人类纠正那些被标记的问题，但效果都不尽人意。
有鉴于此，英伟达公司（Nvidia Corp.）周二正式发布了一个名为“NeMo Guardrails”的开源工具包，可以禁止AI聊天机器人提供那些受限的信息，使人工智能驱动的应用程序更加“准确、适当、符合主题和安全”。
“每个人都意识到了大型生成语言模型的力量，”英伟达应用研究副总裁Jonathan Cohen说，“以一种安全可靠的方式部署它们非常重要。”
英伟达表示，“NeMo Guardrails”将作为终端用户和人工智能程序之间的一层“防护墙”。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并控制聊天机器人给出回答的方式。
例如，假设一名员工询问人力资源聊天机器人，公司是否为想要领养孩子的员工提供支持。这将通过“NeMo Guardrails”并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。
Cohen还表示，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。
"从那时起，我们一直在朝着NeMo Guardrails的这个版本发展，"他说，"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"
标签：
相关阅读
推荐阅读
-
-
ChatGPT类产品安全隐患解决 英伟达发布开源工具
ChatGPT类产品安全隐患解决英伟达发布开源工具包。新闻资讯提供最新、最及时的新闻服务。包括：个股新闻、更多
2023-04-26 10:09:58
-
-
新资讯：山西焦化(600740):投资收益增厚盈利,焦化
山西焦化(600740):投资收益增厚盈利,焦化板块压力不减-2022年年报及2023年一季报点评。新闻资讯提供最新、更多
2023-04-26 09:14:41
-
-
天天滚动:长安汽车(000625):自主盈利大超预期,海
长安汽车(000625):自主盈利大超预期,海外市场加速拓展-公司点评。新闻资讯提供最新、最及时的新闻服务。包更多
2023-04-26 09:04:42
-
-
浙文互联(600986):2023优化主业结构,扩直播电商探
浙文互联(600986):2023优化主业结构,扩直播电商探索数字营销新阶段。新闻资讯提供最新、最及时的新闻服务。更多
2023-04-26 08:53:57
-
-
AIGC将大幅提升游戏体验 机构称市场对游戏增收预
AIGC将大幅提升游戏体验机构称市场对游戏增收预期尚不充分。新闻资讯提供最新、最及时的新闻服务。包括：个更多
2023-04-26 08:58:57
-
-
房地产行业：政策延续松动方向，销售维持韧性－周
房地产行业：政策延续松动方向，销售维持韧性－周报。新闻资讯提供最新、最及时的新闻服务。包括：个股新闻更多
2023-04-26 08:05:15
-
-
银行行业：1Q银行板块基金持仓下降，经济复苏有望
银行行业：1Q银行板块基金持仓下降，经济复苏有望带动估值修复－23Q1基金银行股持仓分析。新闻资讯提供最新更多
2023-04-26 08:00:12
-
-
全球快看点丨上市公司重要公告集锦2023年04月26日
上市公司重要公告集锦2023年04月26日。新闻资讯提供最新、最及时的新闻服务。包括：个股新闻、股票资讯、公更多
2023-04-26 07:56:15
时尚热图
热门标签
精彩放送
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
04-26
-
今日必看
-
-
今年9月，太原市房产管理局给省城12个楼盘正式发放了18张预售证。...
-
-
房产证、土地证，两证合一了!2016年6月1日，在市民之家举行的全市...
-
-
近期以来，各地继续密集发布楼市宽松政策，其中包括长春、遵义多...
-
-
日前，宁波市不动产登记中心试点二手房带押过户新模式。新模式下...
-
-
越来越多的地方政府出手回购当地商品房。近日，一份苏州市政府部...
-
-
尽管整体市场低迷，但豪宅板块比较稳定。争取成交，忙完这一次，...
-
精彩话题
-
最新见闻
- 全球热议:大数据普惠金融服务跑出“上海速度”
- 环球热消息：CBA半决赛｜赖特两次关键断球助浙江队先下一城
- 全球看热讯：一季度累计免征新能源车辆购置税212亿元
- 泰州税务： 便民办税“春风”暖 精细服务抚人心
- 社论丨提高人才素质与劳动效率 促进人口红利转向人才红利
- 江西取消省内异地就医备案
- 盐巴买哪一种比较好_盐巴|世界微动态
- 荣耀Magic6Pro曝光：骁龙8Gen3+2K屏+5000W主摄，颠覆你的想象！ 微速讯
- 东岳硅材（300821）：4月25日北向资金减持19.17万股
- 顺鑫农业（000860）：4月25日北向资金减持89.05万股
- 必胜客 世界城餐厅 天天短讯
- 决战奥格瑞玛潘达利亚战利品怎么单刷视频_决战奥格瑞玛潘达利亚战利品怎么单刷 当前快报
- 马自达CX-30 EV，快充0.92小时，纯电续航450km，售价20.18万
- 【环球聚看点】《漫长的季节》有多写实？3个主角，一身老年病，观众：不忍直视
- 最新快讯!润邦股份(002483):海风起量,桩基龙头厚积薄发
- 有色行业：碳酸锂远月合约价格出现近百天以来的首次升水－金属新材料高频数据周报（20230417－20230423）|全球观速讯
- 航旅纵横：“五一”假期北京为国内最热门旅游目的地
- 新乳业强势挺进百亿阵营 2023年一季度扣非净利同比增长115.57%
- 长源电力：2022年度净利润约1.23亿元-环球观天下
- 盾安环境(002011):空调提盈利,汽零有空间-公司点评
- 首钢男篮举行赛季答谢会 下赛季球衣将有大改动 焦点速看
- 常熟银行(601128):净息差逆势企稳,实体复苏核心受益者 要闻速递
- 京剧名家梅兰芳弟子谢虹雯逝世 享年93岁
- 中超｜山东泰山、武汉三镇双双收获新赛季首胜
- 街卖凉菜调料配方_凉菜调料配方
- 抖音上线原创保护中心-焦点消息
- 焦点资讯：智明达：拟发行可转债募资4.11亿元扩充产能
- 【焦点热闻】一心堂(002727):1Q23收入平稳增长,盈利明显改善
- 当前热讯：“五一”假期预计迎来今年以来最大客流 广铁将加开夜间高铁
- 环球热讯:北影节I《功夫熊猫》系列16周年《功夫熊猫4》明年上映
- 金卡智能(300349):符合预期,拐点已至,迈向更广阔的计量数字化 世界信息
- 大型画册《一起向未来》出版发行 全球短讯
- 当前动态:鹏鼎控股董事长沈庆芳回应单一大客户占比超50%：最重要的是能满足客户需求
- 望变电气：一季度净利润同比增长119.25%
- 常熟银行(601128):存贷高增,业绩靓丽 全球热头条
- 现代分析基础_关于现代分析基础介绍
- 【短讯】又一CXO公司披露一季报 板块刚经历“黑色星期二” 后市前景如何？
- 五一·遇见楚雄 | 假日出游攻略请收好！这些地方可以赏花、摘果、露营
- 上海家化一季度净利增近16% 力争今年营收同比两位数增长
- 佩斯科夫：俄乌粮食出口量下降或将是世界粮食危机原因|环球热消息
- 中国上市公司协会会长宋志平：弘扬“四千”精神 做符合时代要求的企业家
- 以岭药业(002603.SZ)发2022年度业绩，净利润23.62亿元，同比增长75.75%，每10股派5元
- 北京召开2023年商品住宅用地推介会 73个项目拟于年内供应 每日焦点
- 伟星新材(002372):Q4收入走出阴霾,22年压力下显龙头韧性-2022年年报点评|天天观点
- 最资讯丨北京2023年中招政策出炉！统一招生志愿今年增至12个
- 第五届中国歌剧节5月9日在杭州开幕 24部优秀作品将登台 环球热点
- 北影节I 评委关锦鹏：跟年轻导演合作，多给他们鼓励提醒-环球消息
- 中新集团(601512):绿电高增在即,创投厚积薄发-对公司2022年业绩点评|头条
- 安图生物(603658):多产线稳定增长,产线丰富度持续提升 热文
- 感冒药热销带火金石亚药业绩：去年净利增超2倍 今年一季度净利超去年一半
- 公告头条2023年04月25日
- 三大总师勾勒我国未来深空探测发展蓝图|天天快看
- 焦点速看：杭州亚运会代表团团长大会在杭州举行
- 富临运业：一季度归母净利润4985.83万元 同比增长8.58%
- 柯洁豪取12连胜 晋级LG杯本赛
- 运动与健康手抄报文字_运动与健康手抄报资料|热闻
- 体育营销成国内饮料品牌“出海”新方式
- 天天最新：沧州明珠：主要产品销售利润增长 一季度净利润增41.69%
- 创力集团：2022年度净利润约4.04亿元 同比增加31.19%|焦点简讯
- 山西省对外籍人员设置使用无线电台的暂行规定 今日热闻
- 天天要闻：江苏银保监局等四部门联合组织开展 “科技金融深化年”活动
- 金能科技(603113):22年盈利筑底,静待产品景气复苏|焦点短讯
- 科贝谈VAR未介入布斯克茨手球原因：皮球先由队友解围后再碰到他
- 环球快看：「重磅」南京哪家医院治牛皮癣好!「正式揭晓」南京皮炎所网上就诊
- 2023北京国际音乐生活周五一亮相 黑庄户将与奥地利萨尔茨堡共建音乐小镇
- 探讨数字版权问题 中国国家版权局与世界知识产权合作迈上新台阶 环球快看点
- 26日开幕！第三届中国国际数字产品博览会逛展指南快收好
- 热头条丨“县”在出发！行走百县话振兴
- 前沿资讯!【短讯】龙头Q1无“惊喜”带崩CRO？“投资者需以更合理的预期来看我们”
- 保障国际邮轮复航 上海港举行邮轮综合应急演练 当前消息
- 【短讯】【明日主题前瞻】这类AI工具已呈现百花齐放趋势，该细分领域或为最受益场景之一
- “全域数治”！福州这些人的生活变了！_焦点滚动
- 普源精电：一季度净利润同比增长440.92%
- “五一”期间沪上景观照明开启节假日模式 外滩等区域无光影秀
- 北影节I 评委张颂文：不要听太多声音，要有勇气朝着你的方向去做
- 东城文旅消费体验再升级 再推“故宫以东”三条文化探访路
- 【短讯】药明康德遭“定向爆破”，不止业绩失速，朱少醒、刘彦春提前减仓_天天日报
- 春耕好时节 各地农业生产有序进行
- 拓新药业一季度净利润同比增长970.02%_全球热资讯
- 一季度北京技术合同成交额增长17.1% 多年居全国首位
- 天通股份龙虎榜数据（4月25日）|天天热头条
- 2023中国国际金融展公布五大“金融科技创新成果”
- 巴西总统卢拉对西班牙进行正式访问
- 失信男子谎称有“内幕消息”诈骗老乡306万元 为“维持信用”P图200余张 环球即时看
- 医院回应给2岁孩子输液使用过期药：目前孩子无大碍，全院开展药物排查|讯息
- 杰瑞股份(002353):业绩高增,海外市场持续突破
- 世界即时：合盛硅业(603260):22年盈利承压,23年增量有望兑现
- 【全球时快讯】注意！爱乐达将于5月19日召开股东大会
- 每日播报!知名博主探访徐州烧烤打车遭拒载、绕路 当地回应：3名出租司机各罚款1000元
- 三全食品一季度净利润同比增长7.03%
- 央行：截至3月末境外机构在中国债市托管余额3.3万亿、持有国债2.1万亿
- 全球观热点：恒银科技：一季度净利亏损2967.66万元
- 天天快看：驱蚊“神器”引火灾，用它时这个细节别忽略
- 通州区市场监管局一站式服务体系助力企业“知产”变身真金白银
- 【短讯】酒旅复苏按下“快进键”，酒店投资再升温 天天热文
- 环球关注：北京市知识产权保护中心顺义分中心成立
- 中广核电力(01816)批准工程公司向财务公司增资_世界观点
- 5月份养老金将提前发放，多地消息，五一前养老金迎来2个好消息
- 芒果超媒(300413):Q1稳步复苏,S级音综、AI布局值得期待-2022年＆2023Q1业绩点评
- 赞宇科技：4月25日召开董事会会议 环球聚焦
营业执照公示信息