【短讯】清华大学朱军:ChatGPT出现后安全问题越发严重 需不断提升大模型安全评测能力、构建人工智能安全靶场
(资料图片仅供参考)
7月4日讯(记者 李明明) 近日,由北京市人民政府联合工业和信息化部、国家网信办、商务部、中国科协共同主办的2023全球数字经济大会人工智能高峰论坛举办。清华大学计算机系长聘教授、清华大学人工智能研究院副院长、瑞莱智慧/生数科技首席科学家朱军分享了对人工智能目前的发展状态以及安全态势的思考和探索。在朱军看来,ChatGPT的发展,可以追溯到1978年技术架构的突破和GPT系列的发展,去年年底Chat版本的发布,从根本上解决了意图理解和可用性、好用性的问题。今年的发展速度会更快。大模型的三个关键技术分为别内容学习、思维链和指令学习,还有基于人类反馈的强化学习。过去十年,人工智能最大的变化趋势就是从小模型变成大模型。“机器学习常用的模型的规模,发生了巨大的变化,呈现指数型增长的趋势。最受关注的典型成果,就是ChatGPT大语言模型的横空出世。它解决过去机器学习模型从不好用到好用,能够理解意图和上下文等等,已经成了人工智能最受关注、使用最广泛的产品。”他说。目前大众非常关注多模态发展,朱军总结:首先以大脑为参照,人是多模态感知的系统,天然希望能够处理多模态数据。其次,很多复杂工程问题中,也会遇到图像、文本、语音,甚至是触觉等等各种模态的数据,所以从应用和理论上都需要关注多模态模型的发展,可能这些是未来更强的技术基座形态。“目前来看,文本的进展是相对最成熟的,其它模态也是快速发展的过程中,图像、语音、视频、3D,甚至包括分子结构等等,大家都在尝试训练和拥抱这种大规模预训练模型。”朱军介绍,团队在探索大模型如何解决垂直领域的一些问题,即所谓的私域服务。与公域、通用域不同,私域问题的聚焦度更集中,提供的专业深度更强,对数据的要求也更高。这些都是未来比较早的布局,团队也具有一定的优势。谈及大模型的安全风险,他指出,AIGC特别是ChatGPT出现以后,安全问题越来越严重。大模型本身可能会对Prompt Injection(一种攻击技术)攻击风险,加入少量编辑就会被误导,同时也存在数据泄露的风险,ChatGPT会把很多隐私数据上传。现在还出现了用AIGC技术来提升诈骗手段,通过虚假内容来实现黑产攻击,包括代码生成实现网络攻击。而且生成的虚假内容本身是不良的,存在误导性和欺骗性。“此外,算法本身是否存在政治偏见和数字鸿沟,数据采集的过程中会不会侵犯知识产权,这些在大模型时代都在变得越来越重要和受关注。”因此,国家对人工智能相关治理非常重视,近期发布了一系列重要规定和法律,包括《AIGC服务管理办法(征求意见稿)》《深核管理规定》等等。那么,究竟有哪些思路和尝试可以解决这些问题?朱军认为,首先是从通过基础理论研究突破、提高内在安全性能来持续构建第三代人工智能。从人工智能基础尝试,针对深度学习、深度神经网络,学术界一直在探索第三代人工智能新范式,希望能够将数据和知识有机融合在一起,发展更加安全可靠的人工智能框架。其次是不断提升大模型安全评测能力。主要关注对抗攻击评测、角色扮演与诱导欺骗评测、混淆指令欺骗评测等方面。三是构建人工智能安全治理有效工具——人工智能安全靶场。前期团队对此做了探索,包括人工智能本身的安全平台,安全评测、防御和整个态势的评估,包括对抗样本这些场景,可以通过平台化方式,对人工智能的算法和服务进行评测。而特殊专业的应用场景,可专门针对对抗样本检测,伪造视频检测等等进行防护,即人脸识别的防火墙,现在金融行业也在部署和应用。
标签:
相关阅读
推荐阅读
-
【短讯】清华大学朱军:ChatGPT出现后安全问题越
【短讯】清华大学朱军:ChatGPT出现后安全问题越发严重需不断提升大模更多
2023-07-04 21:03:19
-
【环球播资讯】【短讯】“减肥神药”需要长期服用
【短讯】“减肥神药”需要长期服用?行业警告美国医保体系可能难承其重更多
2023-07-04 21:07:41
-
环球报道:【短讯】阿里辟谣重组传闻概念股行情或
【短讯】阿里辟谣重组传闻概念股行情或一日游地产板块内部分化博弈加剧更多
2023-07-04 20:13:27
-
全球观焦点:【短讯】伊朗成为新成员 上合组织正
【短讯】伊朗成为新成员上合组织正式成员国增至9个。新闻资讯提供最新更多
2023-07-04 20:00:32
-
【短讯】上海二季度大宗交易规模翻倍 长租公寓成
【短讯】上海二季度大宗交易规模翻倍长租公寓成交占比首次超过商业。新更多
2023-07-04 19:58:13
-
【短讯】许家印:广州恒大足球俱乐部的目标是今年
【短讯】许家印:广州恒大足球俱乐部的目标是今年保级、明年冲超。新闻更多
2023-07-04 20:02:17
-
【短讯】医保谈判规则超预期 创新药板块大涨!多
【短讯】医保谈判规则超预期创新药板块大涨!多款产品将首次参与谈判。更多
2023-07-04 19:00:53
-
快资讯:【短讯】英伟达又一笔投资曝光 收购初创
【短讯】英伟达又一笔投资曝光收购初创企业布局大模型轻量化。新闻资讯更多
2023-07-04 18:01:33
时尚热图
热门标签
精彩放送
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
07-04
-
今日必看
-
精彩话题
-
最新见闻
- 消息面暂暖 A股带量上涨_新要闻
- “港车北上”政策落地,预计约45万名香港车主获益|天天视点
- 六十日线附近需耐心_当前速看
- 世界球精选!国家气候中心:今年盛夏我国气候状况为一般到偏差,极端天气气候事件偏多
- 创意信息携手华为存储发布国内首个多主架构数据库解决方案-每日短讯
- 供需两端双发力 促进电影市场持续回暖|热门
- 打回身价!大洛在湖人拿2260万再底薪入鹿 今夏签2年4800万_焦点关注
- 环球微速讯:独家述评|实实在在的民心工程
- 键凯科技:目前盘锦产能仍在带溶剂调试阶段 仍按原定计划于三季度初开始试生产
- 国家发改委主任郑栅洁:统筹好传统产业转型升级和新兴产业培育壮大
- 国家发改委主任郑栅洁:做实做强做优实体经济 创造一大批高质量的就业岗位-今日热门
- 国家发改委主任:坚定实施扩大内需战略 全面促进消费 每日观点
- 全球快消息!国家发改委主任郑栅洁:加快建设现代化产业体系 打造完整而有韧性的产业链供应链
- 芝士最简单做法(芝士最简单做法 无烤箱)|每日速递
- 6月地方政府债共发行224只 当前消息
- 天天快讯:两连胜!中国女排逆转美国女排,夺第4顺利晋级,蔡斌长舒一口气
- 今年北方这轮高温是否比往年来得早、来得猛?国家气象中心回应|全球热点评
- 浙商证券给予致远互联买入评级,致远互联事件点评:协同办公智能化加速,信创领域持续深耕
- “N豪恩汽电”盘中临时停牌 关注
- 各地持续优化对农服务 加大科技投入守护“大国粮仓”
- 当前报道:风机润滑系统龙头盘古智能开启申购 液压系统拓展打开新增长曲线
- 秋天开车车窗起雾(秋天开车车内有雾怎么办)
- 国家气候中心:今年盛夏我国气候状况为一般到偏差,极端天气气候事件偏多
- 热资讯!槟榔一般嚼多久吐掉_槟榔嚼太久好吗
- 【当前热闻】“今天,我们三个小熊友过生日啦!”
- 全球观热点:市场短期有望保持上涨势头
- 海南离岛免税新政实施三年销售额超1300亿元 全球时讯
- 要闻速递:日久光电:公司的下游客户主要是消费电子、车载、商显等应用的触控面板厂商
- 环球动态:香港证监会行政总裁梁凤仪:互联互通机制有序开通、扩展优化的方式行之有效
- 卓创资讯:暂时未能看到猪周期拐点 生猪价格大概率继续震荡磨底
- 当前滚动:中比新能源发布首款“臻钠E1”车规级大圆柱钠离子电池
- 人民币 大消息!
- 南沙跨境贸易投资高水平开放试点累计业务规模已超200亿美元
- 辽宁省沈阳市发现一例猴痘病例
- 大金国是怎么灭亡的_大金国 新消息
- 【世界热闻】19种涨、25种降!6月下旬重要生产资料市场价格出炉
- 【天天速看料】达嘉维康控股子公司拟收购银川美合泰100%股权
- 每日快看:有没有光模块配件产品?金杨股份:公司不生产此类产品
- 中集SOE订单排至2026年 总在手订单金额近65亿元-全球观焦点
- 环球百事通!天风证券给予新澳股份买入评级 羊绒品牌形象升级 有望开启第二成长曲线
- 出口管制!云南锗业:无法判断影响程度 出口占比不到四分之一
- 环球热门:中国气象局:6月份我国暖干气候特征突出
- 环球资讯:财政部、中国证监会:对会计师事务所从事证券服务业务信息披露作出规定
- 日本东京大楼爆炸瞬间:门窗和大量碎片飞出,有人高喊“快逃”
- 环球快资讯丨注意防范!万州、巫山、云阳、巫溪发布暴雨红色预警
- 河南一车辆在漫水桥被洪水冲走5人落水,官方:仍有4人失联
- 刚刚,微信大消息!人民币大消息!又一板块狂掀涨停潮
- 骨干教师的申请书(通用3篇)
- 三国诸将录平民阵容搭配,平民阵容推荐
- 达嘉维康: 控股子公司收购银川美合泰医药有限责任公司100%股权 消息
- 重庆出现入汛以来最强降雨过程
- 公安部:关停或禁言造谣传谣网络账号1万余个 依法查处造谣传谣网民_全球速看
- 用人需求超46.6万人!“百日千万”专项行动推出4个线上招聘专场
- N豪恩上午收盘涨111.16% 半日换手率74.35%|天天看热讯
- 当前视点!键凯科技:公司已支持的豪森制药的聚乙二醇洛赛那肽项目即为此类药物
- 锌业股份:向实控人旗下公司定增募资不超5亿元申请获证监会同意注册批复
- 今日上市:豪恩汽电 当前速讯
- 温氏股份:猪肉价格下跌对公司业绩影响较大 但出栏节奏稳中有升
- 每日速讯:金信民兴债券基金:恢复办理C份额大额申购业务
- 北方地区高温天气将再度来袭 三部门联合部署高温防御工作 全球热点评
- 2022年全国教育经费总投入超六万亿 职业教育涨幅最大-天天微资讯
- 新民快评|理性看待“慢就业”|新动态
- 渣打:大湾区企业信心预期指数至两年内次高 复苏势头保持坚韧
- 当前视点!15股主力资金净流入超1亿元 新易盛、比亚迪净流入超3亿元
- 重庆大部地区大到暴雨 多条河流超警超保
- 7月4日焦作增氟氢氟酸价格暂稳 世界看点
- 热点在线丨中远海控涨超4% 运输ETF(159683)飘红丨ETF观察
- 中国第 2000 万辆新能源汽车正式下线
- 观热点:夏粮旺季收购进展顺利 全国主产区累计收购小麦约500亿斤
- 国家卫健委:我国应急医疗体系初具规模 世界热资讯
- 环球新消息丨江浙两省用电负荷突破1亿千瓦,比去年分别提早19天、8天
- 迈赫股份:公司是一家专注于为用户提供高端智能装备系统、智慧物联系统、系统化设计服务的高新技术企业
- 强降雨致万凉铁路桥梁部分垮塌 运营受影响|热点聚焦
- 每日动态!中国气象局:7月或有1至2个热带气旋登陆或明显影响我国
- 业界:央行货币政策委员会二季度例会进一步加大稳增长力度
- 万达电影上半年扭亏 非票房收入继续拼-速看料
- 环球简讯:迈赫股份:公司目前与小鹏、蔚来尚未建立合作关系
- 众源新材:公司定增尚在推进中 全球独家
- 万里股份:公司重大资产重组已经终止-天天报道
- 重庆大部地区大到暴雨 多条河流超警超保|环球快资讯
- 中国女排主帅蔡斌回应质疑:有议论很正常,但我坚定自己
- 山东警方通报女辅警对市民做出过激言行:调岗并配合调查
- 网恋女子深陷“温柔陷阱”被骗80万元,徐汇警方破案发现兄弟俩共同扮演“多金男友” 天天精选
- CPO概念股持续走强 长光华芯、新易盛涨超9% 每日热闻
- 全球今头条!HUGEROCK X7高亮屏2600nit,硕腾卓越工艺!
- 环球观速讯丨随时办!大庆市实现企业设立“7×24”小时不打烊服务
- 强降雨致万凉铁路桥梁部分垮塌 运营受影响-世界速看料
- 工信部总工程师赵志国会见纳米比亚信息和通信技术部部长佩亚·穆舍伦加_天天热点评
- 可转债市场首个退市整理期敲定 市场风格分化明显
- 天天快播:生物科技板块个股早盘普遍调整 招商中证生物科技主题ETF跌超1%
- 【盘中播报】房地产行业跌幅最大
- 【环球播资讯】宝山发布高温黄色预警,最高气温将超过35℃!
- 汇中股份与Avnet Asia Pte Ltd.签订《战略合作协议》 环球实时
- 国内汽车智能驾驶感知系统龙头豪恩汽电成功上市:技术领先、经营稳健,募资提升核心竞争力|焦点精选
- 渝农商行:二季度部分条线业务利率水平边际回升
- 北京口岸6月出入境旅客量突破88万 再创今年单月出入境客流量新高
- 中船特气拟约4.89亿元投建年产150吨高纯电子气体项目
- 消费电子温和恢复 关注AI创新机遇-环球微头条
- 打击整治网络谣言!公安部公布第二批10起典型案例-当前速递
- 战高温保供电 应对今夏用电高峰