【短讯】直击2023WAIC|上海市数据科学重点实验室主任肖仰华:要兼顾大模型的监管和发展 利用大模型自身能力来保护隐私
(资料图)
7月9日讯(记者 李明明)数据安全是数据要素市场活跃发展的重要基石,隐私计算作为数据要素安全领域的关键技术之一,是支撑各个行业数字化转型工作的最底层技术。在“2023WAIC数据要素与隐私计算高峰论坛”上,复旦大学教授、上海市数据科学重点实验室主任肖仰华,就当前隐私计算面临的突出问题等课题,带来了最新的前沿思考。肖仰华指出,大模型,尤其是生成式大模型发展起来后,对隐私带来了前所未有的挑战。本来,隐私问题还是原来的问题,比如隐私的泄露、版权的侵犯。为何现在变得比较突出?主要还是源于大模型本身是大规模参数化的。本身规模巨大,数据来源多样,所以隐私计算保护非常困难。而且生成式大模型往往是从海量的语料当中随机拼接和概率化的生成,所以传统意义上隐私侵犯的认定,在大模型时代就会失效,在侵犯的识别上比较困难。“大模型是基于深度神经网络Transformer的架构,本质上是黑盒模型,所以到底习得了什么样的知识和能力,现在还都是一个黑盒,这对隐私保护是非常困难的。”肖仰华指出,在应用中保护用户的隐私,需要建立起系统性的防范体系。首先从用户角度来说,一定要建立起对大模型隐私的安全意识。要充分意识到在使用大模型过程当中,个人的数据有可能被服务方所收集,从而可能会泄露隐私。其次,从提供大模型服务的厂商角度来说,应该要提升服务的规范性,要给用户充分的知情权,要在用户完全授权的情况下,在合理范围内收集用户相关的使用数据,不应该超出用户授权的范围,这是技术之外的因素。从技术本身来说,将来可能会有一些保护的中间层,这些中间层来自于很多用户的查询或者是使用,并可以混淆、打乱信息,此时平台方就无法知道哪些用户在查哪些私密信息。传统的手段在大模型应用方面还是有一定的适用性。隐私计算接下来如何发展?肖仰华认为,在大模型时代,隐私计算迎来了全新的机遇。在不可控、不可编辑、难以解释的大模型环境下,传统方法如何进行发展,这既是挑战,更多是机遇。“我觉得大模型的发展要兼顾监管和发展,不能盲目发展,让大模型变成脱缰的野马,但也不能一管就死,要把握好尺度。要建立起大模型发展的安全底线、伦理标准和一些合规的规范。生成式大模型在生成过程中,对生成的内容要建立起合规的规范,比如说内容是否涉政涉黄,在敏感内容的规范方面,国家部门已经推动了相关的法规。”此外,在他看来,大模型的合规性上,一定要从数据源头上去解决。比如训练大模型的语料数据本身有没有问题,这些数据有没有版权和隐私侵犯?所以要加强对语料术语的认证。很快就会有机构去从事相应的工作,对大模型语料的合规性加以验证。有关部门也会出台相关的法规措施,来推动语料的合规性认证和规范。他补充,在大模型隐私保护方面,还有一条很重要的路径,即利用大模型自身能力来保护隐私。由于大模型能力很强,可以识别出语料当中哪些内容是可能侵犯隐私的,可以用来保护用户的隐私场景,利用大模型来清洗隐私问题,或者利用大模型对生成结果进行评估。即一方面解决隐私问题,另一方面也要充分利用大模型能力来解决隐私问题。
标签:
相关阅读
-
07-09
推荐阅读
-
【短讯】直击2023WAIC|上海市数据科学重点实验室
【短讯】直击2023WAIC|上海市数据科学重点实验室主任肖仰华:要兼顾大更多
2023-07-09 15:56:33
-
【短讯】乌克兰国防部承认实施对克里米亚大桥的袭
【短讯】乌克兰国防部承认实施对克里米亚大桥的袭击。新闻资讯提供最新更多
2023-07-09 14:56:39
-
【短讯】港股IPO周报:血液专科医院陆道培医疗再
【短讯】港股IPO周报:血液专科医院陆道培医疗再度递表慧居科技结束招更多
2023-07-09 14:10:48
-
【短讯】海南三江监狱罪犯被违法减刑,4名司法人
【短讯】海南三江监狱罪犯被违法减刑,4名司法人员涉职务犯罪被起诉。更多
2023-07-09 13:00:55
-
【短讯】日本市民团体反对核污染水排海:政府的说
【短讯】日本市民团体反对核污染水排海:政府的说辞是谎言。新闻资讯提更多
2023-07-09 11:52:40
-
【短讯】银行理财行业大咖共议核心竞争力打造 建
【短讯】银行理财行业大咖共议核心竞争力打造建言树立多元大类资产配置更多
2023-07-09 10:50:11
-
【短讯】创投通:物流供应链数起融资上亿元 消费
【短讯】创投通:物流供应链数起融资上亿元消费IPO递表回归热闹。新闻更多
2023-07-09 10:01:01
-
【短讯】LP投资打水漂 GP要负多大责任?|一级市
【短讯】LP投资打水漂GP要负多大责任?|一级市场观察。新闻资讯提供最更多
2023-07-09 08:54:29
时尚热图
热门标签
精彩放送
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
07-09
-
今日必看
-
精彩话题
-
最新见闻
- 11部门联合部署开展论坛活动专项清理整治
- 第二次青藏科考队精确测量珠峰顶部积雪厚度9.5±1.2米
- 全球平均气温又双叒破纪录了!这里最高温已接近50℃!还会更热?
- 2023中国自然教育大会在穗开幕 广州获全国自然教育活力城市称号
- 倾情托举“夕阳红”——湖北襄阳加速推进老年教育办学网络体系建设
- 3-2!国足赢了!2次领先2次被扳平,武磊梅开二度+95分钟绝杀
- 宝鸡:扎实推动新时代文明实践工作提质增效
- 文一地产3.998亿元竞得马鞍山市优质地块
- 直击WAIC丨“无人车”上路:小马智行等三家企业获上海浦东首批无驾驶人智能网联汽车道路测试许可证
- 【短讯】直击WAIC2023|优必选科技熊友军:大模型将拓展人形机器人应用空间
- 升级B8整家全案 曲美家居品牌加速年轻化
- 蔡昉:刺激居民消费 户籍制度改革立竿见影
- 小巧便捷,专业好用:royalpod 如意R1三脚架
- 海南:实行师德考核评价“一票否决”!
- 【短讯】图说WAIC2023|32个重大产业签约总额达288亿元 发布大模型共计30余款
- 浦银安盛基金:有不法分子冒用公司信息进行非法证券活动
- 视频直击“创业奋斗·青耘吉林”2023年吉林省青年电商大会开幕
- 能源工程密集投产,迎峰度夏央企担当!
- 守护“奋斗的你” 中国太保产险肇庆中支这样行动
- 【短讯】游族网络毁约应届生:涉及少年、百川等工作室项目 高层人事变更余波?
- 中国移动副总经理高同庆:构建智能服务新范式 赋能时代产业新变革
- “百千万工程”珠海怎么干?黄志豪概括“百团大战”写好四篇“特色文章”
- 生产成本科目怎么设置(生产成本科目设置)
- 倒计时20天!成都大运会这部宣传片主打一个欢乐
- 科大讯飞与华为联合打造算力底座 持续推进星火大模型产业落地
- 四所高校接力!成都大运会火炬传递成都站第二个传递日开启
- 【短讯】直击WAIC2023|网易伏羲赵增:图文大模型只是生成式AI的起点
- 罗马诺:范德贝克尚未与罗马正式接触,他正寻求今夏离开曼联
- 文莱摩拉港—广西北部湾港集装箱航线首航
- 宿迁景点
- “AI+”涌现:无人机送货 小设备识假货……
- 平安银行贺斌:低利率持续下需要找到新的动能
- 【短讯】芯片寒冬抵不住碳化硅狂奔:三安光电等一众A股上市公司盯上8英寸衬底“死穴”
- 图知道|走出校园的那一刻,请带上大学校长的临别“锦囊”
- 【短讯】创新药降价之踵:医保续约谈判吹暖风 百济神州出海破内卷
- 国科大本科录取通知书里有“北斗七星”!
- 雪人股份:目前公司产品没有直接应用于减速器方面
- 瞄准汽车产业链 成都东部新区再发总投资500亿元机会清单
- 全球首套常温常压有机液体储氢加注一体化示范项目完成全流程贯通
- 去这颗“牛油果”里玩创新!上海青少年创新学院总部基地YSPACE正式开放
- 强华股份上海临港生产基地项目开工 建成后年产值预计达5亿元
- AI“模都”来了!上海发布大模型政策 重点支持研发具有国际竞争力的大模型
- 太好逛了吧!这份四平夜市地图快收好!
- 地球之巅积雪有多厚?中国第二次青藏科考精测为9.5米左右
- 【短讯】人形机器人打开精密齿轮市场全新空间!受益股一览
- 声动中国丨太过瘾了!“村超”加油
- 蓉宝、蓉光、蓉火 记者带你逛成都大运会博物馆
- 严控大拆大建 留住历史文脉 城市更新明确底线要求
- 李家超签署《2023年区议会(修订)条例》
- 提供“互联网+就业”不断线服务 护航毕业生求职之路
- 盐津铺子预计上半年净利润不低于2.4亿元
- 稳就业持续发力!教育部将为困难毕业生精准推送3个以上岗位
- 中原证券周建华:上半年A股市场“公募低迷、北向回升”
- 浙商证券:未来中药有望进入新产品驱动时代
- 本台短评:以高水平招商引资赋能高质量发展
- 全面推行培训机构从业人员准入查询制度 把好从业人员入口关
- WAIC 2023自动驾驶应用展示体验活动7月再现申城
- 【短讯】30+大模型亮相!行业大模型成WAIC“顶流” 应用生态建设“未完待续”|直击WAIC2023
- “塞外明珠”乌梁素海 百鸟翔集美景如画
- 古都文旅消费向深度沉浸式转变 新职业、新商圈、新产业链应运而生
- 今年上半年 我国新注册登记新能源汽车数量创历史新高
- 如何正确选择养老辅具系列报道③电动轮椅:速度快不能成卖点 ,基本代步功能优质是关键
- 向“绿”而行 “黔景”无限好
- 神奇的北纬39°|“杏中之王”成熟啦
- 灯带怎么安装方法视频(灯带怎么安装)
- 佳禾食品:计划将燕麦奶打造成主力产品
- 中汽协:删除《维护公平市场秩序承诺书》中涉价格表述,有违反垄断法精神
- 中信建投:预计人形机器人将会成为数万亿大赛道
- 开启通用人工智能新纪元!2023世界人工智能大会成绩单来了!
- WAIC 2023自动驾驶应用展示体验活动7月再现申城
- 银行业理财登记托管中心副总裁管圣义:财富管理应对客户进行精细管理
- @石景山居民,身边这些医疗机构可以预约“三伏贴”啦!
- 北京高考录取通知书寄递工作正式开启
- 中国移动发布两款人工智能行业大模型
- 充分利用黄河水资源 保障夏浇夏管工作有序开展
- 哈尔滨获得2025年第九届亚洲冬季运动会举办权
- 上海浦东发布产业数字化跃升计划三年行动方案
- 持续降雨诱发病虫害多发 农技人员现场“把脉”支招
- 【短讯】直击WAIC2023|红杉中国李俊峰:能源转型从资源依赖走向技术依赖,未来技术创新方向是高质量的算力和能量赋能
- 长兴横沙渔港码头外籍渔船入境数量及鲜活水产品数量均创历史新高
- 上海数据交易所总经理汤奇峰:构建大模型时代语料库数据生态 推动数据要素市场创新
- 11部门:重点整治打官方旗号举办“山寨”论坛活动等7种情形
- 上海人工智能研究院等三院所共同成立人工智能技术中心
- 广汽埃安:6月销量45013辆 同比增长86.7%
- 马上消费副总经理蒋宁:大模型将有效提升金融领域营销、运营等价值链效率
- 气温破40℃,福建福州发布高温红色预警信号
- 预测:全国GDP15强城市,深圳第3,武汉超越南京,郑州合肥落选
- 北京“两校一园”与雄安签订委托办学协议
- 国海证券给予苏文电能买入评级 公司报告:稀缺的EPCOS一站式电能服务商 光储充贡献新增长点
- 【短讯】西门子跌倒A股风机龙头吃饱?既有产品质量担忧也是出海黄金窗口
- 证监会:将稳步降低公募基金行业综合费率水平
- 【短讯】AI+机器人融合发展打开稀土磁材需求成长空间!受益股梳理
- 11部门联合部署开展论坛活动专项清理整治
- 中国平安管理层添员 43岁付欣升任副总经理
- 路博迈基金董事长、总经理变动
- 中国平安管理层添员 43岁付欣升任副总经理
- 衡阳市政府机关一幼儿园党支部开展“大手牵小手 安全伴我行”志愿服务活动
- 上海航交所:运输需求增长乏力 本周多数航线运价下行
- 【短讯】议价权增强、面板产业超预期增长!厂商称业绩将持续改善
- 【短讯】直击WAIC2023|中信集团展示全球首个无缝钢管数字孪生工厂 农业+AI构建“种谷大脑”