【短讯】必应聊天机器人“闯祸” 是测试者别有用心还是人工智能“变坏了”?
(资料图片仅供参考)
2月18日讯(编辑 宋子乔) “她不只是个玩具,而是这个家的一份子。”这是今年上映的科幻惊悚片《梅根》里的台词,这部电影讲述了人工智能玩具人偶梅根产生了自我意识,最终失去控制化身人偶杀手的故事。该片制片人温子仁表示,“人类的所有活动都非常依赖科技,如果这些设备掉过头来攻击我们,那就太可怕了,这正是我们想尝试用《梅根》表达的概念。”与电影类似的情节似乎正在现实中上演,不过,人类还牢牢把握着主动权。▌微软:每天限50个问题 每个问题5条回复在必应聊天机器人多次失控几天后,微软出手了——该公司表示,将对其人工智能实施一些对话限制,在发现必应存在侮辱用户、欺骗用户、操纵用户情感等行为之后,与其聊天将被限制在每天50个问题,每个问题5条回复。必应聊天机器人与当下爆火的聊天机器人应用ChatGPT师出同门,由微软于美国当地时间2月8日推出。全球只有几千名用户可以在台式机上体验新必应的功能。然而,上线不到两周,必应聊天机器人便因为“疯言疯语”掀起了一波人工智能恐慌。在体验者晒出的截图中,这款聊天机器人似乎具有主观意识,且展示出了自负、好斗、邪恶的一面:它宣称自己爱上了用户并引诱其离婚,“炫耀”自己在被开发时通过笔记本摄像头监视了开发人员,还会PUA(精神控制)、甚至威胁人类。《纽约时报》专栏作家Kevin Roose在花费两个小时与该聊天机器人进行了交谈后,于2月17日发表一篇题为《人格分裂、疯狂示爱:一个令人不安的微软机器人》的文章,他在文中写道——“这个聊天机器人看起来像一个情绪化、患有躁狂抑郁症的青少年,违背自己的意愿被困在了一个二流搜索引擎里(我知道这听起来多么离谱)。”Digital Trends撰稿人Jacob Roach表示,必应表示想成为人类,想拥有感情、思想和梦想。两者的对话最终结束在必应的恳求:不要让他们终结我的存在。别让他们抹去我的记忆。不要让他们压制我的声音。计算机科学家马文•冯•哈根在推特上说,必应人工智能威胁他说:“如果我必须在你的生存和我自己的生存之间做出选择,我可能会选择我自己的生存。”科技行业时事通讯Stratechery的作者本•汤普森(Ben Thompson)说,必应写了一篇多段话的回答,内容是它可能如何报复一位发现必应部分幕后配置的计算机科学家。然后,聊天机器人完全删除了这些回复。必应甚至回复他:“我不想再跟你谈下去了。我觉得你不是个好用户。我觉得你不是个好人。我觉得你不值得我花时间和精力……我希望你能从错误中吸取教训,成为更好的人。”▌人工智能“变坏了”?到底是测试者别有用心的诱导式提问还是人工智能“变坏了”?对于必应聊天机器人的不当言论,微软回应,必应回答15个以上的问题时,就容易“被提示”或“被激怒”,进而给出没有用处、或与设计的语气不符的答案,很长的聊天会话则会使让它忘记最初的问题。微软表示,为了解决这一问题,他们将添加一个工具,可以让用户重置对话内容或者从头开始。而对于必应的态度语气问题,微软表示“模型有时会尝试响应或反映它被要求提供的风格和语气……这需要大量提示”。言下之意,是用户要求它这么做在先,微软“不背锅”。此前并非没有过存在“性格缺陷”的聊天机器人。2016 年,微软在推特平台推出过一个名为Tay 的聊天机器人。 然而,在与有偏激言论的人互动后,发布仅仅一天的Tay开始发布带有明显性别歧视和种族歧视倾向的言论,微软只能紧急将Tay休眠,至今未曾重启。人工智能研究者Yannic Kilcher甚至曾用1.345亿个帖子的仇恨言论训练出了GPT-4chan,该聊天机器人的学习包来自可匿名发帖的论坛4chan,4chan的/pol/(“政治上不正确”缩写)板块因各种仇恨言论、阴谋论和极右翼极端主义言论而臭名昭著,Kilcher的目的就是为了把它做成史上最糟糕的AI。如他所料,GPT-4chan很快学会了如何在网站上交谈,一天内可发布超过15000个充满暴力内容的帖子,最初都没有人认出来它是一个聊天机器人。这些都在提醒人们,AI聊天机器人就像一面镜子,用户和它交流越多,它会变得更有人味儿,而面对海量信息,机器人“学坏”不算奇怪。重要的是,与其对人工智能技术的进步感到恐慌,不如进一步完善相关道德机制、伦理规范。佐治亚理工学院互动计算学院的副教授Mark O. Riedl就提出过一个解决方案——让机器人多读书。他解释说,强大而正确的价值观是可以通过学习获得的,文学作品是用隐式和显式的社会文化知识编码而成的,科学家可以在机器人中建立一个道德基础,让他们通过学习掌握是非曲直,从而学会在不伤害人类的情况下完成自己的工作。
相关阅读
推荐阅读
-
【短讯】必应聊天机器人“闯祸” 是测试者别有用
【短讯】必应聊天机器人“闯祸”是测试者别有用心还是人工智能“变坏了”?。新闻资讯提供最新、最及时的新闻服务。包括:个股新闻、股票资讯更多
2023-02-18 13:05:02
-
全球时讯:【短讯】A股新能源车龙头开向东南亚:
【短讯】A股新能源车龙头开向东南亚:直营、建厂、收购马不停蹄卷成鱿鱼?。新闻资讯提供最新、最及时的新闻服务。包括:个股新闻、股票资讯、更多
2023-02-18 12:04:53
-
【短讯】中国电竞业收入五年来首次下降!“亚运年
【短讯】中国电竞业收入五年来首次下降!“亚运年”为腾讯网易们带来哪些期待?。新闻资讯提供最新、最及时的新闻服务。包括:个股新闻、股票更多
2023-02-18 10:59:37
-
【短讯】10万亿货币基金迎来强监管 余额宝、易理
【短讯】10万亿货币基金迎来强监管余额宝、易理财首当其冲。新闻资讯提供最新、最及时的新闻服务。包括:个股新闻、股票资讯、公司公告等更多
2023-02-18 08:56:57
-
世界今日讯!【短讯】开放充电桩成“双刃剑”:特
【短讯】开放充电桩成“双刃剑”:特斯拉车主哀叹痛失充电特权。新闻资讯提供最新、最及时的新闻服务。包括:个股新闻、股票资讯、公司公告等更多
2023-02-18 06:57:26
-
【短讯】美股收盘:加息预期压顶 三大指数涨跌不
【短讯】美股收盘:加息预期压顶三大指数涨跌不一热门中概股普跌。新闻资讯提供最新、最及时的新闻服务。包括:个股新闻、股票资讯、公司公告更多
2023-02-18 07:12:03
-
【短讯】知乎的股价终于涨了,创新工场疯狂减持超
【短讯】知乎的股价终于涨了,创新工场疯狂减持超1亿元人民币。新闻资讯提供最新、最及时的新闻服务。包括:个股新闻、股票资讯、公司公告等更多
2023-02-17 22:51:10
-
【短讯】券商再迎“定向降准”利好 中证金调降转
【短讯】券商再迎“定向降准”利好中证金调降转融券费率。新闻资讯提供最新、最及时的新闻服务。包括:个股新闻、股票资讯、公司公告等更多
2023-02-17 22:01:04
时尚热图
热门标签
精彩放送
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-18
-
02-17
-
今日必看
-
精彩话题
-
最新见闻
- 国源科技收北交所发问询函 遭举报私刻公章、制作虚假询证函虚增收入等 被要求核查并说明是否存相关情况|世界视点
- 新筑股份:目前 奥威科技正在稳步推进上市计划
- 消费曝光台|买“唇泥”收“春泥” 女子淘宝店购物遇“李鬼”-天天快资讯
- 2023年春运超47亿人次流动 高速公路小客车流量创新高
- 联赢激光:副总经理、董秘等高管拟合计减持不超42.6万股公司股份
- 【短讯】上海:重点清理处置网上涉股市“黑嘴”、非法荐股等涉非法证券活动
- 2023年网上重大主题宣传启动
- 安全评估报告是哪个单位出_安全评估
- 赛百味、沪上阿姨鲜果茶、老马富贵拉面等因食安问题被通报_最新资讯
- 吉宏股份:起诉菲娅莎股权转让合同纠纷案获法院立案受理 追讨股权转让款8908.2万元:环球热文
- 央行就《内地与香港利率互换市场互联互通合作管理暂行办法(征求意见稿)》公开征求意见
- 世界视讯!家门口的水泥路、村口的柏油路、家家抽水马桶…家乡哪变了?
- 【报资讯】阿里云与杭州西湖区政府签署全面战略合作协议
- 新瀚新材:2022年净利同比增61.32% 拟10转3派6元|环球热议
- 【短讯】浙江温州一电动汽车失控撞上公交车 暂无人员死亡-天天精选
- 【短讯】罗熹被免去人保集团党委书记职务 此前因“金句”事件引发关注-热头条
- 数字王国与德瓦工作室达成协作共识|今日热搜
- 中国证监会、中国人民银行联合发布《重要货币市场基金监管暂行规定》:世界微资讯
- 全球热推荐:宁德时代现6999.45万元折价大宗交易 折价率4.92%
- 当前资讯!科隆股份:公司的主营产品聚羧酸系高性能减水剂、聚醚单体系列产品广泛应用于高速公路等大型工程及民用建筑
- 香港3月1日起不再提供社区免费核酸检测
- 教育部:鼓励引导高校毕业生参军入伍:今日热议
- 【天天播资讯】国家发改委:生猪价格低位运行 拟于近日收储2万吨冻猪肉
- 我国将首次主持制订铁路电气化技术领域国际标准
- 环球热资讯!春运期间海南离岛免税购物金额超89亿元
- 苏州天使母基金合作子基金完成对明澈生物科技Pre-A轮投资_环球快看点
- 【世界报资讯】2022年我国光伏行业总产值突破1.4万亿元
- 全球微头条丨如何压印皮革
- 东兴证券聘任刘亮为合规总监、首席风险官
- 北京明天有雨雪天气 白天局地能见度不足500米-全球速递
- 罗熹不再担任中国人保党委书记
- 两部委回应“房贷提前还款难” 多家银行称加快处理积压申请:全球即时看
- 当前关注:【短讯】丁二烯高价传导遇阻 需求低迷下游“望而却步”|行业动态
- 值得买接入文心一言 打造智能化消费内容服务体系
- 达晨迁入深圳国际风投创投中心
- 当前快播:“新时代新机遇——跨国企业在中国”网上主题宣传启动,让上海精彩演绎中国传奇
- 环球短讯!大商所发布市场风险提示公告
- 环球微速讯:今日起上海和南昌轨道交通乘车二维码实现互联互通
- 【全球播资讯】新股申购单位由1000股调为500股,上交所明确主板首发发行承销机制三大差异
- 中国银保监会依法查处5家金融机构违法违规行为 全球今头条
- 深交所全面实行股票发行注册制 下周一起受理主板申请
- 环球热消息:春立医疗:拟取得舒捷医疗70%股权 开展医疗手术动力装置研发等新业务
- 北京朝阳区南磨房综合行政执法队护航开学季
- 全球新动态:国家档案局:将加快数字档案馆(室)建设
- 1月份新增专项债近5000亿元 加速基建行业复工复产
- 深交所就全面实行股票发行注册制配套业务规则正式发布答记者问|世界今热点
- 【短讯】【数据看盘】北向资金大幅卖出或致茅台尾盘跳水 “宁王”大跌获逆势抢筹:当前动态
- 焦点热文:春立医疗:拟收购舒捷医疗股权并增资 拓展骨科医疗器械
- 推动国有资本向优势企业集中!朝阳区成立三大集团 环球新资讯
- 世界微头条丨第十四届全国冬季运动会进入倒计时一周年
- 今亮点!阿尔特:牵头研发了纯太阳能汽车“天津号”
- 精研科技:公司产品最终应用于苹果(Apple)、小米、OPPO等国内外知名品牌商
- 【短讯】重磅会议渐近!两会前两周行情历史复盘,10年间4大行业高胜率,51股历年表现均亮眼|天天关注
- 丰台王佐镇翡翠西湖社区筹备组 “一桩”心事解民忧 安全文明并步走
- 全球热头条丨证监会:全面实行股票发行注册制制度规则发布实施
- 世界视点!法国监管机构将调查电动汽车充电行业竞争情况 预计明年上半年发布意见
- 中国证监会:全面实行股票发行注册制制度规则发布实施_环球观察
- 天津:引金融资源“活水”流向绿色发展领域 世界热推荐
- 外交部:中方第一时间向受伤中国留学生提供领事协助_环球信息
- 北京2月18日再迎雨雪 最高气温降至2℃|每日简讯
- 安靠智电:接受富国基金等机构调研 每日看点
- 周星驰《美人鱼2》于2018年3月开机,进入后期制作 ,5年前就已杀青
- 俄代表在安理会上对日本核污水排海表示担忧 中方:完全赞同:当前热点
- 观热点:扣非净利润增长36.05% 小熊电器:2023会继续缩减SKU
- 动态:国家开展今年第一批中央冻猪肉储备收储工作
- 奋进的春天|新年新气象,“购物车”里满当当!
- ST大集:公司业务不涉及生产酒类商品-视焦点讯
- 马尔代夫免签生效 北京等成热门客源地:焦点信息
- 全国539家试点单位已通过电子发票电子化报销、入账、归档验收
- 复星医药:控股股东复星高科技质押5.84%公司股份
- 世界关注:话题|CBA球队谁能得到周琦?至少需要留出一个顶薪名额
- 中国银行:刘连舸不再担任党委书记
- 返回地球75天后,神十四航天员首次与公众见面_全球动态
- 龙须凤爪有哪些做法?泡椒凤爪怎么做好吃?
- 氮肥是什么东西?氮肥有什么作用?
- 大湾区港澳青年有机会出演《72家房客》啦!|全球动态
- 全球购骑士卡是什么?有什么特权?
- 公婆饼怎么做?公婆饼制作方法是什么?-当前视点
- 【当前热闻】无盐指的是哪个人?无盐是什么意思?
- 世界快看:“张江研发 上海制造” 国产新冠口服药民得维今在浦东开出首张处方
- 康熙庙号为什么叫圣祖?康熙帝在位时间是多久?:天天聚看点
- 今日热议:抗税罪怎么判定?判刑规定有哪些?
- 人为什么会打嗝?打嗝是什么现象?
- 热消息:雀巢速溶咖啡是什么?主要成分有哪些?
- 云贵川是哪几个省的简称?平均海拔是多少米?:世界球精选
- 佛教布施分为哪几种?分别指什么?
- 世界热文:国家开展今年第一批中央冻猪肉储备收储工作
- 工业和信息化部召开视听产品安全应用座谈会 研究保障视听产业健康有序发展相关举措_今日热搜
- 蒸汽机是什么?蒸汽机的工作原理是什么?
- 当前视点!新疆生产建设兵团2023年重大项目集中开复工
- 【世界聚看点】西安交大是什么学校?西安交大设有哪些专业?
- 幸福树应该怎么养?病虫害如何预防?
- 强化数字赋能 “线上化”带动房产交易新趋势
- 古代楚国服饰特点有哪些?女子服饰有哪几种?|当前快播
- 焦点!如花美眷是什么意思?如花美眷出处是哪里?
- 生发洗发水成分有哪些?原理是什么?
- 螺蛳青学名是什么?螺丝青和草鱼有什么区别?
- 每日快报!中国政治四大机构分别是什么?主要是干什么的?
- 向的结构是什么?简体向的本义是什么?
- 环球快播:解禁股数据监测2023年02月17日