让人工智能技术头顶上高悬一把达摩克里斯之剑
- 商洛在线
- 2021-07-26 09:32:08
- 来源:科技日报
近几年,科技企业在推广新一代信息技术产品时,数据安全、数据隐私等问题广受诟病。数据作为驱动人工智能快速发展的重要基础,其安全也决定了人工智能的安全。人工智能的加速发展给数据的安全治理带来了新的机遇和挑战。
验证码登陆、移动在线支付、人脸识别门禁……
随着新一代信息技术的发展,互联网和人工智能技术应用蓬勃发展,数据也被视为一种无形的资产。然而,技术是一把双刃剑,在给我们生产生活带来效率提升的同时,伴随的安全问题也不可忽视。
近几年,科技企业在推广新一代信息技术产品时,数据安全、数据隐私等问题广受诟病。数据安全成为当今数字化转型时代的关键紧迫议题。
在7月8日至10日举行的2021世界人工智能大会上,数据安全、数据治理、网络安全等问题备受关注。业界认为,在人工智能深入推进城市数字化转型过程中,企业应积极主动接受监管,推动产业健康持续发展。
数据安全治理面临新的机遇和挑战
近日,桔视记录仪等25款App因存在严重违法违规收集使用个人信息问题,被国家互联网信息办公室依据《中华人民共和国网络安全法》相关规定,通知应用商店下架。
此前,在上海车展特斯拉车主维权事件中,特斯拉公布了维权车主车辆事发前半小时的行车数据。该行为引发了众多争议:车企该不该将行车数据公开?人们如何确定数据的可靠性?
没有大数据的收集和基础,人工智能是无本之木。数据作为驱动人工智能快速发展的重要基础,其安全也决定了人工智能的安全。人工智能的加速发展给数据的安全治理带来了新的机遇和挑战。
“大数据驱动业务的开展,让数据安全对城市运转变得前所未有的重要,数据一旦遭到攻击,就意味着业务会停转,将造成严重的经济损失和社会后果。”360公司创始人、董事长兼CEO周鸿祎表示,最近几年,360公司接到大量医院的报警,称医院网站被勒索软件攻击之后不能进行手术,不能给病人挂号看病。
近年来,城市也成为了网络勒索的重要目标,而且网络攻击的对象不仅限于电脑、手机、设备、系统,还逐渐扩展到数据。人工智能数据的获取、处理和应用具有极强的隐私性与领域扩展性,关乎个人信息安全甚至国家信息安全。对政府、城市公共事业单位的数据勒索,会造成城市运转和服务陷入停摆。今年5月,美国最大的燃油输送管线遭遇网络攻击被迫关停,导致美国东海岸45%的汽油、柴油等燃料供应受到影响。
业界认为,针对上述情况,要让人工智能技术的头顶上高悬一把达摩克里斯之剑。
数据输入、分析等过程都存在相应风险
数据非法跨境流通可能危害国家主权和国家安全;数字信息的过度采集和非法使用,可能侵犯公民的权利和隐私;算法的偏好可能加剧社会的偏见或歧视,威胁公平正义;无人驾驶汽车紧急避险等智能决策可能威胁特定人群的生命……
全国政协社会和法制委员会副主任陈智敏在人工智能大会安全高端对话上指出,人工智能发展与安全发展风险同时并存,这不仅是一个技术问题,也是一个安全问题,同时还涉及伦理、法律和国际规则等相关问题。
国家工业信息安全发展研究中心副主任何小龙在人工智能大会上表示,人工智能带来的数据安全问题一方面加速了传统数据安全问题。
人工智能大规模的运用使得过度采集数据安全问题进一步加剧。另一方面,也带来了新型数据安全的问题。人工智能的算法对数据具有较强的依赖性,可能会带来数据投毒等新型数据安全挑战。
算法、模型和数据构成机器学习三大基石。腾讯朱雀实验室首席AI安全专家朱季峰在人工智能大会主题论坛上表示,以算法构建过程中上下游的产业链来看,数据的输入、数据的分析、模型的训练、模型的决策、模型的上线部署应用以及模型的改造过程当中都存在相应的风险。
例如,在数据输入环节,如果攻击者控制了数据来源,或者攻击者能够对收集数据的设备本身产生安全攻击,最终将通过这个链条影响到算法模型。如通过超声波影响陀螺仪,最终可以使无人机坠落。或者在模型决策阶段,可以通过物理攻击,使得自动驾驶车辆最终视觉识别系统出问题,这样可能影响车辆自动行驶或者对行人的判断。
随着人工智能的应用,技术的滥用带来失控风险。验证码验证机制首当其冲。朱季峰介绍,早在2017年,地下的黑产就已经开始用机器学习的方法做二维码识别训练。资料表明,80%以上验证的准确性都可以通过机器学习算法自动完成线上的注册,这就产生了一系列的安全问题。
3大系统共筑数据安全防火墙
人脸识别技术依托于对海量视图数据的分析,因而数据安全直接影响着人脸识别技术的实战应用。人工智能技术在安防领域的应用是技术寻求落地进程最快、应用最早的训练场。
达闼创始人、董事长兼CEO黄晓庆表示,从数据采集到数据处理到数据传输,解决数据网络安全问题有很多手段。从网络和数据角度要完成三个重要的任务——物理隔离、网络隔离、应用端到端的保护。
除了技术,我国利用法律武器在数据立法上也做出了探索。
今年6月,我国颁布了《数据安全法》,9月1日将开始正式实施。《数据安全法》提出以数据分级分类为核心,搭建数据安全的监管制度,要求强化落实各级数据处理活动主体数据安全保护的义务与责任,为规范数据处理活动,保障数据安全提供法律依据。另外,《个人信息保护法(草案)》也即将进入三审阶段,两项法案相辅相成,推动我国个人信息保护和数据安全治理进入全新阶段。
在人工智能大会“大爱无疆·共生”论坛上,清华大学苏世民书院院长薛澜回顾人工智能治理模式历经回应式治理、集中治理和敏捷治理三个阶段。“现在我们进入了相对比较集中的治理模式。该模式明确了国家加强行业监管,促进制度落地的决心,对暴露出来的各种问题采取比较坚决的措施落实监管规则,同时触及到需要进一步研究的问题。”薛澜说。
目前,上海正研究立项公共场所人脸识别分级分类应用规范的地方标准,将成为全国首个立项的人脸识别的地方性标准;开展全市人工智能数据立法调研,规范数据确权,数据共享等重要内容,推动可信人工智能的研究。上海市人大也正在起草《上海市数据条例》。
此外,上海市数字证书认证中心、复旦大学计算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与应用安全国家工程实验室、上海赛博网络安全产业创新研究院共同发起筹建数字身份与数据流通信任技术实验室,该实验室将基于数字信任技术的产学研生态合作,开展隐私计算、区块链、前沿密码等数字信任技术攻关和产业应用,支撑城市数字化转型、数据要素市场构建和网络安全体系建设。
记者获悉,上海浦东新区将在数据资源共享、数据交易、数据开发利用等方面进行立法探索;临港新片区将试点开展企业法人数据的跨境流通的安全评估和服务监管,加强个人数据的全生命周期安全监控和防护。(记者 王 春)
- 在苏高校陆续公布招生方案:省内招生计划增加,新兴专业应运而生
- 世界看点:来吧,朋友!一起去江口“森”呼吸
- 世界观焦点:人民英雄纪念碑,铭记历史的不朽丰碑
- 水与健康知识讲座进校园
- 红线一点不破、创新一刻不停、改革一着不让,江苏做好耕地保护和节约用地大文章
- 【天天时快讯】拧紧燃气“安全阀” 江苏各地开展安全隐患排查
- 当前速递!中国石油天然气集团有限公司原副总经理徐文荣被查
- EDG输给RNG后,教练叉烧也来爆猛料,透露uzi在BLG是队霸-全球视讯
- 银行理财产品又开始“亏”了.....
- 焦点报道:上市公司发喜报:总经理女儿勇夺“高考状元”
- 永煤集团陈四楼煤矿:“清凉风”直接吹到工作面
- 市场 | 宁夏:加强风险隐患排查,文旅市场秩序良好-每日热门
- 当前视讯!河北科技大学在职研究生录取分数线是多少?
- 挥桨破浪!中国龙舟公开赛在贵州铜仁激情开赛 天天新要闻
- 【融媒体中心新闻播报】都匀:黄桃喜迎丰收
- 江苏兴化:为困境、留守儿童织密假期“关爱网”|独家
- 天天消息!“稻+”综合种养!遵义生态渔业提档升级
- 焦点报道:2023年广东汕头市第五期普通话报名时间6月26起 考试时间7月3日起
- 教育部发布2023年高考志愿填报十问十答 天天看热讯
- 世界即时看!鱼缸怎么翻缸消毒_鱼缸怎么翻缸
- 2023年上半年陕西商洛中小学教师资格认定体检及现场确认通知
- 2023春季河北武汉高中阶段教师资格认定网上报名审核结果公示
- 天天热讯:上市公司三达膜官微祝贺总经理女儿获高考单科状元 此前教育部已严禁炒作 律师:属不当披露
- 天天热文:2023上半年北京市延庆区第二次中小学教师资格认定公告
- 热讯:百姓看联播|体育消费 2亿元优惠
- 天天热资讯!2023年第4期福建泉州普通话考试时间7月28日起 报名时间7月10日起
- 天天速看:湖南省城市等级划分!长沙没有意外,二线再次空缺,常德升级三线
- 焦点讯息:这个端午,我们看到了什么?
- 每日精选:【网络中国节·端午】贵州沿河:百舸争流庆端午
- 百万医疗报销特效药吗?怎么报销特效药?
- 往来会计工作职责(会计工作职责)
- 6月25日《西安日报》速览 今日热搜
- 每日观点:新华社送你一本22城文化指南
- 天天资讯:济南红叶谷好玩吗多少钱(济南红叶谷好玩吗)
- 焦点速讯:山西加快焦化行业调整升级,年内将全面关停4.3米焦炉
- 【全球播资讯】端午假期甘肃排名前五热门景点均在兰州
- 紧盯目标 驭势笃行——甘肃文旅强省建设系列深度报道之靶向篇_速看料
- 颜值高、空间强、科技配置高,这台7万级家轿才是年轻人的菜-世界观点
- 6月25日西乌珠穆沁旗金田氢氟酸价格暂稳
- 《超激斗梦境》改动后变良心了?玩家评论:有点离谱了|世界即时
- 昭通市1名干部接受纪律审查和监察调查-今日看点
- 在圣保罗咖啡节感受咖啡文化 环球观天下
- 热搜第一!又要调休 这次是“休八上七”!|快播报
- 假期里徐州10万人次观影|天天观热点
- 连云港:加紧生产外贸产品
- 英文发音碧池是什么意思_英语 ldquo 碧池 rdquo 是什么意思
- 微视频|大地诗篇|焦点热文
- 全球关注:“发现乡村之美·十佳美丽村落”名单公布
- 世界观焦点:本台今天起开设专栏《警钟长鸣抓安全 人人事事讲安全》 警钟长鸣抓安全 人人事事讲安全丨宁夏各部门结合职能全面开展安全风险隐患排查整治
- 四川全面开展燃气安全专项排查整治
- 看谁收得多,比谁损失少!我省小麦机收减损活动掠影
- 环球即时看!700多个品种!第十届上海荷花睡莲展要来啦!
- 【聚看点】海南公布高考分数线:本科批普通类483分
- 【新疆哪个银屑病医院好点】牛皮顽癣用什么药
- 带您了解ADI高性能电荷泵解决方案 微头条
- 重点聚焦!“假期”变“工期”,按下“快进键”
- 博物馆里感受“方正之间的中华文明”
- 2023年广西中级会计职称报名入口
- 微视频|大地诗篇 全球微动态
- 焦点热门:假面骑士Tycoon武神剑形态数值曝光,防御力很高的最终形态,没有特殊能力的白板形态
- 全球最资讯丨南通:全力支持中小微企业纾困增产增效
- 环球今亮点!2023年江苏徐州中级会计职称什么时候报名及开通入口
- 关注:2023年宁夏中级会计职称报名入口
- 农村户口一次性补缴社保有要求吗?从两方面为您介绍
- 2023年江苏昆山中级会计职称什么时候报名及开通入口
- 泰州出台加快推动沿江港口高质量发展实施意见
- 世界热头条丨Win11删除9个文件夹功能引众怒!微软:不改了
- 2023年陕西中级会计职称报名入口
- 宝马 M3 旅行车终于来到欧洲-天天日报
- 一横四纵 四河连通 凉州区全速推进调蓄水池工程建设-环球要闻
- 弱水环流荡碧波 金色胡杨耀陇原 金塔擦亮全域旅游“金名片”-热资讯
- 武汉市少年儿童图书馆暑假开放时间公告 当前视点
- 2023武汉中小学生免费夏令营活动报名条件是什么
- 天天速读:成县五彩圣女果抢“鲜”上市
- 宁县小香包“绣”出致富大产业-世界微动态
- 俄将撤销对普里戈任的刑事立案 “瓦格纳”部队撤回野外营地
- 空气炸锅和烤箱的区别 微资讯
- 交易额3年增长近三倍!中国(梅州)跨境电子商务综合试验区建设成效初显
- 全球快资讯丨好消息!商运司新增一批新能源纯电动车上线运营
- A股遇上端午“劫”?不要被直觉所俘虏 弱市反而酝酿着高收益!“钟摆运动”正在底部|焦点报道
- 天天看热讯:江西省畜禽屠宰三年行动方案出台
- 查计划 读章程 预填表 早提交 再确认 填报志愿注意“五部曲” 环球今日报
- 这些高考信息,千万别在朋友圈乱晒!|天天热头条
- 空调上下风和左右风哪个凉快
- 猴中贵族黔金丝猴,这样的"山间精灵"你爱了吗? 世界滚动
- 全球热点!我国储粮新技术处于国际领先水平 “智慧粮库”让小麦“冻龄”
- “非遗民俗+传统文化”营造主客共享新空间 构建文化和旅游深度融合新场景 今日热议
- 商洛4个农产品获“国字号”品牌认证
- 构建“景区+村庄”联合机制 一方山水绘就增收致富新画卷
- 焦点!多地持续高温 专家提示科学预防重点人群中暑
- 正在公示!商洛这些学校拟获省级荣誉!|播资讯
- 苏州上海轨道交通互通 长三角核心城市加速深度同城化
- 买房贷款50万需要什么条件_环球今日报
- 【天天新要闻】宝武澳大利亚西坡项目在澳大利亚珀斯开业
- 公积金贷款买房可以写两个人的名字吗 天天新消息
- 环球热议:遇到这种虫子 千万别挤压!夏季外出应该怎样防虫
- 端午假期陕西消费市场持续火热 全球最资讯
- 炎炎夏日,来毕节这里解锁避暑新玩法! 微速讯
- IBM与软件公司Apptio就收购深入谈判 或50亿美元成交
- 进门墙怎么装饰好看
相关推荐
三氯蔗糖是什么糖 三氯蔗糖对血糖有影响吗?
聚焦 2023/04/23松茸为什么不能水洗 松茸学名是什么?
聚焦 2023/04/23北海是哪个省城市 北海有什么特色小吃?
聚焦 2023/04/23鱼缸用什么消毒杀菌好 鱼缸定期杀菌用什么药?
聚焦 2023/04/23海水盐度一般是多少 海水成分包括哪些?
聚焦 2023/04/23热门资讯 日 周 总
安徽省率先实现红托竹荪工厂化种植 助推食药用菌产业错位化高质量发展
健康 2022/09/05中山首个“港澳药械通”医疗器械获批 目前国内尚无同类产品
健康 2022/08/29辽宁省建立首批食品安全抽检专家库 化解食品安全风险隐患
健康 2022/08/192022太湖湾生命健康未来大会举行 无锡推动生命健康产业发展跃级
健康 2022/08/0862岁阿姨“捂出”热射病被送进ICU 免疫力低下人群更要注意这些
健康 2022/07/21暑期档全国电影票房破75亿 共有91部新片上映
节目 2022/08/16广东文艺院团积极寻求创作与市场全面“破圈” 激活高雅文艺演出“内循环”
节目 2022/08/02冯小刚新剧时隔25年重回小荧幕 多个话题均已实现阅读量破亿
节目 2021/07/14动画站上7月影市“C位” 吸引多家公司掘金
节目 2021/07/06人工智能等技术赋能 推动传统戏曲文化与表演创新
节目 2021/07/02我国短视频领域市场规模为2051.3亿元 同比增长57.5%
直播 2021/06/17TFBOYS吸金力也不容小觑 峰峻文化能否顺利运营还需一定的市场机遇
直播 2021/06/16打造自营电商 “美团小店”加码实物电商
直播 2021/06/08发力企业采购领域 京东申请注册京东工业商标
直播 2021/06/04全国已有345个城市包裹实现“半日达”
直播 2021/06/02推荐More
- 看谁收得多,比谁损失少!我省小麦机收减损活动掠影
- 【人人讲安全 个个会应急】全省重大事故隐患专项排查整治行动调度会议召开-天天时快讯
- 【我们的节日·端午】省消协发布端午节消费提示:绿色安全文明理性消费
- 世界焦点!【奋发有为 推动高质量发展】山西电力不断提升能源综合利用水平
- 【关注中高考】高考网上填报志愿具体时间出炉 全球热文
- 官网宣?山东泰山俱乐部官网已将孙准浩资料移除_观热点
- 热讯:什么是dsg变速箱(dsg变速箱的工作原理及特点)
- 端午假期,绿城文明旅游蔚然成风|世界热文
- 全球观焦点:甘肃7个曲艺项目亮相全国非遗曲艺周
- 热点在线丨这个端午假期 甘肃最热门景点在兰州
- 端午假期 兰州野生动物园迎来亲子游客流高峰
- 暴雨黄色预警:广西广东江西等地部分地区将现大暴雨 全球新资讯
- 多地持续高温 专家提示科学预防重点人群中暑 天天短讯
- 今明两天兰州市以阵雨转晴天气为主 出门莫忘带上雨伞 焦点快报
- 河南油田工会获省工会经审规范化考核特等奖 世界热门
- 射阳科创引擎激活发展新动能
- 江苏做好耕地保护和节约用地大文章
- 【人人讲安全 个个会应急】全省重大事故隐患专项排查整治行动调度会议召开-天天时快讯
- 太阳官方告别保罗:感谢保罗为菲尼克斯所做的一切_天天报资讯
- 上海教育考试院2023年上海高考成绩查询、查分系统入口-天天观点
- 突发!全球首例死亡病例! 焦点简讯
- 焦点报道:突破蛋壳,用心灵去呼喊
- 【世界报资讯】深圳信念文化发展有限公司(关于深圳信念文化发展有限公司介绍)
- 国产高性能SUV怎么样及第二代CX-5多少钱 全球微动态
- 江苏省2023年普通高考逐分段统计表公布|讯息
- 天天快消息!座舱体验升级/行政版后排体验更佳 蔚来全新ES8静态体验
- 今日热文:俄媒:俄南部军区位于罗斯托夫总部大楼已被“瓦格纳”包围
- 贵州体育类、艺术类最低投档控制分数线划定_世界看点
- 天天关注:贵州2023年高考分数线公布!一本文科545分,一本理科459分
- 贵州省2023年高考文理科最低投档控制分数线公布 消息
- 12.DWT(小波分解)_热推荐
- 焦点热文:暗黑破坏神4正义人偶怎么获取 支线任务攻略
- 全球观焦点:【武汉成交日报】06月24日新建商品住房成交58套
- 比亚迪:悄悄的OTA,打枪的不要
- 极摩客G2—最高扩展2TB,疾速开机 告别等待!
- 普里戈任称瓦格纳已控制罗斯托夫地区包括机场在内的军用设施
- 职业生涯规划涵盖了什么(职业生涯规划 职业的内涵是什么)
- 揭阳市东之星科技发展有限公司
- 天天时讯:无法安装打印机硬件_无法安装打印机打印机处理器不存在
- @安徽高考生,6月24日出成绩啦!查询方式在这里
- 网王之千灵千寻 网王之夜千冰
- 韩国200多艘渔船海上集结 抗议日本决定将福岛核污染水排海|环球快资讯
- 美媒文章:西方经济认知全面崩塌-每日视点
- 分析人士:军工复合体持续运转 美国进一步拱火俄乌冲突_全球新要闻
- 环球短讯!本田因后视摄像头问题在美国召回120万辆汽车
- 对我国会计法律问题的思考论文
- 今日讯!dota英雄装备合成列表_dota英雄装备
- 杜兰特:欧文哈登威少影响了一代人,某些人嫉妒我加盟勇士夺冠
- 每日热讯!0241是哪里的区号_0241
- 天天观速讯丨朱棣42岁登基,当了22年皇帝,嫔妃无数,为何没有子嗣?
- 北京滑雪场哪里最好玩_北京滑雪
- 退休的我才明白:只有闺女没有儿子的家庭,养老会出现这6个问题-全球聚看点
- 江苏兴化:稻麦轮作“吨粮田”,一块田里的"碳水狂欢"
- 运能强 跑得顺 停得稳 青藏铁路将迈入动车时代_天天新视野
- 美国海岸警卫队炮舰跑到中国沿海,管得也太宽了吧? 环球实时
- 江苏无锡:“夜市经济”助力,文旅融合让乡村旅游“游”出新意
- 国产“小金翼”——派方星舰6上市在即,亲民版移动大沙发
- 柯坪塔格组_关于柯坪塔格组概略
- 焦点速看:科技洽谈对接 共谋成果转化
- 卢布辛纳阿卡晋级,萨巴爆冷出局,高芙告负,徐一璠无缘四强
- 交易员定价英国央行将把利率提高到6.25%-环球热资讯
- 美国5月生成式AI招聘岗位增加约20%,各大公司正探索新增长点 全球即时看
- 盖伦打野出装2022_盖伦打野 环球今头条
- 环球今头条!补充《让我用七千字告诉,你为什么是垃圾》
- 动态焦点:江苏扬州:“民俗游”火起来 “夜端午”亮起来
- 古代打完仗再热也不能脱盔甲,将军偏不,当场染病! 全球速看料
- 俄外长:在俄罗斯积极协助下 非盟加入G20问题将于近期得到解决
- 二手车在哪买_怎么挑选二手车_环球快播报
- 潜行者PBRmod项目的新报告
- 世界滚动:初探ETLCloud CDC零代码实现MySQL数据实时同步
- 天天消息!微视频|家国情长
- 今日最新!iphone5s电信版在2022年能用3g网吗_iphone5s电信版
- 天天观速讯丨周润发《别叫我"赌神"》豆瓣首批评论:出于情怀给3分
- 我的野蛮初恋演员表_我的野蛮初恋
- 广州花都区属国企招聘营销管理部营销岗1人|天天亮点
- 青平:遏制形式主义蔓延,减轻基层负担 热议
- 国网聊城供电公司:冒高温完成跨铁路施工 世界时讯
- 今日聚焦!中国女篮升至第一位!女篮亚洲杯实力榜更新
- 焦点热文:西班牙2023年第一季度经济上涨0.6%
- 美国将要求大货车大客车配备自动刹车系统-天天看点
- 盗窃金首饰换来“银手镯” 警方抓获一名盗窃犯罪嫌疑人
- 6·24日开始上上签必定大发横这三大生肖
- 端午“买买买”!金价走低,黄金饰品消费热度高
- 中国移动电视盒子破解软件_中国移动电视盒子破解
- 湖人选2人签3人!无交易引援佩总遭质疑 美媒晒夏联阵容成安慰
- scc宽宽做什么生意的(scc宽宽是干什么起家的)_世界速读
- 杨幂旗下的艺人有哪些全部_杨幂旗下的艺人有哪些_观点
- 甲子牛肉丸做法?
- 关注“三夏”|沧州531.1万亩小麦收获全部完成|环球微速讯
- 世界新资讯:利好英镑!机构称年底前英银进一步加息100个基点,上调利率至6%
- Win11家庭版把用户名修改为英文步骤|消息
- 斯基拉:芒特已同意曼联开出的个人条款,将签约至2028年_世界今日讯
- 6月25日放榜!广东省2023年普通高考成绩发布有关工作安排来了
- 超燃!2023年昌化农民端午传统龙舟赛激情开赛 新要闻
- 天天资讯:郑州:5月新房销售面积环比增加39.5%,销售均价环比降低17.6%
- 央媒眼中的吉林︱品粽看展赛龙舟 吉林多样过端午
- 多地端午假期首日旅游成绩单出炉,你贡献了多少?_环球讯息
- 为户外劳动者撑起“遮阳伞”
- 端午假期首日 全国铁路发送旅客1620万人次_热门
- 交通部门增加增强服务举措 确保旅客出行畅通 今日报
- 深入开展“三抓三促”行动 奋力开创现代化建设崭新局面 访泾川县委书记于宏勤 世界快播
- 【天天快播报】绝世唐门唐雅是谁后代_绝世唐门唐雅是谁
- 众望所归!文班亚马摘得NBA选秀状元,布兰登·米勒成榜眼
- 又掀降价潮?69款车型加入补贴大军!不买就亏了-百事通
- 环球滚动:以“五共”理念激活基层治理良性循环