新型电子变压器,伺服驱动器防烧

《人工智能数据安全白皮书(2019)》指出:人工智能正面临这几大数据安全风险

2019-09-09 09:51:12     来源:人民邮电报

随着人工智能技术的不断发展,尤其是各类人工智能应用在各行各业落地,人工智能的安全风险问题也开始受到全社会的关注。人工智能究竟会带来哪些安全风险?中国信息通信研究院近日发布了《人工智能数据安全白皮书(2019)》(以下简称“白皮书”),指出了人工智能面临的几大数据安全风险。


《人工智能数据安全白皮书(2019)》指出:人工智能正面临这几大数据安全风险


“数据投毒”不容忽视


白皮书认为,人工智能训练数据污染可导致人工智能决策错误。“数据投毒”通过在训练数据里加入伪装数据、恶意样本等行为可破坏数据的完整性,进而导致训练的算法模型决策出现偏差。


“数据投毒”主要有两种攻击方式:


一种是采用模型偏斜方式,主要攻击目标是训练数据样本,通过污染训练数据达到改变分类器分类边界的目的;


另一种则是采用反馈误导方式,主要攻击目标是人工智能的学习模型本身,利用模型的用户反馈机制发起攻击,直接向模型“注入”伪装的数据或信息,误导人工智能做出错误判断。


“数据投毒”危害巨大。在自动驾驶领域,“数据投毒”可导致车辆违反交通规则甚至造成交通事故;在军事领域,通过信息伪装的方式可诱导自主性武器启动或攻击,从而带来毁灭性风险。


运行阶段的数据异常可导致智能系统运行错误。


指出,运行阶段的数据异常可导致智能系统运行错误,同时,模型窃取攻击可对算法模型的数据进行逆向还原。此外,开源学习框架存在安全风险,也可导致人工智能系统数据泄露。


AI应用催生新风险


在分析了人工智能自身数据安全风险之后,白皮书对于人工智能应用导致的数据安全风险也进行了解读。


白皮书指出,人工智能应用可导致个人数据过度采集,加剧隐私泄露风险。随着各类智能设备(如智能手环、智能音箱)和智能系统(如生物特征识别系统、智能医疗系统)的应用普及,人工智能设备和系统对个人信息采集更加直接与全面。相较于互联网对用户上网习惯、消费记录等信息采集,人工智能应用可采集用户人脸、指纹、声纹、虹膜、心跳、基因等具有强个人属性的生物特征信息。这些信息具有唯一性和不变性,一旦被泄露或者滥用会对公民权益将造成严重影响。


虽然人工智能的普及,给人们带来了更多的便利;但是白皮书认为,人工智能放大数据偏见歧视影响,威胁社会公平正义,人工智能技术的数据深度挖掘分析也将加剧数据资源滥用现象的发生,将加大社会治理和国家安全挑战。具体而言,一是在社会消费领域,可带来差异化定价;二是在信息传播领域,可引发“信息茧房”效应。


与此同时,人工智能技术也能够提升网络攻击的智能化水平,进而进行数据智能窃取。白皮书认为,一是人工智能可用来自动锁定目标,进行数据勒索攻击。人工智能技术可通过对特征库学习自动查找系统漏洞和识别关键目标,提高攻击效率。二是人工智能可自动生成大量虚假威胁情报,对分析系统实施攻击。人工智能通过使用机器学习、数据挖掘和自然语言处理等技术处理安全大数据,能自动生产威胁性情报,攻击者也可利用相关技术生成大量错误情报以混淆判断。三是人工智能可自动识别图像验证码,能够窃取系统数据。图像验证码是一种防止机器人账户滥用网站或服务的常用验证措施,通过解决视觉难题来验证人类用户,以有效区分拦截恶意程序,保护系统数据安全。


数据治理挑战加剧


白皮书指出,人工智能提升了数据资源价值,使得数据权属问题更为突出。从个人层面上看,数据权属体现为公民的数据权利,个人隐私保护面临挑战。用户个人隐私信息含金量高,是人工智能技术与产业发展的重要驱动,然而相关机构在利用用户数据时往往忽视用户个人隐私权益。从行业层面上看,数据权属体现为企业的数据产权,数据垄断损害行业整体发展。人工智能技术使数据经济价值越发凸显,数据已成为企业的核心资产,相关企业积极储备数据资源,并阻止竞争对手获得数据,力图垄断数据资源来使企业利益最大化。


白皮书认为,数据产权之争将加剧数据垄断。一方面,科技巨头依托网络覆盖和用户规模,加强数据汇聚;另一方面,人工智能中小企业获取数据的渠道受限,数据资源匮乏。企业在数据产权没有被广泛认可、以及数据流动环节存在安全风险的前提下,无论是从维护自身利益角度还是从遵守法律法规角度出发,都不愿将自身数据进行共享,这将导致初创企业和研究机构在算法设计和优化过程中无数据可用,损害我国人工智能行业整体发展。


当前,随着人工智能在科技竞争中的战略地位日渐凸显,数据的违规跨境将直接影响国家安全。白皮书显示,目前,世界主要国家都制定了人工智能发展战略,对数据的依赖度快速提升,数据作为国家基础性战略资源的地位更加突出。为快速积累数据,科技企业通过向消费者提供特定领域免费应用、使用政府公开数据以及进行产业上下游数据协同等方式获取尽可能多的数据。以Facebook、谷歌为代表的美国科技巨头,依托其庞大用户规模和强大数据抓取工具,在全球范围内进行数据收集,强化数据资源优势,推进自身人工智能发展,这无疑将加剧数据违规跨境流动风险。


中国学生理工科留学报告:人工智能行业人才缺口庞大


2019年9月7日,启德教育在北京发布《中国学生理工科留学报告》,以数十万中国学生的留学大数据为基础,从理工科留学生最关注的申请及就业问题入手,对理工科留学群体进行了深入调研,并结合教育部与留学目的地官方数据,梳理出系统化的理工科留学参考资料,以期为准备出国读理工科的学生提供全面的咨询建议。


理工科留学多为硕士阶段,美澳加位列理工科留学目的地前三甲


教育部数据显示,2018年度我国出国留学人员总数为66.21万人,留学回国人员总数为51.94万人。中国教育部留学服务中心数据显示:留学回国人员中,本科及大专学历人数最多的学科为经济学、管理学和文学,硕士研究生人数最多的学科为理学、管理学和经济学,博士研究生人数最多的为工学、理学和哲学。


《启德教育中国学生理工科留学报告》数据显示,美国(45.5%)、澳大利亚(20.2%)、加拿大(12.4%)是中国理工科留学生最青睐的三大目的地。《启德教育2019中国学生留学意向调查报告》中的调研数据显示,虽然商科类专业仍然是中国学生最感兴趣的留学选择,33.64%的学生选择商科,但相较2015年下滑了7.56%。而工科专业在2019年的调研中,出现了近10%的增长。


《人工智能数据安全白皮书(2019)》指出:人工智能正面临这几大数据安全风险


2017-2019年启德留学客户服务数据显示,理工科学生更倾向于在研究生阶段出国留学,入读理工科专业课程的申请者中,读研占比超过70%。为什么选择理工科专业?启德教育调研数据显示,研究生阶段留学生的选择原因在于“理工科就业面广”(52.4%),“未来想从事理工类的职业”(37.4%)、“未来工作薪酬高”(34.2%);本科阶段留学生则是因为“热爱理工类专业”(45.5%),“理工科就业广”(41.5%),“未来想从事理工类的职业”(33.9%)。什么因素能提升理工科学生留学的录取成功率?启德教育认为,通常来看,本科阶段“获得过竞赛等奖项”、“参加了背景提升项目”很重要,而在研究生阶段,申请者在“科研论文成果”的认可度对申请结果影响显着。


计算机相关专业最热门,人工智能行业人才缺口庞大


启德教育调研数据显示,理工科专业中,“计算机科学与工程”(21.9%)、“电子电气工程”(17.2%)、“机械工程”(10.0%)、“土木与环境工程”(6.5%)、“建筑相关专业”(4.9%)是研究生留学阶段选择意向最高的五个专业;本科阶段留学选择意向最高的三个专业为“计算机科学与工程”(16.5%)、“数学”(14.3%)和“机械工程”(7.6%)。


启德留学客户服务数据显示,2019年理工科留学十大热门专业为“计算机科学”(17.72%)、“信息技术”(15.38%)、“商务信息系统”(11.81%)、“电子与计算机工程”(10.55%)、“电子工程”(9.92%)、“机械工程”(5.49%)、“信息系统”(4.26%)、“数字媒体资讯科技”(2.23%)、“电子商务与计算机”(2.17%)、“食品学”(1.79%)。其中,计算机相关专业占比合计高达74.04%,比2014年增加了12.78%;电子工程与机械工程专业占比有所降低,与2014年相比分别下滑了6.65%与5.43%。


事实上,随着人工智能产业的飞速发展,“AI人工智能”已经成为全民话题,理工科中,计算机、自动化、机械工程、数学等与人工智能领域密切相关的专业近年来受到巨大关注,未来几年,中国人工智能行业的人才缺口预计达到百万级,同时,由于合格的AI人才培养所需时间要远长于一般IT人才,这个缺口很难在短期内得到有效填补。人工智能是典型的交叉学科,汇集了来自数学、计算机科学、逻辑学、哲学、神经科学、语言学等领域众多学者和研究人员的努力,不过,从整体来看,人工智能仍然是计算机科学技术的主要分支。


据启德留学介绍,在各国高校中,人工智能专业一般会设置在研究生及以上阶段,需要学生具备一定的计算机基础知识,很多本科阶段学习计算机及人工智能相关专业的学生也已经开始申请AI企业与研究院的实习或夏令营活动,为升学和就业积累经验及人脉,AI企业和研究院也抢先从中挑选和培养人才。目前开设人工智能专业的海外高校,基本都是本国顶尖院校,以英国为例,开设人工智能专业的高校包括伦敦大学学院、帝国理工学院、爱丁堡大学和南安普顿大学。AlphaGo算法的创建者之一戴密斯·哈萨比斯就毕业于伦敦大学学院。


热门专业申请比例逐年上升,竞争激烈录取难度增加


《2018年美国门户开放报告》数据显示,2017/18学年,工程专业就读人数近23.3万,占到总留学生人数的21.3%,较上一学年增加0.9%。而数学和计算机科学就读人数为18.6万,计算机(包括人工智能、机器学习等方向)的申请竞争仍旧非常激烈,新兴的数据科学开始成为具备计算机、统计等专业背景申请人的新宠。美国高校理工科的学费,与学校的排名、地理位置以及院校性质有关,大约在30,000-50,000美元/年。


英国GMP News 2019年报道显示,过去十年中,在英国学习理工科相关专业的国际学生增加了约63%。理工科留学英国,本科以课堂教学为主的课程学费为10,000-17,000英镑/年,以实验教学为主的课程学费为12,000-26,000英镑/年;硕士费用为11,500-35,250英镑/年。


2016-2018年启德澳洲留学客户服务数据显示,本科阶段的留学生选择工程类占比13%,选择理学类占比12%;研究生阶段的留学生工程类占比11%,理学类占比5.4%。澳洲高校理工科的学费大约为AUD36,000-46,000/年。


2018年启德加拿大留学客户服务数据显示,申请理工科的学生占总申请人数38.39%(理科26.53%,工科11.86%),占到总申请人数的1/3以上。由于申请理工科人数众多,加拿大各个院校也在不断提高录取标准。加拿大高校的学费取决于省份及修读科目,魁北克省约为4,200加币/年,安大略省为2,700-4,400加币/年,其他省份为800-2,000加币/年;社区学院一般每年需要500-1,000加币。


德国理工科院校在世界范围内享有盛誉。2017-2019年启德德国留学客户服务数据显示,德国作为理工科热门国家,理工科申请人数均为70%左右。随着德国申请人数逐年增加,院校逐步提高申请和入学要求。德国理工科院校不收取学费,每学期只收取200-300欧元的注册费,每月生活费和住宿费大约为800欧元左右。


启德中国香港求学客户服务数据显示,理工科申请人数占总申请人数22.7%,录取难度也在逐年增加。中国香港高校理工科的学费本科为140,000HKD—164,000HKD/年,研究生为110,000HKD—160,000HKD/年。启德新加坡留学客户服务数据显示,自2016入学季至2019年入学季,近三年新加坡申请人数每年递增7%-10%,理工科学生占到新加坡大学整体申请人数的28%。理工科申请主要集中在新加坡国立大学与南洋理工大学的授课型硕士项目。新加坡理工科类专业硕士课程的学费为15万-25万人民币/年,学制以1-1.5年居多。


薪酬水平高于国内毕业生,理工科就业面广竞争力强


前程无忧《2019年海外留学生优秀人才需求报告》显示,2019年有海外留学生招聘计划的雇主中,来自金融行业和信息技术服务行业的最多,海外留学生岗位需求量排名前四的是技术研发类(53.1%)、市场类(37.7%)、工程等专业技能(36.3%)、销售类(19.7%),相对于其它学科,理工科的海归更受雇主欢迎。


启德教育调研数据显示,理工留学毕业生境外就业占比(13.0%)高于商科留学毕业生(8.6%)。理工科海归就职单位分布数据显示,私营/民营企业占比最高(34.38%),其次是外企/合资企业(20.83%)、事业单位/大学/科研机构(19.79%)。值得注意的是,理工科海归在事业单位/大学/科研机构任职占比远远高于商科海归(4.95%),从另一个角度体现了理工科就业类型更为广泛。


麦可思研究院《2019年中国本科生就业报告》显示,2018届本科生毕业半年后月收入为5135元;前程无忧《2019年海外留学生优秀人才需求报告》显示,40.8%的受访雇主提供留学生工作机会的起薪在8000-12000元之间;启德教育调研数据显示,理工科海归毕业后一年左右的年薪,本科生为8.48万元,研究生为12.13万元,高于国内毕业生的薪酬水平。


启德教育调研数据显示,理工科留学生总体找工作较为乐观,遇到的问题主要有“竞争压力大”(58.9%)、“没有相关工作经验”(38.7%)、“专业优势不明显”(25.2%)、“面试技巧不足”(22.1%)、“缺乏表现和包装自己的能力”(19.6%)。理工科留学毕业生认为自己能够求职成功的影响因素前三位分别是实习经历(52.1%)、专业能力(49.7%)、工作经验(42.3%)。


《人工智能数据安全白皮书(2019)》指出:人工智能正面临这几大数据安全风险


除了前文提到的AI行业,5G也是理工科毕业生心向往之的风口行业。启德教育调研数据显示,理工科就职于IT/电子通信/互联网行业的占比达到37.5%,随着5G牌照的推出,通信行业将会迎接巨大的变化与机遇。据中国信息通信研究院2017年发布的《5G经济社会影响白皮书》预测,到2030年,5G将带动我国直接经济产出6.3万亿元、经济增加值2.9万亿元、就业机会800万个;在间接贡献方面,5G将带动总产出10.6万亿元、经济增加值3.6万亿元、就业机会1150万个。


如何提升理工科学生的学术竞争力与就业竞争力?启德留学名校课堂、科研指导项目、名企实习项目等产品可以在留学的各个阶段帮助学生进行能力提升。同时,启德国际人才能力测评3.0能帮助学生进行自我评估与科学规划,从成长为国际化人才所需要培养的能力入手,对学生进行性格、专业倾向、职业倾向、国际人才能力四个维度的评估,解决学生在留学专业和职业选择、个人能力评估和提升,及境外适应中产生的一系列问题,帮助学生全面提升就业竞争力、领导力、思考辨析力、跨文化适应力、自我管理能力这五大国际人才能力,并更好适应海外学习生活。目前测评报告分为大学生、中学生版,配套的服务内容包括低龄学生选课指导、高中生选专业指导、大学生专业选择/职业/能力提升建议等,启德国际人才能力测评上线以来,已帮助近万名启德学生量身定制了留学规划。

注:文章内的所有配图皆为网络转载图片,侵权即删!

我来说几句

不吐不快,我来说两句
最新评论

还没有人评论哦,抢沙发吧~

为您推荐

​LG Display宣布针对韩国工厂实施自愿性裁员计划
​LG Display宣布针对韩国工厂实施自愿性裁员计划
09月18日 17:02   LG  裁员  显示器
知乎商业化又做新尝试,内测好物推荐
知乎商业化又做新尝试,内测好物推荐
09月18日 16:52   知乎  商业化
今年DRAM产品均价下滑约40%,国产紫光重启DRAM计划
今年DRAM产品均价下滑约40%,国产紫光重启DRAM计划
09月18日 16:21   DRAM  紫光股份
未来几年手机芯片的格局会被重塑吗?
未来几年手机芯片的格局会被重塑吗?
09月18日 16:07   手机芯片
从OPPO、vivo到拼多多:段永平再也无法保持低调
从OPPO、vivo到拼多多:段永平再也无法保持低调
09月18日 15:40   段永平  小霸王
​腾讯云成立“云+创业投资联盟”,助力企业快速上云
​腾讯云成立“云+创业投资联盟”,助力企业快速上云
09月18日 14:14   腾讯云  腾讯  大数据
​专家解读:一定要选择支持NSA和SA的5G手机吗?
​专家解读:一定要选择支持NSA和SA的5G手机吗?
09月18日 13:36   5G  手机  移动通信
政务大厅上线“3D人脸识别”,实现全业务全流程AI监管
政务大厅上线“3D人脸识别”,实现全业务全流程AI监管
09月18日 11:23   人脸识别  AI  互联网
现在是否应该购买5G手机,5G网络何时才能普及?
现在是否应该购买5G手机,5G网络何时才能普及?
09月18日 11:22   iPhone  5G  苹果
刘明:国内集成电路光刻技术与国外差距为15~20年
刘明:国内集成电路光刻技术与国外差距为15~20年
09月18日 09:36   集成电路  光刻技术  中科院  刘明
AI算力需求呈爆发式增长,华为拿什么破解AI核心难题?
AI算力需求呈爆发式增长,华为拿什么破解AI核心难题?
09月18日 09:27   AI  华为  物联网
中关村集成电路设计园:50余家企业创造北京近50%的集成电路设计产值
中关村集成电路设计园:50余家企业创造北京近50%的集成电路设计产值
09月18日 09:13   中关村集成电路设计园  芯片
沙子是怎样变成芯片的?沙子资源枯竭对半导体行业影响大吗?
沙子是怎样变成芯片的?沙子资源枯竭对半导体行业影响大吗?
09月18日 09:06   芯片  半导体  单晶硅
“互联网+”开启全新生活,助力经济发展
“互联网+”开启全新生活,助力经济发展
09月18日 09:00   互联网  电视
​5G商用来袭,芯片厂商谁将胜出?
​5G商用来袭,芯片厂商谁将胜出?
09月18日 08:53   5G  芯片
任正非到底为什么会同意出售5G技术?
任正非到底为什么会同意出售5G技术?
09月18日 08:50   5G技术  5G  任正非  华为
中国首个自主开放城市大脑建设落地福州
中国首个自主开放城市大脑建设落地福州
09月18日 08:45   城市大脑