2018/12/28 上午9:27:28 星期五
新闻热线0577-67898890广告热线67810777 | 关于我们 | 旧版
您当?#26263;?#20301;置 文成新闻网  ->  新闻  ->  国内国际  ->  房产财经  -> 正文房产财经

人工智能脆弱面暗藏安全风险

发?#38469;?#38388;2019年07月09日 来源人民网 查看评论

智能机器人自信地走上舞台担纲主持无人车在测试道路上完成一系列动作司机却稳坐千里之外智能健康魔镜能实时显示测试者睡眠情绪皮肤等一系列健康指标系数曾经在科幻电影中才能看到的炫酷片?#25105;?#32463;在生活中得以实现种种黑科技被广泛应用人工智能的发展深刻地影响着社会生活

但同时随着人工智能?#38469;?#24212;用越来越广泛人工智能脆弱面也逐渐暴露机器人自我意识?#38469;?#28389;用等安全漏洞引起业界更多关注专家表示要加强对潜在风险的?#20449;?#21644;防范确保人工智能各项?#38469;?#23433;全可靠可控

催生新攻击方式

当今世界各国纷纷布局人工智能国际竞争日趋激烈然而人工智能的快速发?#25346;?#20351;得网络安全的风险点和攻击方式出现新变化进而引发更深层次的网络安全风险

2018年4月欧盟委?#34987;?#35745;划2018年至2020年在人工智能领域投资240亿美元2018年5月法国发布法国人工智能战略目的是使法国成为人工智能强国2018年6月日本?#27573;?#26469;投资战略?#20998;?#28857;推动物联网建设和人工智能的应用

对于人工智能我国同样高度重视2017年政府先后发布了新一代人工智能发展规划和?#27934;?#36827;新一代人工智能产业发展三年行动计划(20182020年)

?#26412;实?#22823;学教授李小勇表示我国是受到网络攻击最?#29616;?#30340;国家之一也是遭受物联网攻击最?#29616;?#30340;国家之一网络攻击手段和攻击形式越来越多从行业来看经济教育政府等部门成为攻击的主要目标

360公司董事长兼CEO周鸿祎?#25285;?#32593;络攻击每天都在发生目前网络黑客的攻击目标非常明确就是能源交通等基础设施因为这样产生的影响是?#30066;?#30340;未来在万物互联的情况下每个集装箱每辆卡?#25285;?#29978;至城市里的每个井盖?#38469;?#29616;互联虚拟层面的攻击可能引发物理空间的损害

事实上劫持智能设备已经成为网络攻击的重要手段网络安全专家表示许多无人值守系统运用人工智能?#38469;?#19968;旦遭网络劫持将带来?#29616;?#30340;安全问题例如智能汽车可与车厂服务器连接通过手机远程控制车主需要定期更新软件保证汽车的驾驶模式如此一来就可能被网络劫持

天津大学法学院院长孙佑海称网络攻击者可通过漏洞控制人工智能算法实现物理?#24067;?#25805;纵实施舆论引导制造虚假图像或影响制造信息噪音等造成安全隐患

此外图像声音合成滋生新的风险国?#19968;?#32852;网应急中心的相关专?#39029;ƣ?#38543;着?#38469;?#30340;发展现在的合成图像语音越来越逼真如果把该?#38469;?#29992;于网络诈骗虚构人脸和语音是非常可怕的事情

暴露安全软肋

由于人工智能?#38469;?#20381;托的算法大数据等可?#38498;?#20302;的成本进行复制和扩散其传播渠道广监管难度大封控几?#23454;͡?/p>

目前人工智能?#38469;?#27491;由弱人工智能向强人工智能阶段跃进能够依据其所掌握的算法数据在短时间内快速突破人类传承多年的经验积累

2016年由谷歌旗下深?#20154;?#32500;(DeepMind)公司开发的AlphaGo横空出世经深度学习后横扫人类围棋界?#22363;?#19968;年后零基础起步的新程序AlphaGo Zero通过自我训练在三天内与自身对弈490万局后以1000的成绩击败前辈AlphaGo

2017年美国社?#24187;?#20307;平台脸书公司实验室中的两个人工智能机器人使用机器学习相互对话并不断进行对?#23433;?#30053;迭代升级逐渐发展出了一种机器之间能理解但人类无法理解的语言

事?#24403;?#26126;人工智能通过算法和大数据进行深度学习不排除演化出自我意识的可能辅助甚至代替人类做出分析和决策这易于发生反噬风险孙佑海说

当前人工智能研究高度开放附带源代码的海量论文可免?#20005;略أ?#21363;便编写一种折型算法的时间成本也只需几天人工智能?#38469;?#30340;滥用风险激增此外人工智能既有多学科综合高度复杂等特性带有天然的?#38469;?#22721;垒给监管部门的监督管理和风险防范提出了不小的挑?#20581;?/p>

除?#38469;?#21457;展外人工智能带来的社会影响不容小觑通过特定算法全方位了解用户偏好和需求为消费者?#21487;?#23450;制的精准推送正成为商家引导消费的新途径

近年来?#26412;?#19978;海重庆济南等地的商圈开?#38469;运?#26234;慧商圈模式可以根据顾客的特征更精准地推送优惠券商品信息让用户更有消费动力?#28909;?#32473;年轻的未婚白?#28843;?#24615;推?#31361;逼?#21644;奢侈品的?#25918;?#21830;券给妈妈们推荐婴儿用品店给?#34892;?#25512;送运动?#25918;?#38376;店活动等等

智慧商圈带来生活便捷却容易引发信息骚扰问题消费者的一个简单操作就有可能暴露想要购买某件商品的想法后续会不断收到同类商品的广告宣传产生困扰长此以往?#22363;?#23548;购?#21364;?#20107;决策分析艺术创作等工作也有被机器人取代的可能人工智能?#38469;?#30340;日臻成熟将打碎传?#25345;?#19994;群体的饭碗?#20445;?#36827;而引发新产业革命和经济结构调整形成去劳动力倾向最终产生失业风险

不仅如此人工智能产生的道德伦理隐忧不断有专家表示人工智能设计者的价值导向和行为偏好易于被有意或无意地?#20174;车?#31639;法数据当中并通过机器学习被人工智能所承继进而演进为算法歧视而在具体?#35270;?#36807;程中容?#36164;?#21040;对抗样本的干扰或污染被应用者二次形塑做出背离设计初衷的错误决策

2016年3月美国微软公司发布了名为Tay的最新版本人工智能机器人然而上线不到24小时Tay就学坏了出言不逊脏?#23433;?#26029;言语甚至涉及种族主义色情纳粹充满歧视仇恨和偏见微软只得不停删除Tay的不当言论进行下线调整

用好双刃剑

专家表示在人工智能飞速发展的时代安全问题日益凸显需要我们加强对潜在风险的?#20449;?#21644;防范切实维护好人民利益和国家安全确保人工智能安全可靠可控

南开大学周恩来政府管理学院教授吴晓林认为数字化网络化智能化已经是时代的主题智能让生活变得更美好但安全问题无处不在无时不在互联网下半场是工业互联网?#38498;?#22269;家的基础设施安全工业互联网安全非常关键还是要把人工智能的双刃剑用好趋利避害让科技的智能与人类的智慧并存和?#22330;?/p>

在网络安全防护上应加强?#38469;?#30740;究建立?#34892;?#23433;全防护抵御网络攻击专家建议可以建立主动免疫的计算架构对计算进行安全防护使计算全程可测可控不被干扰利用人工智能应对网络攻击免疫系统中不管哪个系统受到攻击?#21152;?#32479;一的人工智能系统发出指令采取相应措施

在法治建设保障上中国法学会?#34987;?#38271;兼秘书长张鸣起建议高度重视立法工作适时安排宏观立法人工智能的发展离不开一部?#20174;?#26102;代需求的人工智能法以及配套法规组成的法律法规体系

孙佑海建议全国人大宜进行立法上的一些准备建议有关部门优先对无人机的管理自动驾驶图像识别相对成熟的?#38469;?#24212;用制定法律规章以刚性的法规条款引领秩序

同时要进一步健全精准务实的政策支撑体?#25285;?#26500;建政策集群孙佑海?#25285;?#35201;进一步升级全流程的安全防控体?#25285;?#24182;制定行业安全标准做好应急防范的预案加大重点领域的防控加大对代码数据算法等重点领域的综合管控力度保障?#38469;?#23433;全产品安全数据安全和应用安全

针对新一代人工智能可能引发的结构性失业等风险吴晓林建议由劳动部门牵头加?#22353;?#20154;工智能产业需求配套的在职培训和再就业培训体?#25285;?#25171;?#32654;?#21160;力转型的主动仗

N 编辑林童责任编辑林童
点击排行

关于我们 | 总编信箱 | 网站动态 | 广告合作 | 联系我们 | 帮助信息 | 记者投稿 全站导航

  • 相关链接