您的位置 首页 行业

防御人工智能最好办法也是人工智能

这是一场算法大战,这也可能是一次未来网络安全和网络战的预演。这场竞赛将在接下来的5个月里进行,它的组织者是Kaggle。

这是一场算法大战,这也可能是一次未来网络安全和网络战的预演。这场竞赛将在接下来的5个月里进行,它的组织者是Kaggle。

这是一场算法大战,这也可能是一次未来网络安全和网络战的预演。这场竞赛将在接下来的5个月里进行,它的组织者是Kaggle。

Kaggle是一个数据科学的竞赛平台。在比赛中,研究人员的算法会为了迷惑和欺骗对方而展开激烈斗争。组织者的愿望是:这场斗争能促使人们对“如何强化机器学习系统”产生更深刻的洞见,以抵御未来的网络攻击。

怀俄明大学副教授Jeff Clune主要研究机器学习的局限性,他说:“通过研究去促进两个对立面的发展——一方面是愚弄深度神经网络,另一方面却是设计一种无法被愚弄的深度神经网络。这真是一个绝妙的想法。”

这次比赛由三个挑战项组成:一个挑战是简单地迷惑机器学习系统,使它不能正常工作;另一个是试图强迫系统对某些东西进行不正确的分类,第三个挑战则是开发最强大的防御系统。比赛结果将在今年晚些时候召开的一次大型人工智能会议上公布。

防御人工智能最好办法也是人工智能

机器学习,尤其是深度学习,正迅速成为许多行业不可或缺的工具。该技术主要是指将数据输入一种特殊的计算机程序,指定一个特定的结果,并让机器自己开发一种算法来实现结果。深度学习是通过调整一个巨大的、神经元网络数学模型参数来实现的。

人们早就知道机器学习系统可以被愚弄和欺骗。例如,通过找出过滤器的识别模式算法,垃圾邮件制造者完全可以避过现代的垃圾邮件过滤器。

但是,近年来研究人员已经证明,即便是最聪明的算法,有时也会被令人吃惊的方法误导。例如,具有近似人类的图像识别能力的深度学习算法,也可能会被看似抽象或随意的图像所欺骗,这些图像正是利用了深度学习算法开发的低级模式。

这场比赛的组织者,也是研发机器学习的谷歌大脑研究员Ian Goodfellow说:“研究对抗式的机器学习比传统的机器学习更困难,因为很难分辨到底是你的攻击能力太强,还是你的防御能力太弱。”

随着机器学习的普及,人们担心这种攻击会被用于营利或纯粹的恶作剧。例如,黑客可能会不采取任何安全措施,而直接安装恶意软件。

Goodfellow说:“计算机安全的发展方向一定是机器学习,坏人将通过机器学习让他们的攻击自动化,我们却是使用机器学习来进行防御。”

理论上讲,犯罪分子也可以欺骗声音和面部的识别系统,甚至在自动驾驶汽车上张贴海报来欺骗视觉系统,导致其崩溃。

Kaggle是算法发展进步的孵化器,也是滋养优秀数据科学家的土壤。该公司于3月被谷歌收购,现在是谷歌云平台的一部分。在收购Kaggle前,Goodfellow和另一位谷歌大脑研究员Alexey Kurakin就一起提交了关于开办这场竞赛的方案。

Kaggle的联合创始人和首席技术官Benjamin Hamner说,他希望这场比赛会吸引人们关注一个迫在眉睫的问题:“随着机器学习的应用越来越广泛,从对抗性学习中理解问题和风险变得越来越重要。”

公开赛胜过仅仅“宣传新型网络攻击”带来的风险,他补充说:“我们相信对这项研究来说,公开的创造和分享才是最好的方式,不应该闭门造车。”

同时,Clune表示,他很希望通过这场比赛测试那些声称可以抵抗攻击的算法。他说:“在可预见的未来,我敢打赌神经网络还是会被继续愚弄。”

免责声明:文章内容不代表本站立场,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考,文章版权归原作者所有。如本文内容影响到您的合法权益(内容、图片等),请及时联系本站,我们会及时删除处理。

作者: dawei

【声明】:153手机网内容转载自互联网,其相关言论仅代表作者个人观点绝非权威,不代表本站立场。如您发现内容存在版权问题,请提交相关链接至邮箱:bqsm@foxmail.com,我们将及时予以处理。

为您推荐

银河奇异果上线LG电视显卡芯片短缺将纾解英伟达SHIELD支持4K云游

截至目前,LG电视应用商城LG Content Store更新上架当贝健身、云视听小电视、银河奇异果、当贝酷狗音乐、葫芦视频、当贝教育等多款主流应用软件,进一步覆盖影视、音乐、教育、健身等重要大屏应用类别,为用户提供更全面的全场景智慧生活服务。未来,LG将会

288Hz 8K显示技术首发Netflix订阅服务涨价春晚主视觉形象瑞虎公

奇景光电宣布,推出功能再突破的超高解析度8K电视时序控制器,为业界首发288Hz 8K显示技术。官方表示,近期奇景光电与世界级面板领导厂商合作开发288Hz 8K显示技术,应用于客户最新款75英寸8K电视中,突破目前的60Hz/120Hz瓶颈。除了提供8K面板的超高精细画

智能手表成热门电子产品索尼或增产PS4主机2021年全球专利榜新鲜

魅族在新生力量冬季新品发布会上发布了 PANDAER 首个桌面蓝牙音箱。据了解,该产品由魅族声学团队与猫王音响声学团队联合调音,拥有白金独角兽视觉涂装、未来机械赛博设计,提供可变 RGB 灯光,搭配超级灵动低音技术及 Flyme 妙连、猫王妙播,支持 Flyme 妙

为剪线族提供直播服务,Roku上线全新的直播电视专区

Roku推出全新的直播电视专区Live TV Zone,该直播电视专区提供所有直播和线性节目,不仅是Roku自身的直播电视频道,还将提供 YouTube TV、Hulu with Live TV 和 Sling 等第三方服务以及其他应用程序的直播选项。除了娱乐节目、体育以及地方和国家新闻报道外

银河奇异果云视听小电视等正式推出LG电视 满足家庭娱乐需求

自2014年LG开始逐步推行自研电视系统,主打回归简单的WebOS系统便以流畅顺滑的交互界面受到用户的喜爱,简单切换、简单发现、简单连接成为LG电视系统的特色优势。 在此基础上,LG不断丰富自身应用功能。截至目前,LG电视应用商城LG Content Store更新上架当

返回顶部