主办单位:中国物品编码中心 | 中国自动识别技术协会 | 《中国自动识别技术》杂志社

设为首页 | 加入收藏 | 关于我们

  特别报道  正文

新思科技:安全而谨慎地拥抱AI

新思科技软件质量与安全部门黑鸭软件高级安全工程师Boris Cipot

发布时间:2019年05月13日 来源:中国自动识别网 作者:郑昱

Boris Cipot,新思科技软件质量与安全部门高级安全工程师,致力于帮助各种类型和规模的企业构建安全的软件。他擅长开源软件安全、机器人技术和人工智能。

 

新思科技于2017年底收购黑鸭软件公司。Boris Cipot,新思科技软件质量与安全部门黑鸭软件高级安全工程师自此便开启研究开源软件的征程,基于此前在网络安全领域从事反恶意软件工作的经历,Boris Cipot对人工智能(AI)与软件之间的“相爱相杀”赋有浓郁的兴趣,他坦言“未来,只有软件安全得到有效确认,AI才能得到长足发展。”
 
记者:请您介绍现在AI行业的软件应用,新思科技如何助力AI软件安全?
Boris Cipot:软件是AI发展不可或缺的一部分。我们观察到现在有越来越多的物联网(IoT)设备得到应用,但同时利用此类设备进行过网络攻击的事件也层出不穷。尽管一些公司宣称新的AI解决方案可以消除对物联网网络攻击的威胁,但在我看来,AI不会成为解决所有漏洞的神奇方案,至少现在还不具备这样的实力。
许多公司正在努力实施AI算法,以降低监测威胁,响应自动化。但是自动化和AI是两个不同的概念。自动化是基于规则的,通常被称为机器学习;另一方面,AI经过培训,可以根据收到的数据进行学习和适应。它适应变化,例如快速变化的威胁形势,这很有优势,但它还很不够成熟。
交互式应用安全测试(IAST)解决方案,例如新思科技软件质量与安全部门的Seeker,允许软件开发人员(包括那些开发基于Web的AI应用程序)在功能测试期间执行安全测试。Seeker使用软件工具技术来监控应用程序以检测漏洞,帮助组织/企业识别和管理与使用动态测试技术运行Web应用程序时发现漏洞相关的安全风险。该技术与AI的未来发展非常契合。
 
记者:在机器人应用领域中,您认为机器人的“软件安全”重点指什么?
Boris Cipot:只要涉及到软件,我们强调的是“质量”与“安全”,而且这些都需要“向左移”,“向左移”意味着在开发之初就要考虑到。
无论是处于开发阶段还是处于生产阶段,软件安全始终是任何产品的重要组成部分。AI的开发及其使用也不例外。所有涉及AI的应用程序(健康、汽车、机器人技术),软件安全至关重要:如果有人控制了你的AI应用程序就会带来错误的指示。AI需要处理输入信息,并根据它进行适当的操作,一旦攻击者控制了这些信息,就会造成危害。例如,如果攻击者能够控制汽车周围环境的感应信息,输入错误信息会导致错误的决定,甚至会危及生命。一旦软件有漏洞并受到攻击,AI将变得一无是处,反倒有可能会导致危害。因此,AI的发展和使用必须将安全放在重要位置。
 
记者:未来,“AI可能会让我们的生活更美好,也可能走上相反的一面”,您怎么理解这个观点?
Boris Cipot:AI并不新鲜。随着技术的进步,AI也在不断改进,AI与计算硬件在不断更新迭代,AI将渗透到大众生活的方方面面,会有更多现实的应用落地:AI为大众日常带来便利,比如将你的母语翻译成其他语言的工具,在医疗上的智能快捷诊断与治疗等等……
与此同时,AI的“黑暗面”也展露无疑。网络安全漏洞、与生命息息相关的领域应用(前面提到的汽车行业)一旦被黑客攻击,将导致不堪设想的后果。甚至电影中展现的AI将接管世界和全人类的场景(当然,我认为这些场景不会成为现实)。
任何技术都是把双刃剑,AI也不例外。我们关注AI对生活的影响,不止侧重在正面,也要看到其负面影响,这才是正确的做法,在推进AI应用的过程中,坚持谨慎的态度,并积极寻找有助于避免灾难的方法。坚信AI最终是帮助我们改善生活。
 
记者:从全球视角,AI/机器人行业在未来会有怎样的变化,呈现哪些趋势?
Boris Cipot: AI的行业应用不再是新事物,需要将更多的流程自动化引用到不同行业,借助AI技术实现更高、更安全的任务自动化。制造业生产机器化已经成为行业的发展趋势,实现大规模机器人生产线作业,降低人工成本提高产能的同时也加快了AI在制造业领域普及应用的速度。
将视角移到家用机器人领域,会发现这些设备,比如机器人伴侣、机器人宠物、清洁机等智能设备的采用率得到进一步的提高,它们在家庭中的应用会变得越来越普及。
另外,值得一提的是,有趣的“自我生产”也推动了AI/机器人技术的发展。许多修补匠都喜欢用3D打印,他们喜欢在家里制作东西。在过去几年中,3D打印易用性大大增加,并且越来越多地被采用。将此与微型电路软件的简单开发相结合,例如Arduino(微型控制器)或Raspberry PI(芯片系统)应用于智能家居项目,机器人设备将会把真正的创意带入生活。我认为这样的家庭项目将成为AI和机器人技术未来发展的动力。
《中国自动识别技术》2019年第2期总第77期

延伸阅读:

声明:

    凡本网注明“来源:中国自动识别网、《中国自动识别技术》、《条码与信息系统》”的所有作品,版权均属于中国自动识别网、《中国自动识别技术》、《条码与信息系统》, 未经本网授权不得转载、摘编或利用其他方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:中国自动识别网、《中国自动识别技术》或《条码与信息系统》”。违反上述声明者,本网将追究其相关法律责任。
    凡本网注明“来源:XXX(非中国自动识别网、《中国自动识别技术》、《条码与信息系统》)”的作品,均转载自其他媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。文章内容仅供参考。 如因作品内容、版权和其他问题需要同本网联系的,请将内容传真至010-84295675,以便本网尽快处理。

高端访谈 更多>>
Imagination:在无穷想象...
Andrew Grant于2018年加入Imagination,担任高级总监,负责人工智能的战略业务发展,并构建更广泛的人工智能合作生态...
新思科技:安全而谨慎地拥...
Boris Cipot,新思科技软件质量与安全部门高级安全工程师,致力于帮助各种类型和规模的企业构建安全的软件。他擅长开...
ICON:智能家庭的新生力
高清鸿, ICON智能科技公司创始人。拥有4项美国发明专利,开发了美国首款语音交互可视化智慧家庭终端,通过语音,可视...
Semtech:打造LoRa技术的...
甘泉, Semtech公司市场战略总监,负责LoRa技术在中国的业务拓展及应用垂直市场推广。
杂志专区 更多>>

《2019第3期》

《2019第4期》