新思科技于2017年底收购黑鸭软件公司。Boris Cipot，新思科技软件质量与安全部门黑鸭软件高级安全工程师自此便开启研究开源软件的征程，基于此前在网络安全领域从事反恶意软件工作的经历，Boris Cipot对人工智能（AI）与软件之间的“相爱相杀”赋有浓郁的兴趣，他坦言“未来，只有软件安全得到有效确认，AI才能得到长足发展。”

 

Boris Cipot：软件是AI发展不可或缺的一部分。我们观察到现在有越来越多的物联网（IoT）设备得到应用，但同时利用此类设备进行过网络攻击的事件也层出不穷。尽管一些公司宣称新的AI解决方案可以消除对物联网网络攻击的威胁，但在我看来，AI不会成为解决所有漏洞的神奇方案，至少现在还不具备这样的实力。

许多公司正在努力实施AI算法，以降低监测威胁，响应自动化。但是自动化和AI是两个不同的概念。自动化是基于规则的，通常被称为机器学习；另一方面，AI经过培训，可以根据收到的数据进行学习和适应。它适应变化，例如快速变化的威胁形势，这很有优势，但它还很不够成熟。

交互式应用安全测试（IAST）解决方案，例如新思科技软件质量与安全部门的Seeker，允许软件开发人员（包括那些开发基于Web的AI应用程序）在功能测试期间执行安全测试。Seeker使用软件工具技术来监控应用程序以检测漏洞，帮助组织/企业识别和管理与使用动态测试技术运行Web应用程序时发现漏洞相关的安全风险。该技术与AI的未来发展非常契合。

 

Boris Cipot：只要涉及到软件，我们强调的是“质量”与“安全”，而且这些都需要“向左移”，“向左移”意味着在开发之初就要考虑到。

无论是处于开发阶段还是处于生产阶段，软件安全始终是任何产品的重要组成部分。AI的开发及其使用也不例外。所有涉及AI的应用程序（健康、汽车、机器人技术），软件安全至关重要：如果有人控制了你的AI应用程序就会带来错误的指示。AI需要处理输入信息，并根据它进行适当的操作，一旦攻击者控制了这些信息，就会造成危害。例如，如果攻击者能够控制汽车周围环境的感应信息，输入错误信息会导致错误的决定，甚至会危及生命。一旦软件有漏洞并受到攻击，AI将变得一无是处，反倒有可能会导致危害。因此，AI的发展和使用必须将安全放在重要位置。

 

Boris Cipot：AI并不新鲜。随着技术的进步，AI也在不断改进，AI与计算硬件在不断更新迭代，AI将渗透到大众生活的方方面面，会有更多现实的应用落地：AI为大众日常带来便利，比如将你的母语翻译成其他语言的工具，在医疗上的智能快捷诊断与治疗等等……

与此同时，AI的“黑暗面”也展露无疑。网络安全漏洞、与生命息息相关的领域应用（前面提到的汽车行业）一旦被黑客攻击，将导致不堪设想的后果。甚至电影中展现的AI将接管世界和全人类的场景（当然，我认为这些场景不会成为现实）。

任何技术都是把双刃剑，AI也不例外。我们关注AI对生活的影响，不止侧重在正面，也要看到其负面影响，这才是正确的做法，在推进AI应用的过程中，坚持谨慎的态度，并积极寻找有助于避免灾难的方法。坚信AI最终是帮助我们改善生活。

 

Boris Cipot： AI的行业应用不再是新事物，需要将更多的流程自动化引用到不同行业，借助AI技术实现更高、更安全的任务自动化。制造业生产机器化已经成为行业的发展趋势，实现大规模机器人生产线作业，降低人工成本提高产能的同时也加快了AI在制造业领域普及应用的速度。

将视角移到家用机器人领域，会发现这些设备，比如机器人伴侣、机器人宠物、清洁机等智能设备的采用率得到进一步的提高，它们在家庭中的应用会变得越来越普及。

另外，值得一提的是，有趣的“自我生产”也推动了AI/机器人技术的发展。许多修补匠都喜欢用3D打印，他们喜欢在家里制作东西。在过去几年中，3D打印易用性大大增加，并且越来越多地被采用。将此与微型电路软件的简单开发相结合，例如Arduino（微型控制器）或Raspberry PI（芯片系统）应用于智能家居项目，机器人设备将会把真正的创意带入生活。我认为这样的家庭项目将成为AI和机器人技术未来发展的动力。