从“2018中国IT市场年会”现场获悉，2017年中国人工智能核心产业规模超过700亿元，随着国家规划的出台，各地人工智能相关建设将逐步启动，预计到2020年，中国人工智能核心产业规模将超过1600亿元，增长率达到26.2%。
如今，人工智能技术的科技热潮正席卷，推动着新一代科技革命的展开。但是，每一项科技的发展都有其两面性。为了人工智能产业的可持续发展，为了保障人类的安全，人工智能发展需要高度重视安全问题。
依托在深度学习技术上的快速突破，人工智能近年来表现突出、引人瞩目。除了在围棋界叱咤风云，人工智能还在汽车、金融、家居等各行各业实现了日益深入的渗透，推动了世界智能化热潮的持续升温。
伴随人工智能的“走红”，人们对其的态度也逐渐出现分化，形成了乐观派和悲观派。有“科技狂人”之称的特斯拉CEO马斯克、日前理论物理学家霍金都属于后者。zui近几年，马斯克与霍金都在不同场合频频提到人工智能有可能带来的威胁，呼吁重视人工智能的有序、规范发展。
对此，许多业内人士也认为，在人工智能加速崛起，影响力越来越大的形势下，其发展步伐已然不可阻挡。因此，必须关注人工智能的安全问题，未雨绸缪。毕竟，加强前期管控、预防的成本比补救、挽回的成本低得多。
人工智能发展需要“围墙”
人工智能的发展需要“围墙”。这里说的“围墙”不是说要阻碍人工智能的发展，而是要打造一个合法、规范、标准、有序的人工智能发展生态。任何一项新技术的应用，对会给人类世界带来影响。更何况人工智能不只是普通的技术，其正推动人类社会、经济领域的全新变革。
现在，很多人只沉迷于人工智能的美妙未来，但要知道，任何技术都有其两面性。研究表明，人工智能一旦失控或被不法利用，那么将会成为黑客的“帮凶”，甚至会威胁到人类未来的生存。
因而，从安全目标出发，以谨慎的态度对待人工智能的发展是必要的。人工智能应当在符合法律法规、人伦道德、行业标准和应用实际等前提下，再推进进一步的研发和商业化。同时，应当强化科普理念，让更多人了解人工智能。
实际上，弱人工智能技术的应用已经较为广泛。无论是近年来大热的内容分发领域，还是语音交互领域，都是人工智能的主要应用场景之一。
借助人工智能与大数据，内容分发终端“懂了”你的爱好，一直向你推荐你可能感兴趣的内容，并不管你是否接受、是否认同；一些电商平台也借此向你推荐你可能感兴趣的商品，只因为你浏览了该类商品而已。
如果机器算法只会迎合没有法律与道德的约束，那么就会出现很多不利影响。内容分发终端在资讯领域出现的那些“失误”，就是显而易见的实证。
在数据资源重要性不断提升，人工智能技术应用愈发广泛的态势下，如果不对数据掌控者和人工智能技术开发、应用方进行必要的约束，不建立一道维护广大公众个人信息安全、维护人类基本生存安全的“围墙”，一旦被别有用心的人利用，难以想象会造成多么严重的后果。
有保障才能可持续发展
“人工智能的发展必须要考虑安全的重要性。”中国工程院院士倪光南在谈到网络安全问题时强调。
2017年以来，我国在人工智能产业化发展方面进展迅猛，国家也相继出台了《新一代人工智能发展规划》等一系列重要政策。工信部印发的《促进新一代人工智能产业发展三年行动计划(2018-2020年)》(以下简称“《计划》”)中，对人工智能安全保障能力的建设予以了明确。
《计划》中指出，要完善发展环境，提升安全保障能力，实现产业健康有序发展。推动人工智能标准体系、测试评估体系及安全保障体系框架初步建立。到2020年，完善人工智能网络安全产业布局，形成人工智能安全防控体系框架，初步建成具备人工智能安全态势感知、测试评估、威胁信息共享以及应急处置等基本能力的安全保障平台。
分析人士指出，相关政策的出台将推动人工智能安全理念的普及，加快人工智能安全保障体系的建立，为人工智能安全发展、可持续发展提供重要支撑。只有形成更具针对性的人工智能安全体系，在法律法律、标准规范方面持续完善，人工智能产业才能拥有安全发展的坚实“围墙”。
当然，强调人工智能安全的重要性，正确认知人工智能可能带来的威胁，并非对于这一前沿技术的否定，而是为了避免公众的疑虑，让公众更够更加清晰地全面了解，增强信任感。另外，人工智能安全体系的建设，也能有效保障产业的可持续发展，维护人类未来的合法、有序生存环境。
