ChatGPT存在的安全风险,近日引发诸多关注。继意大利宣布禁止使用ChatGPT后,加拿大也就数据安全问题开始调查Open AI。


(相关资料图)

当下数字经济加速发展,人工智能在带来便利的同时,也隐藏着巨大的数据安全风险。数据安全产业驶入发展快车道,我国多家上市公司已提前布局该领域,抢占先发优势。

多位专家在接受《证券日报》记者采访时表示,人工智能技术的发展对于网络安全是把“双刃剑”,从国家层面来看,需要用新的技术伦理来引领细节层面的政策制定和法律规范,从企业层面来看,这是一个新的创新引领和弯道超车的契机。

数据安全问题引关注

意大利于当地时间3月31日打响“封杀”ChatGPT的“第一枪”。意大利个人数据保护局宣布,禁止使用聊天机器人ChatGPT,限制开发这一平台的Open AI公司处理意大利用户信息,并启动立案调查。

紧随其后,加拿大隐私专员办公室于当地时间4月4日在官网宣布对Open AI展开调查。

在愈演愈烈的监管声浪中,Open AI于4月5日在官方博客发布了题为《我们保障AI安全的方法》的文章进行回应,介绍了该公司确保AI模型安全性的部署。

中央财经大学数字经济融合创新发展中心主任陈端在接受《证券日报》记者采访时表示:“人工智能的快速发展,本质上是一场生产力层面的变革,牵一发而动全身,对既有的生产体系架构、社会组织架构、社会关系结构都会产生深刻冲击,带来难以预估、也不易防范的非传统风险。”

她表示,“用全域视角来综合研判,把数据安全问题置于结构性变革的大框架下去审视,需要强化政策引导和立法规范。而在现阶段更为重要的是,用新的技术伦理来引领细节层面的政策制定和法律规范。”

我国十分重视数字技术发展,同时也关注人工智能发展过程中的风险和问题。2023年1月份,工业和信息化部等十六部门联合印发《关于促进数据安全产业发展的指导意见》提出,提升产业创新能力,加强核心技术攻关,到2025年,我国数据安全产业规模超过1500亿元,年复合增长率超过30%,将建成5个省部级及以上数据安全重点实验室,培育若干具有国际竞争力的龙头骨干企业、单项冠军企业和专精特新“小巨人”企业。

4月3日,科技部高新技术司司长陈家昌在国新办新闻发布会上表示,针对人工智能发展过程中的一些风险和问题,科技部制定发布了新一代人工智能治理原则和伦理规范,推动科技向善。

A股上市公司积极布局

数据安全是数字经济产业的基石之一。数据安全产业链主要包括上游安全芯片等软硬件供应商,中游防火墙、VPN、商用密码、数据要素等产品与解决方案提供商,下游应用则涵盖政府、国防、电信、金融、能源等关键领域。

华安证券计算机行业联席首席分析师王奇珏在接受《证券日报》记者采访时表示:“目前我国网络安全行业格局还相对较为分散。人工智能及算力的发展带来网络安全的直接需求。人工智能既是网络安全需求来源,也是网络安全的下一形态。未来若有企业能够积极把握‘人工智能+安全’这一机遇,有望获得快速的发展。”

对于如何用好人工智能这把“双刃剑”,A股多家上市公司已率先进行相关技术储备与业务布局。近日,天融信在投资者互动平台上表示:“目前公司进一步加大类ChatGPT的大模型技术在网络安全领域的研究投入,聚焦恶意样本检测与分析、攻击行为发现与溯源、安全情报推理与生成、自动化漏洞挖掘与评估、智能化安全服务与运营等方向。”

深信服表示:“公司长期关注安全、云计算和相关领域的前沿技术,后续将继续积极探索各类前沿技术在网络安全和云计算的应用,公司将结合自身能力储备和下游客户需求,持续进行网络安全、云计算和基础网络及物联网等业务领域的技术创新。”

永信至诚在投资者互动平台上表示:“人工智能在不同行业、不同领域的应用有不同形态,例如ChatGPT类的人工智能平台,一般会出现接口类、越权类等网络安全风险,还可能存在隐私泄露、数据泄露等数据安全风险,公司的网络靶场和数字风洞产品具备对该类产品和风险进行安全测试评估的能力。”

陈端向《证券日报》记者表示:“人工智能快速发展所带来的变革,让底层技术逻辑、业务逻辑,乃至未来的场景生态、场景逻辑、产业生态都处在深刻变革之中,能够以创新赢得先发优势的企业,将把握住下一个红利期。”

推荐内容