ChatGPT是时代发展的「双刃剑」AI人工智能恐成威胁网络安全的帮凶

ChatGPT 是一个由 OpenAI 公司训练的大型语言模型,能够进行自然语言理解和生成,在训练过程中学习了大量的人类知识,可以回答问题、写作、翻译、整理资料、写程序、编写摘要,甚至也能写诗、写歌。ChatGPT也是一个对话型的AI 聊天机器人,因此它需要不断学习整理人类语言,即自然语言处理。随着科技的发展,AI人工智能越来越多地参与到人类的生产生活当中,但凡事都有两面性,例如在使用ChatGPT的过程中,除了赞叹ChatGPT具有令人称奇的AI能力,但你同时也发现,它的智慧程度其实是取决于你问问题的方式或角度。那么可以引申出结论,AI人工智能的利弊,显然与人为因素有很强的联系。

这里引用Palo Alto Networks副总裁暨亚太区安全总监Sean Duca的话,他指出:「AI也一直被视为一把『双刃剑』。如今,用户可以使用AI驱动的安全工具和产品,在几乎无人干预的情况下应对大量的网络安全事件。不过,需要注意的是,业余骇客也可利用同样的技术开发智能恶意软件程式并发动起隐形攻击。」

ChatGPT 带来的网络安全隐患可不容忽视

自去年11月底ChatGPT问世以来,全球技术专家和评论员一直在关注AI生成的内容工具所产生的影响,尤其是对网路安全的影响。在拉斯维加斯举行的 Black Hat and Defcon 安全大会上,一个技术团队展示了AI在生成钓鱼邮件和鱼叉式钓鱼资讯时是如何超越人类。

研究人员将OpenAI的GPT-3平台与其他侧重于个性分析的AI即服务 (AI-as-a-service) 产品相结合,生成了根据他们同事的背景和性格而制订的钓鱼邮件。最终,研究人员开发了一个在攻击目标前能对邮件进行梳理和完善的流程。更令他们惊讶的是,这个平台还能自动提供具体内容,例如当被要求生成针对特定国家的人的内容时,它能提到该国的法律。

⚠️注意:GPT-3现行数据库最终定格在2021年

ChatGPT的开发者明确表示,这款AI工具具有质疑错误的前提和拒绝不当请求的能力。虽然该系统自带用于防止任何形式犯罪活动的护栏,但经过调整,它依然能够生成了极像人类书写出来的钓鱼邮件。

采取智能化行动 实现自动化回应

根据Palo Alto Networks调查团队Unit 42的调查显示,勒索软件攻击是最为严重的网络安全事件,发展呈现愈演愈烈的趋势。 ——不仅案例数量超过三分之一(36%),而且攻击者索取和获得的赎金也在不断增加。究其原因,主要是由于暗网中的工具价格低廉,——甚至不到10美元,随着勒索软件即服务 (Ransomeware-as-a-service) 模式和ChatGPT等AI工具的出现 ,这大大降低了犯罪门槛。

日新月异的骇客技术所带来的威胁迫在眉睫,网络安全行业必须拥有同等资源才能对抗这些AI驱动的攻击。长远来看,网络安全行业的目标不应该是不要让威胁猎捕者 (Threat Hunter) 只让一群人通过猜测的方法来处理解决威胁和攻击者等问题。

当务之急是采取智能化行动来化解这些不断发展的威胁。虽然自主回应如今能够在无人类干预的情况下有效解决威胁,但企业、政府和个人越来越依赖AI和机器学习(ML)等新兴技术的自动化回应,随着AI驱动的攻击成为常态,受到自动化恶意软件攻击的机会也大大增加。

谨守负责及道德使用 AI 工具

从技术的复杂性到人为因素,企业在确保AI网络安全的过程中面临着诸多挑战,尤其是平衡机器、人类和道德因素。制定企业策略对于兼顾企业道德和网络安全至关重要。建立有效的治理和法律框架能够增强人类对AI技术的信任,并促进社会公平和可持续发展。因此,AI和人类之间的微妙平衡将成为实现网络安全的关键,其中信任、透明度和责任感为机器带来了补充优势。

© 版权声明
THE END
喜欢就支持一下吧
点赞13 分享
评论 抢沙发
头像
说说你的看法!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容