网络安全 | ChatGPT爆火背后的安全威胁可能超出想象 lishengli • 2023年2月20日 下午12:09 • 网安资讯 • 444 views 几十年来,人工智能(AI)一直在不断刺激科技领域和流行文化的想象力,自动创建文本、视频、照片和其他媒体的机器学习技术正在蓬勃发展。 近期一款人工智能聊天机器人ChatGPT风靡互联网,它能够通过学习和理解人类语言来进行对话,还能根据聊天的上下文进行互动,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,写论文等任务。 随着ChatGPT的爆火,以此为代表的AI在给人们带来生活乐趣、便利的同时,在网络安全方面的隐患也引发关注。 在网络安全中的应用,重点关注两方面 科技行业一直致力于创建生成型AI,该AI可以响应命令或查询,以生成文本、视频或音频内容,但其无法分析数据和信息并将其情境化,以提供理解。 类似于ChatGPT的生成型AI,能够提供用户所要求的内容,就对威胁行为者具有很大吸引力。 安全团队需要关注: 一方面,在社会工程方面的运用。 AI可以创建大量复杂的网络钓鱼电子邮件与逼真的虚假配置文件。研究人员已发现有用户通过ChatGPT来开发恶意软件,虽然代码编写能力、质量、结果好坏参半,但也从一定程度上加速恶意软件的开发,提高漏洞利用的可能性和速度。 另一方面,在安全防护上的运用。 为IT和安全团队提供帮助,开展安全防护工作更高效。AI可以实现自动/半自动漏洞检测和修复,以及基于风险的优先级排序,但目前该类型的工具还没有。(也许未来会有,但由于需要进行培训才能理解特定环境中的“正常”,操作可能也会比较复杂。) ChatGPT已采取措施,但效果不明显 就ChatGPT暴露的安全威胁,开发公司已实施检查以防止恶意使用,但研究人员发现效果其实不佳。比如,提问方式会明显改变ChatGPT响应,包括拒绝恶意请求的有效性。生成型AI工具根据用户给出的命令,可以将恶意软件攻击的所有步骤拼凑在一起,但目前它还没有写出很好的代码。 现在的ChatGPT可以理解成是一个测试版,但不管未来发展如何,生成型AI已经成为威胁行为者“武器库”里的工具。 ChatGPT是否会被滥用,未来威胁将如何演变? ChatGPT的出现,降低了威胁参与者技术水平要求,不仅扩大潜在威胁数量,同时也增加了威胁行为者数量。 从威胁角度看,在网络安全领域,大量的漏洞结合AI,可以短时间内把漏洞“武器化”,同时,随着对AI技术的不断熟悉,威胁行为者之间也会相互竞争以获得访问权和知名度,导致AI的复杂性增加。 未来,安全团队可能会面对“拥有能够完成整个攻击链的AI”,它将会通过现成工具确定环境和进入勒索软件组织的最佳路径。同时,也将会确定网络、布局和体系结构,然后操纵工具链来混淆有效载荷,以避免防御者发现且无需任何人按下另一个按钮。 ChatGPT这类生成型AI的出现,引发了关于AI技术的新一轮变革和探索,相信未来在国家和多部门的积极引导下,AI会走向更多实际应用场景,在网络安全方面,也会产生更多防护工具。 原创文章,作者:lishengli,如若转载,请注明出处:https://www.lishengli.com/lee/1277.html ChatGPT的安全威胁威胁行为恶意软件漏洞利用漏洞检测和修复网络安全 Like (23) lishengli 0 0 Generate poster 微信扫码分享 下一代防火墙与传统防火墙简介 Previous 2023年2月19日 下午6:44 腾讯搜狗输入法多语言版本上架麒麟软件商店 Next 2023年2月20日 下午12:23 相关推荐 网安资讯 数字银行未来发展趋势 数字银行作为金融科技的一种新型业态,未来发展趋势主要有以下几个方向: 1、移动化和智能化:数字银行的发展将更加移动化和智能化,通过APP等移动应用和智能设备,实现随时随地的金融… lishengli 2023年4月3日 0385023 网安资讯 解决漏扫产品五大使用场景 网络安全工作是一场攻防博弈。只有及时、准确地审视自身信息系统中的薄弱环节,发现并解决信息平台的漏洞和问题,才能筑起一道坚不可摧的“城墙”。漏洞扫描工具是这堵墙的“基石”。 理想状态… lishengli 2023年2月25日 01.3K034 网安资讯 零差评的NDR,都做对了什么? 误报多、漏报多、设计反人类……不靠谱的流量检测设备,有一百种不靠谱的方式。但真正靠谱好用的NDR,只有一套标准。 01、告警精准 其他用户: 我们当时抱着试一试的态度使用了TDP,… lishengli 2025年2月14日 016001 网安资讯 比亚迪APP崩溃,如何应对智能汽车“失智”? 对于比亚迪车主来说,今天的早高峰有点“闹心”。 1月9日早8点左右,不少比亚迪车主反映,比亚迪APP出现了崩溃问题。比亚迪官方客服回应此次故障是由于“云服务系统异常”所致,大约在1… lishengli 2025年1月12日 020003 网安资讯 筑牢数据安全屏障,北信源项目荣获“2022年数据安全优秀实践案例” 2023年2月23日,由国家信息中心《信息安全研究》杂志社主办的“2022网络安全创新发展高峰论坛”在北京召开。论坛结合网络安全发展趋势,立足推动网信产业高质量发展,分享成果观点、… lishengli 2023年3月3日 0483011 网安资讯 数字水印迎爆发风口!数字经济蓝海赛道,龙头全梳理 当前以数字经济为核心驱动力的新一轮产业变革正在影响全行业。 数字经济的关键要素是数据资源,而数据交易的前提是数据确权。 数据确权是要求数据拥有方能够证明和验证数据真实性、准确性、合… lishengli 2023年3月21日 049100 网安资讯 西北工业大学遭境外黑客攻击,敲响网络安全警钟 上个月,西安市GA局碑林分局发布的一则有关西北工业大学的JQ通报引发社会关注。 据该通报披露,西北工业大学电子邮件系统近期发现一批以科研评审、答辩邀请和出国通知等为主题的钓… lishengli 2022年7月6日 0656054 网安资讯 中国电信量子密话入选首版次软件名单 官方认可重大突破 近日,安徽省经信厅公布了2023年第一批安徽省首版次软件拟评定名单,中电信量子科技有限公司自主研发的“天翼量子密话V1.0.0”成功入选。 据悉,首版次软件产品是指企业通过自主开发… lishengli 2023年3月19日 050800 网安资讯 国家网信办公布《个人信息出境标准合同办法》,6月1日起施行 2月24日,国家互联网信息办公室公布《个人信息出境标准合同办法》(以下简称《办法》),自2023年6月1日起施行。国家互联网信息办公室有关负责人表示,出台《办法》旨在落实《个人信息… lishengli 2023年2月25日 0381012 网安资讯 无界守护 终于安全:微步在线举行终端安全产品发布会 新一代信息技术飞速发展,数字和物理世界不断融合,我们正生活在一个被物联网逐渐渗透和包围的宇宙中,而各种智能终端的发布,犹如浩翰夜空中的闪烁星辰,熠熠生辉。 万物互联时代,终端安全也… lishengli 2023年2月26日 0521010 发表回复 You must be logged in to post a comment...Please Login to Comment Submit