预防接种数字门诊/基卫系统排队分诊系统
top_成都融和实业有限公司 20年智慧服务历程,专注更专业

智慧大厅整体解决方案服务商

智能快优排队系统/智能导诊系统/评价系统/多媒体信息发布系统/触摸查询及导航系统/自助填单系统/智能取件柜/智能机器人/微信预约及支付

咨询热线:4006-028-965
座       机:028-87438905

ChatGPT放大网络安全隐患。

发布日期:2023-07-25 阅读次数:561

ChatGPT可以是一个有用的客户服务代理。不幸的是,客户并非唯一能够帮助的人,特别是现在ChatGPT在许多物联网和边缘设备上。物联网(IoT)多年来,边缘计算一直困扰着企业的安全工作。鉴于家庭工作和混合工作安排的复杂性增加,最近情况大幅恶化。目前,ChatGPT已经出现在大多数物联网和边缘设备之上,并有效地增加了援助之手,威胁到无处不在的参与者。

现有的漏洞,尤其是在边缘设备和用户的人工智能和ChatGPT支持或辅助攻击的背景下,可以以不同的方式攻击企业。虽然有各种各样的努力来利用漏洞,但边缘的威胁来自两个物联网领域之一:家庭物联网和企业物联网。

很多情况下,员工家庭网络及其数据是威胁行为人的首选。攻击者一旦进入家庭网络,就可以重新进入企业网络,从而通过“受保护的用户或家庭网络”泄露敏感的商业信息。但是,这并不意味着企业物联网和边缘设备将受到更直接的入侵。举例来说,勒索软件威胁行为者可以利用物联网漏洞作为恶意活动的起点,对业务运作造成重大损害和中断。

ChatGPT放大网络安全隐患

公司物联网不断变化的威胁形势。

在家庭和企业领域,物联网和边缘计算的利用率都在上升。尽管物联网是一个高度分散的市场,但即便是少数类别的观点也强调了全面持续、无限增长。Gartner预计,到2022年,物联网在企业和关键行业的支出将超过2680亿美元。Deloitte预计,今年全球与物联网相关的软硬件支出将增加到1.1万亿美元。

但是,这些挑战不仅与物联网和边缘设备的购买和部署数量的增加有关。物联网类型的日益多样化也引发了问题。

由于协议、功能和安全能力的变化,边缘和物联网设备的多样性增加了额外的复杂性和安全漏洞,从交换机、路由器、传感器到销售点系统、工业机器人和自动化设备。

如果你认为供应商和买家在保护这些设备方面做得很好,那就再想想。僵尸网军和DDoS攻击往往来自未受保护的物联网设备,如酒店大堂水族箱恒温器、家用智能冰箱、企业休息室咖啡壶等。在组织中,物联网设备,特别是边缘设备,是最容易受到攻击的。

家庭和工作的危险在哪里?

在其它地方,物联网和边缘计算也会产生漏洞。举例来说,边缘计算空间的扩大给企业带来了一个复杂的安全问题,特别是在企业和消费者之间。

现代化的图像存档系统,称为PACS,将超声或CT扫描仪等扫描仪与病人管理系统连接起来。为了让病人和医生能够访问数据,PACS服务器越来越多地连接到公共互联网上。一般情况下,这些IT基础设施甚至连基本的预防措施都不到位,也不强。公司与消费者物联网与网络之间日益紧密的联系模糊了界限,并且明确地定义了攻击者的机会。

危险与损害也是双向的。

目前,仅在美国,就有约200个未受保护的档案(PACS服务器)连接到公共互联网。攻击者可以利用这些漏洞、泄露或加密数据勒索组织,利用这些数据欺诈患者的医疗保险或更改医疗图像,从而破坏过程本身。

但是对于企业来说,消费者和职业关系的十字路口并不是唯一的碰撞点。这些东西本身就有交叉用途,会被破坏。比如自动驾驶汽车既有商业版,也有消费版。攻击很容易传播给企业和用户,无论车辆是商业车队、租赁车辆还是租赁车辆,无论员工是否愿意再次回到办公室工作。

接着,从摄像机到智能电表到儿童玩具,家庭物联网正在稳步推进。

另一个令人担忧的问题是,远程员工使用的人工智能增强家用设备存在漏洞。例如,当会计人员最后一次更新他们的家庭路由器或家庭网络连接的存储服务器时,这些服务器用于备份企业远程工作。这一问题进一步加剧了企业面临的挑战,因为它增加了被盗知识产权的风险。

ChatGPT放大网络安全隐患

如何使物联网漏洞变得更加严重,ChatGPT和人工智能?

ChatGPT及其同类产品正在快速集成或嵌入各种类型的商业和消费物联网。很多人认为人工智能模型是迄今为止最复杂的安全威胁。但是大多数想象都是虚构的。

如今,如果真正的人工智能出现了,那么它是否远离人类是非常令人担忧的。然而,在短时间内开发真正的通用人工智能的可能性仍然很低。但是对最近引起轰动的人工智能ChatGPT来说,这是另一种恐慌。

ChatGPT对物联网构成内部威胁,类似于流氓或“无所不知的员工”构成的威胁。一些消费者的物联网漏洞会带来与微控制器或微处理器相同的风险。

本质上,ChatGPT的潜在威胁来自于它在训练后变得有帮助和有用。然而,这样一个乐观的第一个指令可能是非常有害的。即使一个提示撞上了它的安全护栏,另一个精心设计的提示也可以欺骗它,以防止它执行护栏。

这种类型的攻击被称为提示注入,因为提示用于使模型忽略之前的指令或执行意外操作。提示注入可以直接用于ChatGPT,也可以用于基于ChatGPT或其他大型语言AI模型的应用。换句话说,这种类型的攻击可以注入ChatGPT,ChatGPT位于物联网和边缘设备之上。

另外,边缘设备中的人工智能和ChatGPT等新技术正在引入新的漏洞,企业需要注意这些漏洞。举例来说,人工智能算法可以通过操纵来产生虚假数据,从而导致错误的决策和行动。ChatGPT也可以通过冒充可靠的个人或实体来攻击社会工程。

有时候,ChatGPT和基于LLM的类似聊天机器人可以使用一个提示来显示后台或专有信息来指导其响应,这些信息从来没有被企业以外的任何人访问过。

ChatGPT等工具中共享机密数据或源代码,会给合规义务带来挑战,使知识产权面临风险。尽管不断演变的威胁像野火一样增加和扩散,但并非所有的威胁都消失了。任何新技术都会带来风险,但这并不意味着所有的风险都是全新的。事实上,企业可能会发现,为了降低ChatGPT等工具的风险,他们拥有大量的人员、流程和技术。

成都融和实业排队叫号系统厂家(www.cdroho.com)是一家集研发、生产、营销、服务于一体的高新技术企业.主营智能填单系统、智能查询系统、智能排队叫号系统、医院分诊系统、排队机、叫号机、评价器(好差评系统)、呼叫器、多媒体查询及信息发布配套系统等,公司产品已广泛应用于不动产登记、智慧医疗、智慧税务、智慧政务、智慧金融、智慧通讯、智慧服务大厅、智慧机关单位等服务窗口行业.咨询电话:028-87438905。

标签:ChatGPT,网络安全,边缘计算,物联网,人工智能,工业机器人

  • 快优智能排队
  • 地址:成都市武侯区晋吉南路146号交大庭院15栋二单元一楼B座
    服务热线:4006-028-965
    公司座机:028-87438905   028-87438975
    商务热线:涂女士   电话:15388162379   QQ:524628480

                     陈先生   电话:18628981420

                     冯先生   电话:13018209568   QQ:623755764

    排队系统公司官网:www.cdroho.com

    关注我们 成都融和实业有限公司
  • 4006-028-965
    全国免费咨询热线