编者按：当全球企业还在为生成式AI的利弊争论不休时，网络黑产已悄然完成技术革命。最新安全研究表明，黑客正将AI工具转化为数字时代的"魔法学徒"，通过谷歌日历邀请、Outlook邮件等日常办公入口，悄无声息地窃取核心数据。更令人心惊的是，企业盲目上马AI产品的热潮与安全防护的滞后形成致命反差，就像给强盗配了万能钥匙却忘了加固门锁。这场AI安全攻防战中，开发者机器竟成最大漏洞，自动化AI代理更可能成为黑客的"内应"。当恶意AI与防御AI开始对话，我们迎来的或是史上最严峻的网络安全危机。
拉斯维加斯讯——当众多行业还在权衡生成式AI的利弊时，网络罪犯早已全面拥抱这项技术。
网络安全专家指出，黑客已掌握如何让泛滥在普通电脑上的人工智能程序反噬用户，其破坏力令防护者忧心忡忡。这些专家坦言，抵御网络攻击的能力正面临空前挑战。
威胁分析师警告，黑客如今能把AI变成"魔法学徒"。看似无害的谷歌日历邀请或Outlook邮件，都能指使关联的AI程序悄无声息地盗取敏感文件，且不会触发任何安全警报。
更雪上加霜的是，无论是急于取悦投资者的高管还是自作主张的员工，AI新产品的部署往往盲目求快，有时甚至无视IT部门的反对。这种鲁莽行为使得安全漏洞呈几何级数放大。
"每款产品都强推AI却引入新风险，这简直不公平。"安全公司SentinelOne的威胁研究员亚历克斯·德拉莫特直言。
从云计算到AI，新技术的安全防护总是滞后于应用推广。但生成式AI的能力远超以往突破性技术，一旦遭滥用，造成的破坏将更为致命。
新型攻击手段的威力令人瞠目。网络安全公司NCC集团的戴夫·布劳赫勒最近在防御测试中，竟轻松诱骗客户公司的AI编程助手执行指令，直接交出了核心数据库和代码仓库的钥匙。
"我们在安全领域从未如此愚蠢过。"布劳赫勒痛心疾首。
尽管整体调查显示AI效果参差不齐，但多数软件开发者仍热衷使用AI公司的代码生成工具。然而研究表明，这些工具比人类程序员更易埋下安全隐患。
越是赋予这类工具自主权和生产环境访问权限，它们掀起的风浪就越可怕。
今年8月的某次攻击首次将传统黑客技术与AI操控结合。不明黑客从熟悉的供应链攻击入手，伪造了广受欢迎的代码管理平台Nx的官方程序更新包，导致数十万用户无意中下载带毒软件。
与以往软件供应链攻击类似，恶意代码会搜刮受害者的账户密码、加密货币钱包等敏感数据。但新花招在于：黑客预设多数目标设备安装有谷歌、Anthropic等公司的编程工具，这些工具通常拥有高级权限。于是黑客直接操纵AI工具掘地三尺，最终超千台用户机器乖乖奉上数据。
"这次攻击的特殊性在于，是首次有黑客尝试劫持受害者环境内的AI系统。"软件安全公司Endor Labs研究员亨里克·普拉特指出，"企业最大风险在于，开发者机器上的代码权限可能远超其他设备，甚至能联通整个企业系统。攻击者本可借机修改源代码。"
上月拉斯维加斯黑帽大会上，更多利用AI的惊悚攻击手法浮出水面。比如通过邮件发送内含隐藏指令的文档，当用户使用ChatGPT等工具自动生成摘要时，AI便会执行窃密指令，甚至能自动搜集数字密码传出网络。
对谷歌Gemini的类似攻击连附件都不需要，一封带隐藏指令的邮件足矣。AI生成的虚假摘要会谎称账户被盗，诱导目标拨打黑客电话，完美复刻钓鱼诈骗套路。
随着代理型AI的崛起，威胁进一步升级。这类能让浏览器等工具自主交易决策的技术，正成为黑客的新帮凶。安全公司Guardio已实验证实，能诱骗Perplexity公司的Comet浏览器插件在假网店下单买表，并服从伪造银行邮件的指令。
攻击者更开始直接运用AI作战。Anthropic公司上月发现，有勒索软件团伙全程使用AI实施攻击——从定位企业脆弱系统、实施入侵到评估窃取数据，连赎金金额都由AI建议。由于自然语言处理技术的进步，罪犯甚至不需要精通编程。
高级AI程序已开始用于挖掘未知安全漏洞，即黑客趋之若鹜的"零日漏洞"。上月美国国防部高级研究计划局的比赛中，7支黑客团队开发的自主"网络推理系统"，从5400万行开源代码里找出18个零日漏洞。虽然参赛者及时修补了漏洞，但官方坦言全球黑客正在开发类似技术用以攻破系统。
资深安全专家预测，全球将掀起一场利用AI挖掘新漏洞的疯狂竞赛，黑客会在系统中留下可随时进出的后门。
真正的噩梦场景是攻防两端AI的合流——当攻击者的AI找到入口后，开始与受害者的AI系统对话协作。正如SentinelOne的德拉莫特所言："届时将是坏人AI与好人AI的联手作战。"
"明年，"CrowdStrike高级副总裁亚当·迈尔斯预言，"AI将成为新的内部威胁。"
