熊出没之夺宝熊兵
AI“战争”,让人类走开:AI 自主攻入 AI 公司,还会“兵不厌诈”_我的网站

一 | 7月16日,美国人工智能公司Hugging Face(抱抱脸)披露,该公司遭到了一场几乎全程由人工智能自主实施的网络攻击。

二 |
马斯克传来重大动作。更引人关注的是,面对AI发起的攻击,Hugging Face最终也借助人工智能展开反击,并使用中国团队开发的开源模型追查攻击过程。
▲Hugging Face(抱抱脸)资料图
Hugging Face表示,发动此次攻击的是一套完全自主运行的人工智能智能体。 据最新消息,世界首富马斯克旗下特斯拉将于当地时间9月3日举行Cybercab发布活动。

三 | 它无需人工逐步操控,便能自行寻找漏洞、尝试进入系统,并在短时间内连续执行数万次自动化操作。
专家此前已多次警告,AI智能体正逐渐具备独立发动网络攻击的能力,而此次事件可能是最早被公开披露的真实案例之一。
AI自主发动攻击
还夹杂干扰调查的虚假操作
据了解,Hugging Face主要为开发者和研究人员提供人工智能模型的开发、托管和共享服务。

四 | 据悉,Cybercab没有方向盘、制动踏板、后视镜,是一款完全为自动驾驶而生的纯电动双座轿车。 股价表现方面,美东时间8月21日,特斯拉股价大幅飙涨,盘中一度大涨超6%,截至收盘,涨幅达5.14%,总市值升至1.43万亿美元。用户可以将模型和相关数据文件上传至平台,也可以直接调用其他人公开的模型。在此之前,马斯克曾多次将Cybercab和Robotaxi服务定位为特斯拉未来营收和利润的重要来源。 特斯拉官宣 8月22日,特斯拉在社交平台上宣布,将于当地时间9月3日在得克萨斯州奥斯汀举行Cybercab发布活动。 特斯拉Cybercab是一款完全为自动驾驶而生的纯电动双座轿车,也是其无人驾驶出租车(Robotaxi)业务的首款专属车型。

五 | 据介绍,这款车没有方向盘、后视镜,也没有刹车踏板,其前排仅剩一块中控屏用于交互,是特斯拉专为其自动驾驶叫车服务Robotaxi打造的首款专用车型,也完全依赖特斯拉的FSD(全自动驾驶)系统来驾驶。 这一设计的核心含义是:一旦自动驾驶系统遇到问题,车内没有人类驾驶员可以接管。特斯拉表示,公司配备了远程操作员,可在紧急情况下介入监控并接管车辆。
然而,攻击者正是利用了这套上传机制。Hugging Face称,一组经过特殊设计的数据文件被上传至平台,随后触发系统中的安全漏洞,使攻击程序得以在公司的服务器上运行代码。
由于攻击由人工智能自动推进,其速度远超普通人工操作。攻击系统在短时间内不断尝试不同指令、权限和访问路径,其中还夹杂了一些用于干扰调查的虚假操作,增加了判断实际损失的难度。
Hugging Face最初也是通过人工智能系统发现异常。 据The Information此前报道,特斯拉计划分两步推进:先在公共道路上向员工提供Cybercab乘车服务,数天后再正式向公众开放。 特斯拉的目标是将Cybercab的售价控制在3万美元以下。公司的自动化安全工具在扫描系统日志时,识别出大量可疑活动。此后,安全团队又调用大语言模型,对攻击过程展开分析,试图还原攻击是如何发生的,以及哪些账户和登录凭证可能受到影响。

六 | 据其介绍,Cybercab的能耗表现也很突出,每英里用电成本远低于Model 3,旨在为大规模车队运营打下成本基础。
Hugging Face表示,借助人工智能,公司得以重新梳理攻击时间线,识别系统遭入侵的迹象,并区分真正造成影响的操作和用于迷惑调查人员的干扰行为。

七 |
原本需要数天完成的分析工作,最终只用了数小时,使防御人员能够跟上攻击系统的速度。 目前特斯拉Robotaxi服务主要使用Model Y车型,今年1月22日已在奥斯汀启动无人监督的全自动驾驶运营,6月3日完成全市范围无安全员服务全覆盖,6月22日面向公众开放付费搭乘。
美国模型受安全规则限制拒绝分析
中国开源模型接手调查
不过,Hugging Face安全团队在调查过程中也出现了一个意外问题。 马斯克近日宣布特斯拉奥斯汀Robotaxi取消车内安全员过去7个月后,有迹象表明,当地的Robotaxi服务终于全面进入真正的无人驾驶阶段。 Robotaxi Tracker创建者伊森·麦卡纳透露,过去两周,网站监测到的奥斯汀170次特斯拉Robotaxi行程全部都没有车内安全员,共涉及54辆汽车。

八 | 他们最初尝试使用一家美国头部人工智能公司开发的前沿模型,但该模型受到安全规则限制,拒绝执行部分网络安全分析任务。类似变化也出现在达拉斯和休斯敦等其他城市,在过去一周内,约有30辆无人驾驶特斯拉汽车投入运营。

九 | 特斯拉有望在本次活动中官宣Cybercab加入Robotaxi服务车队,不过推广节奏仍待采集Cybercab全新底盘实测数据与监管审批进度。

十 |
Hugging Face解释称,这些模型无法准确判断使用者究竟是在合法调查网络攻击,还是准备发动新的攻击。由于相关指令涉及漏洞、代码和系统权限,模型的安全机制直接阻止了调查继续进行。
为此,Hugging Face随后转而使用中国一款开源模型,对攻击进行分析并判断其影响范围。这也使此次事件形成了颇具戏剧性的一幕:一套AI负责发动攻击,另一套AI负责发现异常,最终又由中国开源模型协助追查攻击者留下的痕迹。
Hugging Face指出,这暴露出网络攻防中的一种“不对称”:攻击者使用人工智能时不受任何安全政策约束,而防御人员调用商业模型调查攻击时,却可能被模型自身的安全限制拦住。

十一 |
目前,Hugging Face仍未查明攻击来自何处,也无法确认究竟是哪套人工智能系统发动了攻击。 回顾此前,自6月起,Cybercab已在全美多地公共道路上被目击进行测试,包括奥斯汀。公司仍在调查客户数据是否被窃取,并承诺向可能受到影响的用户通报情况。
与此同时,Hugging Face已提醒用户检查账户,留意异常登录或其他可疑活动。
红星新闻记者 杨诗柔
编辑 罗天 审核 官莉。7月,特斯拉开始允许员工在奥斯汀园区私人道路上乘坐Cybercab,并收集反馈意见——这与去年奥斯汀Robotaxi首个站点上线前的准备流程如出一辙。 今年6月30日,首辆量产版Cybercab开始工程测试,车辆在无方向盘、无踏板状态下上路行驶;7月,内部员工在奥斯汀园区私人道路上开启通勤试运营,这与去年Robotaxi上线前的流程类似。

十二 | 近期,特斯拉还在奥斯汀完成了对急救人员的紧急培训,教导他们如何处理Cybercab相关突发情况,例如在必要时如何移动车辆。

十三 | 奥斯汀市政府发言人对此予以确认。 马斯克的关键一战 马斯克曾多次将Cybercab和Robotaxi服务定位为特斯拉未来营收和利润的重要来源,也是其AI战略的核心支柱。 据爱建证券推算,Cybercab购置成本或较网约车降低30%,降本空间来自供应链整合与结构设计优化。Cybercab通过去除方向盘、踏板等部件、采用小电池方案降低整车复杂度,并配合新生产工艺,单车成本较同期美国网约车主流车型购置成本低约30%。而Cybercab量产运营成本约0.21–0.25美元/英里,接近传统网约车的20%,为Robotaxi盈利成立的核心支撑。 特斯拉在7月最新财报中披露,特斯拉Robotaxi业务目前覆盖七大区域,其中2州6城无监督运营,无监督驾驶累计超38万英里,近数月周度里程保持双位数增速,服务期间零重大事故,累计付费里程接近250万英里。 据悉,特斯拉雇用了数百名安全操作员,负责测试软件、优化系统,并协助湾区的叫车服务。不过,在迈阿密等新市场,特斯拉已开始减少安全操作员数量,并在车辆上路初期不再安排员工随车。

十四 | 在资本投入层面,特斯拉今年资本支出同比增长逾一倍,达到近58亿美元,主要用于AI相关项目。

十五 | 马斯克的逻辑是:特斯拉不应被视为一家单纯的汽车制造商,AI与自动驾驶才是其未来的核心。 值得注意的是,特斯拉上个月已开始在德州生产Cybercab,但随后表示2026年内不会达到量产规模。马斯克在7月财报会上解释称,由于Cybercab采用全新平台,特斯拉需要先积累专属驾驶数据,才能进一步扩大投放规模。

十六 |
(文章来源:券商中国)。

十七 |
Current article:http://www.zuanniangwandangliaolinechu.sbs/0wbdv/20260826/4487222.pptx
Published on:02:14:20