AI时代,世界的逻辑会改变吗?

日期:2025-11-19 15:25:14 / 人气:37



在AI时代,许多人都在担心世界原有的运行逻辑是否会被改变。这或许是一种无谓的担心,因为逻辑本身是稳定的,并不因外部条件的变化而失真或转移。或者说,逻辑一直在那里,会被改变的从来就不是逻辑,而是人。尤其是在逻辑普遍缺失的土地上,许多人对哲学和逻辑的理解早已变成一句极端的“凡事都要两面看”“凡事有好有不好”。他们在生活中不断使用这种“正确的废话”,只是为了否定那些自己不同意的东西,相反,面对他们赞同的,就会说“凡事都应该如何如何”。

“文科无用”“基础学科无用”正是这种无逻辑的产物,因为没有逻辑,因为无法理解事物之间的联系,人们普遍忽视那些不能“马上见效”的东西,却不知道基础学科才是文明前行的关键。

马兆远的《世界的逻辑》一书中写道:数学家为什么能够在“什么是正确的”这一问题上达成共识,且这种共识能够历经数千年而不被推翻?因为数学的逻辑推理是抽象的,它打破了文化、时间和空间的限制,是科学领域通用的语言。这意味着数学结论在全球范围内都是一致的,不受人的主观感受和经验影响。一旦某个数学命题被证明为真,就会被视为绝对真理,直到新的数学领域发展出来,才有可能需要对其进行修正或扩展。

正因为这种稳健的逻辑,数学成为科学研究中不可或缺的工具。比如,在物理、工程学、经济学等众多领域,数学提供了描述和预测现象的精确方法。数学的稳定性和普适性是它与其他学科不同的关键特点,也是数学理论能够历经时间考验而仍然被认为正确的根本原因。而数学的这种特点,源于其包含的古典逻辑。正是逻辑的稳定性,让人类能沉淀出相对确定的知识。

书中写道,逻辑学的发展历史可以分为两个主要阶段,一是20世纪30年代之前的古典逻辑,二是20世纪30年代之后的现代逻辑。

古典逻辑起源于古希腊,在亚里士多德所在的时代得以总结归纳,为人类系统化地理解世界、人类自身以及社会,并形成相应的观念提供了思维工具。它对西方思想产生了深远的影响,尤其在基督教的形成和发展过程中扮演了重要角色。如今“西方伪史论”盛行,各种毫无逻辑、稍有智识就可戳穿的荒诞推断大行其道,这些人无非是取悦于权力的导向而已。

马兆远在《世界的逻辑》中这样描述古希腊文明的可贵:当我们认真审视古希腊时会发现,我们在中学阶段学习的数学知识,包括平面几何、代数等,以及大部分物理学知识,在古希腊时期就已经为人知晓,并且被写进了著作和教材。当我们谈论地球时,已经默认它是球形的,中国古人说“天圆地方”。那么地球是如何被发现是球形的?人们又是如何证明它是球形的?古希腊人首先观察到金星在不同日子里的明暗变化,并因此推论金星在反射太阳光,因为距离的远近差异,导致它在地球上看起来明暗不同。他们推测月亮也在反射太阳光。当地球运行到太阳和月亮之间,就会挡住太阳光,因此月亮的盈亏是地球的影子造成的。而只有球形物体的影子才能总是圆的,因此他们推断地球肯定是球形的。古希腊人甚至测量了地球的直径,测量结果与实际误差不超过10%。

奥地利哲学家、古典学者特奥多尔·贡珀茨(Theodor Gomperz)在《希腊思想家》中说:“我们几乎全部的智力教育都源于希腊人。要想从他们势不可当的影响中解脱出来,就必须首先彻底认识这些渊源。”古希腊的确是个特殊的存在。古希腊文明不仅塑造了古罗马,而且在罗马文明的框架内孕育了基督教。基督教是为数不多建立在逻辑规则之上的宗教之一,它对逻辑问题的深入探讨为后来的科学发展提供了哲学基础。

与其他文明相比,古希腊文明形成了一套完整的逻辑体系,这使得知识能够稳定地积累和传承。在没有逻辑体系的古代文明中,知识很难有稳定的沉淀。这样的古代文明在发展到一定阶段后,往往会遇到瓶颈。随着文明人口的增长,不同的观点和想法难以达成共识,旧的知识被遗忘又被重复发现,导致知识无法稳定积累。

古希腊人发展出的逻辑学让知识得以沉淀和积累。经过一代代人的努力,相对正确的知识被筛选出来并得以积累,为文明的爆发奠定了基础。在古希腊文明之后大约又过了2000年,科学在基督教世界内部爆发,这与基督教继承了古希腊的逻辑学精神,即严格的思维方式,有着密切的联系。这种思维方式为科学方法的发展提供了理论支持,促进了人类对自然界的深入理解和技术的快速进步。

相比之下,更为复杂和“突变”的是20世纪30年代后的现代逻辑。马兆远写道:“从20世纪30年代开始,哥德尔提出不完备定理,图灵建立‘图灵机理论’,这些成果开拓了现代逻辑的发展方向,开始引入新的符号系统和分析方法。现代逻辑的发展进一步丰富了逻辑学的领域,并在计算机科学、语言学和哲学等多个学科中发挥了重要作用。但由于新技术和科学的发展,之后的逻辑学已经不再是一个哲学分支,也很难再以‘逻辑学’这个名词来予以概括。它成为人们认知的基本工具和思维方式。”

逻辑有非常明确和严格的规则,以确保不同个体能够通过一致的推理过程得出相同的结论,所以它的效力不依赖于任何个人的主观意识。“人的观点可能会随时间变化,甚至随着个体的消逝而无法持续,而逻辑具有超越个人观点和时代限制的稳定性,因此在多样化的观点和不同时间阶段之间,都可以沉淀出相对稳定和客观的知识。”

书中举了物理学中布朗运动的例子,来呈现人类在知识上的境遇。布朗运动指的是粒子无规律、随机的运动模式,有时也被形容为“醉汉行走”。马兆远解释道:“就像一个喝醉酒的人走路时东倒西歪,虽然他经过了一段时间的行走,但他与出发点的距离并没有显著增加。在人类的思维和知识的积累过程中,一旦缺乏逻辑的系统性支撑,就会遇到类似的问题。尽管从长远来看,知识在不断积累,新知识不断被发现,但旧知识也会被遗忘。人在学习新知识与遗忘旧知识之间会达到某种平衡。这可能导致整体人类社群的知识总量增长在达到一定水平后呈现饱和趋势,即使随着时间的推移,人类的知识总量也不再有显著的增加。”

古希腊的情况则有不同,“其影响力不仅延续到中世纪,还影响了现代欧洲,这要归因于他们对逻辑的重视。与随机获得知识不同,古希腊人通过逻辑推理和严谨的方法逐步从无到有地构建知识体系。他们的知识的增长速度最初可能与醉汉行走相似,随着时间的推移,他们不断筛选和精炼知识,逐渐提炼出了一套相对正确的知识体系。”

当然,这种“早慧”也使得文明长期处于变化极小的恒定状态。不仅仅西方如此,所有古老文明都是如此。即使那些延绵数百甚至上千年的古老文明(如古埃及文明、古巴比伦文明)没落,它们与后来者在社会运行上的差别都不太大。考古研究发现,这些古代文明晚期的人类生活水平与工业革命前的人类相当。比如古埃及人在金字塔建造时期的人均热量摄取已经与后者达到同一水平,包括肉类、蔬菜、面包以及啤酒的消费量;古埃及人的人均寿命、医疗和手术水平也与工业革命前的人类普遍状况类似。

知识的定向积累和筛选也是一个缓慢的过程,可能需要数千年的时间,但是一旦积累到了一定程度,达到某个临界点,它们就会开始相互连接,并逐渐形成更复杂、更高级的知识网络。这种知识网络的联结会引发知识呈几何级数增长,即“知识大爆炸”。知识大爆炸不仅标志着人类文明迎来了重大转折点,也标志着知识的快速积累,更标志着人类文明的巨大进步。

人类的知识大爆炸,始于文艺复兴的到来,欧洲科学逐渐发展,并在17世纪爆发,延续至今。正如马兆远所说,“古希腊的哲学思想、理性探索和实证方法为后来的科学发展奠定了基础。古希腊的学者们通过观察、实验和逻辑推理,开创了一种全新的认识世界的方法,这种方法在文艺复兴时期得到了发扬,在工业文明的辅助下,最终引发了近代科学革命。这一革命性的变化,标志着人类对自然界的认识和利用达到了一个全新的高度,也为现代科学技术的发展奠定了坚实的基础。”按照《世界的逻辑》中所总结,就是“长期的定向积累,再加上科学方法的助推,知识的增长便会以惊人的速度爆发。”

有一个许多知识人都曾叹息过的问题:逻辑如此重要,为什么中国的大学并未普遍重视教授逻辑学呢?实际上,上世纪80年代,中国也曾教授逻辑学,但90年代后,逻辑学慢慢退出基础教育,结果导致人们普遍逻辑训练不足,常常混淆辩证法与逻辑就是典型例子。逻辑学的退出有很多原因,说起来没那么复杂,无非是对逻辑的“警惕”,因为一个人有逻辑,确实不容易受骗。

对逻辑的警惕和抗拒,与中国传统哲学堪称“绝配”。中国古代哲学重概念、轻逻辑,因为没有明确定义,导致讨论总会沦为诡辩和抬杠。直到今天,中国线上线下的交流,仍然会沦为各种抬杠,就是因为太多事情没有定义,前段时间的预制菜就是如此。人们普遍只管态度,不论事实;只问动机,不论是非;只问亲疏,不论道理。立场、动机论和情绪是某些人应对一切事件的法宝。这样的恶性循环,导致整个社会充满无效纷争,无数人愚昧了一辈子。相比之下,正如马兆远所说:“理性给了我们掌控世界的力量”。

当然,科学也有局限性,20世纪初的数学家哥德尔用“不完备定理”证明:任何自洽的数学系统,都必然存在无法在系统内部被证明的命题,任何有限的可描述体系都是有缺陷的。

在马兆远看来,这个定理几乎是人类历史上最重要的证明。它影响的不仅仅是数学,也包括社会的各种层面。他在书中以投票为例:“投票这件事从古希腊时代就开始了,经过2000多年的时间,我们是否找到了一个令大家都满意的投票方式呢?事实是,无论怎么做,我们的选举规则必然是有限的,因此无法避免哥德尔不完备定理。1951年,数学家肯尼斯·阿罗证明了阿罗不可能定理。在哥德尔不完备定理的大框架下,这意味着,人们通过有限的规则,是不可能设计出一个能够充分反映民意的、自由的、公平的、无独裁的选举方法的。”

马兆远认为,上世纪二三十年代,人类彻底认识到,非理性的那部分,才是真正根深蒂固存在于世界的。因为“理性的部分将来计算机都可以做,效率会越来越高,但非理性的部分,是人类无法交给机器的。”这一点,在当下显得尤为重要。

逻辑的稳定性与变化性在全球经济领域同样有所体现,UBS考虑将总部从瑞士迁至美国的事件,便是全球金融格局下逻辑与现实博弈的典型案例。

UBS考虑将总部从瑞士迁至美国

今年6月,在UBS收购瑞士信贷后,瑞士政府针对UBS提出了更严格的监管规则,这可能导致UBS需额外持有260亿美元的核心资本金。据外媒报道,UBS考虑将其总部从苏黎世迁往美国,以回应瑞士政府对于新资本监管提出的要求。若成行,这将是全球银行史上最具象征性的重要事件。

UBS考虑迁址美国

今年6月UBS收购瑞士信贷后,瑞士政府拟对其实施更严资本监管,新规将要求UBS额外持有260亿美元的核心资本缓冲。UBS认为这是“不成比例、极端且与国际标准严重脱节”的要求,将直接削弱其全球竞争力。

瑞士政府提出有关规则的立场是需要强化该国的银行体系,以避免再次出现如瑞信(Credit Suisse)的倒闭事件,以防新一轮银行业危机。对此,UBS认为这一数额将直接削弱其全球竞争力,表示“坚决反对这种极端增幅。这些变化将导致资本要求既不成比例,也与国际标准脱节”。为应对监管风险,自今年早些时候起,UBS一直在研究应对瑞士资本方案的应急方案。

据外媒报道,近日,UBS董事长科尔姆·凯莱赫(Colm Kelleher)与美国财政部长斯科特·贝森特(Scott Bessent)私下会晤,讨论将UBS总部迁至美国的可能性。三位知情人士透露,凯莱赫和贝森特近几个月来就UBS迁往美国后的发展前景进行了会谈,特朗普政府对UBS这家瑞士最宝贵的资产之一表示欢迎。

与贝森特的会谈是凯莱赫持续向瑞士政府施压的一部分,旨在迫使UBS放弃拟议的资本要求。围绕计划变更的不确定性给UBS的股价带来了压力,而UBS管理层发起的公开和私下游说活动迄今为止收效甚微。UBS官方态度依旧谨慎:“正如我们反复强调的,我们希望继续作为一家总部位于瑞士的全球性银行成功运营。”

美国监管机构过去一直对大型银行迁册至美国持谨慎态度,原因是金融危机期间纳税人资金救助银行引发公众愤怒。然而,特朗普政府对吸引欧洲金融机构持更为开放的态度。据知情人士表示,UBS高管希望总部继续留在瑞士,只要他们能够说服瑞士议会降低拟议的资本调整幅度。然而,他们认为自己负有审慎义务去评估所有潜在选项,如果提案不调整,他们也愿意考虑离开瑞士的可能性。

持有UBS大量股份的激进投资者Cevian Capital在9月份表示,瑞士拟议的资本新规将使在该国运营一家大型国际银行“不可行”。该公司补充说,如果提案没有被削弱,UBS“别无选择”,只能离开瑞士。这家欧洲最大专业激进投资机构Cevian Capital的介入,进一步增加了UBS可能将总部迁出瑞士的可能性。其表态进一步强化了“UBS可能迁址”的现实概率。业内一些人士认为,这只是一种谈判策略,在实践中不太可能实现。

在瑞士决定实施更严格的资本规则之际,美国正致力于推动经济各领域的放松监管,以促进经济增长并鼓励企业扩大在美业务。美国政府已发出信号,表示有意放松对银行的监管。美国财政部长以私人信贷增长为例,称银行“受到过度约束”。他还主张尽可能减少资本和流动性要求,以释放更多贷款空间。据咨询公司Alvarez&Marsal称,在特朗普政府推动的这一转变下,可能释放2.6万亿美元的资产容量,从而提振经济活动。凯勒赫过去曾表示,希望收购一家美国财富管理公司,以提升UBS在全球最大财富市场的规模。

瑞士正经历一场「身份危机」

数十年来,瑞士金融中心凭借稳定、安全以及高度国际化的优势,在全球财富版图中占据无可撼动的地位,长期被视为投资者与跨国企业的“避风港”。但在不断升温的地缘政治摩擦与全球经济不确定性下,这些传统优势正遭遇前所未有的挑战。UBS考虑将总部迁往美国的讨论,更像是这一结构性动荡的外显信号。本月,UBS董事长科尔姆·凯莱赫在香港全球金融领袖投资峰会上直言:瑞士正经历一场关于其在全球银行体系中角色定位的“身份危机”。

分析来看,瑞士长期以来作为全球私人财富管理中心「中立与保密」的声誉正在逐渐丧失,瑞信倒闭对瑞士金融业的整体信誉造成冲击。

一、银行保密制度已成为历史

2007年,瑞士被誉为“避税天堂”,超过90%的外国客户账户和资产未向税务机关披露。然而,由于2017年瑞士同意与外国政府及其税务部门就非瑞士居民储户的信息进行“自动信息交换”(AEOI)。这实际上结束了瑞士对非瑞士居民储户的银行保密制度,也终结了瑞士作为申报资产和其他资产最安全避风港的地位。这造成一波客户恐慌流失潮。随着瑞士金融保密这一独特优势的逐渐丧失,瑞士在面向国际金融市场的服务方面面临着挑战。

二、中立国形象受损

瑞士不加批判地接受美国和欧盟对俄罗斯的制裁也损害了瑞士的形象。这导致一些客户直接将他们的资产转移,许多人现在已经不想与瑞士银行做生意了。这些地缘政治风险以不同的方式影响着瑞士银行业的各个领域。国际业务领域,例如企业银行和资产管理,受到的影响尤为显著。全球市场的不确定性和不稳定性导致这些领域收入显著下降,同时风险和成本也随之增加。日内瓦国际关系学院的学者指出:瑞士正在经历一场身份认同的阵痛,它既想维持中立形象,又难以抗拒西方阵营的政治压力。

三、瑞信倒闭冲击信誉

2023年UBS完成历史性合并,正式收购瑞信,一时间震惊全球。监管层希望用“大而强”的组合,稳住外界对瑞士银行体系的信心。尽管UBS实力雄厚,但瑞信留下的烂账、法律纠纷及声誉危机,仍像一个“定时炸弹”。而在客户眼中,瑞士银行系统已经不再“稳如磐石”。即使并购后拥有更强资本金和服务能力,信任的“修复之路”仍漫长。

全球金融中心竞争加剧

从全球来看,香港、新加坡以及迪拜等金融中心正在激烈竞争,争夺瑞士的离岸财富管理“王冠”。根据波士顿咨询集团(BCG)6月23日发布的《全球财富报告》,跨境财富在2024年增长了8.7%,其中瑞士实现了6.0%的“温和”增长,主要得益于市场表现而非净流入。而其主要竞争对手中国香港的增速为9.6%,正迅速逼近瑞士的领先地位。新加坡和阿拉伯联合酋长国的资产增长最为强劲,分别达到了11.9%和11.1%。

报告还预计2024年-2029的跨境财富增长率,瑞士为4.6%,而香港为6.3%,新加坡为7.6%,阿拉伯联合酋长国为6.6%。越来越多的声音警告称,由于监管加强,欧洲金融机构尤其是瑞士,有可能落后于全球竞争对手。

全球金融版图正经历深度重塑。中国香港、新加坡与迪拜迅速崛起为新一代国际金融中心,而欧洲却在政治动荡与经济停滞中不断失势。在这场加速演化的竞赛里,全球富裕家族面对的已不再是“去哪里”的单选题,而是拥有前所未有的多元选择。

·中国香港

中国香港国际金融中心的“魅力值”越来越高,对外国企业和个人投资兴业的“磁吸力”越来越强,继续成为全球最自由经济体和最具竞争力的地区之一。数据显示,今年上半年港交所以140亿美元募资规模排名全球榜首。外资正重返港股市场。欧美长线基金和中东主权财富基金不仅积极参与二级市场交易,也成为IPO基石投资者的重要力量。宁德时代H股发行中,来自15个国家的23家国际顶尖机构认购了92.5%的国际配售份额,如中东主权财富基金(科威特投资局)、Mirae未来资产集团、UBS资管、橡树资本等。

在全球资本重新评估中国市场之际,越来越多的亚洲、欧洲和中东家族办公室将香港视为连接中国内地投资的桥梁。瑞士投资公司Club Estate表示,亚洲、中东和欧洲的许多富裕家族正在探索利用香港作为平台,以把握中国内地在电动车(EV)、人工智能、生物科技,甚至房地产等领域不断增长的投资机会。

·新加坡

近年来,新加坡逐渐巩固了其作为全球超高净值人士「财富避风港」的地位。新加坡的家办逐步兴起,并成为其私人财富格局中日益突出的特征。新加坡通过积极布局家办的法律制度和政策保障,吸引高净值人士来此设立家办,“狮城”亦成为了超级富豪云集之地。数据显示,2024年新加坡的单一家族办公室数量已经超过2000,较2023年末(1400个)增长约43%。值得注意的是,在相继爆发数起洗钱丑闻后,新加坡开始「拧紧螺丝」,陆续出台多项家办新规,全面升级监管体系,提升了准入门槛。

·迪拜等中东地区

无论是沙特、阿联酋、迪拜还是阿布扎比等,都在正积极通过经济多元化战略以及良好的商业环境来吸引全球富豪和财富。家办新智点获悉,中东地区现有近18800位超高净值人士(个人净资产超过3000万美元)。从2021年至2026年,该地区的UHNW人群预计增长24.6%,并将继续保持全球第四大财富中心的地位。

据德勤2024年报告显示,到2030年,中东的家族办公室数量将增长20%。而迪拜国际金融中心(DIFC)已拥有超过120个家办及800个相关机构,总资产超过1.2万亿美元。

相比之下,瑞士要保持其传统金融中心地位,面临愈发严峻的挑战——尤其在绿色金融与金融科技等领域,来自香港、新加坡及中东的金融中心正在加大投入,势头强劲。这些新兴且高速增长的金融枢纽,与本地经济扩张及国际贸易联系紧密,正对全球财富流向产生越来越深的影响。

UBS是否离开瑞士,将成为全球金融史的重要事件。但更深层的问题是:瑞士能否在银行保密消失、中立性削弱、监管加码、竞争加剧的时代,重新定义其全球定位?

(《家办新智点》提醒:内容及观点仅供参考,不构成任何投资建议。)

在AI领域,逻辑的严谨性与人类行为的功利性碰撞同样激烈,Anthropic发布的一份AI黑客报告引发的争议,便凸显了这一矛盾。

Anthropic的报告闻起来像狗屁

11月中旬,AI公司Anthropic发布了一份听起来很吓人的报告(《阻断首个AI编排的网络间谍活动》):他们声称抓到了一个黑客组织,利用Claude AI工具对全球30家企业发动了自动化攻击。更劲爆的是,报告说这些攻击有80%~90%是AI自主完成的,几乎不需要人工干预。

《华尔街日报》和《纽约时报》很快跟进报道,渲染“AI黑客时代”的到来。但在网络安全圈,反应却截然不同。一位安全行业的专业人士djnn.sh发表了一篇博文《Anthropic的报告闻起来就像狗屁》(Anthropic’s paper smells like bullshit),迅速成为HackerNews上的热门讨论帖。他用行业标准逐条拆解了这份报告,揭示出一个尴尬的事实:这更像是一场精心策划的营销活动,而不是一份严肃的技术报告。

一、一份“空心”的威胁报告

djnn开门见山地指出,在网络安全行业,威胁情报报告有一套严格的规范。简单说,就是要给出“证据”——让其他安全团队能够根据你的报告,在自己的网络里查找攻击痕迹,判断是否也遭到了类似攻击。

一份合格的报告应该包含什么?

- IOCs(威胁指标):攻击者使用的域名、IP地址、恶意文件的哈希值

- 具体工具:用了什么黑客工具?什么版本?

- 攻击手法:怎么入侵的?利用了哪些漏洞?

- 时间线:什么时候发现的?攻击持续了多久?

- 防御建议:如何检测和防范类似攻击?

djnn举了个例子:法国CERT(计算机应急响应小组)发布的APT28报告,详细列出了钓鱼邮件地址、源IP、使用的VPN工具,甚至攻击的具体时间节点。任何一个安全团队拿到这份报告,都能立刻去查自己的日志,看看有没有中招。这是威胁情报共享的行业标准。

那Anthropic的报告呢?djnn翻遍了整份文档,发现:一个IOC都没有。没有域名,没有IP地址,没有文件哈希,什么实质性的技术信息都没有。报告里充斥着“高度复杂”、“专业协调”这样的形容词,但就是不告诉你具体是什么。

比如报告说:“Claude在目标网络中执行系统化的凭证收集,涉及查询内部服务、提取身份验证证书。”听起来很厉害。但djnn的质疑很直接:怎么做的?用的是Mimikatz这种凭证窃取工具吗?攻击的是云环境还是本地网络?什么系统受影响了?报告对这些关键问题统统不提。

还有那个著名的“80%~90%自动化”——这个数字怎么算出来的?什么叫“自动化”?是AI写了自动化脚本,还是AI真的在做决策?报告没说。更尴尬的是,Anthropic还悄悄改了一处描述。最初他们说攻击达到了“每秒数千次请求”,后来这句话被改成了“数千次请求,通常每秒多次”——意思完全不一样了。

djnn特别指出了报告中一句模糊的表述:“我们通知了相关当局和行业合作伙伴,并在适当的情况下与受影响的实体分享了信息。”他的反问很有力:“这到底是什么意思?你们声称在多个服务中发现了可利用的漏洞,这些漏洞修补了吗?被窃取的数据呢?受影响的用户呢?你们关心这些问题吗?”

二、HackerNews:专业人士的吐槽大会

当这份报告被发到HackerNews上,技术社区炸了锅。一群真正懂行的人开始逐条拆解这份报告。

“我们也用过AI做安全测试,没那么神”

一位自称在大型科技公司工作过的工程师说:“我们当时被要求用一个专门优化过的AI模型来做渗透测试,目标是个模拟打印机和Linux服务器。说实话,AI确实有点用,但也就那样。特别是在复杂的攻击协调上,根本看不出能有多大作用。”他还提出了一个实际问题:“Claude的API要绑信用卡付费的,黑客用这种公开系统来搞命令控制,不怕被追踪吗?”

另一位正在创业做自动化渗透测试工具的人则更乐观:“现在的AI模型确实比以前强多了。我们从Llama 3.1用到Claude 4.5,进步很明显。有一次我们的beta测试者在一个500个IP的Active Directory网络里测试,AI一小时就拿到了域管理员权限。”但他也承认关键问题:“AI最大的毛病是爱吹牛。它会说自己拿到了某些凭证,结果根本用不了;或者声称发现了机密信息,其实只是公开资料。这个问题到现在都没解决。”

“自动化攻击不是新鲜事”

好几个老安全人指出,报告宣称的“首次大规模自动化攻击”根本站不住脚。“90年代的脚本小子就在搞自动化攻击了。Metasploit这种自动化渗透测试框架都存在二十多年了。”有人说,“报告里描述的那些东西——网络扫描、漏洞利用、凭证窃取——全都有现成的开源工具。哪一步是只有AI才能做的?一个都没有。”

网络安全研究员Kevin Beaumont更直接:“这份报告完全没有IOCs,强烈暗示他们不想在技术细节上被人质疑。这就是用一堆开源攻击工具拼凑出来的东西。”

“为什么AI给黑客的答复率这么高?”

还有一个有趣的吐槽来自安全公司Phobos Group的创始人Dan Tentler:“我不相信攻击者能让AI乖乖干活,成功率还高达90%。我们这些正常用户天天被AI拒绝服务,或者得到一堆废话。为什么攻击者用AI就这么顺利?是他们有什么魔法吗?”这个质疑道出了很多人的疑惑:如果AI的安全机制这么容易被绕过,为什么日常使用时这些机制又显得这么严格?

Anthropic自己的报告里其实也承认了:“Claude经常夸大发现,有时甚至编造数据。它可能声称获取了某些凭证,但这些凭证实际上无法使用;或者声称发现了关键信息,结果只是一些公开可访问的内容。”这段话让很多人困惑:既然AI有这么明显的问题,那80%~90%的自动化率是怎么算出来的?

三、Anthropic的真实目的:卖产品

读到报告结尾,djnn发现了一个有趣的段落:“网络安全社区需要认识到发生了根本性变化:安全团队应该尝试将AI应用于防御领域,例如SOC自动化、威胁检测、漏洞评估和事件响应…”等等,谁在卖AI安全产品?答案是:Anthropic自己。

这就有意思了。先发布一份耸人听闻的报告,说AI黑客多么可怕,然后告诉你:要用AI来对抗AI,而我们正好有这个产品。djnn在博客里写道:“这不是威胁情报报告,这是一份包装精美的产品广告。制造恐慌,然后推销解决方案——这套路在安全行业不新鲜,但做得这么明显的还真不多见。”

Berryville IML的研究人员在另一篇评论文章中也指出了同样的问题:“如果报告没有给出任何关于TTPs和检测的细节,那这份报告的目的到底是什么?答案就在报告结尾那段话里——推销AI防御产品。”

四、一个安全研究员的愤怒

djnn在文章最后说得很清楚:“很可能确实有黑客在用AI工具,这没人否认。但这不意味着我们可以接受没有证据的报告。”他强调:“在任何严肃的领域,你不能光提出一个惊人的说法,然后拒绝给证据。威胁情报报告不是营销材料。它承载着帮助全球安全团队防御真实威胁的责任。当这个工具被用作营销手段时,不仅伤害了行业的专业性,也会让真正重要的安全警告失去公信力。”

“如果Anthropic愿意公开完整的技术细节和IOCs,我很乐意在博客上更正我的判断。但在那之前,我的结论是:这份报告无法通过任何严肃的技术审查。”

djnn的批评尤其严厉的一点是关于归因问题。报告声称将攻击归因于特定的国家级威胁组织,但没有提供任何归因依据——是哪个APT组织?什么技术特征帮助做出这个判断?“归因是一件非常严肃的事情,可能产生外交影响。你不能在没有充分证据的情况下,随意指向某个国家。就现有证据来看,我们甚至无法排除这只是一群使用开源工具的初级攻击者。”

他在文章结尾写道:“归根结底,这份报告就是一次可悲的产品推销尝试,不应该被当作其他任何东西。这是可耻的,极其不专业的。为了多卖一点产品而无视基本职业操守的做法,让我永远不想使用他们的产品。做得更好一点吧。”

五、写在最后

HackerNews上的讨论最终达成了一个基本共识:AI确实在改变网络安全的游戏规则,攻击者确实在尝试使用AI工具。但Anthropic这份报告的问题在于,它用一个缺乏证据的惊人声明来推销产品,而不是真诚地分享威胁情报。

正如djnn所说:“我们需要基于事实的证据,需要能够验证的信息。否则,任何人都可以说任何话,只要加上‘这可能正在发生’的前提。但这还不够好,远远不够。”

在AI重塑各个行业的当下,这个案例提醒我们:不是所有头部AI公司说的话都是真理。当一个惊人的说法出现时,问一句“证据在哪里”,永远不会错。

(本文主要内容编译自安全研究员djnn.sh的博客文章《Anthropic's paper smells like bullshit》,并综合了HackerNews社区的技术讨论。)

作者:杏彩娱乐




现在致电 xylmwohu OR 查看更多联系方式 →

COPYRIGHT 杏彩娱乐注册登录平台 版权所有