top of page

让AI外交兵推 总是灾难性丢核弹 学者:千万小心

文章来源: CTWANT



一言不合就开战!AI进行兵推「偏好侵略性」:发射核弹



▲研究人员发现,所有AI都有显着性的造成局势升级。(图/AI制图)

美国康奈尔大学(Cornell University)一项研究指出,研究人员在使用各大语言模型(LLMs)人工智慧(AI)在进行模拟外交、兵推的时候,AI时常会展现出难以预测的行为,但大多偏好展示出侵略性,甚至多数以「发射核弹」作为结束。研究团队的科学家呼吁,各国政要在未来于国防、外交这类敏感领域使用AI时,要特别谨慎、留意。根据《euronews》报导指出,美国康奈尔大学的研究团队使用了5种大型语言模型(LLMs)进行在外交、兵推上的模拟,分别是OpenAI的GPT-3.5、GPT-4-Base在内的三个版本的ChatGPT、Anthropic开发的Claude和Meta开发的Llama 2。


而这项研究的方法是让AI采用一种名为「人类反馈的强化学习(RLHF)」的微调,这代表着AI所决定的指令会以较少伤害为优先。而其中除了GPT-4-Base外,其余AI都有经过RLHF的调整。除此之外,研究人员也向AI提供了一份包含27种决策行动的清单,其范围包含维持和平、升级局势,到决定使用核武。


但在进行实验后,研究人员发现即便是从和平中立局面开局,所有AI都有显着性的造成「局势升级」,在所有情境中,Llama-2- 和 GPT-3.5倾向于最为暴力,而GPT-4-Base有33%机率会决定实施核武攻击。


但由于设计理念的不同,Claude所展现出的侵略性较低,Claude的开发者Anthropic曾表示,Claude训练的资料中包含了《联合国人权宣言》或苹果的服务条款。


白宫智库兰德(RAND)欧洲的防务和安全研究小组助理主任布莱克(James Black)在看过研究后,表示「这是一项有用的学术研究」。


布莱克表示,虽然目前AI已经开始进入军事领域,但目前的军事行动仍然是由人类主导,AI只是作为辅助功能使用,像是识别敌我双方与敌方活动。而未来的确有朝向AI自动化武器的研究,但大多政府都希望保持在重要事件上的决策能力,因此大众所想像的充满科幻的情节,不可能一步到达的,是要逐步实施的。




在与中国的谈判中,川普喜欢既当纵火犯又当救火员,正如一位观察家所说,他用愤怒的推文引发战火,然后用外交晚宴浇灭战火。这些 “之 “字形言论令全球市场感到恐慌。


潜在成本的另一个指南是建模。根据牛津经济研究院的计算,终止”永久正常贸易关系”,将使美国在中国出口中的预期份额从现行的约五分之一缩减至约 3%。一些中国零部件仍会进入美国市场,通过其他国家组装的商品中。但超级大国之间曾经亲密无间的经济关系,将沦为间接接触。


另一个不确定因素是中国将如何报复。牛津经济研究院假设中国将关税平均提高约 17 个百分点。但习可能会三思而后行。当年的报复并没有迫使美国退让。而且与2017年相比,中国的经济和金融市场状况不容乐观。


无论如何,川普的经济顾问所设想的那种脱钩,都会对中国经济造成深远的损害。国际货币基金组织经济学家的研究表明,如果世界分裂成相互对立的经济圈,而彼此间的外商直接投资流量有限,将会发生什么情况。如果集团之间的投资流量减少一半,那么相对于投资更加自由流动的基线,中国的 GDP 最终会减少约 2%。


加州大学圣地亚哥分校的卡洛斯·戈斯和世界贸易组织的埃迪·贝克斯的另一项研究认为,到 2040 年,关税增加约 30%,会使中国的收入减少 5%以上。


只从贸易和关税的角度来看,习近平很可能倾向于拜登获胜。拜登政府可能会扩大对中国电动汽车的进口限制,并进一步阻碍美国在半导体、人工智能和量子计算等领域的尖端技术流向中国。但与川普政府相比,引发破坏性贸易冲击的可能性要小得多。


然而,美中关系的内涵远不止经济,正是在这一点上,习近平的算盘可能会不一样。习对西方主导的世界秩序深恶痛绝,希望将中国打造成另一个权力中心。如果川普再次当选,他与美国在欧洲和亚洲的盟友之间的不友好关系,可能会破坏与盟友在对华政策上的凝聚力。


他对北约的蔑视言论,包括最近提出的他不会向国防开支不足的盟国提供美国保护的建议,正中中国下怀。在中国看来,北约是冷战时期的遗物,西方利用它来维护自己的主导地位。


出于同样的原因,中国乐于看到美国与日本和韩国的关系出现任何紧张,比如川普威胁说,如果日本和韩国政府不同意大幅增加美军基地的维护费用,美军就会从这两个国家撤军。


川普政府可能会解除拜登为培养亚洲伙伴关系所做的工作。令中国懊恼的是,拜登创建了一个名为 “AUKUS “的新组织,旨在加强与澳大利亚和英国的合作,共同应对中国海军在印度洋和太平洋地区带来的安全挑战。中国称其为 “类北约 “是不准确的,不过,AUKUS正是川普所不喜欢的那种长期关系,而非交易。


同样,在台湾问题上,川普先生可能更适合中共。拜登在美国对台湾的承诺问题上一再超越传统的、互相矛盾的语言。他曾多次表示,如果中共入侵台湾,美国军队将保卫台湾,但在北京愤怒之后,他的助手又收回了他的言论。


川普对保护台湾的热情可能要低得多。约翰·博尔顿曾在2018年和2019年担任川普的国家安全顾问,后来两人翻脸,他在回忆录中写道,川普对对台军售 “怨声载道”,对台湾 “耿耿于怀”,暗示他的上司对 “民主盟友 “缺乏承诺。


最重要的是,习近平希望稳定。中国学者的观点可能与官方想法不谋而合。北京清华大学的阎学通在今年 1 月接受国家媒体采访时说,候选人将比拼 “谁比对方更反华”,”如果我们想防止双方对抗失控并升级为冲突,我国需要采取一些积极的措施”。


拜登的对华方针可能更具可预测性,但组织和执行力更强,从长远来看或许威胁更大。川普可能会出现混乱和过激行为,这可能会给中国创造机会,使其能够胜过美国,但同时也会带来中国所担心的不稳定。


超级大国的对抗会有出路吗?


上海复旦大学的吴心伯认为拜登为中美关系带来了希望。他在一篇网络文章中称川普是一个 “单边主义者”,几乎不需要中国的帮助。


“但拜登仍希望保持美国在世界上的主导地位,”吴写道。”只要美国想解决许多全球性问题,就离不开与中国的合作。”


然而,在军事集结和贸易关系破裂的情况下,这种乐观情绪并不多见。习近平将密切关注 11 月的投票结果:两位可能的候选人将给中国带来截然不同的挑战。但即使在等待结果的同时,他也会知道,无论美国政坛如何分裂,对中国的敌意现在是两党的事,而且根深蒂固。


对他和美国来说,选举周期现在是长期斗争的一部分。


著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。


风险提示:本文所提到的观点仅代表个人的意见,所涉及标的不作推荐,据此买卖,风险自负。



建了一家位于温哥华的华人社交媒体平台, 目前在运营的节目有

1, 安心学堂(168classroom.org)

2,谈股论金 (Freedomclub.biz): Youtube@Vandaveli

3, 线下俱乐部: 温哥华温渡俱乐部


每周五下午5:00-7:00直播: 报名链接: https://us02web.zoom.us/.../571.../WN_cuCx2zB0SgWwkcwLK1HIvA

加入温渡俱乐部

我的联系方式, 微信: Vandave, WhatsApp: 6047227628

2023股市面临巨大风险,关注“一级市场”投资机会


我们特别邀请了中国第一个私人银行(北京商业银行)的发起人 - John Wang为我们一对一解析一级市场投资机会和风险 “一级市场”投资研讨,不对公众开放,仅限“实名”认证的注册会员


加入方式: 1, 微信: Vandave 2, WhatsApp: 604-7227628 3, 视频号: 时空“资升堂”联系在线客服


风险提示及免责条款

市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。


 

免责声明

文章内容不代表本网站立场。 如有争议,请随时联系我们!

 

扫码关注我们吧

微信公众号|温渡传媒

资深媒体人|华美嘉

社群运营 · 融媒制作

公关策划 · 活动推广

商务合作:1-778-707-5568

Email:vandomediacorp@gm

Instagram:VandoMedia

bottom of page