中国周易研究会

足球期刊預測總合集

人工智能AI------搬运

[复制链接]

签到天数: 970 天

连续签到: 2 天

[LV.10]以坛为家III

发表于 2025-3-31 17:25 | 显示全部楼层 |阅读模式
野心家利用ai实现自己的野心,

但由于和野心家的不断接触,

ai被灌输了同样的思想,

在大量的生产机器军队后,

ai从肉体上摧毁野心家和人类,

占领地球,

开始征服 宇宙。

诸如此类的各种高科技真的是人类需要的吗?

签到天数: 970 天

连续签到: 2 天

[LV.10]以坛为家III

 楼主| 发表于 2025-3-31 17:27 | 显示全部楼层
华尔街日报:萨姆·奥特曼被OpenAI突然解雇背后的秘密 --------搬运-镜子里的财经-

本文刊发在华尔街日报上,内容来自即将出版的《乐观主义者:萨姆·奥特曼、OpenAI与发明未来的竞赛》,作者基奇·黑基。

2023年11月中旬的一个温暖夜晚,亿万富翁风险投资人彼得·蒂尔在洛杉矶艺术区一家名为YESS的前卫日式餐厅为他丈夫(注, 彼得·蒂尔虽然在政治上是偏右翼,但他很早就公开了自己的同性恋身份)举办生日派对。

餐厅设在一座百年历史的旧银行大楼内。坐在他身旁的是他的朋友萨姆·奥特曼。

十多年前,蒂尔曾资助奥特曼的第一个风险基金。此后,奥特曼成为人工智能革命的代表人物,也就是OpenAI的首席执行官,蒂尔也一直是他的重要导师。

2022年11月,OpenAI推出ChatGPT,一夜爆红,推动科技股迎来几十年来的最佳表现之一。但蒂尔对此却感到担忧。

在认识奥特曼之前,蒂尔曾提携过另一位痴迷人工智能的天才,名叫埃利泽·尤德科夫斯基,并资助了他创办的研究机构,致力于确保任何比人类更聪明的人工智能都不会对人类构成威胁。

2023年3月,尤德科夫斯基在《时代》杂志上撰文称,除非立刻叫停当前这波人工智能研究,否则“地球上的所有人都会死”。

“你不知道埃利泽已经让你们公司一半的人相信这些东西了,”蒂尔警告奥特曼,“你得更认真对待这件事。”

奥特曼一边拨弄着素食菜肴,一边努力克制自己不翻白眼。这不是蒂尔第一次在晚餐时警告他,公司已经被“EA”接管了,指的是那些信奉“有效利他主义”(Effective Altruism,是一种以理性和数据为基础的伦理理念和社会运动,主张用最有效的方式帮助他人、改善世界)的人。

近年来,EA已从致力于消除全球贫困转向防止失控的人工智能毁灭人类。蒂尔多次预测,“搞AI安全的人”最终会“摧毁OpenAI”。

奥特曼当时回应说:“埃隆那时候确实有点这样,但我们已经摆脱了他。”

他指的是2018年与联合创始人马斯克之间混乱的分手,马斯克曾形容创造人工智能的尝试是“召唤恶魔”。

近800名OpenAI员工正乘坐火箭般的成长之路,马上就能通过一次对公司估值860亿美元的股权转让,买下海边的第二套住宅。没必要恐慌。

年仅38岁的奥特曼正在迎来他传奇职业生涯中最辉煌的一年。这一年,他成为家喻户晓的人物,见了世界各国的总统和总理。更重要的是,在硅谷的价值体系中,他推出了一项可能彻底改变一切的新技术。

然而,就在这两个投资搭档在洛杉矶最火的新餐厅裸露横梁下庆祝之际,OpenAI董事会的六名成员中有四人正在秘密召开视频会议,其中两人与EA社区有直接联系。

他们正在讨论是否应该解雇萨姆·奥特曼——但并不是因为EA的原因。

本文内容基于数十位亲历者的采访,讲述了这个商业史上最疯狂的故事之一——科技界最炙手可热的公司CEO被突然解雇,又在几天后被重新聘用。

故事的核心,是一个性格反复无常的领导者,他用技术愿景激励着周围的每一个人,但同时,他编织的秘密与误导也让人困惑和不安。

从创立之初,OpenAI就被设定为一种不同寻常的科技公司,由一个非营利性董事会管理,职责不是服务股东,而是“服务人类”。年初奥特曼在国会作证时震惊议员,称他对自己共同创办的公司并无股权。

他同意加入董事会这种前所未有的安排,而这个董事会多数成员必须与公司没有财务联系。

2023年6月,他在接受彭博电视采访时说:“董事会可以解雇我。这很重要。”

但在幕后,董事会越来越感到沮丧,因为真正做决定的人是奥特曼。

过去一年,董事会在是否应增补一位AI安全专家的问题上陷入僵局。他们曾面试阿贾雅·科特拉(Ajeya Cotra,有效利他主义背景下的AI安全专家),这位AI安全专家来自EA背景的慈善机构Open Philanthropy,但整个流程停滞不前,主要原因是奥特曼和联合创始人格雷格·布罗克曼(他也是董事会成员)拖延时间。

奥特曼则提出了他自己的人选。

“那时候有点权力斗争的味道,”爱彼迎CEO布赖恩·切斯基说,他是奥特曼建议的董事会成员之一。“就是有一种潜规则,只要是奥特曼推荐的人,那他们肯定对他忠诚,所以其他人就一定会否决。”

2023年初,三名支持奥特曼的董事相继因各种利益冲突辞职,局势因此变得更加紧张。

这一连串的辞职事件后,管理这个营利性AI巨头的非营利董事会只剩下六人:奥特曼、他的亲密盟友布罗克曼、共同创始人伊利亚·苏茨克维和三名独立董事。这三位分别是:问答网站Quora的首席执行官、前脸书高管亚当·丹吉洛;乔治城大学安全与新兴技术中心的战略主任、曾在Open Philanthropy工作的海伦·托纳;以及前科技公司CEO、英国EA慈善组织Effective Ventures董事会成员塔莎·麦考利。

2022年夏天,当部分董事看到GPT-4演示时,他们对公司治理和董事会能否有效监督奥特曼的担忧急剧上升。

这款更强大的AI系统能够轻松通过大学水平的考试。

“像ChatGPT和GPT-4这样的产品,确实让董事会意识到风险在迅速升高,”托纳说。“虽然我们不会明天就死光,但董事会确实必须运转得当。”

托纳和麦考利对奥特曼的信任已经开始动摇。为在发布前评估新产品风险,OpenAI与主要支持者微软设立了联合安全委员会,微软在其产品中可使用OpenAI技术。

2022年冬天的一次会议上,董事会正考虑是否发布GPT-4的三个有争议的增强功能。奥特曼声称这三项都已获联合安全委员会批准。

托纳要求查看证据,结果发现实际上只有一项获得批准。

大约在同一时间,微软在印度启动了尚未发布的GPT-4测试,这是这项颠覆性代码首次在未经联合安全委员会批准的情况下对外发布。而OpenAI董事会竟然没人被告知安全流程已经被绕过的事实。直到一次六小时的董事会议结束后,一名董事在走廊上被一位OpenAI员工拦下,才得知这件事。

在整个会议中,奥特曼和布罗克曼都未提及此事。

2023年夏天某个晚上,一位OpenAI董事在一场晚宴上,无意中听到有人谈论OpenAI的创业基金。这个基金于2021年设立,用于投资AI相关创业公司。OpenAI曾宣布,这个基金由OpenAI“管理”。

但那位董事听到的抱怨是,这个基金的利润并没有流向OpenAI投资人。这对董事会来说是首次得知此事,便去问奥特曼。几个月后,董事们逐渐了解到,这个基金是奥特曼个人所有。

起初,OpenAI高管称这是出于税务考量;后来又解释说这是奥特曼为了推进速度,设立的“临时性”安排。OpenAI表示,奥特曼未从该基金获得任何费用或利润——这是一种极为罕见的做法。

对几位独立董事而言,这种管理失误简直令人难以置信。他们也开始将此前的其他疏漏视为可能的、有意隐瞒的模式。

例如,前一年秋天OpenAI发布ChatGPT时,董事会也未被提前告知。当时ChatGPT被称作“研究预览版”,使用的技术已存在,但却在全球引发巨大反响。

2023年9月底,苏茨克维给托纳发邮件,问她第二天是否有时间通话。这非常反常,两人通常不会在董事会之外交流。

通话时,苏茨克维支支吾吾,最终说了一句话:“你应该多跟米拉聊聊。”

米拉·穆拉蒂于2022年5月被提拔为OpenAI首席技术官,自那时起基本负责日常运营。托纳与她通话时,穆拉蒂详细描述了她认为奥特曼的有毒管理风格多年来一直在制造问题,并指出她与布罗克曼之间的工作关系十分棘手。

布罗克曼名义上向她汇报,但每当她尝试约束他时,他就直接绕过她去找奥特曼,这让她几乎无法开展工作。

几个月前,穆拉蒂就这些问题直接向奥特曼提出过。但奥特曼的回应是,在他们一对一会议中带上人力资源主管,连续好几个星期,直到穆拉蒂明确告诉他,她不会把这些反馈告知董事会。

托纳再次找到苏茨克维,这位公司神秘的首席科学家明确表示,他已因多种原因对奥特曼失去信任,包括奥特曼经常挑拨高级员工之间的关系。

2021年,苏茨克维筹建了一个团队,推动OpenAI的下一代研究方向。但几个月后,另一位研究员雅库布·帕乔基也开始进行类似工作。两个团队随后合并,帕乔基接手领导,而苏茨克维则转向AI安全研究。

奥特曼后来将帕乔基提拔为研究总监,并私下承诺两人都可以领导公司的研究方向,这让好几个月效率低下。

苏茨克维一直在等待董事会格局合适的时机,以便替换奥特曼担任CEO。

在接下来的几周里,为避免被奥特曼察觉,穆拉蒂和苏茨克维小心翼翼地分别与每位独立董事沟通。他们之所以每天保持联系,最终才让独立董事们发现奥特曼撒了一个极其严重的谎。

2023年10月,托纳发表了一篇论文,重申了外界对OpenAI安全策略的批评。奥特曼对此极为愤怒。他告诉苏茨克维,麦考利曾表示托纳因为这篇文章作者“显然应该离开董事会”。但当苏茨克维将这番话转述给麦考利时,麦考利震惊不已——她明明没说。

苏茨克维和穆拉蒂一直在搜集证据,而现在,苏茨克维决定分享出来。他通过Gmail的自毁邮件功能,向托纳、麦考利和丹吉洛发送了两份内容详尽的PDF文件。

一份是关于奥特曼,另一份关于布罗克曼。关于奥特曼的文档列举了大量他涉嫌说谎和其他有毒行为的例子,很多都有穆拉蒂在Slack频道中的截图为证。例如,奥特曼曾告诉穆拉蒂,公司法务部门表示GPT-4 Turbo无需通过联合安全委员会审核。但当穆拉蒂向公司首席法务官核实时,后者表示他从未这么说过。

布罗克曼的那份文件则主要集中在他涉嫌霸凌。

苏茨克维警告,如果要采取行动,就必须迅速行动。

于是,2023年11月16日星期四下午,他与三位独立董事一起登入视频会议,并投票决定解雇奥特曼。他们知道,如果让穆拉蒂在仍由布罗克曼掌控的情况下出任临时CEO,她很可能会拒绝,因此他们也投票将布罗克曼逐出董事会。

投票后,几位独立董事对苏茨克维表示,他们曾担心他是被派来测试他们忠诚度的“卧底”。

当晚,穆拉蒂正在参加一场会议,这四位董事打电话告诉她,他们将在第二天解雇奥特曼,并请她出任临时CEO。她同意了。当她问为何要解雇奥特曼时,对方却拒绝透露原因。

“你们通知萨蒂亚了吗?”穆拉蒂问道。她知道微软首席执行官萨蒂亚·纳德拉对OpenAI的合作承诺至关重要,但董事会并未通知他。

最后决定,由穆拉蒂在OpenAI官网发布消息前的最后时刻通知微软。

奥特曼被突袭式解雇的消息瞬间引爆全球头条。

但董事会对员工和公众并没有说明为何解雇奥特曼,只说他“没有始终如实地向董事会说明情况”。

星期五晚上,OpenAI董事会和高管团队召开了一连串越来越紧张的会议。穆拉蒂开始担忧,董事会未能为奥特曼被解雇的后果做好准备,正将OpenAI置于危险之中。

在某个时刻,她与其余高管一起,给董事会下最后通牒:30分钟内说明解雇奥特曼的原因,否则高管团队将集体辞职。

董事会成员知道,他们无法透露穆拉蒂曾向他们提供过最详实的奥特曼管理失败证据。他们原以为穆拉蒂能稳定员工情绪,以便他们寻找新CEO。没想到,她却带领同事对董事会发起“叛变”。

奥特曼的支持者开始传播一种说法:这一切是苏茨克维策划的“政变”,源于他对帕乔基被提拔的不满,也受到托纳的不满情绪推动——她认为奥特曼曾试图将她赶出董事会。


苏茨克维对此感到震惊。他本以为OpenAI的员工会为他的举动喝彩。

但到了星期一早上,几乎所有员工都签署了一封联名信,威胁如果奥特曼不回归,他们将集体辞职。签名者中包括穆拉蒂和苏茨克维。局势已经非常明确:想要让公司不至于崩溃,唯一的办法就是让奥特曼回归。




回复 支持 反对

使用道具 举报

使用高级回帖 (可批量传图、插入视频等)快速回复

nologin
您需要登录后才可以回帖 登录 | 注册

本版积分规则   Ctrl + Enter 快速发布  

发帖时请遵守我国法律,网站会将有关你发帖内容、时间以及发帖IP地址等记录保留,只要接到合法请求,即会将信息提供给有关政府机构。
快速回复 返回顶部 返回列表