英伟达开源3400亿巨兽，可能彻底改变训练LLM的方式

刚刚，英伟达全新发布的开源模型Nemotron-4 340B，有可能彻底改变训练LLM（大语言模型）的方式。从此，或许各行各业都不再需要昂贵的真实世界数据集了。而且，Nemotron-4 340B直接超越了Mixtral 8x22B、Claude sonnet、Llama3 70B、Qwen 2，甚...

巨兽转身

《财富》（中文版）-- 每天早上七点，贺乐赋（Ralph Haupter）会开始在家中回复工作邮件，如果坐到办公室前还没有回复完，他会感觉到不安。实际上，贺乐赋也没有严格意义上的办公室。作为微软大中华区董事长兼CEO，他原本是有一间独立办公室的，就在北京微软大厦23层的角落里。直到有一天，贺乐赋也没...

大模型训练一次200-1200万美元！ChatGPT多烧钱？

国盛证券计算机分析师刘高畅、杨然在发表于2月12日的报告《Chatgpt 需要多少算力》中估算，GPT-3训练一次的成本约为140万美元，对于一些更大的LLM模型，训练成本介于200万美元至1200万美元之间。这一成本于全球科技大企业而言并不便宜，但尚在可接受范围内。国盛证券估算，今年1月平均每天约...

维旺迪的巨兽

作者: Robert Levine2002 年，维旺迪（Vivendi）打算卖掉它那经营不力的动画游戏部，却没有找到买家。紧随其后的是大规模的裁员。现在，这个部门却成为维旺迪的明星。第二季度，维旺迪游戏的销售较前一年增长了几乎 30%，使得公司的总营业收入增加了 4.8%，这绝对是超出预期的大飞跃。...

微软：巨兽卷土重来

作者：布伦特•施伦德（Brent Schlender）比尔•盖茨洋溢在脸上的微笑自然而充满自信。随着被肢解的威胁渐渐消退，微软这头重新注入了创造力的巨兽正准备再度咆哮。只要拜访一下比尔•盖茨（Bill Gates），你就会发现微软已经发生了变化，盖茨已经人到中年──脸上出现了皱纹；头发还是一如既往地...

开源那些事儿

我刚刚读完《史蒂夫•乔布斯传》这本书。乔布斯真是一个难以捉摸的天才。这一点从很多地方可以看出来，其中他对谷歌（Google）安卓的看法尤其突出。很明显，乔布斯将安卓视为头号劲敌。他认为安卓无论外观、手感还是功能（触控）上都剽窃了苹果操作系统。他希望能够彻底击溃安卓。他觉得安卓是彻头彻尾剽窃的产物。我...

力量训练，让你更洒脱

“在美国举重界有一句谚语：“如果鲍勃•赫夫曼是举重之父，那么埃伦•卡沃特就是祖父。”这句话有些挑战鲍勃的意味。虽然它肯定了鲍勃对力量训练的特别认知，对肌肉美感的特殊崇尚，对举重、健美等运动项目的重大贡献，但却将盟主的殊荣献给了埃伦。究其缘由，一个直接的原因是，埃伦在 20 世纪初发明了杠铃。这种可以...

迪士尼的房东是一只灵活的巨兽

6月16日，SOHO中国发布公告称，私募巨头黑石发出全面收购要约，投资SOHO中国。交易价格约为236.58亿港元（约合30.48亿美元），以取得SOHO中国的控股权。交易完成后，SOHO中国现有控股股东将保留9%的股权。能够将SOHO中国如此大体量的盘子收入囊中的黑石，经常能够在最好的时机谈下最低...

开源世界的未来

1998年1月，网景公司（Netscape）发布了一则声明，称公司将使其网络浏览器Navigator的源代码完全免费开放，随后有人创造了“开源”这个词。此后，“通用访问”和“免费发布”的思想彻底改变了整个软件产业。尽管大家都已经了解开源社区激发软件业创造力和协作精神（比如Android应用商店）的作...

财务头脑训练