OpenAI 正在寻找更便宜的 AI 芯片方案:解决 GPU 短缺和高昂运行成本

时间: 2023-12-14 20:30:01 |   作者: MCU

  正在评估各种选项,包括潜在的收购芯片制造公司和更密切地与英伟达等芯片制造商合作。OpenAI 尚未做出最终决定,但自去年以来一直在进行讨论。

  OpenAI 的硬件问题是其第一个任务,因为该公司目前依赖于微软建造的大型超级计算机。该超级计算机使用了 10000 个英伟达图形处理单元(GPU)。运行 ChatGPT 的成本巨大,根据 Bernstein 分析师 Stacy Rasgon 的说法,每个查询的成本约为 4 美分。如果查询规模仅扩大到 Google 搜索的十分之一,那么在 GPU 方面的初始投资将约为 481 亿美元,年度维护成本约为 160 亿美元。

  制造定制的人工智能芯片将使 OpenAI 与其他大型科技公司,如 Google 和亚马逊,处于同一水平竞争,这一些企业也进军了定制芯片设计领域。然而,制造自己的芯片将是 OpenAI 的重大战略转变,并代表了巨大的财务投资。

  根据路透社的报道,即使进行了收购,开发定制芯片的过程也在大多数情况下要数年时间,这期间 OpenAI 仍然依赖于像英伟达和 AMD 等商业供应商。此外,制造定制芯片并不是一项容易的工程,据报道,Meta 创建自己的 AI 芯片的努力遇到了问题。

  此外,OpenAI 的主要支持者微软也正在开发自己的定制 AI 芯片,根据 The Information 的一份报告,OpenAI 目前正在来测试。微软计划在下个月公开该芯片。

  11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,稳定性很高,让您的云端之旅更加畅享。快来腾讯云选购吧!

  李佳琦“祸从口出”之后,不止是他,带货主播这个群体,乃至整个直播带货行业,都成为众矢之的。一些观点认为,主播并不创造价值,是所谓的“套利者”,消灭赚佣金的主播,商品就会更便宜。更重要的是,直播带货这种模式是时代使然,是不可抵挡的,即便没有李佳琦,也会有下一层级的主播完成等级的跃迁。

  据国外新闻媒体报道称,ChatGPT背后的OpenAI计划自研AI芯片,以解决其所依赖的AI芯片短缺以及成本高昂问题,甚至慢慢的开始评估潜在的收购目标。OpenAI至少从去年就慢慢的开始讨论各种方案解决AI芯片短缺问题,这些方案包括自研AI芯片、与英伟达等制造商展开更紧密合作、实现供应商多元化并最终超越英伟达等。但定制AI芯片在大多数情况下要数年时间,并且投入数额也是十分巨大的,因此OpenAI是否会继续推进定制芯片计划仍然是个问号。

  大型语言模型的发展迅猛,BERT成为其中最受喜爱和高效的模型,但其复杂性和可扩展性成为问题。未解决这样一些问题,市面上目前由三种常见的模型压缩技术:知识蒸馏、量化和剪枝。DistilBERT通过知识蒸馏技术在保持性能的同时显著压缩了大型语言模型,为在资源受限设备上的部署提供了可能性。

  此前有多名用户抱怨iPhone14系列的电池健康度在使用几个月后迅速下降。一手消息称,iPhone15系列可能存在相同的问题。虽然iPhone电池老化是正常现象,但今年这一数字的下降速度明显快于往年。

  人工智能芯片初创公司SambaNovaSystems在周二推出了一款新的半导体芯片,旨在让其客户以更低的总成本使用更高质量的人工智能模型。这家位于加利福尼亚州帕洛阿尔托的公司表示,SN40L芯片旨在运行比OpenAI的ChatGPT高级版使用的大两倍以上的模型。SambaNova的芯片由台积电负责制造。

  据IDC称,AI被视为解决PC行业销售问题的一种潜在方案,尽管该分析师承认使用案例尚未完全明确。随着ChatGPT的公开发布,生成式AI引起了广泛的关注,大型软件和硬件品牌正竭力将这一技术应用到所有的领域。”她还表示,只要假日销售不崩溃,PC供应链中的库存将在年底前保持在正常范围内,即四到六周。

  据TheInformation报道,一位知情的人偷偷表示,微软计划在下个月举行的年度开发者大会上推出公司首款人工智能芯片。此举是微软多年工作的结晶,能够在一定程度上帮助微软减少对英伟达设计的人工智能芯片的依赖。日前有消息显示,ChatGPT的所有者OpenAI也正在探索制造自己的人工智能芯片。

  据爆料,小米13T标准版8GB256GB价格是650欧元,小米13TPro12GB256GB价格是800欧元。对比小米13和小米13Pro,小米13T系列价格要便宜一点。该机将于9月26日在海外亮相。

  伴随着金融行业的数智化转型,我国普惠金融也在向“数字金融”方向发展。根据有关报道, 2022 年,我国普惠金融经历了新冠疫情的考验,在助力脱贫攻坚、乡村振兴、小额信贷优惠和支持中小微企业复工复产以及服务“专精特新”科技公司方面取得了一系列成就。而如今,我们得知,用传统的方式发展普惠金融服务,不仅让金融机构耗费巨大的成本,普惠金融服务的结果

  AI大模型无疑是2023年的关键词,更是各大科技厂商竞逐的热门赛道。然象征着未来的AI大模型实在太费钱,以至于财大气粗如微软都开始考虑“PlanB”了。所以在这样的情况下,微软自然也就有意来改变现状了。

  Megatron-LM 是由 NVIDIA 应用深度学习研究团队开发的一种强大的大规模 Transformer 模型。该产品用于大规模训练 Transformer 语言模型的持续研究。个人会使用混合精度,高效的模型并行和数据并行,以及多节点的 Transformer 模型(如 GPT、BERT 和 T5)的预训练。

  Google T5 是一个统一的文本到文本转换器,通过在大型文本语料库上进行预训练,能轻松实现在多个 NLP 任务上取得最先进的结果。它提供了加载、预处理、混合和评估数据集的代码,并能用于对已发布的预训练模型进行微调。

  AXLearn是Apple基于JAX和XLA构建的深度学习库,采用面向对象的方式解决软件工程在大规模深度学习模型开发中的挑战。它的配置系统允许用户从可重用的构建块中组合模型,并与其他库(如Flax和Hugging Face transformers)集成。AXLearn旨在扩展训练规模,支持数百亿参数的模型在数千个加速器上高效训练,适合在公有云上部署。它还采用全局计算范式,允许用户描述全局虚拟计算机上的计算,而不是单个加速器。AXLearn支持广泛的应用,包括自然语言处理、计算机视觉和语音识别,并包含用于训练最先进模型的基线配置。

  AI大藏经是一款依托AI强大算力生成现代文,对照阅读文言文佛经,并配有佛经机器人实时答疑解惑的产品。用户都能够订阅会员享受实时对话解惑、佛典无限畅览等服务。此外,AI大藏经还提供终身会员权益和机构用户定制服务。产品旨在利用AI技术帮助现代读者理解佛经,并支持其他佛经高科技项目。

  startuptools.ai是一个汇聚创业资源和工具的网站,主要面向创业者和初创公司。它提供登陆和注册功能,用户都能够保存搜索历史、收藏常用工具。网站汇聚了大量提升工作效率的工具,并进行分类,用户都能够根据需求选择适合的工具。它还提供创业指导、工具比较等服务,帮助用户更好地开展商业计划。

  Neuton TinyML 是一款无代码人工智能平台,可自动构建极小模型并嵌入到任何微控制器和传感器中。它基于专利神经网络框架,能够在保持准确性的同时实现极小的模型大小。

  Vision AI 提供了三种计算机视觉产品,包括 Vertex AI Vision、自定义机器学习模型和 Vision API。您能够正常的使用这些产品从图像中提取有价值的信息,进行图像分类和搜索,并创建各种计算机视觉应用。Vision AI 提供简单易用的界面和功能强大的预训练模型,满足多种用户需求。

  Magic Travel是一个旅行定制平台,提供个性化的行程规划和预订服务。通过魔法旅行,您可以轻松创建并管理您的旅行计划,包括目的地、出发时间、酒店预订等。魔法旅行的基本功能包括行程定制、酒店预订、景点推荐和导航服务。不管您是去东京、巴黎还是纽约,魔法旅行都能帮助您打造一个完美的旅行。

  EnVsion是一个依托AI技术的使用者真实的体验访谈分析工具。它能够在几分钟内自动生成客户访谈的详细笔记和关键视频片段,从而帮助UX设计师、产品经理和销售团队节省大量人工整理访谈内容的时间,使他们能更高效地开展使用者真实的体验研究和产品设计。

  Brief是一个每日为您生成个性化新闻摘要的产品。它利用AI从上千个信息源中挑选重要新闻,并根据您的兴趣定制内容,每天早上通过邮件为您呈现。无广告,内容丰富,支持订阅音频版,让您轻松获取所关心的头条要闻。

  Audio Writer将您的语音即时转换为清晰、连贯的文字。不仅如此,我们还能够在一定程度上帮助您将思维转化为各种格式的内容。支持多种语言转录,提供错误自动修正,可根据不一样的风格进行重写,并可以导出不同格式的内容。作为您的最佳助手,适用于笔记记录、内容创作、演讲稿等场景。

  Cape Privacy是一个对话式AI平台,可直接部署到您的基础架构中。它具有CapeChat和Cape API功能,可提高最终用户和研发人员的生产力。Cape Privacy允许企业在其环境中安全、私密地利用大型语言模型(LLM)的能力。平台提供了大量的企业级数据连接器,以及用于自动化业务流程的AI机器人。此外,该产品提供全面的审计、报告和可观察性功能,以支持您的法律、风险和合规要求。

  80days.me通过AI算法为用户自动生成多城市欧洲之旅行程,一站式预订机票、火车票、轮渡票,提供24小时旅行支持,旨在带来无忧无虑的欧洲之旅体验。

  OpenDoc AI是一款能够为每个人提供数据科学能力的工具,从分析到定制人工智能模型和工作流程,实现10倍加速。它可以通过生成式人工智能自动化数据工作流程,提供清晰的人工智能指令供公司范围内使用,不需要培训或数据科学知识即可将数据转化为可操作见解,轻松连接数据库并处理各种数据类型。OpenDoc AI已被各种规模的团队所信任和支持,为各行各业的组织带来协作的知识体验。

  Insight Bible是一款个性化圣经应用,旨在提供智能圣经访问,并将教会数字基础设施集中化。该应用提供了许多智能功能,包括访问和搜索圣经经文、个性化助手、每日灵修、书签功能等。它还提供了快速搜索整本圣经、离线使用等功能,旨在帮助用户更深入地理解圣经,加强对圣经的学习和理解。

  Intelogos是首款自动详细人员分析和绩效管理工具。它可以收集员工绩效数据,生成建议,帮助团队成长进步。

  CapCut 是一款易于使用的视频编辑器,提供基本视频编辑功能、免费字体和特效、高级功能(如关键帧动画、平滑慢动作、色度键和稳定能力),帮助您捕捉并剪辑精彩瞬间。您还能够正常的使用其他独特功能创建时尚视频,如自动字幕、文本转语音、运动跟踪和背景去除。让您的个性在 TikTok、YouTube、Instagram、WhatsApp 和 Facebook 上爆红!

  Word Genie是一款智能词汇搜索工具,能快速准确地帮助用户找到他们想要的词汇及相关信息。该产品具有强大的搜索功能,用户都能够轻松地查找同义词、反义词、词根、词源等词汇信息。Word Genie定位于提升用户写作效率,提供高效的词汇查询服务。产品定价灵活多样,适合个人用户及企业用户。

  Nepo Baby 是一个AI应用,通过一系列分析明星的背景和家庭背景,判断是否为星二代。它能够在一定程度上帮助用户快速了解明星的背景信息,并判断其是否为星二代。Nepo Baby 提供简单易用的界面,用户只需输入明星的姓名,即可得到判定结果。