开云-IBM 推出 Granite 3.0：专为企业打造的高性能AI模型

[导读] 新推出的 Granite 3.0 8B 和 2B 模子，在宽松的 Apache 2.0 许可证下发布，在很多学术和企业基准测试中表示出壮大的机能，可以或许超出或匹敌近似范围的模子。 新推出的 Granite Guard...

新推出的 Granite 3.0 8B和 2B 模子，在宽松的 Apache 2.0 许可证下发布，在很多学术和企业基准测试中表示出壮大的机能，可以或许超出或匹敌近似范围的模子。 新推出的 Granite Guardian 3.0模子供给了 IBM 最周全的护栏功能，以推动平安且值得相信的人工智能。 新推出的 Granite 3.0专家夹杂模子（Mixture-of-Experts models）可实现极为高效的推理和低延迟，合用在基在 CPU 的摆设和边沿计较。 全新的 Granite时候序列模子在零样本/少样本猜测中实现了最早进的机能，超出了年夜10倍的模子。 IBM 推出了下一代基在 Granite 的 watsonx Code Assistant，合用在通用编码；在 watsonx.ai 中初次推出用在构建和摆设 AI 利用法式和智能体（Agents）的新东西。 公布 Granite将成为 Consulting Advantage 的默许模子，这是一个由 AI 驱动的交付平台，IBM 的 160,000 名参谋利用该平台，可以更快地为客户供给新解决方案。

北京2024年10月22日 /美通社/ -- 在美国时候10月21日进行的IBM（纽约证券买卖所代码：IBM）年度TechXchange年夜会上，IBM公布推出其迄今为止最早进的AI模子家族——Granite 3.0。IBM的第三代Granite旗舰说话模子在很多学术和行业基准测试中均能超出或匹敌同类领先模子供给商的模子，展现出壮大的机能、透明性和平安性。

IBM 推出 Granite 3.0：专为企业打造的高机能AI模子

与公司对开源 AI 的许诺一致，Granite 模子在宽松的 Apache 2.0 许可证下发布，它们凭仗在机能、矫捷性和自立性方面的怪异组合可以或许为企业客户和全部社区供给办事。

IBM的Granite 3.0家族系列包罗：

通用/说话模子：Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base 护栏与平安模子：Granite Guardian 3.0 8B, Granite Guardian 3.0 2B 专家夹杂模子：Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

新款 Granite 3.0 8B 和 2B 说话模子被设计为企业级AI的"主力"模子，可以或许在检索加强生成（RAG）、分类、摘要、实体提取和东西利用等使命中供给壮大的机能。这些紧凑的多功能模子旨在按照企业数据进行微调，并在各类营业情况或工作流程中无缝集成。

很多年夜型说话模子（LLM）是基在公然可用的数据进行练习的，绝年夜大都企业数据依然未被操纵。经由过程将小型 Granite 模子与企业数据相连系，特殊是利用 IBM 和 RedHat 在蒲月推出的革命性对齐手艺InstructLab，IBM 相信企业可以实现与年夜型模子相媲美的特定使命机能，而本钱只是此中的一小部门（基在在几个初期概念验证中不雅察到的本钱比年夜型前沿模子低 3 到 23 倍的规模[i]）。

Granite 3.0 版本的发布重申了 IBM 对成立 AI 产物透明度、平安性和信赖的许诺。Granite 3.0 手艺陈述和负责任利用指南供给了用在练习这些模子的数据集描写，具体申明了所利用的过滤、清洗和处置步调，并周全展现了模子在首要学术和企业基准测试中的机能成果。

相当主要的是，IBM 为 watsonx.ai 上的所有 Granite 模子供给常识产权补偿，旨在加强企业客户将企业数据融入模子的决定信念。

提高尺度：Granite 3.0 基准测试

Granite 3.0 说话模子在原始机能上也展现出杰出的成果。

在 Hugging Face 的 OpenLLM 排行榜界说的尺度学术基准测试中，Granite 3.0 8B Instruct 模子的整体机能平均领先在Meta 和 Mistral 中近似巨细的开源模子的最早进机能。在 IBM 的进步前辈 AttaQ 平安基准测试中，Granite 3.0 8B Instruct 模子在所有丈量的平安维度上均领先在 Meta 和 Mistral 的模子[ii]。

在检索加强生成（RAG）、东西利用和收集平安范畴的焦点企业使命中，Granite 3.0 8B Instruct 模子的平均表示优在Mistral 和 Meta 中近似范围的开源模子[iii]。

Granite 3.0 模子是在跨越 12 万亿个标识表记标帜长进行练习的，这些数据来自 12 种分歧的天然说话和 116 种分歧的编程说话，采取了一种新奇的两阶段练习方式，操纵了数千个旨在优化数据质量、数据选择和练习参数的尝试成果。到本年年末，估计 3.0 8B 和 2B 说话模子将撑持扩大的 128K 上下文窗口和多模态文档理解能力。

IBM 展现了机能和推理本钱的完善均衡，供给了其 Granite 专家夹杂（MoE）机构模子，Granite 3.0 1B-A400M 和 Granite 3.0 3B-A800M，这些较小且轻量级的模子可用在低延迟利用法式和基在 CPU 的摆设。

IBM 还公布了其预练习 Granite 时候序列模子的更新版本，初期版本在本年早些时辰发布。这些新模子在 3 倍的数据长进行练习，在所有三个首要时候序列基准测试中表示超卓，超出了来自 Google、Alibaba 等公司 10 倍更年夜模子的机能。更新后的模子还供给了更年夜的建模矫捷性，撑持外部变量和转动猜测[iv]。

Granite Guardian 3.0：开启负责任AI的新时期

作为此次发布的一部门，IBM 还推出了一个新的 Granite Guardian 模子系列，答应利用法式开辟人员经由过程查抄用户提醒和 LLM 响应来实行平安护栏，以发现各类风险。Granite Guardian 3.0、8B 和 2B 型号供给了现今市场上最周全的风险和风险检测功能。

除社会成见、冤仇、毒性、亵渎、暴力、逃狱等风险维度外，这些模子还供给了一系列怪异的检索加强生成（RAG）特定查抄，如基在事实性、上下文相干性和谜底相干性。在针对 19 项平安性和 RAG 基准的普遍测试中，Granite Guardian 3.0 8B 模子在风险检测方面的整体正确性平均高在 Meta 的所有三代 Llama Guard 模子。它在幻觉检测方面的整体机能也与专门的幻觉检测模子 WeCheck 和 MiniCheck 相当[v]。

固然 Granite Guardian 模子派生自响应的 Granite 说话模子，但它们可以与任何开放或专有的 AI 模子一路利用，以实行平安庇护办法。

Granite 3.0模子的可用性

全部 Granite 3.0 模子套件和更新的时候序列模子都可以在 HuggingFace 上按照宽松的 Apache 2.0 许可证下载。新的 Granite 3.0 8B 和 2B 说话模子的指令（instruct）变体和 Granite Guardian 3.0 8B 和 2B 模子现已在 IBM 的 watsonx 平台上供给贸易用处。部门 Granite 3.0 模子也将作为 NVIDIA NIM 微办事供给，并经由过程 Google Cloud 的 Vertex AI Model Garden与 HuggingFace 的集成供给。

为给开辟者供给多种选择和易用性，并撑持当地和边沿摆设，一套精选的 Granite 3.0 模子也可在 Ollama 和 Replicate 上取得。最新一代 Granite 模子扩大了 IBM 壮大的开源 LLM 目次。IBM 与 AWS、Docker、Domo、Qualcomm Technologies, Inc.（经由过程其Qualcomm® AI Hub）、Salesforce、SAP 等生态系统合作火伴合作，将多种 Granite 模子集成到这些合作火伴的产物中，或在他们的平台上供给 Granite 模子，为全球企业供给更年夜的选择空间。

从助理（Assistants）到智能体（Agents）：实现企业级AI 的将来

IBM 正在经由过程一系列手艺推动企业级AI的成长，从模子和助理(Assistants)，到为公司怪异的数据和用例调优和摆设 AI 所需的东西。IBM 还在为将来可以或许自我导向、反思并在动态贸易情况中履行复杂使命的 AI 智能体（AI agents）摊平道路。

IBM 不竭成长其 AI 助理（Assitants）手艺组合，从帮忙公司经由过程低代码东西和主动化构建本身的助理的watsonx Orchestrate，到用在特定使命和范畴（如客户办事、人力资本、发卖和营销）的各类预构建助理。全球各地的组织已利用 watsonx Assistant 帮忙他们构建 AI 助理，用在回覆客户或员工的平常问题、实现年夜型机和传统 IT 利用法式现代化、帮忙学生摸索潜伏的职业路径，或为购房者供给数字典质贷款撑持等使命。

IBM 还发布了行将发布的下一代 watsonx Code Assistant，该版本由 Granite 代码模子供给撑持，可以或许为 C、C++、Go、Java 和 Python 等说话供给通用编码辅助，并为企业级 Java 利用法式[vi]供给高级利用法式现代化功能。Granite 的代码功能此刻也能够经由过程 Visual Studio Code 扩大法式IBM Granite.Code拜候。

IBM 还打算发布新东西来帮忙开辟人员，操纵watsonx.ai 更高效地构建、定制和摆设 AI，包罗代办署理框架、与现有情况的集成和用在常见用例（如 RAG 和智能体）的低代码主动化[vii]。

IBM 专注在开辟具有更高自立性、复杂推理能力和多步调问题解决能力的 AI 智能体（AI Agents）手艺。Granite 3.0 8B 模子的初始版本撑持要害的智能体功能，如高级推理和用在实现东西利用工作流程的高度布局化聊天模板和提醒气概。IBM 还打算在 IBM watsonx Orchestrate 中引入新的 AI 智能体聊天功能，操纵智能体功能调和 AI 助理、技术和主动化，帮忙用户提高整体的团队出产力[viii]。IBM 打算在 2025 年继续在其产物组合中构建智能体功能，包罗为特定范畴和用例预构建的智能体。

扩大的 AI 驱动的交付平台，以 AI 加强 IBM 参谋的能力

IBM 还公布年夜幅扩大其 AI 驱动的交付平台IBM Consulting Advantage。该多模子平台包括 AI 智能体、利用法式和方式（如可重用的框架），赋能 16 万名 IBM 参谋，以更低的本钱、更好更快地为客户供给价值。

作为扩大的一部门，Granite 3.0 说话模子将成为 Consulting Advantage 的默许模子。借助 Granite 的机能和效力， IBM Consulting 将可以或许帮忙最年夜限度地提高 IBM 客户的生成式 AI 项目标投资回报。

扩大的另外一个要害部门是引入 IBM Consulting Advantage for Cloud Transformation and Management 和 IBM Consulting Advantage for Business Operations。每项都包罗特定范畴的 AI 智能体、利用法式和融会了 IBM 最好实践的方式，使 IBM 参谋可以或许帮忙客户加快云和 AI 转型使命（如代码现代化和质量工程），或跨范畴（如财政、人力资本和采购）实行转型和运营。

关在IBM

IBM 是全球领先的夹杂云、人工智能和企业办事供给商，帮忙跨越175 个国度和地域的客户，从其具有的数据中获得贸易洞察，简化营业流程，下降本钱，并取得行业竞争优势。金融办事、电信和医疗健康等要害根本举措措施范畴的跨越4000 家当局和企业实体依托IBM 夹杂云平台和Red Hat OpenShift 快速、高效、平安地实现数字化转型。IBM 在人工智能、量子计较、行业云解决方案和企业办事方面的冲破性立异为我们的客户供给了开放和矫捷的选择。对企业诚信、透明治理、社会责任、包涵文化和办事精力的持久许诺是IBM 营业成长的基石。

[i] 本钱计较基在 IBM watsonx 的开放模子和 openAI 的 GPT4 模子（假定 80% 输入，20% 输出）的每 100 万个代币的 API 本钱订价，用在客户概念验证。[ii] IBM Research technical paper: Granite 3.0 Language Models[iii] IBM Research technical paper: Granite 3.0 Language Models[iv] The Tiny Time Mixer: Fast Pre-Trained Models for Enhanced Zero/Few Shot Forecasting on Multivariate Time Series[v] Evaluation results published in Granite Guardian GitHub Report[vi] Planned availability for Q4 2024[vii] Planned availability for Q4 2024[viii] Planned availability for Q4 2024

欲知详情，请下载word文档 下载文档

北京2024年8月27日 /美通社/ -- 在8月23日举行的2024年长三角生态绿色一体化成长示范区结合招商会上，软通动力信息手艺（团体）股分有限公司（以下简称 软通动力 ）与长三角投资（上海）有限...

要害字： BSP 信息手艺

上海2024年8月26日 /美通社/ -- 本日，高端全合成润滑油品牌美孚1号联袂品牌体验官周冠宇，开启全新路程，助力泛博车主经由过程驾驶去摸索更广漠的世界。在全新发布的品牌视频中，周冠宇和分歧布景的消费者表达了对驾驶的酷爱...

要害字： BSP 汽车制造