OpenVINO 2024.4 为 Core Ultra 系列 2 及新一代 AI 模型的布局和优化做好充分准备

2024 年 9 月 19 日，英特尔工程师发布了 OpenVINO 2024.4，这是其开源 AI 工具包的最新版本。OpenVINO 2024.4 为即将推出的英特尔酷睿超系列 2 “Lunar Lake” 处理器做好准备，支持较新的 Gen AI 模型，现在支持 Python 3.12，并最终增加了对 Red Hat Enterprise Linux 9 的官方支持。

OpenVINO 2024.4 增加了对 GLM-4-9B Chat、MiniCPM-1B、Llama 3 和 3.1、Phi-3-Mini、Phi-3-Medium 和 YOLOX-s 型号的支持。

OpenVINO 2024.4 还扩展了其大型语言模型 (LLM) 支持，包括对 Xe Matrix Extensions (XMX) 脉动阵列的运行时优化、对 Lunar Lake CPU 的内存共享、对独立 GPU 的新 PagedAttention 功能、对 OpenAI 兼容 API 的生产质量支持、改进的性能和内存消耗、Python 3.12 支持以及对 RHEL9 的支持。

获取有关新 OpenVINO 2024.4 AI 工具包版本的更多详细信息：https://github.com/openvinotoolkit/openvino/releases/tag/2024.4.0