苹果于12月6日宣布推出MLX,一款专为Apple Silicon设计的开源框架。 这款框架的目标是让 AI 开发者能在其项目中进行构建、测试、使用及优化。
基准测试中表现出色
开发者Oliver Wehrens 近期分享了在苹果M1 Pro、M2及M3芯片上对MLX框架的基准测试结果,并与Nvidia RTX 4090显卡进行了比较。 测试中使用了OpenAI的语音识别模型 Whisper。Wehrens 使用 Whisper 模型进行语音转写,并测量处理 10 分钟音频文件所需的时间。 结果显示,M1 Pro芯片的表现略逊于Nvidia GPU,处理音频需216秒,而4090则需186秒。
然而,新一代Apple Silicon的表现则大幅提升。 例如,另一名测试者在配备76个GPU的M2 Ultra和40个GPU的M3 Max上运行相同的音频文件,发现这些芯片的语音转写时间少于Nvidia GPU。