Ollama Windows preview
Ollama发布了Windows预览版,使用户能够在原生的Windows环境中拉取、运行和创建大语言模型。该版本支持英伟达的GPU,并需要CPU支持AVX和AVX2等指令集。Ollama利用NVIDIA GPU和现代CPU指令集来加速模型运行,无需额外的配置或虚拟化。目前该版本还在开发中,计划未来支持AMD GPU。如果用户有能力,也可以直接从源码构建支持AMD GPU的版本。Windows版的Ollama包括内置的GPU加速、访问完整的模型库,以及包括OpenAI兼容性在内的Ollama API。
广告:私人定制视频文本提取,字幕翻译制作等,欢迎联系QQ:1752338621