AI新工具
banner

Ollama Windows preview


介绍:

Ollama Windows预览版用户可以在本地创建和运行大语言模型,并且支持NVIDIA GPU和现代CPU指令集的硬件加速









Ollama Windows preview

Ollama发布了Windows预览版,使用户能够在原生的Windows环境中拉取、运行和创建大语言模型。该版本支持英伟达的GPU,并需要CPU支持AVX和AVX2等指令集。Ollama利用NVIDIA GPU和现代CPU指令集来加速模型运行,无需额外的配置或虚拟化。目前该版本还在开发中,计划未来支持AMD GPU。如果用户有能力,也可以直接从源码构建支持AMD GPU的版本。Windows版的Ollama包括内置的GPU加速、访问完整的模型库,以及包括OpenAI兼容性在内的Ollama API。

可关注我们的公众号:每天AI新工具

广告:私人定制视频文本提取,字幕翻译制作等,欢迎联系QQ:1752338621