Ollama 上线 Llama 3.2 Vision,提供 11B 和 90B 两个版本
Llama 3.2 Vision · Ollama Blog
Ollama 宣布 Llama 3.2 Vision 已可在 Ollama 中运行,提供 11B 和 90B 两个版本,需先下载 Ollama 0.4。11B 版本至少需要 8GB 显存,90B 版本至少需要 64GB 显存;提示词中可通过拖拽图片或填写图片路径加入图像,官方还给出了 Python、JavaScript 库和 cURL 的调用方式。
正文
当前显示原文,中文全文译文尚未就绪。
November 6, 2024
Llama 3.2 Vision is now available to run in Ollama, in both 11B and 90B sizes.
Download Ollama 0.4, then run:
To run the larger 90B model:
To add an image to the prompt, drag and drop it into the terminal, or add a path to the image to the prompt on Linux.
Note: Llama 3.2 Vision 11B requires least 8GB of VRAM, and the 90B model requires at least 64 GB of VRAM.
Examples
Handwriting
Optical Character Recognition (OCR)
To use Llama 3.2 Vision with the Ollama Python library:
JavaScript Library
To use Llama 3.2 Vision with the Ollama JavaScript library:
cURL