←新闻详情

Ollama Blog更新于 10月14日 12:43

Ollama 上线 Llama 3.2 Vision,提供 11B 和 90B 两个版本

Llama 3.2 Vision · Ollama Blog

AI 导读

Ollama 宣布 Llama 3.2 Vision 已可在 Ollama 中运行,提供 11B 和 90B 两个版本,需先下载 Ollama 0.4。11B 版本至少需要 8GB 显存,90B 版本至少需要 64GB 显存;提示词中可通过拖拽图片或填写图片路径加入图像,官方还给出了 Python、JavaScript 库和 cURL 的调用方式。

推荐理由

AI 评分 52

Ollama 上线 Llama 3.2 Vision 的 11B 与 90B 两个版本,并给出显存门槛和调用示例,方便本地多模态部署选型。

主题

标签

正文

当前显示原文,中文全文译文尚未就绪。

November 6, 2024

Llama 3.2 Vision is now available to run in Ollama, in both 11B and 90B sizes.

Download Ollama 0.4, then run:

To run the larger 90B model:

To add an image to the prompt, drag and drop it into the terminal, or add a path to the image to the prompt on Linux.

Note: Llama 3.2 Vision 11B requires least 8GB of VRAM, and the 90B model requires at least 64 GB of VRAM.

Examples

Handwriting

Optical Character Recognition (OCR)

To use Llama 3.2 Vision with the Ollama Python library:

JavaScript Library

To use Llama 3.2 Vision with the Ollama JavaScript library:

cURL

来源

Ollama Blog