學術及資源的交流園地 ^_^

Ollama

最後更新: 2024-05-07

介紹

它是一個可以在本機運行知名 LLM (i.e. Llama 3, Phi 3, Mistral, Gemma) 的軟件

HomePage

Memory requirement

 * At least

Models   RAM
7B        8 GB
13B      16 GB
33B      32 GB

Notes

Llama 3(8B)      File Size: 4.7GB      # ollama run llama3
Llama 3(70B)     File Size: 40GB       # ollama run llama3:70b

目錄

 

novnc

最後更新: 2024-05-07

前言

 

目錄

 

4. Rocky 8 as App

最後更新: 2024-05-05

目錄

 

  • Rocky 8 App Folder
  • Cleanup contrainer script

2. podman - storage

 

目錄

 

RSS feed