Run AI agents safely with Ollama and Fly.io
AI agents can now use Ollama's cloud models safely inside Fly.io's cloud computers.
Ollama
Ollama now supports Jev-style decision models
Ollama now supports decision models, based on TypeSafe's Jev API for fast, typed decisions. Decision models can now be run at no cost with low latency.
Ollama mit GPU beschleunigen: Nvidia Container Toolkit & Docker auf Debian einrichten
Lohnt es sich, selbst eine ältere Grafikkarte an den Home-Server anzuschließen, um lokale LLMs zu beschleunigen? In diesem Video richte ich eine Nvidia GTX 1660 Ti auf einem Debian-Server ein …
DeploynDE