LiteLLM proxy

AI
litellm --model ollama/llama3 --port 8000