Ollama to otwartoźródłowe narzędzie umożliwiające lokalne uruchamianie i zarządzanie dużymi modelami językowymi (LLM) na własnym urządzeniu, w tym także na platformach mobilnych (np. Android). Oferuje tryb offline dla pełnej prywatności danych, ale dodatkowo umożliwia skalowanie do chmowy z dostępem do większych modeli i większej mocy obliczeniowej. Framework działa przez interfejs wiersza poleceń oraz udostępnia lokalne API, co ułatwia integrację z aplikacjami i automatyzację procesów.
Źródło: github.com
