feat: add ollama.
This commit is contained in:
parent
104abec588
commit
714504ecf6
2 changed files with 19 additions and 0 deletions
|
@ -22,6 +22,7 @@
|
||||||
./tailscale.nix
|
./tailscale.nix
|
||||||
./sunshine.nix
|
./sunshine.nix
|
||||||
./nh.nix
|
./nh.nix
|
||||||
|
./ollama.nix
|
||||||
];
|
];
|
||||||
|
|
||||||
crony.bluetooth.enable = lib.mkDefault true;
|
crony.bluetooth.enable = lib.mkDefault true;
|
||||||
|
@ -46,4 +47,5 @@
|
||||||
crony.tailscale.enable = lib.mkDefault true;
|
crony.tailscale.enable = lib.mkDefault true;
|
||||||
crony.sunshine.enable = lib.mkDefault true;
|
crony.sunshine.enable = lib.mkDefault true;
|
||||||
crony.nh.enable = lib.mkDefault true;
|
crony.nh.enable = lib.mkDefault true;
|
||||||
|
crony.ollama.enable = lib.mkDefault true;
|
||||||
}
|
}
|
||||||
|
|
17
modules/linux/nixos/ollama.nix
Normal file
17
modules/linux/nixos/ollama.nix
Normal file
|
@ -0,0 +1,17 @@
|
||||||
|
{
|
||||||
|
config,
|
||||||
|
lib,
|
||||||
|
...
|
||||||
|
}: {
|
||||||
|
options = {
|
||||||
|
crony.ollama.enable = lib.mkEnableOption "Enable and setup ollama";
|
||||||
|
};
|
||||||
|
|
||||||
|
config = lib.mkIf config.crony.ollama.enable {
|
||||||
|
services.ollama = {
|
||||||
|
enable = true;
|
||||||
|
loadModels = ["llama3.2:3b" "deepseek-r1:1.5b"];
|
||||||
|
acceleration = "cuda";
|
||||||
|
};
|
||||||
|
};
|
||||||
|
}
|
Loading…
Add table
Add a link
Reference in a new issue