DEV Community

#localai

Posts

👋 Sign in for the ability to sort posts by relevant, latest, or top.
Run DeepSeek V4 on Your Own Hardware With DwarfStar, the Redis Creator's New Inference Engine

Run DeepSeek V4 on Your Own Hardware With DwarfStar, the Redis Creator's New Inference Engine

1
Comments
7 min read
Jev: O Que É, Como Funciona e Por Que Você Não Precisa Dele

Jev: O Que É, Como Funciona e Por Que Você Não Precisa Dele

Comments
18 min read
Why Kep Runs Entirely on Ollama: The Architecture Behind Local-Only AI for Regulated Industries

Why Kep Runs Entirely on Ollama: The Architecture Behind Local-Only AI for Regulated Industries

Comments
4 min read
GGUF VRAM Calculator: Check Before You Download

GGUF VRAM Calculator: Check Before You Download

7
Comments 1
4 min read
LLM Quantization Explained for Mac Users

LLM Quantization Explained for Mac Users

Comments
4 min read
How to Run Local LLMs on Apple Silicon

How to Run Local LLMs on Apple Silicon

Comments
4 min read
Agentic Commerce: A Practical 2026 Guide

Agentic Commerce: A Practical 2026 Guide

Comments
4 min read
เอาโมเดล 2.78 ล้านล้านพารามิเตอร์ มารันบน CPU แรม 8 GB, วิศวกรคนเดียวเขียน C ทั้งเอนจินเอง เพราะอยากเล่น Kimi K3 ที่บ้าน

เอาโมเดล 2.78 ล้านล้านพารามิเตอร์ มารันบน CPU แรม 8 GB, วิศวกรคนเดียวเขียน C ทั้งเอนจินเอง เพราะอยากเล่น Kimi K3 ที่บ้าน

Comments 1
2 min read
How to pick --n-cpu-moe in llama.cpp: Qwen3.6 35B-A3B on 12, 16 and 24 GB GPUs

How to pick --n-cpu-moe in llama.cpp: Qwen3.6 35B-A3B on 12, 16 and 24 GB GPUs

1
Comments 2
3 min read
Mac Studioを買わないよう自分を説得中。Appleは助けてくれない。

Mac Studioを買わないよう自分を説得中。Appleは助けてくれない。

Comments
2 min read
J’essaie de me convaincre de ne pas acheter un Mac Studio. Apple ne m’aide pas.

J’essaie de me convaincre de ne pas acheter un Mac Studio. Apple ne m’aide pas.

Comments
9 min read
メールはひどい。AIで改善できるが、受信箱を守ることが前提だ。

メールはひどい。AIで改善できるが、受信箱を守ることが前提だ。

Comments
1 min read
LM Studio Guide: Run Local LLMs on Your Mac Fast

LM Studio Guide: Run Local LLMs on Your Mac Fast

Comments
10 min read
Bonsai 2 27B Puts a 27B AI Model in 5.9GB - Can It Replace Your Paid Subscription?

Bonsai 2 27B Puts a 27B AI Model in 5.9GB - Can It Replace Your Paid Subscription?

4
Comments 2
8 min read
Small local models: what actually holds up when you re-run the measurement

Small local models: what actually holds up when you re-run the measurement

Comments
4 min read
👋 Sign in for the ability to sort posts by relevant, latest, or top.