# AI Portable Setup

> Erstellt einen portablen KI-Arbeitsbereich auf einem USB-Stick oder beliebigen Laufwerk. RAG-Pipeline mit lokalen LLM-Modellen (Ollama), Vektordatenbank (ChromaDB) und vorkonfigurierten Prompts.

- Skill: `ellmos-ai/ai-portable-setup` (Agent Skill, multi-file: 9 files)
- Install (CLI): `npx skillmds@latest add ellmos-ai/ai-portable-setup`
- Raw SKILL.md: https://api.skillmd.com/api/skills/ellmos-ai/ai-portable-setup/raw
- Safety review: pending
- Works with: Claude Code, Claude.ai, OpenAI Codex
- Category: DevOps & Infra
- Author: ellmos-ai (https://skillmd.com/u/ellmos-ai)
- Updated: 2026-09-17
- Page: https://skillmd.com/skills/ellmos-ai/ai-portable-setup

---


<img src="banner.png" width="100%" alt="ai-portable-setup banner">

# AI Portable Setup

Erstellt eine portable KI-Arbeitsumgebung mit lokaler RAG-Pipeline.
Gedacht fuer USB-Sticks oder externe Laufwerke -- funktioniert offline
mit Ollama und lokalen Embedding-Modellen.

## Schnellstart

```bash
# Struktur auf USB-Stick erstellen
python setup_portable.py E:\AI-Portable

# Danach auf dem Zielsystem:
cd E:\AI-Portable
python -m venv venv
venv\Scripts\activate          # Windows
pip install chromadb ollama

# Dokumente indexieren
python rag/ingest.py

# Abfragen
python rag/query.py "Meine Frage..."
python rag/query.py --mode icf "Beobachtungen zum Klienten"
```

## Erzeugte Verzeichnisstruktur

```
AI-Portable/
  models/
    llm/                  Lokale LLM-Modelle (Mistral, Llama, etc.)
    embeddings/           Embedding-Modelle (nomic-embed-text, bge-small)
    tts/                  Optional: Text-to-Speech (Piper, Coqui)
  db/
    chroma/               ChromaDB Vektordatenbank
    sqlite/               Metadaten-DB
  documents/
    code/                 Code-Snippets, Projekte
    general/              Allgemeine Dokumente
  rag/
    ingest.py             Dateien einlesen und indexieren
    query.py              RAG-Abfragen mit Modus-Auswahl
    pipeline.py           Haupt-RAG-Pipeline (Embed + Query + LLM)
  prompts/
    coding.txt            Coding-Assistent Prompt
    icf.txt               ICF-Strukturierung Prompt
    rpg.txt               Pen-and-Paper Spielleiter Prompt
  templates/              Word/PDF-Vorlagen
  venv/                   Portable Python-Umgebung
```

## RAG-Pipeline

```
Dokumente -> Chunking -> Embedding (nomic-embed-text)
                              |
                              v
                         ChromaDB (lokal)
                              |
Frage -> Embedding -> Similarity Search -> Top-K Chunks
                                              |
                                              v
                                    Kontext + Prompt -> Ollama (Mistral)
                                              |
                                              v
                                          Antwort
```

## Abfrage-Modi

| Modus | Prompt | Verwendung |
|-------|--------|------------|
| `default` | Allgemeiner Assistent | Standardabfragen |
| `icf` | ICF-Strukturierung | Beobachtungen nach ICF klassifizieren |
| `coding` | Coding-Assistent | Code schreiben und erklaeren |
| `rpg` | Spielleiter | Pen-and-Paper Rollenspiel |

## Voraussetzungen auf dem Zielsystem

- Python 3.10+
- Ollama (mit `mistral:instruct` und `nomic-embed-text`)
- ~8 GB RAM fuer Mistral

## Changelog

### 1.0.0 (2026-03-12)
- Konsolidierung aus MODULAR_AGENTS/AI-Portable
- Setup-Script als Einzeldatei-Skill
- 4 vorkonfigurierte Prompts (coding, icf, rpg, default)
- RAG-Pipeline (ingest, query, pipeline)

