KI-Tools Verzeichnis

Das meistgenutzte Framework zum Aufbau von LLM-Anwendungen und Pipelines

Daten-Framework für LLMs: Indexierung, Retrieval und Augmented Generation

Programmierframework für LLM-Pipelines mit automatischer Prompt-Optimierung

Open-Source-Framework für produktionsreife NLP- und LLM-Anwendungen

Strukturierte, typsichere Outputs aus LLMs mit Pydantic-Validierung

Open-Source-Vektordatenbank für Embeddings – einfach lokal oder in der Cloud

Hochperformante Vektordatenbank in Rust mit umfangreichem Filtering

Facebooks Bibliothek für effiziente Ähnlichkeitssuche bei Milliarden Vektoren

Vektordatenbank mit eingebautem ML-Modul und GraphQL-API

LLMs lokal ausführen – einfach wie Docker, für Mac, Linux und Windows

ChatGPT-ähnliche Weboberfläche für Ollama und OpenAI-kompatible APIs

Schnelle und effiziente LLM-Inferenz mit PagedAttention für Produktion

Vollständig OpenAI-kompatibler lokaler Inferenzserver für alle Modelle

Framework für kollaborative Multi-Agenten-Systeme mit Rollenzuweisung

Pionier der autonomen KI-Agenten – plant und führt Aufgaben selbstständig aus

Low-Code-Automatisierungsplattform mit nativer KI-Integration

2–5× schnelleres Fine-Tuning von LLMs bei 70% weniger Speicherverbrauch

Einheitliches Framework für effizientes Fine-Tuning von 100+ LLMs

Evaluations-Framework speziell für RAG-Pipelines mit automatisierten Metriken

Open-Source-Datenbeschriftungsplattform für alle KI-Datentypen