ToshLLM für Intel-Macs: Open-Source-Entwicklungs-Sponsor

Dies ist ein direkter Beitrag, um meine unabhängige Arbeit als Open-Source-Softwareentwickler zu unterstützen.

Derzeit widme ich einen erheblichen Teil meiner Zeit der Entwicklung und Wartung lokaler Tools für die KI-Inferenz. Dazu gehören Projekte wie ToshLLM, die Anpassung von llama.cpp für bestimmte Architekturen sowie die Optimierung der Kompatibilität für macOS-Umgebungen, die mit AMD-GPUs betrieben werden.

Wofür fließt dein Beitrag?

• Entwicklungsstunden für das Binary-Patching, Code-Optimierung und das Beheben von GitHub-Issues.

• Laufende Wartung und die Veröffentlichung neuer Versionen.

• Infrastruktur und Hardware, die für Performance-Tests benötigt werden.

Alle Kernbausteine des Codes bleiben kostenlos und öffentlich für die Community.

Es ist kostenlos – und wird es immer sein: https://github.com/engeldlgado/toshllm/

Hinweis: Dies ist ein Spenden-/Sponsoring-Artikel. Nach der Bearbeitung der Zahlung erhältst du ein symbolisches PDF-Dokument als Dankeschön, das die aktuelle Roadmap für meine Repositorien enthält.