Это прямой взнос в поддержку моей независимой работы как разработчика ПО с открытым исходным кодом.

В настоящее время я уделяю значительную часть своего времени разработке и сопровождению инструментов локального вывода (inference) для искусственного интеллекта. Сюда входят проекты вроде ToshLLM, адаптация llama.cpp под конкретные архитектуры и оптимизация совместимости для сред macOS, работающих с AMD GPU.

На что пойдут ваши взносы?

• Часы инженерной работы по двоичному патчингу (binary patching), оптимизации кода и решению вопросов на GitHub.

• Непрерывное сопровождение и выпуск новых версий.

• Инфраструктура и аппаратное обеспечение, необходимые для тестирования производительности.

Весь основной код остается бесплатным и публичным для сообщества.

Это бесплатно — и так будет всегда: https://github.com/engeldlgado/toshllm/

Примечание: это позиция для пожертвования/спонсорства. После обработки платежа вы получите символический PDF-документ в качестве благодарности, в котором будет указан текущий roadmap для моих репозиториев.