OpenAI-совместимый API
·645 слов·4 минут
LLM инференс база
Здесь собраны все материалы по запуску, оптимизации и внутреннему устройству инференса LLM на русском языке.
Serverless vs. self-hosted LLM инференс
·1023 слов·5 минут
Распределённый инференс для LLM
·1202 слов·6 минут
Где запускается инференс LLM?
·640 слов·4 минут
Как работает инференс LLM?
·940 слов·5 минут
Обучение и инференс
·505 слов·3 минут
Что такое инференс LLM?
·634 слов·3 минут