vLLM ในประเทศไทย

AGICAFET

Bangkok

ผู้จัดงาน vLLM Bangkok Day พัฒนาและให้บริการโมเดลภาษาไทยขนาดใหญ่ รวมถึงซีรีส์ ThaiLLM

Serving Thai-language models in production, including NVFP4-quantised checkpoints.

Embedded LLM

พาร์ตเนอร์เชิงกลยุทธ์ของ vLLM Bangkok Day และผู้มีส่วนร่วมหลักในโปรเจกต์ vLLM ทำงานด้านการเพิ่มประสิทธิภาพ inference บนหลายแพลตฟอร์ม GPU กลยุทธ์ parallelism สำหรับโมเดล MoE และ multimodal ขนาดใหญ่ และการเสิร์ฟแบบ on-premise

Upstream vLLM contributions (DFlash, KV-cache compression and offloading, prefix caching, chunked prefill, sleep mode) and production serving on limited GPUs.

Red Hat

ผู้นำด้านโอเพนซอร์สระดับองค์กร และเป็นผู้สนับสนุนหลักของ vLLM และการเสิร์ฟโมเดลเปิดบน Kubernetes

Upstream vLLM contribution and enterprise inference platforms.

Tensormesh

โครงสร้างพื้นฐานด้าน inference — ทำให้การเสิร์ฟ LLM เร็วขึ้นและถูกลงในสเกลใหญ่

Inference optimisation and KV cache systems built around vLLM.

Inferact

พาร์ตเนอร์ของงาน vLLM Bangkok Day ทำงานด้าน AI inference