LLM на 125 млрд параметров под столом: почему агенты ушли из облака
Автор Habr описывает переход рабочих ИИ-агентов с облачных API на локальную модель со 125 млрд параметров из-за требований клиентов к информационной безопасности. По словам автора, модель работает на его рабочей станции, а данные не покидают периметр компании.
CERT24