В докладе расскажем, как локальные модели в браузере с использованием WebGPU позволяют встраивать ИИ-агентов в пользовательский интерфейс без увеличения нагрузки на сервер. Рассмотрим библиотеки, поддерживающие WebGPU (например, Transformers.js, @mlc-ai/web-llm), альтернативные способы запуска моделей в браузере (WebAssembly, WebNN), приведём примеры использования локальных моделей и перспективы их применения в различных областях, в том числе в космической отрасли.
