Создатель YouTube-канала Build With Binh разработал визитную карточку, на которой функционирует языковая модель в локальном режиме. Он подробно представил свой проект на GitHub.
Устройство, названное Bouija, демонстрирует ответы модели с помощью светодиодов. Оно визуально напоминает спиритическую доску Уиджи (Ouija) – на поверхности располагаются отдельные буквы, слова «да» и «нет», а также указатель, который, как предполагается, помогает людям взаимодействовать с потусторонним миром. На устройстве современного любителя установлено 46 светодиодов, каждому из которых соответствуют свои символы.
В визитной карточке интегрирован микрокомпьютер, основанный на чипе ESP32-S3. При этом языковая модель на устройстве не слишком велика – она содержит всего 260 тысяч параметров. Возможности визитки обеспечивают генерацию 24 токенов в секунду.
Создатель проекта отметил, что модель на визитной карточке функционирует полностью оффлайн, не требуя подключения к интернету.
Ранее Yandex B2B Tech предоставила доступ к самой крупной языковой модели в облаке Qwen3-235B-A22B-Instruct-2507. Эта нейросеть способна удерживать значительный объем контекста, эффективно решать логические задачи и работать с кодом. С её помощью компании смогут быстрее и проще разрабатывать ИИ-агентов.
Большие языковые модели смогли клонировать сами себя
