Карманное портативное устройство способно локально запускать Большие языковые модели с числом параметров до 120 миллиардов. Американский стартап Tiiny AI представил Tiiny AI Pocket Lab, который был официально признан Книгой рекордов Гиннесса самым маленьким персональным ИИ-суперкомпьютером в мире.
По внешнему виду устройство напоминает пауэрбанк: оно действительно карманного формата, но при этом способно запускать крупные языковые модели без подключения к облаку, серверов или высокопроизводительных графических процессоров.
С помощью Pocket Lab компания Tiiny AI стремится снизить зависимость ИИ-суперкомпьютеров от облачной инфраструктуры и графических процессоров, сделав вычислительную мощность уровня дата-центров доступной обычным пользователям. Устройство также позиционируется как ответ на проблемы устойчивого развития, роста энергозатрат и рисков для конфиденциальности, связанных с облачными ИИ-сервисами.
Pocket Lab создавался как универсальный персональный ИИ-инструмент и ориентирован на самых разных пользователей: контент-креаторов, разработчиков, исследователей и студентов.
Все пользовательские данные, настройки и документы хранятся локально с применением шифрования банковского уровня. Это обеспечивает устройству «долгую память» и более высокий уровень приватности по сравнению с облачными ИИ-системами.
Tiiny AI Pocket Lab оптимизирован под наиболее востребованный диапазон персонального ИИ: он эффективно работает с моделями от 10 до 100 миллиардов параметров, покрывая более 80% реальных прикладных задач.
При этом устройство способно масштабироваться и до моделей на 120 миллиардов параметров, обеспечивая интеллект уровня GPT-4 для сложных рассуждений и многоэтапного анализа — с полным сохранением офлайн-режима и безопасности данных.
Суперкомпьютер оснащен 12-ядерным процессором ARMv9.2 и обладает энергопотреблением до 65 ватт.
Tiiny AI также предлагает готовую экосистему с открытым исходным кодом. Pocket Lab поддерживает установку популярных open-source-моделей в один клик — включая Llama, Qwen, DeepSeek, Mistral, Phi и GPT-OSS, а также простую настройку ИИ-агентов вроде OpenManus, ComfyUI, Flowise и SillyTavern.
Пользователи будут регулярно получать обновления, включая официальные беспроводные апгрейды аппаратного обеспечения. Полноценный запуск этих возможностей запланирован на выставке CES в январе 2026 года.
По информации https://naked-science.ru/community/1142453
Обозрение "Terra & Comp".
