ByteDance создает ИИ-модель с 10 трлн параметров

Китайская компания ByteDance, известная благодаря TikTok, разрабатывает модель искусственного интеллекта с объемом до 10 триллионов параметров. Об этом сообщает издание Ferra. Если информация подтвердится, данная система будет более чем в три раза больше китайской Kimi K3 от Moonshot AI, имеющей 2,8 трлн параметров. По оценкам экспертов, у самой продвинутой модели Anthropic Mythos 5 может быть около 8 трлн параметров, а у Fable 5 — примерно 5 трлн. Об этом сообщает сайт Самара онлайн 24.

Параметры представляют собой числовые настройки, которые модель получает в процессе обучения и использует для обработки данных и выполнения задач. Однако их количество лишь указывает на масштаб системы и не гарантирует высокие результаты.

На данный момент модель ByteDance находится на стадии предварительного обучения.