Новая модель больших языков (LLM)* ляжет в основу следующей версии системы искусственного интеллекта GigaChat, сравняв её возможности с популярными зарубежными решениями.
На международной конференции по искусственному интеллекту AI Journey разработчики Сбера анонсировали новую версию сервиса GigaChat, в основе которого лежит одна из наиболее продвинутых моделей для русского языка с 29 миллиардами параметров.
Как поясняют специалисты, благодаря новой LLM, GigaChat лучше следует инструкциям и может выполнять более сложные задания: значительно улучшилось качество суммаризации, рерайтинга и редактирования текстов, ответов на различные вопросы. При сравнении ответов новой и предыдущей моделей было зафиксировано общее повышение качества на 23%. При этом с фактологией новая модель справляется на 25% лучше предыдущей версии.
«Для достижения таких результатов было проведено множество экспериментов по улучшению модели и повышению эффективности её обучения. В частности, использовался фреймворк для обучения больших языковых моделей с возможностью шардирования весов нейросети по видеокартам, что позволило сократить потребление памяти на них», - отметили разработчики.
По результатам внутренней оценки в бенчмарке MMLU (Massive Multitask Language Understanding) модель новой версии GigaChat с 29 млрд параметров превосходит самый популярный открытый аналог LLaMA 2 34B.
Андрей Белевцев, старший вице-президент, СТО, руководитель блока «Технологии» Сбербанка рассказал: «Обучение моделей, лежащих в основе GigaChat, — это масштабный и сложный вычислительный проект, прежде мы не делали ничего подобного. Суммарное количество вычислительных операций почти в 6 раз превысило количество операций при обучении модели ruGPT-3 с 13 млрд параметров в 2021 году. Также специально для GigaChat мы собрали и развиваем уникальный датасет, над которым работают сотни сотрудников Сбера, помогая развивать и улучшать качество ответов в самых разных доменах. Благодаря этим усилиям пользователи с каждым новым релизом GigaChat получают максимум от сервиса для решения своих задач».
В разработке GigaChat участвуют команды SberDevices и Sber AI при поддержке Института искусственного интеллекта AIRI и ряда отраслевых экспертов, привлечённых для передачи GigaChat различных предметных знаний.
________________
*Большие языковые модели (LLM) — это передовые системы искусственного интеллекта (ИИ), предназначенные для обработки, понимания и создания текста, подобного человеческому. Они основаны на методах глубокого обучения и обучены на массивных наборах данных, обычно содержащих миллиарды слов из различных источников, таких как веб-сайты, книги и статьи. Это обширное обучение позволяет LLM понимать нюансы языка, грамматики, контекста и даже некоторые аспекты общих знаний.
Некоторые популярные LLM, используют тип нейронной сети, который позволяет им решать сложные языковые задачи с замечательным мастерством. Эти модели могут выполнять широкий спектр задач, таких как: отвечая на вопросы; обобщающий текст; перевод языков; генерация контента и даже участие в интерактивных беседах с пользователями.
Подписаться ВКонтактеПодписаться в FacebookПодписаться в Telegram
Подписаться на рассылкуСообщить новость