Это самая большая GPT-подобная модель в свободном доступе, она содержит 100 миллиардов параметров, сообщил «Яндекс». Теперь ее могут использовать все разработчики по открытой лицензии Apache 2.0, нейросеть доступна на GitHub.
Языковые модели из семейства YaLM определяют по готовому тексту принцип его построения и генерируют похожий. Например, могут придумывать идеи для рекламных кампаний, создавать описания товаров и видео, генерировать стихи, ответы, поздравления и классифицировать их по стилю речи и другим параметрам.
Модель обучали на суперкомпьютерах «Яндекса». YaLM 100B обработала около 2 ТБ текстов на английском и русском языках из открытых датасетов и интернета.
«Яндекс» использует YaLM более чем в 20 проектах — например, в быстрых ответах в «Поиске», голосовом помощнике «Алисе», для ответов в службе поддержки, рекламных объявлений и описания сайтов в сниппетах.
Источник: vc.ru