Вышла в свет самая большая и мощная открытая ИИ модель в мире

Вышла в свет самая большая и мощная открытая ИИ модель в мире 

Институт технологических инноваций ОАЭ представил большую языковую модель Falcon - 180B. Как сообщает huggingface.co, она состоит из 180 млрд.параметров, 3,5 трлн токенов.

Falcon-180B - это современная модель большого языка, разработанная Технологическим институтом инноваций в Абу-Даби. Она обучена на 3,5 трлн токенов (включая RefinedWeb) и доступна по лицензии Falcon-180B TII. В настоящее время она занимает 1-е место в рейтинге Open LLM среди предобученных моделей.

По качеству ответов на запросы пользователя модель находится на уровне Palm-2 от Google. Falcon на 40 млрд параметров разработчики представили весной. 

Создатели представили публике только экспериментальную версию модели. В будущем они планируют сделать её более функциональной на основе улучшенных наборов данных и RLHF/RLAIF.