Dzmuh: /* Ссылки */

2024-06-30T10:27:36Z

Ссылки

← Предыдущая версия		Версия от 10:27, 30 июня 2024
Строка 17:		Строка 17:
	[[Категория:Большие языковые модели]]		[[Категория:Большие языковые модели]]
	[[Категория:Виртуальные собеседники]]		[[Категория:Виртуальные собеседники]]
	~~[[Категория:Страницы с непроверенными переводами]]~~

Dzmuh: Новая страница: «{{Программа}} '''Chinchilla AI''' — языковая модель, разработанная исследовательской группой DeepMind и выпущенная в марте 2022 года. Chinchilla AI — это большая языковая модель, которая, как утверждается, превосходит GPT-3{{Cite web|url=https://dataconomy.com/2023/01/what-is-chinchi...»

2024-06-30T10:27:25Z

Новая страница: «{{Программа}} '''Chinchilla AI''' — языковая модель, разработанная исследовательской группой DeepMind и выпущенная в марте 2022 года. Chinchilla AI — это большая языковая модель, которая, как утверждается, превосходит GPT-3<ref name="dataconomy">{{Cite web|url=https://dataconomy.com/2023/01/what-is-chinchi...»

Новая страница

{{Программа}}
'''Chinchilla AI''' — языковая модель, разработанная исследовательской группой [[DeepMind]] и выпущенная в марте 2022 года. Chinchilla AI — это [[большая языковая модель]], которая, как утверждается, превосходит [[GPT-3]]<ref name="dataconomy">{{Cite web|url=https://dataconomy.com/2023/01/what-is-chinchilla-ai-chatbot-deepmind/|title=What Is Chinchilla AI: Chatbot Language Model Rival By Deepmind To GPT-3 - Dataconomy|date=2023-01-12|access-date=2023-04-06|archive-date=2023-03-26|archive-url=https://web.archive.org/web/20230326130555/https://dataconomy.com/2023/01/what-is-chinchilla-ai-chatbot-deepmind/|deadlink=no}}</ref>.

Она значительно упрощает использование, поскольку требует гораздо меньше вычислительной мощности для логического вывода и точной настройки. На основе обучения ранее использовавшихся языковых моделей было определено, что если удвоить размер модели, необходимо также иметь удвоенное количество обучающих токенов. Эта гипотеза была использована [[DeepMind]] для обучения Chinchilla AI. Подобно Gopher с точки зрения стоимости, Chinchilla AI имеет параметры 70B и в четыре раза больше данных<ref name="dataconomy"/>.

Chinchilla AI имеет среднюю точность 67,5 % в тесте MMLU (Измерение понимания языка в многозадачном режиме), что на 7 % выше, чем у Gopher. По состоянию на 12 января 2023 года Chinchilla AI всё ещё находится на стадии тестирования<ref>{{Citation|last=Hendrycks|first=Dan|title=Measuring Massive Multitask Language Understanding|access-date=2023-03-15|url=https://github.com/hendrycks/test|archive-date=2023-03-15|archive-url=https://web.archive.org/web/20230315011614/https://github.com/hendrycks/test|url-status=live}}</ref>.

Chinchilla AI способствует разработке эффективной парадигмы обучения для больших авторегрессивных языковых моделей с ограниченными вычислительными ресурсами. Команда Chinchilla рекомендует удваивать количество обучающих токенов для каждого удвоения размера модели, а это означает, что использование более крупных и качественных наборов обучающих данных может привести к лучшим результатам в последующих задачах<ref>{{Cite web|url=https://www.marktechpost.com/2022/04/09/check-out-this-deepminds-new-language-model-chinchilla-70b-parameters-which-significantly-outperforms-gopher-280b-and-gpt-3-175b-on-a-large-range-of-downstream-evaluation-tasks/|title=Check Out This DeepMind's New Language Model, Chinchilla (70B Parameters), Which Significantly Outperforms Gopher (280B) and GPT-3 (175B) on a Large Range of Downstream Evaluation Tasks|author=Chaithali|first=G.|date=2022-04-09|access-date=2023-04-06|archive-date=2023-03-27|archive-url=https://web.archive.org/web/20230327061013/https://www.marktechpost.com/2022/04/09/check-out-this-deepminds-new-language-model-chinchilla-70b-parameters-which-significantly-outperforms-gopher-280b-and-gpt-3-175b-on-a-large-range-of-downstream-evaluation-tasks/|deadlink=no}}</ref><ref>{{Cite web|url=https://analyticsindiamag.com/deepmind-launches-gpt-3-rival-chinchilla/|title=DeepMind launches GPT-3 rival, Chinchilla|author=Wali|first=Kartik|website=Analytics India Magazine|date=2022-04-12|access-date=2023-04-06|archive-date=2023-03-26|archive-url=https://web.archive.org/web/20230326123815/https://analyticsindiamag.com/deepmind-launches-gpt-3-rival-chinchilla/|deadlink=no}}</ref>.

== Примечания ==
{{Примечания}}

== Ссылки ==
{{Википедия|Chinchilla AI}}
* [https://arxiv.org/pdf/2203.15556.pdf White paper]

[[Категория:Большие языковые модели]]
[[Категория:Виртуальные собеседники]]
[[Категория:Страницы с непроверенными переводами]]

Chinchilla AI - История изменений

Dzmuh: /* Ссылки */