Добавить новость



Новости сегодня на DirectAdvert

Новости сегодня от Adwile

В настоящее время проводятся новые исследования, посвященные проблемам и возможностям масштабирования систем машинного обучения, питающих модели ИИ, и их результаты довольно плачевны

Проводятся новые исследования проблем и возможностей масштабирования систем машинного обучения, лежащих в основе моделей искусственного интеллекта, но результаты довольно мрачные. Эксперты говорят, что у таких компаний, занимающихся искусственным интеллектом, как OpenAI, заканчиваются мировые (искусственные) данные для обучения текста. Модели, более продвинутые, чем нынешние, такие как GPT-5 или GPT-6, могут даже исчерпать доступные источники данных к 2026 году. Возникает вопрос: сможет ли ИИ продолжать развиваться без новых человеческих текстовых данных?

Последние достижения в области языкового моделирования в значительной степени зависят от больших объемов текста, написанного людьми, часто полученного из Интернета или архивов компаний. Фактически общедоступные текстовые базы данных содержат миллиарды слов с миллиардов веб-страниц. Тем не менее, недавние исследования показывают, что компании, занимающиеся искусственным интеллектом, сталкиваются с серьезной проблемой: истощением данных. Столкнувшись с потенциальными препятствиями на пути масштабирования больших языковых моделей (LLM), исследователь искусственного интеллекта Тамай Бесироглу сказал Associated Press: «Здесь есть серьезные узкие места".

«Если вы столкнетесь с ограничениями данных, вы не сможете эффективно расширить модель.

Обратите внимание: Учёные разработали революционную технологию для исследования египетских мумий.

А расширение модели, вероятно, является наиболее важным способом расширить возможности модели и улучшить качество результатов», — добавил он. Инструменты искусственного интеллекта также без разбора используют публичные онлайн-архивы, и это противоречивая тенденция в использовании данных, которая вызвала судебные иски. Так произошло, например, с издателем New York Times, который подал в суд на OpenAI за нарушение авторских прав.

К головокружительному снижению потока нового контента

Исследователи говорят, что если нынешние тенденции в развитии LLM сохранятся, модель сможет работать с набором данных размером примерно с все общедоступные текстовые данные в период с 2026 по 2032 год (или даже раньше, если модель будет переобучена) обучение. Кроме того, исследователи из аналитического центра Epoch AI в Сан-Франциско отметили в отчете, что объем текстовых данных, используемых только для обучения моделей ИИ, увеличивается примерно в 2,5 раза каждый год. Они также полагают, что крупные языковые модели, такие как GPT-4 от OpenAI и Llama 3 от Meta (которая считается экстремистской группировкой в ​​России и чья деятельность запрещена), могут выйти из строя в 2026 году.

Чтобы устранить это препятствие, другие исследователи изучают, как продолжить разработку языковых моделей после того, как наборы данных сгенерированного человеком текста будут исчерпаны. Они утверждают, что наиболее возможным решением является обучение языковых моделей на синтетических (сгенерированных) данных, что предполагает перенос обучения из областей, богатых данными. OpenAI, Google и Anthropic уже работают над этим решением.

Однако, согласно выводам ученых из Университета Райса и Стэнфордского университета, использование в этих моделях контента, созданного ИИ, приводит к значительному снижению качества генерируемого контента. Это может создать цикл самообмана и вызвать множество вопросов: смогут ли алгоритмы ИИ стать более эффективными, производя лучшие результаты с меньшим количеством данных.

«Я думаю, важно помнить, что нам не обязательно обучать все более и более крупные модели», — сказал Николас Паперно, исследователь искусственного интеллекта и доцент кафедры компьютерной инженерии в Университете Торонто. Тем не менее, результаты этого исследования подчеркивают важность продолжения исследований для измерения темпов роста эффективности данных, а также потенциальных улучшений, приносимых новыми методами.

Больше интересных статей здесь: Новости науки и техники.

Источник статьи: В настоящее время проводятся новые исследования, посвященные проблемам и возможностям масштабирования систем машинного обучения, питающих модели ИИ, и их результаты довольно плачевны.

 

Читайте на 123ru.net

Другие проекты от 123ru.net



Архангельск

Преподаватель из Архангельска вышла в финал международного конкурса «Педагогическое начало – 2024»



Здоровье

Волосы не выпадают, они стали гуще, а на лице разгладились морщины. Затрачивать можно 5 минут на массаж затылка, лба и головы




Українські новини

Монтаж димоходів та вентиляційних систем у Києві



Новости 24 часа

СЕНСАЦИОННЫЙ ДОКЛАД ПРО ДЕЛО СКРИПАЛЕЙ, САФРОНОВА, ГОЛУНОВА.



Game News

Real Commando Shooting 3D 6.0



Москва

Суд продлил арест 6 фигурантам дела о расправе над байкером в Москве на 3 месяца



News Every Day

McDonald's Grimace showed Mets fans what happens when something goes right this season



Интернет

ALMI Partner и Etersoft подтвердили совместимость продуктов



Москва

Транспортную развязку на Рогачевском шоссе достроят к концу года



Фёдор Шаляпин

«Всю жизнь я зарабатывал пением и… легким аферизмом». Прохор Шаляпин раскрыл источники дохода в шоу «Вкусно с Анфисой Чеховой» на ТВ-3    



Москва

Транспортную развязку на Рогачевском шоссе достроят к концу года



Большой шлем

«Надо чем-то жертвовать». Арина Соболенко отказалась ехать на Олимпиаду в Париже



Москва

Галина Ржаксенская впервые стала участником ПМЭФ в Санкт-Петербурге



Бато Багдаев

Сказка театра Ульгэр в Бурятии «Волшебный платок бабушки Дари» - это захватывающее путешествие в мир волшебства - Театр и Цирк, Культура и Концерт, Россия и Дети:



Симферополь

В Симферополе пройдёт спектакль-акция «Подаренная жизнь»



Москва

Галина Ржаксенская впервые стала участником ПМЭФ в Санкт-Петербурге



Москва

Собянин рассказал о росте турпотока из Китая



Москва

СЕНСАЦИОННЫЙ ДОКЛАД ПРО ДЕЛО СКРИПАЛЕЙ, САФРОНОВА, ГОЛУНОВА.



103news.com — быстрее, чем Я..., самые свежие и актуальные новости Вашего города — каждый день, каждый час с ежеминутным обновлением! Мгновенная публикация на языке оригинала, без модерации и без купюр в разделе Пользователи сайта 103news.com.

Как добавить свои новости в наши трансляции? Очень просто. Достаточно отправить заявку на наш электронный адрес mail@29ru.net с указанием адреса Вашей ленты новостей в формате RSS или подать заявку на включение Вашего сайта в наш каталог через форму. После модерации заявки в течении 24 часов Ваша лента новостей начнёт транслироваться в разделе Вашего города. Все новости в нашей ленте новостей отсортированы поминутно по времени публикации, которое указано напротив каждой новости справа также как и прямая ссылка на источник информации. Если у Вас есть интересные фото Вашего города или других населённых пунктов Вашего региона мы также готовы опубликовать их в разделе Вашего города в нашем каталоге региональных сайтов, который на сегодняшний день является самым большим региональным ресурсом, охватывающим все города не только России и Украины, но ещё и Белоруссии и Абхазии. Прислать фото можно здесь. Оперативно разместить свою новость в Вашем городе можно самостоятельно через форму.

Другие популярные новости дня сегодня


Новости 24/7 Все города России





Топ 10 новостей последнего часа




Новости России

Музей Москвы и Мосметрострой договорились о сотрудничестве

МИД России назвал фарсом спор по делу MH17

Филиал № 4 ОСФР по Москве и Московской области информирует: Отделение СФР по Москве и Московской области выплатило единовременное пособие при передаче ребенка на воспитание в семью 474 семьям региона

В Академическом районе Москвы построят ФОК с бассейном


Москва

Филиал № 4 ОСФР по Москве и Московской области информирует: С начала года более 4,7 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг






Rss.plus

«ЯРКО» провела развлекательную программу на фестивале «Крутая песочница»

СЕНСАЦИОННЫЙ ДОКЛАД ПРО ДЕЛО СКРИПАЛЕЙ, САФРОНОВА, ГОЛУНОВА.

Автопробег в честь Дня России прошел в Ленинском округе

ЭКСПЕРТ АНАТОЛИЙ ГОЛОД ПРЕДЛАГАЕТ СЕНСАЦИОННО УЛУЧШИТЬ НАЛОГОВУЮ СФЕРУ!

Moscow.media
Москва

Сергей Собянин: Активно укрепляем отношения с Китаем



103news.comмеждународная интерактивная информационная сеть (ежеминутные новости с ежедневным интелектуальным архивом). Только у нас — все главные новости дня без политической цензуры. "103 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. 103news.com — облегчённая версия старейшего обозревателя новостей 123ru.net.

Мы не навязываем Вам своё видение, мы даём Вам объективный срез событий дня без цензуры и без купюр. Новости, какие они есть — онлайн (с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии).

103news.com — живые новости в прямом эфире!

В любую минуту Вы можете добавить свою новость мгновенно — здесь.

Музыкальные новости

Филипп Киркоров

Певец Филипп Киркоров сообщил, что не будет гастролировать этим летом




Спорт в России и мире

Алексей Смирнов – актер, которого, надеюсь, еще не забыли

Военно-спортивный фестиваль Росгвардии в «Лужниках» собрал более 20 000 Москвичей и гостей столицы

В Лужниках состоялась церемония открытия Всероссийской Спартакиады Специальной Олимпиады

Военно-спортивный фестиваль Росгвардии в «Лужниках» собрал более 20 000 москвичей и гостей столицы


ATP

Лучший теннисист Казахстана узнал позицию в обновленном рейтинге ATP



Новости Крыма на Sevpoisk.ru




Частные объявления в Вашем городе, в Вашем регионе и в России