Большие языковые модели: от предобучения до обучения на инструкциях Хабр

Этот метод (синий график) по сравнению со стандартными few-shot-примерами (красный график) помог повысить качество и уменьшить разброс результата. Таким образом, оптимизировав всего 4 параметра, авторы существенно улучшили итоговый результат.  Few-shot действительно полезен и помогает получать от модели нужный результат без обучения, но всё же недостаточно хорошо. Здесь на английском языке сформулировано задание и предлагается слово «cheese» перевести на французский. Языковые модели, в частности BERT и GPT, — «золотой стандарт» для задач распознавания естественного языка, или NLP. Между слоями есть связи, которые помогают учитывать данные с предыдущих слоев. Это помогает не потерять важную информацию при прохождении какого-либо слоя. Нейронные сети прямого распространения расположены после слоев внимания. Они добавляют к данным нелинейные преобразования — превращают вычисленные данные для каждого слова в N-мерный вектор. Благодаря своим размерам и особенностям архитектуры LLM отличаются большей гибкостью. Сегодня быстро развивается новая парадигма — https://aiimpacts.org   AI-агенты и агентное мышление, которые предлагают ещё более эффективные способы создания ИИ-приложений. Неструктурированные данные — текст, изображения, видео и аудио — становятся важнейшим ресурсом, и AI-агенты уже показывают, как с ними работать проще и быстрее. Эти технологии не просто анализируют данные, а позволяют разрабатывать приложения, которые раньше казались невозможными. В статье мы разбираем, как AI-агенты меняют подход к разработке, как они работают с данными и почему растёт их влияние на автоматизацию. Например, для классификации или NER (Named Entity Recognition) —распознавания сущностей в тексте. Для решения реальных задач часто используют предобученные модели.

Задачи языковых моделей

• Для эффективной работы с самыми большими моделями ИИ подойдет NVIDIA H100 на 128 Гб.
• Иногда негодуют, когда модели начинают придумывать несуществующие вещи или делают фактические ошибки.
• Это может привести к ситуации, когда модель идеально работает с примерами из обучающей выборки, но плохо — с остальными данными.
• В статье мы разбираем, как AI-агенты меняют подход к разработке, как они работают с данными и почему растёт их влияние на автоматизацию.
• Все эти процессы позволяют «сжать» опыт до минимума, то есть облегчить задачу его накопления.

Графические процессоры позволяют параллельно обрабатывать огромные объемы данных. Для базового применения в работе с ИИ достаточно видеокарт с 24 Гб видеопамяти, например NVIDIA L4. Чтобы обрабатывать большие объемы данных или обучать крупные LLM, нужны высокопроизводительные видеокарты, например NVIDIA L40S с памятью 48 Гб GDDR6. Для эффективной работы с самыми большими моделями ИИ подойдет NVIDIA H100 на 128 Гб. Для обработки и обучения моделей на облачных платформах необходимы процессоры с высокой производительностью. Топовые модели процессоров от Intel и AMD, такие как Intel Xeon и AMD EPYC, с частотой от 3,8 ГГц.

Языковые модели на основе трансформеров

Языковая модель — это алгоритм, который анализирует текст, понимает его контекст, обрабатывает и генерирует новые тексты. В его основе лежат нелинейные и вероятностные функции, с помощью которых модель предсказывает, какое слово может быть следующим, — рассчитывает вероятность для каждого из возможных слов. Для того, чтобы распознавать естественную человеческую речь, в машинном обучении используют специальные модели — языковые. Модели преобразуют текстовые фрагменты таким образом, что векторы текстов, схожих по смыслу, располагаются ближе друг к другу, а текстов с разным смыслом — дальше. Для измерения расстояния между векторами обычно используются косинусное или евклидово расстояние. Это позволяет сравнивать тексты, сводя задачу к сравнению расстояний между их векторами. Как мы уже видели, языковые модели представляют суперслова как места на гигантской карте значений. Расстояние и направление между этими местами отражают сложные отношения между словами и понятиями. Именно так языковые модели поступают с суперсловами, которые они хранят в своих словарях.

Развитие языковых моделей

В определенном смысле сама нейросеть — это чистый лист, и все что она знает, она узнает в процессе обучения.  https://auslander.expert/ai-content-riski-resheniya/ Но вот что модель знает, чему она научилась, — мы знаем далеко не всегда. У модели Розенблатта было всего-то несколько сотен нейронов, сегодня их — сотни миллиардов! Они обучаются на мощнейших компьютерах и работают, используя огромные вычислительные мощности.