Что такое генеративный ИИ?

Генеративный искусственный интеллект умеет создавать тексты, изображения, музыку, речь, видео и программный код. Результаты выглядят по-разному, но их объединяет общий принцип: модель обучается на большом количестве данных, находит в них закономерности, а затем использует их для создания нового материала. Поэтому чат-бот, генератор изображений и система для написания музыки могут относиться к одному классу технологий. Разберёмся, как работает генеративный ИИ, что он умеет создавать и чем отличается от других систем искусственного интеллекта.

Терминология.

Откуда появился термин «генеративный ИИ»?

Выражение «генеративный искусственный интеллект» происходит от английского generative artificial intelligence. В англоязычных материалах часто используются сокращения generative AI и GenAI.

Слово generative связано с созданием или порождением нового результата. Название отражает главную особенность таких систем: они способны создавать новый контент на основе закономерностей, найденных во время обучения.

Что такое генеративный искусственный интеллект?

Генеративный искусственный интеллект — это класс систем искусственного интеллекта, которые создают новый контент на основе закономерностей, полученных во время обучения на данных.

Результатом работы может быть текст, изображение, аудиозапись, музыкальный фрагмент, видео, программный код или другой вид данных. Возможности конкретной системы зависят от модели и от того, с какими данными она была обучена работать.

Что такое генеративный ИИ простыми словами?

Генеративный ИИ простыми словами — это система, которая получает запрос или другие исходные данные и создаёт на их основе новый материал. Таким материалом может быть ответ на вопрос, изображение, музыкальный фрагмент, видеоролик, программный код или другой результат.

Например, пользователь может попросить модель написать описание товара, создать изображение ночного города, придумать музыкальную композицию или написать функцию на языке программирования. Во всех этих случаях система создаёт новый результат под конкретный запрос.

Как работает генеративный ИИ?

Разные генеративные модели устроены по-разному. Система для создания текста работает иначе, чем генератор изображений или музыки. Однако общий принцип можно объяснить без сложной математики.

Сначала модель обучают на большом количестве примеров. Языковая модель работает с текстами, модели для изображений — с изображениями и связанными с ними данными, а системы для звука — с аудиозаписями.

Во время обучения модель постепенно настраивает большое количество внутренних параметров. Благодаря этому в них закрепляются связи и закономерности, которые помогают системе работать с новыми запросами.

Упрощённо процесс выглядит так:

1. модель получает большое количество обучающих данных;
2. во время обучения её параметры постепенно настраиваются;
3. модель находит полезные связи и закономерности в данных;
4. пользователь передаёт новый запрос или исходный материал;
5. модель использует настроенные параметры и создаёт результат.

Важная особенность генеративных систем состоит в том, что результат формируется во время обработки нового запроса. Модель использует то, чему научилась раньше, и создаёт подходящий вариант для текущей задачи.

Например, большая языковая модель создаёт текст последовательно. Она учитывает запрос пользователя, доступный контекст и уже созданную часть ответа, а затем рассчитывает подходящее продолжение.

Генераторы изображений используют другой способ. Они обрабатывают текстовое описание или другой исходный материал и постепенно формируют изображение с нужными объектами, формами, цветами и деталями.

Системы для музыки работают со звуком и музыкальными закономерностями. Модели для программирования обучаются на программном коде и его структуре.

Тип данных может быть разным, но общий принцип остаётся одним: модель учится на большом количестве примеров, а затем использует найденные закономерности для создания нового результата.

При этом генерация обычно не сводится к копированию одного конкретного обучающего примера. Модель использует множество связей, сформированных во время обучения, и объединяет их при выполнении нового запроса.

Однако некоторые результаты могут оказаться слишком похожими на материалы из обучающих данных. Поэтому вопросы об источниках данных, авторском праве и допустимом использовании созданного контента имеют большое значение.

Что может создавать генеративный ИИ?

Генеративный ИИ работает с разными видами данных. Одни модели создают только текст, другие специализируются на изображениях или звуке, а некоторые системы умеют работать сразу с несколькими форматами.

Текст.

Большие языковые модели способны создавать и обрабатывать текст. Пользователь передаёт вопрос или инструкцию, а система формирует ответ с учётом запроса и доступного контекста.

Генеративный ИИ может работать с текстом разными способами:

• отвечать на вопросы;
• создавать статьи, письма и описания;
• сокращать длинные материалы;
• переписывать текст в другом стиле;
• переводить текст на другой язык;
• предлагать идеи и варианты формулировок;
• составлять новый текст на основе предоставленных документов.

Результат можно уточнять в ходе диалога. Например, попросить сделать текст короче, упростить язык, изменить стиль, добавить примеры или убрать лишние подробности.

Изображения и видео.

Генеративные модели могут создавать изображения по текстовому описанию. Пользователь указывает, что должно быть на картинке, а система создаёт изображение с учётом запроса.

В запросе можно описать людей, предметы, место действия, освещение, ракурс, стиль и другие детали. Многие системы также умеют изменять готовые изображения: добавлять или удалять объекты, заменять фон, менять отдельные элементы и исправлять изображение по инструкции.

Похожий подход используется при генерации видео. Модель может создать короткий ролик по текстовому описанию, изображению или другому исходному материалу.

Видео требует учитывать не только содержимое отдельного кадра, но и изменения во времени. Поэтому системе нужно сохранять внешний вид объектов между кадрами и создавать последовательное движение.

Музыка, речь и другие звуки.

Генеративный ИИ умеет создавать музыкальные фрагменты, человеческую речь и различные звуковые эффекты.

Например, пользователь может указать музыкальный жанр, настроение, продолжительность и желаемые инструменты. Система создаст аудиозапись с учётом этих условий.

Другие модели преобразуют текст в речь, создают голоса с заданными характеристиками или генерируют звуковые эффекты по описанию.

Такие возможности требуют осторожного использования. С помощью генеративных систем можно создавать реалистичные записи голоса, поэтому искусственный звук иногда сложно отличить от настоящей записи.

Программный код.

Программный код имеет строгую структуру, повторяющиеся элементы и правила. Поэтому генеративные модели могут обучаться работать и с ним.

При работе с программированием генеративный ИИ способен:

• создавать отдельные функции и фрагменты программ;
• объяснять существующий код;
• находить возможные ошибки;
• предлагать варианты исправления;
• добавлять комментарии;
• переписывать код с одного языка программирования на другой;
• создавать простые программы по описанию задачи.

Полученный код необходимо проверять и тестировать. Модель может написать программу, которая выглядит правильной, но содержит ошибку или работает не так, как требуется.

Текст, изображение, музыка, видео и программный код сильно отличаются друг от друга. Но все эти случаи относятся к генеративному ИИ по одной причине: система создаёт новый результат на основе запроса и закономерностей, полученных во время обучения.

Чем генеративный ИИ отличается от других систем ИИ и какие у него есть ограничения?

Искусственный интеллект используется не только для создания контента. Многие системы предназначены для распознавания, классификации, поиска закономерностей или прогнозирования.

Например, модель распознавания изображений может получить фотографию и определить, изображена на ней кошка или собака. Результатом будет выбранная категория.

Генеративная модель решает другую задачу: она может получить текстовое описание кошки и создать новое изображение по этому описанию.

Похожая разница есть и в других областях.

Несколько простых примеров:

• система классификации определяет, является ли письмо спамом, а генеративная модель создаёт новый текст письма;
• система распознавания речи превращает аудиозапись в текст, а генеративная модель может создать речь по написанному тексту;
• система анализа изображений определяет объекты на фотографии, а генеративная модель создаёт новое изображение;
• система прогнозирования оценивает возможное значение показателя, а генеративная система создаёт новый материал заданного типа.

На практике одна система может объединять сразу несколько возможностей. Например, она способна распознать объекты на фотографии, описать изображение, ответить на вопросы о нём, а затем создать новую картинку по инструкции пользователя.

Модели, которые умеют работать с несколькими видами данных, называют мультимодальными. Например, такая модель может одновременно принимать текст и изображения, а в некоторых случаях — ещё звук или видео.

Какие возможности даёт генеративный ИИ?

Генеративные модели особенно полезны там, где нужно быстро получить первый вариант материала, несколько идей или переработать уже существующую информацию.

С их помощью можно:

• быстро подготовить черновик текста;
• получить несколько вариантов идеи;
• создать изображения по описанию;
• сократить или переписать готовый материал;
• ускорить написание программного кода;
• создать речь, музыку или звуковой эффект;
• автоматизировать часть повторяющихся задач.

Качество результата зависит от конкретной модели, задачи, исходных данных и запроса пользователя. Система может отлично справляться с одним типом работы и заметно хуже — с другим.

Почему генеративный ИИ может ошибаться?

Генеративная модель создаёт результат на основе закономерностей, полученных во время обучения. Это не гарантирует правильность каждой детали.

Языковая модель может придумать факт, дату, цитату или источник. Генератор изображений может неправильно передать детали объекта. Система создания видео может изменить внешний вид персонажа между кадрами. Модель для программирования может написать код с ошибкой.

У текстовых моделей правдоподобные выдуманные сведения часто называют галлюцинациями ИИ. Ответ может быть грамотно написан и звучать уверенно, поэтому важные факты необходимо проверять отдельно.

На результат влияет и сам запрос. Если задача сформулирована слишком широко или в ней не хватает важных условий, модель может создать результат, который не соответствует ожиданиям пользователя.

Генеративный ИИ создаёт вариант результата, а пользователь должен оценить его точность, качество и пригодность для конкретной задачи.

Особенно внимательно нужно проверять материалы, связанные с медициной, правом, финансами, безопасностью и другими областями, где ошибка может иметь серьёзные последствия.

Заключение.

Генеративный искусственный интеллект — это класс систем, которые создают новый контент на основе закономерностей, полученных во время обучения. Результатом может быть текст, изображение, музыка, речь, видео, программный код или другой вид данных.

Разные генеративные модели устроены по-разному и работают с разными видами информации. Их объединяет общий принцип: модель обучается на большом количестве примеров, настраивает свои параметры, получает новый запрос и создаёт результат с учётом найденных закономерностей.

Именно создание нового материала объединяет текстовые, графические, музыкальные, видео- и кодовые модели в один класс технологий.

Генеративный ИИ способен значительно ускорить создание и обработку материалов, но готовый результат требует оценки. Модель может ошибиться, неправильно понять запрос или создать правдоподобные, но неверные сведения, поэтому важную информацию необходимо проверять.

Источники.

1. «Что такое генеративный искусственный интеллект?» — IBM.
2. «Что такое генеративный ИИ?» — Google Cloud.
3. «Профиль управления рисками генеративного искусственного интеллекта» — Национальный институт стандартов и технологий США (NIST).
4. «Генеративные состязательные сети» — Иэн Гудфеллоу, Жан Пуже-Абади, Мехди Мирза и другие, сборник конференции Advances in Neural Information Processing Systems.
5. «Глубокое обучение» — Ян Гудфеллоу, Йошуа Бенджио, Аарон Курвилль.