Начало работы с платформой Gradient

---

Платформа DjgjtalOcean Gradient, представленная на Deploy 2025, является ответом DigitalOcean на стремительно растущий спрос на решения на основе ИИ для человеческих проблем с помощью больших языковых моделей. На практике этот сервис позволяет пользователям создавать различные агентные системы на основе ИИ, которые могут быть использованы для множества различных приложений.

В этом учебном пособии мы подробно рассмотрим возможности платформы Gradient, исследуем ее уникальные функции, которые делают ее такой полезной для всех, от любителей до бизнес-лидеров и разработчиков, и продемонстрируем безграничные возможности, предоставляемые таким продуктом. Затем мы обсудим, как начать использовать платформу для себя.

Обзор возможностей платформы Gradient

Платформа Gradient намного больше, чем просто платформа для обслуживания больших языковых моделей, и хотя ее можно использовать для создания настраиваемых чат-ботов, это далеко не ограничивается такими задачами. Искусственные агенты также отлично подходят для выполнения сложного анализа данных, выявления мошенничества, кибербезопасности, здравоохранения и многого другого. Все, что требуется, — это тщательное применение данных к базе знаний.

Потенциал использования градиента

Потенциал платформы Gradient поистине безграничен. Мы представляем системы, в которых пользователи подходят ко всем возможным типам проблем с решением на основе ИИ. Некоторые примеры того, для чего можно использовать агентный ИИ с платформы Gradient, включают:

• Здравоохранение: например, поддержка диагностических систем с использованием ИИ
• Финансы: принятие обоснованных решений на основе прямых данных из ваших личных финансов
• ИТ: автоматизируйте большую часть сложной работы для ИТ-специалистов, такую как сброс пароля.
• Маркетинг: анализируйте контент для SEO, генерируйте идеи для вовлечения и даже создавайте контент
• Кибербезопасность: Агентный ИИ может быть использован для выявления угроз

Особенности градиентной платформы

Основные функции платформы Gradient основаны на возможности получать новую информацию в существующего агента LLM и затем использовать эту информацию для выполнения каких-либо действий. Эти действия могут быть применены к любой функциональности, которую мы подключаем к модели, и могут быть искусственно ограничены технологией защитных барьеров, чтобы предотвратить неправильное использование или галлюцинации.

В этом разделе мы более подробно рассмотрим возможности платформы Gradient и объясним, почему каждая из этих возможностей делает Gradient такой мощной для всех — от бизнес-пользователей до разработчиков и любителей.

Вызов функций

Возможно, самым критически важным применением LLM как агентного ИИ является вызов функций — это возможность использовать информацию из LLM для генерации ответа, который можно использовать для вызова кодовой функции в другом месте. Эта способность свойственна многим AI моделям, но часто у нее нет возможности обрабатывать недавнюю информацию из-за отсутствия доступа к недавним данным в тренировочном наборе.

Решение этой проблемы на платформе Gradient заключается в добавлении Увеличенной Генерации Извлечений (RAG) из установленных объектов знаний, которые позволяют модели точно использовать новую информацию для создания точных и полезных вызовов функций.

Генерация с увеличением извлечения с использованием баз знаний

Улучшенная генерация на основе извлечения, или RAG, повышает возможности большой языковой модели (LLM), позволяя ей обращаться к релевантной информации из внешних баз знаний, таких как базы данных или документы, прежде чем сгенерировать ответ, обеспечивая более точные и контекстуально релевантные результаты по сравнению со стандартной LLM. На практике это позволяет модели искать информацию о предоставленных данных. Например, RAG может позволить LLM просматривать данные о чеке, чтобы знать, сколько составили эффективные затраты.

База знаний является еще одним ключевым компонентом RAG. RAG требует этих баз знаний, фактически корпуса богатых текстовых данных, для извлечения информации. Базы знаний на платформе Gradient оптимизированы, чтобы наилучшим образом обслуживать наших пользователей после загрузки.

Ограждения

LLM Guardrails — это набор правил и практик, которые обеспечивают безопасность, этичность и надежность ИИ-систем. Они помогают предотвращать вредные, предвзятые или неверные результаты, которые являются общими галллюцинациями, которые можно встретить в ИИ-агентах. Ограды на платформе Gradient настроены таким образом, чтобы наши модели никогда не отклонялись слишком далеко от темы, не могли давать злонамеренные ответы и предотвращали небезопасность модели.

Маршрутизация агентов

Градиентные функции могут функционировать как система, которая использует искусственный интеллект для автоматического направления пользовательских запросов или просьб к наиболее подходящему AI-агенту в сети, процесс, называемый агентским маршрутизированием. С помощью агентского маршрутизирования возможно соединять несколько агентов AI вместе и получать лучший результат от оптимизированного агента. Это обычно достигается с помощью основного агента, который контролирует, какие маршруты использовать для направления ответа на выход. Это невероятно мощно, поскольку позволяет осуществлять прямое соединение между множеством агентов, устраняя ограничения, связанные с использованием единственного агента для решения.

Начало работы с Gradient

Начать работу с платформой Gradient легко! Сначала нам нужно сделать две вещи: войти в наши аккаунты DigitalOcean и определить данные для агента. База знаний может принимать информацию в различных форматах, включая документы, CSV, JSON и другие, поэтому, как только мы определили наш корпус, мы готовы действительно приступить к делу.

Затем перейдите на вкладку Градиент на сайте DigitalOcean. Мы можем сделать это, нажав кнопку управления на панели навигации слева от экрана и выбрав второй вариант.

Создание базы знаний

Отсюда нажмите на вкладку «Базы знаний». Мы собираемся создать новую базу знаний, загрузив наши данные на DigitalOcean Space. Эти базы основаны на технологии базы данных OpenSearch для облегчения RAG. К счастью, если у нас еще нет базы знаний, мы можем создать ее прямо на странице создания базы знаний.

Сначала назовите свою базу знаний, затем прокрутите вниз до раздела базы данных. Выберите «Создать новый». Выберите подходящий регион для размещения агента, мы выбрали Торонто. Далее прокрутите вниз, чтобы выбрать модель внедрения. Модели внедрения преобразуют текст (например, запросы пользователей и документы базы знаний) в числовые векторы, поэтому мы должны выбрать модель, наилучшим образом соответствующую нашим потребностям. Большие корпуса баз знаний потребуют более дорогую модель, но простой демонстрации достаточно чего-то меньшего, например, MiniLM. Наконец, выберите проект, в который хотите добавить базу знаний, и нажмите Создать. Это займет некоторое время для встраивания ваших данных с использованием модели внедрения для настройки базы знаний, но, когда это будет завершено, мы будем готовы перейти к следующему шагу.

Создание Градиентного Агента

Теперь пришло время создать самого агента. Вернитесь на главную страницу платформы Gradient, используя ссылку на панеле слева. Затем нажмите “Создать агента” в правом верхнем углу экрана. Это перенаправит вас на страницу создания агента.

Сначала введите имя для вашего агента. Затем добавьте соответствующие инструкции для агента. Например, основываясь на нашем примере чека, мы могли бы поручить агенту полностью отвечать цифрами или вести себя как полезный финансовый консультант.

Мы можем затем выбрать нашу модель. Здесь будет сильно варьироваться то, как будет вести себя наш Агент. Тип модели влияет на все, начиная от того, насколько свежие данные он наблюдал, до того, как он будет формулировать свои ответы. Мы рекомендуем провести исследование по каждой из доступных моделей, посмотрите здесь, но все же у нас есть несколько рекомендаций:

• DeepSeek-R1-Distill-Llama-70B — это дистиллированная модель, полученная из LLaMA 3.2 70b, подвергнутая контролируемой дообучении на 80000 примерах из оригинального DeepSeek R1. Эта модель обладает отличными возможностями, когда требуются более длинные ответы, и также может выполнять сложное рассуждение для задач программирования и математики.
• Anthropic 3.5 Sonnet — одна из самых продвинутых закрытых моделей в интернете, Sonnet является исключительной языковой моделью как для вызова функций, так и для получения чистой информации. Эта модель требует подписки на Anthropic.

Следите за тем, чтобы модели стали доступны в ближайшем будущем!

После завершения выбора модели мы можем добавить нашу базу знаний, которую мы создали ранее. Это позволит платформе Gradient выполнять RAG с использованием новой созданной LLM-агента.

Наконец, мы можем назначить агента на конкретный проект и создать его! Это создание может занять несколько минут. Как только все будет готово, нам представят страницу с деталями, на которой мы сможем взаимодействовать с новым агентом.

Взаимодействие с агентом

Существует два основных способа взаимодействия с нашим агентом: через API или с помощью чат-песочницы. Полная функциональность API доступна здесь. Для этого примера давайте рассмотрим чат-песочницу, чтобы продемонстрировать, как работает модель.

Этот пример взят из руководства DigitalOcean Expert, доступного на сайте для всех желающих опробовать. Как мы видим, агент может вести себя как обычный чат-бот, если мы настроим его таким образом. Но его возможности далеко не ограничиваются такими действиями, как мы уже упоминали.

Заключительные мысли

В целом, платформа Gradient является надежным инструментом для создания и взаимодействия с агентами на основе крупных языковых моделей. Благодаря применению RAG с базами знаний, размещенными на той же системе, мы показали, что агенты невероятно просты в использовании и настройке для всех — от руководителей бизнеса до инженеров по машинному обучению и любителей. Мы надеемся, что у всех вас будет возможность больше изучить платформу Gradient в будущем.