Создавайте агенты искусственного интеллекта в реальном времени с помощью Gradient и безсерверных функций

---

Введение

В современном мире, ориентированном на данные, способность создавать агенты с искусственным интеллектом, которые могут извлекать и обрабатывать информацию в реальном времени, становится все более ценным. Это особенно очевидно в таких отраслях, как финансы, здравоохранение и электронная коммерция, где своевременные данные могут существенно повлиять на принятие решений и впечатления клиентов.

Будь вы разработчиком, специалистом по данным или энтузиастом ИИ, платформа Gradient от DigitalOcean предлагает упрощенное решение для создания интеллектуальных агентов без необходимости использовать сложную инфраструктуру. Используя платформу Gradient, вы можете сосредоточиться на создании ИИ-моделей, которые обеспечивают значимые взаимодействия и инсайты, а не беспокоиться о необходимой для этого инфраструктуре.

В этом руководстве мы пройдём через процесс создания ИИ-агента, который сможет отвечать на вопросы о вашем аккаунте DigitalOcean, получая данные из API DigitalOcean в реальном времени. Агент будет способен предоставлять информацию о Дроплетах (виртуальных машинах), включая их идентификаторы, статус и другие детали.

Предварительные условия

1. Платформа DigitalOcean Gradient: новый продукт DigitalOcean для создания подготовленных к производству ИИ-агентов.
2. DigitalOcean Functions: Безсерверное решение для запуска кода на различных языках (Python, Node.js, PHP, Go).

Сила ИИ-агентов с доступом к данным в реальном времени

Что делает подход DigitalOcean особенно привлекательным, так это то, как он позволяет создавать агентов, которые могут напрямую подключаться к API и предоставлять актуальные ответы. Эта возможность открывает мир возможностей для более интерактивных и информированных AI-решений в различных приложениях.

Обзор случаев использования

AI-агенты, подобные этому, особенно полезны для множества различных случаев использования, включая, но не ограничиваясь:

• Разработчики: ИИ-агенты могут предоставить быстрые аналитические данные о облачной инфраструктуре, помогая разработчикам более эффективно контролировать и управлять своими ресурсами.
• Служба поддержки: Эти агенты могут автоматизировать ответы на обычные запросы клиентов, улучшая обслуживание клиентов и сокращая время ответа.
• Системные администраторы: ИИ-агенты могут использоваться для мониторинга и отчетности по ресурсам DigitalOcean в реальном времени, предоставляя ценную информацию и оповещения.

Плюсы и минусы использования ИИ-агентов с интеграцией API

Интегрируя ИИ-агентов с API, мы создаем мощное сочетание, которое улучшает возможности принятия решений благодаря доступу к данным в реальном времени. Этот подход позволяет компаниям строить более отзывчивые и интеллектуальные системы, которые могут адаптироваться к изменяющимся условиям. Однако, как и с любым технологическим решением, есть компромиссы, которые следует учитывать при внедрении ИИ-агентов с интеграцией API.

Профи

• Доступ к данным в реальном времени, обеспечивающий актуальную информацию.
• Автоматизация повторяющихся задач, снижение необходимости в ручном вмешательстве.
• Масштабируемость, так как агенты могут обрабатывать несколько запросов одновременно.
• Улучшенный пользовательский опыт, с быстрыми и умными ответами.

Конс

• Потенциальные ограничения скорости API, которые могут ограничивать частые запросы.
• Проблемы безопасности, так как к конфиденциальным данным осуществляется доступ и они обрабатываются.
• Сложность в отладке, особенно при работе с ошибками в реальном времени или некорректными ответами.

Шаг 1 — Подготовка вашей функции

Сначала мы создадим функцию, которую языковая модель сможет вызывать для получения данных из API DigitalOcean:

1. В панели управления DigitalOcean перейдите к Функциям и нажмите “Создать пространство имен”.

2. Выберите местоположение центра обработки данных (например, Торонто)

3. Используйте инструмент командной строки doctl, чтобы подключиться к вашему пространству имен:

   doctl serverless connect 

4. Инициализировать образец проекта на Python:

   doctl serverless init --language python example-project 

Шаг 2 — Настройка вашей функции

После инициализации образцового проекта вам потребуется:

1. Измените файл проекта, чтобы определить среду выполнения Python и установить заголовки безопасности.

2. Создайте файл окружения для вашего токена API DigitalOcean (это необходимо для того, чтобы функция могла извлекать данные из вашего аккаунта DigitalOcean).

3. Замените пример hello world на код вашей API-функции, который извлекает информацию о каплях.

4. Создайте скрипт сборки для импорта зависимостей Python.

5. Разверните функцию, чтобы сделать ее доступной в облаке.

   doctl serverless deploy 

После развертывания вы можете протестировать вашу функцию через веб-интерфейс, чтобы убедиться, что она возвращает ожидаемую информацию о ваших каплях.

Вы можете найти полный пример со всем необходимым кодом и настройками в этом репозитории.

Шаг 3 — Создание вашего ИИ-агента

Вы можете создать своего AI-агента как через веб-интерфейс, так и используя API:

Вариант 1 — Использование веб-интерфейса

Веб-интерфейс предоставляет удобный способ для создания и управления ИИ-агентами. Этот вариант идеален для пользователей, которые предпочитают графический интерфейс командной строке.

1. На платформе Gradient нажмите “Создать агента ”.
2. Назовите вашего агента (например, “Агент Капля”).

3. Предоставьте инструкции агенту (системный запрос), чтобы определить его цель.

   You are a helpful assistant that provides information about DigitalOcean customer accounts. Your role is to help users understand their account details, team information, resource usage, and account status.

Выберите предпочитаемую языковую модель (например, Llama 3.3 Instruct-70B)

Создайте агента.

Вариант 2 — Использование API

Использование API предоставляет программный способ создания и управления AI-агентами, предлагая гибкость и автоматизацию, которые могут быть недоступны через веб-интерфейс. Этот подход особенно полезен для разработчиков и организаций, которым требуются индивидуальные интеграции, развертывания в крупном масштабе или автоматизированное управление агентами.

Вы также можете создать агента программно, используя API DigitalOcean. Вот пример с использованием curl:

curl -X POST    -H "Content-Type: application/json"    -H "Authorization: Bearer $API_TOKEN"    "https://api.linux-console.net/v2/gen-ai/agents"    -d '{     "name": "Droplet Agent",     "model_uuid": "d754f2d7-d1f0-11ef-bf8f-4e013e2ddde4",     "instruction": "You are a helpful assistant that provides information about DigitalOcean customer accounts. Your role is to help users understand their account details, team information, resource usage, and account status.",     "description": "AI agent for retrieving and explaining DigitalOcean account information",     "project_id": "YOUR_PROJECT_ID",     "tags": ["droplet-info"],     "region": "tor1"   }' 

Необходимые параметры:

• name: Описательное имя для вашего агента
• model_uuid: Универсальный уникальный идентификатор языковой модели для использования.
• инструкция: Системный запрос, который определяет цель и поведение агента
• регион: Регион дата-центра, в котором будет развернут агент

Необязательные параметры:

• описание: Краткое описание цели агента
• идентификатор_проекта: Проект для ассоциации агента с
• теги: Массив тегов для организации ваших агентов

Убедитесь, что вы заменили $API_TOKEN на ваш настоящий API токен и YOUR_PROJECT_ID на идентификатор вашего проекта.

Шаг 4 — Подключение вашей функции к агенту

Подключение вашей функции к агенту ИИ жизненно важно для обеспечения получения данных в реальном времени и интеллектуального принятия решений. Этот шаг гарантирует, что ваш агент сможет получать актуальную информацию напрямую из вашей среды DigitalOcean, что расширяет его возможности за пределами статических ответов.

Последний шаг — связать вашу функцию с агентом. Вы можете сделать это либо через веб-интерфейс, либо с помощью API:

Вариант 1 — Веб-интерфейс

Веб-интерфейс предоставляет удобный способ создания и управления AI-агентами без необходимости обладать обширными знаниями программирования. Этот вариант идеально подходит для пользователей, которые предпочитают графический интерфейс командной строке.

1. Перейдите на вкладку Ресурсы в игровом поле агента
2. Добавьте функцию маршрута
3. Выберите ваше пространство имен и функцию

4. Предоставьте инструкции к функции, чтобы указать, когда агент должен вызывать функцию.

   Call this function when the user asks about their DigitalOcean droplets, virtual machines, instances, or servers. Use this function to retrieve information about one or more droplets in a DigitalOcean account.

Определите схемы ввода и вывода, чтобы помочь языковой модели понять, как использовать функцию.

Вариант 2 — API

Использование API предоставляет программный способ создания и управления AI-агентами, предлагая гибкость и автоматизацию, которые могут быть недоступны через веб-интерфейс. Этот подход особенно полезен для разработчиков и организаций, которым требуются индивидуальные интеграции, развертывания в крупном масштабе или автоматизированное управление агентами.

Вы также можете подключать функции к вашему агенту программно, используя API DigitalOcean. Вот пример с использованием curl:

curl -X POST  -H "Content-Type: application/json"   -H "Authorization: Bearer $API_TOKEN"  "https://api.linux-console.net/v2/gen-ai/agents/1b418231-b7d6-11ef-bf8f-4e013e2ddde4/functions"  -d '{   "agent_uuid": "1b418231-b7d6-11ef-bf8f-4e013e2ddde4",   "function_name": "droplet",   "description": "Call this function when the user asks about their DigitalOcean droplets, virtual machines, instances, or servers. Use this function to retrieve information about one or more droplets in a DigitalOcean account.",   "input_schema": {       "droplet_id": {         "required": false,         "description": "Specific droplet ID to retrieve information for. If not provided, returns a list of droplets",         "type": "string"       },       "tag": {         "description": "Filter droplets by tag",         "type": "string",         "required": false       },       "limit": {         "type": "number",         "required": false,         "description": "Maximum number of droplets to return (default: 10)"       }     },   "output_schema": {       "droplets": {         "type": "string",         "description": "JSON string containing list of droplet information"       },       "count": {         "type": "number",         "description": "Total number of droplets returned"       },       "error": {         "type": "string",         "required": false,         "description": "Error message if the request failed"       },       "status": {         "type": "string",         "description": "Status of the API request (success or error)"       }     }' 

Необходимые параметры:

• agent_uuid: UUID вашего агента
• Имя функции: имя для маршрута функции
• input_schema: JSON-схема, определяющая параметры ввода функции
• output_schema: JSON-схема, определяющая возвращаемые значения функции.
• faas_namespace: Ваш идентификатор пространства имен функций
• faas_name: Путь к вашей функции (пространство имен/имя-функции)

Необязательные параметры:

• описание: Инструкция о том, когда агент должен использовать эту функцию

Пример входной схемы для функции капли

Входная схема задает параметры, которые агент может отправить в вашу функцию (например, идентификатор капли).

{   "droplet_id": {     "required": false,     "description": "Specific droplet ID to retrieve information for. If not provided, returns a list of droplets",     "type": "string"   },   "tag": {     "description": "Filter droplets by tag",     "type": "string",     "required": false   },   "limit": {     "type": "number",     "required": false,     "description": "Maximum number of droplets to return (default: 10)"   } } 

Пример схемы вывода

Схема вывода помогает агенту интерпретировать возвращенные данные.

{   "droplets": {     "type": "string",     "description": "JSON string containing list of droplet information"   },   "count": {     "type": "number",     "description": "Total number of droplets returned"   },   "error": {     "type": "string",     "required": false,     "description": "Error message if the request failed"   },   "status": {     "type": "string",     "description": "Status of the API request (success or error)"   } } 

Тестирование вашего ИИ-агента

С установкой всего необходимого теперь вы можете задавать своему агенту вопросы о своем аккаунте DigitalOcean:

• «Какие капли у меня на счету?»
• Скажите мне больше о капле [ID]

Агент вызовет вашу функцию, получит информацию из API DigitalOcean в реальном времени и предоставит вам разумный ответ.

Потенциальные проблемы и отладка

Во время тестирования вы можете столкнуться с некоторыми общими проблемами:

• Некорректные API ответы: Убедитесь, что ваш токен API DigitalOcean правильный и имеет необходимые разрешения.
• Ошибки выполнения функции: Проверьте журналы функции с помощью doctl serverless logs, чтобы устранить проблемы во время выполнения.
• Агент не отвечает корректно: Проверьте, чтобы функция была правильно связана с агентом, и схемы были правильно определены.
• Проблемы с развертыванием: Если функция не развертывается, убедитесь, что зависимости правильно установлены в вашем скрипте сборки.

Часто задаваемые вопросы

1. Каково основное преимущество использования платформы Gradient от DigitalOcean для создания ИИ-агентов?

Основное преимущество заключается в возможности создания ИИ-агентов, которые могут подключаться к API и предоставлять информацию в реальном времени без необходимости в сложной инфраструктуре. Эта платформа предлагает упрощенный путь к созданию интеллектуальных агентов, подключенных к API, делая доступными передовые возможности ИИ для разработчиков всех уровней навыков.

2. Могу ли я использовать платформу Gradient от DigitalOcean для различных случаев использования?

Да, платформа универсальна и может быть применена к широкому спектру случаев использования. Например, вы можете использовать Gradient Platform для создания внутренних инструментов, которые упрощают бизнес-операции, такие как автоматизация рабочих процессов или генерация отчетов.

Кроме того, вы можете использовать платформу для разработки приложений, ориентированных на клиентов, которые обеспечивают персонализированный опыт, таких как чат-боты или виртуальные помощники. Более того, Gradient подходит для решений по анализу данных, требующих данных и аналитики в реальном времени, что позволяет вам принимать обоснованные решения или выявлять тенденции. Возможности огромны, а гибкость платформы позволяет адаптировать ее под ваши конкретные нужды и цели.

3. Каковы преимущества комбинирования бессерверных функций с большими языковыми моделями на платформе Gradient от DigitalOcean?

Интеграция серверлесс-функций с крупномасштабными языковыми моделями на платформе Gradient от DigitalOcean предлагает значительное преимущество. Она позволяет разработчикам всех уровней доступа к современным возможностям ИИ, обеспечивая упрощенный и эффективный способ создания интеллектуальных агентов, которые могут без проблем подключаться к API. Эта комбинация позволяет разработчикам сосредоточиться на создании инновационных решений ИИ без беспокойства о базовой инфраструктуре, что делает её идеальным выбором для широкого спектра приложений.

Заключение

Платформа Gradient от DigitalOcean предлагает мощный, но доступный способ создания ИИ-агентов, которые могут подключаться к API и предоставлять информацию в реальном времени. Этот подход устраняет необходимость в сложной инфраструктуре, позволяя разрабатывать сложные ИИ-решения.

Пример, который мы рассмотрели, это только начало. Вы можете применить те же принципы для создания агентов, которые взаимодействуют с любым API, предоставляя данные и аналитические сведения в реальном времени для различных сценариев использования. Независимо от того, хотите ли вы создавать внутренние инструменты, приложения для клиентов или решения для анализа данных, платформа Gradient от DigitalOcean предлагает упрощенный путь к интеллектуальным агентам, связанным с API.

Объединив гибкость серверлесс-функций с возможностями больших языковых моделей, DigitalOcean создала платформу, которая делает продвинутые возможности ИИ доступными для разработчиков всех уровней мастерства.