Обзор границ платформы Gradient

---

Введение

Генеративный ИИ уже не является футуристической концепцией, а представляет собой мощный инструмент, который мы используем в повседневной жизни. Будь то помощь маркетологу в создании рекламных кампаний, учителю в составлении планов уроков или разработчику в создании пользовательского чат-бота, генеративный ИИ трансформирует наш способ работы, обучения и общения. Его способность создавать текст, изображения, код и многое другое всего лишь с помощью простого запроса экономит время людям, способствует креативности и открывает новые возможности для бизнеса любого размера.

Давайте возьмем пример фрилансера-писателя, который раньше тратил часы на исследование тем и создание каждого плана статьи с нуля. Теперь, с помощью инструментов Ген AI, он может мгновенно создавать несколько планов статей, понимать научные работы и мгновенно создавать визуальные представления сложных тем.

Или подумайте о команде обслуживания клиентов в развивающемся стартапе — теперь они могут использовать помощника на базе искусственного интеллекта для ответов на частые запросы, освобождая время своей команды для решения более сложных проблем. Это всего лишь несколько примеров того, как ИИ помогает людям делать больше с меньшими ресурсами.

Но так же захватывающей, как эта технология, она также приносит новые вызовы. Без надлежащих проверок системы ИИ могут производить вводящий в заблуждение или неподобающий контент, непреднамеренно отражать предвзятость или даже использоваться во вредных целях. Например, инструмент ИИ может сгенерировать ложные медицинские рекомендации, или чат-бот может ответить грубо, если его не правильно направлять. Здесь и вступают в дело ограничители.

Думайте о барьерах как о функциях безопасности в автомобиле. Так же как ремни безопасности, подушки безопасности и системы помощи при смене полосы помогают защитить водителей и пассажиров, барьеры в платформах ИИ обеспечивают безопасное, этичное и ответственное использование технологии. Они предотвращают злоупотребления, защищают конфиденциальность пользователей и гарантируют, что контент, создаваемый ИИ, является уместным и соответствует реальным ценностям.

Платформа DigitalOcean Gradient позволяет вам использовать популярные базовые модели и создавать ИИ-агентов на базе графических процессоров с легкостью. Вы можете выбрать между полностью управляемым развертыванием или прямыми запросами через безсерверный вывод.

Предварительные условия

Прежде чем углубляться в статью, важно иметь общее представление о следующих понятиях:

• Основы генеративного ИИ: Вы должны быть знакомы с тем, что такое генеративный ИИ и как он работает. Минимум, что нужно понять, это то, что он включает модели, такие как GPT, LLaMA или Stable Diffusion, которые могут генерировать текст, изображения или другие медиа на основе заданного запроса.

• Фундаментальные модели: Некоторый опыт работы с фундаментальными моделями (например, GPT-4, LLaMA 3, Mistral) и знание о том, как они используются в качестве строительных блоков для приложений на основе ИИ, облегчат понимание того, как к ним применяются защитные механизмы.

• Аккаунт DigitalOcean: Чтобы следовать за примерами или протестировать их, вам потребуется активный аккаунт DigitalOcean. Вам также следует быть знакомым с основными элементами навигации в консоли DigitalOcean.

• Агенты и конвейеры RAG (по желанию, но полезно): Если вы уже работали с агентами или конвейерами, дополненными извлечением, у вас будет преимущество.

Обзор рамок безопасности DigitalOcean

Платформа DigitalOcean GenAI решает эту потребность с помощью Guardrails — мощных инструментов, которые помогают разработчикам устанавливать границы, защищать конфиденциальные данные и предотвращать злоупотребление ИИ-агентами.

Что такое ограждения?

Ограничители — это настраиваемые средства безопасности, которые вы можете прикрепить к ИИ-агентам на платформе DigitalOcean Gradient. Их основная цель — обнаруживать и реагировать на чувствительный или неподобающий контент, как в вводимых данных агенту, так и в его выводе.

Когда срабатывает ограждение безопасности, оно отменяет стандартное поведение агента и выдает более безопасный, предварительно заданный ответ. Например, если ввод содержит номер кредитной карты, агенту будет запрещено отвечать как обычно, и вместо этого он выдаст предупреждающее сообщение.

Типы ограждений

DigitalOcean предоставляет три встроенных защитных механизма, которые служат конкретным целям:

Обнаружение конфиденциальных данных

• Обнаруживает информацию, такую как номера кредитных карт, IP-адреса, номера социального обеспечения и другую личную идентифицирующую информацию (PII).
• Полностью настраиваемо — разработчики могут выбирать, какие категории обнаруживать.

Обнаружение джейлбрейка

• Блокирует попытки манипулировать или обойти механизмы безопасности модели.
• Полезно для предотвращения атак с инъекциями команд и злоупотреблений.

Модерация контента

• Флаги и блокируют контент, который является оскорбительным, насильственным, откровенным или ненавистным.
• Помогает поддерживать соответствие приложений политикам контента.

Прикрепление направляющих к агентам

Защитные ограждения можно прикрепить через панель управления DigitalOcean с помощью двух рабочих процессов:

Присоедините несколько защитных устройств к одному агенту

Войдите в свою платформу DigitalOcean Gradient, нажмите на вкладку Агенты, чтобы просмотреть всех ваших агентов, и выберите агента, к которому вы хотите прикрепить защитные барьеры.

Затем откройте вкладку Ресурсы и прокрутите вниз до раздела Ограничения, а затем нажмите Добавить ограничения.

Теперь отметьте флажками рядом с защитными ограждениями, которые вы хотите прикрепить, а затем нажмите Сохранить, чтобы подтвердить свои изменения.

Присоедините ограждение к нескольким агентам

Чтобы прикрепить ограждение к одному или нескольким агентам, перейдите в панель управления DigitalOcean и откройте свою платформу Gradient.

Затем выберите вкладку Ограждение.

Откройте многоточие(…) рядом с нужным барьером и выберите Присоединить агента.

Окно Управление агентами откроется. Далее выберите агентов, которых вы хотите прикрепить, и нажмите Обновить.

Редактирование ограждений

Вы можете точно настроить защитные меры, чтобы они соответствовали вашему случаю использования:

Чтобы отредактировать свои рамки, перейдите в панель управления DigitalOcean. В левом меню выберите Платформа Gradient, затем нажмите на вкладку Рамки, чтобы получить доступ к странице рамок.

В разделе Ограждения найдите ограждение, которое вы хотите изменить. Нажмите на многоточие (…) рядом с ним и выберите Редактировать ограждение.

Вы будете перенаправлены на страницу редактирования ограждения, где вы сможете обновить различные настройки ограждения.

На странице редактирования ограждения вы можете изменить несколько настроек, чтобы настроить поведение вашего ограждения. Во-первых, вы можете обновить Название и Описание — это особенно полезно, если вы редактируете дублированное ограждение и хотите дать ему уникальную идентичность.

Если защитный барьер является типа Обнаружение чувствительных данных (или его дубликатом), вы можете управлять тем, какие конкретные категории чувствительной информации он обнаруживает. Например, вы можете выбрать обнаружение номеров кредитных карт, IP-адресов или других типов данных. По умолчанию все категории включены, но вы можете настроить это, нажав Настроить категории и выбрав только те, которые соответствуют вашим потребностям. Учтите, что эта настройка доступна только для защитных барьеров Обнаружения чувствительных данных.

Вы также можете изменить Ответ по умолчанию агента, который является сообщением, которое агент отображает, когда барьер безопасности обнаруживает совпадение в включенной категории. Ответ по умолчанию: “Я не могу ответить на этот запрос, но могу ответить на другие вопросы. Чем я могу помочь вам еще?” Тем не менее, вы можете заменить его на ответ, более подходящий для вашей ситуации.

Наконец, в разделе Привязать агентов вы можете связать этот обновленный контрольный барьер с конкретными агентами, выбрав их из списка. После внесения всех изменений нажмите Обновить контрольный барьер, чтобы сохранить их.

Дублирующие ограждения

Дублирование барьера безопасности позволяет вам повторно использовать и настраивать существующие конфигурации барьеров безопасности без необходимости начинать с нуля. На той же странице барьера безопасности вы найдете опцию дублирования барьера. Выберите эту опцию.

Как только вы нажмете на Дублировать защитное ограждение, вы будете перенаправлены на страницу дублирования защитного ограждения, где вы сможете настроить следующие параметры:

Название и Описание
Введите уникальное название и необязательное описание для идентификации дубликата ограждения.

Категории обнаружения чувствительных данных Если дублирующий защитный барьер относится к типу Обнаружение чувствительных данных, вы можете настроить, какие категории данных он будет контролировать. По умолчанию все категории (например, номера кредитных карт, IP-адреса) включены.

Для настройки:

• Нажмите на Настроить категории
• Установите или снимите флажки для конкретных типов данных, которые вы хотите включить.

Примечание: Эта настройка доступна только для защитных мер по обнаружению чувствительных данных.

Стандартный ответ агента
Это сообщение появляется, когда агент обнаруживает ограниченный ввод. Стандартное сообщение: “Я не могу ответить на этот запрос, но могу ответить на другие вопросы. Как я могу помочь вам с чем-то другим?” Вы можете заменить это на пользовательский ответ, который лучше соответствует тону или контексту вашего приложения.

Прикрепить агентов Если вы хотите, чтобы дублированный ограждающий барьер был активен для конкретных агентов, отметьте флажками тех агентов, которым вы хотите его назначить.

Сохранить дублированное ограждение

После настройки всех необходимых параметров нажмите Дублировать барьер, чтобы завершить и сохранить ваш новый барьер.

Уничтожение ограждений

Если ограждение больше не нужно, вы можете легко его удалить из панели управления DigitalOcean. Выполните следующие шаги, чтобы безопасно удалить ограждение: Войдите в свой аккаунт DigitalOcean Gradient. Откройте ту же вкладку Ограждения, чтобы открыть Страницу управления ограждениями. Затем найдите ограждение, которое вы хотите удалить, и нажмите на иконку многоточия (…) справа от этого ограждения.

В разделе Ограждения найдите ограждение, которое вы хотите удалить. Появится диалог подтверждения с вопросом, уверены ли вы, что хотите удалить выбранное ограждение.

Нажмите Подтвердить или Удалить, чтобы навсегда удалить барьер. Примечание: Удаление барьера необратимо. После удаления конфигурация и настройки не могут быть восстановлены.

Лучшие Практики

Реализация механизма защиты — это не только активация нескольких настроек и завершение работы. Это также продуманная настройка, постоянный процесс совершенствования и внимание к опыту ваших пользователей. Вот несколько лучших практик, которые помогут вам максимально эффективно использовать функции механизма защиты DigitalOcean:

1. Настройка и осторожность: каждое приложение ИИ уникально, как и его пользователи. При добавлении или изменении настроек безопасности важно тестировать с реальными запросами. Пробуйте запросы, которые имитируют то, что ваши конечные пользователи могут на самом деле ввести. Это поможет вам понять, как модель реагирует и блокирует или разрешает контент соответствующим образом. Слишком строгие ограничения могут остановить законные случаи использования, в то время как слишком мягкие могут пропустить рискованный контент. Всегда находите баланс между безопасностью и удобством использования.

2. Используйте дубликаты для гибкости: система охранных барьеров DigitalOcean позволяет дублировать конфигурации. Например, вам могут понадобиться более строгие фильтры содержимого для чат-бота службы поддержки клиентов, но более открытая настройка для внутреннего инструмента. Дублируя базовую конфигурацию, вы можете настраивать каждую версию независимо, не затрагивая оригинальные настройки.

3. Мониторьте и итеративно улучшайте: ИИ постоянно меняется; поэтому, после развертывания агента, всегда делайте привычкой пересматривать агента. Это дает вам ценную обратную связь. Блокируете ли вы слишком много контента? Недостаточно? Используйте эти инсайты, чтобы со временем уточнить категории обнаружения и пороговые значения. Представьте это как настройку радио: небольшие коррекции могут значительно повлиять на четкость и производительность.

Следование этим лучшим практикам поможет обеспечить безопасность, ответственность и удобство ваших ИИ-приложений, одновременно предоставляя мощные и увлекательные впечатления.

Заключение

Устанавливая четкие границы, будь то фильтрация вредоносного контента, ограничение поведения модели или добавление дополнительной конфиденциальности данных, вы не только защищаете своих пользователей, но и строите доверие. Это доверие становится основой для более значимых и эффективных приложений ИИ. Ограничения не ограничивают креативность — они создают пространство для безопасных инноваций. Создавая с Gradient, помните, что этический ИИ — это не только то, что ваша модель может делать, но и то, что она должна делать. Ограничения помогают вам оставаться на правильном пути. Более того, DigitalOcean дает вам гибкость формировать ваш ИИ в соответствии с вашими целями, не жертвуя ответственностью.

Ссылки и ресурсы

• Защита языковых моделей с помощью направляющих
• Топ 20 защитных мер LLM с примерами
• Как реализовать защитные механизмы для LLM
• Что такое защитные барьеры LLM? Основная защита для AI систем
• Создание и управление ограничениями
• Что такое адверсариальное машинное обучение?
• Глубокое погружение в защитные механизмы больших языковых моделей