Не позволяйте модели, ключу или интерфейсу стать слабым звеном

Yudun рассматривает модель на устройстве, среду выполнения вывода, учетные данные API, входные и выходные данные, а также цепочку обновлений как отдельные риски. Ценный клиентский код и ресурсы защищены, а привилегированные ключи и окончательная авторизация остаются на сервере.

Эти проблемы сдерживают развитие вашего приложения?

  • Модель или конфигурацию можно скопировать или заменить после доставки.
  • Долговечный ключ API модели встроен в APK, IPA или SO.
  • Олицетворяющие клиенты потребляют облачную квоту и приводят к неконтролируемым расходам
  • Версии модели, среды выполнения и приложения дрейфуют и выходят из строя в рабочей среде.

Как Юдун с ними справляется

  • Модель на устройстве и защита во время выполнения

    Определите защиту клиента для ресурсов модели, логики предварительной и последующей обработки и путей вызова вывода.

  • Интерфейс и границы учетных данных

    Удалите долгоживущие привилегированные ключи с клиента и используйте кратковременные ограниченные учетные данные с авторизацией на сервере.

  • Проверка выпуска модели

    Проверка соответствия модели, среды выполнения и версии приложения с путями отключения, поэтапного развертывания и отката.

Сценарий: при извлечении ключа API модели потери отражаются в расходах на облако и олицетворенных вызовах.

Сценарий общедоступной архитектуры Yudun объясняет, почему сокрытие строки не является полным контролем над кражей и злоупотреблением API мобильного ИИ.

Посмотреть архитектуру контроля рисков

Что показала оценка

  • Клиент запрашивает кратковременные ограниченные учетные данные вместо хранения главного ключа модели.
  • Вызовы модели выполняются через прокси-сервер или контролируемый шлюз.
  • Привязка запросов, квоты, записи и мониторинг затрат приводят к ненормальному использованию.

Область применения: Это сценарий и архитектура публичного риска, а не инцидент с клиентом, заявленная скорость блокировки или экономия средств.

  1. 01

    Разделяйте риски

    Разделите модель, среду выполнения, учетные данные, интерфейсы и пользовательские данные вместо того, чтобы использовать шифрование всей модели.

  2. 02

    Установите границу клиент-сервер

    Решите, что остается на устройстве, а какие ключи и действия с высоким риском принадлежат серверу.

  3. 03

    Подтвердить доставку

    Сопряжение тестовых версий, разрешения интерфейса, аварийное отключение и откат.

Вопросы, которые часто задают клиенты

Почему шифрование моделей на устройстве не может заменить авторизацию через API

Детализируйте файлы моделей, среды выполнения вывода, учетные данные API, серверную авторизацию, сигналы целостности и обязанности по логированию для определения многоуровневой архитектуры безопасности и контрольного списка валидации для мобильных AI-приложений.

Посмотреть детали
Посмотреть все статьи

Вопросы перед покупкой

Безопасна ли модель после шифрования файла?

Нет. Модель должна использоваться во время выполнения, в то время как входы, выходы, материал памяти, интерфейсы и учетные данные остаются подверженными отдельным рискам.

Можно ли хранить ключ API в мобильном приложении?

Не рассматривайте долгоживущий ключ с высоким уровнем привилегий как секрет клиента. Предпочитайте прокси-сервер с наименьшими записями привилегий, ротации и запросов.

Должны ли все выводы ИИ выполняться на сервере?

Нет. Вывод на устройстве может уменьшить задержку и улучшить конфиденциальность, но добавляет проблемы с доставкой модели, версией, ресурсом устройства и материалами времени выполнения.

Когда подтверждается заявление о защите ИИ?

Только в том случае, если версия-кандидат, метод, охватываемые сценарии и открытые элементы явны. Проектная работа или статическое наблюдение не являются проверкой во время выполнения.

Стандарты безопасности и ссылки на платформы

  1. Apple Core ML

    Интеграция модели на устройстве и границы времени выполнения

  2. Google AI Edge LiteRT

    Среда выполнения вывода на устройстве и контекст доставки модели

  3. OWASP MASVS

    Средства контроля безопасности мобильных приложений и объем проверки

  4. Android security best practices

    Android Проектирование безопасности приложений и границы выпуска

  5. Apple Platform Security

    Подписание кода платформы Apple и контекст безопасности во время выполнения