Границы безопасности во время выполнения мобильных приложений искусственного интеллекта
Техническое руководство по Юдуну · Инженерные принципы и практика · Русский
Мобильное приложение искусственного интеллекта часто сочетает в себе модели, среды выполнения, SDK, интерфейсы и бизнес-решения. Карта, на которой каждый актив создается, передается, используется и обновляется, прежде чем решить, что клиент должен защищать.
Относитесь к модели как к одному активу среди многих
Запросы инвентаризации, предварительная обработка, постобработка, учетные данные интерфейса, кэши, журналы, а также ввод и вывод данных пользователя вместе с моделью.
Каждый актив имеет разные требования к конфиденциальности, целостности и доступности.
- Модели и конфигурация
- SDK и среды выполнения
- Интерфейсы и учетные данные
- Входы, выходы и журналы
Разделите обязанности клиента и сервера
Клиент может поддерживать низкую задержку и автономный вывод. Долговечные секреты, авторизация учетной записи и бизнес-решения с высоким риском находятся в большей безопасности под контролем сервера.
Сигналы клиента - это свидетельство, а не абсолютное доверие.
Защитите путь обновления
Модели, среды выполнения и версии приложений требуют определенной совместимости. Проверьте источник обновления, целостность, откат и диапазон развертывания.
Система должна иметь возможность остановить несовершенную модель или политику, а не сохранять ее на неопределенный срок.
- Сопряжение версий
- Обновить источник
- Проверка целостности
- Откат ошибки
Публикуйте в рамках доказательств
Без текущих образцов и доказательств во время выполнения публикуйте модели угроз, принципы проектирования и контрольные списки приемки, а не заявления о том, что извлечение или изменение памяти были заблокированы.
Проверьте границу с реальным кандидатом на выпуск
Укажите стек приложений, критические пути и диапазон целевой системы. Учетные записи, приложения и детали проекта обрабатываются центральной платформой Yudun.