Limites de segurança de tempo de execução para aplicativos móveis de IA
Guia técnico Yudun · Princípios e práticas de engenharia · Português do Brasil
Um aplicativo móvel de IA geralmente combina modelos, tempos de execução de inferência, SDKs, interfaces e decisões de negócios. Mapeie onde cada ativo é criado, transferido, usado e atualizado antes de decidir o que o cliente deve proteger.
Trate o modelo como um ativo entre muitos
Solicitações de inventário, pré-processamento, pós-processamento, credenciais de interface, caches, logs e entradas e saídas do usuário junto com o modelo.
Cada ativo tem diferentes necessidades de confidencialidade, integridade e disponibilidade.
- Modelos e configuração
- SDKs e tempos de execução
- Interfaces e credenciais
- Entradas, saídas e registros
Divida as responsabilidades do cliente e do servidor
O cliente pode suportar inferência off-line e de baixa latência. Segredos duradouros, autorização de conta e decisões de negócios de alto risco ficam mais seguros sob controle do servidor.
Os sinais do cliente são evidências, não confiança absoluta.
Proteja o caminho de atualização
Modelos, tempos de execução e versões de aplicativos exigem compatibilidade definida. Verifique a origem da atualização, a integridade, a reversão e o intervalo de implementação.
O sistema deve ser capaz de impedir um modelo ou política defeituoso em vez de mantê-lo indefinidamente.
- Emparelhamento de versões
- Fonte de atualização
- Verificação de integridade
- Reversão de falha
Publique dentro dos limites das evidências
Sem uma amostra atual e evidências de tempo de execução, publique modelos de ameaças, princípios de design e listas de verificação de aceitação, e não afirmações de que a extração ou modificação de memória foi bloqueada.
Verifique o limite com um candidato a lançamento real
Forneça a pilha de aplicativos, os caminhos críticos e o intervalo do sistema de destino. Contas, aplicativos e detalhes do projeto são gerenciados pela plataforma central Yudun.