Perguntas Frequentes sobre o uso de IA em aplicações Windows

Depende do hardware de destino e do caso de uso. As APIs de IA do Windows fornecem o caminho mais simples para Copilot+ PCs — chamadas únicas de API para OCR, descrição de imagens, resumo de texto e chat Phi Silica, sem necessidade de gestão de modelos. O Foundry Local é a escolha certa quando precisa de um catálogo de modelos mais amplo, suporte de hardware para PCs que não seja Copilot+ PC, ou acesso à API compatível com OpenAI. O Windows ML dá-lhe mais controlo — traga qualquer modelo ONNX e gere diretamente os fornecedores de execução. Veja Escolha a sua solução de IA para Windows para uma comparação lado a lado.

Depende da funcionalidade que estás a usar. As APIs de IA do Windows requerem um Copilot+ PC com uma NPU. O Foundry Local funciona em qualquer dispositivo Windows com uma GPU compatível com DirectX 12 — incluindo dispositivos sem NPU. O Windows ML suporta uma vasta gama de CPUs, GPUs e NPUs. Consulte a lista de hardware suportado para mais detalhes.

Yes. O Foundry Local expõe uma API REST compatível com OpenAI. Inicie o serviço local com foundry service start, depois aponte o seu cliente OpenAI para o endpoint local — o nome do modelo, as mensagens e as chamadas em streaming funcionam sem alterações. Consulte Introdução ao Foundry Local para obter o formato do ponto final.

Os SDKs nativos (C#, Python, JavaScript, Rust) estão atualmente em alfa/pré-lançamento. A infraestrutura subjacente do ONNX Runtime e de disponibilização de modelos está pronta para produção. Para aplicações de envio atualmente, trate a superfície da API do SDK como sujeita a alterações e fixe as versões dos seus pacotes. Veja O que é o Foundry Local para o estado mais recente de estabilidade.

Sim, uma vez que um modelo é descarregado e armazenado em cache no dispositivo, o Foundry Local realiza a inferência inteiramente no dispositivo, sem dependência da cloud. O modelo inicial para download requer acesso à internet. No arranque, o Foundry Local pode tentar atualizar o catálogo de modelos, mas isso não é necessário — se o dispositivo estiver offline, volta ao catálogo em cache e a inferência continua normalmente. O método do SDK IsCachedAsync (C#) / is_cached (Python) permite-te verificar a disponibilidade do modelo antes de tentares inferir para que possas lidar com o caso offline de forma eficiente.

O Foundry Local deteta o hardware disponível no arranque e seleciona o melhor fornecedor de execução — Qualcomm NPU (QNN), qualquer GPU compatível com DirectX 12 via WinML/DirectML (AMD, Intel, NVIDIA, Qualcomm), GPU NVIDIA via CUDA ou CPU de recurso. Solicita um modelo por alias (por exemplo, phi-3.5-mini) e o Foundry Local serve automaticamente a variante otimizada para hardware para o dispositivo. O código da tua aplicação é o mesmo em todas as configurações de hardware.

No. O Foundry Local funciona inteiramente no dispositivo. Os dados de entrada e de saída da inferência nunca saem da máquina. O único tráfego de rede é o download inicial do modelo e as atualizações opcionais dos metadados do catálogo. No arranque, o Foundry Local pode tentar atualizar o catálogo de modelos, mas isso não é necessário — se o dispositivo estiver offline, volta ao catálogo em cache e a inferência continua normalmente.

As APIs de IA do Windows processam os dados localmente no dispositivo usando a NPU. Os dados de entrada não são enviados para servidores da Microsoft. Para orientações sobre práticas responsáveis de IA, consentimento e transparência, consulte Desenvolvimento de Aplicações e Funcionalidades de IA Generativa Responsável no Windows.

O Windows ML permite que a sua aplicação utilize um Runtime ONNX partilhado a nível de sistema e descarregue dinamicamente fornecedores de execução específicos (EPs) para que a inferência do modelo seja otimizada para a CPU, GPU ou NPU do dispositivo — sem que a sua aplicação suporte grandes binários de execução ou EP. Usa-o quando precisares de levar o teu próprio modelo ONNX ou quiseres controlar totalmente a seleção de EP. Ver visão geral do Windows ML.

O DirectML é uma API de aceleração de GPU de baixo nível para aprendizagem automática, construída sobre o Direct3D 12. Suporta todas as GPUs compatíveis com DirectX 12 da AMD, Intel, NVIDIA e Qualcomm. O ONNX Runtime utiliza o DirectML como fornecedor de execução no Windows quando o CUDA não está disponível.

foundry-local-sdk-winmlé o pacote específico para Windows — inclui aceleração por hardware via Windows ML e é recomendado no Windows. foundry-local-sdké o pacote multiplataforma para macOS, Linux ou Windows sem aceleração por hardware. Instale apenas um: os dois pacotes fixam versões diferentes de onnxruntime-core e entrarão em conflito se ambos forem instalados. Tenha em atenção que foundry-local no PyPI (sem -sdk) é um pacote de terceiros não relacionado — instale foundry-local-sdk ou foundry-local-sdk-winml.

Abra o Gestor de Tarefas (Ctrl+Shift+Esc), selecione o separador Desempenho e procure as entradas GPU e NPU no painel esquerdo. Também pode executar foundry model list a partir da linha de comandos — o Foundry Local mostrará quais os fornecedores de execução ativos para o seu hardware quando iniciar o serviço.