Como usar modelos do Microsoft Foundry Managed Compute no GitHub Copilot - parte 2
O Microsoft Foundry Managed Compute permite hospedar modelos open weight em GPUs dedicadas sem precisar gerenciar máquinas virtuais, clusters Kubernetes, containers ou runtimes de inferência.
Na primeira parte desta série, mostrei como realizar o deployment do modelo Qwen3.6-27B-FP8 utilizando uma GPU NVIDIA H100 e integrá-lo ao GitHub Copilot no Visual Studio Code por meio do recurso Bring Your Own Key — BYOK.
Nesta segunda parte, utilizamos o mesmo modelo e a mesma infraestrutura do Microsoft Foundry Managed Compute, mas agora realizamos a integração diretamente com o GitHub Copilot CLI.
O conteúdo apresenta todo o processo, incluindo:
- Instalação e configuração do GitHub Copilot CLI;
- Reutilização do deployment existente no Microsoft Foundry Managed Compute;
- Configuração do endpoint OpenAI-compatible;
- Configuração do modelo por meio de variáveis de ambiente;
- Autenticação utilizando a chave do endpoint;
- Habilitação de streaming e tool calling;
- Execução do modelo hospedado no Foundry diretamente pelo terminal;
- Utilização do agente do GitHub Copilot CLI para analisar, criar e modificar código.
Na demonstração, configuramos as variáveis COPILOT_PROVIDER_BASE_URL, COPILOT_PROVIDER_API_KEY, COPILOT_PROVIDER_TYPE e COPILOT_MODEL para direcionar as requisições do GitHub Copilot CLI ao modelo Qwen3.6-27B-FP8 hospedado no Microsoft Foundry.
Depois da configuração, o Copilot CLI passa a utilizar o endpoint privado como provedor de inferência, mantendo recursos como execução de ferramentas, leitura de arquivos, análise do projeto, criação de código e automação de tarefas diretamente pelo terminal.
Essa integração oferece uma alternativa interessante para equipes que desejam utilizar modelos abertos, controlar o endpoint e a infraestrutura de inferência e, ao mesmo tempo, manter a experiência de desenvolvimento agentic oferecida pelo GitHub Copilot CLI.
Confira o tutorial completo, os comandos e todas as etapas da configuração:
