Tag: desenvolvimento

  • Claude Code: ferramenta de IA ganha modo automático para gerenciamento de permissões

    Claude Code: ferramenta de IA ganha modo automático para gerenciamento de permissões

    A Anthropic está equipando seu assistente de codificação impulsionado por IA, o Claude Code, com um modo automático. Essa novidade permitirá que a ferramenta gerencie permissões em nome do usuário, incorporando salvaguardas para monitorar ações antes que sejam executadas.

    Anunciado em 24 de março, o modo automático já está disponível em status de pré-visualização de pesquisa para usuários do Claude Team. A expectativa é que a funcionalidade seja expandida para usuários empresariais e da API nos próximos dias, conforme comunicado pela Anthropic. O principal objetivo é oferecer um caminho intermediário para a execução de tarefas mais longas com menos interrupções, reduzindo os riscos associados à permissão manual excessiva ou à desativação completa das proteções.

    O desafio das permissões em ferramentas de IA

    Tradicionalmente, as permissões padrão do Claude Code são conservadoras. Cada escrita de arquivo e comando Bash requer aprovação explícita do usuário. Embora essa abordagem garanta segurança, ela impede que desenvolvedores iniciem tarefas extensas e se afastem do computador.

    Alguns desenvolvedores optam por contornar essas verificações com a opção --dangerously-skip-permissions. Contudo, a Anthropic alerta que pular permissões pode levar a resultados perigosos e destrutivos, sendo recomendável seu uso apenas em ambientes isolados.

    Modo automático: um equilíbrio entre eficiência e segurança

    O novo modo automático surge como uma solução para otimizar o fluxo de trabalho de desenvolvedores. Ele busca um equilíbrio entre a conveniência de automatizar tarefas e a necessidade de manter a segurança.

    Antes da execução de cada chamada de ferramenta, um classificador analisa a ação. Este mecanismo verifica a presença de atividades potencialmente destrutivas, como exclusão em massa de arquivos, exfiltração de dados sensíveis ou execução de código malicioso. As ações consideradas seguras prosseguem, enquanto as identificadas como arriscadas são bloqueadas, direcionando o Claude a buscar abordagens alternativas.

    Limitações e futuro do modo automático

    Apesar de reduzir significativamente o risco em comparação com o saltar de todas as permissões, o modo automático não elimina completamente os perigos. O classificador pode, em certas circunstâncias, permitir ações arriscadas. Isso pode ocorrer, por exemplo, se a intenção do usuário for ambígua ou se o Claude não possuir contexto suficiente sobre o ambiente para identificar um risco adicional.

    Ocasionalmente, o sistema pode também bloquear ações benignas. A Anthropic planeja continuar aprimorando a experiência do usuário e a precisão do classificador ao longo do tempo.

  • Modelos de IA ocidentais falham espetacularmente em fazendas e florestas no exterior

    Modelos de IA ocidentais falham espetacularmente em fazendas e florestas no exterior

    Modelos de IA ocidentais falham espetacularmente em fazendas e florestas no exterior

    Modelos de inteligência artificial desenvolvidos por gigantes da tecnologia ocidental têm demonstrado falhas notáveis quando aplicados em cenários agrícolas fora de seus mercados de origem. A ciência por trás dessas ferramentas, que prometem revolucionar desde o mapeamento de safras até o monitoramento de desmatamento, muitas vezes se choca com a realidade de contextos locais, especialmente no Sul Global. A falta de adaptação e dados específicos para essas regiões torna essas soluções, em muitos casos, irrelevantes e potencialmente agravadoras de desigualdades existentes.

    A especialista Catherine Nakalembe, professora assistente na Universidade de Maryland e diretora do programa África na NASA Harvest, exemplifica o desafio. Ao tentar mapear tipos de culturas no oeste do Quênia, ela se deparou com a limitação de modelos de IA que não reconheciam as plantações locais. A solução encontrada foi a coleta de dados próprios: câmeras GoPro em capacetes de voluntários registraram mais de 5 milhões de imagens em duas semanas, treinando o reconhecimento facial para identificar milho, feijão e mandioca. Essa iniciativa destaca uma necessidade fundamental: a adaptação de sistemas de IA, frequentemente treinados com dados europeus e americanos, para contextos locais.

    Desafios da aplicação de IA no Sul Global

    A relevância das ferramentas de IA no setor agrícola é inegável, com potencial para otimizar a produção e auxiliar pequenos agricultores, que representam mais de 2 bilhões de pessoas em países de baixa e média renda. No entanto, a aplicação dessas tecnologias enfrenta barreiras significativas. Oren Ahoobim, da consultoria Dalberg Advisors, aponta que a qualidade e disponibilidade dos dados subjacentes melhoraram drasticamente, mas a adaptação para o Sul Global é crucial. “Sistemas de IA construídos no Ocidente muitas vezes falham em considerar os contextos do Sul Global, incluindo altos custos de internet, largura de banda limitada e falta de dados de treinamento rotulados”, explica Nakalembe.

    Quando esses sistemas não são adaptados, eles correm o risco de se tornarem irrelevantes, aprofundando desigualdades. Existe ainda o perigo de que priorizem o lucro corporativo em detrimento das necessidades dos agricultores. A inteligência artificial é vista como uma solução para combater a fome, um dos objetivos de desenvolvimento sustentável da ONU, mas a sua implementação eficaz depende de um entendimento profundo das realidades locais.

    Exemplos práticos e lições aprendidas

    Apesar dos desafios, a IA já demonstra seu potencial em diversas iniciativas. No Pará, Brasil, dados costeiros em tempo real são transformados em alertas de voz via WhatsApp para pescadores e produtores de ostras. A Microsoft utiliza IA para monitorar o desmatamento na Amazônia através de bioacústica.

    Na Ásia e África, o aplicativo FarmerChat, da Digital Green, atende a mais de 1 milhão de agricultores, usando IA generativa para responder a perguntas em 16 idiomas locais e diagnosticar problemas em plantas a partir de imagens. Rikin Gandhi, cofundador da Digital Green, ressalta que os modelos de linguagem foram treinados com mais de 120.000 interações de agricultores e respostas de especialistas, utilizando a linguagem que os próprios agricultores utilizam. “A agricultura é hiperlocal: tipo de solo, chuva, altitude, pragas e mercados variam de vila para vila. O aprendizado do modelo deve permanecer próximo a essas realidades”, afirma Gandhi.

    O risco do colonialismo digital e a importância da adaptação local

    A iniciativa Farmers for Forests, na Índia, enfrentou um revés ao utilizar um modelo popular de código aberto para analisar dados florestais no estado de Maharashtra. O modelo, treinado em florestas norte-americanas, falhou em identificar mais da metade das árvores. Arti Dhar, diretora do grupo, enfatizou: “É uma lição clara que você não pode simplesmente introduzir IA ocidental no Sul Global e esperar que funcione.” Sua equipe desenvolveu um modelo customizado, baseado no Detectron2 da Meta, que mapeia árvores em imagens de drones para calcular o sequestro de carbono, gerando renda para os agricultores. O chatbot ChutkiAI, também desenvolvido pela equipe, oferece suporte aos agricultores.

    “Propriedade e adaptação local são críticas… caso contrário, a promessa da IA permanecerá concentrada nas mãos de poucos”, alerta Dhar. Ela acrescenta que a tecnologia é apenas parte da solução; a confiança e o alinhamento com as necessidades econômicas reais dos agricultores são essenciais. O mercado de ferramentas digitais para agricultura, avaliado em cerca de 30 bilhões de dólares em 2025 e projetado para atingir 84 bilhões até 2034, atrai grandes empresas de tecnologia. Contudo, há um risco de que a IA se torne uma nova forma de colonialismo digital, com empresas extraindo dados de comunidades vulneráveis para criar modelos proprietários e, em seguida, vendendo serviços de volta a essas mesmas comunidades.

    A inteligência artificial otimizada apenas para curto prazo, ignorando questões como esgotamento de água e degradação do solo, pode minar a resiliência a longo prazo. Gandhi conclui: “Um sistema de IA pode ter um bom desempenho técnico e ainda assim falhar com os agricultores se ignorar as realidades econômicas e ecológicas. A verdadeira medida da IA na agricultura é se ela fortalece a agência do agricultor, melhora a lucratividade, apoia a sustentabilidade e funciona para homens e mulheres. Isso depende inteiramente da construção com os agricultores, não apenas para eles.”