Blog de IA

Tag: Algoritmos

  • Evento aborda os desafios da construção de confiança em sistemas de inteligência artificial

    Evento aborda os desafios da construção de confiança em sistemas de inteligência artificial

    Seminário na USP investiga a complexa relação entre humanos e inteligência artificial

    A construção de confiança em sistemas de inteligência artificial (IA) é um dos desafios mais críticos da atualidade. Para aprofundar essa discussão, a rede Understanding Artificial Intelligence (UAI), ligada ao Instituto de Estudos Avançados (IEA) da USP, promoveu no dia 24 de março o seminário IA e Confiança. O evento, que contou com transmissão online e participação presencial, buscou esclarecer por que os mecanismos humanos de confiança, desenvolvidos para relações interpessoais, frequentemente falham quando aplicados a algoritmos.

    O palestrante principal foi David Levi, do Industry Partnerships Program Manager e Stanford Human-Centered Artificial Intelligence, dos Estados Unidos. Ele explorou as vulnerabilidades cognitivas que nos tornam suscetíveis a confiar de forma inadequada em IA, seja por excesso ou por falta de confiança. Levi também abordou o dilema entre criar agentes de IA que replicam fielmente comportamentos humanos ou versões aspiracionais que superam nossas capacidades.

    Compreendendo a psicologia por trás da confiança em IA

    Nossa psicologia evolutiva, moldada ao longo de milênios para avaliar interações humanas, pode nos levar a erros ao interagir com sistemas de IA. O seminário buscou desvendar como o design desses sistemas pode explorar essas vulnerabilidades, resultando em confiança mal calibrada.

    A questão de delegar autoridade e atribuir responsabilidade em decisões tomadas por IA foi central na discussão. O dilema do “gêmeo digital” levanta a ponderação sobre criar inteligências artificiais que espelhem nossas falhas ou que apresentem um potencial superior.

    Propostas para uma governança de IA mais eficaz

    David Levi defendeu uma mudança significativa na forma como a inteligência artificial é governada. Em vez de depender de relatos anedóticos de falhas, ele propôs a criação de observatórios sistemáticos. Esses observatórios teriam a função de monitorar padrões de desempenho, documentar incidentes de maneira rigorosa e fornecer dados concretos para aprimorar a segurança e a confiabilidade dos sistemas de IA.

    A necessidade de um monitoramento sistemático e rigoroso é fundamental para avançarmos na construção de confiança em sistemas de IA. Relatos isolados não são suficientes para garantir a segurança e a ética.

    Sobre a rede Understanding Artificial Intelligence (UAI)

    A rede UAI é uma iniciativa multidisciplinar e multidepartamental da USP, coordenada pela professora Veridiana Domingos Cordeiro, do Departamento de Sociologia da Filosofia, Letras e Ciências Humanas (FFLCH). Seu objetivo é reunir especialistas de diversas áreas para promover análises críticas sobre os impactos sociais, éticos, políticos e institucionais da inteligência artificial. O evento contou com comentários de Lucas Boscaini (Google) e a mediação da própria Veridiana Domingos Cordeiro.

    A organização do seminário teve a colaboração da U.S. Embassy and Consulates e da Cátedra IA Responsável, com o apoio do Center for Artificial Intelligence and Machine Learning (USP). As discussões foram realizadas em inglês, com tradução simultânea, e foram gratuitas e abertas ao público.

  • The pentagon’s AI-first doctrine and its implications for modern warfare: lessons from the conflict with Iran

    The pentagon’s AI-first doctrine and its implications for modern warfare: lessons from the conflict with Iran

    A adoção da doutrina AI-First pelo Pentágono marca uma transformação profunda na maneira como as guerras são concebidas e travadas. Longe de ser apenas uma ferramenta de apoio, a inteligência artificial (IA) está se tornando uma infraestrutura estratégica fundamental, permeando a cadeia de comando, a coleta de inteligência e o planejamento de operações em múltiplos teatros.

    Esta mudança conceitual redefine a vantagem estratégica na era algorítmica. Um exemplo prático e contundente dessa implementação pode ser observado na recente confrontação entre os Estados Unidos e o Irã, onde sistemas de IA foram empregados para acelerar análises e decisões cruciais no campo de batalha.

    A doutrina AI-first: uma mudança estratégica

    A doutrina AI-First do Pentágono baseia-se na premissa de que a vantagem estratégica em futuras guerras dependerá, em grande parte, da capacidade dos estados de integrar algoritmos avançados ao cerne dos sistemas de tomada de decisões militares. Dentro dessa estrutura, os Estados Unidos buscam preservar e expandir o que o documento define como Dominância Militar de IA – uma superioridade ancorada na inovação tecnológica, dados operacionais e uma indústria civil de IA avançada.

    A estratégia instrui os ramos de defesa dos EUA a se tornarem uma “força de combate baseada em IA”, acelerando a experimentação com modelos avançados, removendo barreiras burocráticas e priorizando a vantagem assimétrica em dados e poder computacional. Os EUA possuem vantagens estruturais únicas, incluindo um ecossistema de inovação líder e repositórios de dados operacionais acumulados ao longo de décadas de atividade militar e de inteligência. A integração dessas vantagens visa superar os rivais na corrida armamentista algorítmica.

    Um componente central desse conceito é a integração da IA ao processo de decisão operacional, desde o processamento de inteligência até o planejamento de sistemas de combate complexos. Projetos como sistemas de gerenciamento de batalha baseados em IA, desenvolvimento de capacidades para coordenar enxames de sistemas não tripulados e o uso extensivo de simulações operacionais com IA foram definidos para demonstrar o novo ritmo de implementação tecnológica.

    A implementação não se limita a declarações estratégicas. O Pentágono começou a implantar plataformas dedicadas, como o GenAI.mil, que permite a integração de modelos generativos e ferramentas analíticas em redes classificadas e não classificadas. Essa iniciativa visa expandir o acesso a ferramentas de IA para milhões de militares e funcionários governamentais, incorporando as capacidades de IA nos processos de trabalho diários do sistema de defesa. A doutrina reflete o entendimento de que a velocidade de processamento de informações e o encurtamento dos ciclos de decisão se tornarão fatores decisivos em futuros conflitos.

    Da análise de suporte à aceleração operacional

    A integração da IA em sistemas de defesa, que inicialmente se enraizou em campos como manutenção preditiva, análise de inteligência e suporte administrativo, está agora expandindo seu papel sob o conceito AI-First. Esses sistemas se tornam ferramentas que permitem a aceleração de processos operacionais.

    Modelos avançados são capazes de sintetizar vastas quantidades de dados de uma variedade de sensores, sistemas de inteligência e informações de código aberto, produzindo insights em tempo real. Essas capacidades permitem que comandantes priorizem alvos, examinem diferentes cenários operacionais e conduzam avaliações de situação com uma velocidade significativamente maior do que os processos analíticos humanos tradicionais. Esse desenvolvimento muda a natureza da tomada de decisões militares, transformando a IA de mero suporte analítico em um componente ativo que aprimora o planejamento e o gerenciamento de complexos sistemas de combate.

    Estudo de caso: o uso da IA no conflito com o Irã

    A confrontação entre os Estados Unidos e o Irã oferece um exemplo tangível da translação do conceito AI-First para a atividade operacional. Durante ataques a alvos iranianos, foi reportado que as forças armadas dos EUA utilizaram sistemas de IA para análise de inteligência, identificação de alvos e execução de simulações operacionais, incluindo o modelo de linguagem grande Claude da Anthropic.

    Segundo o Instituto Nacional de Estudos de Segurança Nacional (INSS), o Comando Central dos EUA (CENTCOM) integrou o modelo ao lado de sistemas de armas convencionais, como mísseis Tomahawk, aeronaves stealth e drones baseados em IA. O sistema auxiliou no processamento em tempo real de dados recebidos de diversos sistemas de sensores, encurtando o tempo necessário para a análise de inteligência e a geração de insights operacionais. A IA também foi utilizada para executar cenários “e se”, permitindo aos planejadores de operações examinar diferentes cursos de ação em um tempo relativamente curto. Essas capacidades demonstram o potencial da IA para acelerar os processos de tomada de decisão em situações de combate complexas.

    Entre o campo de batalha e o Silicon Valley: a disputa ético-legal

    A adoção acelerada de sistemas de IA no sistema de defesa dos EUA tem sido acompanhada por disputas significativas entre o governo e as empresas de tecnologia. A Anthropic, que forneceu o modelo usado em operações de combate, opôs-se a algumas das exigências do Pentágono para remover mecanismos de segurança relacionados a usos como armas autônomas e sistemas de vigilância em larga escala.

    A empresa argumentou que os sistemas de IA não são suficientemente confiáveis para a operação de armas totalmente autônomas e que o uso de IA para vigilância em massa de civis não é moral ou regulatoriamente legítimo, traçando uma “linha vermelha” nessas exigências. Em contraste, o Pentágono emitiu um ultimato para remover essas restrições e chegou a ameaçar designar a Anthropic como um “risco na cadeia de suprimentos”, um passo incomum. Essas disputas refletem tensões mais amplas entre considerações de segurança nacional e questões éticas, legais e de governança no campo da IA, com discussões internas na indústria e oposição de funcionários a certos usos militares.

    Implicações estratégicas: rumo à guerra algorítmica

    O uso de sistemas de IA em conflitos militares marca uma nova etapa no desenvolvimento da guerra moderna. Enquanto os sistemas de IA antes serviam principalmente como ferramentas de apoio, agora eles se tornam multiplicadores de força que permitem o processamento de informações em uma escala e velocidade impossíveis para sistemas humanos sozinhos. Ao mesmo tempo, essa integração também levanta questões complexas relacionadas à responsabilidade, supervisão e arcabouços legais.

    À medida que os sistemas de IA influenciam cada vez mais as decisões operacionais, incluindo aquelas relativas ao uso da força, ajustes serão necessários no direito internacional, nas regras de engajamento e nos mecanismos de prestação de contas. A evolução da relação entre instituições de defesa, formuladores de políticas e a indústria de tecnologia determinará, em grande parte, as regras do jogo na era da guerra baseada em IA.

    Implicações políticas e de segurança para Israel

    A experiência americana demonstra que a integração sistemática da inteligência artificial no núcleo da atividade militar altera as regras do jogo no campo de batalha. Para Israel, que possui uma vantagem significativa no campo da inovação em defesa, esse contexto acarreta diversas implicações estratégicas.

    Primeiramente, há a necessidade de transitar de uma abordagem centrada no desenvolvimento de tecnologias de IA discretas para uma abordagem sistêmica, similar à doutrina AI-First americana. Nela, a inteligência artificial é integrada sistematicamente à cadeia de comando, aos processos de processamento de inteligência e ao planejamento de operações em múltiplos teatros. Essa transição exige uma integração mais profunda entre a comunidade de defesa, as indústrias de defesa e o setor de alta tecnologia civil, juntamente com investimentos em infraestruturas de dados e poder computacional avançado.

    Em segundo lugar, à luz da aceleração global da corrida armamentista de IA, Israel deve fortalecer sua cooperação estratégica com os Estados Unidos neste campo. Essa colaboração pode incluir pesquisa e desenvolvimento, integração entre sistemas operacionais de IA e um aprofundamento do diálogo estratégico sobre o uso responsável da inteligência artificial em sistemas militares. Por fim, juntamente com as vantagens operacionais, a integração de sistemas de IA na guerra também levanta complexas questões legais e éticas. Israel, que está na vanguarda do enfrentamento de ameaças de segurança e tecnológicas, pode desempenhar um papel significativo na moldagem de arcabouços de governança e padrões internacionais para o uso responsável da IA em sistemas de defesa, enquanto preserva sua vantagem tecnológica e operacional.

    A doutrina AI-First do Pentágono reflete uma mudança profunda na concepção americana de guerra. A inteligência artificial não é mais percebida como uma ferramenta tecnológica suplementar, mas sim como uma infraestrutura estratégica que molda a forma como os militares planejam e conduzem campanhas. O conflito com o Irã demonstra como esse conceito está começando a ser concretizado na prática, com a IA se integrando mais profundamente à cadeia de comando, síntese de inteligência e planejamento operacional.

    Uma nova realidade se forma, na qual a fronteira entre o julgamento humano e o suporte algorítmico se torna mais dinâmica e flexível. Para nações como Israel, isso representa tanto uma oportunidade quanto um desafio: há a necessidade não apenas de desenvolver capacidades de IA discretas, mas de adotar uma abordagem sistêmica, integrar inteligência, comando e sistemas de combate, e criar uma infraestrutura avançada de dados e poder computacional. Ao mesmo tempo, é preciso fortalecer a cooperação estratégica e avançar sua influência nos padrões internacionais para o uso seguro da IA militar.

    Dessa forma, será possível preservar a vantagem tecnológica e operacional, mantendo a legitimidade e preparando-se para uma era em que a IA se torna um multiplicador de força estratégico no campo de batalha. Em qualquer caso, a forma como as relações evoluírem entre as instituições de defesa, os formuladores de políticas e a indústria de tecnologia determinará, em grande parte, as regras do jogo na era da guerra baseada em IA.

  • CUT debate impactos da inteligência artificial no trabalho e na democracia

    CUT debate impactos da inteligência artificial no trabalho e na democracia

    CUT debate impactos da inteligência artificial no trabalho e na democracia

    O 10º Encontro Nacional de Comunicação da CUT, realizado em São Paulo, abordou os efeitos da inteligência artificial (IA) no cenário profissional e democrático. O debate, mediado pela vice-presidenta da CUT, Juvandia Moreira, contou com a participação do produtor de conteúdo e ativista pela regulação da IA, Thiago Salvador.

    O encontro buscou esclarecer como as novas tecnologias estão remodelando as relações de trabalho e o debate público. Thiago Salvador enfatizou a importância de aproximar a classe trabalhadora dessas ferramentas, pois a tecnologia já é parte do cotidiano e pode ser utilizada tanto para controle quanto para fortalecimento da organização social.

    Aproximando trabalhadores da inteligência artificial

    Salvador destacou que a conversa sobre IA desmistifica o tema. “Essa tecnologia já é usada contra nós. Se a classe trabalhadora aprender a utilizá-la a seu favor, pode avançar muito”, afirmou. Ele ressaltou que a tecnologia, quando compreendida, torna-se uma aliada poderosa.

    Tecnologia e a organização sindical

    Juvandia Moreira ressaltou que discutir a inteligência artificial é crucial diante da velocidade das transformações tecnológicas. “A inteligência artificial é um tema extremamente atual. Ainda há muitos aspectos desconhecidos e, por isso, a CUT tem promovido reflexões sobre o assunto”, disse. A dirigente enfatizou a necessidade de aprender a usar a ferramenta para o benefício do trabalho e da organização sindical.

    Moreira também pontuou que, apesar dos avanços tecnológicos, a organização sindical permanece insubstituível. “Nada substitui a organização no local de trabalho, a conversa na rua e a mobilização. Precisamos combinar as duas coisas”, declarou, reforçando a importância de aliar tecnologia e ação coletiva.

    Algoritmos e controle no ambiente de trabalho

    O debate ocorreu em um contexto de rápida expansão da IA no mercado. Empresas já utilizam algoritmos para automatizar decisões de gestão, justificar demissões e reorganizar processos produtivos. No trabalho por aplicativo, sistemas digitais monitoram o desempenho e impactam diretamente a remuneração.

    Thiago Salvador alertou para mecanismos de controle, como a gamificação, onde elementos de jogos são aplicados para estimular a produtividade constante. Essa prática, segundo ele, aumenta o desempenho e o controle sobre os trabalhadores autônomos.

    Riscos sociais e políticos da inteligência artificial

    Os participantes também abordaram os riscos sociais e políticos da IA. Um ponto crítico foi a presença de vieses algorítmicos, que reproduzem discriminações raciais e sociais. Casos de reconhecimento facial resultando em punições injustas a trabalhadores negros foram citados como exemplo das falhas e da necessidade de maior controle público.

    Outro tema discutido foi o uso da IA para disseminar desinformação e manipular o debate político. “A inteligência artificial tem sido usada para espalhar fake news e conteúdos de ódio. É nosso papel combater mentiras e disputar, nas redes e nas ruas, qual projeto de país queremos para o Brasil”, alertou Juvandia Moreira.

    Comunicação sindical na disputa de ideias

    Maria Faria, secretária nacional de Comunicação da CUT, avaliou que o evento foi fundamental para ampliar o debate sobre comunicação e tecnologia no movimento sindical. “Os debates colocados aqui ajudam a pensar os desafios da comunicação e as ferramentas que teremos para enfrentar o próximo período”, afirmou.

    Ela concluiu que fortalecer a comunicação sindical e aumentar a presença da CUT nas redes sociais são estratégias essenciais para a disputa de ideias e a defesa da democracia no país.

  • CUT debate impactos da inteligência artificial no trabalho e na democracia

    CUT debate impactos da inteligência artificial no trabalho e na democracia

    CUT debate impactos da inteligência artificial no trabalho e na democracia

    A Central Única dos Trabalhadores (CUT) promoveu um debate crucial sobre os impactos da inteligência artificial (IA) no mundo do trabalho e na democracia. O evento, realizado em São Paulo no primeiro dia do 10º Encontro Nacional de Comunicação da CUT, reuniu especialistas e trabalhadores para discutir como as novas tecnologias afetam as relações laborais e o debate público.

    O foco principal da discussão foi a necessidade de a classe trabalhadora compreender e se apropriar dessas ferramentas. Thiago Salvador, produtor de conteúdo e ativista pela regulação da IA, destacou que a tecnologia já é uma realidade cotidiana e pode ser empregada tanto para o controle quanto para o fortalecimento da organização social. “Quando a gente começa essa conversa e aproxima as pessoas da inteligência artificial, desmistificamos o tema. Essa tecnologia já é usada contra nós. Se a classe trabalhadora aprender a utilizá-la a seu favor, pode avançar muito”, afirmou Salvador.

    Tecnologia e organização sindical

    Juvandia Moreira, vice-presidenta da CUT, ressaltou a urgência de debater a inteligência artificial diante da celeridade das mudanças tecnológicas. “A inteligência artificial é um tema extremamente atual. Ainda há muitos aspectos desconhecidos e, por isso, a CUT tem promovido reflexões sobre o assunto. Precisamos aprender a usar essa ferramenta a favor do nosso trabalho e da nossa organização”, declarou.

    Moreira enfatizou que, apesar dos avanços tecnológicos, a organização sindical permanece insubstituível. “Nada substitui a organização no local de trabalho, a conversa na rua e a mobilização. Precisamos combinar as duas coisas”, defendeu.

    Algoritmos e controle no trabalho

    O debate ocorreu em um cenário de crescente adoção da IA pelo mercado de trabalho. Empresas têm utilizado algoritmos para automatizar decisões de gestão, justificar demissões e reorganizar processos. No trabalho por aplicativo, por exemplo, sistemas digitais monitoram o desempenho e impactam diretamente a remuneração, além de implementarem mecanismos de controle.

    Thiago Salvador apontou que muitas empresas adotam estratégias de gamificação, inspiradas em jogos digitais, com metas, pontuações e recompensas para estimular a produtividade constante e aumentar o controle sobre os trabalhadores autônomos.

    Riscos sociais e políticos

    Os riscos sociais e políticos da IA também foram pauta central. A presença de vieses algorítmicos foi um dos pontos levantados, onde sistemas podem reproduzir discriminações raciais e sociais presentes nos dados de treinamento. Casos de reconhecimento facial que levaram a punições injustas a trabalhadores negros ilustram falhas e a necessidade de maior controle público sobre o uso da tecnologia.

    Outro tema preocupante foi o uso da IA para disseminar desinformação e manipular o debate político em redes sociais. “A inteligência artificial tem sido usada para espalhar fake news e conteúdos de ódio. É nosso papel combater mentiras e disputar, nas redes e nas ruas, qual projeto de país queremos para o Brasil”, alertou Juvandia Moreira.

    Comunicação sindical e disputa de ideias

    Maria Faria, secretária nacional de Comunicação da CUT, avaliou que o encontro atingiu seu objetivo de aprofundar a discussão sobre comunicação e tecnologia no movimento sindical. “Os debates colocados aqui ajudam a pensar os desafios da comunicação e as ferramentas que teremos para enfrentar o próximo período, especialmente em um ano que exige muita organização e clareza política”, afirmou.

    Ela concluiu que fortalecer a comunicação sindical e expandir a presença da CUT nas redes sociais são estratégias essenciais para a disputa de ideias na sociedade e para a defesa da democracia.

  • Armas e algoritmos: como a IA está transformando as estratégias militares

    Armas e algoritmos: como a IA está transformando as estratégias militares

    Armas e Algoritmos: O Impacto da IA nas Estratégias do Front

    A guerra no Oriente Médio tem servido como um laboratório prático para observar o avanço da Inteligência Artificial (IA) no âmbito militar. Fernando Barra, autor de “Inteligência Artificial Ampliada”, define esse cenário como a “amplificação de sistemas de decisão”. Longe de substituir o comando humano, a IA atua como um catalisador, aumentando a velocidade operacional e a inteligência tática. Essa revolução redefine o front em três dimensões cruciais: análise massiva de dados, automação de sistemas de defesa e precisão estratégica.

    Em um ambiente onde cada milissegundo pode significar a diferença entre a sobrevivência e a derrota, a tecnologia não se limita a mudar as armas. Ela altera a própria lógica da soberania militar e a forma como as informações são processadas no campo de batalha. O impacto principal é estrutural, pois a IA reduz drasticamente o tempo entre a obtenção de informação e a tomada de decisão. Essa agilidade, medida em minutos ou segundos, tem o potencial de reescrever estratégias inteiras.

    A inteligência artificial redefinindo a guerra moderna

    A inteligência artificial está alterando a escala e a velocidade dos conflitos. Tradicionalmente, as decisões militares dependiam da análise humana de dados de satélite, inteligência e comunicações de campo. Atualmente, plataformas de IA processam volumes massivos de informação em tempo real. Isso possibilita a identificação de alvos, a previsão de movimentos logísticos, a análise detalhada de imagens de satélite e até a coordenação de sistemas de ataque e bombas autônomas com uma rapidez que nenhuma equipe humana conseguiria replicar.

    “O impacto principal não é apenas tecnológico, mas estrutural: a IA está reduzindo o tempo entre informação e decisão. Em um ambiente de guerra, essa diferença de minutos ou segundos pode redefinir estratégias inteiras”, explica Barra. Essa capacidade transforma a forma como os exércitos operam, tornando a informação uma ferramenta ainda mais poderosa.

    Três dimensões de influência da IA no campo de batalha

    A tecnologia de IA já impactou significativamente as dinâmicas de guerra em três frentes importantes:

    • Inteligência e reconhecimento: A IA é utilizada para analisar imagens de drones, satélites e sensores. Isso permite identificar movimentações militares e padrões que seriam quase impossíveis de detectar manualmente.
    • Automação de sistemas de combate: Inclui drones semiautônomos e sistemas de defesa que tomam decisões em frações de segundo.
    • Guerra informacional: Algoritmos monitoram populações e amplificam propaganda, desinformação e operações psicológicas em larga escala.

    O futuro pode reservar o desenvolvimento de armas totalmente autônomas, capazes de selecionar e atacar alvos sem intervenção humana direta. Além disso, a IA estratégica, usada para simular cenários de guerra e orientar decisões geopolíticas, promete um deslocamento do poder militar. Isso significa que o domínio não será apenas para quem possui mais armamento, mas para quem desenvolver melhores sistemas de decisão baseados em dados.

    Big Techs e o dilema ético da IA militar

    O papel das grandes empresas de tecnologia (Big Techs) neste contexto é central. Grande parte do desenvolvimento de IA está concentrada nelas, tornando-as as principais fornecedoras de dados e tecnologia. Isso cria uma situação inédita na história: tecnologias estratégicas sendo desenvolvidas inicialmente no setor privado e posteriormente incorporadas por governos.

    O caso recente envolvendo a OpenAI e a Anthropic com o governo dos Estados Unidos ilustra esse dilema. Enquanto algumas empresas buscam impor limites éticos ao uso militar da tecnologia, governos argumentam que essas capacidades são essenciais para a segurança nacional. Essa tensão levanta uma discussão complexa sobre até que ponto as Big Techs podem ou devem definir limites éticos para tecnologias que afetam a segurança global.

    “Talvez a pergunta mais importante sobre inteligência artificial na guerra não seja o que a tecnologia consegue fazer, mas quem controla os sistemas que ela está amplificando”, pondera Barra. A IA está se tornando uma infraestrutura de poder geopolítico, e a governança internacional sobre seu uso militar, semelhante à existente para armas nucleares ou químicas, pode se tornar uma necessidade nos próximos anos.