Blog de IA

Tag: Proteção de dados

  • Inteligência artificial e rotulagem obrigatória: um debate urgente

    Inteligência artificial e rotulagem obrigatória: um debate urgente

    Inteligência artificial e rotulagem obrigatória

    A rápida evolução da inteligência artificial (IA) generativa tem levantado preocupações globais sobre a veracidade do conteúdo que consumimos. A escalada do conflito no Oriente Médio, por exemplo, foi marcada pela disseminação em tempo real de vídeos e imagens, uma parte significativa dos quais, segundo o O Globo [1], era falsa ou manipulada por IA. Esse cenário, que se repetiu em tragédias como as chuvas em Minas Gerais, onde imagens falsas circularam em meio à comoção, evidencia a necessidade urgente de medidas para distinguir o real do artificial.

    O uso de IA para criar narrativas contrafactuais, embora possa ter fins lúdicos, como a famosa imagem do Papa Francisco com um casaco estiloso em 2023 [3], também pode servir a propósitos perigosos. Governos poderiam usá-la para manipular informações sobre guerras, ou indivíduos para espalhar pânico e desinformação. A facilidade de acesso a ferramentas de IA por qualquer usuário de smartphone amplia esse risco, como visto em vídeos de líderes políticos anunciando rendições ou em falsas explosões próximas a edifícios governamentais [4, 5].

    Usos comerciais e o grave risco de manipulação

    No âmbito comercial, a IA tem sido empregada para promover produtos e serviços de forma enganosa. Um exemplo notório foi um vídeo falso do ex-jogador Ronaldo Fenômeno promovendo um jogo de azar, que permaneceu no ar por meses, gerando vendas antes de ser removido pela Meta [6]. O cenário se torna ainda mais alarmante com o surgimento de ferramentas como o Grok, do X (antigo Twitter). Lançado em dezembro de 2024, o Grok, além de suas funcionalidades de resposta, passou a gerar imagens fictícias a partir de pessoas reais. No início de 2026, usuários utilizaram a ferramenta para criar montagens sexualizadas e pornográficas, inclusive envolvendo crianças, levantando sérias questões éticas e legais [7].

    Os dados indicam uma escalada preocupante: pesquisas apontam para um crescimento de 308% em conteúdos falsos criados por IA no Brasil entre 2024 e 2025 [8]. O crescente realismo dessas criações dificulta cada vez mais a distinção entre o que é genuíno e o que é fabricado, tornando imperativa a adoção de medidas de controle.

    Avanços na regulação: Coreia do Sul e China como exemplos

    Diante deste panorama, a regulamentação da IA se torna um tema central. A Coreia do Sul, pioneira na matéria, aprovou em dezembro de 2024 a “Lei Básica sobre IA”, em vigor desde janeiro de 2026. Esta legislação exige que empresas informem os consumidores sobre o uso de IA generativa em seus produtos e serviços, além de identificar claramente conteúdos produzidos por essas tecnologias quando não puderem ser facilmente diferenciados da realidade. A lei sul-coreana prevê multas significativas para os infratores, buscando criar uma “base segura e confiável para apoiar a inovação em IA” [9].

    A China também implementou diretrizes para a rotulagem obrigatória de materiais gerados por IA e recomendações automatizadas [10]. Esses exemplos internacionais demonstram um movimento global em direção à transparência.

    O Brasil e a regulamentação em andamento

    O Brasil ainda não possui uma lei abrangente dedicada à IA, embora o Projeto de Lei nº 2338/2023 esteja em debate no Senado Federal. Contudo, não há um vácuo normativo total. O Código Civil, em seu artigo 20, já permite a proteção da imagem e voz contra exploração ilícita por ferramentas de IA [11]. A Lei Geral de Proteção de Dados Pessoais (LGPD) também coíbe tais práticas.

    Em um contexto eleitoral, o Tribunal Superior Eleitoral (TSE) deu um passo importante ao aprovar, em março de 2026, a Resolução 23.755/2026. A nova norma altera a Resolução 23.610/2019 e estabelece regras claras para o uso de IA nas eleições. Entre as proibições, destacam-se a impossibilidade de sistemas de IA indicarem ou sugerirem candidatos e a vedação à circulação de conteúdos gerados artificialmente nas 72 horas anteriores e 24 horas posteriores ao pleito [13].

    O TSE também impõe a rotulagem obrigatória de conteúdo produzido por IA em propaganda eleitoral. A resolução determina que, ao utilizar IA para criar, modificar ou manipular imagens ou sons, o responsável pela propaganda deve informar de maneira explícita, destacada e acessível que o conteúdo foi fabricado ou manipulado e qual tecnologia foi empregada [14]. Essa exigência de rotulagem se estende a chatbots e avatares, com a vedação de simulações de interlocução com candidatos ou pessoas reais. A violação acarreta a remoção imediata do conteúdo ou a indisponibilidade do serviço [15].

    A rotulagem como ferramenta de mitigação de riscos

    A rotulagem obrigatória, nos moldes do que já preconiza o Código de Defesa do Consumidor ao exigir que a publicidade seja facilmente identificável [16], visa mitigar os riscos de práticas danosas sem proibi-las por completo. Ao informar os destinatários sobre a intervenção tecnológica, permite que a avaliação da mensagem seja feita com base no juízo crítico individual, ciente de que há uma manipulação artificial.

    A proliferação descontrolada de conteúdos falsos via IA, exemplificada em eventos internacionais e nacionais, reforça a urgência da rotulagem obrigatória. Em um ano eleitoral sensível para a democracia brasileira, essa medida se configura como um escudo essencial contra a manipulação da sociedade, garantindo que os cidadãos possam tomar decisões informadas, com plena ciência da origem do conteúdo que consomem.

  • Conselho médico brasileiro estabelece marco regulatório para uso de IA na medicina

    Conselho médico brasileiro estabelece marco regulatório para uso de IA na medicina

    Conselho médico brasileiro estabelece marco regulatório para uso de IA na medicina

    Em uma medida significativa para o futuro da saúde no Brasil, o Conselho Federal de Medicina (CFM) publicou a Resolução CFM nº 2.454/2026, estabelecendo um novo marco regulatório para a aplicação da Inteligência Artificial (IA) na medicina. A resolução, que entrará em vigor em agosto de 2026, traz consigo importantes diretrizes e obrigações tanto para os médicos quanto para as instituições de saúde.

    A nova regulamentação visa garantir o uso ético e seguro da IA, ao mesmo tempo em que protege os direitos e deveres dos profissionais médicos. O objetivo é integrar essas tecnologias de forma responsável, assegurando que a qualidade do atendimento e a relação médico-paciente sejam preservadas. Essa iniciativa reflete um movimento global de adaptação da medicina às inovações tecnológicas.

    Direitos dos médicos no uso da IA

    A resolução do CFM detalha os direitos dos médicos ao empregar sistemas de IA, reafirmando sua autonomia na tomada de decisões clínicas. Entre os aspectos destacados, os profissionais têm a garantia de usar ferramentas de IA como suporte à prática médica, tomada de decisão clínica, gestão em saúde, pesquisa científica e estudo continuado, sempre respeitando os limites éticos e legais da profissão.

    Um ponto crucial é o direito de recusa. Médicos podem se recusar a utilizar sistemas de IA que não possuam validação científica adequada, certificação regulatória pertinente ou que contrariem princípios éticos, técnicos ou legais. Ademais, a norma estabelece que médicos não serão responsabilizados por falhas atribuídas exclusivamente a sistemas de IA, desde que a utilização da ferramenta tenha sido diligente, crítica e ética.

    Deveres dos médicos com a Inteligência Artificial

    Paralelamente aos direitos, a resolução impõe deveres claros aos médicos que utilizam IA. A autonomia profissional deve ser mantida, com a IA atuando estritamente como ferramenta de apoio. O julgamento crítico do médico permanece central nas decisões clínicas, diagnósticas, terapêuticas e prognósticas.

    É fundamental o julgamento crítico para avaliar informações e recomendações fornecidas pela IA, mantendo-se atualizado sobre as capacidades, limitações, riscos e vieses do sistema. A conformidade com os padrões éticos, técnicos, legais e regulatórios em vigor no Brasil é indispensável para o uso das ferramentas. Médicos também devem registrar no prontuário do paciente o uso de IA como suporte à decisão e garantir a privacidade dos dados de saúde, assegurando que sejam mantidos seguros, íntegros e confidenciais.

    A resolução também prevê a obrigatoriedade de relatar incidentes: quaisquer falhas, riscos relevantes ou uso inadequado de sistemas de IA devem ser comunicados às autoridades competentes.

    Obrigações das instituições de saúde

    As instituições de saúde também terão responsabilidades importantes sob a nova regulamentação. Haverá um responsável técnico pela supervisão e pelas diretrizes de segurança, ética e transparência no uso da IA. É preciso implementar mecanismos especializados de auditoria e monitoramento.

    Instituições que desenvolvem ou contratam modelos, sistemas e/ou aplicações de IA devem estabelecer processos de governança interna que garantam segurança, qualidade e ética, seguindo as medidas contidas no Anexo III da Resolução CFM nº 2.454/2026. Serão exigidas avaliações preliminares para determinar o grau de risco envolvido no uso dessas tecnologias.

    Para instituições que implementam sistemas próprios de IA, a criação de um Comitê de IA e Telemedicina, subordinado ao conselho técnico da entidade, será obrigatória. Este comitê garantirá a conformidade com as regras do CFM e o uso ético do sistema. Além disso, órgãos legitimamente interessados, como o próprio Conselho de Medicina, a Comissão Nacional de Ética em Pesquisa e o Ministério Público, terão acesso a relatórios de auditoria, monitoramento e configuração dos sistemas de IA.

    Relação médico-paciente e proteção de dados

    A resolução reforça que o uso de ferramentas de IA não deve comprometer a relação médico-paciente e deve respeitar o Código de Ética Médica. Pacientes têm o direito de serem informados quando modelos, sistemas e aplicações de IA forem utilizados em seu cuidado, diagnóstico ou tratamento.

    A proteção de dados é um pilar fundamental. Os dados utilizados para desenvolver, treinar, validar e implementar soluções de IA devem estar em estrita conformidade com a Lei Geral de Proteção de Dados (LGPD) e regulamentações específicas de segurança em saúde. Os dados, modelos, sistemas, aplicações e ambientes computacionais devem ser protegidos contra destruição, perda, alteração, acesso não autorizado ou vazamentos.

    O compartilhamento de dados pessoais de pacientes com modelos de IA deve ser estritamente necessário e seguir as bases legais da LGPD. O uso de dados para treinar, validar ou aprimorar sistemas de IA também deve obedecer a princípios éticos, científicos e de proteção de dados.

    Classificação de risco dos sistemas de IA

    Os modelos, sistemas e aplicações de IA na medicina serão categorizados por risco (baixo, médio, alto ou inaceitável), e seus níveis de risco deverão ser informados aos usuários. As definições incluem:

    • Baixo risco: Uso de IA com potencial mínimo ou inexistente de causar consequências negativas à saúde, direitos fundamentais ou segurança. Não exerce influência direta na tomada de decisão individual.
    • Médio risco: Aplicações com impactos potencialmente adversos que podem ser mitigados por supervisão humana e controles de segurança. A intervenção médica é capaz de prevenir danos mesmo em caso de mau funcionamento da IA.
    • Alto risco: Aplicações com alto potencial de causar danos físicos, psicológicos ou morais a indivíduos, ou gerar impactos relevantes na saúde pública, quando usadas de forma inadequada ou sem controle. Inclui sistemas que influenciam diretamente decisões médicas críticas ou realizam ações automatizadas com consequências clínicas significativas.
    • Risco inaceitável: (Definição não especificada no texto fonte, mas implicada pela categorização).

    Sistemas de alto risco exigem processos rigorosos de validação, auditorias regulares e monitoramento contínuo. Os Conselhos Regionais de Medicina serão responsáveis pela fiscalização e cumprimento da resolução em suas jurisdições.

    Contexto regulatório e futuro

    É importante notar que a resolução do CFM incorpora conceitos que estão em debate no âmbito de projetos de lei para regular a IA no Brasil. O Projeto de Lei nº 2.338/2023, que estabelece um marco legal federal para a IA, já foi aprovado pelo Senado em dezembro de 2024 e está em análise na Câmara dos Deputados. Outro projeto, o PL nº 2.688/2025, também propõe um marco regulatório.

    Caso esses projetos se tornem lei, as normas federais prevalecerão sobre regulamentos infra-legais, como as resoluções de conselhos profissionais. Portanto, qualquer disposição da Resolução CFM nº 2.454/2026 que conflite com a legislação federal poderá ser considerada ilegal e sujeita a revisão. Acompanhar os desdobramentos legislativos no âmbito federal será crucial para entender a consistência e possíveis ajustes necessários.

    A Resolução CFM nº 2.454/2026 representa um passo importante para a incorporação segura e ética da IA na prática médica brasileira, alinhando-se às discussões globais sobre o tema e preparando o terreno para futuras regulamentações federais.

  • Inteligência artificial e gestão por algoritmos desafiam futuro do trabalho e proteção jurídica

    Inteligência artificial e gestão por algoritmos desafiam futuro do trabalho e proteção jurídica

    Inteligência artificial e gestão por algoritmos desafiam futuro do trabalho e proteção jurídica

    A cada dia, a inteligência artificial (IA) e a gestão por algoritmos se tornam mais presentes nas relações de trabalho, trazendo consigo desafios sem precedentes para o Direito do Trabalho e a proteção de direitos fundamentais. Questões como discriminação em processos seletivos, controle do comportamento humano e a própria definição do que constitui trabalho são postas em xeque pela velocidade com que a tecnologia avança, superando a capacidade de regulamentação tradicional.

    Profissionais e estudiosos alertam que a subordinação tecnológica e a gestão algorítmica impõem dilemas urgentes relacionados à proteção de dados pessoais, privacidade e saúde mental dos trabalhadores. A complexidade dessas novas dinâmicas exige uma reavaliação das estruturas jurídicas existentes e a busca por soluções que garantam dignidade e equidade no ambiente profissional contemporâneo.

    Algoritmos na seleção e gestão de pessoal

    O uso de algoritmos não se limita a plataformas digitais; ele já permeia diversos setores, desde linhas de produção até áreas administrativas. A professora Teresa Coelho Moreira, da Universidade do Minho, destaca um cenário preocupante: a possibilidade de um trabalhador ser eliminado de uma seleção profissional por questões discriminatórias geradas pelos próprios algoritmos. Isso ocorre quando o sistema, ao ser treinado com base em dados históricos de contratação, pode perpetuar vieses, como a preferência por um gênero específico, por exemplo.

    “Se um empregador tem uma política de seleção em que a maior parte dos trabalhadores são homens, imagine o que o algoritmo vai fazer quando tiver que escolher os candidatos?”, questiona Moreira. O resultado é que a pessoa se torna gerida por um algoritmo, como se fosse um novo supervisor, tomando decisões que antes cabiam a um gestor humano.

    Proteção de dados e a insuficiência da visão individual

    Embora existam regulamentações como a Lei Geral de Proteção de Dados (LGPD), a professora Teresa Coelho Moreira avalia que a proteção individual na relação entre empregado e empregador já não é mais suficiente para abarcar os desafios impostos pela gestão algorítmica.

    É necessário pensar em defesa coletiva em relação à gestão algorítmica nas relações de trabalho. Uma visão mais ampla é fundamental, com atenção especial aos chamados riscos inaceitáveis e restrições à aplicação da inteligência artificial em detrimento dos direitos humanos.

    O futuro das profissões e a renda básica

    O avanço tecnológico ocorre em um ritmo superior ao da regulamentação. A defensora pública da União, Viviane Dallasta Del Grossi, aponta o debate sobre a renda básica universal como um reflexo dessa realidade. Se implementada, essa medida poderia deslocar o foco principal do Direito do Trabalho para a garantia de renda, mas é crucial lembrar que o direito ao trabalho em si também precisa ser assegurado.

    A legislação trabalhista vai além da proteção do trabalhador e da sua renda; ela também regulamenta os poderes gerenciais do empregador. Nesse contexto, é preciso garantir o direito à desconexão, impedindo que a tecnologia seja usada para prejudicar a integridade humana. “O direito à desconexão também é o resgate da nossa humanidade”, ressalta Del Grossi.

    Controle comportamental e o trabalhador como dado

    O juiz do trabalho Bruno Rodrigues, do TRT da 3ª Região (MG), oferece uma perspectiva sociológica, indicando que o trabalhador está sendo tratado como um dado em um novo padrão de gestão algorítmica. Um algoritmo que induz o comportamento necessário para atender demandas de mercado pode acabar tendo controle total sobre a conduta humana.

    Impactos globais e regionais da automação

    Dados apresentados em debates evidenciam a necessidade urgente de regulação jurídica. Segundo a Organização Internacional do Trabalho (OIT), a IA acelerará a automação, podendo afetar entre 26% a 38% dos empregos na América Latina e no Caribe. Os postos de trabalho restantes tenderão a ser mais autônomos. O Fundo Monetário Internacional (FMI) projeta que a IA impactará 40% dos postos de trabalho em todo o mundo.

    O desafio da regulamentação e o reconhecimento do trabalho plataformizado

    O deputado federal Augusto Coutinho (Republicanos/PE), relator do tema na Câmara, reconhece a sensibilidade e polêmica da regulamentação do trabalho plataformizado, mas a considera necessária. A busca é por um equilíbrio que considere trabalhadores, empresas e instituições.

    O ministro Guilherme Boulos, da Secretaria-Geral da Presidência da República, defende que motoristas e entregadores sejam reconhecidos como trabalhadores, com direito à Justiça do Trabalho. Ele critica a legitimação de vínculos fora da CLT que não condizem com a realidade e aponta que o trabalho plataformizado amplia brechas para a precarização. Pontos centrais para a regulamentação incluem remuneração mínima, transparência do algoritmo e direito à previdência.

    Precarização e regulação unilateral das plataformas

    O procurador regional do trabalho Ilan Fonseca de Souza relatou sua experiência como motorista de aplicativo, descrevendo mecanismos de controle como reconhecimento facial e monitoramento contínuo, que levam à precarização, jornadas longas e queda de rendimento. A dinâmica algorítmica influencia decisões de rota e preço, com pouca margem para negociação e supervisão intensiva.

    O juiz Murilo Carvalho Sampaio Oliveira, do TRT da 5ª Região (BA), aponta que os termos de uso das plataformas criam uma regulação unilateral e autoritária, com regras que beneficiam as empresas e impõem deveres aos trabalhadores, além de alterações contratuais frequentes e punições sem garantias de defesa. Qualquer regulamentação deve respeitar a Constituição, o devido processo legal e proteger o trabalho, especialmente diante de bloqueios arbitrários que afetam a subsistência dos trabalhadores.