Tag: IA responsável

  • Como usar ferramentas de IA de forma responsável: o conselho de especialistas

    Como usar ferramentas de IA de forma responsável: o conselho de especialistas

    Três anos após o lançamento do ChatGPT, a inteligência artificial (IA) consolidou sua presença. Uma pesquisa recente indica que um terço dos adultos nos EUA já utiliza ferramentas como o ChatGPT, com essa proporção dobrando entre os mais jovens. Essa divisão crescente entre usuários e não usuários torna crucial uma discussão aberta sobre o uso ético e eficaz da IA. Especialistas oferecem um guia prático para navegar neste cenário.

    A inteligência artificial, em suas diversas formas, tornou-se uma ferramenta poderosa. No entanto, sua utilização demanda discernimento e responsabilidade. Especialistas alertam que, embora a IA possa ampliar nossas capacidades, é fundamental mantê-la como um complemento, e não um substituto, para o julgamento humano.

    Brainstorming e organização de ideias

    Para iniciar, a IA pode ser um parceiro valioso no brainstorming. Timothy B. Lee, autor da newsletter Understanding AI, sugere utilizá-la para gerar ideias e detalhar projetos em etapas menores. A ferramenta pode ajudar a superar bloqueios criativos ou refinar pensamentos, funcionando como um verdadeiro “parceiro de pensamento”, segundo Catherine Goetze, criadora de conteúdo e educadora em IA.

    No entanto, a revisão final deve sempre ser guiada pelo seu próprio julgamento, experiência e bom gosto. A IA é mais eficaz em tarefas onde você já sabe qual é a resposta correta. Ela pode ser uma excelente porta de entrada para novas ideias ou para organizar o que já está em andamento.

    Pesquisa e aprendizado de novas habilidades

    Em pesquisas mais extensas, a IA pode fornecer resumos do que já foi publicado sobre um tema, funcionando de maneira similar à Wikipedia, mas com a necessidade de verificação de fontes. Ferramentas como Claude, ChatGPT e Perplexity oferecem recursos de “pesquisa profunda” que vasculham documentos e os sumarizam em relatórios. Lee destaca que essas respostas podem incluir fontes primárias e links, permitindo a conferência.

    A IA também é útil para quem deseja expandir horizontes, aprendendo novas habilidades ou hobbies. Ella Hafermalz, professora associada na Vrije Universiteit Amsterdam, que estuda o impacto da IA no trabalho, relata seu uso para aprender sobre investimento ou até mesmo para descobrir novas receitas. A IA pode “tirar as pessoas do zero” em atividades com barreiras de entrada elevadas, como o medo ou a falta de conhecimento inicial. Contudo, é recomendado usá-la como um ponto de partida para tarefas de menor risco, onde o usuário mantém a autoridade final.

    Para organizar informações de projetos, a IA pode ajudar a identificar temas, responder perguntas e gerar cronogramas. Hafermalz recomenda o NotebookLM, do Google, que utiliza apenas os documentos carregados pelo usuário, oferecendo um ambiente mais controlado, ideal para historiadores e pesquisadores que não desejam que a IA busque informações aleatórias na web.

    Otimizando resultados com IA

    Embora a importância do “prompt” exato esteja diminuindo, dar mais contexto à IA melhora a qualidade das respostas. Lee adiciona que ferramentas líderes respondem de forma mais intuitiva a linguagens casuais.

    Goetze sugere pensar na interação com a IA não como um “prompt”, mas como uma conversa fluida, onde o “back-and-forth” (troca contínua) é onde a mágica acontece. Permitir que a IA acesse websites e PDFs que você indicar pode ser muito útil. Por exemplo, é possível enviar um contrato de telefone e pedir para a IA destacar termos importantes ou oportunidades de economia.

    Uma técnica interessante é o “reverse-prompt”: quando travada em um documento, Goetze pediu ao ChatGPT para gerar cinco perguntas que a ajudassem a avançar, obtendo novas perspectivas.

    É essencial checar todas as respostas da IA. Apesar de estarem melhorando, elas ainda precisam ser verificadas contra fontes primárias e confiáveis. Modelos de IA podem não apenas repetir falsidades, mas também inventar informações, um fenômeno conhecido como “alucinação”.

    Goetze enfatiza: “Verifique suas fontes, verifique esses links, verifique as datas das fontes.”

    Evitando armadilhas e garantindo controle

    É possível que o uso de IA encolha nosso mundo e diminua nossas habilidades se tratada como um atalho ou etapa final, e não como um primeiro passo. Usar IA para gerar roteiros que são lidos sem revisão, por exemplo, seria um uso excessivo que prejudicaria a criatividade, segundo Goetze.

    A linha entre conteúdo gerado por humanos e por IA está se tornando cada vez mais tênue. Por enquanto, a transparência é fundamental, evitando plágio e violações de direitos autorais.

    O perigo de depender excessivamente de respostas de IA é real. “Você não quer ficar em um loop de feedback com a IA – você acabará em lugares sombrios”, adverte Hafermalz. Ela recomenda definir um objetivo claro a cada uso e aumentar gradualmente o envolvimento, sempre mantendo o controle. A IA deve ser um “degrau”, não uma “prisão”, ajudando a alcançar outros objetivos e a verificar informações no mundo real.

  • Unesco reconhece projetos da USP São Carlos entre as principais soluções de inteligência artificial para desafios globais

    Unesco reconhece projetos da USP São Carlos entre as principais soluções de inteligência artificial para desafios globais

    Unesco reconhece projetos da USP São Carlos entre as principais soluções de inteligência artificial para desafios globais

    Três projetos brasileiros, com destaque para dois desenvolvidos no Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, foram selecionados para o TOP 100 2025 do Centro Internacional de Pesquisa em Inteligência Artificial (IRCAI). Essa prestigiosa lista, sob os auspícios da Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco), reconhece anualmente soluções de inteligência artificial (IA) que demonstram ser responsáveis, escaláveis e sustentáveis, voltadas para o enfrentamento de desafios urgentes da humanidade e alinhadas aos Objetivos de Desenvolvimento Sustentável (ODS).

    O reconhecimento destaca o potencial transformador da IA quando aplicada a problemas complexos. Em vez de focar no frenesi em torno de modelos de linguagem genéricos, a seleção dá holofote a iniciativas com benefícios concretos, especialmente na área da saúde. Os projetos BioAutoML e BioPrediction, oriundos do ICMC, exemplificam essa aplicação direta e impactante.

    BioAutoML: democratizando a análise biológica

    Desenvolvido pelo pós-doutorando Robson Bonídia, o BioAutoML é uma solução inovadora que permite análises aprofundadas de sequências biológicas. Sua funcionalidade abrange a identificação de patógenos e o desenvolvimento de novos medicamentos, democratizando o acesso a ferramentas que podem converter dados biológicos complexos em conhecimento prático e aplicável.

    Robson Bonídia ressalta a importância de tornar essas tecnologias acessíveis: “Imagine, por exemplo, um pesquisador que estuda câncer em um grande centro, com acesso a muitos pacientes, infraestrutura e recursos tecnológicos. A partir da nossa plataforma, ele pode transformar esse conhecimento em um modelo de inteligência artificial e disponibilizá-lo para outros centros que não têm o mesmo acesso, contribuindo para reduzir desigualdades e acelerar avanços na pesquisa e no cuidado em saúde.”

    O BioAutoML foi classificado como excepcional, uma categoria que reúne iniciativas com maior proximidade de gerar impacto social concreto. Essa solução já alcançou mais de 40 mil acessos e downloads em aproximadamente 50 países, com cerca de 230 citações em artigos científicos, consolidando seu valor acadêmico e prático.

    BioPrediction: acelerando a descoberta de novas terapias

    Já o BioPrediction, criado pelo doutorando Bruno Rafael Florentino, foca na análise da interação entre vírus e proteínas humanas. Essa capacidade facilita a descoberta de novas terapias, abrindo caminhos promissores para o combate a doenças.

    O professor André de Carvalho, diretor do ICMC e orientador dos projetos, destaca que as ferramentas colaboram diretamente com o ODS 3 da ONU, que visa garantir uma vida saudável e promover o bem-estar para todos. “As ferramentas podem ser utilizadas para acelerar pesquisas, ampliando a capacidade de diagnóstico e permitindo que especialistas da saúde desenvolvam e compartilhem soluções baseadas em inteligência artificial sem depender de formação avançada em computação”, afirma.

    O BioPrediction foi listado na categoria promissor, indicando um projeto em estágio inicial com alto potencial de escalabilidade e impacto futuro. O trabalho de Bruno já foi reconhecido com a medalha de ouro Thomas Clarkson no Global Undergraduate Award 2024.

    O processo de seleção e o impacto global

    A seleção para o TOP 100 do IRCAI é um processo rigoroso que envolve propostas de mais de 30 países. Os projetos são avaliados por comitês especializados, considerando o uso de ciência de dados, aprendizado de máquina, contribuição mensurável para os ODS, práticas de IA responsável e evidências de impacto real ou potencial.

    Além de eleger os 100 melhores, o IRCAI classifica as iniciativas em quatro categorias: excepcional, excelentes, promissores e em estágio inicial. O BioAutoML destacou-se entre os 15 projetos com classificação mais elevada, demonstrando elevado grau de inovação e grande potencial de impacto social.

    Robson Bonídia expressa otimismo quanto a uma possível classificação ainda mais proeminente, com a expectativa de que o IRCAI anuncie os dez projetos de maior destaque global. “Estou ansioso para essa classificação, acho que temos grande chance, há somente três projetos da área da saúde”, relata.

    Avanços e democratização na pesquisa em IA

    A nova geração da ferramenta, o BioAutoML-FAST, desenvolvida em colaboração com Breno de Almeida, da Universidade de Leipzig, leva a democratização ainda mais adiante. Agora, a solução oferece uma plataforma online acessível, eliminando a necessidade de instalação local e tornando as análises mais transparentes e interpretáveis.

    “A versão anterior exigia a instalação da ferramenta no computador local, e agora, isso não é mais necessário. A ferramenta também passou a oferecer diversas visualizações e recursos que tornam as análises mais transparentes e interpretáveis, ou seja, permitem entender como e por que chegaram a tais resultados”, explica Breno de Almeida. Essa melhoria na interpretabilidade é crucial para superar um dos grandes desafios da área de aprendizado de máquina.

    A plataforma agora conta com um repositório de modelos pré-treinados e suporta diversos tipos de dados biológicos, como sequências de RNA não codificantes, que desempenham um papel fundamental na regulação celular e em processos relacionados a doenças. Os resultados em testes recentes mostram performance comparável ou superior a modelos de aprendizado profundo, com maior transparência.