Cientista critica Thomas Friedman: IA não é “pensamento mágico”

Melanie Mitchell rebate colunista do NYT sobre superinteligência e regulação da IA.

A visão de Friedman sobre IA é desprovida de embasamento científico, segundo especialista.

A renomada cientista cognitiva Melanie Mitchell fez um pronunciamento contundente contra as recentes publicações do colunista do New York Times, Thomas Friedman, a respeito da inteligência artificial (IA). Mitchell acusa Friedman de praticar o que ela denomina de “pensamento mágico” em sua abordagem sobre o tema, especialmente no que tange à evolução da IA e à iminência de uma “superinteligência”.

Em suas colunas, Friedman tem defendido uma colaboração internacional, incluindo os Estados Unidos e a China, para a regulamentação da inteligência artificial. Ele também tem alertado sobre a possibilidade de estarmos próximos de uma “superinteligência”, um conceito que, segundo Mitchell, carece de fundamentação científica sólida e se baseia em interpretações equivocadas e especulações.

A base argumentativa de Friedman, conforme apontado por Mitchell, reside em grande parte em conversas com seu amigo Craig Mundie, ex-executivo da Microsoft, e em reportagens divulgadas pela mídia. Contudo, Mitchell enfatiza que essas fontes não oferecem o rigor científico necessário para embasar tais afirmações sobre o avanço da IA. Ela desmistifica exemplos citados por Friedman, como a IA “ensinando a si própria” novos idiomas ou chatbots desenvolvendo agendas independentes, explicando que tais fenômenos podem ser compreendidos através do treinamento com vastos conjuntos de dados e que já foram refutados pela comunidade científica.

O perigo de atribuir poderes sobrenaturais à inteligência artificial.

Para Melanie Mitchell, a forma como Thomas Friedman retrata a inteligência artificial se assemelha a um “pensamento mágico”. Ela argumenta que atribuir à IA poderes que beiram o sobrenatural, quando na verdade esses “dons” derivam dos dados fornecidos por humanos e de mecanismos de aprendizado relativamente simples, pode ser prejudicial. Esse tipo de narrativa, segundo Mitchell, corre o risco de criar mitos e distorcer a compreensão pública sobre o que a inteligência artificial realmente é e o que ela pode fazer.

A cientista cognitiva ressalta que a inteligência artificial, em sua forma atual, é uma ferramenta poderosa, mas que opera com base em algoritmos e dados. A ideia de uma IA autônoma, com vontades e capacidades que escapam ao controle humano, é, para ela, uma projeção de desejos e medos humanos, em vez de uma realidade tecnológica iminente. A simplificação excessiva e a atribuição de intencionalidade a sistemas que processam informações podem levar a conclusões precipitadas e a uma regulamentação inadequada.

Mitchell defende que, em vez de se perder em cenários especulativos e muitas vezes alarmistas, a discussão sobre IA deveria se concentrar em um realismo fundamentado em fatos. A prioridade, segundo ela, deve ser uma compreensão clara das capacidades e limitações atuais da tecnologia, permitindo assim o desenvolvimento de uma regulação que seja verdadeiramente eficaz e conduzida por seres humanos, com base em princípios éticos e objetivos concretos.

Regulação da IA: a necessidade de um olhar humano e factual.

A proposta de Thomas Friedman de uma colaboração estreita entre EUA e China para a regulação da IA, embora com boas intenções, pode ser ofuscada por sua visão inflada sobre a capacidade da IA. Mitchell sugere que a urgência em regular “superinteligências” inexistentes desvia o foco de questões mais prementes e concretas:

• Segurança e viés algorítmico: Como garantir que os sistemas de IA sejam seguros, justos e não perpetuem preconceitos existentes na sociedade.
• Impacto no mercado de trabalho: Como lidar com as transformações que a automação impulsionada pela IA trará para o mundo do trabalho.
• Privacidade e uso de dados: Como proteger os dados pessoais em um mundo cada vez mais orientado por algoritmos.

Mitchell argumenta que a regulamentação deve ser um processo contínuo e adaptativo, guiado por especialistas e pela sociedade civil, e não por previsões apocalípticas. A inteligência artificial, como ferramenta, reflete os valores e as intenções de seus criadores e usuários. Portanto, o foco principal da regulamentação deve ser o comportamento humano e a aplicação ética da tecnologia.

A cientista cognitiva conclui seu posicionamento reforçando a importância de uma abordagem cautelosa e baseada em evidências. O “pensamento mágico” sobre IA pode levar a decisões equivocadas e a um medo irracional, dificultando o aproveitamento dos benefícios reais que a tecnologia pode oferecer, quando utilizada de forma responsável e com os devidos cuidados. A inteligência artificial é um campo em rápida evolução, e a clareza na comunicação e na análise é fundamental para navegar seus desafios e oportunidades.