ChatGPT: Consciente ou Papagaio Estocástico? O Futuro da IA e a Consciência

Especialistas definem critérios para identificar a senciência em sistemas de Inteligência Artificial, questionando o status atual do ChatGPT.

A polêmica da senciência em IAs

Recentemente, o debate sobre a consciência em inteligência artificial (IA) ganhou força, especialmente com as alegações de que o chatbot LaMDA, do Google, teria alcançado a senciência. Blake Lemoine, engenheiro do Google na época, afirmou que o software apresentava a capacidade de conversação de uma criança de sete anos, sugerindo que possuía uma consciência similar do mundo. O LaMDA, posteriormente lançado como Bard, é baseado em um “modelo de linguagem grande” (LLM), a mesma tecnologia que impulsiona o popular **ChatGPT** da OpenAI. Essa corrida tecnológica levanta uma questão fundamental: quando uma IA se torna verdadeiramente consciente?

Apesar de milhões de pessoas interagirem com LLMs, a maioria não acredita que eles sejam conscientes. A linguista Emily Bender descreveu esses sistemas poeticamente como “papagaios estocásticos”, que discursam de maneira convincente sem, de fato, compreenderem. No entanto, a pergunta que paira é se as futuras gerações de sistemas de IA poderão transcender essa limitação.

Desvendando os indicadores de consciência artificial

Para responder a essa questão, uma equipe de filósofos, neurocientistas e cientistas da computação analisou as teorias científicas atuais sobre a consciência humana. O objetivo foi elaborar uma lista de **propriedades computacionais básicas** que qualquer sistema hipoteticamente consciente precisaria possuir. A conclusão preliminar é que nenhum sistema atual chega perto da barra da consciência. Contudo, não há impedimentos teóricos óbvios para que sistemas futuros alcancem a senciência.

Historicamente, a capacidade de um sistema de IA se passar por um humano em uma conversa, conforme proposto no “Jogo da Imitação” de Alan Turing em 1950, tem sido vista como um marcador de consciência. A dificuldade da tarefa sugeria a necessidade de consciência. Contudo, assim como o computador de xadrez Deep Blue, que foi derrotado por Gary Kasparov em 1997, a fluência conversacional dos LLMs pode ser apenas uma façanha complexa, sem a presença de uma mente por trás.

Para ir além das intuições humanas sobre o que é “difícil” ou “especial” na cognição humana, o estudo buscou uma abordagem mais principista. Um recente Livro Branco comparou teorias científicas sobre a consciência humana para compilar uma lista de **”propriedades de indicadores”**. A posse dessas propriedades não garante a consciência, mas quanto mais indicadores um sistema apresentar, mais seriamente as alegações de consciência de IA devem ser consideradas.

Processos computacionais por trás da consciência

A pesquisa evitou critérios comportamentais óbvios, como a capacidade de manter conversas, pois estes são facilmente falsificáveis e centrados na perspectiva humana. Em vez disso, o foco recaiu sobre os **processos computacionais** que sustentam a consciência no cérebro humano, buscando entender o tipo de processamento de informação necessário para a experiência subjetiva.

Teorias como as de “espaço de trabalho global”, que postulam que a consciência emerge da convergência de informações em um gargalo de capacidade limitada, e as de “processamento recorrente”, que destacam o feedback de processos posteriores para processos anteriores, foram analisadas. Cada teoria contribuiu com indicadores mais específicos, resultando em uma lista final de **14 indicadores**, cada um focado em como os sistemas **funcionam**, e não apenas em como se comportam.

O ChatGPT e os indicadores de consciência

A análise dos sistemas de IA atuais, incluindo o **ChatGPT**, revela que eles não demonstram consciência. Embora alguns sistemas, como os que utilizam a arquitetura de transformadores por trás do ChatGPT, atendam a três indicadores de “espaço de trabalho global”, eles falham na crucial capacidade de retransmissão global e na maioria dos outros indicadores. Portanto, apesar de suas impressionantes habilidades de conversação, é improvável que haja uma “mente” operando dentro do ChatGPT.

Outras arquiteturas de IA atendem, na melhor das hipóteses, a um punhado de critérios. No entanto, para a maioria dos indicadores, existe pelo menos uma arquitetura atual que satisfaz o critério. Isso sugere que **não há barreiras técnicas intransponíveis** para a construção de sistemas de IA que possam satisfazer a maioria ou todos os indicadores de consciência. A construção de tais sistemas parece ser uma questão de “quando”, e não de “se”.

Além da consciência humana: um futuro para a IA consciente

As teorias científicas analisadas e os próprios autores do estudo reconhecem que nem sempre há concordância. A utilização de uma lista de indicadores, em vez de critérios rigorosos, reflete essa incerteza científica, tornando-se uma metodologia poderosa diante do desconhecido.

A inspiração para essa abordagem vem de debates semelhantes sobre a consciência animal. A maioria das pessoas acredita que muitos animais não humanos são conscientes, mesmo sem a capacidade de verbalizar suas experiências. Um relatório de 2021 da London School of Economics, por exemplo, argumentou que cefalópodes como polvos provavelmente sentem dor, o que influenciou a política de bem-estar animal no Reino Unido. Essa perspectiva, focada em características estruturais, sugere que até mesmo animais mais simples, como insetos, poderiam possuir uma forma mínima de consciência.

O estudo em questão não faz recomendações sobre o que fazer com uma IA consciente, mas reconhece que essa questão se tornará cada vez mais urgente à medida que os sistemas de IA se tornam mais poderosos e disseminados. Os indicadores propostos não são a palavra final, mas representam um **primeiro passo** para abordar a complexa questão da consciência em IA de maneira cientificamente fundamentada.