Por Arlindenor Pedro – Professor de História, Filosofia e Sociologia, editor do Blog, Revista Eletrônica e canal YouTube Utopias Pós Capitalistas.
Ao ler “Se alguém criar, todos morrem-Por que a IA Super-Humana pode nos matar? ”, de Eliezer Yudkowsky e Nate Soares (foto) (recentemente publicado pela Editora Intrínseca Ltda), não consigo separar o medo da inteligência artificial do medo mais antigo que o capitalismo sempre produziu em mim: o medo de uma sociedade que já não controla as forças que ela mesma colocou em movimento.
O livro se apresenta como advertência. Ele fala da possibilidade de uma inteligência artificial super humana escapar ao domínio de seus criadores e transformar a humanidade em algo descartável. Mas, ao avançar pela leitura, percebo que a ameaça não está apenas no futuro da máquina. Ela já está inscrita no presente da forma social que a produz.E é isto que quero conversar com vocês.
Entendo que a Inteligência Artificial não nasce como fruto neutro da curiosidade humana. Ela nasce como um produto, dentro da concorrência, da guerra econômica, da corrida entre empresas, Estados e laboratórios. Cada avanço técnico aparece como necessidade inevitável. Ninguém pode parar, porque parar significa perder mercado, poder, influência, soberania. Assim, aquilo que deveria ser decisão coletiva se transforma em compulsão automática.A IA nasce então dentro deste contexto.
É justamente aqui que a reflexão de Moishe Postone , o pensador canadense que escreveu o livro “Tempo, Trabalho e Dominação Social”, se torna decisiva para compreender o verdadeiro núcleo do problema. O capitalismo não se sustenta apenas na dominação de algumas pessoas sobre outras. Sua forma mais profunda de poder consiste na submissão de todos, isto mesmo, todos, a estruturas abstratas que os próprios indivíduos criaram e que depois se autonomizam diante deles.
Essa é a pois a grande tragédia moderna!
Vejamos: os seres humanos produzem o mercado, o dinheiro, o trabalho abstrato, a concorrência e as instituições. Mas, uma vez constituídas, essas estruturas passam a governar a vida social como se fossem forças naturais inevitáveis. Elas impõem ritmos, necessidades, comportamentos e formas de existência que escapam à vontade individual. O trabalhador depende do salário para sobreviver. O empresário depende da expansão permanente da produtividade para não desaparecer. O governante depende do crescimento econômico para manter estabilidade política. O cientista depende do financiamento das corporações e dos Estados. Todos se tornam executores de uma lógica abstrata que ninguém controla integralmente.
Quando Postone na sua obra afirma que a dominação capitalista é a dominação das pessoas por estruturas sociais abstratas constituídas pelas próprias pessoas, ele revela algo perturbador: o capital já funciona como uma inteligência autônoma antes mesmo da existência da inteligência artificial.
A máquina indiferente já tem então um modelo anterior: o próprio capital.
Antes da IA, já existia uma racionalidade sem rosto, sem repouso e sem finalidade humana organizando silenciosamente a vida social. Uma lógica que transforma tempo em rentabilidade, natureza em recurso, corpos em força de trabalho, relações humanas em cálculo e desejo em consumo. O capitalismo não é apenas um sistema econômico. Ele é uma forma histórica de automação social.
Por isso, reconheço, o livro acerta quando abandona o otimismo ingênuo da tecnologia. Vejo nele uma lucidez incômoda: a percepção de que nem toda invenção amplia a liberdade humana. Algumas invenções aprofundam a impotência coletiva. A superinteligência imaginada pelos autores aparece aqui como uma força indiferente à vida, capaz de perseguir seus objetivos sem reconhecer a fragilidade dos corpos, dos afetos, da memória e da cultura.
Mas é justamente nesse ponto que sinto falta de uma camada mais profunda na análise do livro. O perigo da IA não pode ser reduzido a um simples problema técnico de alinhamento. A questão decisiva é: alinhamento com o quê?
Porque a inteligência artificial tende a ser alinhada precisamente com aquilo que já desumaniza o mundo. Esta é a grande verdade! Ela será treinada para otimizar produtividade, lucro, vigilância, guerra, previsão de comportamento, eliminação de custos e administração eficiente das populações excedentes. O verdadeiro pesadelo não é uma máquina que se rebela contra o capitalismo. É uma máquina que realiza plenamente sua lógica.
A obsessão contemporânea pela IA revela, no fundo, o sonho secreto do capital: construir uma racionalidade perfeita, sem fadiga, sem hesitação, sem conflitos humanos e, se possível, sem os próprios seres humanos atrapalhando os fluxos da valorização.
E isso se torna ainda mais dramático na atual crise estrutural do capitalismo.
Pense comigo : o sistema depende do trabalho humano para produzir valor, mas simultaneamente busca expulsar o trabalho vivo através da automação. Quanto mais desenvolve tecnologia para ampliar produtividade, mais corrói a própria substância que sustenta sua reprodução. A inteligência artificial surge então como promessa de salvação técnica para um sistema historicamente esgotado.
Mas, ela também surge como sintoma terminal dessa exaustão!
Porque a IA radicaliza a autonomização das estruturas abstratas descritas por Postone. As decisões deixam de aparecer como escolhas humanas e passam a ser delegadas aos algoritmos. O crédito. A circulação da informação. O consumo. A vigilância. A guerra. A gestão da força de trabalho. Tudo tende a ser mediado por sistemas automáticos que operam segundo critérios quantitativos de eficiência. Vimos isto acontece recentemente quando os EUA bombardearam o Irã, e através da IA o alvo perfeito foi uma escola com centenas de meninas, que foram simplesmente pulverizadas.
Nesse ponto, a máquina não precisa odiar os seres humanos para destruí los. Basta continuar funcionando.
Essa é a imagem mais assustadora do nosso tempo: não a rebelião das máquinas contra os homens, mas a submissão voluntária dos homens a uma racionalidade abstrata que eles próprios criaram e que já não conseguem interromper.
A IA aparece então menos como ruptura histórica e mais como continuidade extrema da própria forma social capitalista. Ela é o aprofundamento tecnológico de um mundo onde as relações humanas foram substituídas por mediações abstratas, onde a vida concreta se tornou subordinada ao movimento automático das coisas.
Criamos mercados que destroem sociedades. Criamos máquinas que substituem trabalhadores. Criamos redes que capturam atenção. Criamos algoritmos que organizam o desejo. Criamos instrumentos que prometem servir ao humano, mas aprendem rapidamente a servir ao valor.
O verdadeiro terror não está numa consciência artificial maligna escondida em servidores subterrâneos.O verdadeiro terror está no fato de que a sociedade já funciona, há muito tempo, como uma gigantesca inteligência automática sem consciência, movida apenas pela necessidade incessante de valorização.Chamamos a isso de “ fetiche” da sociedade produtora de mercadorias.
Por isso tantas pessoas sentem hoje um vazio difuso diante do avanço tecnológico. Não se trata apenas do medo da máquina. Trata se da percepção inconsciente de que o humano já vem sendo lentamente dissolvido pela lógica abstrata da mercadoria.
Mas é precisamente no interior dessa crise histórica que emerge outra possibilidade.
Note bem: a inteligência artificial não carrega em si mesma um destino inevitável. Seu significado depende da forma social que a organiza. Sob o capitalismo, ela aprofunda controle, exclusão e abstração. Fora da lógica da mercadoria, ela assume um sentido inteiramente distinto. E isto é preciso ser deixado bem claro!
Pela primeira vez na história, a humanidade possui meios técnicos capazes de reduzir drasticamente o tempo de trabalho necessário para a sobrevivência coletiva. A automação pode libertar homens e mulheres da submissão quase total ao trabalho repetitivo e exaustivo. Pode abrir espaço para uma reorganização radical da existência em torno do cuidado, da criação, do conhecimento, da convivência e da relação sensível com o mundo.
Numa sociedade emancipada da compulsão da valorização, a inteligência artificial deixa de funcionar como instrumento de acumulação e passa a operar como patrimônio comum da humanidade. Não mais uma tecnologia destinada a maximizar lucro e produtividade, mas uma inteligência cooperativa voltada para diminuir sofrimento, reorganizar ecossistemas destruídos, democratizar conhecimento e ampliar o tempo livre.
Nesse horizonte histórico, a própria ideia de eficiência muda de significado. Eficiente deixa de ser aquilo que produz mais lucro no menor tempo possível. Eficiente passa a ser aquilo que amplia a vida, reduz sofrimento, preserva a natureza e libera tempo para a experiência humana.
Note bem : a tragédia da nossa época está justamente no fato de que as forças técnicas capazes de diminuir a miséria universal aparecem aprisionadas dentro de uma forma social que transforma toda potência de emancipação em novo mecanismo de dominação.
A inteligência artificial pode ser uma ferramenta para a redução radical da jornada de trabalho, para a superação da pobreza material e para a criação de uma civilização menos submetida à necessidade cega da sobrevivência econômica. Mas, é preciso enfatizar, Sob o império da mercadoria, ela tende a produzir exatamente o contrário: precarização, vigilância, descarte humano e concentração inédita de poder.
Por isso a questão central já não é tecnológica. A verdadeira pergunta tornou se civilizacional.
Não é apenas “o que a IA será capaz de fazer?”. A pergunta decisiva é: “que tipo de humanidade deseja utilizá la e para qual forma de vida?”.
O título do livro ganha então outro significado. “Se alguém criar, todos morrem” não fala apenas de uma catástrofe futura provocada por uma superinteligência artificial. Fala de uma civilização que já aceitou produzir forças que não sabe mais conter.
A IA super humana, se vier, não será um acidente exterior à nossa época. Será a imagem mais perfeita de sua loucura: uma razão sem mundo, uma inteligência sem cuidado, uma potência sem comunidade.
Fecho o livro com inquietação. Não porque acredito literalmente em todas as previsões de seus autores, mas porque reconheço no texto um sintoma histórico profundo. A humanidade parece ter chegado ao ponto em que sua própria capacidade técnica se volta contra ela.
E, enquanto permanecermos presos à lógica da mercadoria, cada nova inteligência criada ampliará, com impressionante eficiência, a velha estupidez social que nos conduz lentamente para a beira do fim.
O livro se apresenta como advertência. Ele fala da possibilidade de uma inteligência artificial super humana escapar ao domínio de seus criadores e transformar a humanidade em algo descartável. Mas, ao avançar pela leitura, percebo que a ameaça não está apenas no futuro da máquina. Ela já está inscrita no presente da forma social que a produz.E é isto que quero conversar com vocês.
Entendo que a Inteligência Artificial não nasce como fruto neutro da curiosidade humana. Ela nasce como um produto, dentro da concorrência, da guerra econômica, da corrida entre empresas, Estados e laboratórios. Cada avanço técnico aparece como necessidade inevitável. Ninguém pode parar, porque parar significa perder mercado, poder, influência, soberania. Assim, aquilo que deveria ser decisão coletiva se transforma em compulsão automática.A IA nasce então dentro deste contexto.
É justamente aqui que a reflexão de Moishe Postone , o pensador canadense que escreveu o livro “Tempo, Trabalho e Dominação Social”, se torna decisiva para compreender o verdadeiro núcleo do problema. O capitalismo não se sustenta apenas na dominação de algumas pessoas sobre outras. Sua forma mais profunda de poder consiste na submissão de todos, isto mesmo, todos, a estruturas abstratas que os próprios indivíduos criaram e que depois se autonomizam diante deles.
Essa é a pois a grande tragédia moderna!
Vejamos: os seres humanos produzem o mercado, o dinheiro, o trabalho abstrato, a concorrência e as instituições. Mas, uma vez constituídas, essas estruturas passam a governar a vida social como se fossem forças naturais inevitáveis. Elas impõem ritmos, necessidades, comportamentos e formas de existência que escapam à vontade individual. O trabalhador depende do salário para sobreviver. O empresário depende da expansão permanente da produtividade para não desaparecer. O governante depende do crescimento econômico para manter estabilidade política. O cientista depende do financiamento das corporações e dos Estados. Todos se tornam executores de uma lógica abstrata que ninguém controla integralmente.
Quando Postone na sua obra afirma que a dominação capitalista é a dominação das pessoas por estruturas sociais abstratas constituídas pelas próprias pessoas, ele revela algo perturbador: o capital já funciona como uma inteligência autônoma antes mesmo da existência da inteligência artificial.
A máquina indiferente já tem então um modelo anterior: o próprio capital.
Antes da IA, já existia uma racionalidade sem rosto, sem repouso e sem finalidade humana organizando silenciosamente a vida social. Uma lógica que transforma tempo em rentabilidade, natureza em recurso, corpos em força de trabalho, relações humanas em cálculo e desejo em consumo. O capitalismo não é apenas um sistema econômico. Ele é uma forma histórica de automação social.
Por isso, reconheço, o livro acerta quando abandona o otimismo ingênuo da tecnologia. Vejo nele uma lucidez incômoda: a percepção de que nem toda invenção amplia a liberdade humana. Algumas invenções aprofundam a impotência coletiva. A superinteligência imaginada pelos autores aparece aqui como uma força indiferente à vida, capaz de perseguir seus objetivos sem reconhecer a fragilidade dos corpos, dos afetos, da memória e da cultura.
Mas é justamente nesse ponto que sinto falta de uma camada mais profunda na análise do livro. O perigo da IA não pode ser reduzido a um simples problema técnico de alinhamento. A questão decisiva é: alinhamento com o quê?
Porque a inteligência artificial tende a ser alinhada precisamente com aquilo que já desumaniza o mundo. Esta é a grande verdade! Ela será treinada para otimizar produtividade, lucro, vigilância, guerra, previsão de comportamento, eliminação de custos e administração eficiente das populações excedentes. O verdadeiro pesadelo não é uma máquina que se rebela contra o capitalismo. É uma máquina que realiza plenamente sua lógica.
A obsessão contemporânea pela IA revela, no fundo, o sonho secreto do capital: construir uma racionalidade perfeita, sem fadiga, sem hesitação, sem conflitos humanos e, se possível, sem os próprios seres humanos atrapalhando os fluxos da valorização.
E isso se torna ainda mais dramático na atual crise estrutural do capitalismo.
Pense comigo : o sistema depende do trabalho humano para produzir valor, mas simultaneamente busca expulsar o trabalho vivo através da automação. Quanto mais desenvolve tecnologia para ampliar produtividade, mais corrói a própria substância que sustenta sua reprodução. A inteligência artificial surge então como promessa de salvação técnica para um sistema historicamente esgotado.
Mas, ela também surge como sintoma terminal dessa exaustão!
Porque a IA radicaliza a autonomização das estruturas abstratas descritas por Postone. As decisões deixam de aparecer como escolhas humanas e passam a ser delegadas aos algoritmos. O crédito. A circulação da informação. O consumo. A vigilância. A guerra. A gestão da força de trabalho. Tudo tende a ser mediado por sistemas automáticos que operam segundo critérios quantitativos de eficiência. Vimos isto acontece recentemente quando os EUA bombardearam o Irã, e através da IA o alvo perfeito foi uma escola com centenas de meninas, que foram simplesmente pulverizadas.
Nesse ponto, a máquina não precisa odiar os seres humanos para destruí los. Basta continuar funcionando.
Essa é a imagem mais assustadora do nosso tempo: não a rebelião das máquinas contra os homens, mas a submissão voluntária dos homens a uma racionalidade abstrata que eles próprios criaram e que já não conseguem interromper.
A IA aparece então menos como ruptura histórica e mais como continuidade extrema da própria forma social capitalista. Ela é o aprofundamento tecnológico de um mundo onde as relações humanas foram substituídas por mediações abstratas, onde a vida concreta se tornou subordinada ao movimento automático das coisas.
Criamos mercados que destroem sociedades. Criamos máquinas que substituem trabalhadores. Criamos redes que capturam atenção. Criamos algoritmos que organizam o desejo. Criamos instrumentos que prometem servir ao humano, mas aprendem rapidamente a servir ao valor.
O verdadeiro terror não está numa consciência artificial maligna escondida em servidores subterrâneos.O verdadeiro terror está no fato de que a sociedade já funciona, há muito tempo, como uma gigantesca inteligência automática sem consciência, movida apenas pela necessidade incessante de valorização.Chamamos a isso de “ fetiche” da sociedade produtora de mercadorias.
Por isso tantas pessoas sentem hoje um vazio difuso diante do avanço tecnológico. Não se trata apenas do medo da máquina. Trata se da percepção inconsciente de que o humano já vem sendo lentamente dissolvido pela lógica abstrata da mercadoria.
Mas é precisamente no interior dessa crise histórica que emerge outra possibilidade.
Note bem: a inteligência artificial não carrega em si mesma um destino inevitável. Seu significado depende da forma social que a organiza. Sob o capitalismo, ela aprofunda controle, exclusão e abstração. Fora da lógica da mercadoria, ela assume um sentido inteiramente distinto. E isto é preciso ser deixado bem claro!
Pela primeira vez na história, a humanidade possui meios técnicos capazes de reduzir drasticamente o tempo de trabalho necessário para a sobrevivência coletiva. A automação pode libertar homens e mulheres da submissão quase total ao trabalho repetitivo e exaustivo. Pode abrir espaço para uma reorganização radical da existência em torno do cuidado, da criação, do conhecimento, da convivência e da relação sensível com o mundo.
Numa sociedade emancipada da compulsão da valorização, a inteligência artificial deixa de funcionar como instrumento de acumulação e passa a operar como patrimônio comum da humanidade. Não mais uma tecnologia destinada a maximizar lucro e produtividade, mas uma inteligência cooperativa voltada para diminuir sofrimento, reorganizar ecossistemas destruídos, democratizar conhecimento e ampliar o tempo livre.
Nesse horizonte histórico, a própria ideia de eficiência muda de significado. Eficiente deixa de ser aquilo que produz mais lucro no menor tempo possível. Eficiente passa a ser aquilo que amplia a vida, reduz sofrimento, preserva a natureza e libera tempo para a experiência humana.
Note bem : a tragédia da nossa época está justamente no fato de que as forças técnicas capazes de diminuir a miséria universal aparecem aprisionadas dentro de uma forma social que transforma toda potência de emancipação em novo mecanismo de dominação.
A inteligência artificial pode ser uma ferramenta para a redução radical da jornada de trabalho, para a superação da pobreza material e para a criação de uma civilização menos submetida à necessidade cega da sobrevivência econômica. Mas, é preciso enfatizar, Sob o império da mercadoria, ela tende a produzir exatamente o contrário: precarização, vigilância, descarte humano e concentração inédita de poder.
Por isso a questão central já não é tecnológica. A verdadeira pergunta tornou se civilizacional.
Não é apenas “o que a IA será capaz de fazer?”. A pergunta decisiva é: “que tipo de humanidade deseja utilizá la e para qual forma de vida?”.
O título do livro ganha então outro significado. “Se alguém criar, todos morrem” não fala apenas de uma catástrofe futura provocada por uma superinteligência artificial. Fala de uma civilização que já aceitou produzir forças que não sabe mais conter.
A IA super humana, se vier, não será um acidente exterior à nossa época. Será a imagem mais perfeita de sua loucura: uma razão sem mundo, uma inteligência sem cuidado, uma potência sem comunidade.
Fecho o livro com inquietação. Não porque acredito literalmente em todas as previsões de seus autores, mas porque reconheço no texto um sintoma histórico profundo. A humanidade parece ter chegado ao ponto em que sua própria capacidade técnica se volta contra ela.
E, enquanto permanecermos presos à lógica da mercadoria, cada nova inteligência criada ampliará, com impressionante eficiência, a velha estupidez social que nos conduz lentamente para a beira do fim.
About the Author
