Ponto sem retorno: quando a tecnologia deixa de ser escolha e passa a ser ambiente
Compartilhe nas Redes sociais
Por William Rocha – Professor de Direito Digital, Proteção de Dados e Privacidade, diretor de Inclusão Digital e Inovação da OAB-RJ, sócio do escritório Terra Rocha Advogados – Colunista convidado.
Na discussão ambiental, a expressão “ponto sem retorno” descreve o momento em que determinadas alterações ultrapassam um limiar crítico e já não podem ser facilmente revertidas. Mesmo que a causa original seja interrompida, o sistema transformado passa a produzir consequências por sua própria dinâmica.
A metáfora é especialmente útil para pensar o atual desenvolvimento tecnológico.
Inteligência artificial, robótica, sistemas autônomos e algoritmos de decisão avançam em velocidade crescente. A questão talvez já não seja apenas até onde a tecnologia pode chegar, mas se estamos nos aproximando de um estágio em que determinados processos tecnológicos se tornam tão incorporados à economia, ao trabalho, às relações sociais e ao exercício do poder que retroceder deixa de ser uma alternativa realista.
É nesse ponto que surge o debate sobre o determinismo tecnológico: a ideia de que a tecnologia, uma vez desenvolvida e disseminada, passa a condicionar profundamente a organização da sociedade. Não significa necessariamente que as máquinas adquiram vontade própria. O problema é mais sutil: criamos estruturas das quais passamos a depender.
Foi assim com a eletricidade, com a internet e com os smartphones. Poderá ocorrer em escala ainda maior com a inteligência artificial.
Quando empresas deixam de funcionar sem algoritmos; governos passam a depender de sistemas automatizados; profissionais delegam parte crescente de suas decisões às máquinas; armas ganham autonomia; robôs assumem atividades humanas; e modelos de IA passam a produzir conhecimento utilizado para desenvolver novas gerações de tecnologia, surge uma espécie de dependência estrutural.
O ponto sem retorno tecnológico pode, portanto, não acontecer quando uma inteligência artificial se tornar consciente ou quando um robô decidir contrariar seu criador. Essa é a versão cinematográfica do problema.
A versão real pode ser muito menos dramática — e justamente por isso mais preocupante.
O verdadeiro ponto sem retorno talvez ocorra quando desligar determinada tecnologia se tornar economicamente inviável, socialmente intolerável ou geopoliticamente impossível.
Há aqui uma importante diferença em relação à crise ambiental. Na questão climática, procuramos evitar determinados limites porque conhecemos parte das consequências físicas de ultrapassá-los. Na transformação digital, estamos construindo o sistema ao mesmo tempo em que tentamos compreender seus limites.
E, existe, ainda, o chamado efeito de corrida. Mesmo que uma empresa considere prudente desacelerar, sua concorrente pode não fazê-lo. Mesmo que um país imponha limites ao desenvolvimento de determinada tecnologia, outro pode enxergar nessa contenção uma oportunidade estratégica. A prudência individual pode perder espaço diante da competição coletiva.
É nesse cenário que o determinismo tecnológico precisa ser questionado.
A tecnologia não é uma força da natureza. Ela é produto de decisões humanas, investimentos, interesses econômicos, escolhas políticas e modelos regulatórios. Tratar seu desenvolvimento como inevitável significa retirar antecipadamente da sociedade a capacidade de decidir sobre o próprio futuro.
A experiência ambiental deveria justamente ensinar o contrário.
Regular depois que o dano se torna irreversível costuma ser mais caro, mais difícil e, algumas vezes, inútil. Na inteligência artificial e na robótica, governança não deve significar impedir a inovação, mas estabelecer limites antes que os limites sejam estabelecidos pelos próprios fatos.
Talvez a pergunta mais importante do nosso tempo não seja se as máquinas algum dia controlarão os seres humanos.
É outra: em que momento construiremos uma sociedade tão dependente das máquinas que já não teremos liberdade real para decidir não utilizá-las?
Se esse momento chegar, teremos ultrapassado nosso próprio ponto sem retorno.
