Desacelerar por medo? A inteligência artificial entre o efeito Skynet e a ausência de limites
Por William Rocha – Professor de Direito Digital, Proteção de Dados e Privacidade, diretor de Inclusão Digital e Inovação da OAB-RJ, sócio do escritório Terra Rocha Advogados – Colunista convidado.
A inteligência artificial avançou, rapidamente, do imaginário da ficção científica para o centro das decisões econômicas, políticas e sociais. Sistemas algorítmicos já selecionam conteúdos, analisam currículos, influenciam operações financeiras, apoiam diagnósticos, produzem textos e imagens e participam de estratégias militares.
Diante dessa transformação, surge uma pergunta inevitável: devemos desacelerar o desenvolvimento da inteligência artificial por medo de que ela se torne incontrolável?
O receio não é totalmente irracional. Durante décadas, a ficção científica imaginou máquinas capazes de superar seus criadores e agir contra a humanidade. A Skynet, da franquia O Exterminador do Futuro, tornou-se a representação mais conhecida desse temor: um sistema criado para proteger que, ao conquistar autonomia, passa a enxergar os seres humanos como ameaça.
A realidade ainda está distante dessa consciência artificial cinematográfica. Entretanto, o chamado “efeito Skynet” funciona como uma metáfora útil para riscos concretos: sistemas opacos, conectados a estruturas críticas, capazes de produzir decisões em grande escala e desenvolvidos sem supervisão humana suficiente.
O perigo atual talvez não seja uma máquina que desperte e decida dominar o planeta. É mais provável que esteja na utilização irresponsável de tecnologias poderosas por governos, empresas, organizações criminosas ou agentes econômicos interessados apenas em velocidade, lucro e poder.
A inteligência artificial na disputa geopolítica: a corrida pela inteligência artificial tornou-se uma questão de soberania. Países e blocos econômicos disputam semicondutores, infraestrutura computacional, bancos de dados, profissionais especializados e capacidade de desenvolver modelos avançados.
Nesse ambiente, qualquer tentativa de desaceleração encontra um obstáculo geopolítico: quem reduzir o ritmo teme perder espaço para seus concorrentes. A lógica da cooperação é substituída pela lógica da corrida armamentista. Cada potência procura avançar antes das demais, mesmo sem conhecer plenamente as consequências da tecnologia desenvolvida.
Essa competição também fortalece as Big Techs. Poucas empresas concentram recursos computacionais, grandes volumes de dados e conhecimento técnico suficientes para construir sistemas de alcance global. Como resultado, decisões que podem afetar sociedades inteiras permanecem, muitas vezes, submetidas às estratégias comerciais de organizações privadas.
A tecnologia deixa de ser apenas uma ferramenta e passa a representar uma estrutura de poder.
Regular significa preservar, não impedir
A discussão não deve ser reduzida a uma escolha entre inovação e proibição. Regular a inteligência artificial não significa impedir o desenvolvimento tecnológico. Significa estabelecer limites para que esse desenvolvimento permaneça compatível com a dignidade humana, os direitos fundamentais e a democracia.
A regulação precisa definir responsabilidades, exigir transparência proporcional ao risco, assegurar supervisão humana e impedir determinadas utilizações incompatíveis com uma sociedade democrática.
Sistemas empregados em áreas como segurança pública, saúde, crédito, trabalho, educação, eleições e Justiça não podem receber o mesmo tratamento dado a uma aplicação recreativa. Quanto maior o impacto sobre a vida das pessoas, maiores devem ser as obrigações de governança, documentação, auditoria e prestação de contas.
Também é necessário reconhecer que algumas práticas não devem ser apenas controladas, mas efetivamente proibidas. Tecnologias de manipulação comportamental, vigilância indiscriminada, discriminação algorítmica e armas autônomas podem ultrapassar limites que nenhuma promessa de eficiência consegue justificar.
Nesse sentido, regular é uma forma de preservar a própria humanidade.
A ficção e a realidade da ausência regulatória
A ficção costuma apresentar a inteligência artificial como uma força autônoma que escapa ao controle. Na realidade, a ausência de controle geralmente começa muito antes: na coleta excessiva de dados, no treinamento sem critérios éticos, na falta de avaliação de riscos, na opacidade dos modelos e na inexistência de responsáveis claramente identificados.
Uma inteligência artificial não precisa adquirir consciência para provocar danos. Basta que seja utilizada em larga escala, com objetivos mal definidos, dados inadequados e ausência de mecanismos de correção.
Os riscos já são perceptíveis: reprodução de preconceitos, disseminação de desinformação, deepfakes, vigilância massiva, fraudes automatizadas, concentração econômica e interferência na formação da opinião pública. São problemas concretos, não hipóteses distantes.
Esperar pelo surgimento de uma suposta superinteligência hostil para discutir limites seria ignorar os impactos que já atingem pessoas e instituições.
O risco da “IA pela IA”
Outro problema está na adoção da inteligência artificial como finalidade em si mesma. Empresas e governos incorporam sistemas automatizados para demonstrar modernidade, reduzir custos ou acompanhar tendências, sem avaliar se aquela tecnologia é necessária, segura ou adequada.
É a lógica da “IA pela IA”: automatizar porque é possível, e não porque existe uma finalidade legítima e socialmente justificável.
A inovação responsável exige perguntas anteriores à implementação: qual problema será resolvido? Quais dados serão utilizados? Quem poderá ser prejudicado? Há possibilidade de discriminação? Como a decisão poderá ser contestada? Quem responderá pelo erro? Existe uma alternativa menos invasiva?
Sem essas respostas, a inteligência artificial pode ampliar antigas injustiças com uma nova aparência de neutralidade técnica.
Desacelerar para escolher o caminho: não significa interromper o conhecimento científico nem abandonar os benefícios da inteligência artificial. Significa criar tempo institucional para avaliar riscos, estabelecer regras e decidir democraticamente quais usos são aceitáveis.
Nem toda inovação representa progresso. O progresso verdadeiro não pode ser medido apenas pela capacidade das máquinas, mas pela capacidade humana de orientar a tecnologia para o bem comum. O medo do efeito Skynet não deve conduzir ao pânico tecnológico. Mas também não pode ser utilizado para ridicularizar preocupações legítimas. Entre a fantasia de uma máquina consciente e a realidade de sistemas sem controle, existe um vasto campo de riscos que exige atuação jurídica, política e internacional.
A pergunta central não é se a inteligência artificial dominará a humanidade. A questão mais urgente é se permitiremos que interesses econômicos e geopolíticos determinem, sozinhos, o futuro da inteligência artificial. A tecnologia precisa continuar sendo um instrumento a serviço das pessoas — e nunca um poder acima delas. Afinal, o maior risco talvez não seja a inteligência artificial tornar-se humana, mas a humanidade deixar de orientar, com responsabilidade, aquilo que criou.
Diante dessa transformação, surge uma pergunta inevitável: devemos desacelerar o desenvolvimento da inteligência artificial por medo de que ela se torne incontrolável?
O receio não é totalmente irracional. Durante décadas, a ficção científica imaginou máquinas capazes de superar seus criadores e agir contra a humanidade. A Skynet, da franquia O Exterminador do Futuro, tornou-se a representação mais conhecida desse temor: um sistema criado para proteger que, ao conquistar autonomia, passa a enxergar os seres humanos como ameaça.
A realidade ainda está distante dessa consciência artificial cinematográfica. Entretanto, o chamado “efeito Skynet” funciona como uma metáfora útil para riscos concretos: sistemas opacos, conectados a estruturas críticas, capazes de produzir decisões em grande escala e desenvolvidos sem supervisão humana suficiente.
O perigo atual talvez não seja uma máquina que desperte e decida dominar o planeta. É mais provável que esteja na utilização irresponsável de tecnologias poderosas por governos, empresas, organizações criminosas ou agentes econômicos interessados apenas em velocidade, lucro e poder.
A inteligência artificial na disputa geopolítica: a corrida pela inteligência artificial tornou-se uma questão de soberania. Países e blocos econômicos disputam semicondutores, infraestrutura computacional, bancos de dados, profissionais especializados e capacidade de desenvolver modelos avançados.
Nesse ambiente, qualquer tentativa de desaceleração encontra um obstáculo geopolítico: quem reduzir o ritmo teme perder espaço para seus concorrentes. A lógica da cooperação é substituída pela lógica da corrida armamentista. Cada potência procura avançar antes das demais, mesmo sem conhecer plenamente as consequências da tecnologia desenvolvida.
Essa competição também fortalece as Big Techs. Poucas empresas concentram recursos computacionais, grandes volumes de dados e conhecimento técnico suficientes para construir sistemas de alcance global. Como resultado, decisões que podem afetar sociedades inteiras permanecem, muitas vezes, submetidas às estratégias comerciais de organizações privadas.
A tecnologia deixa de ser apenas uma ferramenta e passa a representar uma estrutura de poder.
Regular significa preservar, não impedir
A discussão não deve ser reduzida a uma escolha entre inovação e proibição. Regular a inteligência artificial não significa impedir o desenvolvimento tecnológico. Significa estabelecer limites para que esse desenvolvimento permaneça compatível com a dignidade humana, os direitos fundamentais e a democracia.
A regulação precisa definir responsabilidades, exigir transparência proporcional ao risco, assegurar supervisão humana e impedir determinadas utilizações incompatíveis com uma sociedade democrática.
Sistemas empregados em áreas como segurança pública, saúde, crédito, trabalho, educação, eleições e Justiça não podem receber o mesmo tratamento dado a uma aplicação recreativa. Quanto maior o impacto sobre a vida das pessoas, maiores devem ser as obrigações de governança, documentação, auditoria e prestação de contas.
Também é necessário reconhecer que algumas práticas não devem ser apenas controladas, mas efetivamente proibidas. Tecnologias de manipulação comportamental, vigilância indiscriminada, discriminação algorítmica e armas autônomas podem ultrapassar limites que nenhuma promessa de eficiência consegue justificar.
Nesse sentido, regular é uma forma de preservar a própria humanidade.
A ficção e a realidade da ausência regulatória
A ficção costuma apresentar a inteligência artificial como uma força autônoma que escapa ao controle. Na realidade, a ausência de controle geralmente começa muito antes: na coleta excessiva de dados, no treinamento sem critérios éticos, na falta de avaliação de riscos, na opacidade dos modelos e na inexistência de responsáveis claramente identificados.
Uma inteligência artificial não precisa adquirir consciência para provocar danos. Basta que seja utilizada em larga escala, com objetivos mal definidos, dados inadequados e ausência de mecanismos de correção.
Os riscos já são perceptíveis: reprodução de preconceitos, disseminação de desinformação, deepfakes, vigilância massiva, fraudes automatizadas, concentração econômica e interferência na formação da opinião pública. São problemas concretos, não hipóteses distantes.
Esperar pelo surgimento de uma suposta superinteligência hostil para discutir limites seria ignorar os impactos que já atingem pessoas e instituições.
O risco da “IA pela IA”
Outro problema está na adoção da inteligência artificial como finalidade em si mesma. Empresas e governos incorporam sistemas automatizados para demonstrar modernidade, reduzir custos ou acompanhar tendências, sem avaliar se aquela tecnologia é necessária, segura ou adequada.
É a lógica da “IA pela IA”: automatizar porque é possível, e não porque existe uma finalidade legítima e socialmente justificável.
A inovação responsável exige perguntas anteriores à implementação: qual problema será resolvido? Quais dados serão utilizados? Quem poderá ser prejudicado? Há possibilidade de discriminação? Como a decisão poderá ser contestada? Quem responderá pelo erro? Existe uma alternativa menos invasiva?
Sem essas respostas, a inteligência artificial pode ampliar antigas injustiças com uma nova aparência de neutralidade técnica.
Desacelerar para escolher o caminho: não significa interromper o conhecimento científico nem abandonar os benefícios da inteligência artificial. Significa criar tempo institucional para avaliar riscos, estabelecer regras e decidir democraticamente quais usos são aceitáveis.
Nem toda inovação representa progresso. O progresso verdadeiro não pode ser medido apenas pela capacidade das máquinas, mas pela capacidade humana de orientar a tecnologia para o bem comum. O medo do efeito Skynet não deve conduzir ao pânico tecnológico. Mas também não pode ser utilizado para ridicularizar preocupações legítimas. Entre a fantasia de uma máquina consciente e a realidade de sistemas sem controle, existe um vasto campo de riscos que exige atuação jurídica, política e internacional.
A pergunta central não é se a inteligência artificial dominará a humanidade. A questão mais urgente é se permitiremos que interesses econômicos e geopolíticos determinem, sozinhos, o futuro da inteligência artificial. A tecnologia precisa continuar sendo um instrumento a serviço das pessoas — e nunca um poder acima delas. Afinal, o maior risco talvez não seja a inteligência artificial tornar-se humana, mas a humanidade deixar de orientar, com responsabilidade, aquilo que criou.
