Regulação da IA e a nova governança da punição

Nas considerações finais ao capítulo dedicado ao Panoptismo em Vigiar e Punir, Michel Foucault (2004, p. 244-245) destacou, entre os processos históricos ligados à formação da sociedade disciplinar, o papel das estruturas jurídico-políticas. Embora não fossem essenciais ao exercício do poder panóptico ao nível elementar, técnico e físico em que se situa, delas este não poderia, contudo, prescindir em absoluto. Se, por um lado, o processo por meio do qual a burguesia tornou-se a classe politicamente dominante no decorrer do século XVIII abrigou-se por detrás da instalação de um quadro jurídico explícito, codificado e formalmente igualitário, associado a um regime de tipo parlamentar e representativo, afirma Foucault, por outro, o desenvolvimento e a generalização dos dispositivos disciplinares constituíram a vertente obscura desse mesmo processo, isto é, o subsolo de suas liberdades formais e jurídicas; o seu infradireito.

Isso não significa dizer, por óbvio, que não existam aparatos e modos de sujeição manifestados por meio das regras jurídicas, mas que elas ocupam o lugar de efeitos estabilizados das relações de poder, isto é, suas formas terminais (Amaral, 2021). Longe de operar como limite externo e negativo às disciplinas, o direito integra-se a elas em uma relação de cofuncionamento em que a igualdade formal dos sujeitos convive estruturalmente com a produção cotidiana de assimetrias. Ao instituir sujeitos abstratamente iguais, portadores de direitos, o Direito cria as condições de possibilidade para que mecanismos infralegais de normalização, vigilância e hierarquização atuem de modo contínuo e difuso, pouco visível. Sob a cobertura da legalidade e da neutralidade normativa, as disciplinas não apenas se infiltram no tecido social, mas encontram no próprio direito o suporte que garante sua legitimidade e eficácia. O panoptismo, assim, não opera uma lógica oposta ao direito, mas que funciona a partir dele, explorando suas promessas de igualdade para sustentar as práticas sistemáticas de diferenciação, classificação e especialização que são constitutivas das sociedades modernas de tipo disciplinar.

Pensando o papel do direito nas sociedades de controle contemporâneas, Gilles Deleuze (1992) indicara em seu célebre Post-Scriptum que o infradireito disciplinar descrito por Foucault em Vigiar e Punir não apenas subsistia no interior dos controlatos, como neles se transformava qualitativamente. Se nas sociedades disciplinares os dispositivos de poder operam prioritariamente por meio de confinamentos sucessivos e segmentados, produzindo uma quitação aparente entre uma instituição e outra, nas sociedades de controle o exercício do poder assume a forma de uma modulação permanente, sem exterioridade nem encerramento definidos. O direito, nesse contexto, deixa de funcionar segundo a lógica da decisão conclusiva, passando a operar por meio de adiamentos permanentes, avaliações incessantes e suspensões indefinidas; uma moratória ilimitada em variação contínua. Trata-se, apontava Deleuze, de um modo de vida jurídico radicalmente distinto daquele pressuposto pelo direito moderno clássico, não mais organizado em torno de sanções finitas e decisões formais, mas estruturado como um processo contínuo de sujeição, no qual a norma se atualiza permanentemente sem jamais se fixar.

Portanto, se o direito moderno já se articulava, nas sociedades disciplinares, a um conjunto de mecanismos infralegais que suspendiam parcialmente sua eficácia, nas sociedades de controle essa suspensão tende a se generalizar. Na transição da sociedade disciplinar à sociedade de controle, ao hesitar entre a promessa igualitária da forma jurídica moderna e os dispositivos de controle contínuo que a atravessam, o direito passa a operar simultaneamente como linguagem de garantias e como tecnologia de gestão diferencial de riscos em que coexistem a igualdade formal dos sujeitos e a produção incessante de assimetrias, agora moduladas em tempo real e inscritas em mecanismos de controle preemptivo.

O Projeto de Lei (PL) 2.338 de 2023, atualmente em discussão no Congresso Nacional[1] para a instituição de um Marco Legal da Inteligência Artificial no Brasil, é representativo dessa dupla função. Buscando conciliar uma assim denominada “abordagem baseada em direitos” com o chamado “modelo de regulação baseado em riscos” (Brasil, 2024, p. 16), o projeto de lei brasileiro preserva a arquitetura regulatória inspirada no Regulamento da União Europeia (EU AI Act), que tende a modular a proteção de direitos em função da viabilidade econômica dos modelos de negócio associados à inovação tecnológica de mercado, operando mais como mecanismo de legitimação jurídica do que como instrumento efetivo de prevenção de violações (Elesbão, 2026).

O enquadramento do problema regulatório em termos de risco mostra-se, desde a origem, tensionado com a lógica da proteção de direitos, especialmente nos contextos em que nem mesmo a classificação do sistema como nível alto de risco é capaz de dar conta da magnitude do perigo representado pelo uso. Essa abordagem tem sido um dos pontos centrais no debate sobre obrigações e defesa de direitos no PL 2.338/2023; aspectos como a definição das noções de risco, da localização das categorias específicas ao Brasil, a escolha entre rol taxativo ou flexível e, sobretudo, quem e como definir quais implementações devem ser consideradas de alto risco ou de risco excessivo têm sido abordadas por um amplo rol de atores na rede expandida de debates do processo legislativo em curso (Silva, 2025).

A versão atual do texto brasileiro classifica os sistemas de inteligência artificial nas categorias de “risco excessivo”, “alto risco” e “risco moderado ou baixo”. A categoria de risco moderado ou baixo é concebida como categoria residual, destinada a abarcar todos os sistemas que não se enquadram nas demais hipóteses regulatórias. Já, a categoria de alto risco abrange um amplo rol de sistemas de inteligência artificial previstos no Artigo 14 do texto legal, incluindo desde infraestruturas críticas e serviços públicos essenciais até sistemas com aplicabilidade em setores como educação, relações de trabalho, saúde, justiça criminal, controle migratório e moderação de conteúdos em larga escala. Essa abrangência evidencia a amplitude e a heterogeneidade dos contextos em que a inteligência artificial passa a ser juridicamente autorizada, visto que o enquadramento como “alto risco” não implica a vedação do uso, mas a sua autorização condicionada ao cumprimento de obrigações. Essa opção regulatória transforma potenciais impactos severos sobre direitos em efeitos colaterais aceitáveis mediante o estabelecimento de mecanismos de governança e supervisão.

A classificação de sistemas voltados à análise criminal e à definição de perfis comportamentais (Artigo 14, inciso IX), à investigação administrativa (Artigo 14, inciso X) e à identificação biométrica (Artigo 14, inciso XI) como “alto risco” às inscreve na ampla gama de usos legalmente permitidos, legitimando a expansão de tecnologias de vigilância e controle social. Como consequência, o texto legal acaba convertendo riscos à privacidade, à presunção de inocência, à igualdade e à não discriminação em problemas administráveis por mecanismos técnico-jurídicos, abdicando de estabelecer limites substantivos ao uso de sistemas nocivos em campos particularmente sensíveis.

De modo semelhante, a categoria de risco excessivo, prevista no Artigo 13, abrange aplicações de inteligência artificial cuja implementação e uso são, em princípio, vedados por envolverem práticas consideradas incompatíveis com a proteção de direitos fundamentais. O texto do PL 2.338/23 veda expressamente a implementação e uso de “sistemas de identificação biométrica à distância, em tempo real e em espaços acessíveis ao público” (Artigo 13, inciso VII), deixando de lado a identificação biométrica em diferido (amplamente utilizada por forças policiais em atividades de investigação criminal, como a análise posterior de imagens e registros audiovisuais), e a identificação biométrica em espaços acessíveis ao público, deixando aberta a possibilidade de aplicação da identificação biométrica em ambientes como prisões, centros de detenção, unidades socioeducativas e zonas de controle de fronteiras (Cabrera, 2024).

Não suficiente a restrição da proibição somente à modalidade específica de sistemas de identificação biométrica à distância, em tempo real e em espaços acessíveis ao público, o Artigo 13 do PL 2.338/23 estabelece um extenso rol de exceções a essa proibição que, na prática, opera como uma autorização ampla e permanente para a implementação de tecnologias de reconhecimento facial no âmbito da investigação criminal e das atividades de segurança pública. As hipóteses previstas abrangem situações triviais das atuações policial e judicial, como instrução de inquéritos e processos criminais (Artigo, 13, inciso VII, alínea a), busca de vítimas e pessoas desaparecidas (Artigo, 13, inciso VII, alínea b), caracterização de flagrante delito (Artigo, 13, inciso VII, alínea c) e recaptura de pessoas foragidas (Artigo, 13, inciso VII, alínea d), configurando um amplo espectro de permissões capaz de abarcar grande parte das atividades ordinárias de policiamento. Ao condicionar o uso desses sistemas a critérios como a inexistência de outros meios probatórios, a gravidade do delito ou a autorização judicial, o texto formaliza salvaguardas que, embora relevantes no plano discursivo, demonstram-se frágeis diante da complexidade operacional relacionada ao uso dessas tecnologias em contextos policiais e judiciais, sobretudo quando considerada a assimetria de poder entre Estado e indivíduos afetados.

Essa fragilidade é aprofundada pelo Parágrafo Único do dispositivo, que exige que o uso seja “proporcional e estritamente necessário ao atendimento do interesse público” (Brasil, 2024, p. 31). Sendo “interesse público” um conceito juridicamente indeterminado, tal previsão amplia a margem interpretativa das autoridades responsáveis, tendendo a ser interpretado segundo lógicas securitárias relacionadas à eficiência investigativa. Nesse sentido, ainda que faça menção expressa à necessária observância ao devido processo legal, ao controle judicial, à vedação da discriminação e à necessidade de revisão humana, tais garantias assumem caráter predominantemente formal, operando como filtros procedimentais incapazes de conter a expansão infraestrutural do reconhecimento facial e seus impactos sistemáticos sobre direitos já amplamente documentados pela literatura (Nunes, 2025). Desse modo, as exceções à proibição do uso acabam funcionando como mecanismos de legitimação da vigilância biométrica, convertendo práticas de alto potencial lesivo em usos regulados e normalizados no interior do aparato estatal.

Posto isso, a análise do texto legal em tramitação no Congresso Nacional exige reconhecer que os debates regulatórios em torno da inteligência artificial, centrados na mitigação de danos, tendem a operar como véu que obscurece as engrenagens materiais e políticas que sustentam o arranjo tecnopolítico das sociedades de controle contemporâneas. A promessa de contenção de abusos por meio da lei funciona mais como elemento legitimador do uso do que como efetivo limite ao exercício do poder punitivo tecnologicamente mediado. Sob a cobertura da legalidade e da neutralidade normativa, os controlatos encontram no próprio direito o suporte que garante sua legitimidade e eficácia. Nessa lógica, a normatividade jurídica não apenas convive com a expansão de infraestruturas de vigilância e controle, mas às estabiliza e legitima. O controle, assim, não se opõe ao direito, mas opera também a partir dele, reforçando uma lógica neoliberal de eficiência e produtividade aplicada à nova governança da punição (Chignola, 2018).

Sob essa perspectiva, o problema central deixa de ser a ausência de regulação e passa a ser o modo por meio do qual determinados regimes regulatórios participam ativamente da institucionalização e da reprodução das racionalidades que sustentam a expansão do controle algorítmico.

Referências

AMARAL, Augusto Jobim do. O poder não existe. Entrevista especial com Augusto Jobim do Amaral. Instituto Humanitas Unisinos, 27 set. 2021. Disponível em: https://www.ihu.unisinos.br/categorias/159-entrevistas/612632-o-poder-nao-existe-entrevista-especial-com-augusto-jobim-do-amaral. Acesso em: 10 jun. 2026.

BRASIL. Senado Federal. Relatório final da Comissão Temporária Interna sobre Inteligência Artificial no Brasil. Brasília: Senado Federal, 2024.

CABRERA, Laura Lázaro. EU AI Act brief: Pt. 2, privacy & surveillance. Washington: Center for Democracy & Technology, maio 2024. Disponível em: https://cdt.org/wp-content/uploads/2024/04/2024-05-02-CDTEU-DSA-blog-series-pt-2-privacy-final.pdf. Acesso em: 10 jun. 2026.

CHIGNOLA, Sandro. A toupeira e a serpente. Revista Direitos e Garantias Fundamentais, v. 19, n. 3, p. 239-270, 2018. https://doi.org/10.18759/rdgf.v19i3.1599

DELEUZE, Gilles. Post-scriptum sobre as sociedades de controle. Conversações. Rio de Janeiro: Editora 34, 1992.

ELESBÃO, Ana Clara Santos. A racionalidade algoritária entre extração e controle: sobre a regulação de inteligência artificial para fins criminais. 2026. Tese (Doutorado em Ciências Criminais) – Programa de Pós-Graduação em Ciências Criminais, Pontifícia Universidade Católica do Rio Grande do Sul, Porto Alegre, 2026.

FOUCAULT, Michel. Vigiar e Punir: nascimento da prisão. 29. ed. Petrópolis: Vozes, 2004.

NUNES, Pablo et al. Mapeando a vigilância biométrica: levantamento nacional sobre o uso do reconhecimento facial na segurança pública. Rio de Janeiro: CESeC, 2025.

SILVA, Tarcizio. Racismo algorítmico e regulação de inteligência artificial: o contrato racial na produção do PL 2338/2023. Tese (Doutorado em Ciências Humanas e Sociais) – Universidade Federal do ABC, São Bernardo do Campo, 2025.

Nota

[1] O PL 2.338/2023 encontra-se em fase de debates na Câmara dos Deputados, de onde, após votação, deverá seguir para sanção presidencial. Em que pese a regra na tramitação bicameral no Brasil seja a aprovação na Câmara dos Deputados para posterior aprovação no Senado Federal, no caso em específico do PL 2.338/23 o Senado figura como Casa Iniciadora do projeto, produto dos trabalhos da Comissão de Juristas Responsável por Subsidiar Elaboração de Substitutivo sobre Inteligência Artificial no Brasil (CJSUBIA), sendo a Câmara a Casa Revisora.