Regulamentação e ética em foco para a Inteligência Artificial.

Redação
6 de jun.
3 min de leitura

Especialistas debatem a importância de regulamentar uma tecnologia que promete revolucionar o futuro, mas que também levanta sérias questões éticas e legais

O Centro Alemão de Ciência e Inovação (DWIH) São Paulo, em parceria com a FAPESP, promoveu, nos dias 7 e 8 de maio, a 11ª edição do Diálogo Brasil-Alemanha de Ciência, Pesquisa e Inovação, reunindo especialistas para discutir desafios éticos e a regulamentação da Inteligência Artificial (IA).

A ascensão da IA no Brasil e no mundo tem impulsionado um debate urgente sobre sua regulamentação e ética. A tecnologia, que promete revolucionar diversos setores como o judiciário, exige um arcabouço legal que harmonize a inovação com a proteção de direitos, considerando as particularidades da sociedade brasileira. Especialistas de diversas áreas ponderam entre o entusiasmo pelas possibilidades e a cautela diante dos potenciais riscos que a IA apresenta.

A Prof.ª Jeannette Hoffmann, cientista política da Universidade Livre de Berlim (Alemanha), partiu da análise do Artificial Intelligence Act (AI-Act), que entrou em vigor em agosto de 2024 na União Europeia (UE). O modelo europeu, focado em categorizar os sistemas de IA de acordo com seu potencial de dano, oferece um farol para as discussões brasileiras. No entanto, há um problema adicional: “a definição do que é IA ainda é muito instável. A distinção formal entre análise de risco e gestão de risco desapareceu”, disse Hoffmann. Dessa maneira, os próprios fornecedores de sistemas de IA passaram a ser os responsáveis por prever, mitigar e definir a aceitabilidade dos riscos.

IA no Judiciário

O professor Juliano Maranhão (Universidade de São Paulo) lançou luz sobre a crescente adoção da IA no sistema judiciário, incluindo o uso de ferramentas como o ChatGPT na elaboração de documentos legais. Embora reconheça os avanços tecnológicos, Maranhão alertou para os perigos éticos e de transparência, especialmente no que diz respeito à responsabilização por documentos gerados por IA e ao risco de resumos automatizados omitirem informações importantes em processos jurídicos.

Ele defendeu uma regulamentação específica para a aquisição dessas ferramentas no âmbito judicial, visando maior controle e evitando o uso particular pelos magistrados. “Não podemos permitir que a ferramenta que subsidia a Justiça seja adquirida sem critérios claros, abrindo portas para usos indevidos e falta de responsabilização”, pondera.

Renata Mielli, jornalista e representante do CGI - Comitê Gestor da Internet no Brasil, trouxe uma perspectiva que ecoa o dilema da sociedade diante do rápido avanço do conhecimento. Segundo ela, há duas visões predominantes sobre a IA: a "apocalíptica", que enxerga a tecnologia com desconfiança e medo, e a "integrada", que a abraça como um potencial motor de progresso.

Regulação de riscos x Parâmetros Éticos

Renata Mielli, que acompanha a tramitação de projetos de lei sobre IA no Brasil, avalia que essas visões refletem uma dualidade, e complementa: “O desafio é construir um arcabouço legal que transite entre esses extremos, encontrando um ponto de equilíbrio, buscando conciliar a regulação de risco com parâmetros éticos, a garantia de direitos fundamentais e a promoção da inovação responsável."

No Brasil, o governo tenta criar regras para o uso da IA desde 2021. Depois de muita discussão e mudanças, surgiu o Projeto de Lei (PL) nº 2.338/2023, feito especialmente para debater o assunto no país. No final do ano passado, o Senado Federal aprovou uma versão final desse projeto, que seguiu para análise na Câmara dos Deputados.

O debate trouxe contribuições importantes sobre o caminho a ser percorrido para a regulação da IA no Brasil. Por ser complexo e multifacetado, ele exige a colaboração entre o poder público, a academia, o setor privado e a sociedade civil para construir um futuro em que a IA seja um vetor de desenvolvimento justo, transparente e representativo das ricas nuances brasileiras.

Sobre o DWIH - São Paulo

O Centro Alemão de Ciência e Inovação (DWIH) São Paulo foi inaugurado em 2012 para estreitar os laços entre a Alemanha e o Brasil nas áreas de ciência, pesquisa e inovação. O DWIH São Paulo promove a visibilidade das instituições alemãs dessas áreas no Brasil e fomenta a cooperação binacional, sobretudo por meio de eventos, estimulando o intercâmbio e a transferência de conhecimento, bem como reunindo pesquisadores e inovadores, entre outros atores do ecossistema de inovação.

Saiba mais em: https://www.dwih-saopaulo.org/pt/

Como certificar música e receber direito autoral na Cedro Rosa?