Qualquer ferramenta quando mal utilizada pode trazer malefícios graves para a instituição. O mesmo acontece para a Inteligência Artificial que quando mal aplicada tende a provocar reações contrárias das programadas de início. Por ser amplamente utilizada no setor judiciário, a sua incorporação deve seguir alguns padrões a fim de evitar complicações futuras.
Levantamos abaixo alguns casos de má utilização da tecnologia e os perigos vistos nestes incidentes, além dos cuidados que devem ser tomados previamente para que as instituições que implementam a IA não sofram com essas adversidades.
Não revisar a ferramenta após aplicação
Quando incluída na rotina dos operadores de direito, sejam eles juízes ou advogados, a Inteligência Artificial garante facilidades e permite a eles a realização de um trabalho mais rápido e assertivo. No entanto, além de ser necessário organizar e programar o sistema previamente, é importante que ele seja revisitado com frequência após liberação do uso.
Os perigos encontrados com a não revisão estão, principalmente, na descriminação que a ferramenta pode realizar (a partir do uso de reconhecimento facial, por exemplo) em relação a certos grupos dependendo da forma que programada inicialmente. Por não ser constantemente aprimorada, a IA também pode contribuir para deixar os dados mais abertos e menos seguros, cenário favorável para ciberataques.
Os cuidados a serem tomados nesse caso, portanto, seria a avaliação e revisão contínua da ferramenta como forma de aprimorar tanto a tecnologia como o que a espera esperada ao utilizá-la.
Não atrelar legislações que influenciam o uso
Como destacado anteriormente, ao trabalhar com informações pessoais é preciso ter cautela para evitar que esses dados sejam utilizados indevidamente. A Lei Geral de Proteção de Dados (LGPD), em vigor desde 2020, é um exemplo de legislação que entrega normas que reforçam a obrigatoriedade de proteger e dar mais privacidade a informações de titulares, o que impacta diretamente na organização e emprego da inovação em questão.
Outras legislações podem influenciar e serem necessárias para o uso da IA, e a falta de cumprimento pode levar a punições severas com geração de multas e processos às empresas.
O certo a ser feito é a pesquisa e entendimento aprofundado da ferramenta e de todas as leis que devem ser aplicadas juntamente com ela. Enquanto não existe um regulamento brasileiro da IA sua aplicação deve ser baseada nestes pontos já estabelecidos.
Depender somente da IA para atuação jurídica
Uma das formas mais conhecidas de má utilização está ligada com a implementação sem acompanhamento dos operadores de direito.
Recentemente, uma notícia trazida pela Academia Chinesa de Engenharia demonstrou que os Tribunais chineses já utilizam a inovação para diminuir o tempo de trabalho. No total foram reduzidos mais de um terço do trabalho feito pelo juiz e houve a economia de 300 bilhões de yuans (R$ 244 bilhões).
Estes benefícios, comuns de serem vistos após o uso da tecnologia, só são possíveis a partir da boa execução da ferramenta que obrigatoriamente depende da ação de um especialista da área. Ou seja, é preciso que o operador trabalhe em conjunto com a IA pois é ele que detém o conhecimento aprofundado da área jurídica. Ainda que seja aplicada em etapas mais complexas e decisivas, é preciso que o assunto passe sempre pelo olhar do profissional.
A Diana é uma Inteligência Artificial presente no mercado e pensada por profissionais da área para revolucionar o Direito. É utilizada nos mais variados serviços, entre eles: a gestão de testemunhas e a resolução de conflitos através de chatbot. Tire suas dúvidas sobre o uso solicitando uma demonstração através do site.