Ao Jornal Opção, Daniel Bichuetti, co-CEO e CTO da Forlex, detalhou o funcionamento da nova ferramenta lançada em parceria com a OAB Nacional
OpenDetector será gratuita para ajudar advogados no uso seguro e ético de inteligência artificiais em documentos jurídicos | Foto: Yuri Pauletto/Divulgação
A Ordem dos Advogados do Brasil (OAB) lançou em parceria com a empresa Forlex uma ferramenta voltada para a proteção de sistemas de inteligência artificial usados na advocacia. O Open Detector foi desenvolvido para identificar ataques de prompt injection e jailbreak em documentos jurídicos, prática que pode comprometer o funcionamento de plataformas digitais. (Acesse o link: https://open.forlex.ai)
A iniciativa integra o Plano Nacional de Integração da Inteligência Artificial da Advocacia (PNIAA) e já está disponível gratuitamente no site open.forlex.ai. O sistema permite validar arquivos em PDF, DOCX e TXT antes de serem processados por IAs e deve receber novas funções nos próximos meses, incluindo a checagem de jurisprudências e a detecção de falsificação em vídeos.
Ao Jornal Opção, Daniel Bichuetti, co-CEO e CTO da Forlex, detalhou o funcionamento da nova ferramenta lançada em parceria com a OAB Nacional. O sistema foi desenvolvido para detectar ataques conhecidos como prompt injection e jailbreak, que podem comprometer a segurança de inteligências artificiais utilizadas por advogados.
“Ela não é, a grosso modo, uma IA. Ela é um detector de prompt injection, de jailbreak, que são aqueles casos em que você coloca um texto dentro de documentos tentando burlar a segurança de IAs”, explicou.
Segundo ele, a iniciativa faz parte do Plano Nacional de Integração da Inteligência Artificial da Advocacia, e esta é a primeira entrega dentro de um conjunto de etapas que incluem capacitação e modernização.
A ferramenta, chamada open.forlex.ai, pode ser acessada gratuitamente por advogados em todo o Brasil. “Ela foi desenvolvida sem custo nenhum para a OAB. Foi simplesmente uma parceria entre a minha empresa e a OAB Nacional. Nós entramos com toda a parte técnica, foi validado por eles, e agora os advogados vão poder acessar essa ferramenta de maneira gratuita”, afirmou.
Daniel disse que a preocupação surgiu porque os advogados frequentemente baixam decisões e jurisprudências em PDF ou de outros sites para utilizar em sistemas de IA. “Se esse arquivo estivesse com prompt injection ou um jailbreak? O jailbreak pode implicar em acessar os arquivos do escritório, pode implicar em fazer sua IA tomar a decisão errada”, alertou.
A plataforma permite anexar arquivos em PDF, DOCX ou TXT, além de copiar textos para validação. “Hoje ele valida a parte de segurança e, a partir da primeira semana de agosto, também vai falar se a jurisprudência que está ali é inválida ou não”, disse.
Ele acrescentou que o sistema identifica padrões como “texto branco em fundo branco, texto preto em fundo preto” e outras variações, com base em um dataset de milhares de tipos de ataque registrados mundialmente.
O Conselho Nacional de Justiça (CNJ) já havia publicado orientações sobre técnicas maliciosas, como o caso Galileu. “Dentro dessa lista, a ferramenta hoje cobre todas e expandiu para outras detectadas pelo mundo também”, explicou.
FONTE : JORNAL OPÇÃO
