Agências governamentais aproveitam ferramentas de IA e grandes modelos de linguagem

A inteligência artificial (IA) e as tecnologias de aprendizagem automática estão a expandir-se para aplicações governamentais à medida que as agências começam a utilizar os poderosos recursos para cumprir as suas missões.

Embora grandes modelos de linguagem (LLMs) como ChatGPT, OpenAI e Meta possam ser valiosos, funcionários das agências disseram que não conseguem usar os modelos em escala devido a questões de segurança.

“Os modelos são tão grandes que trazê-los para dentro de nosso ambiente seguro provavelmente tem um custo proibitivo e também a empresa não nos deu acesso aos modelos em si”, disse o tenente-coronel Joseph Chapa, chefe de dados do Departamento da Força Aérea dos EUA. e Oficial de IA, durante o AI Summit da ATARC na quarta-feira.

Chapa disse que os grandes modelos de linguagem não são atualmente certificados para o nível de dados das agências, portanto, existem várias restrições em vigor.

“Tudo o que fazemos com os sistemas deve ser de nível completamente não classificado e não sensível”, disse Chapa.

Mas Chapa disse que a agência está esperançosa de que modelos menores de código aberto forneçam ferramentas seguras para dados confidenciais.

Entretanto, as agências também estão a trabalhar internamente para combater problemas de segurança e criar um ambiente seguro para os dados. No ano passado, por exemplo, a Guarda Costeira dos EUA criou um ramo de dados climáticos que se concentra na construção de novas infraestruturas para executar aplicações de IA e LLM.

“O que acho mais emocionante agora é que estamos um pouco atrasados ​​para o jogo. Mas também não tivemos que aprender todas as lições que os primeiros adotantes aprenderam”, disse Jonathan White, Chefe da Seção de Nuvem e Dados da Guarda Costeira, durante a cúpula.

White disse que os grandes modelos de linguagem são apenas uma fatia do bolo da IA ​​​​e que a agência está extremamente “curiosa pela IA” porque entende o quão engenhosa a tecnologia será.

“Com uma força de trabalho limitada, é extremamente difícil colocar as pessoas nos lugares certos o tempo todo, então temos muitas políticas, regulamentos, regras e tudo o mais que acompanha essas missões. Não seria ótimo se pudéssemos ter uma ferramenta que pudesse obter uma resposta à sua pergunta relacionada a essas políticas e regulamentações?” Branco explicou. “Se eles estão no meio de uma inspeção ou de um aviso [e] precisam fazer uma pergunta, não seria ótimo ter um assistente digital para revelar as informações de que precisam para conduzir essa inspeção.”

No entanto, os especialistas disseram que não podem confiar inteiramente na tecnologia porque deve haver um ser humano envolvido para evitar erros.

“Isso não é diferente de como conduzimos os negócios em geral. Quando criamos um novo projeto, precisamos ter revisores, quando você faz qualquer tipo de pesquisa, você tem revisores de pesquisa", disse David Na, líder das fundações AIML em nuvem da NASA durante a cúpula. “Precisamos de revisores para o conteúdo que você gera por esses grandes modelos de linguagem.”

À medida que as agências governamentais valorizam os grandes modelos linguísticos, Chapa disse que estão cientes de que os desafios podem persistir. “Sei que as pessoas estão usando esses modelos por conta própria – em algum momento haverá alguns deslizes ou vazamentos”, observou ele.

Mas Chapa disse que o melhor uso dos modelos de geração de texto é quando a informação básica já é conhecida, por isso é fácil validar os fatos.

“Será tentador para os analistas querer usar a ferramenta para obter insights sobre o mundo. E não estou dizendo que não deveríamos fazer isso. O que estou dizendo é que devemos reconhecer que, se quisermos usar essas ferramentas nessa capacidade, teremos que construir camadas institucionais de verificação de fatos além disso”, disse Chapa.

Apesar dos desafios que os grandes modelos de linguagem podem criar, os funcionários da agência disseram que estão entusiasmados com a experiência de pesquisa melhorada, a acessibilidade dos dados e as outras possibilidades que as ferramentas de IA irão proporcionar.