 |
REUTERS/Kevin Lamarque Licenciamento de compra Direitos |
23 de maio (Reuters) - A equipe DOGE do bilionário Elon Musk está expandindo o uso de seu chatbot de inteligência artificial Grok no governo federal dos Estados Unidos para analisar dados, disseram três pessoas familiarizadas com o assunto, potencialmente violando leis de conflito de interesses e colocando em risco informações confidenciais de milhões de americanos.
Esse uso do Grok pode reforçar as preocupações entre os defensores da privacidade e outros de que a equipe do Departamento de Eficiência Governamental de Musk parece estar deixando de lado as proteções estabelecidas há muito tempo sobre o manuseio de dados confidenciais enquanto o presidente Donald Trump sacode a burocracia dos EUA.
Uma das três pessoas familiarizadas com o assunto, que tem conhecimento das atividades do DOGE, disse que a equipe de Musk estava usando uma versão personalizada do chatbot Grok. O objetivo aparente era que o DOGE filtrasse os dados com mais eficiência, disse essa pessoa. "Eles fazem perguntas, preparam relatórios, fazem análises de dados."
A segunda e a terceira pessoa disseram que a equipe do DOGE também disse aos funcionários do Departamento de Segurança Interna para usá-lo, embora o Grok não tivesse sido aprovado no departamento.
A Reuters não conseguiu determinar os dados específicos que foram inseridos na ferramenta de IA generativa ou como o sistema personalizado foi configurado. O Grok foi desenvolvido pela xAI, uma operação de tecnologia que Musk lançou em 2023 em sua plataforma de mídia social, X.
Se os dados fossem informações confidenciais ou confidenciais do governo, o acordo poderia violar as leis de segurança e privacidade, disseram cinco especialistas em tecnologia e ética governamental.
Também poderia dar ao CEO da Tesla e da SpaceX acesso a valiosos dados não públicos de contratação federal em agências com as quais ele faz negócios privados ou ser usado para ajudar a treinar o Grok, um processo no qual os modelos de IA analisam dados valiosos, disseram os especialistas. Musk também pode obter uma vantagem competitiva injusta sobre outros provedores de serviços de IA com o uso do Grok no governo federal, acrescentaram.
Musk, a Casa Branca e a xAI não responderam aos pedidos de comentários. Um porta-voz da Segurança Interna negou que o DOGE tenha pressionado a equipe do DHS a usar o Grok. "O DOGE não pressionou nenhum funcionário a usar ferramentas ou produtos específicos", disse o porta-voz, que não respondeu a mais perguntas. "O DOGE está aqui para encontrar e combater desperdícios, fraudes e abusos."
O xAI de Musk, um recém-chegado ao setor em comparação com os rivais OpenAI e Anthropic, diz em seu site que pode monitorar os usuários do Grok para "fins comerciais específicos". "O conhecimento da IA deve ser abrangente e o mais abrangente possível", diz o site.
Como parte do esforço declarado de Musk para eliminar o desperdício e a ineficiência do governo, o bilionário e sua equipe DOGE acessaram bancos de dados federais fortemente protegidos que armazenam informações pessoais de milhões de americanos. Especialistas disseram que os dados normalmente estão fora dos limites para todos, exceto um punhado de funcionários, devido ao risco de serem vendidos, perdidos, vazados, violar a privacidade dos americanos ou expor o país a ameaças à segurança.
Normalmente, o compartilhamento de dados dentro do governo federal requer autorização da agência e o envolvimento de especialistas do governo para garantir a conformidade com a privacidade, confidencialidade e outras leis.
A análise de dados federais confidenciais com o Grok marcaria uma mudança importante no trabalho do DOGE, uma equipe de engenheiros de software e outros ligados a Musk. Eles supervisionaram a demissão de milhares de funcionários federais, assumiram o controle de sistemas de dados confidenciais e procuraram desmantelar agências em nome do combate ao suposto desperdício, fraude e abuso.
"Dada a escala de dados que o DOGE acumulou e dadas as inúmeras preocupações de portar esses dados para um software como o Grok, isso para mim é uma ameaça à privacidade tão séria quanto você pode imaginar", disse Albert Fox Cahn, diretor executivo do Projeto de Supervisão de Tecnologia de Vigilância, uma organização sem fins lucrativos que defende a privacidade.
Suas preocupações incluem o risco de que os dados do governo vazem de volta para a xAI, uma empresa privada, e a falta de clareza sobre quem tem acesso a essa versão personalizada do Grok.
O acesso do DOGE a informações federais pode dar à Grok e à xAI uma vantagem sobre outros potenciais contratados de IA que procuram fornecer serviços governamentais, disse Cary Coglianese, especialista em regulamentações federais e ética da Universidade da Pensilvânia. "A empresa tem interesse financeiro em insistir que seu produto seja usado por funcionários federais", disse ele.
"APARÊNCIA DE EGOÍSMO"
Além de usar o Grok para sua própria análise de dados do governo, a equipe do DOGE disse aos funcionários do DHS nos últimos dois meses para usar o Grok, embora não tivesse sido aprovado para uso na agência em expansão, disseram a segunda e a terceira pessoa. O DHS supervisiona a segurança das fronteiras, a fiscalização da imigração, a segurança cibernética e outras funções sensíveis de segurança nacional.
Se os funcionários federais tiverem acesso oficial ao Grok para tal uso, o governo federal terá que pagar à organização de Musk pelo acesso, disseram as pessoas.
"Eles estavam pressionando para ser usado em todo o departamento", disse uma das pessoas.
A Reuters não pôde estabelecer de forma independente se e quanto o governo federal teria sido cobrado pelo uso do Grok. Os repórteres também não conseguiram determinar se os funcionários do DHS seguiram a diretriz da equipe do DOGE de usar o Grok ou ignoraram o pedido.
O DHS, sob a administração anterior de Biden, criou políticas no ano passado permitindo que sua equipe usasse plataformas específicas de IA, incluindo o ChatGPT da OpenAI, o chatbot Claude desenvolvido pela Anthropic e outra ferramenta de IA desenvolvida pela Grammarly. O DHS também criou um chatbot interno do DHS.
O objetivo era tornar o DHS uma das primeiras agências federais a adotar a tecnologia e usar IA generativa, que pode escrever relatórios de pesquisa e realizar outras tarefas complexas em resposta a solicitações. De acordo com a política, a equipe poderia usar os bots comerciais para dados não confidenciais e não confidenciais, enquanto o bot interno do DHS poderia ser alimentado com dados mais confidenciais, mostram os registros postados no site do DHS.
Em maio, funcionários do DHS fecharam abruptamente o acesso dos funcionários a todas as ferramentas comerciais de IA – incluindo o ChatGPT – depois que os funcionários foram suspeitos de usá-las indevidamente com dados confidenciais, disseram a segunda e a terceira fontes. Em vez disso, a equipe ainda pode usar a ferramenta interna de IA do DHS. A Reuters não conseguiu determinar se isso impediu o DOGE de promover o Grok no DHS.
O DHS não respondeu a perguntas sobre o assunto.
Musk, a pessoa mais rica do mundo, disse aos investidores no mês passado que reduziria seu tempo com o DOGE para um ou dois dias por semana a partir de maio. Como funcionário especial do governo, ele só pode servir por 130 dias. Não está claro quando esse mandato termina. Se ele reduzir suas horas para meio período, poderá estender seu mandato para além de maio. Ele disse, no entanto, que sua equipe DOGE continuará com seu trabalho enquanto ele encerra seu papel na Casa Branca.
Se Musk estivesse diretamente envolvido nas decisões de usar o Grok, isso poderia violar um estatuto criminal de conflito de interesses que proíbe funcionários - incluindo funcionários especiais do governo - de participar de assuntos que possam beneficiá-los financeiramente, disse Richard Painter, conselheiro de ética do ex-presidente republicano George W. Bush e professor da Universidade de Minnesota.
"Isso dá a impressão de que o DOGE está pressionando as agências a usar software para enriquecer Musk e xAI, e não para o benefício do povo americano", disse Painter. O estatuto raramente é processado, mas pode resultar em multas ou prisão.
Se os funcionários do DOGE estivessem pressionando o uso do Grok sem o envolvimento de Musk, por exemplo, para agradar o bilionário, isso seria eticamente problemático, mas não uma violação do estatuto de conflito de interesses, disse Painter. "Não podemos processá-lo, mas seria função da Casa Branca evitá-lo. Dá a aparência de egoísmo."
O esforço para usar o Grok coincide com um esforço maior do DOGE liderado por dois funcionários da equipe de Musk, Kyle Schutt e Edward Coristine, para usar a IA na burocracia federal, disseram duas outras pessoas familiarizadas com as operações do DOGE. Coristine, um jovem de 19 anos que usou o apelido online de "Big Balls", é um dos membros de maior destaque do DOGE.
Schutt e Coristine não responderam aos pedidos de comentários.
Os funcionários do DOGE tentaram obter acesso aos e-mails dos funcionários do DHS nos últimos meses e ordenaram que a equipe treinasse a IA para identificar comunicações sugerindo que um funcionário não é "leal" à agenda política de Trump, disseram as duas fontes. A Reuters não conseguiu estabelecer se o Grok foi usado para tal vigilância.
Nas últimas semanas, um grupo de cerca de uma dúzia de funcionários de uma agência do Departamento de Defesa foi informado por um supervisor que uma ferramenta algorítmica estava monitorando algumas de suas atividades no computador, de acordo com duas pessoas adicionais informadas sobre as conversas.
A Reuters também analisou duas trocas de mensagens de texto separadas por pessoas que estavam diretamente envolvidas nas conversas. As fontes pediram que a agência específica não fosse identificada por preocupação com uma possível retaliação. Eles não sabiam qual ferramenta estava sendo usada.
O uso da IA para identificar as crenças políticas pessoais dos funcionários pode violar as leis do serviço público destinadas a proteger os funcionários públicos de carreira da interferência política, disse Coglianese, especialista em regulamentos federais e ética da Universidade da Pensilvânia.
Em um comunicado à Reuters, o Departamento de Defesa disse que a equipe DOGE do departamento não esteve envolvida em nenhum monitoramento de rede nem o DOGE foi "direcionado" a usar ferramentas de IA, incluindo o Grok. "É importante notar que todos os computadores do governo estão inerentemente sujeitos a monitoramento como parte do contrato de usuário padrão", disse Kingsley Wilson, porta-voz do Pentágono.
O departamento não respondeu a perguntas de acompanhamento sobre se algum novo sistema de monitoramento havia sido implantado recentemente.
Por: REUTERS
Comentários
Postar um comentário