By admin 
OpenAI fortalece segurança de IA com aquisição da Promptfoo
A OpenAI anunciou nesta segunda-feira (9) a compra da Promptfoo, startup especializada em segurança para inteligência artificial (IA) fundada em 2024. Embora o valor da transação não tenha sido divulgado, a aquisição marca um passo importante na estratégia da empresa para garantir a robustez e a confiabilidade de seus agentes de IA corporativos.
Tecnologia de ponta contra vulnerabilidades em LLMs
A tecnologia da Promptfoo será integrada diretamente ao OpenAI Frontier, a plataforma da OpenAI dedicada à criação e operação de agentes de IA para o mercado corporativo. A ferramenta da startup é projetada para auxiliar empresas a identificar e corrigir falhas em modelos de linguagem de grande escala (LLMs) durante o próprio processo de desenvolvimento. O objetivo é mitigar riscos como injeções de prompt, jailbreaks, vazamentos de dados e o uso indevido de ferramentas pela IA, garantindo que os sistemas sejam seguros para uso em operações críticas.
Protegendo agentes autônomos no cenário corporativo
Com a crescente adoção de agentes autônomos, que prometem ganhos significativos de produtividade, surgem também novas preocupações com a segurança. Cibercriminosos buscam explorar essas novas tecnologias para acessar dados sensíveis e manipular sistemas. A OpenAI, ao incorporar os testes de segurança automatizados e recursos de simulação de invasão (red-teaming) da Promptfoo, demonstra seu compromisso em oferecer soluções seguras para o ambiente corporativo. As ferramentas de segurança e avaliação também serão incorporadas aos fluxos de trabalho dos desenvolvedores, facilitando a rastreabilidade e a adequação a normas de conformidade e governança.
Expansão e expertise para o ecossistema de IA
Srinivas Narayanan, CTO de Aplicações B2B da OpenAI, destacou a expertise em engenharia da Promptfoo para testar sistemas em larga escala empresarial. Fundada por Ian Webster e Michael D’Angelo, a startup já conta com a adoção de mais de 25% das empresas da lista Fortune 500. Ian Webster expressou otimismo com a união, afirmando que permitirá acelerar o trabalho de segurança e governança para as equipes que desenvolvem essas ferramentas. A OpenAI também confirmou que o projeto de código aberto da Promptfoo continuará a ser desenvolvido. Esta aquisição se soma a outras iniciativas recentes da OpenAI, como a contratação de Peter Steinberger, criador do OpenClaw, reforçando a estratégia de expansão e atração de talentos no setor de IA.
Fonte: canaltech.com.br