오픈AI가 9일(현지시간) AI 시스템의 취약점을 탐지·수정하는 사이버보안 스타트업 프롬프트푸(Promptfoo) 인수 계획을 공식 발표했다. 인수 금액은 공개되지 않았으나 프롬프트푸 팀 전원이 오픈AI에 합류하는 것으로 알려졌다.

프롬프트푸는 공동 창업자 이안 웹스터(Ian Webster)와 마이클 다젤로(Michael D'Angelo)가 이끄는 AI 보안 플랫폼으로, 대규모언어모델(LLM) 애플리케이션의 평가 및 레드팀 테스트를 위한 오픈소스 CLI와 라이브러리를 제공한다. 포춘 500대 기업 중 4분의 1 이상이 해당 도구를 활용하고 있을 만큼 기업 환경에서 폭넓게 쓰인다.

오픈AI는 인수 후 프롬프트푸의 기술을 AI 에이전트 구축·운영 플랫폼인 '오픈AI 프런티어(Frontier)'에 직접 통합할 계획이다. 이를 통해 프롬프트 인젝션, 탈옥 시도, 데이터 유출, 도구 오남용, 정책 위반 에이전트 행동 등을 자동으로 탐지하는 보안 테스트 및 레드팀 기능이 프런티어 플랫폼에 기본 탑재된다. 오픈AI의 B2B 애플리케이션 CTO 스리니바스 나라야난은 이번 인수가 AI 시스템을 대규모로 평가하고 보안을 확보하는 데 필요한 깊은 엔지니어링 역량을 확보하는 계기라고 밝혔다.

프롬프트푸 CEO 이안 웹스터는 "AI 에이전트가 실제 데이터와 시스템에 더 깊숙이 연결될수록 이를 안전하게 검증하는 일은 더욱 어렵고 중요해진다"며 "오픈AI 합류로 이 작업을 가속화할 수 있게 됐다"고 말했다. 오픈AI는 인수 이후에도 기존 오픈소스 프로젝트 지원은 유지하면서 엔터프라이즈급 기능을 프런티어 플랫폼 안에서 확장해나가겠다는 방침이다.

이번 인수는 오픈AI가 최근 수개월간 이어온 스타트업 인수 행보의 연장선이다. 오픈AI는 지난 1월 헬스케어 테크 스타트업 토치(Torch)를 약 6000만 달러에 인수했고, 지난해 10월에는 맥용 AI 인터페이스 스카이(Sky)를 만든 소프트웨어 애플리케이션스를 인수한 바 있다.