RAG Studio는 기업이 단 몇 분 만에 실시간 엔터프라이즈 데이터를 사용해 RAG 챗봇을 구축할 수 있도록 지원한다. 코드가 필요 없는 이 솔루션은 기술 전문가가 아닌 일반 유저도 AI 애플리케이션에 쉽게 접근할 수 있도록 하고, 비즈니스팀과 IT 팀 간의 AI 개발 협업을 촉진하며, 더 많은 사용자가 AI 도구를 채택할 수 있도록 대중화하는 데 도움을 줄 것으로 기대된다. 온프레미스나 클라우드에 상관없이 안전하고 신뢰할 수 있는 실시간 데이터를 활용함으로써 기업은 최첨단 기술을 통해 AI의 가치를 실현할 수 있게 됐다.

챗봇이 범용 AI 활용 사례로 자리 잡으면서 오히려 기업들은 부정확한 응답으로 인한 지속적인 리스크를 안게 된 것으로 관측된다. 한 연구에 따르면 ChatGPT의 성공률은 특정 문제 유형을 처리하는 작업에 따라 0.66%에서 89%에 이르기까지 큰 폭의 차이를 보이는 것으로 확인된다. RAG는 검색 기반 시스템과 생성형 AI의 강점을 결합한 강력한 AI 패러다임이다. 이를 통해 정확도와 문맥 관련성이 향상되고 설명 가능성과 신뢰도가 높아지게 된다. RAG 지원 챗봇은 일반적인 정보에 의존하지 않고 기업별 실시간 데이터를 기반으로 질문에 답변함으로써 오해 발생률을 크게 줄여준다. 신뢰할 수 있는 엔터프라이즈 데이터로 이미 훈련된 LLM에게 비즈니스 컨텍스트를 제공함으로써 성공률을 높일 수 있게 된 것이다.

RAG Studio가 Cloudera 고객에게 제공하는 혜택은 다음과 같다.

· 엔터프라이즈 데이터의 가치 극대화: Cloudera 고객은 하이브리드 및 멀티클라우드 에코시스템에 걸쳐 정형 및 비정형 데이터가 모두 분산돼 있는 복잡하고 데이터가 풍부한 환경에서 운영을 하고 있다. RAG는 이러한 데이터를 AI 워크플로우에 통합해 동적 검색과 상황에 맞는 대응을 가능하게 함으로써 이러한 데이터를 효과적으로 활용할 수 있도록 지원한다.
· 확장 가능하고 비용 효율적인 AI 솔루션 구현: 기업에서 AI 솔루션을 확장하려면 높은 컴퓨팅 비용, 모델 재교육에 따른 복잡성, 강력한 데이터 거버넌스 보장 등의 문제가 수반되는 경우가 많다. RAG는 컴퓨팅 집약적인 생성 모델에 대한 의존도를 줄이고, Cloudera 플랫폼과 통합해 비용 효율적이고 안전한 AI 워크플로를 제공하며, 지속적인 모델 미세 조정을 제거함으로써 이러한 문제를 해결한다.
· 엔터프라이즈 사용 사례를 위한 설명 가능하고 신뢰할 수 있는 AI 추진: 특히 의료, 금융, 정부 등 규제가 엄격한 산업에 속한 기업들은 신뢰할 수 있는 AI 솔루션을 필요로 하고 있다. RAG는 생성된 결과물을 기업에서 승인한 데이터 소스에 직접 연결해 설명 가능성과 추적성을 내장함으로써 Cloudera의 AI 스택을 향상시킨다. 이를 통해 검증과 추적이 가능한 데이터에 기반한 AI 의사 결정을 보장하고 AI 기반 추천에 대한 투명한 추론을 제공한다.

Cloudera의 전략부문 최고책임자인 Abhas Ricky는 “신속한 고객 지원부터 정보에 기반한 제품 개발까지, RAG의 이점은 비즈니스 전반에 걸쳐 있다”고 강조했다. 그는 또 “코드가 필요 없는 RAG Studio는 신속한 프로토타이핑, 사전 구축된 통합, 운영 효율성을 제공한다. 기업들이 올바른 AI 전략 수립에 대한 부담을 많이 갖고 있는 상황에서 이 프로그램은 엔터프라이즈 AI를 가속화하기 위한 Cloudera가 기울이고 있는 노력의 일환인 것”이라고 설명했다.

Cloudera는 이번 프리뷰 출시의 일환으로 디자인 파트너를 초대해 데모에 참여하고 솔루션 개발에 대한 피드백을 제공할 예정이다. RAG 스튜디오에 참여하면 Cloudera 고객은 Cloudera와 직접 협력해 RAG 솔루션 개발 과정에서 비즈니스 및 기술적 가치를 가장 많이 제공하는 기능을 파악할 수 있는 기회를 얻게 된다.

RAG Studio 참여에 관심이 있는 기업은 Cloudera 팀에 문의하면 된다.