AWS가 아마존 베드록(Amazon Bedrock)의 새로운 기능을 24일 발표했다. 커스텀 모델 가져오기(Custom Model Import), 모델 평가, 가드레일 포 아마존 베드록(Guardrails for Amazon Bedrock) 등이다. 이와 함께 AWS는 아마존 타이탄 텍스트 임베딩 V2(Amazon Titan Text Embeddings V2), 타이탄 이미지 제너레이터(Titan Image Generator), 코히어와 메타의 최신 모델을 지원한다고 밝혔다.
아마존 베드록은 생성형 AI 애플리케이션을 신속하게 구축하고 배포하는 데 필요한 기능, 엔터프라이즈급 보안과 더불어 AI21랩스(AI21 Labs), 앤트로픽(Anthropic), 코히어(Cohere), 메타(Meta), 미스트랄AI(Mistral AI), 스태빌리티AI(Stability AI), 아마존 등에서 제공하는 주요 파운데이션 모델에 대한 광범위한 액세스를 제공한다. AWS는 이번에 추가된 기능을 통해 고객이 아마존 베드록에서 자체 완전 관리형 모델을 실행하고, 사용 사례에 가장 적합한 모델을 쉽게 찾고, 생성형 AI 애플리케이션에 보호 기능(safeguard)을 더 쉽게 적용하고, 더 많은 모델 선택권을 얻게 됐다고 설명했다.
‘커스텀 모델 가져오기’ 기능은 기업이 자체 커스텀 모델을 아마존 베드록으로 가져와 운영 오버헤드를 줄이고 애플리케이션 개발을 가속화할 수 있도록 지원한다. 기업이 아마존 베드록에서 완전히 관리되는 API로 자체 커스텀 모델을 가져와 액세스할 수 있게 함으로써 생성형 AI 애플리케이션 구축 시 선택의 폭을 넓혔다.
고객은 클릭 몇 번으로 아마존 세이지메이커나 다른 도구에서 커스터마이징한 모델을 아마존 베드록에 추가할 수 있다. 자동화된 검증 프로세스를 거치고 나면 아마존 베드록의 다른 모델과 마찬가지로 커스텀 모델에 액세스해 현재 베드록이 제공하는 다양한 이점을 누릴 수 있다. 현재 프리뷰 버전으로 제공되고 있으며, 가장 인기 있는 오픈 모델 아키텍처인 플란-T5, 라마, 미스트랄 3가지를 지원한다. 향후 더 많은 아키텍처를 지원할 계획이다.
‘모델 평가’ 기능은 고객이 애플리케이션에 가장 적합한 모델을 평가, 비교, 그리고 선택할 수 있도록 지원한다. 기업이 아마존 베드록에서 모델을 분석하고 비교할 수 있는 가장 빠른 방법으로, 모델 평가에 소요되는 시간을 몇 주에서 몇 시간으로 단축하여 새로운 애플리케이션과 경험을 더 빠르게 시장에 출시할 수 있도록 지원한다고 AWS는 강조했다.
고객은 정확성이나 견고성 등 사전 정의된 평가 기준을 선택하고 자체 데이터 세트 또는 프롬프트 라이브러리를 업로드하거나 기본 제공되는 공개 리소스에서 선택하여 빠르게 시작할 수 있다. 주관적인 기준이나 세심한 판단이 필요한 콘텐츠의 경우, 간편하게 워크플로우에 평가자를 추가하여 관련성, 스타일, 브랜드 보이스 등 사용례별 메트릭에 따라 모델 응답을 평가할 수 있도록 지원한다. 설정 프로세스가 완료되면 아마존 베드록이 평가를 실행하고 보고서를 생성하며, 고객은 주요 기준에 따라 모델이 어떻게 수행되었는지 쉽게 이해하고 사용례에 가장 적합한 모델을 신속하게 선택할 수 있다.
‘가드레일 포 아마존 베드록’은 FM의 기본 기능에 업계 최고의 안전 보호 기능을 추가해 고객이 유해 콘텐츠를 최대 85%까지 차단할 수 있도록 지원한다. AWS 측은 현재 사용 가능한 다른 모델보다 뛰어난 성능을 제공한다고 주장했다. 아마존 베드록의 모든 LLM은 물론 미세 조정된 모델에서도 작동한다. 가드레일을 생성하려면 고객은 애플리케이션의 컨텍스트 내에서 거부된 주제에 대한 자연어 설명을 제공하기만 하면 된다. 또한 혐오 발언, 모욕, 성적인 언어, 자극적인 표현, 폭력 등의 영역을 필터링하는 임계값과 개인 및 민감한 정보, 욕설 또는 특정 차단 단어를 제거하는 필터를 구성할 수 있다.
또한 AWS에 따르면 아마존 베드록은 아마존 타이탄 텍스트 임베딩 V2(Amazon Titan Text Embeddings V2), 타이탄 이미지 제너레이터(Titan Image Generator), 코히어와 메타의 최신 모델을 지원한다.
아마존 베드록 전용으로 활용되는 아마존 타이탄 모델은 다양한 사용 사례를 위해 대규모의 다양한 데이터 세트를 AWS에서 생성하고 사전 학습하며, 책임감 있는 AI 사용을 위한 기본적인 지원을 제공한다. 현재 아마존 베드록은 아마존 타이탄 제품군을 지속적으로 확장해 고객에게 더 많은 선택권과 유연성을 제공하고 있다. RAG 사용 사례에 최적화된 아마존 타이탄 텍스트 임베딩 V2는 정보 검색, 질의응답 챗봇, 개인화된 추천과 같은 다양한 작업에 적합하다. AWS에 의하면 고객에게 유연한 임베딩을 제공해 전체 스토리지를 최대 4배까지 줄여 운영 비용을 크게 절감하는 동시에, RAG 사용 사례의 정확도를 97%로 유지하여 다른 주요 모델보다 높은 성능을 발휘할 수 있다.
정식 버전으로 사용 가능한 아마존 타이탄 이미지 제너레이터는 광고, 전자상거래, 미디어 및 엔터테인먼트와 같은 업계의 고객이 자연어 프롬프트를 사용해 저렴한 비용으로 스튜디오 품질의 이미지를 제작하거나 기존 이미지를 개선 및 편집할 수 있도록 지원한다. 또한 아마존 타이탄은 생성하는 모든 이미지에 보이지 않는 워터마크를 적용하여 AI가 생성한 이미지를 식별할 수 있도록 지원한다.
메타가 최근 출시한 라마 3 FM은 현재 아마존 베드록에서 사용할 수 있으며, 곧 코히어의 커맨드 R(Command R) 및 커맨드 R+(Command R+) 모델도 출시될 예정이다.
AWS AI 및 데이터 부문 부사장 스와미 시바수브라마니안은 “아마존 베드록은 그 어느 곳보다 빠르고 쉽게 실험에서 운영환경으로 전환할 수 있도록 지원하기 때문에 모든 규모와 산업군에 걸친 수만 개의 조직이 생성형 AI 전략의 기반으로 선택하면서 폭발적인 성장을 경험하고 있다. 이번 발표는 고객에게 가장 포괄적인 기능들과 업계 선도적인 모델 선택권을 제공하고자 하는 노력의 일환이며, 이를 통해 고객을 위한 빠른 혁신을 지속하고 대규모 생성형 AI 혁신을 더욱 대중화할 것”이라고 말했다. dl-ciokorea@foundryco.com
