[AWS] Bedrock 개요!!

AWS Bedrock은 **Amazon Web Services(AWS)**가 제공하는 생성형 AI(Generative AI) 플랫폼으로, 다양한 **대형 언어 모델(LLM)**을 API 형태로 간단히 호출할 수 있도록 만든 서비스입니다. 개발자는 모델을 직접 학습시키거나 인프라를 운영할 필요 없이, AWS의 안정적인 인프라에서 다양한 파트너사의 고성능 AI 모델을 선택해서 사용할 수 있습니다.

---

1. AWS Bedrock 개요

AWS Bedrock은 서버리스(Serverless) 환경에서 생성형 AI 애플리케이션을 빠르게 구축할 수 있도록 지원합니다. 모델을 직접 훈련하거나 배포하지 않고도 다양한 인기 있는 AI 모델을 바로 API로 호출할 수 있습니다.

📌 주요 목적

• 생성형 AI 앱을 빠르게 개발

• LLM 인프라 운영 부담 최소화

• 다양한 모델을 비교·활용 가능

---

2. AWS Bedrock의 주요 특징

2-1. 다양한 모델 지원 (Foundation Models)

AWS Bedrock은 여러 유명 AI 회사들의 **사전 학습된 대형 언어 모델(Foundation Models, FMs)**을 제공합니다:

모델 제공사	모델 이름/설명
Anthropic	Claude 시리즈 (ex. Claude 3 Opus)
Meta	Llama 시리즈 (Llama 2, Llama 3 등)
Mistral AI	Mistral 7B, Mixtral 등
Amazon	Titan Text, Titan Embeddings 등
AI21 Labs	Jurassic-2 모델
Cohere	Command R+ 등
Stability AI	Stable Diffusion (이미지 생성용 모델)

장점: 여러 모델을 테스트하고, 목적에 맞는 모델을 유연하게 선택 가능.

---

2-2. 서버리스(Serverless) 기반

• 인프라 관리가 완전히 자동화되어 있음.

• 서버 배포/운영/스케일링 필요 없음.

• API 호출만으로 모델을 사용할 수 있음.

---

2-3. 안전성 및 개인정보 보호

• 모델 요청 및 응답은 VPC 엔드포인트 및 IAM 통제로 보호 가능.

• 데이터는 고객의 요청 목적에만 사용되고, 모델 훈련에 사용되지 않음.

• SageMaker Ground Truth, Guardrails for Bedrock 등을 통해 콘텐츠 필터링과 응답 조절 가능.

---

3. AWS Bedrock 활용 예시

3-1. 자연어 처리 (NLP)

• 챗봇, 문서 요약, 자동 번역, 질문 응답 시스템 등

3-2. 이미지 생성

• Stability AI의 Stable Diffusion을 통해 이미지 프롬프트 기반 생성 가능

3-3. 코드 생성 및 분석

• Claude, Titan, Mistral 등을 통해 코드 자동 생성이나 리뷰 가능

3-4. 맞춤형 생성형 AI 구축

• Amazon Titan Embeddings + 벡터DB + RAG 기법으로 기업 문서 기반 AI 비서 개발 가능

---

4. AWS Bedrock 아키텍처 구성 예시

plaintext

사용자 요청 → API Gateway → Lambda → AWS Bedrock (모델 호출) → 응답 반환

✳️ 또는 서버리스 챗봇 구성

plaintext

사용자 → 챗 인터페이스 → Bedrock (Claude 모델) + RAG + S3 (문서 저장소)
                           ↳ Amazon Kendra / Elasticsearch 연동 가능

---

5. AWS Bedrock 사용 절차

5-1. 서비스 활성화

• AWS 콘솔에서 Bedrock 서비스 사용 요청 필요 (일부 모델은 별도 신청 필요)

5-2. 모델 선택

• Amazon Titan, Claude, Mistral 등 원하는 모델 선택

5-3. API 호출

• AWS SDK, HTTP REST API 또는 LangChain, LangGraph 같은 프레임워크로 연결 가능

5-4. 인프라 연동 (선택사항)

• Amazon S3, Kendra, DynamoDB, SageMaker, Lambda 등 AWS 생태계와 통합 가능

---

6. AWS Bedrock 요금제

• 사용한 만큼 지불 (Pay-as-you-go)

• 모델별로 입력 토큰, 출력 토큰 단가 다름

• 예시:

  • Claude 3 Opus: $0.015/1K 입력 토큰, $0.03/1K 출력 토큰

  • Titan Text: 더 저렴한 단가

✅ 요금 상세: AWS Bedrock 요금 페이지

---

7. AWS Bedrock vs SageMaker vs OpenAI API

항목	AWS Bedrock	SageMaker	OpenAI API
모델 훈련	❌ (사전학습 모델 사용)	✅ (사용자 정의 모델 훈련 가능)	❌ (OpenAI가 모델 소유)
비용 구조	사용량 기반	인스턴스 기반 또는 사용량 기반	사용량 기반
커스터마이징	Prompt 또는 RAG	Full 훈련, Fine-tuning	Fine-tuning 제한적
모델 선택	다양한 파트너사 모델 사용 가능	사용자가 직접 선택 및 업로드 가능	GPT-4, GPT-3.5 등 제한적

8. AWS Bedrock 사용 예시 코드 (Python)

python

import boto3

client = boto3.client('bedrock-runtime')

response = client.invoke_model(
    modelId="anthropic.claude-3-opus-20240229-v1:0",
    body=b'{"prompt":"Hello, what is AWS Bedrock?", "max_tokens_to_sample":200}',
    contentType="application/json",
    accept="application/json"
)

print(response['body'].read().decode())

사용 전 boto3, aws-cli 설정 필요 (aws configure 등)

---

9. 마무리: AWS Bedrock의 미래성과 장점 요약

• AWS Bedrock은 다양한 생성형 AI 모델을 신속하게 비즈니스에 도입할 수 있는 강력한 수단입니다.

• 기존 AWS 인프라(S3, Lambda, SageMaker 등)와의 높은 통합성은 타 클라우드와 차별화되는 장점입니다.

• 모델 변경이 자유롭고, 목적에 맞는 최적 모델을 선택해 유연하게 애플리케이션을 확장할 수 있습니다.