제품 소식

ML Kit의 Prompt API: 맞춤 온디바이스 Gemini Nano 환경 잠금 해제

2분 읽기
3 작성자
Caren Chang, Chengji Yan, Penny Li

AI를 사용하면 콘텐츠를 사용자에게 적합한 형식으로 변환하는 맞춤형 앱 환경을 더 쉽게 만들 수 있습니다. 이전에는 개발자가 요약 및 이미지 설명과 같은 특정 사용 사례에 맞게 조정된 ML Kit GenAI API를 통해 Gemini Nano와 통합할 수 있었습니다.

오늘은 Android의 온디바이스 생성형 AI의 중요한 이정표입니다. ML Kit GenAI Prompt API의 알파 출시 를 발표합니다. 이 API를 사용하면 자연어 및 멀티모달 요청을 Gemini Nano로 전송하여 생성형 모델로 빌드할 때 더 많은 제어 및 유연성을 요구하는 수요를 해결할 수 있습니다.

카카오와 같은 파트너는 이미 Prompt API로 빌드하여 실제 영향을 미치는 고유한 환경을 만들고 있습니다. 오늘 최소한의 코드로 Prompt API의 강력한 기능을 실험해 볼 수 있습니다.

 

 

사전 빌드된 온디바이스 생성형 AI를 넘어 맞춤형 온디바이스 생성형 AI로 이동

Prompt API는 사전 빌드된 기능을 넘어 맞춤형 앱별 생성형 AI 사용 사례를 지원하므로 복잡한 데이터 변환으로 고유한 기능을 만들 수 있습니다. Prompt API는 Gemini Nano 온디바이스를 사용하여 데이터를 로컬로 처리하므로 오프라인 기능과 향상된 사용자 개인 정보 보호가 가능합니다.

Prompt API의 주요 사용 사례:

Prompt API를 사용하면 고도로 맞춤설정된 생성형 AI 사용 사례를 사용할 수 있습니다. 다음은 권장되는 몇 가지 예입니다.

  • 이미지 이해: 분류를 위해 사진 분석 (예: 소셜 미디어 게시물 초안 만들기 또는 '반려동물', '음식' 또는 '여행'과 같은 태그 식별)
  • 지능형 문서 스캔: 기존 ML 모델을 사용하여 영수증에서 텍스트를 추출한 다음 Prompt API로 각 항목을 분류합니다.
  • UI용 데이터 변환: 긴 형식의 콘텐츠를 분석하여 짧고 매력적인 알림 제목을 만듭니다.
  • 콘텐츠 프롬프트: 사용자의 테마 선호도를 기반으로 새 저널 항목의 주제를 제안합니다.
  • 콘텐츠 분석: 고객 리뷰를 긍정적, 중립적 또는 부정적 카테고리로 분류합니다.
  • 정보 추출: 이메일 스레드에서 예정된 이벤트에 관한 중요한 세부정보를 추출합니다.

구현
Prompt API를 사용하면 몇 줄의 코드로 맞춤 프롬프트를 만들고 선택적 생성 매개변수를 설정할 수 있습니다.

  Generation.getClient().generateContent(
   generateContentRequest(
       ImagePart(bitmapImage),
       TextPart("Categorize this image as one of the following: car, motorcycle, bike, scooter, other. Return only the category as the response."),
   ) {
       // Optional parameters
       temperature = 0.2f
       topK = 10
       candidateCount = 1
       maxOutputTokens = 10
   },
)

Prompt API 구현에 관한 자세한 예는 공식 문서 및 GitHub의 샘플을 참고하세요.

Gemini Nano, 성능, 프로토타입 제작

Prompt API는 현재 최신 버전의 Gemini Nano (nano-v3)를 실행하는 Pixel 10 기기 시리즈에서 가장 잘 작동합니다. 이 버전의 Gemini Nano는 I/O에서 오픈 모델 커뮤니티와 처음 공유한 모델인 Gemma 3n과 동일한 아키텍처를 기반으로 빌드되었습니다.

Gemma 3n과 nano-v3 간의 공유 기반을 통해 개발자는 기능을 더 쉽게 프로토타입 제작할 수 있습니다. Pixel 10 기기가 없는 경우 오늘 Gemma 3n을 로컬로 프로토타입 제작하여 프롬프트를 실험해 볼 수 있습니다.

생성형 AI API를 지원하는 기기의 전체 목록은 기기 지원 문서를 참고하세요.

자세히 알아보기

공식 문서() 및 GitHub의 샘플()의 안내에 따라 오늘 Android 앱에서 Prompt API 구현을 시작하세요.

작성자:

계속 읽기