Vertex AI구글 클라우드의 AI 플랫폼입니다. Gemini 같은 모델 호출부터 평가, 튜닝, 배포까지 한곳에서 합니다.
생성형 AI글, 이미지, 코드처럼 새 내용을 만들어 내는 AI입니다. 미리 학습된 큰 모델을 불러 씁니다.
Gemini구글이 만든 멀티모달 모델 제품군입니다. Flash는 빠르고 저렴하고, Pro는 어려운 추론에 강합니다.
Model GardenVertex AI에서 쓸 수 있는 구글 모델, 파트너 모델, 공개 모델을 모아 둔 진열장입니다.
Vertex AI Studio콘솔에서 프롬프트를 바로 시험하고 설정을 바꿔 보는 화면입니다. 결과를 코드로 옮길 수도 있습니다.
토큰모델이 글을 읽고 쓰는 글자 조각입니다. 요금과 길이 제한의 단위입니다.
컨텍스트 창모델이 한 번에 펼쳐 볼 수 있는 책상 크기입니다. 입력과 대화 기록이 모두 여기에 올라갑니다.
시스템 지시역할, 말투, 규칙처럼 모든 대화 전에 모델이 읽는 업무 매뉴얼입니다.
온도(temperature)답의 창의성 다이얼입니다. 낮으면 일정한 답, 높으면 다양한 답이 나옵니다.
생각(thinking) 예산모델이 답하기 전에 속으로 고민하는 데 쓸 토큰 한도입니다. 생각 토큰은 출력 요금으로 계산됩니다.
구조화된 출력responseSchema 로 답의 JSON 모양을 정해 앱이 바로 쓸 수 있게 받는 방법입니다.
멀티모달글뿐 아니라 이미지, 오디오, 영상, PDF를 함께 입력으로 받는 능력입니다.
할루시네이션모델이 모르는 내용을 그럴듯하게 지어내는 것입니다. 그럴듯한 거짓말입니다.
그라운딩답하기 전에 검색 결과나 사내 자료 같은 출처를 확인하고 그 근거로 답하게 하는 것입니다.
RAG관련 문서를 찾아 프롬프트에 붙여 주고 답하게 하는 방식입니다. 오픈북 시험과 같습니다.
임베딩문장이나 이미지의 의미를 숫자 좌표(벡터)로 바꾼 것입니다. 뜻이 비슷하면 좌표도 가깝습니다.
벡터 검색질문 좌표와 가장 가까운 좌표를 빠르게 찾는 기술입니다. Vector Search, BigQuery, AlloyDB에서 할 수 있습니다.
함수 호출모델이 어떤 도구(함수)를 어떤 값으로 부를지 정해 알려 주는 기능입니다. 실행은 앱이 합니다.
에이전트와 ADK에이전트는 스스로 도구를 골라 쓰는 비서이고, ADK는 이런 에이전트를 코드로 만드는 구글의 오픈소스 개발 도구입니다.
파인튜닝예시 데이터로 모델을 추가 학습시키는 전문 교육입니다. 지식보다 형식과 말투를 맞출 때 알맞습니다.