Firebase AI Logic का इस्तेमाल करके, Gemini Live API का इस्तेमाल शुरू करना


Gemini Live API की मदद से, Gemini मॉडल के साथ कम समय में रीयल-टाइम में ऑडियो और वीडियो इंटरैक्शन किया जा सकता है. यह मॉडल दोनों दिशाओं में काम करता है.

Live API और इससे जुड़े मॉडल, ऑडियो, वीडियो या टेक्स्ट की लगातार स्ट्रीम को प्रोसेस कर सकते हैं. इससे, इंसानों की तरह तुरंत जवाब दिया जा सकता है. साथ ही, लोगों को बातचीत का नैचुरल अनुभव मिलता है.

इस पेज पर, सबसे आम सुविधा यानी ऑडियो इनपुट और आउटपुट को स्ट्रीम करने की सुविधा का इस्तेमाल शुरू करने का तरीका बताया गया है. हालांकि, Live API में कई अलग-अलग सुविधाएं और कॉन्फ़िगरेशन के विकल्प उपलब्ध हैं.

Live API एक स्टेटफ़ुल एपीआई है. यह क्लाइंट और Gemini सर्वर के बीच सेशन शुरू करने के लिए, WebSocket कनेक्शन बनाता है. ज़्यादा जानकारी के लिए, Live API का रेफ़रंस दस्तावेज़ (Gemini Developer API | Vertex AI Gemini API) देखें.

कोड सैंपल पर जाएं

मददगार संसाधन देखें

  • Swift - जल्द ही उपलब्ध होगा! |Android - quickstart app |Web - quickstart app |Flutter - quickstart app |Unity - जल्द ही उपलब्ध होगा!

  • Gemini Live API को डिप्लॉय किए गए किसी ऐप्लिकेशन में आज़माएं. इसके लिए, Firebase कंसोल से ऐक्सेस किए जा सकने वाले Flutter AI Playground ऐप्लिकेशन को आज़माएं

शुरू करने से पहले

अगर आपने अब तक शुरुआती गाइड नहीं पढ़ी है, तो इसे पढ़ें. इसमें बताया गया है कि Firebase प्रोजेक्ट कैसे सेट अप करें, अपने ऐप्लिकेशन को Firebase से कैसे कनेक्ट करें, एसडीके कैसे जोड़ें, चुने गए Gemini API प्रोवाइडर के लिए बैकएंड सेवा को कैसे शुरू करें, और LiveModel इंस्टेंस कैसे बनाएं.

प्रॉम्प्ट और Live API Google AI Studio या Vertex AI Studio की मदद से प्रोटोटाइप बनाया जा सकता है.

इस सुविधा के साथ काम करने वाले मॉडल

Gemini 2.5 Flash Live मॉडल, नेटिव ऑडियो मॉडल होते हैं. ये Gemini Live API के साथ काम करते हैं. Gemini एपीआई सेवा देने वाली कंपनी के हिसाब से, मॉडल के नाम अलग-अलग हो सकते हैं. हालांकि, मॉडल के काम करने का तरीका और उसकी सुविधाएं एक जैसी होती हैं.

  • Gemini Developer API

    • gemini-2.5-flash-native-audio-preview-12-2025
    • gemini-2.5-flash-native-audio-preview-09-2025

    ये मॉडल, झलक देखने के लिए उपलब्ध हैं. हालांकि, ये Gemini Developer API के "मुफ़्त टियर" में उपलब्ध हैं.

  • Vertex AI Gemini API

    • gemini-live-2.5-flash-native-audio (दिसंबर 2025 में रिलीज़ किया गया)
    • gemini-live-2.5-flash-preview-native-audio-09-2025

    Vertex AI Gemini API का इस्तेमाल करते समय, Live API मॉडल global लोकेशन में नहीं इस्तेमाल किए जा सकते.

ऑडियो इनपुट और आउटपुट स्ट्रीम करना

इस पेज पर, सेवा देने वाली कंपनी के हिसाब से कॉन्टेंट और कोड देखने के लिए, Gemini API पर क्लिक करें.

यहां दिए गए उदाहरण में, स्ट्रीम किए गए ऑडियो इनपुट भेजने और स्ट्रीम किए गए ऑडियो आउटपुट पाने के लिए, बुनियादी तौर पर लागू करने का तरीका दिखाया गया है.

Live API के लिए अन्य विकल्पों और सुविधाओं के बारे में जानने के लिए, इस पेज पर "और क्या-क्या किया जा सकता है?" सेक्शन देखें.

Swift

Live API का इस्तेमाल करने के लिए, LiveModel इंस्टेंस बनाएं और जवाब देने का तरीका को audio पर सेट करें.


import FirebaseAILogic

// Initialize the Gemini Developer API backend service
// Create a `liveModel` instance with a model that supports the Live API
let liveModel = FirebaseAI.firebaseAI(backend: .googleAI()).liveModel(
  modelName: "gemini-2.5-flash-native-audio-preview-12-2025",
  // Configure the model to respond with audio
  generationConfig: LiveGenerationConfig(
    responseModalities: [.audio]
  )
)

do {
  let session = try await liveModel.connect()

  // Load the audio file, or tap a microphone
  guard let audioFile = NSDataAsset(name: "audio.pcm") else {
    fatalError("Failed to load audio file")
  }

  // Provide the audio data
  await session.sendAudioRealtime(audioFile.data)

  var outputText = ""
  for try await message in session.responses {
    if case let .content(content) = message.payload {
      content.modelTurn?.parts.forEach { part in
        if let part = part as? InlineDataPart, part.mimeType.starts(with: "audio/pcm") {
          // Handle 16bit pcm audio data at 24khz
          playAudio(part.data)
        }
      }
      // Optional: if you don't require to send more requests.
      if content.isTurnComplete {
        await session.close()
      }
    }
  }
} catch {
  fatalError(error.localizedDescription)
}

Kotlin

Live API का इस्तेमाल करने के लिए, LiveModel इंस्टेंस बनाएं और जवाब देने का तरीका को AUDIO पर सेट करें.


// Initialize the Gemini Developer API backend service
// Create a `liveModel` instance with a model that supports the Live API
val liveModel = Firebase.ai(backend = GenerativeBackend.googleAI()).liveModel(
    modelName = "gemini-2.5-flash-native-audio-preview-12-2025",
    // Configure the model to respond with audio
    generationConfig = liveGenerationConfig {
        responseModality = ResponseModality.AUDIO
   }
)

val session = liveModel.connect()

// This is the recommended approach.
// However, you can create your own recorder and handle the stream.
session.startAudioConversation()

Java

Live API का इस्तेमाल करने के लिए, LiveModel इंस्टेंस बनाएं और जवाब देने का तरीका को AUDIO पर सेट करें.


ExecutorService executor = Executors.newFixedThreadPool(1);
// Initialize the Gemini Developer API backend service
// Create a `liveModel` instance with a model that supports the Live API
LiveGenerativeModel lm = FirebaseAI.getInstance(GenerativeBackend.googleAI()).liveModel(
        "gemini-2.5-flash-native-audio-preview-12-2025",
        // Configure the model to respond with audio
        new LiveGenerationConfig.Builder()
                .setResponseModality(ResponseModality.AUDIO)
                .build()
);
LiveModelFutures liveModel = LiveModelFutures.from(lm);

ListenableFuture<LiveSession> sessionFuture =  liveModel.connect();

Futures.addCallback(sessionFuture, new FutureCallback<LiveSession>() {
    @Override
    public void onSuccess(LiveSession ses) {
	 LiveSessionFutures session = LiveSessionFutures.from(ses);
        session.startAudioConversation();
    }
    @Override
    public void onFailure(Throwable t) {
        // Handle exceptions
    }
}, executor);

Web

Live API का इस्तेमाल करने के लिए, LiveGenerativeModel इंस्टेंस बनाएं और जवाब देने का तरीका को AUDIO पर सेट करें.


import { initializeApp } from "firebase/app";
import { getAI, getLiveGenerativeModel, GoogleAIBackend, ResponseModality } from "firebase/ai";

// TODO(developer) Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
  // ...
};

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Gemini Developer API backend service
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });

// Create a `LiveGenerativeModel` instance with a model that supports the Live API
const liveModel = getLiveGenerativeModel(ai, {
  model: "gemini-2.5-flash-native-audio-preview-12-2025",
  // Configure the model to respond with audio
  generationConfig: {
    responseModalities: [ResponseModality.AUDIO],
  },
});

const session = await liveModel.connect();

// Start the audio conversation
const audioConversationController = await startAudioConversation(session);

// ... Later, to stop the audio conversation
// await audioConversationController.stop()

Dart

Live API का इस्तेमाल करने के लिए, LiveGenerativeModel इंस्टेंस बनाएं और जवाब देने का तरीका को audio पर सेट करें.


import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
import 'package:your_audio_recorder_package/your_audio_recorder_package.dart';

late LiveModelSession _session;
final _audioRecorder = YourAudioRecorder();

await Firebase.initializeApp(
  options: DefaultFirebaseOptions.currentPlatform,
);

// Initialize the Gemini Developer API backend service
// Create a `liveGenerativeModel` instance with a model that supports the Live API
final liveModel = FirebaseAI.googleAI().liveGenerativeModel(
  model: 'gemini-2.5-flash-native-audio-preview-12-2025',
  // Configure the model to respond with audio
  liveGenerationConfig: LiveGenerationConfig(
    responseModalities: [ResponseModalities.audio],
  ),
);

_session = await liveModel.connect();

final audioRecordStream = _audioRecorder.startRecordingStream();
// Map the Uint8List stream to InlineDataPart stream
final mediaChunkStream = audioRecordStream.map((data) {
  return InlineDataPart('audio/pcm', data);
});
await _session.startMediaStream(mediaChunkStream);

// In a separate thread, receive the audio response from the model
await for (final message in _session.receive()) {
   // Process the received message
}

Unity

Live API का इस्तेमाल करने के लिए, LiveModel इंस्टेंस बनाएं और जवाब देने का तरीका को Audio पर सेट करें.


using Firebase;
using Firebase.AI;

async Task SendTextReceiveAudio() {
  // Initialize the Gemini Developer API backend service
  // Create a `LiveModel` instance with a model that supports the Live API
  var liveModel = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI()).GetLiveModel(
      modelName: "gemini-2.5-flash-native-audio-preview-12-2025",
      // Configure the model to respond with audio
      liveGenerationConfig: new LiveGenerationConfig(
          responseModalities: new[] { ResponseModality.Audio })
    );

  LiveSession session = await liveModel.ConnectAsync();

  // Start a coroutine to send audio from the Microphone
  var recordingCoroutine = StartCoroutine(SendAudio(session));

  // Start receiving the response
  await ReceiveAudio(session);
}

IEnumerator SendAudio(LiveSession liveSession) {
  string microphoneDeviceName = null;
  int recordingFrequency = 16000;
  int recordingBufferSeconds = 2;

  var recordingClip = Microphone.Start(microphoneDeviceName, true,
                                       recordingBufferSeconds, recordingFrequency);

  int lastSamplePosition = 0;
  while (true) {
    if (!Microphone.IsRecording(microphoneDeviceName)) {
      yield break;
    }

    int currentSamplePosition = Microphone.GetPosition(microphoneDeviceName);

    if (currentSamplePosition != lastSamplePosition) {
      // The Microphone uses a circular buffer, so we need to check if the
      // current position wrapped around to the beginning, and handle it
      // accordingly.
      int sampleCount;
      if (currentSamplePosition > lastSamplePosition) {
        sampleCount = currentSamplePosition - lastSamplePosition;
      } else {
        sampleCount = recordingClip.samples - lastSamplePosition + currentSamplePosition;
      }

      if (sampleCount > 0) {
        // Get the audio chunk
        float[] samples = new float[sampleCount];
        recordingClip.GetData(samples, lastSamplePosition);

        // Send the data, discarding the resulting Task to avoid the warning
        _ = liveSession.SendAudioAsync(samples);

        lastSamplePosition = currentSamplePosition;
      }
    }

    // Wait for a short delay before reading the next sample from the Microphone
    const float MicrophoneReadDelay = 0.5f;
    yield return new WaitForSeconds(MicrophoneReadDelay);
  }
}

Queue audioBuffer = new();

async Task ReceiveAudio(LiveSession liveSession) {
  int sampleRate = 24000;
  int channelCount = 1;

  // Create a looping AudioClip to fill with the received audio data
  int bufferSamples = (int)(sampleRate * channelCount);
  AudioClip clip = AudioClip.Create("StreamingPCM", bufferSamples, channelCount,
                                    sampleRate, true, OnAudioRead);

  // Attach the clip to an AudioSource and start playing it
  AudioSource audioSource = GetComponent();
  audioSource.clip = clip;
  audioSource.loop = true;
  audioSource.Play();

  // Start receiving the response
  await foreach (var message in liveSession.ReceiveAsync()) {
    // Process the received message
    foreach (float[] pcmData in message.AudioAsFloat) {
      lock (audioBuffer) {
        foreach (float sample in pcmData) {
          audioBuffer.Enqueue(sample);
        }
      }
    }
  }
}

// This method is called by the AudioClip to load audio data.
private void OnAudioRead(float[] data) {
  int samplesToProvide = data.Length;
  int samplesProvided = 0;

  lock(audioBuffer) {
    while (samplesProvided < samplesToProvide && audioBuffer.Count > 0) {
      data[samplesProvided] = audioBuffer.Dequeue();
      samplesProvided++;
    }
  }

  while (samplesProvided < samplesToProvide) {
    data[samplesProvided] = 0.0f;
    samplesProvided++;
  }
}


कीमत और टोकन की गिनती

आपने Live API की सेवा देने वाली जिस कंपनी को चुना है उसके दस्तावेज़ में, Live API मॉडल की कीमत के बारे में जानकारी दी गई है: Gemini Developer API | Vertex AI Gemini API.Gemini API

Gemini API की सेवा देने वाली कंपनी कोई भी हो, Live API के साथ Count Tokens API काम नहीं करता.


तुम और क्या कर सकती हो?

  • Live API की सुविधाओं के बारे में पूरी जानकारी पाएं. जैसे, अलग-अलग इनपुट मोड (ऑडियो, टेक्स्ट या वीडियो + ऑडियो) को स्ट्रीम करना.

  • कॉन्फ़िगरेशन के अलग-अलग विकल्पों का इस्तेमाल करके, इसे अपनी पसंद के मुताबिक बनाएं. जैसे, ट्रांसक्रिप्शन की सुविधा जोड़ना या जवाब देने के लिए आवाज़ सेट करना.

  • मॉडल को टूल का ऐक्सेस देकर, अपने काम को और बेहतर बनाएं. जैसे, फ़ंक्शन कॉलिंग और Google Search के साथ ग्राउंडिंग. Live API के साथ टूल इस्तेमाल करने से जुड़ा आधिकारिक दस्तावेज़ जल्द ही उपलब्ध होगा!

  • Live API का इस्तेमाल करने से जुड़ी सीमाओं और खास बातों के बारे में जानें. जैसे, सेशन की अवधि, अनुरोधों की संख्या सीमित करना, इस्तेमाल की जा सकने वाली भाषाएं वगैरह.