Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
1
respuesta

[Duda] Google AI Studio(quizas Vertex AI) no permite ver lista de tokens como en OpenAI Playground

No logre replicar la app seleccion_modelo vista en OPenAI PLayground pero para Google AI Studio.
Vale decir que para consultar y ver diferencias de tokens por modelo en OPenAI es en local (sin costo), en Google AI Studio es por consulta API (lleva costa si estamos fuera de la capa gratuita).

código más similar posible:

import os
from google import genai
from dotenv import load_dotenv

# Cargar variables de entorno
load_dotenv()

# Configurar el cliente para Google AI Studio (API KEY estándar)
client = genai.Client(api_key=os.getenv("GOOGLE_API_KEY"))

# Modelo Gemini 2025 (puedes usar gemini-2.0-flash o gemini-1.5-pro)
modelo = "gemini-3-flash-preview"

def carga(nombre_archivo):
    try:
        with open(nombre_archivo, "r", encoding="utf-8") as archivo:
            return archivo.read()
    except IOError as e:
        print(f"Error: {e}")
        return ""

prompt_sistema = """
Identifique el perfil de compra de cada cliente
El formato de salida debe ser:
cliente - describe el perfil del cliente en 3 palabras
"""

prompt_usuario = carga("datos/lista-compra-300-clientes.csv")

# CORRECCIÓN: Usamos count_tokens en lugar de compute_tokens
# Este método sí es compatible con el cliente de AI Studio
respuesta_conteo = client.models.count_tokens(
    model=modelo,
    contents=prompt_sistema + prompt_usuario
)

# En AI Studio, solo recibimos el total, no la lista de IDs individualmente
numero_tokens = respuesta_conteo.total_tokens

print("modelo:", modelo)
# Explicación para el usuario
print("lista tokens: [La lista de IDs no está disponible en AI Studio SDK, solo en Vertex AI]")
print(f"Número total de tokens: {numero_tokens}")

Ingrese aquí la descripción de esta imagen para ayudar con la accesibilidad

motivos según Google navegador modo IA:

Ingrese aquí la descripción de esta imagen para ayudar con la accesibilidad

Ingrese aquí la descripción de esta imagen para ayudar con la accesibilidad

1 respuesta

Hola Esteban,

Aquí tienes algunos puntos que podrían ayudarte:

  1. Limitaciones de la API: Google AI Studio está diseñado para ser ligero y, por razones de seguridad, no expone el diccionario de tokens de la misma manera que OpenAI. Esto significa que no puedes obtener una lista detallada de tokens directamente a través de la API.

  2. Solución Alternativa: Si necesitas ver la lista de IDs por motivos de depuración o aprendizaje, podrías considerar usar la interfaz web de Google AI Studio para copiar el texto manualmente en su contador de tokens.

  3. Modelo Adecuado: Asegúrate de estar utilizando el modelo correcto para tus necesidades.

  4. Uso de count_tokens: Tu código ya utiliza count_tokens, que es compatible con el cliente de AI Studio y te proporciona el número total de tokens, aunque no la lista de IDs.

Espero que estas sugerencias te sean útiles para trabajar con Google AI Studio. ¡Buenos estudios!

Si este post te ayudó, por favor, marca como solucionado ✓. ¡Continúa con tus estudios!