Conecte Kobold AI API con su aplicación

KoboldAI es una plataforma potente y fácil de usar para una variedad de experiencias de generación de texto basadas en IA. Kobold API se puede utilizar para ofrecer metadatos sobre esta API, y la opción de modelo se utiliza para proporcionar información sobre el modelo de generación de texto actual. world_info proporciona Endpoints para manejar la información del mundo en la interfaz gráfica de KoboldAI, entre otras cosas.

En este artículo, vamos a ver cómo empezar con las aplicaciones de Kobold AI API utilizando características como Info, Model, Story, Config, World Info, y otras configuraciones ajustables de AI.

Cómo empezar a utilizar la API de Kobold

Este tutorial no requiere ningún conocimiento técnico. Es realmente sencillo de configurar, y tendrás tu propia API de Kobold AI funcionando en cuestión de minutos.

Colab es una herramienta de investigación creada por Google basada en cuadernos Jupyter que puede utilizarse para desplegar modelos o scripts basados en Python o R. También recibirás una GPU Nvidia Tesla T4 de regalo. En Google Cloud, esta GPU cuesta aproximadamente 250 dólares. Ahora configuraremos Kobold AI en Google Colab.

Ir a la IA Kobold con enlace GPU.

Paso 1: Instala KoboldAI en Google Colab.

Si está interesado, puede visitar el artículo sobre Cómo instalar Kobold AI API: Una Guía Fácil Paso a Paso para una explicación más detallada del procedimiento de instalación.

Paso 2: Reproducir un archivo de audio para mantener la pestaña abierta. Si está realizando este proceso en un teléfono móvil, debe pulsar el botón de reproducción para generar un archivo de audio. Esto se debe a que el despliegue lleva su tiempo, y debes reproducir el audio para mantener la pestaña abierta en tu navegador. Comienza a reproducir el audio pulsando el icono de reproducción.

Paso 3: Ahora, en la siguiente sección, tienes que elegir el modelo deseado que más te convenga. El modelo por defecto, por ejemplo, es Nerys-V2-6 y la versión es oficial. Si deseas modificar la opción de la nueva IU en Kobold UI United, sólo tienes que hacer un cambio en la configuración. Si quieres cambiar el modelo y el estilo, puedes utilizar uno de los modelos dados.

Paso 4: Haga clic en el botón Reproducir para iniciar el despliegue. Espere a que el despliegue termine de instalar todos los controladores y paquetes necesarios para ejecutar la API de Kobold AI.

Paso 5: Cuando el despliegue se haya completado, obtendrá una salida similar a la siguiente. A continuación, se le dará una URL para probar su API Kobold AI en su navegador.

INIT    | Starting   | LUA bridge
INIT    | OK         | LUA bridge
INIT    | Starting   | LUA Scripts
INIT    | OK         | LUA Scripts
INIT    | OK         | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link: https://petersburg-source-shark-blade.trycloudflare.com

INFO    | modeling.inference_models.hf:set_input_parameters:191 - {'use_gpu': True, '0_Layers': 32, 'CPU_Layers': 0, 'Disk_Layers': 0, 'id': 'KoboldAI/OPT-6B-nerys-v2', 'model': 'KoboldAI/OPT-6B-nerys-v2', 'path': None, 'menu_path': ''}
INIT    | Starting   | Flask
INIT    | OK         | Flask
INIT    | Starting   | Webserver
INIT    | OK         | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 1: https://claimed-g-jokes-undertaken.trycloudflare.com
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 2: https://claimed-g-jokes-undertaken.trycloudflare.com/new_ui
MESSAGE | KoboldAI has finished loading and is available at the following link for KoboldAI Lite: https://claimed-g-jokes-undertaken.trycloudflare.com/lite
MESSAGE | KoboldAI has finished loading and is available at the following link for the API: https://claimed-g-jokes-undertaken.trycloudflare.com/api

A continuación, en la lista de enlaces, seleccione la API. Si copias la API en una nueva pestaña, estará disponible.

Explore la API de Kobold AI

Ya puedes explorar la API de Kobold AI y la información sobre sus características.

Las aplicaciones API de Kobold AI son:

• Información
• Modelo
• Historia
• Información mundial
• config

Información: Metadatos sobre esta API

En estas opciones de información, hay tres opciones para comprobar las versiones actual, más reciente y de lista de la API.

Comprobación de las versiones actuales de la API

1. En primer lugar, compruebe la versión actual de la API. Debe hacer clic en la opción GET.

2. A continuación, en la esquina derecha, haga clic en la opción Probar, seguida de la opción Ejecutar.

3. Tras el proceso de ejecución, mostrará los siguientes parámetros, respuesta, curl y URL solicitada. A continuación, la URL se copiará en una nueva pestaña para devolver la versión de la API que se esté utilizando en ese momento.

4. Devuelve la versión actual de la API.

Comprobación de las últimas versiones de la API

Se repetirán todos los pasos anteriores. Sin embargo, seleccione la opción GET para obtener la información de la última versión.

1. En primer lugar, compruebe la última versión de la API. Debe hacer clic en la opción Segundo GET.
2. A continuación, en la esquina derecha, haga clic en la opción Probar, seguida de la opción Ejecutar.
3. Tras el proceso de ejecución, mostrará los siguientes parámetros, respuesta, curl y URL solicitada. A continuación, la URL se copiará en una nueva pestaña para devolver la versión de la API que se está utilizando más recientemente.
4. Devuelve la última versión disponible de la API.

Comprobación de la lista de versiones disponibles de la API

Se repetirán todos los pasos anteriores. Sin embargo, seleccione la opción GET para obtener la lista de versiones de API disponibles ordenadas de forma ascendente.

1. En primer lugar, compruebe la lista de versiones de API disponibles. Debe hacer clic en la opción Tercer GET.
2. A continuación, en la esquina derecha, haga clic en la opción Probar, seguida de la opción Ejecutar.
3. Tras el proceso de ejecución, mostrará los siguientes parámetros, respuesta, curl y URL solicitada. A continuación, la URL se copiará en una nueva pestaña para devolver la lista de versiones de API disponibles.
4. Devuelve una lista de las versiones de API disponibles ordenadas de forma ascendente.

Generar: Generación de texto Punto final

• En primer lugar, para generar texto, debe hacer clic en la opción generar.

• A continuación, en la esquina derecha, haga clic en la opción Probar, seguida de la opción Ejecutar.

• Tras el proceso de ejecución, mostrará los siguientes parámetros, respuesta, curl y URL solicitada. A continuación, la URL se copiará en una nueva pestaña a El texto se genera en respuesta a un envío, la configuración del muestreador, el prompt suave y el número de secuencias de retorno.

Modelo: Modelo actual de generación de textos

• Se deben dar pasos previos para modelar la información sobre la generación de texto actual. Hay dos tipos en esta opción: GET y PUT.

• Get se utiliza para obtiene la cadena de modelo actual, que se presenta entre paréntesis en el título de la GUI Kobold AI, por ejemplo, "Kobold AI API Client (Kobold AI API/fairseq-dense-13B-Nerys-v2)" y lo utiliza. La opción PUT se utiliza para Cargar un modelo basado en su ID de modelo de Cara Abrazada, la ruta a una carpeta de modelos (relativa a la carpeta "models" de la carpeta raíz de la API de Kobold AI), o "Sólo lectura" para ningún modelo.

Historia: Puntos finales para gestionar la historia en GUI

• Los pasos anteriores deben seguirse para la Historia y los Puntos Finales para gestionar la historia en la GUI de KoboldAI. Esta opción incluye múltiples tipos, incluyendo GET, DELETE, POST y PUT.

• Cada uno tiene un propósito diferente, pero los pasos necesarios para obtener la URL solicitada deberían ser similares.

Información_del_mundo: Puntos finales para gestionar la información del mundo en la interfaz gráfica de KoboldAI

• Los pasos anteriores deben seguirse para world_info, que se utiliza en la GUI de KoboldAI para gestionar la información del mundo. Esta opción tiene varios tipos, incluyendo GET, DELETE, POST, y PUT. Cada una tiene un propósito diferente, pero los pasos para obtener la URL necesaria deberían ser similares.

Config: obtener/establecer varios valores de ajuste

Los pasos anteriores deben seguirse para config, que permite recuperar o establecer diversos valores de configuración. Esta opción tiene dos tipos, incluyendo GET y PUT.

• Cada uno tiene múltiples propósitos, que son recuperar y establecer el valor actual de ajuste de la nota del autor, el ajuste de la profundidad de la nota del autor a un valor especificado, el valor de ajuste de la plantilla, el valor de ajuste de los genes por acción, el valor de ajuste de la orden del muestreador, eliminar el nombre único actual, establecer el nombre del aviso suave, el ajuste de la plantilla, el ajuste del muestreo, el formato de entrada y el formato de salida. eliminar caracteres especiales, eliminar enlaces en blanco, el valor de ajuste del contenido máximo, el valor de ajuste de la memoria, etc.

Sin embargo, los métodos para obtener la URL especificada deben ser los mismos.

Lea también: También podría resultarte útil nuestra guía sobre Cómo usar Janitor AI API - Tu guía definitiva paso a paso

Conclusión

En conclusión, empezar a utilizar la API de Kobold AI es sencillo si sigues estos sencillos pasos. Creando una cuenta, obteniendo tu clave API, e integrándola en tu proyecto, puedes desbloquear el poder de las características de Kobold. Explora sus documentos para obtener más información y sacar el máximo provecho de esta poderosa herramienta.

No dude en compartir su opinión en la sección de comentarios.

Si quieres conocer otros artículos parecidos a Conecte Kobold AI API con su aplicación puedes visitar la categoría Herramientas IA.