Hoy, OpenAI lanzó fine-tuning (ajuste fino) para GPT-4o, ofreciendo a los desarrolladores la posibilidad de personalizar y optimizar el rendimiento del modelo de inteligencia artificial para casos de uso específicos.

Esta nueva herramienta promete mejorar la precisión y el rendimiento de las aplicaciones a un costo reducido, permitiendo a las organizaciones adaptar el modelo a sus necesidades particulares.

Disponibilidad y Detalles del Fine-Tuning

El fine-tuning de GPT-4o ya está disponible para todos los desarrolladores que utilizan planes pagos, proporcionando una plataforma flexible para personalizar la estructura y el tono de las respuestas del modelo, así como para seguir instrucciones complejas de dominios específicos.

OpenAI ha implementado una oferta limitada que permite a las organizaciones utilizar 1 millón de tokens de entrenamiento diarios de forma gratuita hasta el 23 de septiembre, lo que facilita el acceso inicial a esta tecnología.

Para comenzar, los desarrolladores pueden acceder al panel de control de fine-tuning y seleccionar la versión gpt-4o-2024-08-06 como base para su modelo personalizado. El costo del entrenamiento es de 25 dólares por cada millón de tokens, mientras que la inferencia tiene un precio de  3,75 dólares por millón de tokens de entrada y 15 dólares por millón de tokens de salida.

Además, OpenAI ha introducido el fine-tuning para GPT-4o mini, una versión más ligera del modelo, que también está disponible para todos los desarrolladores en planes pagos.

Esta opción ofrece 2 millones de tokens de entrenamiento diarios gratuitos hasta el 23 de septiembre, brindando una alternativa más accesible para la personalización de modelos en casos de uso más específicos o limitados.

Casos de Éxito en el Uso del Fine-Tuning

OpenAI ha trabajado estrechamente con algunos socios estratégicos para probar el fine-tuning de GPT-4o, obteniendo resultados notables en diferentes áreas. Un ejemplo destacado es Cosine, cuya herramienta Genie, un asistente de ingeniería de software impulsado por IA, ha logrado resultados de vanguardia en la evaluación SWE-bench.

Genie ha sido entrenado con ejemplos de ingenieros de software reales, lo que le permite identificar y resolver errores, construir características y refactorizar código con mayor precisión y eficiencia. Con un GPT-4o finamente ajustado, Genie alcanzó una puntuación de 43.8% en el benchmark Verified de SWE-bench, superando su anterior récord en un 30.08%.

Otro caso de éxito es el de Distyl, un socio de soluciones de IA para empresas Fortune 500, que logró el primer lugar en el benchmark BIRD-SQL, el principal estándar de evaluación de generación de SQL a partir de texto. El modelo ajustado de GPT-4o de Distyl obtuvo una precisión de ejecución del 71.83% en la clasificación, destacándose en tareas como la reformulación de consultas, la clasificación de intenciones, el razonamiento en cadena y la autocorrección.

Privacidad de Datos y Seguridad

OpenAI ha enfatizado que los modelos ajustados mediante fine-tuning permanecen completamente bajo el control del usuario, asegurando que todos los datos comerciales, incluyendo entradas y salidas, sean de propiedad exclusiva de la organización. Esto significa que los datos no se compartirán ni se utilizarán para entrenar otros modelos, garantizando así la privacidad y la seguridad de la información.

Además, la empresa ha implementado múltiples capas de mitigación de seguridad para prevenir el mal uso de los modelos ajustados. Estos incluyen evaluaciones de seguridad automatizadas y monitoreo continuo del uso, asegurando que las aplicaciones cumplan con las políticas de uso de OpenAI.

El lanzamiento del fine-tuning para GPT-4o representa un avance significativo en la personalización y optimización de modelos de inteligencia artificial, ofreciendo a los desarrolladores herramientas poderosas para mejorar el rendimiento de sus aplicaciones.

OpenAI ha expresado su entusiasmo por ver las innovaciones que los desarrolladores crearán utilizando el fine-tuning de GPT-4o y está abierta a brindar soporte adicional para aquellos interesados en explorar más opciones de personalización de modelos.