OpenAI anunció mejoras en el API de Fine-Tuning y en la personalización/optimización de modelos de inteligencia artificial, ofreciendo a los desarrolladores herramientas avanzadas para mejorar la precisión, reducir la latencia y los costos, además de adaptar los modelos a necesidades específicas.

Las nuevas mejoras incluyen nuevas funcionalidades en la API de fine-tuning y la expansión del programa de modelos personalizados, diseñadas para potenciar las implementaciones de IA de los clientes con un amplio abanico de opciones.

Nuevas Características de la API de Fine-Tuning

Desde su lanzamiento en agosto de 2023, la API de fine-tuning para GPT-3.5 ha permitido a varios miles de organizaciones entrenar cientos de miles de modelos. El API de fine-tuning mejora la comprensión del contenido y amplía las capacidades de un modelo para tareas específicas, admitiendo un volumen mayor de ejemplos para obtener resultados de alta calidad, reduciendo costos y latencia.

Entre los ejemplos tenemos el de la plataforma global de empleos llamada Indeed, la cual utilizó esta tecnología para enviar recomendaciones personalizadas a los buscadores de empleo, logrando una mejora significativa en la eficiencia y escala de sus comunicaciones.

Las nuevas funcionalidades del API de fine-tuning incluyen:

• Creación de Checkpoints Basada en Epochs: Produce automáticamente un checkpoint de modelo fine-tuned completo por cada epoch de entrenamiento, reduciendo la necesidad de reentrenamientos.
• Comparative Playground: Una nueva interfaz de usuario para comparar la calidad y el rendimiento de modelos de manera lateral, facilitando la evaluación humana.
• Integración de Terceros: Iniciando con Weights and Biases, permite compartir datos de fine-tuning detalladamente con el resto del stack de desarrollo.
• Métricas de Validación Comprehensivas: Permite calcular métricas como pérdida y precisión sobre el conjunto de datos de validación completo, ofreciendo una visión más clara de la calidad del modelo.
• Configuración de Hiperparámetros: Los desarrolladores pueden configurar hiperparámetros desde el Dashboard, mejorando la accesibilidad y la eficiencia del proceso de fine-tuning.

Expansión del Programa de Modelos Personalizados

Fine-Tuning Asistido

La oferta de fine-tuning asistido surge de la colaboración con equipos técnicos para aplicar técnicas avanzadas y métodos de fine-tuning eficientes en parámetros a mayor escala. Es ideal para organizaciones que buscan optimizar sus flujos de trabajo de datos de entrenamiento y sistemas de evaluación para maximizar el rendimiento del modelo según su caso de uso específico.

Un ejemplo destacado es SK Telecom, que colaboró con OpenAI para personalizar un modelo que mejoró significativamente la calidad de la atención al cliente en el dominio de las telecomunicaciones, demostrando el poder de estas técnicas avanzadas.

Modelo Entrenado a Medida

Para necesidades aún más específicas, algunos clientes pueden requerir la construcción de un modelo desde cero, incorporando conocimientos únicos de su dominio o industria. Estos modelos se benefician de grandes cantidades de datos propietarios y técnicas de entrenamiento innovadoras para enseñar al modelo nuevos conocimientos o comportamientos complejos.

Harvey, una herramienta legal basada en IA para abogados, es un ejemplo de cómo la colaboración con OpenAI resultó en un modelo altamente especializado que supera significativamente en rendimiento a los modelos base en tareas legales específicas.

Futuro de la Personalización de Modelos

La personalización de modelos representa el futuro de la implementación de IA en las organizaciones, permitiendo un impacto más significativo y específico según el caso de uso.

Con estas nuevas herramientas y programas, OpenAI facilita a las organizaciones de todos los tamaños el desarrollo de modelos personalizados, asegurando resultados rápidos y efectivos. La colaboración continua y la iteración son claves para alcanzar el rendimiento óptimo del modelo.