¿Sabía que puede ejecutar GPT-J 6B en Graphcore IPU en la nube? Tras la ahora infame nota filtrada de Google, recientemente ha habido una gran tormenta en el mundo de la IA en torno a modelos de lenguaje de código abierto más pequeños, como GPT-J, que son más baratos y rápidos de depurar, realizar y funcionar tan bien como modelos más grandes para muchas tareas lingüísticas.
Graphcore ofrece dos portátiles GPT-J preentrenados listos para probar hoy en las IPU en la nube de Paperspace para ajuste e inferencia:
Implicar texto en la IPU usando GPT-J – Optimización
Generación de texto en IPU usando GPT-J – Inferencia
Se tarda alrededor de 2 horas y 45 minutos en procesar el portátil de ajuste fino GPT-J en su totalidad en una plataforma de 16 IPU; esto variará, por supuesto, si desea traer sus propios datos para el ajuste, lo cual es bueno saber para calcular costos en Paperspace.
Si desea utilizar GPT-J en producción, comuníquese con Graphcore para conocer su precio especial o para probarlo mucho más rápido en un sistema de 64 IPU que llegará pronto a Paperspace.
¿Qué es GPT-J? Una alternativa poderosa y eficiente a los modelos de lenguaje grande (LLM) como GPT-3 y GPT-4 para muchas tareas de NLP. El ajuste de GPT-J le permite personalizar el modelo para aplicaciones específicas, utilizando un conjunto de datos relevante para el negocio.
En la presentación de video a continuación, la ingeniera de Graphcore, Sofia Liguori, demuestra el proceso de ajuste fino del GPT-J 6B en una computadora portátil Paperspace Gradient (alternativa de Google Colab), con tecnología de UIP de Graphcore. Ejecute Paperspace Gradient Notebook – Ajuste fino: Implicación de texto en IPU usando GPT-J. También puede usar GPT-J para la generación de texto (inferencia) en Paperspace. Ejecute Paperspace Gradient Notebook – Inferencia: generación de texto en IPU usando GPT-J. Lea más sobre los beneficios de GPT-J en el blog de la empresa Refinar GPT-J: una alternativa eficaz a GPT-4 para muchas tareas de PNL.
Regístrese para recibir el boletín gratuito insideBIGDATA.
Únase a nosotros en Twitter: https://twitter.com/InsideBigData1
Únase a nosotros en LinkedIn: https://www.linkedin.com/company/insidebigdata/
Únase a nosotros en Facebook: https://www.facebook.com/insideBIGDATANOW