Twitter: OpenAI ajoute des capacités de réglage fin de modèle à son API GPT-3

Twitter: OpenAI ajoute des capacités de réglage fin de modèle à son API GPT-3

Le modèle de langage naturel GPT-3 d’OpenAI est devenu plus rapide et moins coûteux à utiliser, grâce à une nouvelle fonctionnalité d’API qui intègre un réglage fin afin que les utilisateurs puissent personnaliser leurs modèles pour produire de meilleurs résultats à partir de leurs charges de travail.

En exploitant le réglage fin automatisé de l’API, les développeurs peuvent désormais créer des versions de GPT-3 adaptées à leurs applications d’entreprise. Les développeurs peuvent commencer à utiliser l’API personnalisée à l’aide d’une seule commande dans l’outil de ligne de commande OpenAI, selon la société indépendante de recherche et de déploiement d’IA. La version personnalisée commencera la formation, puis sera immédiatement disponible pour l’API.

« Vous pouvez utiliser un ensemble de données existant de pratiquement n’importe quelle forme et taille, ou ajouter progressivement des données en fonction des commentaires des utilisateurs », a déclaré OpenAI dans un article de blog sur l’annonce. « Avec le réglage fin, un client API a pu augmenter les sorties correctes de 83 % à 95 %. En ajoutant de nouvelles données de leur produit chaque semaine, un autre a réduit les taux d’erreur de 50 %.

La fonctionnalité API GPT-3 personnalisée, qui avait été testée en alpha avec les clients pour les charges de travail, y compris la génération de contenu, la classification et la synthèse de texte, a suscité des critiques positives de la part des utilisateurs qui citent des coûts de calcul inférieurs, une vitesse de formation plus rapide et des résultats différenciés, selon OpenAI .

« Les gens réclament des ajustements depuis un certain temps, car cela débloque essentiellement de nouvelles capacités qui n’étaient pas possibles avec les modèles de base GPT-3 », Rachel Lim, ingénieure en chef du projet d’ajustement de l’API et ingénieure sur les applications équipe d’OpenAI, a dit IA d’entreprise. « Si vous regardez les modèles antérieurs au GPT-3, de nombreux modèles ont dû être affinés avant d’être vraiment utiles. Alors maintenant, avec GPT-3, le premier de nombreux grands modèles de langage, c’était le premier du genre à être utile sans réglage fin. Mais imaginez si vous ajoutez une couche de réglage fin par-dessus, cela le rend tellement plus capable et capable de résoudre plus de cas d’utilisation.

Twitter: OpenAI ajoute des capacités de réglage fin de modèle à son API GPT-3

Rachel Lim d’OpenAI

Un réglage fin conduit à des résultats meilleurs et plus fiables, a déclaré Lim. « Cela fait une énorme différence entre une démo sympa que vous pouvez montrer sur et une application de qualité production où vous avez des utilisateurs payants qui attendent une certaine qualité et robustesse des résultats. Et donc, nous constatons que le réglage fin pousse souvent un produit au-delà de la ligne d’arrivée où il est capable de servir les choses de manière beaucoup plus fiable pour les cas d’utilisation spécifiques au client.

Le réglage fin utilise les données d’entraînement pour « orienter » un modèle, ou le peaufiner pour donner des « poids » déduits des informations, a déclaré Lim. Ces poids sont utilisés par le modèle pour faire des prédictions.

« Cela vous permet de diriger le modèle avant même de le donner [directions such as] « Anglais, allemand, anglais, allemand, anglais, allemand », a déclaré Lim. « Maintenant, il sait déjà que c’est un modèle qui est censé faire de l’anglais, de l’allemand, de l’anglais, de l’allemand, de l’anglais, de l’allemand. Pour cette raison, vous n’avez plus à lui donner quelques exemples (un petit nombre d’exemples). Vous pouvez simplement dire « anglais » et il sait que la prochaine chose est censée être « allemande », par exemple. »

Des capacités de réglage fin sont nécessaires car de nombreux utilisateurs ont besoin de résultats plus précis que ceux qui sont possibles en utilisant le modèle GPT-3 standard, a déclaré Lim.

« Beaucoup de gens ont construit des applications de qualité de production avec [the original GPT-3], mais pour certains utilisateurs, un taux de précision de 85 % contre un taux de précision de 95 % fait toute la différence pour savoir si vous pouvez amener les gens à payer pour votre produit », a-t-elle déclaré. « Cette augmentation de la fiabilité est vraiment la principale valeur que les gens retirent du réglage fin. »

D’autres avantages importants sont que les coûts d’utilisation sont inférieurs car il doit traiter moins de données pour atteindre ses résultats, et que puisque les données ont été fournies à l’avance au modèle personnalisé, moins de données seront nécessaires la prochaine fois car il reconnaît déjà les modèles personnalisés , dit Lim.

Twitter: OpenAI ajoute des capacités de réglage fin de modèle à son API GPT-3En novembre, OpenAI a annoncé que sa liste d’attente pour exécuter des charges de travail sur GPT-3 était supprimée, rendant ses capacités de modélisation d’IA immédiatement disponibles aux développeurs et aux entreprises pour travailler sur leurs problèmes de langage les plus difficiles.

OpenAI a lancé pour la première fois son puissant modèle de langage naturel GPT-3 en juin 2020 avec une capacité bêta limitée ainsi qu’une liste d’attente sur laquelle les développeurs pouvaient s’inscrire pour utiliser son infrastructure et ses capacités à l’avenir.

La version générale a ajouté des conditions pour empêcher l’utilisation de GPT-3 pour nuire à des personnes, ainsi que des conditions qui n’autorisent son utilisation que dans certains pays du monde. Cela signifie que les développeurs de certains pays, dont Cuba, l’Iran et la Russie, ne peuvent actuellement pas y accéder.

GPT-3 est un modèle de langage naturel massif qui s’exécute exclusivement sur Microsoft Azure. GPT-3, qui signifie Generative Pre-trained Transformer 3, est un modèle de langage autorégressif avec 175 milliards de paramètres, qui, selon OpenAI, est dix fois plus que tout autre modèle de langage non clairsemé.

La première version, GPT-1, est sortie en 2018, tandis que la deuxième version, GPT-2, a fait ses débuts en 2019. Avec la sortie de GPT-3 en 2020, le traitement du langage naturel (NLP) a gagné en puissance et en cas d’utilisation dans le entreprise que jamais.

La dernière API OpenAI, qui inclut GPT-3 et est désormais facilement disponible, contient une multitude d’améliorations de sécurité, y compris des modèles de la série Instruct qui adhèrent mieux aux instructions humaines, des points de terminaison spécialisés pour des réponses plus véridiques et un filtre de contenu gratuit pour aider les développeurs atténuent les abus accidentels.

Twitter: OpenAI ajoute des capacités de réglage fin de modèle à son API GPT-3Jusqu’à présent, GPT-3 est principalement destiné à la modélisation en anglais.

GPT-3 a suscité de plus en plus d’intérêt dans le monde de l’informatique d’entreprise au cours des dernières années.

Microsoft a accordé une licence exclusive à GPT-3 d’OpenAI en septembre 2020, prolongeant ainsi une relation existante entre les deux sociétés. Le contrat de licence couvre l’utilisation de GPT-3 pour tous les produits et services Microsoft. En mai, Microsoft a annoncé la première intégration de ce type de GPT-3 dans l’un de ses produits, son logiciel Microsoft Power Apps, qui vise à permettre aux employés de l’entreprise de créer plus facilement des applications sans code et à faible code.

L’accord de licence Microsoft n’était pas un accord exclusif. D’autres peuvent toujours utiliser le modèle GPT-3 via l’API d’OpenAI, selon OpenAI.

En mai, OpenAI a lancé un fonds de démarrage d’IA de 100 millions de dollars pour fournir de l’argent d’investissement aux startups qui conduisent des technologies d’IA intrigantes. Le fonds est destiné à aider quelques startups en démarrage dans des domaines où l’intelligence artificielle peut avoir un effet transformateur, notamment les soins de santé, le changement climatique, l’éducation et dans les domaines où les outils d’IA peuvent responsabiliser les gens en les aidant à être plus productifs en utilisant des assistants personnels et sémantiques. recherche, a indiqué la société.

Un large éventail d’entreprises se développent aujourd’hui avec GPT-3, notamment Disney, IBM, , Salesforce, Cisco et Intel, selon OpenAI.

#OpenAI #ajoute #des #capacités #réglage #fin #modèle #son #API #GPT3