Dans un monde où l’IA transforme notre quotidien, Apple utilise des données fictives pour entraîner ses modèles. Cette approche, loin d’être étonnante, soulève des questions éthiques et techniques. Découvrez comment cette stratégie pourrait redéfinir le développement technologique et renforcer la confidentialité des utilisateurs tout en propulsant l’innovation.

L’utilisation de données synthétiques par Apple pour entraîner l’IA : une approche logique

Le week-end dernier, Mark Gurman et Drake Bennett de Bloomberg ont publié un article approfondi sur les problèmes rencontrés par Apple Intelligence. Cet article met en lumière des erreurs de longue date et un manque de compréhension du potentiel de l’intelligence artificielle (IA) aux plus hauts niveaux de l’entreprise. Plus important encore, il décrit les efforts qu’Apple déploie actuellement pour rattraper son retard, notamment en se tournant vers les données synthétiques.

Comme l’ont souligné Gurman et Bennett :
« Tout cela a amené les chercheurs d’Apple à dépendre davantage des ensembles de données qu’ils ont acquis de tiers et des données synthétiques, c’est-à-dire des données artificielles créées spécifiquement pour entraîner l’IA. »

De plus, grâce à une récente mise à jour logicielle, les iPhones contribuent à l’amélioration des données synthétiques d’Apple. Les données fictives sont évaluées et améliorées en les comparant au langage contenu dans les courriels des utilisateurs sur leur téléphone, fournissant ainsi des points de référence du monde réel pour l’entraînement de l’IA, sans pour autant intégrer d’informations utilisateur réelles dans les modèles.

Si cette idée semble étrange, il est essentiel de comprendre qu’Apple n’est pas la première entreprise à recourir aux données « fausses » générées par ordinateur pour entraîner des modèles d’IA. Des entreprises comme OpenAI, Microsoft, et Meta ont toutes réussi à former des modèles en s’appuyant sur cette technique. Cependant, le rapport de Bloomberg a mis cette méthode sous les projecteurs, suscitant l’intérêt des passionnés d’Apple.

Qu’est-ce que les données synthétiques ?

Les données synthétiques se réfèrent à des informations générées par un algorithme (souvent un autre modèle d’IA) ou même manuellement, plutôt que recueillies à partir de données réelles. Leur création en interne permet aux ingénieurs de :

• Garantir une précision d’étiquetage parfaite.
• Ajuster les scénarios rares.
• Éviter d’inclure des informations personnellement identifiables ou des contenus protégés par des droits d’auteur.

Apple a illustré l’utilisation des données synthétiques dans un exemple concret sur son blog de recherche. En résumé, l’entreprise génère des milliers de courriels d’exemple (« Veux-tu jouer au tennis demain à 11h30 ? ») sur l’appareil, les compare à de vrais messages localement, et ne renvoie qu’un signal anonymisé concernant les échantillons synthétiques les plus pertinents.

Un changement de paradigme bénéfique

La raison pour laquelle de nombreux géants de l’IA se tournent vers les données synthétiques est claire : ils ont déjà épuisé la majorité des données disponibles dans le monde et ont donc besoin de plus. Cela a conduit à des investissements en recherche et des améliorations significatives des performances pour l’entraînement de l’IA grâce aux données synthétiques au cours des deux dernières années.

Dans le cas d’Apple, cela pourrait s’avérer parfait. L’entreprise était quelque peu en retard alors que le marché entier enfreignait des droits d’auteur de manière répétée. Lorsqu’Apple s’est enfin réveillée, elle est restée fidèle à ses convictions en matière de confidentialité. À ce moment-là, la génération de données synthétiques pour l’entraînement des modèles d’IA commençait à prendre de l’ampleur, et Apple a enfin décidé de s’y engager.

Les inquiétudes face à l’utilisation des données synthétiques

Une question qui se pose souvent est de savoir si l’utilisation de données synthétiques ne risque pas d’effondrer les modèles. En réalité, la réponse est non, à condition que cela soit fait correctement. Dans le passé, on pensait que l’ensemble d’Internet se transformerait en un contenu généré par l’IA, entraîné sur des données elles aussi générées par l’IA. Cependant, plusieurs études ont commencé à suggérer que l’utilisation partielle de données synthétiques soigneusement sélectionnées pourrait en fait améliorer les performances des modèles.

Microsoft, avec son modèle Phi-4, a prouvé cela en démontrant que son modèle, entraîné à 55 % sur des données synthétiques, surpassait des modèles plus grands sur des tâches de mathématiques et de raisonnement.

Avantages potentiels pour Apple

En formant ses modèles avec des données synthétiques, Apple pourrait bénéficier de plusieurs avantages. Cela pourrait accélérer le redémarrage de Siri, favoriser le support de plusieurs langues et régions, tout en nécessitant moins de GPU, ce qui est bénéfique car l’entreprise a décidé qu’elle n’en avait pas besoin pour l’IA, en raison de la taille de ses corpus de données.

Conclusion : des investissements prometteurs

Comme pour toute décision technologique, l’utilisation de données synthétiques comporte des compromis. C’est souvent plus coûteux et plus lent de rassembler des données synthétiques soigneusement élaborées que d’utiliser les alternatives « traditionnelles ». De plus, bien que l’utilisation d’un modèle d’IA pour générer des données synthétiques puisse théoriquement éviter l’inclusion de matériaux identifiables ou protégés dans l’ensemble de données, il existe toujours un risque que le modèle produise quelque chose de manière identique à des données d’entraînement « organiques ».

Malgré cela, l’investissement d’Apple dans les données synthétiques pour Apple Intelligence est une avancée positive. Pour plus d’informations sur ce sujet, vous pouvez consulter OpenAI.