Facebook veut aider les modèles d’IA à oublier avec Expire-Span

Facebook veut aider les modèles d'IA à oublier avec Expire-Span

Facebook veut aider les modèles d’intelligence artificielle à oublier.

La société a lancé un outil appelé Expire-Span, qui permet aux modèles d’IA d’oublier. Aujourd’hui, les modèles d’IA, notamment les réseaux neuronaux, mémorisent les informations et les données sans distinction. En oubliant, l’IA sera en mesure de retenir plus d’informations à l’échelle, car elle sera capable de mémoriser les éléments les plus critiques.

Selon Facebook, Expire-Span peut utiliser la mémoire plus efficacement. Expire-Span se souvient des éléments critiques, mais pas de tout.

publicité

Les informations ont leur date d’expiration

Expire-Span évalue chaque élément d’information d’un modèle et prédit ce qui sera le plus important à restituer. Les données d’apprentissage sont basées sur le contexte à mesure que le modèle apprend.

Dans un billet de blog, Facebook explique que le traitement des informations sans distinction peut fonctionner à petite échelle. Mais dès que les modèles traitent davantage de données, les coûts de calcul augmentent.

Expire-Span attribue également une date d’expiration aux informations. Lorsque cette date est dépassée, l’information disparaît du système d’IA. Les données plus pertinentes sont conservées plus longtemps, mais la date d’expiration permet aux systèmes d’IA de disposer de plus d’espace mémoire.

S’inspirer de la mémoire humaine

Outre les économies de calcul et de stockage, les processus Expire-Scan peuvent permettre d’optimiser les modèles dans le temps.

Selon Facebook, Expire-Scan s’inspire de la façon dont les humains conservent leurs souvenirs. La société note qu’Expire-Scan « a des implications passionnantes pour, un jour, atteindre un large éventail de capacités d’IA dures, semblables à celles de l’homme, qui ne seraient pas possibles autrement ».

Expire-Scan est encore en phase de recherche et se concentre sur les souvenirs d’expériences passées. Facebook indique qu’il étudiera comment incorporer davantage de souvenirs dans les réseaux neuronaux afin de mieux reproduire le cerveau humain.

Source : ZDNet.com

Leave a Reply

Your email address will not be published. Required fields are marked *