Les biais algorithmiques de l’IA sont le talon de Palantir

Palantir Technologies, qui sait cultiver le secret depuis sa création en 2004 et ses premiers contrats passés avec les agences de renseignement américaines, a levé une partie du voile sur ses activités à l’occasion de la publication la semaine dernière d’un document précédant son introduction en bourse. La firme technologique américaine y détaille les rouages de son business plan et identifie les risques qu’elle encourt.

Parmi les principaux dangers identifiés, Palantir admet que l’usage de l’intelligence artificielle peut nuire à sa réputation et au bon fonctionnement de ses logiciels d’analyse. « L’IA est intégrée dans certaines de nos plateformes et constitue un élément important de notre activité. Comme de nombreuses technologies en développement, l’IA présente des risques et des défis qui pourraient affecter son développement, son adoption et son utilisation futur, et donc notre activité » déclare la firme. « Les ensembles de données peuvent être insuffisants, de mauvaise qualité ou contenir des informations biaisées. Des pratiques inappropriées ou controversées de la part de scientifiques, des ingénieurs et des utilisateurs finaux de nos systèmes pourraient nuire à l’acceptation des solutions d’IA. Si les recommandations, les prévisions ou les analyses que les applications d’IA aident à produire sont déficientes ou inexactes, nous pourrions subir un préjudice concurrentiel, une responsabilité légale potentielle et une atteinte à notre marque ou à  notre réputation » souligne-t-elle.

Palantir va jusqu’à reconnaître qu’au-delà d’une mauvaise manipulation humaine, l’IA peut aussi engendrer des erreurs d’ordre éthique. « Bien que nos pratiques commerciales soient conçues pour atténuer bon nombre de ces risques, si nous mettons en oeuvre ou proposons des solutions d’IA controversées en raison de leur impact réel ou supposé sur les droits de l’homme, la vie privée, l’emploi ou d’autres questions sociales, nous pouvons subir un préjudice en termes de marque ou de réputation » assure le groupe.

Cet aveu de faiblesse, Google et Microsoft en avaient déjà fait mention l’an passé, dans leurs documents destinés aux investisseurs, comme le révélait Wired. Si cette démarche précautionneuse est louable, l’algorithme de Palantir n’en demeure pas moins mystérieux, la société préférant ne pas trop en dire sur ses affaires internes.

Alors que cette technologie prend une place prépondérante dans nos sociétés, l’éthique de l’IA devient une problématique très actuelle. Les mises en garde récurrentes contre les biais algorithmes font naître de plus en plus d’initiatives publiques comme privées en faveur de plus de transparence.

« Nous risquons de ne jamais atteindre ou maintenir la rentabilité »

Palantir, qui a bâti son modèle d’affaires autour de deux logiciels – Gotham d’un côté, destiné aux analystes du renseignement et des forces de l’ordre, et Foundry de l’autre, pour les entreprises de secteurs très divers, dont l’énergie, les transports, les services financiers et la santé – assume très clairement sa position d’outsider dans une Silicon Valley dominée par le modèle des Gafam.

Dans une lettre publique, le CEO de Palantir, Alexander Karp, défend la mission de Palantir, taclant au passage l’économie des plateformes : « Depuis le début, nous avons à plusieurs reprises refusé des occasions de vendre, de collecter ou d’exploiter des données. D’autres entreprises technologiques, dont certaines des plus grandes du monde, ont bâti toute leur activité sur cette base. (…) Pour de nombreuses entreprises de consommation sur Internet, nos pensées et nos inclinations, nos comportements et nos habitudes de navigation sont le produit à vendre. Les slogans et le marketing de beaucoup des plus grandes entreprises technologiques californienne tentent d’occulter ce simple fait »,dit-il.

La société, qui compte 125 clients dans le monde, ne s’attend pas à être rentable de si tôt. « Nous risquons de ne jamais atteindre ou maintenir la rentabilité. » L’entreprise estime que le marché adressable pour ses logiciels dans les secteurs commerciaux et gouvernementaux s’élève à 119 milliards de dollars, ni plus ni moins. Le groupe américain, qui traite principalement avec les Etats-Unis et ses alliés en Europe, exclut d’emblée dans son business plan certains territoires, comme la Chine, bien conscient qu’il se coupe de revenus potentiels à l’avenir.

L’entreprise technologique a conscience aussi de certaines difficultés techniques propres à son activité. « Nos plateformes sont complexes et ont un long processus de mise en oeuvre, et toute défaillance de nos plateformes à satisfaire nos clients et à fonctionner comme souhaité pourrait nuire à notre activité, nos résultats d’exploitation et notre situation financières » évoque le document. « En outre, si nos clients n’utilisent pas nos plateformes correctement ou comme prévu, il peut en résulter des performances ou des résultats inadéquats. Il est également possible que nos plateformes soient intentionnellement mal utilisées ou abusées par les clients ou leurs employés ou par des tiers qui obtiennent l’accès et l’utilisation de nos plateformes » ajoute la firme.

La société rappelle par ailleurs que l’évolution des lois et des réglementations locales la rend vulnérable. Les contraintes réglementaires peuvent influencer sur ses performances : « Notre activité est soumise à des lois et réglementations américaines et non américaines complexes et en constante évolution concernant la vie privée, la protection et la sécurité des données, etc. Nombre de ces lois et réglementations sont sujettes à des changements et à une interprétation incertaine, et pourraient entraîner des réclamations, de changements dans nos pratiques commerciales, des sanctions pécuniaires, une augmentation des coûts d’exploitation ou nuire à notre business » observe la société.

La France, troisième marché mondial de Palantir

En 2019, ses pertes se montaient à hauteur de 80% de son chiffre d’affaires, soit à 579 millions de dollars. Une situation qui semble légèrement s’améliorer au premier semestre 2020, le montant de la perte nette atteignant 165,7 millions de dollars sur la période, contre 280,5 millions de dollars au premier semestre 2019. Palantir attribue ces signaux positifs à « l’augmentation des revenus et à une diminution significative du temps et du nombre d’ingénieurs logiciel nécessaires à l’installation et au déploiement de nos plateformes logicielles. »

En 2019, le chiffre d’affaires du groupe s’élevait à 742,6 millions de dollars, en hausse de 25% par rapport à l’année précédente. Au premier semestre 2020, la société a généré 481,2 millions de dollars de recettes, qui représente un taux de croissance de 49% par rapport au premier semestre 2019.

La France représente le troisième marché en 2019 pour Palantir, derrière les Etats-Unis et le Royaume-Uni, et concentre 10% du chiffre d’affaires du groupe américain. Discret sur ses contrats, on apprenait à la fin de l’année dernière que le fournisseur d’outils d’analyse de données pour les agences de renseignement et les entreprises avait resigné avec la DGSI.

La firme américaine, qui emploie près de 2 400 employés dans le monde, a également vendu à Airbus et Sanofi Foundry son logiciel Foundry qui permet de connecter ensemble tous les systèmes pour constituer un grand pot commun de données. Le partenariat passé avec Airbus en 2017 s’est notamment transformé en une plateforme pour l’industrie aéronautique, et relie aujourd’hui les données d’une centaine de compagnies aériennes, a précisé Palantir dans son document. En France, le groupe américain dispose de sa propre filiale implantée en 2016. Celle-ci est dirigée par Fabrice Brégier, l’ancien PDG d’Airbus.